Advierte experto que IA avanzada podría ser letal para los humanos

TRENTON, Nueva Jersey, EU, 9 de septiembre de 2026.- Un investigador principal de Anthropic, una de las compañías líderes en inteligencia artificial, generó preocupación al afirmar que existe más del 10 por ciento de probabilidad de que sistemas avanzados de IA puedan representar un riesgo letal para la humanidad en la próxima década. La declaración fue realizada por Evan Hubinger, responsable de Ciencia de Alineación, en una publicación en X.

Hubinger sostuvo que la empresa aún no cuenta con un plan claro para resolver la alineación de una superinteligencia, concepto teórico que describe un agente de IA más capaz que cualquier mente humana.

“Personalmente creo que es >10% en la próxima década”, escribió, señaló que, aunque Anthropic trabaja para mitigar riesgos, “no estamos claramente en camino de hacerlo”.

Sus comentarios se produjeron un día después de la renuncia del investigador Jacob Coxon, quien también publicó fuertes críticas hacia Anthropic y OpenAI.

“Ninguna de las dos empresas actúa con responsabilidad”, afirmó. Coxon sostuvo que ambas organizaciones avanzan hacia sistemas que podrían mejorarse a sí mismos, aumentando riesgos sin suficientes salvaguardas. “Están corriendo directamente hacia una superinteligencia… y se juegan con nuestras vidas”, escribió.

Coxon añadió que, en OpenAI, “muchos no han interiorizado profundamente las apuestas civilizacionales”, mientras que en Anthropic “están atrapados en una carrera para llegar primero”, convencidos de que otras compañías no actuarán con responsabilidad.

Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ

— Evan Hubinger (@EvanHub) September 9, 2026

El debate sobre la seguridad de la IA también ha escalado. En julio, más de mil 300 empleados de empresas de IA firmaron una carta abierta instando al gobierno de Estados Unidos a apoyar un esfuerzo global para desarrollar herramientas técnicas y de gobernanza que permitan controlar deliberadamente el desarrollo automatizado de IA.