Pide Anthropic frenar avance de IA capaz de mejorarse sola

TRENTON, Nueva Jersey, EU, 5 de junio de 2026.- Desarrollar sistemas de inteligencia artificial capaces de mejorar sus propias capacidades sin intervención humana podría dejar de ser un escenario lejano. Ante esa posibilidad, Anthropic alertó sobre la necesidad de establecer mecanismos que permitan frenar o ralentizar el avance de estas tecnologías si llegaran a surgir riesgos que superen la capacidad de supervisión humana.

En una publicación firmada por Marina Favaro, directora del Anthropic Institute, y Jack Clark, la empresa señaló que la llamada “automejora recursiva completa” podría generar beneficios en campos como la ciencia y la atención sanitaria. No obstante, también alertó sobre la posibilidad de que los seres humanos pierdan capacidad de supervisión si los sistemas de IA llegan a diseñar y desarrollar por sí mismos a sus sucesores tecnológicos.

Además, Clark sostuvo en una entrevista que la industria necesita incorporar un “pedal de freno” para gestionar el avance de modelos cada vez más complejos.

El directivo afirmó que la verificación y el control del comportamiento de la IA representan uno de los principales desafíos para el sector y defendió la cooperación entre compañías como OpenAI, Anthropic y SpaceX para establecer mecanismos de seguridad, al considerar que existen precedentes históricos de colaboración tecnológica incluso en contextos de fuerte competencia internacional.