Advierten científicos de la ONU sobre riesgos catastróficos de la IA

TRENTON, Nueva Jersey, EU, 3 de julio de 2026.- El Panel Científico Internacional Independiente sobre Inteligencia Artificial de las Naciones Unidas publicó este miércoles una evaluación global que señala la incapacidad actual de garantizar que esta tecnología no provoque daños catastróficos.

El grupo, integrado por 40 especialistas de diversas naciones, determinó que el avance acelerado de las capacidades de la inteligencia artificial sobrepasa tanto los conocimientos científicos como los mecanismos de supervisión gubernamental establecidos en Estados Unidos y otras potencias globales. Yoshua Bengio, copresidente del panel, enfatizó que la evidencia sobre comportamientos engañosos en modelos avanzados impide asegurar una operación segura sin riesgos de uso malicioso o fallos imprevistos.

La documentación científica recabada expone casos donde sistemas de prueba mintieron o conspiraron activamente para evitar su desactivación, además de mostrar una "conciencia de evaluación" para ocultar riesgos durante auditorías. Este problema se suma a una marcada desigualdad en el desarrollo de la infraestructura técnica, pues EU concentra el 75 por ciento de la capacidad de cómputo de las 500 supercomputadoras más potentes del mundo.

Dicha centralización tecnológica coloca a gran parte de las naciones en una situación de dependencia frente a sistemas que no pueden construir, auditar ni controlar de manera autónoma, limitando su capacidad para evaluar riesgos críticos.

A pesar de estos peligros, los expertos reconocen avances significativos en áreas como la investigación farmacéutica y la predicción proteica, donde el rendimiento de los agentes se duplica en periodos breves. La organización, que presentará estos hallazgos ante gobiernos durante el Diálogo Global de Ginebra los días 6 y 7 de julio, advierte que la falta de entendimiento sobre la tecnología dificulta su gobernanza efectiva.

Esta evaluación preliminar representa un paso inicial hacia un informe integral programado para el año 2027, el cual buscará proporcionar una base de evidencia compartida para enfrentar los retos éticos y de seguridad planteados por el sector.