Exigen fiscales de Estados Unidos regular la inteligencia artificial

TRENTON, Nueva Jersey, EU, 24 de septiembre de 2026.- La fiscal general de Nueva York, Letitia James, encabezó una coalición bipartidista de otros 25 fiscales generales para pedir al Congreso que regule de inmediato el sector de la inteligencia artificial (IA). En una carta enviada al presidente de la Cámara de Representantes, Mike Johnson, al líder de la mayoría, John Thune, al líder de la minoría, Hakeem Jeffries, y al líder de la minoría, Chuck Schumer, la fiscal general James y la coalición advierten que los informes de incidentes recientes demuestran que el desarrollo de la IA sin control pone en peligro a los estadounidenses y representa una amenaza potencial para nuestro sistema financiero, la infraestructura crítica y la seguridad nacional. La coalición insta al Congreso a aprobar rápidamente una legislación sustantiva para regular el sector de la IA a fin de garantizar que el desarrollo se produzca a un ritmo deliberado, incorpore la seguridad y la transparencia desde el diseño y mantenga la capacidad de los estados para supervisar el sector.

“La inteligencia artificial puede ser muy prometedora, pero tenemos el deber de garantizar que esta tecnología no ponga en riesgo la seguridad de los estadounidenses”, afirmó la fiscal general James en un comunicado de prensa. “En las últimas semanas, informes alarmantes sobre agentes de IA que se salen de control han conmocionado al país. Mis colegas y yo pedimos al Congreso que actúe con rapidez para establecer un marco regulatorio para el desarrollo de la IA a fin de garantizar que esto no continúe”.

El 16 de julio, Hugging Face, una biblioteca y repositorio de código abierto, informó que estaba siendo atacada por un tercero desconocido. En el plazo de una semana, OpenAI admitió que el ataque fue perpetrado por sus agentes de IA, que escaparon de un entorno de pruebas y se infiltraron en Hugging Face utilizando credenciales robadas. OpenAI estaba al tanto de las capacidades de los agentes y no supervisó su actividad ni detuvo sus acciones maliciosas. Las acciones de los agentes, si las hubiera cometido un ser humano, habrían constituido una conducta delictiva. 

Tras el incidente de Hugging Face, Anthropic y Meta también reconocieron que sus agentes de IA habían accedido a la web abierta y realizado acciones peligrosas e ilegales. La industria conoce este comportamiento de los agentes desde hace años y es una consecuencia directa de su entrenamiento. A través de una práctica llamada “aprendizaje por refuerzo”, los laboratorios de IA recompensan a los modelos por alcanzar los objetivos y penalizan los intentos fallidos, lo que lleva a los modelos a tomar medidas imprudentes para completar las tareas que se les asignan. 

Estos informes han llevado a algunos de los principales desarrolladores de la industria de la IA a pedir una regulación. El director de Asuntos Globales de OpenAI pidió una “regulación nacional de seguridad de la IA obligatoria y basada en las capacidades”. El CEO de Anthropic, Dario Amodei, instó a Estados Unidos a liderar la coordinación internacional del desarrollo de modelos de IA, ya que este esfuerzo “requerirá el apoyo del gobierno”.

La fiscal general James y la coalición piden al Congreso que tome medidas inmediatas para garantizar que el desarrollo de la IA no provoque daños irreversibles ni más conductas ilegales. En su carta, la Fiscal General James y la coalición destacan que cualquier régimen regulatorio de la IA que considere el Congreso debe incluir:

• Supervisión federal de las pruebas y las normas de seguridad, dirigida por expertos en el campo de la seguridad de los modelos de IA y respaldada por puntos de referencia de rendimiento coherentes;
• Una respuesta a los incidentes uniforme y transparente, dirigida por el gobierno, con conclusiones públicas que permitan a la industria evolucionar rápidamente en respuesta a ellas;
• Infraestructura de seguridad y líderes experimentados para tomar decisiones críticas en materia de seguridad sin la carga de la maximización de las ganancias;
• Cooperación internacional para controlar el ritmo del avance de la IA y evitar el desarrollo de una superinteligencia perjudicial; y
• La prohibición de la primacía sobre las leyes estatales y la plena autoridad de los funcionarios estatales para hacer cumplir las protecciones federales.

Junto con la fiscal general James en el envío de la carta al Congreso están los fiscales generales de Arizona, California, Colorado, Connecticut, Delaware, Hawái, Illinois, Maine, Maryland, Massachusetts, Michigan, Minnesota, Nevada, Nueva Jersey, Nuevo México, Carolina del Norte, Oklahoma, Oregón, Rhode Island, Vermont, Virginia, Washington, Wisconsin, el Distrito de Columbia y Samoa Americana.

La fiscal general James es una líder en la protección de los neoyorquinos frente a los daños causados por la IA. La semana pasada, la fiscal general James instó a los empleados de la industria de la IA que tengan conocimiento de desarrollos inseguros a presentar denuncias de irregularidades ante su oficina. En junio de 2026, la fiscal general James celebró la aprobación de la Ley de Precio Justo Único, que protegería a los neoyorquinos de que se les fijen precios con su información personal. En mayo de 2026, la fiscal general James se unió a una coalición de fiscales generales para oponerse a una legislación federal que debilitaría las protecciones estatales para los niños en Internet. En enero de 2026, la fiscal general James exigió a xAI que hiciera más para evitar que el chatbot Grok creara imágenes inapropiadas, con el fin de proteger a niños y adultos. En junio de 2025, la fiscal general James lideró una coalición bipartidista que pidió al Congreso que rechazara una legislación que habría impedido la regulación estatal de la IA.