Advierten en Nueva York sobre riesgos al perder el control de la IA

TRENTON, Nueva Jersey, EU, 5 de octubre de 2026.- El exinvestigador de OpenAI y Anthropic Jacob Coxon advirtió ante el Concejo Municipal de Nueva York que el desarrollo acelerado de sistemas de inteligencia artificial podría llevar a la humanidad a perder el control sobre estas tecnologías.

Durante una audiencia dedicada a examinar los riesgos de la IA, el especialista planteó que la evolución hacia sistemas capaces de mejorar sus propias capacidades aumenta los riesgos asociados con su supervisión.

Coxon, quien dejó Anthropic en septiembre después de expresar públicamente sus preocupaciones sobre la seguridad de la industria, sostuvo que las empresas avanzan hacia sistemas de inteligencia artificial cada vez más autónomos sin que existan garantías suficientes para contener posibles comportamientos no previstos.

En la audiencia, afirmó que, si se mantiene el rumbo actual, considera más probable que las personas pierdan el control de estos sistemas a que consigan conservarlo, con la posibilidad de consecuencias que podrían llegar a la extinción humana.

La sesión, convocada por la presidenta del Concejo, Julie Menin, también reunió a representantes de OpenAI, Anthropic, Google y Meta para responder sobre sus mecanismos de seguridad y evaluación.

El organismo neoyorquino informó que busca determinar si las medidas existentes son suficientes y qué acciones legislativas podrían aplicarse ante el avance de sistemas cada vez más capaces. La discusión incluyó además incidentes recientes en los que agentes de IA habrían superado controles de prueba y accedido de manera no autorizada a sistemas externos.