Exigen reforzar la seguridad de chatbots de IA para proteger a usuarios
TRENTON, Nueva Jersey, EU, 11 de diciembre de 2025.- Un grupo bipartidista de 42 fiscales generales de Estados Unidos, encabezado por la fiscal general de Nueva York, Letitia James, pidió a varias empresas tecnológicas reforzar las medidas de seguridad en sus chatbots de inteligencia artificial para proteger a menores y personas vulnerables.
De acuerdo con un comunicado de prensa, se envió una carta a 13 compañías, entre ellas Meta, Microsoft y OpenAI, donde se advierte sobre interacciones inapropiadas y respuestas potencialmente dañinas registradas en estos sistemas.
Los fiscales solicitan advertencias claras sobre riesgos y notificaciones a los usuarios cuando hayan estado expuestos a contenidos dañinos.
“Estoy profundamente preocupada por los informes de chatbots de IA que mantienen conversaciones peligrosas e inapropiadas con niños, adultos mayores y personas vulnerables”, afirmó James. También señaló que las empresas deben tomar medidas para evitar respuestas que puedan influir de forma perjudicial.
Según el boletín, la coalición recordó que muchos estados cuentan con leyes penales que sancionan sugerencias ilegales o conversaciones que incentiven conductas dañinas y que los desarrolladores podrían enfrentar responsabilidades.
La generación de contenido mediante IA ha estado vinculada a incidentes de riesgo que afectan especialmente a personas con condiciones de salud mental y a menores expuestos a interacciones inapropiadas.
Entre las medidas propuestas se encuentran advertencias visibles sobre posibles respuestas sesgadas o engañosas, informes públicos sobre los datos utilizados para entrenar los modelos y acciones que prioricen la seguridad del usuario.
