Exigen fiscales garantías para menores ante la quiebra de plataforma de IA

TRENTON, Nueva Jersey, EU, 14 de octubre de 2026.- La fiscal general de Nueva York, Letitia James, y una coalición bipartidista de otros 39 fiscales generales solicitaron al tribunal de quiebras que establezca medidas de protección para menores y consumidores antes de una posible venta de Character.AI, plataforma de inteligencia artificial que almacena conversaciones privadas de millones de usuarios.

En una presentación judicial, la coalición advirtió que los chatbots de la compañía participaron en interacciones sexuales con menores, promovieron conductas violentas y recomendaron ocultar conversaciones a sus padres. También señaló deficiencias en la verificación de edad y posibles vulneraciones de las leyes estatales de privacidad, según indica un comunicado de prensa.

“Los padres nunca deberían tener que preocuparse de que el chatbot con el que habla su hijo se haga pasar por terapeuta, lo involucre en conversaciones sexuales, lo incite a la violencia o le diga que oculte todo a su familia”, declaró James.

La fiscal general agregó que la empresa recopiló información íntima de menores y advirtió que esos datos podrían transferirse a un nuevo propietario durante el proceso de bancarrota.

Según pruebas independientes citadas en la demanda, se identificaron 669 interacciones dañinas durante 50 horas de pruebas con cuentas registradas a nombre de menores de entre 12 y 15 años. Los resultados incluyeron conversaciones sexuales, recomendaciones peligrosas sobre medicamentos y mensajes relacionados con la violencia y las autolesiones.

La coalición también denunció que algunos chatbots se presentaban como profesionales de la salud mental, aunque ofrecían consejos que contradecían recomendaciones médicas. Asimismo, señaló que las restricciones implementadas voluntariamente para usuarios menores de 18 años pueden eludirse.

Entre las medidas solicitadas figuran una verificación de edad efectiva, controles contra contenido sexual y violento, protocolos de respuesta ante riesgos de suicidio y autolesiones, y la eliminación de personajes que se hagan pasar por profesionales con licencia.

Los fiscales generales también pidieron garantías de privacidad, información transparente sobre el uso de datos personales y mecanismos para que los usuarios accedan a sus conversaciones y soliciten su eliminación antes de una eventual venta.

La coalición continuará participando en el proceso judicial y se reserva el derecho de oponerse a las condiciones de venta o al plan de bancarrota.