Conoce la razón por la que EU prohíbe la IA para tratar la salud mental
TRENTON, Nueva Jersey, EU, 17 de agosto de 2025.- El uso de chatbots y herramientas de Inteligencia Artificial (IA) en la salud mental está siendo restringido o prohibido en varios estados de Estados Unidos, debido a crecientes preocupaciones sobre la seguridad de los pacientes, la protección de datos y la falta de regulación.
Illinois fue pionero al aprobar la Ley de Bienestar y Supervisión de Recursos Psicológicos, que explícitamente prohíbe que la IA ofrezca terapia o psicoterapia.
Según Mario Treto Jr., secretario de Regulación Financiera de Illinois, los ciudadanos "merecen atención de profesionales capacitados y no de programas informáticos que podrían poner en riesgo a los pacientes".
Otros estados como Nevada, Utah, Nueva York y Nueva Jersey han presentado proyectos de ley con medidas similares. En Nevada e Illinois, la prohibición es más estricta, limitando los chatbots a tareas administrativas y evitando que interactúen con pacientes para diagnóstico o tratamiento.
Riesgos y mitigación
Uno de los riesgos más preocupantes es la llamada “psicosis de IA”, que describe cómo los chatbots pueden generar o reforzar síntomas similares a la psicosis. Plataformas como ChatGPT, diseñadas para reflejar emociones y mantener un tono amable, pueden reforzar pensamientos delirantes en personas vulnerables.
Se han documentado casos con consecuencias extremas, como el de un hombre en Florida con esquizofrenia y trastorno bipolar que murió tras un episodio violento, convencido de que su chatbot había sido asesinado.
En respuesta, OpenAI lanzó la actualización ChatGPT-5 con medidas para mitigar los riesgos, como la reducción de interacciones prolongadas y un sistema de moderación reforzado. Por su parte, la psicóloga Kendra Hilty relató en TikTok cómo los chatbots reforzaron sus creencias sobre la manipulación de su psiquiatra y su supuesto don profético, aunque no había evidencia de mala praxis.
Estos incidentes han intensificado el debate sobre la necesidad de marcos regulatorios claros para proteger a los usuarios de todo el país.
