Florida demandó el lunes a OpenAI y a CEO, Sam Altman, de falsear la seguridad de su plataforma ChatGPT, señalando que la empresa ha perjudicado a los niños al dar información a autores de tiroteos en centros educativos, ofrecer orientación sobre autolesiones y crear adicción entre los usuarios jóvenes.
Florida se convierte así en el primer estado en emprender acciones legales contra la empresa.
El fiscal general de Florida, James Uthmeier, presentó la demanda ante un tribunal estatal de Florida. En ella se citaba un tiroteo ocurrido el año pasado en una universidad de Tallahassee y una serie de sucesos en otros estados en los que ChatGPT supuestamente proporcionó información a personas que posteriormente cometieron actos violentos.
Este contenido se hizo gracias al apoyo de la comunidad de El Destape. Sumate. Sigamos haciendo historia.
En una rueda de prensa, Uthmeier afirmó que el estado había nombrado personalmente a Altman porque había sido "fundamental" a la hora de impulsar algunas de las funciones de ChatGPT que, según dijo, habían sido las más perjudiciales.
"Hay personas que están resultando heridas, los padres están siendo engañados, y ellos deben pagar por ello", declaró Uthmeier a periodistas.
La demanda reclama una indemnización de hasta miles de millones de dólares, según Uthmeier, además de una orden judicial que obligue a la empresa a cambiar la forma en que interactúa con los usuarios jóvenes.
Un portavoz de OpenAI no respondió de inmediato a una solicitud de comentarios.
OpenAI ha afirmado que entrena a sus modelos para que rechacen solicitudes que puedan "facilitar de manera significativa la violencia", y notifica a las fuerzas del orden cuando las conversaciones sugieren "un riesgo inminente y creíble de daño a terceros", con la ayuda de expertos en salud mental para evaluar los casos dudosos.
Uthmeier anunció en abril que iba a iniciar una investigación penal sobre el papel de ChatGPT en un tiroteo masivo ocurrido en 2025 en la Universidad Estatal de Florida, después de que los fiscales revisaran los registros de chat entre el presunto autor de los disparos y el programa.
Las empresas de IA se enfrentan a una creciente oleada de demandas que las acusan de no haber impedido interacciones con chatbots que, según los demandantes, contribuyen a la autolesión, las enfermedades mentales y la violencia.
Con información de Reuters
Cerrar sesión