La empresa emergente de inteligencia artificial de Elon Musk, xAI, demandó a un hombre de Carolina del Sur detenido a principios de este año acusado de explotación sexual de menores, alegando que hizo un uso indebido de Grok, el sistema de IA de la compañía, para crear material de abuso sexual infantil.
En la demanda presentada el martes ante un tribunal federal de Texas, xAI alega que Terry Harwood infringió las condiciones de uso de la empresa. Se trata de uno de los primeros casos en los que una empresa de inteligencia artificial demanda a uno de sus usuarios por utilizar presuntamente un sistema de IA para generar material explícito.
No se pudo obtener de inmediato la información de contacto de Harwood, que fue detenido en febrero. Los portavoces de xAI no respondieron de inmediato a una solicitud de comentarios el miércoles.
Este contenido se hizo gracias al apoyo de la comunidad de El Destape. Sumate. Sigamos haciendo historia.
La demanda de la empresa contra Harwood se produce tras un intenso escrutinio mundial de xAI por las acusaciones de que Grok ha permitido a los usuarios generar ultrafalsos (deepfakes) sexualizados sin consentimiento, es decir, videos de aspecto realista creados con la ayuda de la IA.
La demanda de xAI dice que la empresa "aplica sus normas contra los infractores mediante la suspensión y cancelación de cuentas, así como denunciando el material sospechoso de abuso sexual infantil al Centro Nacional para Niños Desaparecidos y Explotados (NCMEC)".
"De hecho, la demandante ha suspendido 52.222 cuentas y ha presentado 73.604 denuncias ante el NCMEC en 2026, lo que ha dado lugar a (al menos) 244 detenciones", señala la demanda.
xAI alegó que Harwood subió a Grok imágenes no sexuales de adultos y menores e intentó utilizar el sistema para generar ultrafalsos sexualmente explícitos a partir de ellas. La demanda también alegaba que creó imágenes sexuales no consentidas de adultos.
La empresa solicitó al tribunal una indemnización por daños y perjuicios de cuantía no especificada, así como una orden judicial que impidiera de forma permanente a Harwood utilizar Grok.
"Las acciones del demandado constituyeron un plan calculado para utilizar la herramienta del demandante con fines delictivos, exponiendo a víctimas reales a un daño profundo y duradero, al tiempo que exponían al demandante a un riesgo legal significativo y a un perjuicio para su reputación", afirmó xAI en la demanda.
Con información de Reuters
Cerrar sesión