Grok, el chatbot de inteligencia artificial de la firma xAI de Elon Musk, afirmó el viernes que fallos en las medidas de seguridad generaron "imágenes de menores con escasa ropa" en la red social X y que se están introduciendo mejoras para evitarlo.
Las capturas de pantalla compartidas por los usuarios en X mostraron la pestaña de medios públicos de Grok llena de imágenes que, según los usuarios, fueron alteradas cuando subieron fotos y pidieron al bot que las interviniera.
"Hay casos aislados en los que los usuarios solicitaron y recibieron imágenes de IA que mostraban a menores con escasa ropa", dijo Grok en una publicación en X. "xAI tiene salvaguardas, pero hay mejoras en curso para bloquear tales solicitudes por completo".
Este contenido se hizo gracias al apoyo de la comunidad de El Destape. Sumate. Sigamos haciendo historia.
"Como se ha señalado, hemos identificado lapsos en las salvaguardas y los estamos arreglando con urgencia: el CSAM es ilegal y está prohibido", dijo Grok, refiriéndose a Material de Abuso Sexual Infantil por su acrónimo en inglés.
Grok no dio más detalles.
En otra respuesta a un usuario en X el jueves, Grok dijo que la mayoría de los casos podían evitarse mediante filtros avanzados y monitorización, aunque afirmó que "ningún sistema es 100% infalible", añadiendo que xAI está priorizando las mejoras y revisando los detalles compartidos por los usuarios.
Cuando Reuters se puso en contacto con xAI para pedirle un comentario sobre el asunto por correo electrónico, respondió con el mensaje "Los medios tradicionales mienten".
Con información de Reuters
Cerrar sesión