OpenAI presentó el martes "ChatGPT for Teens" ("ChatGPT para adolescentes"), una versión adaptada para menores de edad que incorpora controles parentales y funciones de seguridad reforzadas, en un momento en que las plataformas afrontan fuertes críticas por los riesgos asociados a los chatbots de inteligencia artificial.
La empresa emergente, valorada en 852.000 millones de dólares, afronta varias demandas que alegan que ChatGPT causó daños a menores, mientras se prepara para una oferta pública inicial que podría batir récords.
La nueva versión se activa automáticamente cuando se estima que un usuario es menor de 18 años o cuando este declara tener entre 13 y 17 años, dijo OpenAI en una publicación de su blog, con el objetivo de fomentar el pensamiento crítico y el apoyo en el mundo real para los adolescentes.
Este contenido se hizo gracias al apoyo de la comunidad de El Destape. Sumate. Sigamos haciendo historia.
A medida que los chatbots de IA adquieren un carácter más realista, las empresas han destacado su capacidad para actuar como confidentes y los usuarios han comenzado a recurrir a ellos en busca de apoyo emocional.
Sin embargo, los expertos advierten de que depender de sistemas automatizados para obtener orientación sobre salud mental entraña riesgos. Familias cuyos seres queridos murieron presuntamente después de interactuar con chatbots han criticado la falta de salvaguardas.
"Creemos que la IA debe ampliar las oportunidades educativas, por lo que diseñamos 'ChatGPT for Teens' con el fin de brindar apoyo fuera del aula, cuando la ayuda no siempre está disponible, y al mismo tiempo mantener a los adolescentes involucrados en un proceso de aprendizaje activo y colaborativo", dijo OpenAI.
La compañía señaló que "ChatGPT for Teens" incluye herramientas educativas como un modo de estudio para el aprendizaje guiado, recordatorios sobre el uso responsable de la ayuda con los deberes para evitar que los alumnos eludan las tareas, cuestionarios y visualizaciones didácticas para diversificar la práctica, así como horarios de estudio para reservar periodos específicos a esa actividad.
OpenAI añadió que reforzó los controles para permitir que los padres vinculen cuentas, establezcan "horas de silencio", gestionen determinadas configuraciones y reciban notificaciones en situaciones de alto riesgo, incluidas nuevas alertas relacionadas con trastornos alimentarios.
Con información de Reuters