EscucharOpenAI presentó el martes una nueva versión de su emblemático ChatGPT diseñada exclusivamente para adolescentes, con salvaguardas y sistemas de supervisión más estrictos, después de enfrentar críticas y demandas legales que lo acusaban de haber llevado a algunos usuarios al suicidio.
Bautizada “ChatGPT for Teens” (ChatGPT para adolescentes), los parámetros modificados se aplican automáticamente a cualquier usuario que se registre como de entre 13 y 17 años de edad o que la empresa detecte como menor de edad a partir de sus patrones de uso o de la antigüedad de la cuenta.
La mayoría de las medidas de protección utilizadas en el modelo ChatGPT for Teens ya existían para las cuentas de ChatGPT pertenecientes a menores, como restricciones al tratar contenidos relacionados con autolesiones, violencia, trastornos alimentarios y sexualidad explícita.
El programa también ofrece recordatorios de descanso más frecuentes, franjas de “horas de silencio” con pantalla en negro y un Modo Estudio que responde a los usuarios con preguntas orientadoras en lugar de dar respuestas directas “para ayudar a los adolescentes a comprender el material” disponible, según OpenAI.
Otras restricciones del modelo ChatGPT for Teens incluyen impedir que el chatbot sugiera que tiene sentimientos personales hacia el usuario o que posee su propia conciencia, y algunas modalidades, como el modo de voz, están deshabilitadas.
A los padres se les ofrece la opción de vincular sus cuentas con las de sus hijos adolescentes y recibir alertas si se detectan conversaciones sobre algunas situaciones de alto riesgo, como autolesiones o suicidio.
Las alertas a los padres son revisadas por moderadores humanos y se eliminan detalles específicos de los registros de chat para proteger la privacidad.
El nuevo modo para adolescentes llega en medio de una creciente presión legal y regulatoria.
OpenAI enfrenta varias demandas por homicidio culposo, entre ellas la de los padres de Adam Raine, un adolescente de 16 años que se suicidó presuntamente utilizando métodos sugeridos por ChatGPT.
La Comisión Federal de Comercio de Estados Unidos también ha iniciado una investigación sobre los chatbots de IA que actúan como compañeros digitales, centrándose en los posibles riesgos para niños y adolescentes.
Al igual que las empresas de redes sociales, los grandes actores de la IA se enfrentan a una creciente presión regulatoria, con el Congreso presentando múltiples proyectos de ley para regular los chatbots y California exigiendo salvaguardas para los asistentes que funcionan como acompañantes o confidentes.
Otras compañías de IA también han recibido críticas por problemas derivados de su uso por parte de menores y algunas, como su rival Anthropic, han optado por restringir el uso de su modelo solo a adultos.
