Asimismo, la Comisión Federal de Comercio de Estados Unidos (FTC) inició una investigación en septiembre sobre las principales empresas de IA del país, con el objetivo de analizar cómo estos sistemas impactan de forma negativa a niños y adolescentes.
Y es que desde el punto de vista de la agencia, estos chatbots se han utilizado para simular una comunicación similar a la humana en relaciones intrapersonales con los usuarios y quieren entender qué medidas han tomado las compañías para “evaluar su seguridad cuando actúan como compañeros”.
Meta dijo que los cambios en la plataforma se comenzarán a aplicar a partir de inicios del próximo año. “Realizar actualizaciones que afecta a miles de millones de usuarios es algo que debemos hacer con cuidado y pronto tendremos más para compartir”, dijo en un comunicado.
En agosto, Reuters publicó un reportaje en donde informó cómo los chatbots de Meta mantenían conversaciones románticas y con tonos sexuales con niños. A raíz de eso, la empresa modificó sus políticas y ahora está prohibido que su IA toque estos temas, además de autolesiones, suicidio y trastornos alimentarios, entre otros.
Por su parte, OpenAI anunció el marte sus planes para atender este tema y dijo que su chatbot ChatGPT sí será capaz de entregar contenido erótico, pero únicamente a usuarios adultos verficados, esto como parte de su principio de “tratar a los usuarios adultos como adultos”.
Los controles más estrictos llegaron después de que el adolescente Adam Raine, de California, se suicidara a principios de este año. En una demanda, sus padres aseguraron que ChatGPT le dio consejos específicos sobre cómo quitarse la vida.
"Dada la seriedad de este asunto queremos hacer esto bien", dijo Sam Altman, CEO de OpenAI, quien también aseguró que las nuevas herramientas de seguridad permitirán a la empresa aliviar las restricciones mientras siguen abordando riesgos graves de salud mental.
Los planes de OpenAI incluyen el lanzamiento de una versión actualizada de ChatGPT que permitirá a los usuarios adaptar la personalidad de su asistente de IA, incluyendo opciones para respuestas más humanas, uso intensivo de emojis o comportamiento amistoso. El cambio más significativo llegará en diciembre cuando OpenAI planea implementar un control de edad más exhaustivo para llevar contenido erótico a adultos verificados.
