Aunque la empresa dirigida por Sam Altman no reconoció la responsabilidad en el caso de Raine o incluso lo mencionó en el comunicado, comentó que su herramienta está entrenada para dirigir a las personas a buscar ayuda cuando expresan pensamientos suicidas.
Sin embargo, diversos casos han reportado que el chatbot tiene a ofrecer respuestas que van en contra de las medidas de seguridad que menciona la compañía si el usuario resulta muy insistente o mantiene ese tipo de conversaciones durante mucho tiempo.
En ese sentido, OpenAI comentó que ya trabajan en la actualización del modelo GPT-5, el cual se lanzó hace unas semanas, con el objetivo de que reduzca la intensidad de este tipo de pláticas, además de explorar cómo “conectar a las personas con terapeutas certificados antes de que los usuarios se encuentren en una situación crítica”.
Otras herramientas destacan la posibilidad de construir una red de profesionales con licencia donde los usuarios se puedan comunicar directamente por medio de ChatGPT, además de estudiar cómo conectar a las personas con sus seres más cercanos.
Respecto al uso que adolescentes le dan a ChatGPT, OpenAI también comentó que agregarán más herramientas con las cuales los padres tendrán más opciones para obtener información acerca de cómo sus hijos utilizan la plataforma.
Ayer, 44 fiscales generales de Estados Unidos enviaron una carta abierta a 11 empresas tecnológicas advirtiendo que “responderán por ello” en caso de dañar a niños por medio de sus productos.
“Sus innovaciones están cambiando el mundo y marcando el comienzo de una era de aceleración tecnológica que promete una prosperidad inimaginable para nuestros antepasados. Necesitamos que triunfen. Pero necesitamos que triunfen sin sacrificar el bienestar de nuestros niños en el proceso”, se lee en la carta.
Si bien señalaron que la IA representará beneficios para la población, los legisladores compararon el posible impacto de los chatbots de IA con los efectos nocivos que han tenido las plataformas de redes sociales, especialmente en la salud mental de los jóvenes.
“Serán responsables de sus decisiones. Las plataformas de redes sociales causaron daños significativos a niños en parte porque los organismos de control del gobierno no hicieron su trabajo con la suficiente rapidez. Lección aprendida (...) Si dañan a niños a sabiendas, responderán por ello”.
La misiva estuvo dirigida a Anthropic, Apple, ChaiAI, OpenAI, Character Technologies, Perplexity, Google, Replika, Luka Inc., xAI y Meta, que son las principales empresas estadounidenses que desarrollan este tipo de tecnologías.
