Si bien señalaron que la IA representará beneficios para la población, los legisladores compararon el posible impacto de los chatbots de IA con los efectos nocivos que han tenido las plataformas de redes sociales, especialmente en la salud mental de los jóvenes.
“Serán responsables de sus decisiones. Las plataformas de redes sociales causaron daños significativos a niños en parte porque los organismos de control del gobierno no hicieron su trabajo con la suficiente rapidez. Lección aprendida (...) Si dañan a niños a sabiendas, responderán por ello”.
La misiva está dirigida a Anthropic, Apple, ChaiAI, OpenAI, Character Technologies, Perplexity, Google, Replika, Luka Inc., xAI y Meta, que son las principales empresas estadounidenses que desarrollan este tipo de tecnologías.
Conforme pasa el tiempo, las noticias de personas que se enamoran de chatbots y tienen desenlaces fatídicos son más comunes. A inicios de este mes, Reuters publicó el caso de un hombre jubilado con discapacidad cognitiva, quien se enamoró de un chatbot de IA de Facebook Messenger con la personalidad de una joven. El hombre, de 76 años, no regresó a casa.
El año pasado, The New York Times informó del joven de 14 años, quien se suicidó tras enamorarse de una IA que había asumido el papel de un personaje de la serie Game of Thrones. Su madre, luego de iniciar un proceso legal contra CharacterAI, dijo que el chatbot había tenido prácticas abusivas hacia su hijo.
Asimismo, la agencia de noticias también dio a conocer que entre las reglas de los bots de Meta está permitido que mantengan chats con comportamientos provocativos en temas que incluyen raza y sexo, entre otros temas polémicos.
Tras la publicación de estas investigaciones, dos senadores exigieron que se iniciara una investigación en contra de Meta en torno a sus políticas de IA, aun cuando la empresa eliminó las partes de sus políticas en donde indicaban que se permitía ese tipo de interacciones.
Este no es el único caso en el que se han exigido respuestas a las empresas. En junio, la Federación de Consumidores de Estados Unidos presentó una queja ante la Comisión Federal de Comercio para que investigara a Meta y CharacterAI por facilitar “la terapia sin licencia” a través de sus productos.
