El caso de la proliferación de imágenes sexuales no consensuadas generadas por Grok movilizó a gobiernos de todo el mundo, como India, Malasia, Indonesia, Irlanda, Francia, Australia y, más recientemente, Reino Unido y California, los cuales anunciaron investigaciones e incluso plantearon la prohibición de la plataforma.
Liz Kendall, secretaria de tecnología británica, dijo hace un par de días que a partir de la próxima semana el gobierno aplicará con mayor firmeza una ley que prohíbe la creación de imágenes íntimas no consensuadas, además de que se redactará una nueva legislación para prohibir que las empresas proporcionen herramientas para crear dicho tipo de imágenes.
Kendall señaló que el regulador británico de medios de comunicación, Ofcom, inició una investigación para determinar si X violó la ley de seguridad en línea, cuyo objetivo es detener la propagación de contenido ilegal “prioritario”. En caso de encontrar evidencia de infracciones a la ley, la empresa podría enfrentar multas de hasta 24 millones de dólares o el 10% de sus ingresos a nivel mundial.
Por otra parte, el fiscal general de California, Rob Bonta, señaló que su oficina también está investigando a xAI, cuya sede está en Silicon Valley, por su presunta “producción a gran escala de imágenes íntimas no consensuadas y deepfakes”.
De hecho, el propio gobernador de California, Gavin Newsom, lanzó una crítica hacia la posibilidad de generar este tipo de imágenes aun cuando el político ha sido un defensor de Musk y de sus empresas.
“La decisión de xAI de crear y albergar un caldo de cultivo para que los depredadores difundan deepfakes de IA sexualmente explícitos no consensuados, incluidas imágenes que desnudan digitalmente a niños, es vil”, dijo el miércoles por la mañana.
Antes de tomar la decisión, Musk incitó a sus seguidores en X a “romper la moderación de imágenes de Grok” a través de la opción NSFW activada, que permite la desnudez del torso de adultos no reales.
