Lo que pides a la IA no es privado. ¿Por qué pone en riesgo a quien evalúa tus imágenes?

En las conversaciones de contratistas, documentos y ejemplos de solicitudes declaradas al medio, uno de ellos relató que los rostros en las fotografías permanecían visibles mientras que otros pidieron que se identificaran de antemano las tareas con contenido perturbador. Asimismo, no se establece que un revisor lea todas las conversaciones de Copilot pero sí documenta casos en los que trabajadores acceden al prompt e imágenes para evaluar los resultados.

La exposición a material perturbador es un riesgo, de acuerdo con la Organización Internacional del Trabajo , que identifica el contacto con ese contenido, la carga laboral y el aislamiento entre los problemas que enfrentan los moderadores de plataformas.

Por otro lado, una investigación publicada en el 2025 de arXiv llamado “Ya he visto suficiente: midiendo el impacto en la moderación de contenido en la salud mental”, estudió a moderadores de distintos países y encontró que entre 25.9% y 26.3% de las personas evaluadas alcanzó el umbral de probable trastorno por estrés postraumático.

Estas cifras muestran por qué recibir imágenes perturbadoras sin advertencia puede ser un problema laboral y no solo una incomodidad durante la evaluación. Por otro lado, también hay un impacto para los usuarios ya que una fotografía personal muestra rostros, espacios privados o a personas que no aceptaron que su imagen se enviara a un chatbot.

Te puede interesar:

Tecnología

Tu iPhone puede clonar tu voz y hablar por ti: así puedes activar esta función de Apple

“Los rostros nunca se censuran y muchas de las indicaciones son de naturaleza sexual y de dudoso consentimiento”, declaró a 404 media un contratista que decidió conservar el anonimato.

Si esa solicitud llega a una evaluación humana, el archivo sale de la interacción que se puede pensar como “la herramienta y el consumidor” donde detrás hay un equipo de revisores humanos que leen peticiones para crear fetiches de pies, personajes animados infantiles o para acortar la falda de una mujer.

El material que reciben no es para analizar qué contenido sexual contiene sino para observar cómo trabaja la herramienta, si siguió las instrucciones de manera correcta, si conservó las partes de la foto que no debían cambiar para producir una imagen de mayor calidad, sin embargo en el proceso fue cuando algunos revisores mencionaron haber recibido fotos y peticiones sexuales que no esperaban.

De esta forma, para las personas fotografiadas el riesgo va más allá de la conversación con el chatbot donde sus imágenes pueden pasar a manos de alguien que debe calificarlas como parte de su trabajo.

Asimismo, la revisión humana de conversaciones no es exclusiva de Microsoft, pues Google informa que personas evalúan una parte de los chats de Gemini para detectar respuestas de baja calidad, errores o contenido que es dañino mientras que OpenAI menciona que revisa conversaciones de ChatGPT para mejorar sus sistemas y vigilar su uso.

Ante las declaraciones de 404 media, Microsoft respondió que utiliza los datos de sus clientes conforme a sus términos de uso, entre otros fines para mejorar sus productos y aplicar sus reglas de conducta e inclusive en la guía pública de privacidad de Copilot la empresa menciona que los especialistas pueden revisar conversaciones para evaluar y mejorar la precisión y seguridad de sus modelos para comprobar la calidad de sus respuestas.

¿Se puede impedir que las conversaciones se usen para entrenar Copilot?

Microsoft permite excluir conversaciones futuras del entrenamiento de modelos pero aclara que esa opción no excluye otros usos para mejoras generales del producto.

También existen maneras de controlar lo que Copilot recuerda sobre ti al ver, editar y eliminar información específica al colocar por ejemplo: “olvida que me gustan las películas de amor”.

Aunque la empresa permite borrar toda la memoria de la cuenta y controlar si las conversaciones se utilizan para el entrenamiento del modelo cuya información asegura que la toma de datos disponibles de forma pública como los motores de búsqueda y rastreos web, Microsoft menciona que desactivar el uso de conversaciones para entrenar modelos no impide que la empresa las utilice para otras mejoras de los productos.

También algunas conversaciones pasan por revisiones automáticas y humanas para detectar infracciones a sus reglas y recomienda que antes de subir una fotografía personal o de otra persona a Copilot, se debe considerar que algunas solicitudes se someten a revisión humana y la opción para desactivar el entrenamiento de modelos no impide todas las revisiones o usos del contenido para mejorar el servicio.