La idea es que el texto generado por IA tenga una señal que no esté a simple vista, pero que sí pueda analizarse con una herramienta de detección.
De manera tradicional, la expresión “marca de agua” está asociada a logotipos, palabras con transparencia o elementos ocultos dentro de un archivo, pero en el caso de Claude no es así. Anthropic explicó que su sistema aprovecha las decisiones que el modelo toma mientras genera el texto e inserta la marca como un patrón estadístico.
Así, la elección de palabras continúa pareciendo normal para el lector, pero la secuencia puede analizarse posteriormente con la clave correspondiente para calcular qué tan probable es que Claude haya participado en la creación del material.
Google describe un mecanismo similar para SynthID-Text, su tecnología para marcar textos generados por Gemini. De acuerdo con el gigante tecnológico, los modelos asignan probabilidades a los distintos tokens que podrían aparecer a continuación y que SynthID modifica esas probabilidades de manera que genere un patrón estadístico detectable, sin que sea perceptible para el lector.
¿Qué significa esto para alguien que usa IA?
La existencia de una marca no significa que cada frase que pase por una herramienta de IA vaya a quedar identificada de la misma manera.
En Claude, por ejemplo, la efectividad depende en parte de cuánto texto haya generado el modelo. Anthropic explica que mientras más largo sea un pasaje, más decisiones existen sobre las cuales puede acumularse la señal y, por lo tanto, mayor puede ser la confianza para detectar la participación de Claude. En textos pequeños, hay menos información disponible.
Esto es importante porque una marca de agua no equivale a decir que “todo el texto fue hecho por IA”. Lo que puede indicar es que un determinado modelo probablemente participó en algún momento de su creación o procesamiento.
Anthropic asegura que su marca de agua no contiene información que permita identificar al usuario, a una organización o una conversación específica. La marca se aplica al resultado producido por Claude, no a la identidad de la persona que hizo la solicitud.
La propia compañía advierte que la marca no demuestra quién es el autor del texto. Puede indicar que Claude probablemente participó en su elaboración, pero no distingue entre un texto escrito completamente por el modelo y uno que una persona escribió y posteriormente fue editado de manera extensa con Claude.
