El núcleo técnico del sistema descansa en un modelo de análisis entrenado para identificar seis categorías de patrones de riesgo, es decir que el agente no solo lee lo que se dice, sino cómo se dice, con qué frecuencia, a qué horas, y en qué dirección evoluciona el tono de una conversación. Un adulto que progresivamente lleva el diálogo hacia la intimidad, que pide secreto, que aísla al menor de sus figuras de confianza, está siguiendo un guión que la investigación psicológica ha documentado con detalle desde los años noventa y lo que VigIA hace es traducir ese guión en variables computables.
"Una frase como 'esto es nuestro secreto' puede ser completamente inocente en ciertos contextos. La IA tiene que leer la conversación completa, no la oración suelta", comentó Ivan Gutierrez, director de innovación de Made y líder del desarrollo tecnológico junto con la agencia Colectiva Digital. Esto implica que el sistema trabaja con ventanas de análisis que acumulan historial, similar a cómo funcionan los modelos de lenguaje modernos que mantienen contexto a lo largo de una sesión.
En México, nueve de cada 10 víctimas de delitos secuales son mujeres, y se estima que cada cinco minutos más de 10 menores sufren abuso sexual. El 80% de los casos nunca llega a las autoridades, según datos de ILAS y la Comisión Ejecutiva de Atención a Víctimas.
"VigIA es una herramienta que utiliza un agente de inteligencia artificial capaz de anticiparse al riesgo, detectar señales de alerta y dar a las familias la posibilidad de actuar antes de que ocurra una agresión”, agregó Dafna Viniegra, cofundadora de ILAS.
Cualquier sistema de detección automatizada enfrenta el mismo dilema técnico de cuánto ruido tolerar para no perderse la señal. En el caso del abuso sexual infantil, las consecuencias de un falso negativo, es decir, no detectar una situación de riesgo real, son radicalmente distintas a las de un falso positivo, que sería generar una alerta ante una conversación inofensiva.
Los sistemas de moderación de contenido de las grandes plataformas tecnológicas han lidiado con este problema durante años con resultados mixtos. VigIA, al operar en el dispositivo de una familia específica y no como moderador de plataforma, tiene la ventaja de que las alertas no se traducen en consecuencias automáticas, sino en notificaciones que activan la conversación entre padres e hijos.
