Las empresas de inteligencia artificial (IA) regresan a las bibliotecas y librerías en busca de libros escritos por humanos y mientras que internet se llena de contenido generado por máquinas, los textos producidos antes del auge de la IA generativa adquieren un nuevo valor para entrenar modelos.
Una investigación documentada por 404 Media mostró cómo empresas vinculadas con la industria de la IA recurren a libros antiguos que se escanean para convertirlos en datos de entrenamiento, pero el debate no solo es sobre los derechos de autor o la conservación del patrimonio, sino también sobre qué tipo conocimiento está entrando a los modelos.
Patricia Murrieta, investigadora del Tecnológico de Monterrey y especialista en el estudio de la relación entre tecnología, historia y conocimiento, menciona que el valor de los libros para la IA envuelve la parte de que son una fuente de información producida por humanos, por lo que los modelos generativos también pueden entrenarse con datos sintéticos, información producida o procesada por otras herramientas de IA. “El problema aparece cuando estos datos vuelven a alimentar los modelos que pueden contener errores, alucinaciones o información sin un control editorial”, afirma.
La investigadora recalca que los datos de calidad suelen partir de algo llamado “ground truth”, información verificada y certera, categoría en la que entran los libros, artículos y otros materiales producidos por personas, inclusive, el hecho de que un texto haya sido escrito por un humano no significa que sea neutral.
“Los documentos siempre tienen una función que tiene que ver con los intereses de quien escribe y hacia quien va a dirigir”, explicó Patricia Murrieta, pues la diferencia es que, en una investigación histórica tradicional, el especialista conoce ese problema, un historiador no solo lee el documento sino que intenta entender quien lo produjo, en qué momento, con qué intención, y desde qué perspectiva.
Asimismo, los modelos generativos funcionan como cajas negras donde, una vez que grandes cantidades de información entran en ellas, resulta complicado identificar qué parte de una respuesta proviene de una fuente específica y la información se convierte en representaciones matemáticas para que, posteriormente, el sistema genere respuestas a partir de relaciones probabilísticas.