Otras empresas como Smelter hacen “social listening”, es decir, rastrean, recolectan y analizan millones de publicaciones diarias para proporcionar a las marcas “información sobre el consumidor en tiempo real”; o empresas de reclutamiento como Pandapé , que utiliza IA para agilizar todo el proceso de contratación, incluyendo la verificación de información en un CV.
Pero estos son solo algunos ejemplos que revelan cómo uno de los grandes desafíos del siglo XXI será replantearse los conceptos de lo ético, la verdad y la libertad, gracias a los avances de las nuevas tecnologías.
"¿Quién es el responsable de lo que hacemos?": sobre la IA y la libertad
La vigilancia y el reconocimiento han existido desde casi siempre. Por ejemplo, la arquitectura de muchos edificios coloniales está organizada para que se pueda observar desde un patio central a la gente.
“Lo que es nuevo es que se ha refinado con máquinas capaces de hacer estos reconocimientos de vigilancia, obteniendo una impresionante cantidad de datos que el cerebro humano no procesa por su cuenta y almacenando información que nunca sabemos exactamente qué uso va a tener a la larga”, dice el Dr. Francisco Castro, director del departamento de filosofía de la Universidad Iberoamericana.
Usualmente, la finalidad de estos datos es con fines mercantiles, para vender más, condicionar o mejorar un producto. “Esto coloca entredicho la capacidad de la libertad humana para tomar ciertas decisiones en torno a su propia vida, porque de alguna manera esta cantidad de datos con la que estamos condicionados están tomando las decisiones por nosotros mismos”, explica Castro.
Esto es importante porque la libertad, entonces, se convierte en un término necesario en términos éticos y políticos, pues “si no somos libres de nada de lo que hacemos, entonces tampoco somos responsables de lo que hacemos”, explica el filósofo.
Autores como Jean-Jacques Rousseau, Hegel y hasta novelistas como Victor Hugo en “Los miserables” reflejan cómo la libertad, desde el romanticismo, no se considera algo dado, sino como algo que se lucha por obtener. “¿Hasta dónde nosotros estamos dispuestos a ceder partes de nuestra vida a empresas tecnológicas y hasta donde no?”, dice Castro.
Por ello, en términos jurídicos, el concepto de la libertad se debe plantear nuevamente frente a las nuevas tecnologías, pues entonces, ¿quién es verdaderamente responsable de lo que hacemos si cedimos la libertad a una empresa?
"Lo falso también forma parte de lo real": sobre la IA y la verdad
“En la lógica de este capitalismo neoliberal, lo falso también forma parte de lo real”, explica Pablo Fernández Christlieb, doctor en filosofía y catedrático en la UNAM. Ejemplifica que las poses de Instagram, que a todas luces son falsas, ya se volvieron verdaderas; las fake news funcionan como información, aunque se sepan falsas. “Entonces, la IA no obligará a decir menos mentiras, sino más y sin remordimiento alguno, porque se van a normalizar”, sentencia.
Estamos viviendo la era de la post-verdad, en la que las emociones y las creencias personales tienen más influencia en la formación de opiniones públicas que los hechos objetivos y la evidencia verificable. En esta era las emociones, las percepciones y las opiniones a menudo superan o distorsionan la importancia de la verdad objetiva en la toma de decisiones y en la formación de la opinión pública.
“Y la IA puede radicalizar esto”, dice Castro. Gracias al auge de los deepfakes, “va a ser aún más difícil identificar de dónde viene el origen de cierta información, de ciertas imágenes y obras de arte”. Esto es importante porque vuelve indiscernible a qué se le debe de apostar en políticas públicas.
Además, el Christlieb explica que lo que pasará es que se dirán más y mejores mentiras. “Los aspirantes que mienten aprenderán los trucos para decir mejores mentiras, hasta que sea la norma que todos mientan. El reclutador sabrá que todas son mentiras, y de todos modos tomará su decisión; él mismo aprenderá a decirle mentiras a su supervisor, y éste a su jefe. El mundo laboral se convertirá en un festival de mentiras, y no obstante seguirá funcionando (lo que no va a funcionar es la verdad). Después de todo, la publicidad ya es una mentira ¿no?”.
Pero no todo está perdido. Aunque hay programas que pueden utilizarse para crear deep fakes, también comienzan a surgir otros para reconocerlos. Igual como ocurre con programas como ChatGPT, donde pueden ayudarte a escribir un ensayo, pero también la app OpenAI API Key puede decirte qué tanto la utilizaste. “Lo importante es mantenernos alertas a las evoluciones de la tecnología y las regulaciones en torno a ellas”, concluye Castro.
