Benanti se ha convertido en una voz clave en Europa en cuestiones éticas de la IA. Fue parte de “algor-ética”, un documento firmado por la Academia Pontificia para la Vida, Microsoft, IBM, la FAO y el gobierno Italiano para buscar soluciones éticas ante la IA.
En el evento “Construyendo el futuro de la Inteligencia Artificial”, llevada a cabo por la Universidad Iberoamericana, Expansión tuvo acceso a Benanti para reflexionar sobre cómo se puede construir una IA más ética y justa.
EXP: ¿Por qué es importante tener la presencia de un teólogo en las discusiones en torno a la Inteligencia Artificial?
La IA es una tecnología muy poderosa que puede sustituir la toma de decisiones humanas. Y siempre que tocas el tema de la conciencia, la libertad, la responsabilidad, estás tocando el fondo de los seres humanos, que es la esencia de la teología. Las cosas que sentimos, lo que deseamos, por qué hacemos lo que hacemos, son temas que conciernen a la teología.
(...) Por ejemplo, si una máquina ya puede decidir por nosotros, entonces ¿debería decidir como lo haría un buen ser humano o debería tomar la mejor solución en cuanto a optimización de resultados? (...) Estas son las preguntas que nos hacemos los teólogos.
EXP: En un caso en el que la IA tuviera que tomar una decisión moralmente compleja, ¿cómo se deberían programar sus valores éticos?
La ética es una cuestión de virtudes. Si detrás de un banco pusiéramos a un sistema de IA a que despache el dinero, ¿preferirías una IA justa o injusta? entonces, virtudes como la justicia son parte de la programación ética para la IA. Para que tenga una barrera que mantenga a la máquina dentro de nuestra realidad. Y todavía somos libres de decir a dónde nos gustaría ir con la máquna (...)
EXP: Una de mis mayores preocupaciones es que se utilice la IA para tomar decisiones con una visión muy reducida sobre el mundo.
El dinero y el poder siempre tendrán lo mejor del mercado. Y sí, la IA no es democrática ni justa. Y es cierto que solamente las personas más poderosas pueden acceder a las herramientas más poderosas. Y el problema con la IA es que sí puede ser una vía para multiplicar desigualdades. Los ricos se volverán más ricos y los pobres más pobres.
Pero, el otro problema es que la IA está alimentada de datos y estos datos son los de una minoría, o de una representación muy similar a la minoría y no son inclusivos. Pienso que estos datos deberían estar mejor alimentados, desarrollados por personas que no viven en las grandes ciudades. Sería una posible solución.
EXP: Vienes de Italia, un país que ha sido bastante crítico en torno a la IA. Incluso, fue uno de los países que prohibió ChatGPT. Desde tu perspectiva, ¿qué está dejando pasar el Occidente en términos de regulación y ética?
Una regulación efectiva necesita tiempo porque necesitas entender el fenómeno. Y la IA va muy rápido y nos falta comprensión sobre ella. En la Unión Europea realizamos el Reglamento General de Protección de Datos (RGPD) y, porque entendíamos muy bien el fenómeno, no pusimos una lista de qué datos proteger, sino los datos que te pueden conectar como persona.
Por ejemplo, no es que una IA pueda decir quién eres, pero sí sabe hasta la forma en que respiras. Los datos de tu respiración están protegidos por la RGPD. Y así es como una regulación mundial es capaz de adaptarse a los cambios. El primer intento que tuvimos, que fue la prohibición de GPT-3, no era de este tipo.
EXP: Están creando todas estas leyes y protecciones, pero la mayoría de las empresas que desarrollan la IA son de Estados Unidos. ¿Cómo están lidiando con este choque?
Cuando Ford salió al mercado, nosotros desarrollamos un Ferrari. Estamos haciendo lo mismo con el mercado de la IA. Nos estamos dando cuenta que la IA es verdaderamente importante para los negocios, la educación y para la vida social. Después nos desarrollamos. Tenemos muchas empresas emergentes y otras que están desarrollando otro tipo de productos.
Sí, las más grandes empresas occidentales tienen el monopolio. Si no, vas a China y ese es otro tipo de monopolio. Europa está en medio y está intentando definir un enfoque europeo para la IA.
EXP: Antes, para llegar a la conclusión de un libro tenías que leerlo. Ahora puedes pedir un resumen a la IA. Existen muchas dudas en torno a si la IA está haciendo más superficial el conocimiento y la forma de pensar. ¿Qué piensas sobre esto?
Bueno, déjame responderte con una experiencia personal. Todavía recuerdo el número de teléfono de los chicos que jugaban al fútbol conmigo cuando era niño. Bueno, lo recuerdo porque en aquella época no había teléfono móvil. Y ahora le pido a Siri que me dé los números. ¿Soy más estúpido? ¿Soy menos profundo? No. Simplemente nuestro cerebro es un dispositivo de consumo de energía. Y si puedo ahorrar energía, la usaré en otra cosa.
Entonces, si es cierto que si te quito una tarea no significa que la uses para otra cosa. Pero si puedo quitarte el peso de hacer tareas, será mejor para todos. Un ejemplo es la condición de las mujeres en la historia. Conforme fue habiendo más tecnología que entró al estilo de vida de las mujeres, pudieron ser más libres. En estudiar, en cambiar culturalmente su posición en la sociedad.
Probablemente vemos un proceso como ese. En el que personas que actualmente se ven obligadas por algún tipo de tarea puedan ser libres y puedan desarrollar un nuevo tipo de cultura, un nuevo tipo de pensamiento, cosas que puedan enriquecer a la sociedad. Ahora, no es seguro que eso suceda. Podría suceder, pero tengo un poco de esperanza.
EXP: Pero, ¿qué sucede con el conocimiento? Si vas a ChatGPT y le preguntas por el resumen del libro, te pierdes de la experiencia de adquirir el conocimiento. ¿Cómo nos va a cambiar eso?
Está bien, no cites a ChatGPT porque esa IA todavía inventa cosas. Mira, la IA es una tecnología muy reciente. Todavía tenemos que desarrollar el uso correcto de la tecnología. No se puede pedir un resumen de un libro a una IA que no lo leyó. ¿Le preguntarías en la calle la dirección para ir a algún lugar de la Ciudad de México a un italiano que no conoce la Ciudad de México? Estás haciendo lo mismo con la IA. Serán otras tareas en las que la IA sea realmente poderosa, como recopilar datos. Se puede hacer un buen uso de esta tecnología.
Pero el que se busquen resúmenes de libros en ChatGPT es comprensible porque la tecnología acaba de aparecer. Es rápido, está impactando a la sociedad. Estamos entre la tecnología y la adaptación.
EXP: Con el auge de la IA ¿cuáles crees que son los valores más importantes en los que deberíamos centrarnos en este momento?
Confianza, transparencia y probablemente el valor más importante es la justicia.
EXP: La IA, ¿es nuestro nuevo Dios?
Podemos tener una relación con la IA, haciendo de la IA una especie de nuevo Oráculo. Pero no es un problema de IA. Es un problema de nosotros mismos. Sabemos como seres humanos que podemos tener una relación enfermiza. A veces podemos tener una relación marido-mujer que es enfermiza. Y la esposa hace del marido el Dios.
Entonces esta es una relación enfermiza porque tienes que prepararte en el mismo plato de la balanza. Y haces del otro la autoridad sobre tu vida. Así que este es un problema de nuestra naturaleza que simplemente podemos dar un paso atrás gracias a nuestro poder y nuestra autonomía.
Podemos hacerlo con máquinas, con una máquina tan poderosa. Pero el problema una vez más no estará en la máquina, sino en las personas que cedan su propia autonomía.
