Tecnología

La IA tiene un problema para las empresas: los sesgos

De acuerdo con un reciente estudio, seis de cada 10 compañías en Latinoamérica saben que existen sesgos en su uso de la IA, lo cual representa un problema para la toma de decisiones.

mié 31 mayo 2023 06:00 AM

Sesgos en la Inteligencia Artificial — El 69% de las organizaciones de Latinoamérica prevé depender cada vez más de la inteligencia artificial para la toma de decisiones en los próximos años. (Suriya Phosri/Getty Images)

Fernando Guarneros Olmos

@Guarolf_

La Inteligencia Artificial está en auge. Aquellas empresas que no la implementen en sus operaciones, morirán, señaló el CEO de Nvidia recientemente. Sin embargo, los sesgos (género, racial, socioeconómico, etc.) todavía son un obstáculo de suma relevancia que representa un riesgo para las empresas y sus campos de acción.

De acuerdo con datos de la encuesta Sesgo en los datos: el riesgo oculto de la inteligencia artificial, realizada por la empresa de software con presencia en Latinoamérica, Progress, 59% de las compañías en la región cree que existe un sesgo de datos en su organización.

Esto es importante porque 69% de las organizaciones de Latinoamérica prevé depender cada vez más de la inteligencia artificial para la toma de decisiones en los próximos años, sin embargo, 73% de los responsables de esta área en la región creen que el sesgo de datos se convertirá en una preocupación mayor a medida que aumente el uso de esta tecnología.

Francisco Larez, vicepresidente de Latinoamérica en Progress, explica que estos sesgos suelen heredarse de experiencias culturales y personales, los cuales provienen de una recolección de datos incompleta, algo que produce resultados inesperados y potencialmente perjudiciales.

“Estos sistemas son creados sin ningún tipo de empatía, pero si hay fallas en la recolección de información esta se toma como válida aun cuando no responda con la realidad, lo que incluso puede llegar a ser un problema de discriminación”, menciona Larez.

Falta de compromiso en las empresas

A pesar de los posibles riesgos legales y financieros asociados a los sesgos en los datos para las compañías, el reporte muestra que existe una falta de comprensión sobre las implicaciones de esta tecnología, los procesos y los recursos necesarios para abordar este asunto.

De acuerdo con las cifras, 75% de las empresas cree que necesita hacer más para abordar el sesgo de datos; sin embargo, sólo 22% lo está tratandoy cuenta con un proceso de evaluación continuo, mientras que 51% considera que la falta de conciencia y subestimación de los sesgos son un obstáculo para abordarlos.

“Si las organizaciones no abordan el sesgo de datos, pueden sufrir consecuencias legales, de seguridad y de reputación irreversibles a largo plazo”, advierte Larez, quien recomienda a las compañías poner mayor atención en el interés por la IA en todos sus ámbitos.

Larez comenta que si bien se trata de un tema nuevo y la comprensión de los datos es complejo, acepta una mayor tendencia a sensibilizarse al respecto. Por lo tanto, se debe establecer un marco ético fundamental y a medida que se incremente la adopción apostar por mayores regulaciones.

Cómo tratar los sesgos de la IA

Ante este panorama, el especialista aporta algunas recomendaciones para las empresas que estén en el proceso de minimizar los sesgos. El primero es tomar consciencia de que el problema existe y a partir de ahí establecer las mejores fuentes de información y que las muestras sean lo suficientemente representativas para evitar la discriminación.

Otro punto que resalta al respecto es que se debe comprender que los sesgos son dinámicos, es decir, no se resuelven en el momento en que ocurren y las brechas del presente no son las mismas que las del futuro, por lo que se debe implementar un proceso de vigilancia constante de los datos que se integran en la herramienta.

Por otro lado, surge el dilema de lo que pudiera significar la adopción de la IA en el mercado laboral y no cabe duda que harán trabajos rutinarios. Una de las cosas que va a promover es que los profesionales se deberán dedicar a cosas más estratégicas del negocio.