La palabra algoritmo se escucha en más conversaciones casuales. El uso masificado de redes sociales y servicios de tecnología ha hecho que este concepto se conozca en más contextos y con el impulso de la Inteligencia Artificial (IA), la relevancia de cómo trabajan crece.
“El marco regulatorio debe pensarse para un horizonte de cinco a diez años”, advierte Omar Ramírez, CTO de la empresa de consultoría Bambú Mobile, enfocada en hacer apps y tercerizar servicios de TI.
Lo que antes costaba miles de pesos ahora puede resolverse con unos cuantos, según el especialista, por lo que la tecnología se vuelve estándar y las empresas deben reinventarse ante este panorama.
El proyecto Open Loop México, liderado por el extinto Instituto Nacional de Transparencia, en colaboración con el Banco Interamericano de Desarrollo (BID) y Meta, permitió probar un marco regulatorio experimental para exigir a las empresas explicaciones claras y comprensibles sobre cómo operan sus algoritmos.
Las compañías desarrollaron materiales visuales y videos para hacer accesible la lógica detrás de sus sistemas, permitiendo que los usuarios comprendan sus efectos y, en caso necesario, puedan cuestionarlos o apelar decisiones.
Esta iniciativa demuestra que es posible equilibrar la protección del secreto industrial con el derecho de las personas a entender cómo las afectan los sistemas automatizados.
El experto advirtió que los algoritmos, aunque poderosos, pueden generar resultados sesgados o incorrectos si no se supervisan adecuadamente:
“Donde hay huecos de la información, la IA los rellena y no necesariamente los rellena bien”, precisó Ramírez, por lo que la transparencia en cómo se procesa y usan los algoritmos es una necesidad que cada vez más empresas tienen y los usuarios demandan.
Sin embargo, sabe el reto en la experiencia de usuario, pues se estandarizó la ‘no fricción’ como una ventaja competitiva.
“Hay más interesados, pero los usuarios muchas veces no leen estas precisiones en el uso de la información, sucede como con los términos y condiciones que sólo aceptan son ahondar en los detalles”, argumentó el especialista de Bambú.
Aunque las instituciones y proyectos como Open Loop marcan un precedente, la ciudadanía en general aún no exige masivamente explicaciones algorítmicas. La discusión se mantiene en sectores laborales, regulatorios y empresariales, pero todavía no permea en el debate público.
En el país hay 50 iniciativas legislativas desde 2020 que pretenden regular la IA, muchas inspiradas en modelos como el europeo que contemplan principios de responsabilidad, transparencia y explicabilidad algorítmica, pero aún no hay un marco regulatorio en México.
