Publicidad
Publicidad

Agentes de IA: en imparable auge pero con riesgos

La evolución de los copilotos y chatbots promete más autonomía, lo que abre debates sobre el control y ética que debe tener la IA.
mié 18 diciembre 2024 05:30 AM
agentes de ia-qué-son-crecim
Hacia 2027, el 50% de las empresas tendrán este tipo de herramienta.

A diario existen tareas para los oficinistas, emprendedores y creativos que facilitan su labor: usar un calendario para sus citas, un plan para ejecutar diversos proyectos y una agenda que les permite abrir nuevos negocios o mantener buen ritmo de trabajo en sus empresas, pero muchas de estas tareas necesitan continuidad.

¿De qué sirve tener una cita con un posible cliente si no hay notas sobre lo que se trató o se da seguimiento a las tareas que se acordaron? Para este tipo de pendientes empiezan a surgir los Agentes de Inteligencia Artificial, una evolución de lo que en 2023 Microsoft presentó como copiloto, pero que ahora permiten tener a un ‘asistente personal’.

Publicidad

Un agente de IA es un programa de Inteligencia Artificial (IA) diseñado para realizar tareas autónomas y proactivas. Es como tener un asistente virtual que no solo espera instrucciones, sino que también entiende las necesidades de las personas y actúa para resolver problemas o quehaceres. Podría definirse como un secretario digital que organiza los días sin requerir demasiada atención.

Gracias a las herramientas de IA que existen se ha documentado que los Agentes de IA aprenden los hábitos y las preferencias de las personas y se anticipan a las necesidades que apremia cada ocasión. No solo sigue órdenes, también toma decisiones simples para completar su objetivo.

“México tiene el potencial de ser un hub de desarrollo e inteligencia artificial, esto porque las empresas han llegado al país a tener sus centros de atención e innovación, por lo que además de tener una oportunidad gigantesca para desarrollar este tipo de tecnologías, también hay una gran oportunidad en la adopción”, señaló a Expansión, Guillermo Varela, CEO de GCG, una consultora especializada en tecnología.

Para 2027, Deloitte predice que la mitad de las empresas que utilizan IA generativa habrán lanzado agentes de IA o pruebas de concepto capaces de actuar como asistentes humanos, realizando tareas complejas con una mínima supervisión humana.

Y la apuesta por este tipo de tecnologías ha atraído a empresas e inversionistas. En agosto, CB Insigths señaló que los Agentic IA han captado más de 2,000 millones de dólares, mientras que compañías como Microsoft, IBM u OpenAI han previsto lanzar algún prototipo de este tipo de tecnologías.

De hecho la empresa creadora de ChatGPT señaló que en enero los usuarios conocerán ‘Operator’, una IA que tendrá la capacidad de realizar tareas como codificar y reservar viajes. Mientras que Cognition Software lanzó 'Devin' en marzo de 2024, un ingeniero de software autónomo capaz de realizar tareas de programación complejas basadas en indicaciones en lenguaje natural.

“El impacto total está por verse, estamos en una primera etapa de adopción sobre todo en la parte educativa, pues vamos a tener una transformación laboral y eso va a requerir nuevos modelos educativos, porque hoy muchas profesiones que existen podrán transformarse”, precisó Varela.

De acuerdo con el líder de GCG este impacto se verá en menor medida en México, pero será una transformación que llegará en los próximos dos o tres años de manera más general.

Un ejemplo que puede ilustrar la diferencia entre la IA con agencia y los copilotos o chatbots, es que en el segundo caso ayudan a los desarrolladores de software probando y sugiriendo código, mientras que el "ingeniero con agencia" de software lleva esto un paso más allá, pues puede introducir ideas para el software a través de una indicación, y convertir estas ideas en código ejecutable sin que se lo indiquen.

“La innovación continua y la adaptación a nuevas tecnologías son cruciales para mantenerse competitivos”, dijo Rafael Sánchez, CEO de Microsoft México.

En este contexto, Sánchez señaló que temas coyunturales como el nearshoring necesitarán de herramientas diseñadas para maximizar la productividad, aumentar la eficacia y mejorar los resultados empresariales, por lo que el uso de este tipo de ‘Agentes’ es una evolución que llegará a las empresas.

Publicidad

Auge, pero con cautela

Aunque los agentes de IA tienen un gran potencial, también presentan riesgos relacionados con limitaciones técnicas, desafíos éticos y efectos sociales más amplios derivados de su nivel de autonomía y del impacto que pueden generar cuando se reduce o elimina la intervención humana en sus procesos.

Entre los riesgos técnicos se encuentran los errores, las fallas operativas y vulnerabilidades de seguridad, como la posibilidad de que se utilicen para automatizar ciberataques. Además la capacidad de estos sistemas para tomar decisiones de forma autónoma plantea dilemas éticos sobre responsabilidad y rendición de cuentas, mientras que en el ámbito social y económico, surgen preocupaciones como la pérdida de empleos y la dependencia excesiva que podría debilitar la capacidad de acción humana.

Deloitte señala que para maximizar los beneficios de los agentes de IA y reducir sus riesgos, es fundamental considerar el contexto específico en el que se aplican y desarrollan.

Por ello, las empresas que deseen incorporarlos deben aumentar la transparencia de los agentes y aplicar un enfoque de supervisión humana en el que los sistemas operen de manera autónoma, pero con revisión de decisiones por parte de expertos.

Además de definir pautas éticas claras que prioricen principios como los derechos humanos, la protección de la privacidad y la rendición de cuentas, asegurando que las decisiones tomadas por los agentes estén alineadas con los valores sociales.

Publicidad

Newsletter

Únete a nuestra comunidad. Te mandaremos una selección de nuestras historias.

Publicidad

Publicidad