Tecnología

La OMS alerta sobre los usos médicos de la IA y pide cautela

Las preocupaciones del organismo se basan en la desinformación que pueden generar estas herramientas, así como los sesgos en los datos que se utilizan para su entrenamiento.

mié 17 mayo 2023 09:00 AM

OMS pide cautela con la IA — Las OMS dijo que las herramientas utilizadas de forma precipitada podrían generar errores por parte de los profesionistas de la salud, , causar daño a la gente y eliminar la confianza por la IA. (Foto:©iStock)

Expansión

@ExpansionMx

En medio de las peticiones de regulación hacia la Inteligencia Artificial generativa, la Organización Mundial de la Salud (OMS) pidió cautela a las instituciones médicas al implementar este tipo de herramientas en la atención de pacientes, pues podrían convertirse en un daño para ellos si no se usa correctamente.

El organismo hizo referencia a populares herramientas como ChatGPT, desarrollado por OpenAI, o Bard, de Google, las cuales podrían estar generando entusiasmo debido a su potencial para apoyar las necesidades de salud de las personas; sin embargo, alertó que aún existen riesgos al utilizar esta tecnología.

Las preocupaciones de la OMS se deben a que las herramientas sean utilizadas de forma precipitada, lo cual podría generar errores por parte de los profesionistas de la salud, causar daño a la gente y eliminar la confianza por la IA, lo cual retrasaría su uso a largo plazo en este sector.

Algunas de las inquietudes de la OMS en este sentido es que los datos usados para entrenar a la IA estén sesgados, lo que generaría información engañosa o inexacta que podría plantear riesgos; también resalta que si bien las respuestas que generan pueden parecer plausibles, igualmente pueden ser completamente incorrectas o contener errores graves.

También resaltó el riesgo de que esta tecnología puede estar entrenada a partir de datos cuyo uso no haya sido consentido previamente, además de que pueden no proteger información confidencial de los usuarios.

Por ello, las OMS dijo que es imperativo que se examinen cuidadosamente los riesgos de usar esta tecnología como una herramienta de apoyo a la toma de decisiones o incluso para mejorar la capacidad de diagnóstico en entornos de escasos recursos.

“Si bien la OMS está entusiasmada con el uso apropiado de las tecnologías para apoyar a los profesionales de la salud, pacientes, investigadores y científicos, existe la preocupación de que la cautela que normalmente se ejercía para cualquier tecnología nueva, no se está ejerciendo de manera coherente”, comentó la organización en un comunicado.

La OMS aún confía en el uso de la IA

Si bien la postura actual de la OMS demuestra preocupación respecto a la evolución de estos sistemas de Inteligencia Artificial, en otras ocasiones ha sido clara en que se trata de un recurso que puede contribuir a la atención médica. De hecho, en 2021 lanzó una guía sobre ética y gobernanza en la IA en la salud .

“Podrían facilitar el acceso a los servicios de salud en los países con escasos recursos y las comunidades rurales, donde los pacientes a menudo tienen dificultades para acceder a los agentes de salud o al personal médico”, dijo Tedros Adhanom, director de la OMS, durante la presentación de la guía.

Entre algunas de las ventajas que resaltó para esta tecnología en el área de la salud se encuentran su capacidad de mejorar la velocidad de los diagnósticos, facilitar la atención clínica, reforzar la investigación y apoyar en el ámbito de la salud pública, como la vigilancia de la morbilidad o la respuesta a brotes.

No obstante, señaló que para poder cumplir con estos propósitos se requiere cumplir con seis principios básicos: proteger la autonomía; promover el bienestar humano, la seguridad humana y el interés público; garantizar la transparencia, explicabilidad e inteligibilidad; fomentar la responsabilidad y rendición de cuentas; garantizar la inclusión y equidad; así como promover una IA que responda y sea sostenible.