Lo que dijeron personas de Perú y Argentina sobre la inteligencia artificial en salud
Hoy cualquier persona puede escribirle en español a un asistente de inteligencia artificial y recibir una respuesta clara y bien redactada. Me pregunto qué sabe esa herramienta de la vida de nuestros pacientes.
Cuando vamos a congresos internacionales donde todo ocurre en inglés, los líderes de organizaciones de pacientes de nuestra región se frustran porque no pueden entender lo que se discute. Con la inteligencia artificial me preocupa algo parecido: que responda en español con lo aprendido en otros lugares.
Un estudio publicado en 2026 en la revista AI and Ethics me dio argumentos para esa preocupación. Lo firman investigadores de la Universidad de Cambridge, el Imperial College de Londres, La Victoria Lab de Lima y la Universidad Nacional de Córdoba. Hicieron talleres con 108 personas en Lima, Huancayo, Córdoba y Carlos Paz, y con migrantes latinoamericanos en el Reino Unido, tanto con profesionales de la salud y de la tecnología como con personas sin formación en esas áreas. Los talleres se hicieron en 2024 con GPT-3.5, una versión anterior de ChatGPT, así que lo que dicen sobre el desempeño de la herramienta hay que leerlo con esa fecha en mente. Lo más valioso del estudio es lo que esas personas esperan de la IA y lo que temen.
Lo que encontraron
Los autores recuerdan que estos modelos dejan fuera muchas experiencias de vida. Citan un análisis de más de 1.800 conjuntos de datos usados para entrenar inteligencia artificial, según el cual los creadores de África y Sudamérica representaban menos del 0,2 % de todo el contenido. Apuntan además que la información disponible sobre ciertas comunidades suele estar escrita sobre ellas y no por ellas.
En Argentina, los participantes comprobaron que el asistente entendía expresiones locales como “hincha de un club”. Un profesional de Córdoba advirtió que sus consejos no se pueden generalizar de un país a otro, porque la dieta, por ejemplo, cambia mucho.
Los autores plantean un ejemplo hipotético que me tocó de cerca por mi trabajo en enfermedades respiratorias. Si un asistente le recomienda comprar un purificador de aire eléctrico a una persona con asma que vive en una casa sin vidrios en las ventanas y con cortes de luz frecuentes, esa recomendación se sentirá fuera de lugar.
Algunos participantes fueron tajantes: la IA no debería diagnosticar ni recetar, ni compartir ni explotar datos de pacientes, ni hacerse pasar por una persona. En los talleres, la familia, y a veces la comunidad, aparecía como la unidad que decide, de la que el paciente no se puede separar. Los propios autores aclaran que sus resultados no representan a todo un continente, porque trabajaron sobre todo en dos países.
Lo que propongo
No podemos creerle todo a la inteligencia artificial. Tiene sesgos, y muchos vienen de los datos con los que aprendió. Creo que nuestras realidades tienen que estar presentes cuando estas herramientas se crean y se prueban: cómo vivimos la enfermedad y en qué condiciones viven nuestros pacientes. Los datos de los pacientes no se comparten bajo ninguna circunstancia. En este estudio, los participantes trabajaron con historias ficticias que ellos mismos crearon, y ningún dato personal ni de salud se envió a la herramienta de IA.
Las organizaciones de pacientes podemos aportar conocimiento de la realidad, recogido con cuidado y con consentimiento. A quienes desarrollan estas herramientas y a los sistemas de salud les pido que las prueben con personas de nuestros países antes de adoptarlas y que escuchen a quienes representan a los pacientes.
¿Qué tendría que saber una herramienta de IA sobre la realidad de los pacientes en tu país para que sus respuestas les sirvan?
Fuente
Peters D, Espinoza F, da Re M, Ivetta G, Benotti L, Calvo RA. Towards culturally-appropriate AI for health in the majority world: insights from participatory work in Latin America. AI and Ethics. 2026;6:345. https://doi.org/10.1007/s43681-026-01196-y
Migdalia Denis
Latin Health Leaders