POR: Dr. JUAN MANUEL COPA (*) – www.ernestobisceglia.com.ar
Que la IA llegó para ser parte de nuestro día a día no se puede negar. Ya sea redactando un mensaje importante, usándola para resolver una situación puntual de trabajo o viendo una publicidad de gatitos cocinando, todos somos testigos de cómo esta tecnología forma parte de nuestra cotidianidad.
Los debates acerca de si algún día reemplazará al humano cada vez son más acalorados, al igual que las preguntas que ello conlleva: ¿qué significa ser humano? ¿qué es la conciencia?¿qué es la vida?.
Todo esto adquiere una connotación más inmediata cuando analizamos con detenimiento las implicancias que está teniendo el uso desmesurado de la inteligencia artificial en medicina, particularmente en la investigación médica.
Recientemente, a raíz de mi experiencia como investigador en el extranjero he podido evidenciar de primera mano un problema incipiente y cada vez mayor en la literatura científica: las referencias falsas generadas por inteligencia artificial. A raíz de la elaboración de un trabajo para ser publicado en una revista de divulgación cardiológica, en el proceso de elaboración del mismo y utilizando Modelos de Lenguaje de Gran Escala (LLM por sus siglas en inglés) nuestro equipo de trabajo se encontró con que algunas de las citas bibliográficas que nos referenciaba la IA eran falsas.
Es decir los escritos científicos que validaban o contradecían nuestras afirmaciones no existían. Lo más llamativo (y preocupante) era que no parecían defectuosos: tenían títulos específicos, estaban bien formateados, disponían de investigadores reales y contaban con fechas de publicación plausibles. Pero eran falsos.
Esto coincide con un trabajo reciente publicado por Maxim Topaz y colaboradores, de la Universidad de Columbia, quienes luego de una revisión exhaustiva de la literatura médica encontraron un crecimiento acelerado de referencias ficticias en contextos biomédicos. Entre 2023 y 2026, la frecuencia de trabajos científicos con al menos una referencia inventada aumentó de uno cada 2828 a uno cada 277.
Lo peligroso de esta situación es que son este tipo de escritos los que constituyen la base en la que se fundamenta el accionar médico, al brindar los últimos avances en diferentes áreas de la salud y dar forma a las decisiones terapéuticas, con sus respectivas implicancias en las obras sociales-aseguradoras.
La literatura científica depende de la integridad de sus referencias y esto no es una cuestión meramente académica. Ya sabemos de la influencia diaria de la IA y cómo nos ayuda a optimizar nuestro tiempo, de hecho puede llegar a ser extraordinariamente útil. Pero también introduce un problema nuevo de confianza y nos obliga a recuperar la responsabilidad humana en la producción y validación del conocimiento.
Investigar sigue siendo un acto humano, publicar sigue siendo un acto humano, citar una fuente sigue siendo un acto humano. Y, sobre todo, hacerse responsable de lo que uno afirma sigue siendo un acto humano.
Quizás el verdadero desafío de la IA no sea descubrir si puede pensar como nosotros, sino recordar qué cosas no podemos dejar de pensar nosotros. Y quizás ese desafío, para quienes investigamos, ejercemos la medicina o simplemente somos testigos de sus usos cotidianos, sea particularmente urgente en un lugar como Salta.
(*) Juan Manuel Copa Gallardo: médico especialista en cardiología por la Universidad Nacional de Córdoba. Fellowship de Investigación en Imágenes Cardiovasculares en Madrid, España.
