La IA se muestra prometedora en la lucha contra las noticias falsas

La inteligencia artificial no goza precisamente de una gran reputación en cuanto a veracidad. Las redes sociales están repletas de inventos generados por IA, desde imágenes simpáticas de animales falsos en escenarios inventados hasta vídeos violentos que muestran una destrucción imaginaria en Medio Oriente. La IA se ha utilizado para crear cuentas falsas en redes sociales que difunden propaganda del Gobierno ruso y para generar clickbait y desinformación para sitios web de granjas de contenido que existen únicamente para obtener ingresos publicitarios. En 2024, miles de residentes de New Hampshire recibieron llamadas automáticas de una voz de Joe Biden sintetizada por IA que los disuadía de votar en las elecciones primarias.

Con tanta basura generada por la IA que amenaza con difuminar la línea entre la realidad y la ficción, puede parecer contradictorio que los científicos estén explorando formas de utilizar esa misma tecnología para combatir la desinformación en línea. Sin embargo, investigadores están descubriendo que la capacidad de la IA para analizar el lenguaje humano, resumir textos y verificar afirmaciones podría aprovecharse para ayudar a las personas a identificar y comprender las noticias falsas —y tal vez incluso, algún día, contribuir a combatir la desinformación en línea de forma sistemática y a gran escala—.

En un mundo en el que la desinformación en línea sobre la actualidad ha influido en elecciones y ha incitado a la violencia política, estas herramientas podrían resultar sumamente valiosas para periodistas, verificadores de datos, empresas de redes sociales y otras personas que se esfuerzan por eliminar las noticias falsas de la red.

Aún es pronto, y los expertos insisten en que estos métodos —como todas las herramientas de IA— nunca deberían utilizarse sin cierto nivel de supervisión humana. Pero los investigadores también ven en la IA a un aliado importante contra las noticias falsas y engañosas, incluso si fue la propia IA la que generó esas noticias falsas en primer lugar. “Debemos combatir el fuego con fuego”, afirma Jevin West, experto en desinformación e IA generativa de la Universidad de Washington.

¿Verdadero o falso?

El aprendizaje automático, un tipo de IA en el que las computadoras aprenden patrones en los datos para hacer predicciones, se lleva utilizando desde hace tiempo para identificar falsedades. Esto implicaba proporcionar a los modelos computacionales afirmaciones cuya veracidad o falsedad habían sido verificadas por verificadores humanos. Los modelos determinan las características textuales, los patrones y las frases que se correlacionan con la probabilidad de que una afirmación sea falsa —por ejemplo, el uso excesivo de mayúsculas, signos de exclamación o lenguaje cargado de emotividad— y utilizan estas características para clasificar las nuevas entradas en categorías de verdaderas y falsas.

Cuando los investigadores entrenaron uno de estos modelos para identificar tuits que contuvieran desinformación relacionada con la Covid-19 durante la pandemia, “en realidad fuimos bastante eficaces”, afirma el científico de datos Zois Boukouvalas, de la American University, coautor de una revisión sobre la detección de desinformación mediante aprendizaje automático publicada en el Annual Review of Statistics and Its Application. El programa coincidió con los verificadores humanos aproximadamente el 90 % de las veces.

Sin embargo, dado que los modelos de aprendizaje automático suelen entrenarse con conjuntos de datos cuidadosamente seleccionados que tienden a abarcar solo determinados periodos de tiempo, temas o plataformas de redes sociales, carecen de la flexibilidad necesaria para resultar útiles en situaciones del mundo real, afirma Dorsaf Sallami, investigadora en inteligencia artificial e integridad de la información en la Universidad McGill y en Mila, un instituto de investigación en IA con sede en Montreal. Ella y otros investigadores han recurrido a los modelos de lenguaje a gran escala (LLM, por sus siglas en inglés) que impulsan los chatbots de IA como ChatGPT, los cuales se entrenan con cantidades masivas de contenido público de Internet, entre otras fuentes. Estos LLM analizan las relaciones entre palabras, frases, conceptos y contextos para adquirir conocimientos sobre los patrones lingüísticos y utilizarlos para generar nuevos textos. Otra ventaja es que muchos de los LLM más recientes incorporan funciones para analizar también datos basados en imágenes y audio.

Gracias a su profundo conocimiento del lenguaje humano, los LLM pueden ayudar a analizar afirmaciones, afirma Thanh Thi Nguyen, investigadora en IA de la Universidad de Sunshine Coast, en Australia. Si se les pregunta si algo es cierto o no, responden basándose en los patrones que han aprendido al procesar enormes cantidades de información en línea. Pero, dado que se parecen mucho más a máquinas de imitación del lenguaje que a detectores de mentiras, también pueden generar información falsa, afirma: cuando se les proporciona información ambigua o insuficiente, tienden a inventarse con total seguridad sus propias respuestas erróneas, en un proceso conocido como “alucinación”. En el contexto de la desinformación, este problema surge en parte porque los LLM no están necesariamente entrenados con las últimas noticias de actualidad y no todos pueden realizar búsquedas en tiempo real.

Para hacer frente a este problema, Sallami ha desarrollado una extensión de navegador para la verificación de datos que permite a un LLM buscar en la web información actualizada antes de generar una respuesta (del mismo modo que muchos chatbots disponibles públicamente, como Grok). Pero esta estrategia no es infalible. Un estudio preliminar reveló que una versión de Grok de principios de 2025, por ejemplo, coincidía con los verificadores humanos solo en aproximadamente el 55 % de los casos cuando los usuarios le pedían que verificara afirmaciones. Los verificadores humanos coincidían con otros verificadores en cuanto a la exactitud de las afirmaciones en el 64 % de los casos —lo que ilustra lo difícil que puede resultar esta tarea—.

Mejorar el rendimiento

Sallami señala una de las razones de las actuales deficiencias en la precisión: los LLM suelen tener dificultades cuando se les proporciona información ambigua. Por eso, pueden tambalearse cuando encuentran pruebas contradictorias en la web, o malinterpretar las pruebas si el contexto de una afirmación no está claro. La afirmación “Mark Carney es primer ministro”, por ejemplo, solo es cierta en Canadá. En lugar de obligar a su modelo a dar inmediatamente una respuesta sobre si una afirmación es correcta o no, lo está entrenando para que reconozca cuándo una afirmación es ambigua y pida más información al usuario.

Algunos desarrolladores indican explícitamente a sus LLM que señalen cuándo no hay pruebas suficientes para respaldar una afirmación, explica Lademi Aborisade, periodista de investigación del Centro para la Innovación y el Desarrollo del Periodismo, una organización sin ánimo de lucro nigeriana. En 2024, la organización lanzó el bot de verificación de datos Dubawa, una herramienta basada en un LLM a la que la gente puede enviar mensajes por WhatsApp y que coteja las afirmaciones con artículos de medios de comunicación de prestigio. Si no hay información disponible, “el bot te avisa de que no hay pruebas suficientes para respaldar la afirmación”, en lugar de intentar dar una respuesta, explica. En tales casos, Aborisade y sus colegas pueden investigar a fondo las afirmaciones y publicar sus conclusiones en línea.

Otros grupos están utilizando los LLM para analizar las afirmaciones no por lo que se dice, sino por cómo se dice. Un proyecto denominado AI4Trust, una colaboración financiada por 15 instituciones de investigación europeas, desarrolló este tipo de herramientas basadas en IA para combatir la desinformación —información errónea creada y difundida deliberadamente—. Su plataforma incluye herramientas de análisis de vídeo y audio que buscan indicios de manipulación o de generación por IA.

En el caso de una de estas herramientas, los expertos programaron un LLM para que detectara 42 características comunes de la desinformación, como aludir a un grupo secreto de conspiradores o utilizar un lenguaje que manipule emocionalmente. “Damos instrucciones muy detalladas sobre lo que queremos detectar en el texto”, explica Georgios Petasis, de Demokritos, el Centro Nacional de Investigación Científica de Grecia, quien dirigió el análisis de contenido textual del proyecto. En comparación con los verificadores humanos, el LLM coincidió con ellos en el 70 % de los casos. Eso es suficiente para ayudar a periodistas y verificadores a señalar afirmaciones sospechosas que podrían merecer una investigación más profunda, afirma Petasis.

Los expertos sospechan que las empresas de redes sociales ya utilizan los LLM para detectar desinformación. Pero la abundancia de noticias falsas en las redes sociales plantea la cuestión de si la tecnología es eficaz o si se utiliza lo suficiente, o si las empresas están tomando las medidas adecuadas contra este tipo de contenido. Aunque las empresas de redes sociales han dado un paso atrás en la moderación de contenidos en sus plataformas en los últimos años, afirma West, sospecha que podrían volver a intensificarla tras los recientes casos judiciales en California y Nuevo México, en los que se declaró a Meta y Google responsables de causar daños a los usuarios jóvenes. Aunque estos casos judiciales se centraron en la seguridad y el diseño adictivo de las plataformas de redes sociales, West considera que pueden influir en la forma en que las empresas abordan problemas relacionados, como la amplificación de la desinformación en las redes sociales. (La cuestión de la responsabilidad por las falsedades generadas por la IA, tal y como las presentan los resúmenes de la IA en motores de búsqueda como Google, también salió a relucir en una sentencia judicial alemana de junio).

En un comunicado, YouTube afirmó que la plataforma utiliza una combinación de sistemas avanzados de detección y revisores humanos para hacer cumplir sus políticas sobre desinformación, que prohíben ciertos tipos de contenido engañoso o falaz que entrañen un riesgo grave de daño grave, como la promoción de remedios nocivos o la interferencia en los procesos democráticos. En el último trimestre de 2025, la plataforma eliminó 11.337 vídeos por infringir sus políticas sobre desinformación. TikTok, Meta y X no respondieron a las solicitudes de comentarios.

Más allá de la detección

Los modelos de lenguaje grande (LLM) pueden resultar útiles no solo para identificar la desinformación y la información errónea, sino también simplemente para dar sentido a la vasta mezcolanza de afirmaciones que circulan por Internet. West y sus colegas, por ejemplo, están utilizando los LLM para rastrear grupos de publicaciones en redes sociales que difunden narrativas engañosas o falsas y observar cómo surgen, proliferan y evolucionan esas historias con el tiempo.

Un ejemplo estadounidense es la teoría de la conspiración “stop the steal” (“detengamos el robo”), que se generalizó tras la elección de Joe Biden como presidente en 2020; numerosas publicaciones contenían acusaciones falsas de fraude electoral generalizado, así como información real pero engañosa, como un vídeo que mostraba cómo se negaba el acceso a un colegio electoral a los observadores electorales, pero no su posterior admisión una vez que los funcionarios se dieron cuenta de que habían cometido un error.

Resumir la narrativa general que subyace a esas innumerables publicaciones individuales es todo un reto, pero West considera que los modelos de lenguaje a gran escala (LLM) se desenvuelven bastante bien en este tipo de tareas de etiquetado. Cuando los gestores de crisis, los periodistas y los verificadores de datos no disponen de los recursos necesarios para abordar cada afirmación individual, los LLM pueden ayudar a caracterizar rápidamente la narrativa general para que pueda evaluarse y, si es necesario, desmentirse. “Si puedes abordar la narrativa a gran escala de lo que está sucediendo”, dice West, “eso te ayuda a abordar algo mucho más amplio”.

Investigadores han descubierto que la IA no solo puede aclarar, sino también cambiar, las creencias erróneas de las personas. En un estudio de 2024 publicado en Science, 2.190 estadounidenses que creían en una teoría de la conspiración —como que el alunizaje fue un montaje— chatearon con una versión de ChatGPT a la que se le había ordenado hacer cambiar de opinión a la persona. Sorprendentemente, el chatbot redujo la creencia de las personas en la teoría en un 20 % en promedio, una tasa de éxito superior a la de otras intervenciones, como la terapia, que se centran en la psicología subyacente que fomenta la adhesión a las conspiraciones.

(Science alertó recientemente a sus lectores sobre problemas con los datos del estudio; los autores han presentado datos corregidos e informan de que los resultados originales siguen siendo válidos.)

El científico social computacional Thomas Costello, de la Universidad Carnegie Mellon, que codirigió el estudio, afirma que este resultado demuestra que los argumentos basados en hechos pueden funcionar siempre que se dedique tiempo y esfuerzo a desarrollarlos, lo cual es posible dada la paciencia infinita de los modelos de lenguaje a gran escala (LLM). “De hecho, son increíblemente buenos a la hora de utilizar la razón y las pruebas para convencer a alguien de que abandone una creencia concreta”, afirma Costello.

Únase al canal de WhatsApp de Knowable en español

Haga clic aquí

Sin embargo, a pesar de la creciente capacidad de la IA para investigar y razonar, los expertos no suelen creer que esta tecnología pueda —o deba— considerarse un sustituto fiable de la verificación profesional de datos por parte de seres humanos, ya sea con el objetivo de disuadir, detectar, desmentir, etiquetar o restringir. Más bien, la mayoría de los científicos ven la IA principalmente como una forma de filtrar el aluvión cada vez mayor de desinformación y señalar contenidos que los periodistas, los verificadores de datos o las plataformas en línea puedan investigar más a fondo. Al fin y al cabo, confiar ciegamente en los resultados de herramientas de IA como los LLM —que son tan sesgados como los datos recopilados por humanos con los que se han entrenado— es una de las principales causas de los problemas que nos plantea la desinformación en primer lugar.

“No podemos confiar únicamente en la IA”, afirma Nguyen, quien compara el entrenamiento de los modelos de IA con la crianza de un niño. “Por supuesto que queremos que el niño sea autónomo, pero debemos observar el comportamiento del sistema e intentar corregirlo y guiarlo”.

(Los artículos periodísticos de Knowable Magazine son verificados por personas.)

Artículo traducido por Debbie Ponchner