La pelea de los medios contra la desinformación y las noticias falsas suma un nuevo capítulo en la disputa. Se sabe que buena parte de la información falsa que se divulga con la intención de influir en la opinión pública u ocultar la verdad es generada, multiplicada o se apoya en herramientas de inteligencia artificial.
Ante la magnitud de la desinformación y los potenciales riesgos de la IA generativa, Chequeado acaba de crear el Laboratorio de Inteligencia Artificial, un espacio integrado por un equipo multidisciplinario que busca incorporar esta tecnología en su trabajo para que los ayude a chequear más rápido, con mayor alcance y mejores chances de que el chequeo entre en la conversación pública donde la desinformación está circulando.
“Innovar permanentemente en las tecnologías, formatos y modos en los que nos relacionamos con nuestras audiencias es algo que aprendimos que tenemos que hacer para intentar llegar a cada vez más personas y aumentar nuestra contribución a una mejor conversación pública. Y desde 2016 trabajamos en Chequeado para integrar la inteligencia artificial en nuestros productos y procesos, y además compartir con la comunidad local e internacional del fact-checking nuestros avances”, señalan desde el medio digital de Argentina.
El área de Innovación de la primera organización dedicada a la verificación del discurso público en su país –y la primera de este tipo en América Latina- busca siempre estar a la vanguardia de la tecnología aplicada al fact-checking.
“El lanzamiento del Laboratorio de Innovación (como también lo llaman) es una manera de redoblar los esfuerzos en esta iniciativa, sobre todo en un tiempo donde los avances se han acelerado de manera significativa y todos los meses parece haber un nuevo quiebre, en particular en todo lo relacionado a los grandes modelos de lenguaje (LLM, por sus siglas en inglés) como ChatGPT, Gemini, Llama o Claude”, explica Joaquín Saralegui, jefe de Producto de Chequeado, sobre la decisión de explorar los potenciales usos de la IA generativa en el ámbito del fact-checking.
Hasta ahora ya evaluaron el desempeño de cuatro modelos de inteligencia artificial generativa en la simplificación de extractos de artículos sobre economía, estadísticas y elecciones, comparando sus resultados con versiones generadas por humanos. Asimismo, publicaron textos periodísticos en los que utilizaron asistencia de algunas de las herramientas analizadas, con supervisión de editores en todos los casos.
Un equipo especializado
El Laboratorio de IA está liderado por el área de Innovación de Chequeado, que incluye profesionales de perfiles variados: desde desarrolladores, periodistas, diseñadores, hasta comunicadores y líderes de producto.
“Aunque este es el equipo pensado para explorar y profundizar en las herramientas de IA, toda la organización está involucrada en el proceso de aprender, entender y usar estas herramientas”, destaca Saralegui.
Cómo integrar eficazmente la IA en las redacciones y aprovechar las oportunidades que esta tecnología ofrece es una de las preguntas que invade a la mayoría de los medios de comunicación.
Contar con un laboratorio especializado en IA Generativa ayudará al equipo periodístico de Chequeado a aumentar la eficiencia y la escala de su trabajo, principalmente en la tarea de detectar con mayor inmediatez y más fácilmente contenido falso. Pero también a encontrar el mejor formato para informar a su audiencia.
“Nuestra idea es que los aprendizajes sirvan para nuestro equipo y les ahorren tiempo y esfuerzo, que pueden ser utilizados en otros procesos de chequeos o asistencia en la generación de contenido”, plantea Saralegui.
Además de las publicaciones y guías que está haciendo sobre los resultados de las evaluaciones y pruebas, el equipo de IA de Chequeado da capacitaciones internas donde comparte los aprendizajes, para luego llevar a la práctica diaria lo que sí cumplió con los objetivos que buscaban. “De manera colaborativa buscamos introducir estas herramientas en el proceso de trabajo de toda la organización”, subraya el jefe de Producto que forma parte del nuevo laboratorio.
El nuevo laboratorio está impulsado por el fondo ENGAGE otorgado por la International Fact-Checking Network (IFCN) como parte del Global Fact Check Fund.
Por qué experimentar con IA Generativa
El Laboratorio centrará su trabajo en investigar y probar las funcionalidades de grandes modelos de lenguaje.
La aparición de los LLMs es uno de los quiebres tecnológicos más importantes de los últimos años. Y desde Chequeado creen que requieren especial atención tanto por su potencial impacto positivo como por su capacidad de generar información falsa.
“Uno de los objetivos es probar las herramientas más populares de IA generativa, pero no solo las de texto sino también las que están disponibles para audio, imágenes y video”, precisa Saralegui.
Estos recursos podrían servir, por ejemplo, para la redacción de verificaciones o la adaptación de contenido para redes sociales bajo supervisión humana.
Y puntualiza: “Nos interesa sacar conclusiones sobre los usos positivos de la IA generativa en fact-checking, pero también detectar posibles riesgos en un entorno controlado para mitigarlos adecuadamente a través de soluciones que incluyan la dimensión ética”.
Del problema a la solución
Las necesidades de la propia redacción de Chequeado influyeron en la elección de las herramientas que ya comenzó a evaluar el Laboratorio.
Según cuenta Saralegui, que es ingeniero en sistemas, antes de elegir qué herramientas iban a probar, llevaron adelante un proceso de dos meses de definición de necesidades e ideación de productos que incluyó a más de 15 integrantes de la organización.
“A través de sesiones de brainstorming y product discovery, descubrimos más de 40 aplicaciones potenciales para estas tecnologías en productos y flujos de trabajo. Luego de priorizar todas estas ideas, establecimos un plan de trabajo sobre las 10 principales, para evaluar en múltiples formatos la aplicación de distintas herramientas y su rendimiento”, especifica el product manager.
En cuanto al proceso de trabajo, lo primero que hacen es construir y validar una definición clara del problema que quieren solucionar.
A partir de eso, convocan a los involucrados de la organización en esa temática y de manera colaborativa construyen una o varias prompts que refinan a partir de múltiples iteraciones.
“Usando nuestro contenido como insumo, evaluamos la respuesta de estos modelos y su capacidad de resolver el problema planteado bajo diferentes criterios, como veracidad, cumplimiento de consigna, respeto de formatos, entre otros”, detalla Saralegui.
Otros parámetros que también se tienen en cuenta son la fiabilidad, el costo y el tiempo ahorrado.
“En todo el proceso interviene la revisión humana, y aún cuando alcanzamos resultados muy buenos, nuestra política es siempre revisar al detalle los contenidos generados por IA previa publicación”, remarca Saralegui.
Para transparentar su uso de cara a la audiencia, colocan un disclaimer en todo contenido publicado que utiliza IA generativa en su proceso de construcción, como se ve al final de esta investigación.
Hacer partícipe a la audiencia
La participación de la comunidad es un aspecto central para Chequeado. “La lucha contra la desinformación es en comunidad, y eso vale para cada instancia de nuestro trabajo”, sostienen desde el medio especializado en fact-checking.
La primera experimentación del equipo de IA Gen consistió en analizar cómo responden GPT-4, Claude Opus, Llama 3 y Gemini 1.5 para simplificar artículos complejos sobre economía, estadísticas y elecciones, y luego comparar los resultados con versiones generadas por humanos.
Para eso, realizaron una evaluación técnica manual y también una encuesta a potenciales lectores para conocer sus preferencias.
En total, 15 usuarios participaron de cinco rondas donde “debían elegir entre dos versiones de textos simplificados (o declarar un empate). Cada texto era generado por uno de los modelos o por un periodista”.
“Los resultados revelaron una preferencia de los encuestados por los formatos modificados, con punteados con viñetas y secciones de preguntas y respuestas. Esto sugiere que el formato es tan importante como el contenido para hacer accesibles conceptos complejos”, detalla Saralegui en esta nota donde volcó resultados, aprendizajes, metodología de trabajo y conclusiones del primer experimento.
“La mirada de potenciales lectores o usuarios aporta mucha información y claridad al proceso y nos permite entender mejor qué cosas funcionan y por qué en un entorno real de aplicación de estas estrategias”, profundiza Saralegui en su artículo.
La comunidad tiene otras instancias de participación: en el blog y en las redes sociales de Chequeado, donde periódicamente hacen públicos los resultados de los experimentos. Ahí pueden comentar, enviar preguntas y proponer otros experimentos o enfoques.
Compartir lo aprendido con chequeadores y periodistas
Desde sus comienzos, Chequeado se caracterizó por sociabilizar sus aprendizajes en materia de tecnología para la comunidad de fact-checking y periodismo.
En 2016, desarrolló Chequeabot, su propia herramienta de IA. Esta suite de aplicaciones para chequeadores hoy es utilizada en más de siete países.
En 2022, lanzó El Anotador, una newsletter bimestral con información y recursos útiles para periodistas y estudiantes de periodismo, con mucho foco en qué hicieron ellos mismos y qué de lo que estuvieron probando los ayudó a hacer mejores contenidos.
Ahora lo vuelve a hacer con su equipo de IA. En Chequeado son conscientes de que la integración de las tecnologías de IA, que evolucionan a un ritmo vertiginoso, no es equitativa en el ecosistema de medios, ya sea por falta de recursos o financiamiento.
“Queremos ayudar a otros chequeadores y periodistas a aprovechar las herramientas de IA generativa que probamos para aumentar su impacto. Nuestro objetivo es transparentar todo nuestro trabajo para que otros puedan aprovecharlo, y buscamos siempre evitar hacer esfuerzos duplicados”, resaltan desde la organización argentina.
Como complemento a las publicaciones que harán en su blog, hace unas semanas estrenaron un nuevo boletín, mensual, sobre tecnología e innovación: ChequIAdo.
[NUEVO] 📩 Estás a un click de recibir todos los meses nuestro nuevo newsletter ChequIAdo🤖 sobre temas, principalmente, de inteligencia artificial: aprendizajes, infografías, resultados de experimentos de nuestro Lab, datos y más…
Suscribite acá 👇 https://t.co/YlkASEccRM pic.twitter.com/kwfA85yH6f
— Chequeado (@Chequeado) June 28, 2024
“El newsletter nos da la posibilidad de compartir las enseñanzas de nuestro Laboratorio de Innovación y también ofrecer a los suscriptores una curación de contenido para estar actualizados con las últimas novedades que aparecen”, cuenta Ariel Tiferes, jefe de Innovación y autor del nuevo producto editorial.
“Además de incluir una sección dedicada a los temas más relevantes sobre desinformación e inteligencia artificial, también elegimos una selección de artículos que le pueden ser de utilidad a quienes están interesados en tener un panorama integral de lo que está sucediendo en esta industria”, profundiza Tiferes.
Por otra parte, en cada edición un referente de IA en Argentina será entrevistado y brindará su visión sobre las mejores prácticas y su visión sobre el futuro.
