La expansión de la inteligencia artificial (IA) está transformando el entorno informativo, generando oportunidades para combatir la desinformación, pero también riesgos debido a su capacidad para crear contenidos falsos altamente persuasivos. Una guía, desarrollada por Chequeado con el apoyo de Google News Initiative, ofrece soluciones concretas para abordar estos retos en el ámbito educativo y profesional. Su propósito es capacitar a docentes y estudiantes en la detección y mitigación de la desinformación mediante el uso de herramientas basadas en IA.
La guía pone énfasis en soluciones prácticas para abordar la desinformación. Incluye herramientas específicas para generar textos, imágenes, audios y vídeos, así como verificadores diseñados para detectar contenido manipulado. Estas herramientas permiten a estudiantes y docentes explorar los riesgos y las oportunidades que presenta la IA, mientras desarrollan habilidades críticas para analizar y verificar información.
Herramientas para verificar textos
La proliferación de modelos de lenguaje como ChatGPT y Google Gemini ha multiplicado la capacidad de generar textos convincentes. Esto hace necesario utilizar herramientas de verificación para evaluar su autenticidad.
- Quillbot: analiza patrones lingüísticos para identificar textos generados por IA. Examina repeticiones, incoherencias y términos inusuales.
- Hive Moderation: evalúa en porcentajes la probabilidad de que un texto haya sido creado por IA. Funciona como extensión para navegadores.
- Desgrabador de Chequeado: convierte videos en texto y permite analizar declaraciones en busca de inconsistencias o afirmaciones verificables.
Aplicación en el aula: se recomienda pedir a los estudiantes que generen textos con modelos de lenguaje como ChatGPT y los verifiquen utilizando estas herramientas. Luego, compararán resultados y analizarán patrones.
Ejercicio sugerido:
- Crear un artículo sobre un evento ficticio utilizando ChatGPT.
- Someter el texto a verificación con Quillbot y Hive Moderation.
- Presentar hallazgos en clase y discutir posibles errores detectados.
Verificación de imágenes
Las imágenes generadas por IA representan un desafío significativo para la verificación visual. Herramientas específicas pueden ayudar a detectar manipulaciones.
- Google Imágenes: realiza búsquedas inversas para verificar la procedencia de una imagen y encontrar versiones anteriores.
- Hive Moderation: detecta imágenes generadas por IA, incluidas aquellas creadas por plataformas como DALL-E.
- Hugging Face: estima la probabilidad de que una imagen sea artificial, permitiendo un análisis preliminar.
Ejercicio propuesto:
- Crear imágenes manipuladas con herramientas como DALL-E o Copilot Designer.
- Analizarlas con verificadores para detectar inconsistencias como sombras o proporciones anatómicas erróneas.
- Comparar resultados y elaborar informes sobre las conclusiones.
Verificación de vídeos y audios
El contenido audiovisual creado o manipulado por IA, como los deepfakes, plantea nuevos retos. Herramientas avanzadas permiten detectar alteraciones.
- Deepware Scanner: Analiza vídeos para detectar manipulación en los rostros.
- AI Speech Classifier: Identifica audios creados mediante inteligencia artificial y evalúa su autenticidad.
Aplicación práctica:
- Analizar vídeos virales sospechosos usando estas herramientas.
- Determinar su autenticidad y discutir en clase los posibles riesgos para la opinión pública.
Ejemplos concretos de desinformación abordada con IA
- Caso Donald Trump: supuestas imágenes del arresto de Trump fueron desmentidas al analizarse con herramientas como Google Lens y Hive Moderation.
- Explosión en el Pentágono: una imagen manipulada provocó una caída temporal en la Bolsa de Nueva York. Su falsedad fue confirmada mediante verificación inversa.
- Video de Evo Morales: un video promocional falso fue desmontado al compararlo con entrevistas originales en medios confiables.
Estrategia educativa: Usar estos casos como estudios de análisis en el aula, pidiendo a los estudiantes que repliquen los procesos de verificación con herramientas propuestas.
Ejercicios complementarios:
- Caso Assange: Evaluar imágenes manipuladas del fundador de WikiLeaks.
- Caso Macron: Analizar un video falso del presidente de Francia en un contexto íntimo manipulado por IA.
Estrategias pedagógicas para la enseñanza crítica
La guía incluye actividades prácticas para fomentar el pensamiento crítico y la alfabetización digital entre los estudiantes. Algunas propuestas incluyen:
- Análisis comparativo de contenido: Evaluar videos reales y manipulados para identificar inconsistencias visuales y auditivas.
- Desarrollo de prompts efectivos: Enseñar a generar instrucciones claras para obtener respuestas precisas de modelos de IA.
- Campañas de concienciación: Crear materiales educativos para redes sociales que enseñen a la población a identificar desinformación.
- Debates éticos: Analizar los dilemas éticos asociados al uso de IA en la producción de contenidos.
Ejercicio práctico:
- Crear un tutorial para redes sociales sobre herramientas de verificación.
- Evaluar su impacto mediante comentarios y respuestas recibidas en línea.
La inteligencia artificial ofrece herramientas efectivas para identificar y combatir la desinformación, pero su uso también plantea riesgos significativos. Esta guía subraya la importancia de capacitar a los estudiantes en la verificación de contenidos y en la utilización ética de estas tecnologías. Al integrar actividades prácticas y herramientas accesibles en el aula, se fomenta un pensamiento crítico que permite navegar un entorno informativo cada vez más complejo.
La clave radica en mantener un equilibrio entre la innovación tecnológica y la responsabilidad ética, asegurando que las próximas generaciones estén preparadas para enfrentar las amenazas de la desinformación con habilidades sólidas y recursos avanzados.
Pasos siguientes:
- Profundizar en la implementación de estas herramientas en programas académicos.
- Evaluar periódicamente los resultados de las estrategias aplicadas.
- Actualizar los contenidos en función de los avances tecnológicos para mantener la efectividad en la lucha contra la desinformación.
Más información:
[Guía en PDF] Inteligencia artificial y desinformación. Herramientas y estrategias para abordar en las aulas
