Meta ha anunciado la eliminación de diversas campañas de desinformación en sus plataformas que utilizaban contenido generado por inteligencia artificial (IA). En un informe de seguridad trimestral, la compañía dirigida por Mark Zuckerberg ha detectado el uso de comentarios y publicaciones generados por IA que elogiaban la gestión de Israel en la guerra de Gaza.
Según el informe, estas publicaciones intentaban influir en la opinión pública en plataformas como Facebook e Instagram, dirigidas a audiencias en Estados Unidos y Canadá.
La tecnológica ha identificado a la empresa de marketing político israelí STOIC como responsable de una de estas operaciones. Además, Meta ha descubierto campañas similares originadas en países como China, Irán y Rusia, que también recurrieron a herramientas de IA para generar desinformación.
Entre las redes descubiertas se encontraba una que compartía imágenes de carteles generados por IA que promovían un movimiento pro-sij ficticio.
El jefe de investigaciones de amenazas de Meta, Mike Dvilyanski, ha destacado que aunque la IA generativa permite la creación rápida y económica de contenido, aún no ha desafiado la capacidad de la empresa para detectar y eliminar estas redes de desinformación.
La firma ha hecho hincapié en el uso de sistemas de etiquetado digital para identificar contenido generado por IA en el momento de su creación, aunque la eficacia de estas herramientas sigue siendo objeto de estudio, especialmente para el texto.
El anuncio sigue a la eliminación de cientos de cuentas asociadas a campañas de influencia encubiertas que utilizaban IA para influir en los usuarios de las plataformas de Meta, incluyendo Facebook, Instagram y WhatsApp.
