Google ha anunciado la expansión de su tecnología de marcas de agua y detección de contenido generado por inteligencia artificial (IA), que ahora podrá marcar también videos y textos generados digitalmente. Esta novedad fue presentada por Demis Hassabis, CEO de DeepMind, durante la conferencia de desarrolladores Google I/O el martes.
El sistema de marcas de agua, conocido como SynthID, fue inicialmente lanzado en agosto pasado como una herramienta diseñada para marcar imágenes generadas por IA de manera que los humanos no puedan percibir visualmente, pero que sí pueden ser detectadas por el sistema. Esta herramienta ahora incluye la capacidad de inyectar marcas de agua inaudibles en música generada por IA usando el modelo Lyria de DeepMind y se ha ampliado para incluir textos y videos.
La importancia de marcar contenido generado por IA está aumentando a medida que la tecnología se vuelve más prevalente y se usa con fines maliciosos, incluyendo la difusión de desinformación política, afirmaciones falsas, y la creación de contenido sexual no consensual.
El enfoque de Google con SynthID difiere de otros protocolos de marcas de agua como el C2PA, que añade metadatos criptográficos al contenido generado por IA. SynthID es solo una de varias medidas de seguridad en desarrollo para combatir el mal uso de la tecnología, medidas que la administración Biden está instando a las agencias federales a establecer directrices, informa The Verge.
