Lanza Google una herramienta ‘anti deep fakes’

Google Deep Mind anunció una versión beta de SynthID. La herramienta marcará e identificará imágenes generadas por IA incrustando una marca de agua digital directamente en los píxeles de una imagen. La misma será imperceptible para el ojo humano pero detectable para su identificación.

Kris Bondi, director general y fundador de Mimoto, una empresa de ciberseguridad de detección y respuesta proactivas, dijo que aunque el SynthID de Google es un punto de partida, el problema de las falsificaciones profundas no se arreglará con una única solución.

Ciberseguridad

“La gente olvida que hay muchos actores malintencionados también en el negocio. Sus tácticas y tecnologías evolucionan continuamente, se ponen a disposición de más actores malos, y el costo de sus técnicas, como las Deep Fakes , baja”, dijo Bondi.

“El ecosistema de la ciberseguridad necesita múltiples enfoques para hacer frente a las Deep Fakes, con colaboración para desarrollar enfoques de arquitectura flexible que evolucionen para satisfacer y superar la tecnología de los malos actores”, añade Bondi.

Ulrik Stig Hansen, cofundador de Encord, una plataforma de datos de entrenamiento de visión por ordenador con sede en Londres, afirma que no cabe duda de que la detección de las falsificaciones será uno de los retos importantes del futuro.

“Lo hemos visto una y otra vez con las nuevas tecnologías, y no es diferente con la IA Generativa: al igual que se está utilizando de formas abrumadoramente positivas (por ejemplo, diagnósticos más baratos en la atención sanitaria, recuperación más rápida en caso de catástrofe), habrá vulnerabilidades para quienes busquen explotarlas”, añade Hansen.

Marca de agua

“Será más una cuestión de la rapidez con que las aplicaciones preventivas puedan progresar y de cómo se configure la regulación en torno a este espacio”, afirma Hansen.

Marca de agua digital es un término creado por Andrew Tirkel y Charles Osborne en 1992. La marca de agua es una forma de identificar el origen y la autenticidad de las imágenes. Otras formas de identificar imágenes son a través de sus metadatos. Sin embargo, los metadatos pueden eliminarse o modificarse, lo que disminuye la confianza en la autenticidad de la imagen.

Fuente: forbesargentina.com