¿Viste esa imagen del papa Francisco con una chaqueta acolchada blanca y un crucifijo enjoyado, como si hubiera salido de una pasarela de ropa urbana? Hemos visto deepfakes antes, pero pocos tuvieron este impacto. Y ahora, Google ha lanzado SynthID, una herramienta que evitará que imágenes como ésta se difundan sin control.
¿Como funciona SynthID?
Deep Mind, un laboratorio de investigación de Inteligencia Artificial que Google adquirió hace años, anunció recientemente el lanzamiento de SynthID, una herramienta de marca de agua diseñada específicamente para detectar imágenes generadas por Inteligencia Artificial.
«Ser capaz de identificar el contenido generado por Inteligencia Artificial es fundamental para que las personas sepan cuándo interactúan con los medios generados y para ayudar a prevenir la difusión de información errónea», dijo el equipo de Deep Mind.
A diferencia de las técnicas tradicionales de marcas de agua, que a menudo se basan en marcas de agua visibles o metadatos que pueden perderse, Deep Mind incorpora una marca de agua digital en los píxeles de una imagen.
Entonces, incluso si se modifica la imagen (recortando, cambiando el tamaño, filtros, ajustes de brillo), la marca de agua permanece. El ojo humano no lo detectará, pero el software de detección puede identificarlo.
¿No es lo suficientemente específico? Bueno, eso es todo lo que el equipo está dispuesto a compartir sobre esta tecnología.
«Cuanto más se revele sobre cómo funciona, más fácil será para los piratas informáticos y las entidades maliciosas sortearlo», dijo el director ejecutivo Demis Hassabis a The Verge.
Actualmente en versión beta, SynthID está disponible para los usuarios de Imagen (un producto de Google Cloud) que utilizan Vertex AI, una plataforma de aprendizaje automático basada en la nube. Los clientes podrán crear, compartir e identificar de manera responsable imágenes generadas por Inteligencia Artificial.
Hassabis añade que la tecnología no es infalible contra las “manipulaciones extremas de imágenes”, pero avanza en la dirección correcta.
¿Qué será lo siguiente?
El equipo de Deep Mind está trabajando para ampliar el acceso a SynthID para ponerlo a disposición de terceros e integrarlo en más productos de Google.
Este anuncio se produjo poco después de que Google y seis importantes actores de la Inteligencia Artificial asistieran a una cumbre en la Casa Blanca y se comprometieran a invertir en herramientas de seguridad de Inteligencia Artificial e investigación para un uso responsable.
En el comunicado, la Casa Blanca solicitó una nueva tecnología de marcas de agua como una forma para que las empresas de Inteligencia Artificial se ganen la confianza del público. Y según el informe de The Verge, es probable que el software se extienda al contenido de audio y visual.
Esta cumbre continuó el esfuerzo del gobierno para combatir las falsificaciones profundas. En 2021, el Comité de Asuntos Gubernamentales y Seguridad Nacional aprobó la Ley del Grupo de Trabajo Deepfake, que es exactamente lo que parece.
En el extremo claro del espectro, están las falsificaciones profundas que se utilizan para diseñar al papa con las últimas tendencias de la moda. En el lado oscuro, pueden conducir a inestabilidad política, fraude y manipulación de acciones.
En 2021, Adobe cofundó la Coalición sin fines de lucro para la procedencia y autenticidad del contenido (C2PA). La coalición existe para estandarizar cómo se etiqueta el contenido de los medios y combatir la desinformación. Servirán como sello de aprobación y mostrarán a los consumidores que un activo no fue manipulado ni alterado.
Debido al auge de la Inteligencia Artificial, la membresía de C2PA ha crecido un 56% en los últimos seis meses, según un artículo de MIT Technology Review.
Shutterstock anunció a finales de julio que integraría el protocolo técnico de C2PA en sus sistemas de inteligencia artificial y herramientas de creatividad, incluido el generador de imágenes de inteligencia artificial.
Más información
- Las tres amenazas deepfake más peligrosas de 2023
- Consejos para detectar deepfakes y protegerse de ellos
- Desafíos de ciberseguridad: la amenaza creciente de los deepfakes
