LOGIN
Per affrontare le sfide poste dai contenuti generati dall'intelligenza artificiale generativa, la divisione di ricerca sull'intelligenza artificiale Google DeepMind, in collaborazione con Google Cloud, ha sviluppato SynthID.
Uno strumento progettato per filigranare e identificare le immagini generate dall'AI. Disponibile in versione beta per utenti selezionati di Vertex AI (la piattaforma di Google per la creazione di app e modelli di intelligenza artificiale), SynthID supporta solo Imagen, il modello text-to-image di Big G.
Mentre le preoccupazioni sulla diffusione della disinformazione e dei deep fake sono in crescita, SynthID emerge come un potenziale punto di svolta fornendo un metodo per distinguere i contenuti generati dall'intelligenza artificiale dalle immagini autentiche. Un passo significativo verso la promozione della creazione e del consumo responsabile di media basati sull’intelligenza artificiale.
SynthID contro disinformazione e deep fake
Attraverso l'incorporamento di una filigrana digitale impercettibile direttamente nei pixel dell'immagine, SynthID garantisce che la filigrana rimanga apparentemente impercettibile all'occhio umano pur essendo facilmente identificabile da un algoritmo. Una tecnica di watermarking che va oltre l’idea iniziale di usare metadati per segnalare i media visivi creati dall’AI.
Sviluppato e perfezionato in collaborazione con Google Research (il team di ricerca e sviluppo di Google), SynthID combina due modelli di intelligenza artificiale: uno per la filigrana e un altro per l'identificazione. Entrambi addestrati su un set diverso di immagini.
L'efficacia di SynthID non è intaccata da semplici modifiche, come filtri, cambi di colore, o compressione. Tuttavia, non è infallibile. Quello che fa SynthID è comunicare all’utente la probabilità che un'immagine sia stata generata dall’AI e quindi contenga una filigrana restituendo uno di tre risultati: “Digital watermark detected”, “Digital watermark NOT detected”, “Digital watermark POSSIBLY detected”.
Detto ciò, fornisce comunque un approccio tecnico promettente per consentire a persone e organizzazioni di lavorare in modo responsabile con l’AI. Inoltre, come precisa DeepMind potrebbe anche evolversi insieme ad altri modelli ed essere adattato a file audio, video e testo.
Alla ricerca di una filigrana per l'AI generativa
Sebbene SynthID sia attualmente in grado di operare con Imagen di Google, i creatori dello strumento hanno espresso l'intenzione di espandere la sua disponibilità a terze parti. Questo passaggio potrebbe avere implicazioni significative per i generatori di immagini AI open source, stabilendo potenzialmente un nuovo standard per il rilevamento dei contenuti generati dall’IA.
SynthID di Google non è l'unico attore nella ricerca dell'autenticità dei contenuti generati dall'AI. Anche altre entità, tra cui startup e grandi aziende tecnologiche, si stanno avventurando in soluzioni di watermarking per l’intelligenza artificiale generativa.
Microsoft, ad esempio, si è impegnata a filigranare immagini e video generati dall’intelligenza artificiale utilizzando metodi crittografici. Shutterstock e la startup Midjourney hanno adottato linee guida per incorporare un indicatore sul contenuto creato da uno strumento di GenAI. E DALL-E 2 di OpenAI inserisce una piccola filigrana in basso a destra delle immagini che genera.
Le sfide di oggi e quello che verrà
Nonostante la sua promessa, SynthID deve affrontare l'inevitabile sfida di una corsa agli armamenti con potenziali avversari che cercano di aggirare o manipolare il suo watermarking. Il CEO di DeepMind, Demis Hassabis, riconosce la necessità di un approccio dinamico e adattabile, simile al software antivirus, per contrastare efficacemente le minacce emergenti.
In realtà, anche rivenditori, operatori di marketing e creatori di contenuti potrebbero trarre vantaggio dalle sue capacità di rilevamento dell’intelligenza artificiale. Tanto che Google prevede un'integrazione più ampia, potenzialmente come un'estensione di Chrome. Tuttavia, le discussioni sulla sua integrazione, aspetto ed esperienza utente giocheranno un ruolo fondamentale nella sua adozione ed efficacia.
Per saperne di più: Intelligenza Artificiale, cos'è e cosa può fare per noi
