Strumento basato su Blockchain per il rilevamento di deepfake

Martedì Fox Corp. ha suscitato scalpore nei circoli dei media quando ha annunciato il lancio di “Verify”, un nuovo strumento basato su blockchain per verificare l’autenticità dei media digitali nell’era dell’intelligenza artificiale.

Il progetto affronta un paio di problemi sempre più spinosi: l’intelligenza artificiale sta rendendo più facile la comparsa di contenuti “deepfake” che ingannano i lettori, e gli editori scoprono spesso che i loro contenuti sono stati utilizzati per addestrare modelli di intelligenza artificiale senza autorizzazione.

Un approccio cinico potrebbe essere che si tratti solo di una grande mossa di pubbliche relazioni. Mescolare “AI” e “Blockchain” insieme in uno stufato di parole d’ordine per contribuire a creare “fiducia nelle notizie” sembra un ottimo foraggio per la stampa, soprattutto se sei un conglomerato mediatico che invecchia con problemi di credibilità. Abbiamo visto tutti Succession, vero?

Ma mettiamo da parte per un momento l’ironia e prendiamo sul serio Fox e il suo nuovo strumento. Per quanto riguarda i falsi profondi, Fox afferma che le persone possono caricare URL e immagini nel sistema Verify per determinare se sono autentici, il che significa che un editore li ha aggiunti al database Verify. Dal punto di vista della licenza, le società di intelligenza artificiale possono utilizzare il database Verify per accedere (e pagare) ai contenuti in modo conforme.

Blockchain Creative Labs, il braccio tecnologico interno di Fox, ha collaborato con Polygon, la blockchain a basso costo e ad alto rendimento che funziona sulla vasta rete Ethereum, per alimentare le cose dietro le quinte. Aggiungere nuovi contenuti a Verify significa essenzialmente aggiungere una voce a un database sulla blockchain di Polygon, dove sono archiviati i suoi metadati e altre informazioni.

A differenza di tanti altri esperimenti crittografici, il collegamento blockchain questa volta potrebbe avere un senso: Polygon fornisce ai contenuti su Verify una traccia di controllo immutabile e garantisce che gli editori di terze parti non debbano fidarsi di Fox per gestire i propri dati.

Verify nel suo stato attuale sembra un po’ un glorificato controllo di database, una semplice app Web che utilizza la tecnologia di Polygon per tenere traccia di immagini e URL. Ma ciò non significa che sia inutile, in particolare quando si tratta di aiutare gli editori legacy a gestire gli accordi di licenza nel mondo dei grandi modelli linguistici.

Verifica per i consumatori
Siamo andati avanti e abbiamo caricato alcuni contenuti nell’app Web di Verify per vedere come funziona nell’uso quotidiano e non ci è voluto molto per notare i limiti dell’app per il caso d’uso del consumatore.

L’app Verify dispone di una casella di immissione testo per gli URL. Quando abbiamo incollato un articolo di Fox News di martedì su Elon Musk e i deep fake (che erano presenti in primo piano sul sito) e abbiamo premuto “Invio”, sono apparse una serie di informazioni che attestavano la provenienza dell’articolo. Insieme all’hash della transazione e alla firma (i dati per la transazione blockchain di Polygon che rappresentano il contenuto), l’app Verify mostrava anche i metadati associati all’articolo, le informazioni sulla licenza e una serie di immagini che appaiono nel contenuto.