Adobe ha creato uno strumento deepfake, ma non sa cosa farne

I deepfake hanno avuto un enorme impatto sul mondo dell’editing di immagini, audio e video, quindi perché Adobe, colosso aziendale del mondo dei contenuti, non si fa coinvolgere di più? Bene, la risposta breve è che lo è, ma lentamente e con attenzione. Alla conferenza annuale Max dell’azienda di oggi, ha presentato uno strumento prototipo chiamato Project Morpheus che dimostra sia il potenziale che i problemi dell’integrazione delle tecniche deepfake nei suoi prodotti.

Project Morpheus è fondamentalmente una versione video dei filtri neurali dell’azienda, introdotti in Photoshop lo scorso anno. Questi filtri utilizzano l’apprendimento automatico per regolare l’aspetto di un soggetto, modificando elementi come l’età, il colore dei capelli e l’espressione facciale (per cambiare un’espressione di sorpresa in una di rabbia, ad esempio). Morpheus apporta tutte quelle stesse modifiche ai contenuti video aggiungendo alcuni nuovi filtri, come la possibilità di cambiare i peli del viso e gli occhiali. Pensalo come una schermata di creazione del personaggio per gli umani.

I risultati non sono sicuramente impeccabili e hanno una portata molto limitata in relazione al più ampio mondo dei deepfake. Puoi solo apportare piccole modifiche preordinate all’aspetto delle persone di fronte alla telecamera e non puoi fare cose come lo scambio di volti, ad esempio. Ma la qualità migliorerà rapidamente e, sebbene la funzionalità sia solo un prototipo per ora senza alcuna garanzia che apparirà nel software Adobe, è chiaramente qualcosa che l’azienda sta studiando seriamente.

Ciò che è anche Project Morpheus, tuttavia, è uno strumento deepfake, che è potenzialmente un problema. Uno grosso. Perché i deepfake e tutto ciò che è associato a loro, dalla pornografia non consensuale alla propaganda politica, non sono esattamente buoni per gli affari.

Ora, data la scioltezza con cui definiamo i deepfake in questi giorni, Adobe ha probabilmente realizzato tali strumenti per anni. Questi includono i suddetti filtri neurali, nonché strumenti più funzionali come il mascheramento e la segmentazione assistiti dall’intelligenza artificiale. Ma Project Morpheus è ovviamente molto di più deepfakey rispetto ai precedenti sforzi dell’azienda. Si tratta di modificare le riprese video di esseri umani, in modi che molti probabilmente troveranno inquietanti o manipolativi.

Cambiare l’espressione facciale di qualcuno in un video, ad esempio, potrebbe essere usato da un regista per dare un pugno a una brutta ripresa, ma potrebbe anche essere usato per creare propaganda politica, ad esempio far apparire rilassato un dissidente incarcerato nel filmato del tribunale quando è davvero essere affamato a morte. È ciò che i fanatici della politica chiamano “tecnologia a duplice uso”, che è un modo scattante per dire che la tecnologia è “a volte forse buona, a volte forse merda”.

Questo, senza dubbio, è il motivo per cui Adobe non ha usato una volta la parola “deepfake” per descrivere la tecnologia in nessuno dei materiali informativi che ha inviato a Il Verge. E quando abbiamo chiesto il motivo, l’azienda non ha risposto direttamente, ma ha invece fornito una lunga risposta su quanto prende sul serio le minacce poste dai deepfake e cosa sta facendo al riguardo.

Gli sforzi di Adobe in queste aree sembrano coinvolti e sinceri (sono principalmente concentrati su schemi di autenticazione dei contenuti), ma non mitigano un problema commerciale che l’azienda deve affrontare: gli stessi strumenti deepfake che sarebbero più utili per la sua base di clienti sono anche quelli potenzialmente più distruttivi.

Prendi, ad esempio, la capacità di incollare la faccia di qualcuno sul corpo di qualcun altro, probabilmente l’applicazione ur-deepfake che ha dato il via a tutto questo fastidio. Potresti volere un tale scambio di faccia per motivi legittimi, come concedere in licenza la somiglianza di Bruce Willis per un serie di annunci per cellulari in Russia). Ma potresti anche creare pornografia non consensuale per molestare, intimidire o ricattare qualcuno (di gran lunga l’applicazione dannosa più comune di questa tecnologia).

Indipendentemente dal tuo intento, se vuoi creare questo tipo di deepfake, hai molte opzioni, nessuna delle quali proviene da Adobe. Puoi assumere uno studio di contenuti deepfake boutique, litigare con alcuni software open source o, se non ti dispiace che i tuoi scambi di volti siano limitati a meme e gif preapprovati, puoi scaricare un’app. Cosa tu non posso fare è avviare Adobe Premiere o After Effects. Quindi cambierà in futuro?

È impossibile dirlo con certezza, ma penso che sia sicuramente una possibilità. Dopotutto, Adobe è sopravvissuta all’avvento di “Photoshopped” diventando un’abbreviazione per immagini modificate digitalmente in generale, e spesso con connotazioni negative. E nel bene e nel male, i deepfake stanno lentamente perdendo le proprie associazioni negative man mano che vengono adottati in progetti più tradizionali. Project Morpheus è uno strumento deepfake con alcuni seri guardrail (puoi apportare solo modifiche prescritte e non c’è scambio di volti, ad esempio), ma mostra che Adobe è determinata a esplorare questo territorio, presumibilmente mentre misura le reazioni dell’industria e del pubblico.

È appropriato che poiché “deepfake” ha sostituito “Photoshopped” come accusa di falsità nella sfera pubblica, Adobe si sente forse esclusa. Il progetto Morpheus suggerisce che potrebbe recuperare presto.

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *