Imaginile video false generate de Inteligența Artificială sunt din ce în ce mai frecvente și mai convingătoare. Acestea devin amenințări pentru securitatea personală, dar și amenințări pentru presă și chiar guverne.
Deepfake este un termen folosit pentru producerea, manipularea și modificarea artificială a datelor în mod deliberat prin utilizarea algoritmilor de inteligență artificială. Scopul acestor produse este inducerea în eroare a oamenilor sau schimbarea unui sens original și crearea de imagini cu evenimente false.
Pentru ce sunt create?
Multe sunt pornografice. Compania AI Deeptrace a găsit 15.000 de videoclipuri deepfake în mediul online în septembrie 2019. 96% au fost videoclipuri pornografice și 99% dintre fețe au fost „decupate” de la vedete feminine și plasate pe imagini cu actrițe porno. Deoarece noile tehnici permit oamenilor necalificați să facă deepfake-uri cu doar câteva fotografii, este posibil ca videoclipurile false să se răspândească dincolo de lumea celebrităților și să alimenteze fenomenul de porno din răzbunare.
Un exemplu de tehnologie deepfake: într-o scenă din filmul Man of Steel, actrița Amy Adams din original (stânga) este modificată pentru a avea fața actorului Nicolas Cage (dreapta)
Care sunt riscurile?
Deepfake-urile, alături de alte mass-media sintetice și știri false, pot contribui la crearea unei societăți cu zero încredere, în care oamenii nu pot sau nu se mai obosesc să distingă adevărul de falsitate.
Pe măsură ce tehnologia devine mai accesibilă, deepfake-urile ar putea însemna probleme pentru instanțe, unde evenimentele falsificate ar putea fi introduse ca dovezi. Dar prezintă și un risc personal: deepfake-urile pot imita datele biometrice și pot păcăli sisteme care se bazează pe recunoașterea feței, vocii sau mersului.
Este vorba doar despre videoclipuri?
Nu. Tehnologia Deepfake poate crea de la zero fotografii convingătoare, dar complet fictive. Și sunetul poate fi preluat, pentru a crea „clone vocale” de personalități publice. În 2019, directorul regional al unei companii din Marea Britanie a plătit aproape 200.000 de lire sterline într-un cont bancar maghiar, după ce a fost sunat, aparent, de directorul general al companiei din Germania.
Cine face deepfake-urile?
Toată lumea, de la cercetători universitari și industriali, studiouri de efecte vizuale și producători de porno, la simpli amatori de grafică vizuală. S-ar putea ca și guvernele să se implice în tehnologie, ca parte a strategiilor lor de a discredita și perturba grupurile extremiste, de exemplu.
De ce tehnologie e nevoie?
Majoritatea deepfake-urilor sunt create pe computere cu plăci grafice puternice sau cu putere de calcul în cloud. Acest lucru reduce timpul de procesare de la zile și săptămâni la ore. Dar este nevoie și de expertiză pentru a reduce defectele vizuale.
Cum depistezi un deepfake?
Devine mai greu să le depistezi, pe măsură ce tehnologia se îmbunătățește. În 2018, cercetătorii americani au descoperit că fețele deepfake nu clipesc normal. Nicio surpriză acolo: majoritatea imaginilor arată oameni cu ochii deschiși, astfel încât algoritmii nu învață niciodată cu adevărat despre clipire. Însă imediat după publicarea cercetării, au apărut deepfake-uri cu clipire. Mai sunt și alte indicii precum că o imagine este falsă, cum ar fi mișcarea buzelor, părul sau culoarea tenului.
Guvernele, universitățile și dezvoltatorii de tehnologii finanțează toate cercetările pentru a detecta deepfake-urile. În 2020 a început prima campanie de Deepfake Detection Challenge, susținută de Microsoft, Facebook și Amazon. Aceasta include echipe de cercetare din întreaga lume care concurează pentru supremație în jocul de detectare deepfake.
Care este soluția?
În mod ironic, Inteligența Artificială poate fi răspunsul. Inteligența artificială ajută deja la detectarea videoclipurilor false. O altă strategie se concentrează pe proveniența mediei unde apare un clip de acest gen. Amprentele digitale nu pot da greș, iar un sistem de contabilitate online ar putea înregistra versiunea originală a videoclipurilor, imaginilor și a sunetului, astfel încât originile lor și orice manipulări pot fi întotdeauna verificate.
Sursa: The Guardian
Sursa imagine: The Washington Post via Getty Images
