Denumite „deepfake”, aceste videoclipuri pot fi utilizate în diferite scopuri nefaste, iar poate cel mai îngrijorător dintre ele este pentru dezinformare politică. Din acest motiv, Facebook și alte rețele de social media interzic astfel de videoclipuri false pe platformele lor. Dar aplicarea unor astfel de interdicții nu este simplă.

Facebook lucrează din greu pentru a dezvolta software care poate detecta deepfake-urile. Dar aceste eforturi vor motiva, fără îndoială, doar dezvoltarea de software pentru crearea unor falsuri și mai bune, care pot trece de instrumentele de detectare disponibile.

Acest joc de-a șoarecele și pisica va continua probabil în viitorul previzibil. Cu toate acestea, unele cercetări recente promit să ofere o soluție pentru identificarea promptă a acestor falsuri.

Într-un articol intitulat „FakeCatcher: Detection of Synthetic Portrait Videos using Biological Signals”, autorii descriu un software care profită de faptul că videoclipurile reale conțin semnale fiziologice care nu sunt vizibile ochiului, citează Playtech.

În mod concret, măsoară schimbările de culoare rezultate din circulația sângelui

Un videoclip, cu fața unei persoane conține schimbări subtile de culoare care rezultă din impulsurile din circulația sângelui.

Chiar dacă ai putea crede că aceste modificări sunt prea minuscule pentru a fi detectate doar dintr-un videoclip, prin exgerarea acestor schimbări de culoare, problema este foarte ușor rezolvată.

Acest fenomen stă la baza unei tehnici numite fotopletismografie (PPG) pe scurt, care poate fi utilizată, de exemplu, pentru a monitoriza nou-născuții fără a fi nevoie să atașeze nimic pe pielea lor foarte sensibilă.

Care sunt diferențele?

Deepfake-urilor nu le lipsesc astfel de schimbări de culoare induse de circulație, însă este ușor să-ți dai seama că nu le recreează cu o fidelitate perfectă.

Cercetătorii de la SUNY și Intel au descoperit că „semnalele biologice nu sunt păstrate în mod coerent în diferite părți ale feței create sintetic”, iar „conținutul sintetic nu conține cadre cu PPG stabil”.

În termeni concreți, acest lucru presupune că deepfake-urile nu pot imita în mod convingător modul în care îți apare pulsul pe față.

Inconsecvențele semnalelor PPG găsite în cazul deepfake-urilor le-au oferit cercetătorilor baza unui sistem propriu de învățare profundă, denumit FakeCatcher, care poate clasifica videoclipurile cu fața unei persoane ca fiind reale sau false, cu precizie.

Într-o lucrare mai nouă, intitulată „How Do the Hearts of Deep Fakes Beat? Deep Fake Source Detection via Interpreting Residuals with Biological Signals”, cercetătorii au arătat că pot distinge cu o precizie mai mare de 90% dacă videoclipul a fost real sau fals.

Videoclipurile analizate au luat în calcul posibilitatea ca unul dintre cele patru generatoare de deepfake (DeepFakes, Face2Face, FaceSwap sau NeuralTex) a fost folosit pentru a crea falsuri.

Revenind la problema de tipul cursei înarmării, după ce oamenii de știință au creat un software mai eficient pentru detectarea falsificării, vor fi oare create software-uri mai eficiente de generare a falsurilor?

Fără îndoială, asta se va întâmpla în cele din urmă. Dar pentru moment, știind că există un nou mijloc promițător disponibil pentru a detecta videoclipurile frauduloase, putem spera că dispunem de o anumită protecție împotriva dezinformării.

---