Cum să ne ferim de deepfake-uri, într-un an cu patru runde de alegeri. Sute de mii de tineri votează acum pentru prima oară

Pericolul răspândirii de video-uri false este cu atât mai mare anul acesta, cu cât în România – și în multe alte țări din UE – au loc mai multe runde de alegeri.

În țara noastră, sute de mii de tineri din Generația Z vor vota pentru prima dată în viață, iar pericolul de a fi manipulați este cu atât mai mare, cu cât ei folosesc intens rețelele sociale.

Ce este un deepfake

Un material "deepfake" utilizează inteligența artificială (AI) pentru a crea sau modifica conținut video și audio astfel încât să pară că o persoană face sau spune lucruri pe care de fapt nu le-a făcut sau spus.

Termenul este o combinație între "deep learning" (învățare profundă), care este o ramură a inteligenței artificiale, și "fake" (fals).

Citește și

ONG-urile din proiectul „Tinerii votează” cer Guvernului reducerea termenului pentru viză de flotant, înainte de alegeri

Dincolo de divertisment, tehnologia deepfake poate fi folosită pentru a manipula discursuri, interviuri sau alte tipuri de conținut audiovizual, pentru a induce în eroare sau pentru a dezinforma publicul.

Cum a reușit un deepfake să scoată din joc candidatul cu cele mai mari șanse la alegerile din Slovacia

Exemplul cel mai recent care arată cât de periculoasă e amenințarea deepfake pentru democrație vine din Slovacia, unde candidatul cu cele mai mari șanse a pierdut alegerile, după ce a fost victima unui material manipulat artificial, cu doar 48 de ore inainte de vot.

Scrutinul a fost câștigat, astfel, de Robert Fico, considerat a fi pro-rus, și apropiat al lui Vladimir Putin.

Marian Andrei: (...) Favoritul alegerilor “stătea de vorbă” cu o jurnalistă și se "gândeau" cum să manipuleze alegerile.

Dar era o înregistrare falsă, doar audio, pentru că sunt mult mai ușor de făcut cele audio și e mult mai greu să depistezi un astfel de clip.

Iar clipul acela a ajuns pe rețelele de social media în cele 48 de ore în care politicienii nu au voie să comunice deloc înaintea alegerilor. Și n-ar fi avut voie să vină să spună, "băi, înregistrarea asta e falsă", pentru că ar fi încălcat legislația. Și a pierdut alegerile cu vreo șase-șapte procente, deși el era favoritul, în ziua alegerilor.

Deci iată că se poate schimba un candidat foarte ușor, cu o minciună făcută în 2-3 minute, că atât îți ia”.

Alex Daragiu: Cum faci un deepfake? E un program, faci cu un AI? E o chestie la îndemâna tuturor?

Marian Andrei: Din păcate, da, este o chestie la îndemână tuturor. Acum vreo 5 ani, cred, m-am jucat cu tehnologia asta și a presupus să folosesc vreo mie și ceva de cadre foto cu fața mea, în diverse ipostaze - practic să iau un videoclip de 5 min, să-l sparg în 24 de cadre pe secundă...

Alex Daragiu: Acum cinci ani...

Marian Andrei: Da... Și să-l pun într-un program special. Și trebuia să-l las la randat câteva ore ca să funcționeze. Acum e suficient să descarci o aplicație și-ți face automat asta. Plătești un abonament de 5-10 dolari pe lună, și poate să-ți facă asta foarte ușor.

Poți să cumperi deepfake-uri de genul ăsta, se vând pe dark web, am văzut asta, și nu costă foarte mult. Există și canale de Telegram unde poți să trimiți videourile care vrei să fie copiate - trebuie doar să dai un Google. Din păcate este atât de simplu. (…)

Ce faci, te duci la Poliție și spui „bună ziua, dl. O Nouă Viață Astăzi m-a păcălit”?

Marian Andrei: Ca să răspândești un deepfake, ai nevoie de niște platforme. Din păcate, platformele de social media, indiferent că vorbim de TikTok, Facebook, Instagram sau Youtube - și din păcate se pare că filtrele pe care le au acolo ca să depisteze astfel de clipuri nu funcționează absolut deloc, și de asta ajung să se și răspândească.

Alex Daragiu: Dar au filtre, sau sunt doar așa, cu numele?

Marian Andrei: Nu știu ce să zic. Eu am trimis întrebări și la Google, și la Meta, și la Tiktok, legat de clipurile acestea. Toate au un sistem care pot detecta aceste videoclipuri. Însă eu cred că escrocii, cei care pun aceste clipuri, - că până la urmă, fac bani de pe urma lor și este o afacere pentru ei și de asta sunt atât de populare -, găsesc tot timpul cum să păcălească sistemul, sunt cu un pas în față.

Alex Daragiu: Oamenii ăștia care fac deepfake-uri, cum îi prinzi?

Marian Andrei: Nu prea poți să-i prinzi. Uite (arătând pe telefon un deepfake, pe pagina "O nouă viață astăzi"). Nu prea ai cum, pentru că... cum poți să prinzi pe "O nouă viață astăzi"? Te duci la Poliția Română și spui bună ziua, dl. O nouă viața astăzi m-a păcălit?

„Facebook, Google sau Tiktok fac bani cot la cot cu oamenii care fac aceste deepfake-uri”

Marian Andrei: Este o lege care era în facere în România, nu știu ce s-a mai întâmplat cu ea. Inițial a fost adoptată de Senat, dar într-o formă care mi se părea că era o formă de anti-bullying pentru politicieni, să nu-și bată cineva joc de ei...

Nu a invitat nimeni la masă și platformele de social media, că până la urmă asta e cel mai dureros. Că Facebook, Google, Tiktok fac bani cot la cot cu oamenii care fac aceste deepfake-uri. Ca să-mi fie împinsă mie acea reclamă, Facebook a încasat 3, 4, 5 cenți. Să știi, n-am văzut un clip deepfake care să-mi fie împins organic (în feed). Toate au fost prin sponsorizare.

Există la nivelul Uniunii Europene un proiect care se numește AI ACT, care încearcă să reglementeze tot ceea ce înseamnă inteligența artificială, și să o pună pe categorii de risc.

Adică inteligența artificială în domeniul educației ar fi de risc înalt. Și atunci orice aplicație, serviciu care apare cu inteligența artificială în domeniul educației trebuie să obțină niște certificări speciale.

În cazul deepfake se cere doar transparență. Adică, în momentul în care tu, de exemplu, apari într-un clip deepfake, să scrie undeva că acest clip a fost generat sau este manipulat, ceea ce nu se întâmplă acum.

Cum putem să ne dăm seama dacă un video este deepfake. Indiciile care ar trebui să ne pună pe gânduri

Alex Daragiu: Dar de ce e atât de periculos deepfake-ul? Care sunt riscurile.

Marian Andrei: Sunt două pericole mari. O dată, e faptul că păcălești niște oameni nevinovați, îi păcălesc să investească în Hidroelectrica, în companii de stat, dar de fapt, banii tăi nu se duc către acele companii unde cumperi acțiuni, se duc către niște escroci care nu-ți mai dau nimic înapoi.

Adică mi se pare absurd să spui că o să câștigi 7.000 lei pe săptămână dacă investești 1.000 lei, deja sună prea bine ca să fie adevărat. Din păcate, autoritățile nu comunică foarte des despre aceste cazuri, deși poate ar trebui.

Dacă ceva sună prea bine ca să fie adevărat, e clar, e ceva dubios acolo. Nu există soluții de îmbogățire rapidă, alta decât cele șase numere de la loto.

Apoi, dacă clipul pe care îl vedeți are deja aceste două "calități", să zicem așa, rezoluție foarte proastă, vocea nu este sincronizată cu mișcarea din cap, (...) cel mai probabil este un deepfake.

Și statul român niciodată nu vrea să te facă să te îmbogățești rapid...

Articol recomandat de sport.ro

Decizia luată de Jordan Chiles după ce a pierdut medalia de bronz în fața Anei Bărbosu