Deepfake, un fenomen greu de oprit. Mai multe țări, inclusiv România, fac eforturi pentru îngrădirea lui
Deepfake e un fenomen care sperie tare - dar care există de când lumea. E un fenomen greu de oprit și folosit de escroci ca să câștige bani. Se folosesc de personalități, inclusiv locale pentru păcălirea unor oameni nevinovați.
Mai grav e că uneori și democrația este păcălită - s-a întâmplat în Slovacia și-n Statele Unite ale Americii. Pentru asta, politicieni din întreaga lume încearcă reglementeze folosirea tehnologiei.
De la apariția virușilor pentru computere nu s-a mai discutat de ceva atât de malefic pentru industria tehnologiei.
Deepfake poate să fie o imagine, un video ori sunet manipulate cu ajutorul inteligenței artificiale. Pe internet circulă deja zeci de mii de exemple. De la Taylor Swift, ale cărei nuduri virtuale au ajuns pe 4Chan, până la guvernatorul României, Mugur Isărescu - care promite câștiguri importante la 1000 100 de lei.
Și pentru că puterea mare de calcul a ajuns foarte accesibilă, oricine poate să facă astfel de falsuri în câteva minute. Și sunt greu de depistat pentru că este nevoie de un ochi antrenat, așa cum doar un critic de artă poate depista un fals. Adrian Posteucă este specialist în imagini realizate cu tehnologii noi.
Până acum deepfake a fost folosit pentru două posibile rezultate - fraude ori dezinformare.
Iar cele mai bune platforme pentru propagare sunt rețelele de socializare ori grupurile în aplicații de mesagerie. Mulți se tem însă de consecințele pe care le poate avea asupra populației unei țări.
Alex Cosma, consultant pentru diplomație parlamentară: „Un rău nu vine niciodată neînsoțit – deci e momentul perfect. Jumătate din populație este chemată la vot un număr atât de mare, de la începuturile democrației nu s-a votat atât de mult.”
La alegerile prezidențiale din Slovacia, care au avut loc anul trecut - favoritul a devenit învins după o înregistrare audio în care Michal Simecka și jurnalista Dennik N vorbeau despre cum să fraudeze alegerile. Înregistrarea a fost confirmată ca fiind falsă, dar prea târziu să repare daunele deja produse de minciuna bine executată.
În multe țări se fac sprinturi pentru îngrădirea fenomenului. Inclusiv în țara noastră. Zilele trecute a avut loc o dezbatere parlamentară pentru această lege. În prima propunere aceasta urmărea pedepsirea cu închisoare a celor care fac deepfake, dar de multe ori aceștia operează din Rusia, India ori Pakistan.
Victor Vevera, director ICI: „Din punct de vedere tehnic, se face un forensic. Forensic înseamnă o cercetare ca la locul crimei, ca în cazul crimelor cu persoane, se face un Forensic pentru orice atac cibernetic, orice generare de deepfake. În baza lui se pot ajunge la niște elemente de identificare, pe de altă parte ca să poți să ajungi la persoanele din străinătate, fără cooperare între parchete, e greu să ajungi.”
Ana Maria Stancu, specialist robotică: „Și dacă introducem legislație, legislație e ca să fie acolo și să descurajeze însă nu va rezolva problema. Odată ce ai un deepfake, mai ales în perioada alegerilor o dată ce i-ai dat drumul pe internet. Poți să vii peste o săptămână și să zici că nu e adevărat și nu va afecta pozitiv ce se intamplat. Răul a fost făcut.”
Și-n Statele Unite ale Americii, un robot cu vocea lui Biden suna cetățenii să nu meargă la vot.
Radu Miriuță, deputat USR: „Din perspectivă tehnică, ce se poate întâmpla este să ai o discuție cu distribuitorii de conținut. Tehnologia de generare a deep-fake-ului este cu un pas înainte de față de tehnologia de identificare și de stopare. Alergarea asta, la un moment dat poate să producă efecte. Altfel, trebuie să acceptăm ideea că nu se poate rezolva problema.”
Din păcate, multe dintre astfel de scheme ajung pe rețelele de socializare, unde - pot fi viralizate de algoritm, fie prin sponsorizarea lor - metodă prin care rețelele de socializare fac bani, practic cot la cot cu escrocii.
Dragoș Stanca, inițiator Ethical Media Alliance: „Trebuie să conștientizăm că deepfake și tot ce înconjoară deepfake e și un model de business. Cineva câștigă și bani și avem o problema la rădăcină. Nu cred că este o idee bună să fie pedepsiți și amendați doar cei care produc, trebuie să aducem la masă și companiile care distribuie și beneficiază din plin de această nebunie și mă refer la platforme mari de social media.”
Pe Facebook circulă astfel de scheme și chiar dacă sunt raportate, tot nu sunt înlăturate, pe motiv că nu încalcă regulamentul de publicitate. Am trimis un set de întrebări la Meta și cu exemplu concret dar răspunsurile primite au fost pentru alte întrebări. Am primit totuși informația că există o echipă dedicată - de la manageri de conținut la ingineri și manageri de produs care dezvoltă tehnologii care detectează proactiv conținut malițios.
Cei de la Google spun că în 2022, în fiecare minut, utilizatorii urcau 500 de ore. În total au fost eliminate 5,2 milioane de reclame ilegale.
Ela Moraru, CEO Google Romania: „Vedem zilele acestea că e un joc de-a șoarecele și pisica. Se schimbă constant abordarea celor care încearcă să păcălească sistemul și noi luptăm constant să identificăm acești actori rău intenționați. Avem mii de oameni care lucrează să îmbunătățească tehnologia și politici noi. Am modificat politicile de AD-uri și politicile de Youtube.”
Reprezentanții TikTok ne-au spus că au început să marcheze conținutul pe care platforma îl detectează ca fiind făcut cu ajutorul Inteligenței Artificiale. În perioada ianuarie-septembrie 2023, au eliminat 1,2 milioane de clipuri de tip deepfake.
E un semn clar. Legislația de la noi ar fi făcut ca autoritățile, CNA, ANCOM și ICI să colaboreze, însă specialiștii spun că e nevoie de un sistem mai rapid de intervenție, atunci când apar astfel de materiale care trebuie șterse. În același timp, sunt și multe platforme care permit generarea de conținut fals. Iar dacă pe video mai găsim defecte - pe fotografii ori sunet, e mult mai greu. Indiferent că sunt soluții automate ori verificare manuală.
Nu va exista un sistem 100% sigur. Un filtru care să oprească tot - cea mai bună unealtă rămâne educația și să înțelegem contextul oricărei informații. Pare într-adevăr trist că trebuie să ne pierdem încrederea în aproape tot ce vedem.
.webp)
