Polițiștii din UE nu vor putea folosi camere cu recunoaștere facială. „Ar avea un potențial de abuz mult prea mare”

Utilizarea în spațiul public a acestei tehnologii va fi interzisă, pentru că “are un potențial de abuz mult prea mare” împotriva cetățenilor, a declarat, pentru Știrileprotv.ro, europarlamentarul Dragoș Tudorache.

Tudorache a fost raportor al Parlamentului European pentru Legea privind Inteligența Artificială. Din această poziție, a coordonat acordul politic fără precedent la nivel global la care au ajuns statele membre UE pentru a reglementa folosirea AI.

Tudorache a fost invitat la emisiunea EURomania, prezentată din Parlamentul European de la Bruxelles de corespondentul Știrilor PRO TV Camelia Donțu.

Dragoș Tudorache a explicat că noua lege prevede că algoritmii AI nu vor putea folosiți pentru a lua decizii în domenii considerate “de risc înalt”, cum ar fi băncile, asigurările, sistemul medical și educația. Toate deciziile vor fi luate la nivel uman, a precizat el.

Citește și

Inteligența artificială ar putea avea efecte îngrijorătoare asupra alegerilor din 2024. Ce recomandă specialiștii

Reacția lui Dmitri Medvedev, după atacul ucrainean cu rachete americane ATACMS

De exemplu, băncile vor putea folosi AI pentru a întocmi un dosar de credit, dar deciziile propriu-zise vor fi luate doar de către funcționarii băncii, pentru a elimina orice risc de discriminare între clienți.

Camelia Donțu: De unde au pornit aceste noi norme?

Dragoș Tudorache: „Atenția publică pe subiect a apărut acum un an, când ChatGPT-ul a devenit parte din viețile noastre, și multă lume consideră că Uniunea Europeană a început cumva de curând cu această reglementare. Nu, de fapt, e o muncă începută în 2016-2017, atunci când Comisia Europeană a creat un grup de experți de nivel înalt, care s-a uitat la aceste riscuri - să spunem de zi cu zi, cât și la cele structurale, chiar aș spune existențiale. (…)

Camelia Donțu: Care sunt aceste riscuri de zi cu zi și existențiale în ceea ce privește inteligența artificială?

Dragoș Tudorache: (…) “Avem o listă concretă de aplicații, de utilizări ale Inteligenței Artificiale, pe care le considerăm ca fiind de risc înalt. Și vă dau exemple: în domeniul bancar, în domeniul asigurărilor, în domeniul medical, în domeniul educației, în domeniul gestiunii imigrației, a frontierelor, a infrastructurii critice.”

Cum ne-ar putea crește ratele de la bancă, dacă Inteligența Artificială nu ar fi reglementată

Dragoș Tudorache: „Vă dau un un risc concret: mergem la bancă, cerem un credit. De cele mai multe ori, analiza care se face în spate noi nu o vedem, dar această analiză a factorului de risc este făcută de un algoritm de inteligență artificială, care până la acest moment nu știm cum funcționează, nu știm cum a fost antrenat, nu știm ce fel de date au fost puse acolo, nu știm ce instrucțiuni i-au fost date.

Deci, practic, nu avem nicio garanție că între Dvs. și mine, atunci când mergem împreună să cerem un credit nu poate apărea un element de discriminare.”

Camelia Donțu: Cum ar fi?

Dragoș Tudorache: „Cum ar fi că Dumneavostră vi se dă (o dobândă) de 6%, iar mie mi se dă 8%. De ce? Pentru că veniți dintr-un cartier care e populat cu o anumită categorie social-economică, care, istoric, la banca respectivă a fost bună platnică. (...)

Ceea ce înseamnă că aveți acolo, în sistemul băncii, un scor mai bun. Si pentru simplul faptul că veniți din acel cartier, iar eu vin din alt cartier, mai sărac, și în acel cartier, istoric, au existat mai multe credite neplătite, e posibil ca algoritmul respectiv să mă identifice ca un potențial risc, și atunci să îmi ridice și nivelul de credit.(…)

Din momentul în care această lege va intra în vigoare, orice bancă care folosește un astfel de algoritm pentru a decide sau avea o recomandare în privința unei persoane va fi nevoită să pună foarte transparent toate datele cu privire la acel algoritm. (…)

Apoi, prin lege, nu putem avea un algoritm care să ia decizii de unul singur, fără un control uman. Deci, practic, principiul de "control uman" este impus prin legislație oricărui utilizator de inteligență artificială de risc înalt, de exemplu banca. (…)

Același lucru se poate întâmpla și în zona asigurărilor, sau a educației, de exemplu, atunci când sunt folosiți algoritmi pentru a determina alocarea copiilor în școală sau alocarea anumitor task-uri, a anumitor teme pentru copii. Sunt deja folosiți astfel de algoritmi în școli, tocmai pentru a da teme cu grad diferit de dificultate unor copii față de alți copii, pentru a te adapta, eventual, la nivele diferite de învățare.

Dar, din nou, nu e că acești algoritmi nu pot fi deloc folosiți. Pentru că nu asta spunem noi, prin reglementare. Dar vrem să ne asigurăm că dacă sunt puși pe piață, dacă sunt utilizați, lucrul acesta e făcut cu niște garanții în ceea ce privește drepturile celor care sunt afectați de utilizarea algoritmilor.”

În Țările de Jos, folosirea greșită a Inteligenței Artificiale a provocat căderea Guvernului și alegeri anticipate

Tudorache a amintit, în context, situația din Țările de Jos, unde folosirea defectuoasă a Inteligenței Artificiale de către autorități a dus, în 2021, la demisia guvernului și la organizarea de alegeri anticipate.

Dragoș Tudorache: „În Olanda, poate vă amintiți, practic așa s-a ajuns la la alegeri anticipate. A fost folosit un algoritm de inteligență artificială pentru a determina riscul de fraudă în asigurările sociale. S-a dovedit că prin instrucțiunile care fuseseră date acelui algoritm, erau țintiti mai degrabă migranții, categoriile sociale defavorizate.

Ele erau identificate ca fiind cele cu risc ridicat de fraudă, și erau recuperați în mod automat bani din asigurările sociale date acelor persoane, pentru că erau considerați ca fiind obținuți prin fraudă.

S-a dovedit apoi că, de fapt, nu era cazul, și că mii de familii au fost afectate în mod injust de modul în care acel algoritm fusese antrenat și utilizat de o autoritate publică.(…)”

Folosirea camerelor cu recunoaștere facială în spațiul public va fi interzisă. Care sunt excepțiile

Camelia Donțu: A fost un punct disputat, și în Consiliu, și între parlamentari, dar și în opinia publică -problema recunoașterii faciale. Folosim Inteligența Artificială pentru recunoaștere facială? Unde încep drepturile noastre? Unde unde se termină? Exact despre ce este vorba?

Dragoș Tudorache: “Noua lege, trebuie să înțelegem, pentru că s-a perceput greșit această dezbatere pe care am avut-o în jurul utilizării acestei tehnologii pentru recunoașterea facială...”

Camelia Donțu: …Este vorba de tot ce înseamnă, să spunem, camere de supraveghere din oraș, din spații publice, de la semafoare...

Dragoș Tudorache: “Reglementarea noastră se oprește aici. De ce spuneam că a fost cumva greșit percepută? Pentru că s-a înțeles, de exemplu, că și recunoașterea facială pe care o avem noi pe telefon - pentru a ne recunoaște și a deschide telefonul, - că și aceasta va deveni subiect al legii sau va fi interzisă prin lege. Și nu e adevărat.

Există foarte multe utilizări ale tehnologiei de recunoaștere biometrică care vor putea fi în continuare dezvoltate, folosite pe teritoriul european.

Ceea ce interzicem însă prin această lege este, într-adevăr, cum spuneați, utilizarea acestei tehnologii în spațiul public, pentru supraveghere 24h din 24, deci pentru supraveghere în timp real.

De ce? Pentru că noi o considerăm ca fiind o intruziune mult prea mare în drepturile noastre, în viața noastră privată, cu un potențial de abuz mult prea ridicat pentru a ne permite să o avem în spațiul public.

Am introdus însă și o excepție aici, înțelegând că e posibil ca în anumite situații, autoritățile responsabile cu ordinea publică, poliția, în speță, să aibă nevoie să acceseze și să folosească această tehnologie pentru a prinde un infractor în anumite situații, în anumite investigații foarte importante. Și atunci am creat o excepție în lege pentru a permite această utilizare.

Dar chiar și acolo a pus niște reguli foarte stricte, tocmai pentru a ne asigura că abuzul nu este posibil. Nu se poate face decât dacă este un risc iminent cu privire la viața unei persoane sau la comiterea unui atentat terorist, de exemplu, pentru a identifica o victimă de trafic (de persoane), o victimă de răpire, copii minori care sunt poate dați în căutare.

Deci, practic, sunt situații foarte restrânse în care poliția poate folosi această tehnologie. În rest, IA rămâne interzisă la nivelul Uniunii Europene.”

Articol recomandat de sport.ro

După Kosovo, încă o națională contestă victoria la masa verde a României: "A făcut apel și rămâne fermă"