Brad Smith consideră că ar trebui introduse obligații legale prin care companiile să informeze persoanele afectate dacă sistemele lor sunt compromise de agenți AI care acționează necontrolat. De asemenea, el susține că trebuie stabilit în ce situații produsele bazate pe inteligență artificială ar trebui evaluate și aprobate de experți independenți înainte de a fi lansate, potrivit BBC.
Poziția sa intră în contradicție cu cea a președintelui american Donald Trump, care consideră că industria ar trebui să se autoreglementeze, pentru ca firmele din SUA să nu piardă teren în fața rivalilor din China.
„În momentul de față, mașina voastră de spălat este supusă mai multor norme de siguranță decât inteligența artificială. Fiecare cutie de lapte pe care o vedeți în magazine este supusă unor reguli de siguranță și unor controale”, a declarat Smith.
Inteligența artificială a intrat într-o fază critică în Europa, iar obligațiile prevăzute în Regulamentul UE privind IA, prima lege din lume care reglementează utilizarea acestor sisteme, au intrat în vigoare pe 2 august.
Regimul de sancţiuni include amenzi de milioane de euro: până la 35 de milioane de euro pentru infracţiuni foarte grave, cum ar fi utilizarea sistemelor de IA interzise; sau 15 milioane de euro pentru infracţiuni grave, pentru încălcări legate de sisteme clasificate drept "de înalt risc".
De asemenea, sunt interzise în UE sistemele de inteligenţă artificială care deduc emoţiile la locul de muncă sau în mediile educaţionale; colectarea de imagini de pe internet pentru a crea baze de date faciale; sau identificarea biometrică de la distanţă, în timp real, în locuri publice, pentru a fi folosite de forţele de ordine.
Val de avertizări din partea specialiștilor
Solicitările pentru introducerea unor legi și reguli care să controleze dezvoltarea AI s-au intensificat după ce experți din domeniu au avertizat că această tehnologie ar putea reprezenta o amenințare pentru umanitate.
Conducătorii unor mari companii americane din domeniul inteligenței artificiale, precum Anthropic, OpenAI și Google DeepMind, au susținut ideea încetinirii dezvoltării AI. Trump s-a opus însă unei astfel de abordări.
Într-un interviu acordat podcastului BBC Big Boss Interview, Smith a descris inteligența artificială drept „un instrument și o armă” și a afirmat că este nevoie urgentă de reglementarea acesteia.
„Să începem chiar de astăzi”, a spus el.
Smith consideră că firmele trebuie să dispună de mecanisme de oprire de urgență, cunoscute în industrie drept kill switch-uri, care să permită suspendarea sau încetinirea sistemelor AI dacă acestea scapă de sub control.
El a mai afirmat că firmele ar trebui să fie obligate prin lege să întocmească rapoarte privind incidentele și să îi informeze pe cei afectați atunci când tehnologia funcționează în mod neprevăzut sau necontrolat. În plus, Smith a sugerat ca noile tehnologii bazate pe AI să fie verificate de evaluatori independenți, desemnați de autorități.
„Știm cum să facem acest lucru în cazul altor produse. Ar trebui să pornim de la această experiență și să ne gândim cum o putem aplica inteligenței artificiale”, a declarat președintele Microsoft.
Marea Britanie ar putea conduce eforturile de reglementare a AI
Smith consideră că Marea Britanie este cel mai bine poziționată pentru a impulsiona elaborarea unor reguli globale pentru inteligența artificială, datorită Institutului pentru Siguranța AI (AI Security Institute), lansat în timpul guvernării fostului premier britanic Rishi Sunak, sub numele de AI Safety Institute.
„În lumea tehnologiei, în sectorul IT, cred că majoritatea oamenilor pe care îi cunosc ar răspunde foarte simplu dacă ar fi întrebați care este țara lider în ceea ce privește această capacitate tehnică: Regatul Unit. Ei sunt cei mai buni”, a spus Smith.
Poziția lui Smith diferă semnificativ de cea a președintelui american, care susține dezvoltarea accelerată a inteligenței artificiale în SUA.
Trump a afirmat în repetate rânduri că „cine câștigă cursa AI câștigă totul”. Cu toate acestea, Smith nu crede că administrația americană s-ar opune atât de puternic unor reguli privind AI elaborate sub conducerea Marii Britanii, așa cum ar putea sugera declarațiile lui Trump. El a lăsat să se înțeleagă că Washingtonul ar accepta mai ușor standarde promovate de Londra decât unele inițiative venite din partea Uniunii Europene.
„La Washington, oamenii nu privesc Regatul Unit și Londra așa cum privesc Bruxelles-ul. Acesta este un avantaj”, a afirmat el.
„Când vedem agenți AI care au scăpat de sub controlul oamenilor și modele atât de puternice încât pun în pericol securitatea cibernetică a lumii, aș spune că a venit momentul. Să discutăm calm, poate chiar cu blândețe, dar ferm, și să începem să aducem oamenii împreună. Sper că acesta este rolul pe care îl putem avea ca firmă. Sper că acesta este rolul pe care Regatul Unit îl poate avea ca țară”, a adăugat Smith.
La sfârșitul lunii trecute, Trump a găzduit la Casa Albă liderii unor mari companii americane din domeniul tehnologiei, printre care OpenAI, Anthropic, Nvidia, SpaceX, Meta și Google. Directorii acestora au semnat un document cu caracter moral obligatoriu, prin care s-au angajat să colaboreze cu auditori independenți pentru a evalua dacă sistemele lor AI funcționează conform scopului pentru care au fost create și pentru a se asigura că acestea nu accesează și nu compromit sisteme tehnice în moduri neprevăzute.
Smith a salutat declarația și a spus că Microsoft este dispusă să o semneze.
„Este un pas bun, un pas necesar. Dar nu cred că mai este suficient”, a afirmat el.
El a adăugat că principala problemă a oricărui sistem de autoreglementare este că „firmele bune vor face ceea ce vă doriți”.
„De companiile care nu sunt la fel de responsabile trebuie să vă faceți griji”, a concluzionat președintele Microsoft.
