Astfel, industria IA a stârnit agitație la Casa Albă, în vreme ce companiile de specialitate cer prudență și reglementare, iar cercetătorii au lansat un avertisment asupra unor riscuri care pot fi colosale. 

OpenAI colaborează deja cu rivalii Anthropic și Google DeepMind, divizia Alphabet, deschizând, așadar, o filă nouă în domeniul siguranței IA.

Aceste temeri privind riscurile modelelor avansate de IA au venit după ce șefii celor mai importante laboratoare de IA din America s-au reunit în weekend într-un gest de unitate pentru a solicita o pauză în dezvoltarea acestei tehnologii.

Marile companii de tehnologie încep să ceară reguli pentru IA. Printre vocile care susțin o anumită formă de supraveghere se numără Elon Musk, Sam Altman și Dario Amodei. Ei avertizează asupra unor riscuri care ar putea deveni foarte greu de controlat dacă dezvoltarea IA continuă fără limite.

Recomandări Video

Doar că, președintele SUA Donald Trump și o parte dintre republicani se opun unei reglementări stricte. În acest sens, Trump crede că încercările de a impune reguli suplimentare sunt exagerate și riscă să frâneze industria americană într-o perioadă în care SUA concurează cu China pentru supremația în domeniul IA.

De partea cealaltă, democrații cer o acțiune mai rapidă. În Congres s-a pus problema chiar și unui mecanism de tip „kill switch” (un mecanism de siguranță sau securitate conceput pentru a opri imediat - n.r.) pentru situații extreme, lucru cerut de Jack Clark, unul dintre cofondatorii gigantului din domeniul inteligenței artificiale, Anthropic.

Această forfotă a declanșat o vânzare importantă de acțiuni ale unor companii de tehnologie, precum Nvidia, Micron și SK Hynix.

„Roboții n-o să preia controlul, inteligența artificială n-o să controleze lumea. Centrele de Date sunt grozave, îi vor îmbogăți pe oameni și statele în general. Vor fi petrolul viitorului”, a asigurat Trump după o discuție cu Jensen Huang, directorul general al gigantului microcipurilor Nvidia.

Dar totodată Trump se confruntă cu presiuni din ambele tabere politice pentru introducerea unui „guardrails” pentru IA. Printre propuneri se află inclusiv o agenție federală de reglementare și mecanisme de oprire a unor modele IA.

Deși mulți politicieni sunt de acord cu necesitatea de a acționa, opiniile lor sunt împărțite în ceea ce privește forma pe care ar trebui să o ia intervenția guvernamentală și până unde ar trebui să se extindă aceasta. Unii se tem că o pauză în dezvoltarea IA ar putea permite Chinei să preia conducerea în cursa pentru IA și să submineze securitatea națională, mai scrie The Guardian.

Cerința lui Elon Musk pentru marile companii din SUA și China

Elon Musk propune ca principalele companii de inteligenţă artificială din SUA şi China să testeze reciproc modelele înainte ca acestea să fie lansate public, pentru a identifica eventualele riscuri de siguranţă. Propunerea vine în contextul în care mai mulţi lideri ai industriei au cerut încetinirea dezvoltării celor mai avansate sisteme AI, anunță CNBC, potrivit News.ro.

Vorbind la All-In Summit din Los Angeles, Musk a afirmat că xAI, OpenAI, Anthropic, Google şi Meta, alături de ”trei sau patru dintre principalele companii chineze”, ar trebui să permită rivalilor să ruleze teste asupra modelelor lor.

”În loc să-ţi corectezi singur tema, ai avea cel puţin concurenţii care să-ţi verifice munca şi să tragă alarma dacă observă probleme”, a declarat Musk.

Musk admite că metoda nu ar reprezenta o soluţie perfectă, dar consideră că ar creşte semnificativ şansele de identificare a problemelor. ”Şansele de a găsi probleme sunt dramatic mai mari”, a spus el.

Companiile rivale xAI nu şi-au dat deocamdată acordul pentru un asemenea sistem. CEO-ul Anthropic, Dario Amodei, a propus separat ca laboratoarele AI să permită evaluări efectuate de terţi, prin evaluatori independenţi care să verifice practicile de siguranţă.

Avertismente grave din interiorul industriei AI

Dezbaterea s-a intensificat după ce Jacob Coxon, fost cercetător la Anthropic şi OpenAI, şi-a dat demisia şi a acuzat principalele laboratoare AI că ”se joacă cu vieţile noastre”. Evan Hubinger, responsabil pentru alinierea AI la Anthropic, i-a susţinut avertismentul: ”Jacob are dreptate aici – chiar credem cu sinceritate că AI ar putea ucide toţi oamenii! Eu personal cred că probabilitatea este de peste 10% în următorul deceniu”.

În weekend, Musk şi CEO-ul OpenAI, Sam Altman, au susţinut propunerea lui Amodei privind încetinirea ritmului de dezvoltare a modelelor, într-o manifestare rară de unitate între liderii unor companii rivale. O problemă importantă rămâne însă competiţia cu China. Amodei a numit această situaţie ”cea mai dificilă dilemă”, deoarece o încetinire în SUA ar putea permite companiilor chineze să avanseze mai rapid.

Administraţia Trump respinge apelurile pentru introducerea unor restricţii mai ample. Preşedintele Donald Trump a calificat temerile privind AI drept o ”farsă” şi o ”înşelătorie”, iar directorul Consiliului Economic Naţional, Kevin Hassett, a declarat că sectorul privat este ”locul potrivit” pentru gestionarea acestor riscuri. Musk consideră însă că mecanismul de verificare reciprocă ar putea fi implementat rapid şi ar putea include inclusiv China: ”Ceea ce propun este un pas în direcţia corectă şi este ceva ce putem face rapid. Cred că probabil şi China ar fi de acord”.

Cum s-a creat alianța OpenAI - Anthropic - Google DeepMind

Trei dintre giganţii americani din domeniul inteligenţei artificiale (AI) OpenAI, Anthropic şi Google DeepMind lucrează la crearea unui organism de reglementare care să supravegheze riscurile legate de AI, a anunţat marţi OpenAI într-un comunicat pentru AFP, pe fondul apelurilor tot mai insistente pentru un control mai bun asupra acestei tehnologii.

Ideea a pornit de la o propunere a lui Demis Hassabis, CEO al Google DeepMind înainte de a deveni preşedinte la începutul lunii august, care a sugerat o entitate similară Autorităţii de Reglementare a Industriei Financiare din SUA (FINRA), organismul de autoreglementare al sectorului financiar.

Crearea FINRA a fost autorizată de legea federală şi se află sub supravegherea Comisiei pentru Valori Mobiliare şi Burse din SUA (SEC), potrivit Agerpres.