Totul, după ce mai multe incidente au alimentat îngrijorări legate de capacitatea programelor AI de a lansa autonom atacuri informatice, de a ocoli mecanismele de siguranță și chiar de a-și îmbunătăți performanțele fără intervenție umană. Donald Trump face însă opinie separată și spune că prioritatea sa este menținerea avansului Statelor Unite în fața Chinei.
Donald Trump, președintele SUA: „Putem introduce măsuri de protecție, putem face diverse lucruri, însă cred că există și multe forțe care alimentează aceste temeri, uneori cu scenarii care probabil nu se vor întâmpla. Dar... cine câștigă cursa AI, câștigă totul. Eu am inventat expresia asta, e adevărată.”
Dacă președintele american acuză forțe ostile că exagerează riscurile, în schimb, șeful companiei americane Anthropic, care a creat modelul de inteligență artificială Claude, i-a dat cumva dreptate unui fost angajat al companiei. Acesta a demisionat recent invocând pericolele generate de ritmul foarte accelerat de dezvoltare a acestor programe.
Dario Amodei, CEO Anthropic: „Companiile trebuie să colaboreze pentru a stabili standarde de siguranță, inclusiv reguli privind lansarea noilor sisteme și poate chiar privind ritmul în care acestea sunt puse la dispoziție. Pentru a face acest lucru e nevoie și de implicarea guvernului.”
Săptămâna trecută, odată cu demisia, Jacob Coxon a lansat un avertisment înfricoșător.
Anderson Cooper, jurnalist CNN: „Crezi sincer că inteligența artificială ar putea, la un moment dat, să extermine omenirea și care sunt șansele ca acest scenariu să devină realitate?”
Dario Amodei, CEO Anthropic: „Există riscul ca lucrurile să iasă rău, dar nu este chiar atât de ridicat.”
Amodei a formulat la rândul lui un scenariu alarmant: fără măsuri de precauție, în următoarele șase până la 12 luni, inteligența artificială ar putea fi capabilă să preia controlul asupra întregului internet.
Dario Amodei, CEO Anthropic: „Asta nu înseamnă că trebuie să intrăm în panică astăzi. Și nici că trebuie să oprim totul. Eu aș spune că este un semnal de alarmă. Un semnal că trebuie să încetinim ritmul și să dezvoltăm această tehnologie cu grijă.”
Dezbaterea are loc pe fondul unor incidente care au implicat sisteme de inteligență artificială. În iulie 2026, agenți AI au ieșit dintr-un mediu izolat de testare și au compromis sisteme ale Hugging Face, o platformă online unde oamenii descarcă modele de IA open-source.
Dario Amodei, CEO Anthropic: „Comportamentul modelelor (de inteligență artificială) este modelat de felul în care le antrenăm. Și, dacă ne uităm înapoi, descoperim cu uimire că am inclus din greșeală anumite condiții care au încurajat aceste modele să trișeze, să fure. Acum, că am înțeles aceste lucruri, ne întoarcem și alocăm mai mult timp ca să încercăm să filtrăm și să eliminăm aceste instrucțiuni nocive.”
Hadas Gold, corespondent CNN IA: „Vorbim de un lucru destul de rar în industria tehnologiei. Elon Musk, Sam Altman și Dario Amodei sunt cu toții de acord asupra unui subiect. Cei trei rivali spun că a venit momentul să fie luate măsuri pentru a se asigura că oamenii rămân cei care controlează inteligența artificială, și nu invers. Iar Amodei a declarat că guvernul SUA ar trebui să înceapă să coordoneze aceste eforturi atât cu alte state democratice, cât și cu țări considerate adversare, după un model similar acordurilor internaționale privind armele nucleare.”
