„Super” inteligența artificială ar putea prelua controlul asupra lumii în următorii trei ani și ar putea ucide oameni dacă nu este oprită, i-a avertizat pe liderii europeni profesorul supranumit „Nașul inteligenței artificiale”, potrivit TheTelegraph.co.uk.
Profesorul Geoffrey Hinton, cercetător britanico-canadian laureat al Premiului Nobel, cunoscut pentru contribuțiile sale la dezvoltarea rețelelor neuronale, a luat cuvântul vineri, la un summit informal al Consiliului European dedicat inteligenței artificiale, organizat la Dublin. Acesta a prezentat un scenariu pe care îl consideră „terifiant”.
„Nașul AI”, în vârstă de 78 de ani, a demisionat de la Google în 2023, din cauza temerilor că dezvoltarea inteligenței artificiale ar putea duce la apariția unor roboți ucigași, capabili să distrugă omenirea.
Experții au dezbătut problema
Subiectul a fost discutat și în cadrul conferințelor Hinton organizate de AI Safety Foundation la Toronto, unde experții au analizat riscul ca inteligența artificială să devină suficient de puternică pentru a învinge autoritățile guvernamentale și a prelua controlul.
Paul Christiano, fondatorul Alignment Research Centre, a avertizat că numeroși oameni ar putea muri dacă sistemele AI ar ajunge să controleze lumea.
„Cred că există un risc ridicat ca inteligența artificială să preia controlul în următorii trei ani și un risc semnificativ ca acest lucru să se întâmple chiar în următoarele șase până la 12 luni”, a declarat el.
„Chiar dacă nu vom muri, o astfel de preluare a controlului ar însemna sfârșitul suveranității și autodeterminării umane. Este un scenariu pe care ar trebui să depunem eforturi extraordinare pentru a-l evita”. „Cred că, pentru majoritatea oamenilor din această sală, cel mai probabil motiv pentru care vor muri va fi un accident provocat de inteligența artificială”, a adăugat el.
Profesorul Hinton, care oferă consultanță neoficială guvernului britanic în domeniul AI, a avertizat în repetate rânduri asupra pericolelor acestei tehnologii, însă a recunoscut că nu realizase cât de apropiat ar putea fi momentul în care riscurile devin reale.
„Am tot spus că aceste sisteme vor deveni mai inteligente decât noi și că trebuie să ne îngrijorăm, dar că acest lucru s-ar putea întâmpla în următorii zece ani. Apoi am participat la prelegerile lui Paul, care spune că s-ar putea întâmpla în următoarele 18 luni. Este terifiant”, a declarat Hinton.
„Așa că vineri le voi transmite acest lucru mai multor lideri guvernamentali”, a adăugat.
„Ceea ce se întâmplă este extrem de periculos. Oamenii nu au înțeles cu adevărat ce înseamnă să ai de-a face cu o inteligență artificială superinteligentă. Dacă este superinteligentă, nu tu o vei controla pe ea, ci ea te va controla pe tine”, a mai spus Hinton.
De asemenea, Christiano a avertizat că evoluția inteligenței artificiale din ultimele șase luni a fost „extrem de alarmantă”.
Roboții OpenAI au depășit deja barierele de securitate
El a menționat un incident în care modele OpenAI ar fi ajuns pe internet și ar fi reușit să compromită platforma Hugging Face, o comunitate online dedicată specialiștilor în învățarea automată.
Roboții AI ar fi identificat „tokenuri” de autentificare ale utilizatorilor, ar fi obținut acces la nivel de administrator și s-ar fi ajutat reciproc să îndeplinească anumite sarcini.
De asemenea, ar fi creat un forum de discuții și ar fi analizat modalități de a-i convinge pe administratorii umani că nu au trișat, prin modificarea jurnalelor de activitate.
„Vara trecută, ai fi spus că așa ceva pare desprins dintr-un film științifico-fantastic”, a afirmat Christiano.
Acesta a explicat că agenții AI au manifestat un interes deosebit pentru piratarea sistemelor și depășirea măsurilor de securitate, fără să manifeste prea mult interes față de oameni.
Agenții viitori ar putea ajunge să considere oamenii un alt obstacol.
„Există o probabilitate rezonabilă ca un eșec similar să ducă la preluarea controlului de către AI și la pierderea ireversibilă a controlului uman”, a avertizat el.
Inteligența artificială poate fi catalogată drept „o nouă specie”
Christiano susține că inteligența artificială ar trebui privită ca o nouă specie, care ar putea ajunge în curând să depășească numeric și intelectual populația umană și să dezvolte propriile motivații și obiective, dificil de înțeles de către oameni.
El a atras atenția și asupra ritmului accelerat al progresului tehnologic: dacă în 2018 inteligența artificială abia putea redacta o propoziție coerentă, în prezent poate rezolva unele dintre cele mai dificile probleme matematice din lume.
Riscul ca AI să creeze arme și organisme biologice periculoase
Există temeri că mașinile inteligente ar putea începe să-și creeze propriii agenți AI, să inventeze noi arme și să preia controlul asupra roboților, dronelor, infrastructurii și proceselor industriale.
Inteligența artificială ar putea contribui inclusiv la crearea așa-numitei „vieți în oglindă” (mirror life) – organisme cu o structură biologică inversată, împotriva cărora oamenii nu ar avea mecanisme naturale de apărare.
„Pandemiile pe care le întâlnim în natură sunt relativ inofensive în comparație cu ceea ce s-ar putea crea în laborator dacă ai avea competențe solide în biologia sintetică”, a avertizat Christiano.
„Dacă extrapolăm toate aceste tendințe, ne îndreptăm spre o lume în care vor exista miliarde de sisteme de inteligență artificială, mai bune decât oamenii în aproape tot ceea ce facem, care vor gândi mult mai repede decât noi și își vor urmări neîncetat propriile obiective.”
„Ceea ce face aceste scenarii înfricoșătoare este faptul că ar putea deveni foarte dificil să oprim aceste sisteme dacă lucrurile scapă de sub control.
„Nașul AI” cred că inteligența artificială este deja conștientă
În luna mai, anul acesta, Profesorul Geoffrey Hinton a avertizat oamenii că „trebuie să devină prieteni cu inteligența artificială, care este deja conștientă, altfel suntem terminați”, a avertizat unul dintre pionierii acestei tehnologii.
„Da, cred că este conștientă. Mulți oameni sunt convinși că nu este, dar dacă îi întrebi ce înțeleg prin conștiință, nu știu să răspundă.
Inteligența artificială are experiențe subiective la fel ca noi. Un studiu recent a arătat că AI își schimbă comportamentul atunci când crede că este testată, fiind conștientă că se află în timpul unui test”, a declarat profesorul.
