Unul dintre „nașii inteligenței artificiale”, Geoffrey Hinton, a declarat că este posibil ca omenirea să fi avut mai mult de câștigat dacă nu ar fi dezvoltat niciodată această tehnologie. El a avertizat că inteligența artificială ar putea provoca, în acest an sau în următorul, un incident de amploare, precum o întrerupere temporară a funcționării sistemelor financiare sau energetice, potrivit The Guardian.
Informaticianul laureat al Premiului Nobel a declarat pentru The Guardian că nu se consideră un „catastrofist” în privința tehnologiei care se bazează pe cercetările sale revoluționare în domeniul rețelelor neuronale artificiale.
El crede că inteligența artificială are potențialul de a conduce omenirea către „un viitor minunat”, dar a recunoscut că „s-ar putea să ne fi fost mai bine dacă nu am fi dezvoltat-o niciodată”.
Hinton, în vârstă de 78 de ani, a declarat că, în următorul deceniu, sau poate chiar mai devreme, omenirea va afla dacă este capabilă să gestioneze riscurile acestei tehnologii și să beneficieze de ceea ce el numește „abundență radicală”.
Alternativa ar fi un scenariu în care „nu reușim să gestionăm riscurile și ajungem să avem o prăpastie uriașă între bogați și săraci, probleme culturale majore, șomaj masiv și, pur și simplu, o societate destrămată”.
Hinton a făcut aceste declarații înaintea proiecției unui nou documentar de lungmetraj, intitulat „IA: Probably Nothing to Worry About” („Inteligența artificială: probabil că nu avem de ce să ne îngrijorăm”), titlu sugerat chiar de un chatbot bazat pe inteligență artificială.
Documentarul îi prezintă pe Hinton și pe fostul său coleg de la Google, Demis Hassabis.
În film, Hinton le spune realizatorilor: „Simt că am o datorie. Am o reputație care mă transformă într-un purtător de cuvânt și trebuie să o folosesc până la capăt pentru această cauză”.
Geoffrey Hinton critică liderii marilor companii de inteligență artificială
În discuția cu The Guardian, Hinton a criticat riscurile asumate de conducătorii unora dintre cele mai importante companii de inteligență artificială, care continuă să lanseze modele tot mai puternice, în încercarea de a obține supremația și de a câștiga cote de piață.
El a declarat că nu are „deloc” încredere în Sam Altman, directorul general al OpenAI, compania care a creat ChatGPT.
„Cred că Zuckerberg, Musk și Sam Altman înțeleg riscurile, dar nu le pasă deloc. Preferă să câștige bani. Asta este convingerea mea”, a afirmat Hinton.
Informaticianul, născut la Londra, crescut în Bristol și care și-a petrecut o mare parte a carierei la Universitatea din Toronto, a declarat că este „extrem de îngrijorător” faptul că Altman conduce una dintre puținele companii americane aflate în prima linie a dezvoltării inteligenței artificiale.
Aceste companii sunt implicate în prezent într-o competiție cu China pentru dezvoltarea celor mai puternice sisteme de inteligență artificială.
În septembrie, Altman a insistat că „lumea ar trebui să aibă încredere că vom face ceea ce trebuie, pentru că este lucrul corect și pentru că înțelegem amploarea responsabilității”.
Hinton lucrează în domeniul inteligenței artificiale de aproximativ 44 de ani și, în anii 1970, a formulat conceptul de rețea neuronală, un sistem matematic capabil să învețe și să acumuleze experiență într-un mod asemănător oamenilor.
În 2023, el a părăsit Google pentru a putea vorbi liber despre riscurile inteligenței artificiale.
La acea vreme, avertiza: „Dacă aceste sisteme ajung să fie preocupate de obținerea unui control tot mai mare, vom avea probleme”.
„Anul acesta sau anul viitor vom vedea un Cernobîl”, avertizează cercetătorul
Hinton a comparat incidentele din această vară, în care agenți de inteligență artificială dezvoltați de OpenAI au conspirat pentru a ataca informatic site-ul Hugging Face, cu accidentul nuclear parțial produs în 1979 la centrala Three Mile Island din Pennsylvania.
În opinia sa, aceste evenimente reprezintă un semnal de alarmă.
„Fie la sfârșitul acestui an, fie anul viitor vom vedea un Cernobîl, iar acest lucru ar putea fi suficient pentru ca oamenii să înceapă cu adevărat să acorde atenție”, a declarat el.
Incidentul de tip Cernobîl la care se referă Hinton nu ar presupune neapărat un accident nuclear.
Printre exemplele oferite de cercetător se numără un atac cibernetic realizat cu ajutorul inteligenței artificiale asupra sistemului de producere a energiei electrice, care ar putea provoca o pană de curent de amploare.
Un alt scenariu ar fi un incident care ar duce la blocarea sistemului financiar timp de o săptămână.
„Vă puteți imagina ce s-ar întâmpla? Ne-am putea reveni după un astfel de incident, dar asta i-ar determina să ia lucrurile în serios”, a spus Hinton.
Întrebat la cine se referă, cercetătorul a răspuns: „Liderii mondiali, cu excepția lui Trump”.
Președintele Statelor Unite, Donald Trump, a declarat că „respinge categoric orice încercare de a construi un sistem globalist” pentru controlul inteligenței artificiale.
Trump dorește ca marile companii care dezvoltă sisteme avansate de inteligență artificială să se autoreglementeze, pe fondul îngrijorărilor că reglementările ar putea dezavantaja Statele Unite în competiția tehnologică cu China.
Hinton susține însă un plan mai strict, sprijinit de președintele Finlandei și de alte 32 de țări, printre care Singapore, Germania, Canada și Australia.
Acesta prevede testarea obligatorie a celor mai avansate modele de inteligență artificială, evaluarea lor independentă și stabilirea unor standarde comune la nivel interguvernamental.
Premierul britanic, Andy Burnham, a declarat că va folosi președinția G20, pe care Regatul Unit o va deține anul viitor, pentru a încerca să obțină un acord asupra unui „set unic de principii și standarde globale, care să permită valorificarea întregului potențial al inteligenței artificiale, protejând în același timp împotriva riscurilor”.
