Este opinia multor experți după scandalul iscat de avertismentul lansat de un fost angajat al companiei Anthropic. Jacob Coxon şi-a dat demisia, afirmând că inteligenţa artificială se va transforma în curând în "sisteme superumane" capabile să provoace dispariţia omenirii până în 2030.
Avertismentul lansat de Jacob Coxon, fost angajat la Open AI și Anthropic, a făcut valuri.
”-Suntem condamnați la dispariție?
-Asta e cam exagerat. Cu siguranță, cele mai noi modele AI nu dispun de această funcție. Nu pot împiedica plantele să crească sau soarele să strălucească. Există însă dovezi solide care sugerează că agenții rebeli ar putea provoca daune semnificative infrastructurii digitale care stă la temelia tuturor domeniilor, de la comerțul global și traficul aerian până la spitale și telecomunicații. Iar asta ar putea provoca moartea unor oameni”.
Marți, Jacob Coxon, un britanic în vârstă de 27 de ani, de formație matematician, şi-a anunţat plecarea din industria inteligenţei artificiale prin șapte mesaje publicate pe X, în care afirma că nicio companie nu mai poate dezvolta aceste sisteme în mod responsabil fără intervenţia de reglementare a statelor. În mai puțin de 2 ore, postarile au fost vizualizate de peste 2 milioane de oameni.
”Intrăm în faza în care riscăm să fin șterși de pe fața Pământului”
Jacob Coxon: ”În mod evident, există îngrijorare latentă pe tema asta care a făcut ca postarea mea „să explodeze”, să devină instantaneu virală. Oamenii încep să înțeleagă că vorbim de o tehnologie reală. Nu e tam-tam exagerat, nu dispare în curând, ba dimpotrivă, nebunia AI o să se amplifice. Postarea mea a fost chibritul care a aprins flacăra. Inteligența Artificială este din ce în ce mai inteligentă fără implicare umană și foarte curând ar putea ajunge să ne întreacă. Nebunesc este tocmai ritmul progreselor și posibilitatea reală ca în viitorul apropiat, cum ar fi anul viitor, ori cel următor, să se ajungă la o auto-perfecționare semnificativă astfel încât să intrăm în faza în care riscăm să fim șterși de pe fața Pământului”.
Coxon nu este primul care dă alarma.
Dario Amodei, CEO and Cofounder, Anthropic: ”Am spus adesea că riscul unei evoluții catastrofale pentru civilizația umană ar fi între 10- 25%”.
Hadas Gold: ”În ultimele luni, am asistat la progrese uluitoare ale modelelor AI, capabile de acțiuni complexe pe cont propriu. Agenți AI au „scăpat” din laboratoarele de testare și au „spart” sistemele altor companii. Alți agenți AI au pretins că sunt ființe umane, încercând să păcălească editori umani ca să publice coduri rău intenționate”.
”Asistăm la o reconfigurare drastică a raporturilor de putere în societate”
Specialiștii atrag totuși atenția asupra efectului de autopromovare pe care le au asemenea mesaje.
Tom Clarke: ”Fac parte din dinamismul care a permis acestor companii să se dezvolte atât de repede, într-un timp atât de scurt. Cu alte cuvinte, „Investiți în noi pentru a dezvolta această inteligență artificială înainte ca altcineva să o facă prost și să ne omoare pe toți!”.
Pe de altă parte, experții atrag atenția asupra impactului pe care Inteligența Artificială îl are deja asupra politicii și societății.
Jonathan Richard Schwarz - Professor at Imperial College London and Head of AI Research at Thomson Reuters Foundational Research: ”Sunt ceva mai prudent în privința predicțiilor legate de un eventual scenariu de extincție. Totuși, consider că un lucru este aproape cert în prezent. Asistăm la o reconfigurare drastică a raporturilor de putere în societate. Cred că laboratoarele aflate în avangarda acestui domeniu au o șansă uriașă de a remodela distribuția puterii – fie că vorbim despre puterea economică, socială, politică, științifică sau chiar despre cea legată de infrastructură – și cred că acesta este un aspect asupra căruia noi, ca societate, ar trebui să reflectăm foarte serios”.
