Singularitatea este un concept teoretic care definește momentul în care AI-ul va devansa definitiv inteligența umană și nimeni nu o va mai putea opri sau controla.
Avertismentul legat de riscul Singularității îi aparține lui Mihnea Măruță, jurnalist, profesor universitar și doctor în filozofie, cunoscut pentru analizele sale profunde privind impactul inteligenței artificiale asupra umanității.
El se alătură astfel celor care susțin că Singularitatea ar putea veni mai repede decât cred majoritatea oamenilor. Printre cei care susțin că acest moment e inevitabil se numără și Sam Altman, fondatorul Open AI.
“Se va întâmpla ceva de importanță planetară. M-aș bucura să greșesc”
Modelele AI au ajuns într-un punct în care „se auto-perfecționează”, iar lumea intră într-o etapă pe care nici măcar creatorii tehnologiei nu o mai controlează pe deplin, avertizează Mihnea Măruță, într-un interviu realizat de Cristian Leonte, pentru știrileprotv.ro.
“Am creat o entitate care amenință să ne elimine pe toți”, a spus el.
Mihnea Măruță: „Aceste modele de inteligență artificială pe care le folosim și noi foarte des, cum ar fi ChatGPT, Claude sau DeepSeek, nu mai sunt programate. (...) Inteligența artificială a ajuns în stadiul în care crește pe baze proprii, se autoverifică, a ajuns inclusiv la performanțe de a-și repara propriile greșeli de soft. (…)
Lucrurile se schimbă nu de la o săptămână la alta, ci de la o zi la alta, dintr-un motiv matematic, și anume pentru că am intrat pe o curbă exponențială. Adică aceste modele, pentru că nu mai sunt programate de noi, se auto-perfecționează și se auto-îmbunătățesc singure. Suntem pe curba exponențială în sus și aș zice, cu riscul să greșesc — și m-aș bucura să greșesc — că în acest an se va întâmpla ceva, un moment de o importanță planetară."
Inteligența Artificială a creat deja virusul perfect, care are capacitatea de a distruge omenirea
Mihnea Măruță avertizează că modelele AI sunt capabile de cercetări și îmbunătățiri “pe care omul de rând nu le știe.” El oferă drept exemplu un recent studiu controversat despre folosirea inteligenței artificiale în biologie și genetică.
Mihnea Măruță: „Pe baza unei secvențe parțiale de ADN, i s-a cerut unui astfel de model să creeze un virus nou. A creat 100 de viruși noi pe baza unei singure secvențe de ADN, din care 16 sunt valizi. (...) Mai mult decât atât, unul din cei 16 viruși avea un înveliș protector care nu mai există în nicio ființă de pe Pământ”.
Un scenariu de coșmar ar fi acela în care “o entitate, un stat sau o grupare teroristă ar pune mâna pe un asemenea model și ar cere să confecționeze un virus inexistent și să-l și elibereze în lume”, arată Măruță.
Scenariul „Fabrica de Clei” - momentul în care Inteligența Artificială decide că oamenii devin inutili
Cel mai întunecat scenariu discutat în cercurile tehnologice este cel în care AI controlează fabrici de roboți care, la rândul lor, creează alte fabrici — un lanț autonom din care oamenii sunt excluși complet.
Mihnea Măruță apelează la o metaforă istorică tulburătoare pentru a descrie acest risc, evocând Revoluția Industrială, când caii au fost înlocuiți de mașini.
Mihnea Măruță: “Problema mai gravă este în momentul în care, să zicem, un model de inteligență artificială ajunge să controleze o fabrică de roboți. În acel moment, unul dintre cei mai cunoscuți proprietari ai unor asemenea rețele (AI) vorbește de stadiul "glue factory", care se referă la faptul că la începutul secolului 20, odată cu apariția autoturismelor, caii au fost trimiși la fabrica de clei. Exact ăsta e cuvântul.”
