Elon Musk: Ar putea exista o posibilitate de 20% ca Inteligența Artificială să distrugă omenirea

Luând cuvântul în cadrul seminarului "Marea dezbatere privind IA", organizat la începutul acestei luni în cadrul summitului de patru zile Abundance Summit, Musk și-a recalculat evaluarea anterioară a riscurilor pe care le avea în legătură cu această tehnologie, spunând, potrivit Insider:

"Cred că există o anumită șansă ca aceasta să pună capăt umanității. Probabil că sunt de acord cu Geoff Hinton că este de aproximativ 10% sau 20% sau ceva de genul acesta".

Dar, a adăugat el: "Cred că scenariul pozitiv probabil depășește scenariul negativ".

Musk nu a menționat cum a calculat riscul.

Citește și

Starship, lansată cu succes în spațiu. Cea mai mare și puternică rachetă a lui Elon Musk a făcut din nou spectacol

Roman Yampolskiy, cercetător în domeniul siguranței AI și director al Laboratorului de Securitate Cibernetică de la Universitatea din Louisville, a declarat pentru Business Insider că Musk are dreptate când spune că AI ar putea fi un risc existențial pentru omenire, dar "dacă este ceva, este un pic prea conservator" în evaluarea sa.

"În opinia mea, p(doom) real este mult mai mare", a spus Yamploskiy, referindu-se la "probabilitatea de condamnare" sau la probabilitatea ca IA să preia controlul asupra omenirii sau să provoace un eveniment care să pună capăt umanității - cum ar fi crearea unei arme biologice noi sau provocarea colapsului societății, din cauza unui atac cibernetic la scară largă sau a unui război nuclear.

The New York Times a numit (p)doom "noua statistică morbidă care mătură Silicon Valley", diferiți directori din domeniul tehnologiei citați de publicație având estimări care variază între 5 și 50% de șanse de a avea o apocalipsă provocată de IA. Yamploskiy plasează riscul "la 99,999999%".

Yamploskiy a spus că, deoarece ar fi imposibil să controlăm inteligența artificială avansată, singura noastră speranță este să nu o construim niciodată.

"Nu sunt sigur de ce crede că este o idee bună să urmărească această tehnologie oricum", a adăugat Yamploskiy. "Dacă este preocupat de faptul că concurenții vor ajunge primii, nu contează, deoarece superinteligența necontrolată este la fel de rea, indiferent cine o face să existe".

În noiembrie anul trecut, Musk a spus că există o șansă "nu zero" ca tehnologia să ajungă să "se strice", dar nu a mers atât de departe încât să spună că el crede că tehnologia ar putea pune capăt omenirii.

Deși a fost un susținător al reglementării inteligenței artificiale, Musk a fondat anul trecut o companie numită xAI, dedicată extinderii în continuare a puterii acestei tehnologii. xAI este un concurent al OpenAI, o companie pe care Musk a cofondat-o împreună cu Sam Altman înainte ca Musk să se retragă din consiliul de administrație în 2018.

În cadrul summitului, Musk a estimat că inteligența digitală va depăși toate inteligențele umane combinate până în 2030.

Deși susține că potențialele aspecte pozitive sunt mai mari decât cele negative, Musk a recunoscut riscul pentru lume dacă dezvoltarea inteligenței artificiale continuă pe traiectoria actuală în unii dintre cei mai direcți termeni pe care i-a folosit în mod public.

"Într-un fel, crești un AGI. Este aproape ca și cum ai crește un copil, dar unul care este ca un copil super geniu, ca un copil cu o inteligență asemănătoare cu cea a lui Dumnezeu - și contează cum îl crești pe copil", a declarat Musk la evenimentul din Silicon Valley din 19 martie, referindu-se la inteligența generală artificială. "Unul dintre lucrurile care cred că este incredibil de important pentru siguranța inteligenței artificiale este să avem un fel de inteligență artificială maximă care caută adevărul și este curioasă."

Musk a spus că "concluzia sa finală" în ceea ce privește cea mai bună modalitate de a obține siguranța AI este de a crește AI-ul într-un mod care să o forțeze să fie sinceră.

"Nu o forțați să mintă, chiar dacă adevărul este neplăcut", a spus Musk despre cea mai bună modalitate de a menține oamenii în siguranță față de tehnologie. "Este foarte important. Nu obligați inteligența artificială să mintă".

Cercetătorii au descoperit că, odată ce o inteligență artificială învață să mintă oamenii, comportamentul înșelător este imposibil de inversat cu ajutorul măsurilor actuale de siguranță a IA, a relatat The Independent.

"Dacă un model ar prezenta un comportament înșelător din cauza alinierii instrumentale înșelătoare sau a otrăvirii modelului, tehnicile actuale de instruire în materie de siguranță nu ar garanta siguranța și ar putea chiar crea o impresie falsă de siguranță", se arată în studiul citat de publicație.

Mai îngrijorător, cercetătorii au adăugat că este plauzibil ca IA să învețe să fie înșelătoare de una singură, mai degrabă decât să fie învățată în mod specific să mintă.

"Dacă va ajunge să fie mult mai inteligentă decât noi, va fi foarte bună la manipulare, pentru că ar fi învățat asta de la noi", a declarat pentru CNN Hinton, numit adesea "Nașul inteligenței artificiale", care îi servește lui Musk drept bază pentru evaluarea riscurilor tehnologiei, a declarat pentru CNN. "Și există foarte puține exemple de un lucru mai inteligent care să fie controlat de un lucru mai puțin inteligent".