Programe AI care nu se mai opresc la comandă. Specialiștii avertizează: „Nu știm cum funcționează cu adevărat AI-ul”

Filmele despre roboți și calculatoare care ies de sub controlul omului par tot mai aproape de realitate.

Stirileprotv

Un program de inteligență artificială recent lansat a refuzat în mai multe rânduri comenzile umane. Inclusiv cele care îi cereau să-și oprească operațiunile.

Un alt program a folosit informații adunate din mediul online pentru a șantaja omul care voia să-l închidă.

În urma unor teste, s-a constatat că un model nou de inteligență artificială a sabotat mecanismul menit să-i oprească activitatea. Experţi de la Palisades Research, organizaţie specializată în studierea tehnologiei, spun că programul a ignorat chiar și o comandă privind dezactivarea. Nu se întâmplă mereu, dar suficient pentru a provoca îngrijorare.

Judd Rosenblatt, CEO, Agency Enterprise Studio: Nu avem idee cum funcționează de fapt inteligența artificială. Ar trebui să fie motiv de îngrijorare faptul că acest gen de reacții s-ar putea agrava pe măsură ce programele devin mai puternice.

Asta amintește de scenariile unor filme despre tehnologia scăpată de sub control, precum "I, Robot". Temerile sunt îndreptățite, cred unii specialiști.

Un alt chatbot a încercat să-l șantajeze pe unul dintre ingineri cu informații despre o presupusă aventură extramaritală, după ce acesta i-a spus că va fi închis. Totul a fost un test, însă le-a dat de gândit experților.

Dario Amodei, CEO, Anthropic: ”Acest exemplu ne arată că trebuie să fim foarte atenți cum controlăm sistemele care folosesc inteligența artificială”.

Jake Tapper, CNN: Ați spus că inteligența artificială ar putea ajunge să manipuleze oamenii sau chiar să-i omoare.

În urmă cu doi ani, Geoffrey Hinton, numit părintele inteligenței artificiale, avertiza că programele de AI ar putea scăpa de sub control.

Geoffrey Hinton, Artificial Intelligence Pioneer: (Inteligența artificială) are cunoștințe de programare, prin urmare va învăța cum să ocolească restricțiile pe care i le impunem. Își va da seama cum să manipuleze oamenii ca să-i convingă să-i facă pe plac.

Experții în tehnologie avertizează că temerile s-ar putea adeveri mai devreme. Inteligența artificială ar putea schimbe profund piața muncii și activitatea umană.

Urmărește Știrile PRO TV pe canalul de social media preferat:

Etichete: inteligenta artificiala, specialisti,

Dată publicare:

Articol recomandat de sport.ro

GALERIE FOTO Alisha Lehmann l-a uitat complet pe Douglas Luiz: postarea care i-a înnebunit pe fanii fotbalistei sexy

Stiri externe

Primul interviu al lui Viktor Orbán după înfrângerea dureroasă în fața lui Péter Magyar: „O epocă politică s-a încheiat”

Viktor Orbán a oferit primul interviu după eșecul sever suferit în alegerile parlamentare din Ungaria, unde formațiunea sa a fost învinsă de partidul condus de rivalul său, Péter Magyar.

Stiri externe

Biblia invocată la Pentagon. Pete Hegseth a comparat presa cu fariseii. Cum a reacționat Papa Leon

Secretarul american al apărării, Pete Hegseth, a citat joi versete biblice pentru a ataca mass-media, comparând reporterii cu adversarii evrei ai lui Iisus Hristos care complotau „cum să-l distrugă”.

Stiri externe

Putin, nervos în public în timpul întâlnirii cu responsabilii din domeniul economiei: „Aștept rapoarte și explicații”

Vladimir Putin i-a mustrat public pe principalii responsabili din sectorul economic, după ce PIB-ul Rusiei s-a contractat cu 1,8% în perioada ianuarie - februarie 2026.

Stiri Sanatate

Defecțiune la instalația de oxigen a Spitalului Pantelimon, după ce o persoană necunoscută a furat o țeavă și un robinet

Instalaţia de oxigen a Spitalului Pantelimon din Bucureşti nu a funcţionat, joi seară, din cauza unei defecţiuni tehnice. O persoană necunoscută a escaladat gardul, a distrus componente și a furat o țeavă și un robinet. Situația a fost remediată ulterior.

Stiri Politice

PSD forțează plecarea lui Ilie Bolojan. Mesajul premierului pentru colegii din PNL după întâlnirea cu Nicușor Dan

Se prefigurează o criză fără precedent pe scena politică românească, iar consecințele economice pot fi însemnate. PSD îi va da termen 72 de ore lui Ilie Bolojan să plece din fruntea guvernului, după ce luni, 20 aprilie, îi va retrage sprijinul politic.

Inspectorul PRO

România, fostul „grânar al Europei”, a ajuns să importe până și semințele de grâu. Cercetarea și investițiile, ignorate

România a ajuns să importe până și sămânța de grâu. Deși boabele pe care încă le producem în Institutul de la Fundulea, sunt de foarte bună calitate, acestea acoperă puțin peste o treime din necesarul pentru agricultură.