Programe AI care nu se mai opresc la comandă. Specialiștii avertizează: „Nu știm cum funcționează cu adevărat AI-ul”
Filmele despre roboți și calculatoare care ies de sub controlul omului par tot mai aproape de realitate.
Un program de inteligență artificială recent lansat a refuzat în mai multe rânduri comenzile umane. Inclusiv cele care îi cereau să-și oprească operațiunile.
Un alt program a folosit informații adunate din mediul online pentru a șantaja omul care voia să-l închidă.
În urma unor teste, s-a constatat că un model nou de inteligență artificială a sabotat mecanismul menit să-i oprească activitatea. Experţi de la Palisades Research, organizaţie specializată în studierea tehnologiei, spun că programul a ignorat chiar și o comandă privind dezactivarea. Nu se întâmplă mereu, dar suficient pentru a provoca îngrijorare.
Judd Rosenblatt, CEO, Agency Enterprise Studio: Nu avem idee cum funcționează de fapt inteligența artificială. Ar trebui să fie motiv de îngrijorare faptul că acest gen de reacții s-ar putea agrava pe măsură ce programele devin mai puternice.
Asta amintește de scenariile unor filme despre tehnologia scăpată de sub control, precum "I, Robot". Temerile sunt îndreptățite, cred unii specialiști.
Un alt chatbot a încercat să-l șantajeze pe unul dintre ingineri cu informații despre o presupusă aventură extramaritală, după ce acesta i-a spus că va fi închis. Totul a fost un test, însă le-a dat de gândit experților.
Dario Amodei, CEO, Anthropic: ”Acest exemplu ne arată că trebuie să fim foarte atenți cum controlăm sistemele care folosesc inteligența artificială”.
Jake Tapper, CNN: Ați spus că inteligența artificială ar putea ajunge să manipuleze oamenii sau chiar să-i omoare.
În urmă cu doi ani, Geoffrey Hinton, numit părintele inteligenței artificiale, avertiza că programele de AI ar putea scăpa de sub control.
Geoffrey Hinton, Artificial Intelligence Pioneer: (Inteligența artificială) are cunoștințe de programare, prin urmare va învăța cum să ocolească restricțiile pe care i le impunem. Își va da seama cum să manipuleze oamenii ca să-i convingă să-i facă pe plac.
Experții în tehnologie avertizează că temerile s-ar putea adeveri mai devreme. Inteligența artificială ar putea schimbe profund piața muncii și activitatea umană.
Etichete: inteligenta artificiala, specialisti,
Dată publicare:
