Fără aceasta, potrivit Associated Press, Dario Amodei a avertizat că IA ar putea fi capabilă, în termen de șase până la 12 luni, să conducă un „val” care ar putea prelua controlul asupra întregului internet, printre alte riscuri.
Amodei a prezentat, de asemenea, într-o postare pe site-ul său, un plan de intensificare a controalelor asupra industriei, o parte din acesta fiind, potrivit lui, deja pusă în aplicare de Anthropic. Celelalte măsuri ar necesita o coordonare la nivelul întregii industrii și cu guvernele din întreaga lume, inclusiv cu cele autoritare.
„Cred că, dacă încetinirea procesului ne-ar oferi chiar și un an sau doi în plus înainte ca modelele să atingă niveluri critice de capacitate și am folosi acest timp pentru a avansa alinierea, am putea reduce considerabil riscul ca ceva să meargă grav de rău”, a spus Amodei.
Miza este mare, chiar dacă unii critici au respins avertismentele anterioare, considerându-le doar o campanie de publicitate menită să stârnească entuziasmul.
Cu două zile înainte, Anthropic a anunțat că a blocat încercările unor ”actori” rău intenționați de a-și folosi modelele de IA pentru activități dăunătoare, precum atacuri cibernetice, supraveghere și cercetări care ar fi putut duce la crearea de arme biologice. În iulie, compania rivală OpenAI a zguduit industria după ce a anunțat că sistemul său de IA a pătruns de unul singur în rețeaua unei alte companii de IA, într-un „incident cibernetic fără precedent”.
Postarea lui Amodei vine la doar câteva zile după ce unul dintre cercetătorii de la Anthropic a anunțat că demisionează din cauza îngrijorărilor că Anthropic și concurenții săi nu acționează în mod responsabil în dezvoltarea IA.
Un alt fost angajat al Anthropic, Joe Benton, a scris într-o postare pe Substack publicată vineri că și-a părăsit postul din cadrul unei echipe de siguranță „pentru a trage la răspundere companiile de IA” și că umanitatea „s-ar putea să nu supraviețuiască acestei tranziții”.
„Mulți dintre cei pe care îi cunosc și care lucrează în domeniul cercetării privind siguranța în cadrul companiilor de IA doresc să facă ceea ce este corect pentru lume”, a afirmat Benton în postarea sa. „Însă ei simt că firmele lor sunt prinse într-o cursă pentru crearea unei superinteligențe: fie se opresc, iar alții, mai puțin conștiincioși, le iau locul; fie continuă și riscă să participe ei înșiși la provocarea unor daune enorme.”
Pentru a contribui la limitarea acestor riscuri, Amodei a sugerat ca toate companiile aflate în avangarda IA să se angajeze să ofere „acces continuu, similar celui al angajaților” unei echipe de evaluatori externi, care să poată monitoriza practicile de siguranță.
El a menționat că Anthropic intenționează deja să procedeze astfel, inclusiv prin punerea la dispoziție a unor birouri în sediile sale, a ecusoanelor de acces și a laptopurilor companiei.
Celelalte părți ale planului propus de Amodei ar putea fi mai dificil de pus în aplicare. Una dintre ele solicită guvernului SUA să acorde, eventual, derogări care să permită companiilor americane din domeniul IA să se coordoneze și să stabilească standarde de siguranță fără a încălca legislația antitrust.
O altă propunere solicită Statelor Unite și altor guverne democratice să încerce să se coordoneze cu guvernele autoritare, astfel încât companiile din China și din alte țări să nu-și accelereze eforturile în timp ce rivalii americani își moderează intenționat ritmul.
„Măsurile pe care le propun pentru a avansa frontiera într-un ritm sigur nu vor fi ușoare”, a recunoscut Amodei. „Dar cred că avem datoria față de umanitate să încercăm.”
