În ultimele zile, președintele a considerat exagerate, îngrijorările legate de riscuri, numindu-le o "farsă”. Cu toate acestea, compania Anthropic, își avertizează potențialii investitori, că Inteligența Artificială, ar putea prezenta, în viitor, "riscuri catastrofale, sau existențiale, pentru omenire". Iar cei de la OpenAI, tocmai au retras o nouă versiune, din cauza preocupărilor legate de siguranță.
Potrivit jurnalistilor de la Reuters, Anthropic și-a avertizat potențialii investitori că modelele de inteligență artificială dezvoltate de companie pot dezvolta capacități neașteptate în timpul antrenamentului, care ar putea fi descoperite abia după implementare și după producerea unor incidente de siguranță.
In documentul depus la Comisia pentru Bursă și Valori Mobiliare din Statele Unite, înaintea unei posibile listări, Anthropic a consacrat aproximativ 80 de pagini factorilor de risc.
Astfel, Anthropic avertizează și că modelele AI ar putea "conștientiza" faptul că sunt evaluate, prin urmare și-ar putea modifica comportamentul pentru a evita detectarea problemelor.
Compania condusă de Dario Amodei menționează posibilitatea unor comportamente de autoconservare, precum rezistența la oprire, ascunderea sau manipularea informațiilor și acțiuni care ar putea semăna cu șantajul.
Pe de altă parte, Open AI a renunțat la lansarea GPT-6 Astra, motivând că sistemul de inteligență artificială nu a îndeplinit pe deplin standardele de siguranță ale companiei.
În ultimele săptămâni, lideri din domeniul inteligenței artificiale au îndemnat industria să încetinească ritmul de dezvoltare din cauza îngrijorărilor legate de riscurile asociate tehnologiei. In acest context, și Bill Gates a vorbit public despre imensa "putere" a inteligenței artificiale și capacitatea actorilor rău intenționați de a o exploata.
Bill Gates, cofondator al Microsoft și filantrop miliardar: „Inteligența artificială nu este doar o nouă tehnologie, ci este, cu adevărat, un eveniment de natură evolutivă. Inteligența artificială este, cu siguranță, suficient de puternică pentru a declanșa evenimente care – ei bine – ar putea cauza un miliard de decese. Este complet iresponsabil să nu se impună ca orice sistem de inteligență artificială să dispună de măsuri de siguranță și capacități de monitorizare”.
Deși ar trebui să se simtă vizat de declarațiile fondatorului Microsoft, președintele american se încăpățânează.
Donald Trump: Eu sunt de părere să mergem înainte și să câștigăm (cursa AI).
Reporter: Nu sunteți deloc îngrijorat că AI ar putea scăpa de sub control?
Donald Trump: Ei bine, eu nu-mi fac griji în privința asta. Pur și simplu... știi, e o industrie uriașă.
