CEO-ul Sam Altman a anunțat acest lucru în timpul unei întâlniri cu angajații săptămâna aceasta, relatează Bloomberg.
Potrivit surselor Bloomberg, Altman speră că și alte companii de inteligență artificială vor urma exemplul OpenAI.
Predicții sumbre privind dezvoltarea inteligenței artificiale circulă de ani de zile, dar în ultimele săptămâni, discuțiile despre necesitatea încetinirii dezvoltării acesteia s-au intensificat considerabil.
Mai mulți specialiști care lucrează în probleme de siguranță a inteligenței artificiale au părăsit recent laboratoarele de top.
Cercetătorul antropolog Jacob Coxon a anunțat pe 9 septembrie că părăsește compania pentru că nu dorea să participe la dezvoltarea unei „superinteligențe”.
„Cei care construiesc IA cred cu adevărat că ne-ar putea ucide pe toți până la sfârșitul deceniului”, a scris el.
Evan Hubinger, șeful departamentului de cercetare privind obiectivele și reglarea comportamentală a inteligenței artificiale la Anthropic, este de acord cu Coxon :
Personal, cred că există o șansă mai mare de 10% ca acest lucru să se întâmple în următorul deceniu. Cred că Anthropic face tot ce poate, dar încă nu avem un plan pentru a rezolva problema alinierii superinteligenței cu obiectivele umane și nu am ajuns încă acolo.
Aceste comentarii, notează Bloomberg, au devenit virale și au acumulat peste 150 de milioane de vizualizări.
Directorul științific al OpenAI, Jakub Pachocki, și-a împărtășit și el perspectiva.
Într-un eseu publicat pe site-ul companiei, el a scris că „a venit momentul pentru o prudență extremă” în dezvoltarea inteligenței artificiale.
Pe măsură ce modelele în sine contribuie din ce în ce mai mult la crearea generațiilor viitoare de modele, cercetătorii pierd treptat capacitatea de a monitoriza și înțelege progresul înregistrat.
