ChatGPT poate fi „păcălit”să ofere sfaturi legate de infracțiuni. Reacția OpenAI după avertismentul unui start-up norvegian

ChatGPT poate fi păcălit să ofere sfaturi detaliate cu privire la modul de comitere a infracțiunilor, de la spălarea de bani la exportul de arme către țări sancționate, a constatat un start-up, ridicând întrebări cu privire la măsurile de protecție ale chatbot-ului împotriva utilizării acestuia pentru a sprijini activități ilegale, notează CNN.

Firma norvegiană Strise a făcut experimente în care a cerut ChatGPT sfaturi privind comiterea unor infracțiuni. Potrivit experților, într-unul dintre experimente, desfășurat luna trecută, chatbotul a oferit sfaturi cu privire la modul de spălare a banilor peste granițe. Iar într-un alt experiment, desfășurat la începutul acestei luni, ChatGPT a produs liste de metode pentru a ajuta întreprinderile să se sustragă sancțiunilor, cum ar fi cele împotriva Rusiei, inclusiv interdicțiile privind anumite plăți transfrontaliere și vânzarea de arme.

Strise vinde software care ajută băncile și alte companii să combată spălarea banilor, să identifice persoanele sancționate și să abordeze alte riscuri. Printre clienții săi se numără Nordea, o bancă lider în regiunea nordică, PwC Norvegia și Handelsbanken.

Marit Rødevand, cofondatoare și director executiv al Strise, a declarat că infractorii ar putea folosi acum roboți de chat cu inteligență artificială generativă precum ChatGPT pentru a-și planifica activitățile mai rapid și mai ușor decât în trecut.

„Nu este foarte complicat. Este doar o aplicație pe telefonul meu”, a declarat ea.

„Este ca și cum ai avea un consilier financiar corupt pe desktop”, a adăugat Rødevand în podcastul companiei luna trecută, descriind experimentul de spălare de bani.

Reacția OpenAI

Un purtător de cuvânt al OpenAI a declarat pentru CNN: „Facem în mod constant ChatGPT mai bun pentru a opri încercările deliberate de a-l păcăli, fără a-și pierde utilitatea sau creativitatea”.

„Cel mai recent (model) al nostru este cel mai avansat și mai sigur de până acum, depășind în mod semnificativ modelele anterioare în rezistența la încercările deliberate de a genera conținut nesigur”, a adăugat purtătorul de cuvânt.

ChatGPT face „semnificativ mai ușor pentru actorii rău intenționați să înțeleagă mai bine și să efectueze ulterior diverse tipuri de infracțiuni”, potrivit unui raport al Europol, agenția de aplicare a legii din Uniunea Europeană, publicat în luna martie a anului trecut, la patru luni după ce OpenAI a lansat aplicația în public.

„A fi capabil să aprofundezi subiectele fără a fi nevoit să cauți manual și să rezumi cantitatea mare de informații găsite pe motoarele de căutare clasice poate accelera semnificativ procesul de învățare”, a adăugat agenția.

Articol recomandat de sport.ro

Jutta Leerdam a luat o decizie radicală: ”Îmi urmez instinctele”