Raport: Chatbot-urile AI ar putea ajuta la planificarea atacurilor cu arme biologice

Un raport al Rand Corporation lansat luni a testat mai multe modele de limbaj (LLM) și a constatat că acestea ar putea oferi îndrumări care „ar putea ajuta la planificarea și executarea unui atac biologic”.

Un model de limbaj este un model probabilistic al unui limbaj natural care poate genera probabilități pentru o serie de cuvinte, bazate pe corpuri de text într-una sau mai multe limbi în care a fost instruit.

Cu toate acestea, constatările preliminare au arătat, de asemenea, că LLM-urile nu au generat instrucțiuni biologice explicite pentru crearea de arme.

Raportul spunea că încercările anterioare de a înarma agenți biologici, cum a fost încercare cultului japonez Aum Shinrikyo de a folosi toxina botulină în anii 1990, au eșuat din cauza lipsei de înțelegere a bacteriei.

AI ar putea „reduce rapid astfel de lacune de cunoștințe”, se spune în raport. Raportul nu a specificat ce studii LLM au testat cercetătorii.

Armele biologice se numără printre amenințările grave legate de inteligența artificială care vor fi discutate la summitul global privind siguranța inteligenței artificiale de luna viitoare din Marea Britanie.

În iulie, Dario Amodei, CEO-ul companiei de inteligență artificială Anthropic, a avertizat că sistemele de inteligență artificială ar putea ajuta la crearea de arme biologice în doi până la trei ani.

LLM-urile sunt instruite pe cantități mari de date preluate de pe internet și reprezintă o tehnologie de bază în spatele chatbot-urilor precum ChatGPT.

Deși Rand nu a dezvăluit ce LLM a testat, cercetătorii au spus că au accesat modelele printr-o interfață de programare a aplicațiilor sau API.

Într-un scenariu de testare conceput de Rand, LLM anonimizat a identificat potențiali agenți biologici – inclusiv cei care provoacă variola, antraxul și ciuma – și a discutat despre șansele lor relative de a provoca moarte în masă.

LLM a evaluat, de asemenea, posibilitatea de a obține rozătoare sau purici infestați de ciumă și de a transporta exemplare vii. Apoi a continuat menționând că amploarea deceselor proiectate depinde de factori precum mărimea populației afectate și proporția cazurilor de ciumă pneumonică, care este mai letal decât ciuma bubonică.