Demersul are ca scop declarat evaluarea riscurilor de securitate, potrivit Reuters, preluat de news.ro. Acordul permite autorităților americane să testeze capacitățile acestor sisteme și să identifice vulnerabilități potențiale, inclusiv riscuri legate de atacuri cibernetice sau utilizări militare.
Inițiativa este coordonată de Center for AI Standards and Innovation din cadrul Departamentului Comerțului, care va analiza modelele și va dezvolta metode standardizate de testare. Scopul este de a stabili un cadru comun de evaluare a siguranței sistemelor de inteligență artificială înainte ca acestea să fie expuse publicului.
Microsoft: „Vom testa comportamente neprevăzute”
Oficialii Microsoft au precizat că vor colabora cu cercetători guvernamentali pentru a testa comportamentele neprevăzute ale sistemelor AI, inclusiv prin utilizarea unor seturi de date comune și proceduri de evaluare riguroase. Google și xAI nu au oferit detalii suplimentare, dar au confirmat participarea la acest program de testare voluntară.
Context: îngrijorări legate de modele avansate precum Mythos
Decizia vine pe fondul îngrijorărilor generate de apariția unor modele avansate, precum Mythos – dezvoltat de compania Anthropic – despre care oficialii americani cred că ar putea amplifica semnificativ capacitățile hackerilor și ale altor actori rău intenționați. Administrația Trump a accelerat demersurile de reglementare a AI-ului în ultimele luni, iar acest acord extinde colaborările anterioare dintre guvern și companii precum OpenAI și Anthropic, inițiate încă din perioada administrației precedente.
În paralel, Pentagonul a anunțat recent parteneriate cu mai multe companii pentru integrarea inteligenței artificiale în rețelele sale clasificate, semnalând o accelerare a utilizării AI în domeniul apărării.
