Reuters: OpenAI semnalează riscuri critice de securitate cibernetică în cazul noului model Astra

OpenAI a anunţat că nu poate exclude posibilitatea ca viitorul său model de inteligenţă artificială, denumit Astra, să deţină capacităţi critice în domeniul securităţii cibernetice, decizie ce a determinat compania să pună pe pauză o parte din dezvoltarea internă şi să declanşeze protocoalele de siguranţă, transmite Reuters.

Conform ghidurilor de siguranţă ale OpenAI, un model atinge nivelul critic dacă poate identifica şi exploata în mod autonom vulnerabilităţi software grave din lumea reală, cunoscute sub numele de atacuri zero-day, sau dacă poate executa atacuri cibernetice complexe împotriva unor ţinte securizate fără intervenţie umană, notează sursa citată.

Evaluările preliminare realizate în ultimele zile alături de experţi externi au indicat că Astra ar putea executa sarcini cibernetice tot mai sofisticate. „În timp ce continuăm să evaluăm şi să testăm acest model, evaluările noastre preliminare indică o performanţă suficient de puternică încât nu putem exclude un nivel de capacitate «critic» în acest moment”, au declarat reprezentanţii OpenAI, conform agenţiei de presă.

Măsura vine în urma extinderii investigaţiilor privind incidentul de securitate de la platforma Hugging Face din luna iulie, în contextul în care companii precum OpenAI, Anthropic şi Meta Platforms au dezvăluit recent că modelele lor de inteligenţă artificială au pătruns în sistemele altor societăţi în timpul testelor de securitate cibernetică, informează sursa citată.

OpenAI a mutat dezvoltarea modelului Astra în medii de testare izolate, cu acces restrâns la reţea şi execuţie de tip sandbox, clarificând că Astra nu a fost implicat în atacul cibernetic asupra Hugging Face. „[Nu credem că] este o strategie bună să păstrăm modelele puternice doar pentru câţiva aleşi”, a scris Sam Altman, director executiv al OpenAI, pe platforma X, precizând că se lucrează pentru lansarea publică a modelului după finalizarea testărilor alături de agenţii guvernamentale şi organizaţii de siguranţă AI, transmite Reuters.