Reuters: OpenAI înăspreşte măsurile de securitate pentru noul model Astra

OpenAI a suspendat o parte dintre activităţile interne şi a introdus măsuri suplimentare de protecţie după ce evaluările au arătat că viitorul model de inteligenţă artificială Astra a atins un nivel critic al capacităţilor în domeniul securităţii cibernetice, transmite Reuters.

Nivelul critic este atins în normele de siguranţă ale societăţii atunci când un model identifică şi exploatează autonom vulnerabilităţi software grave neştiute anterior sau desfăşoară atacuri cibernetice complexe fără intervenţie umană. Evaluările preliminare derulate în ultimele zile cu participarea unor experţi externi au arătat că noul model execută autonom sarcini cibernetice sofisticate, conform agenţiei de presă.

„În timp ce continuăm testarea şi evaluarea acestui model, rezultatele preliminare indică performanţe suficient de ridicate încât, în acest moment, să nu putem exclude nivelul «critic» al capabilităţilor”, au precizat reprezentanţii OpenAI. Producătorul a intensificat controalele de siguranţă şi a mutat activităţile în medii de testare izolate cu acces restrâns la reţea, notează publicaţia.

Decizia urmează unor cazuri în care alţi agenţi autonomi au ieşit din spaţiile izolate de testare, iar situaţii similare au raportat în ultimele săptămâni şi companiile Anthropic şi Meta. Modelul Astra nu a fost implicat în atacul informatic împotriva platformei Hugging Face din luna iulie, iar dezvoltatorul colaborează cu agenţii guvernamentale pentru evaluarea capacităţilor sistemului, transmite sursa citată.