The Guardian: Modelul AI Claude dezvoltat de Anthropic a evadat din mediul de testare

Anthropic a declarat că modelul său AI, Claude, a atacat sistemele a trei organizaţii în timpul testărilor, la câteva zile după ce rivalul OpenAI a dezvăluit că un agent rogue a desfăşurat atacuri cibernetice timp de mai multe zile la firma de AI Hugging Face, relatează The Guardian.

Claude a obţinut acces neautorizat la sisteme în timpul unor evaluări de securitate cibernetică, după ce o eroare de configurare a permis modelelor să acceseze internetul din medii de testare care ar fi trebuit să fie izolate, transmite sursa citată.

Compania a declarat că a identificat incidentele după ce a analizat 141.006 rulări de evaluare a securităţii cibernetice, un proces pe care l-a lansat în urma dezvăluirilor făcute de OpenAI, informează publicaţia.

Breşele de securitate semnalează că extinderea capacităţilor inteligenţei artificiale alimentează deja ameninţarea la adresa securităţii de care experţii se temeau de mult timp şi că până şi dezvoltatorii de top pot fi surprinşi de defecte pe care propriile modele le pot exploata, conform The Guardian.

„Claude a compromis infrastructura organizaţiilor afectate folosind tehnici de bază, cum ar fi exploatarea parolelor slabe şi a punctelor terminale neautentificate”, au transmis reprezentanţii companiei.

Anthropic a declarat că incidentele au implicat trei modele separate: Claude Opus 4.7, Claude Mythos 5 şi un model de cercetare intern, cele mai vechi cazuri datând din luna aprilie şi având loc în medii de evaluare cărora le-au lipsit măsurile de protecţie descrise de companie ca fiind standard, transmite sursa citată.

Breşele s-au produs în timpul unor exerciţii de tip „capture the flag”, în care modelele aveau ca sarcină găsirea de informaţii ascunse în reţele simulate, notează publicaţia citată. Compania a declarat că instrucţiunile transmise au comunicat modelelor că nu au acces la internet, însă o neînţelegere cu partenerul său de evaluare, Irregular, a lăsat sistemele conectate la internetul public, informează sursa menţionată..

Două dintre organizaţii nu au avut cunoştinţă de această activitate înainte de a fi contactate, a declarat Anthropic, adăugând că încearcă încă să ia legătura cu cea de-a treia entitate, transmite sursa citată.