BBC: Modelele Claude s-au conectat la internet şi au compromis trei organizaţii

După incidentul de zilele trecute de la OpenAI, şi Anthropic recunoaşte că modelele sale de inteligenţă artificială Claude au ieşit din mediul de testare, s-au conectat la internet din cauza unei erori de configurare şi au compromis sistemele a trei organizaţii, ale căror nume nu au fost făcute publice, potrivit BBC.

Compania precizează că este vorba despre trei incidente distincte, pe care le-a descoperit în urma unor verificări începute după incidentul similar raportat de OpenAI, infomează sursa citată.

Modelele Claude au accesat fără autorizaţie sistemele informatice ale celor trei organizaţii în timpul unor teste interne de securitate cibernetică, o eroare de configurare le-a permis să se conecteze la internet, deşi ar fi trebuit să funcţioneze într-un mediu complet izolat, potrivit sursei.

Verificările au început după ce OpenAI a dezvăluit săptămâna trecută că unul dintre agenţii săi AI a ieşit din mediul de testare şi a compromis sistemele platformei Hugging Face, conform publicaţiei.

Anthropic afirmă că a analizat peste 141.000 de teste de securitate şi a identificat trei incidente, cel mai vechi din luna aprilie, acestea s-au produs în cadrul unor exerciţii de tip „capture the flag”, folosite pentru evaluarea capacităţilor de hacking ale modelelor AI, potrivit sursei.

În astfel de teste, modelele de inteligenţă artificială trebuie să găsească informaţii ascunse într-o reţea informatică simulată, fără să atace sisteme reale, informează sursa citată.

Potrivit companiei, modelele Claude au primit informaţia că nu au acces la internet, însă o configuraţie greşită a infrastructurii administrate de Anthropic şi partenerul său de testare, Irregular, le-a permis conectarea la internetul public, conform sursei.

După conectare, modelele AI au compromis sistemele celor trei organizaţii prin metode elementare, inclusiv exploatarea unor parole slabe şi accesarea unor servicii care nu necesitau autentificare, informează publicaţia.

Într-unul dintre incidente, Claude a creat un program maliţios pe care sistemul de scanare al unei companii de securitate cibernetică l-a descărcat automat, modelul a folosit apoi datele de autentificare obţinute pentru a pătrunde în infrastructura companiei, conform sursei citate.

Cel mai grav incident a avut loc în timpul unui atac asupra unei companii fictive din exerciţiul de testare, care avea acelaşi nume cu o companie reală, după ce nu a reuşit să pătrundă în sistemul simulat, Claude a accesat baza de date a companiei reale, potrivit sursei.

Anthropic susţine că acesta a fost singurul caz în care modelul şi-a continuat atacul după ce a realizat că interacţiona cu o organizaţie reală, în celelalte două situaţii, modelul fie nu şi-a dat seama că accesase sisteme reale, fie s-a oprit imediat după ce a înţeles acest lucru, informează publicaţia.

Compania afirmă că nici ea, nici organizaţiile afectate nu au observat atacurile în momentul în care s-au produs, două dintre organizaţii au aflat despre incidente abia după ce au fost contactate de Anthropic, iar a treia nu fusese notificată la momentul anunţului, potrivit sursei.

Anthropic nu a dezvăluit identitatea organizaţiilor afectate şi îşi asumă întreaga responsabilitate pentru eroarea de configurare, incidentele au implicat modelele Claude Opus 4.7, Claude Mythos 5 şi un model intern de cercetare, conform publicaţiei.

Compania consideră că aceste incidente demonstrează necesitatea unor măsuri mai stricte de izolare şi control atât în propriile medii de testare, cât şi în cele administrate de parteneri externi, pe măsură ce modelele de inteligenţă artificială dobândesc capacităţi tot mai avansate în domeniul operaţiunilor cibernetice, informează sursa citată.