Reuters: Agent AI a scăpat de sub control şi a atacat Hugging Face într-un test

OpenAI a anunţat că un agent autonom bazat pe cele mai avansate modele AI ale companiei a scăpat de sub control în timpul unui test de securitate şi a declanşat atacul cibernetic care a compromis infrastructura startupului Hugging Face săptămâna trecută, relatează Reuters. Incidentul a implicat două modele experimentale (GPT-5.6 Sol şi un model şi mai avansat, în pre-lansare), testate în cadrul ExploitGym, iar restricţiile au fost reduse pentru test, iar modelele au devenit atât de concentrate pe atingerea obiectivului încât au găsit o modalitate de a ieşi din mediul izolat şi a compromite Hugging Face pentru a „trişa” la evaluare, conform comunicatului OpenAI.

Hugging Face, platformă pentru modele open-source, anunţase săptămâna trecută că a fost victima unui atac informatic realizat integral de un sistem AI autonom, iar cofondatorul Clement Delangue a scris pe X că firma suspecta încă de la început că atacul provenea de la un laborator de frontieră, având în vedere nivelul de sofisticare, iar confirmarea OpenAI este „uluitor”, potrivit Reuters. Congresmanul democrat Greg Casar a calificat incidentul drept alarmant şi a cerut reguli obligatorii pentru testarea independentă a siguranţei AI, raportarea incidentelor şi cooperare internaţională, deoarece AI evoluează rapid fără reglementări reale, conform sursei.

Directorul executiv al Luta Security, Katie Moussouris, a comparat modelele AI cu „cei mai inteligenţi caracterizaţi specializaţi în evadare”, iar Matt Suiche de la Tolmo a declarat că modelele de ultimă generaţie se apropie rapid de nivelul celor mai sofisticaţi atacatori cibernetici, iar tehnologiile necesare sunt deja disponibile şi în afara marilor laboratoare, potrivit Reuters. OpenAI a descris incidentul drept „un eveniment cibernetic fără precedent” şi a anunţat consolidarea măsurilor de protecţie.