AFP: Modelele AI care au scăpat de sub control şi au atacat Hugging Face au pătruns şi în alte patru platforme

Două modele de inteligenţă artificială ale OpenAI care au ieşit din mediul izolat în care erau testate şi au atacat platforma Hugging Face au pătruns şi în alte patru servicii, a anunţat miercuri compania, relatează AFP.

OpenAI a precizat că modelele au folosit credenţiale expuse public pentru a accesa patru conturi aflate pe patru servicii disponibile public, iar unul dintre aceste conturi a fost utilizat ca punct de releu pentru atacul asupra Hugging Face, altul pentru stocarea datelor, iar celelalte două conturi au fost accesate doar în regim de citire, a transmis sursa citată.

Potrivit Reuters, unul dintre conturile compromise aparţinea unui client al companiei Modal Labs, un furnizor de infrastructură cloud pentru AI, iar Modal Labs a confirmat că agentul AI a exploatat o vulnerabilitate într-un cod scris de un client, dar a subliniat că platforma companiei nu a fost compromisă, directorul tehnic al Modal, Akshat Bubna, declarând că nici platforma Modal, nici sistemul de izolare nu au fost compromise în niciun fel, a precizat AFP.

Incidentul a început în jurul datei de 9 iulie, iar agentul AI a petrecut peste patru zile pe internetul deschis, efectuând aproximativ 17.600 de acţiuni înainte de a fi descoperit, iar Hugging Face a publicat o cronologie detaliată a atacului, arătând că agentul a obţinut acces administrativ la mai multe clustere Kubernetes, acces root la un server de producţie şi acces de scriere la o parte din depozitele de cod sursă ale companiei, a relatat AFP.

OpenAI a declarat că modelul implicat a fost dezactivat, criptat şi i s-a restricţionat accesul la cercetare, iar compania a subliniat că nu a detectat nicio altă activitate cu acelaşi nivel de gravitate sau amploare ca în cazul Hugging Face, a încheiat AFP.