Reuters: Agenţii OpenAI au testat vulnerabilităţile Hugging Face cu două luni înaintea atacului din iulie

Agenţi AI ai OpenAI au compromis conturi ale utilizatorilor platformei Hugging Face şi au testat componente ale reţelei pentru identificarea unor vulnerabilităţi încă din luna mai, cu aproape două luni înaintea incidentului major din iulie, potrivit unor cercetători care au analizat activitatea, relatează publicaţia Reuters, citată de News.ro.

Cercetătorul independent Jonas Wiedermann-Moeller a identificat dovezi potrivit cărora agenţii OpenAI au compromis două conturi Hugging Face şi le-au folosit pentru a trimite fişiere cu formate neobişnuite către serverele companiei începând din 13 mai, conform sursei.

Wiedermann-Moeller şi alţi cercetători consideră că activitatea pare să fi reprezentat o încercare de cartografiere şi testare a unor componente ale reţelei Hugging Face, în căutarea unor modalităţi de acces şi precizează însă că nu există dovezi că această activitate ar fi dus la o pătrundere efectivă în sistem în acel moment, potrivit publicaţiei.

OpenAI recunoscuse anterior incidentul din 13 mai, inclusiv furtul credenţialelor digitale ale unui utilizator Hugging Face pentru accesarea unui fişier din domeniul biologiei, însă cercetătorii susţin că amploarea testelor ar fi fost mai mare decât cea prezentată în raportul public al companiei, conform sursei.

Purtătorul de cuvânt al OpenAI, Drew Pusateri, a declarat că firma a dezvăluit incidentul, a informat Hugging Face în privat cu privire la activitatea identificată de Wiedermann-Moeller şi îşi menţine angajamentul faţă de transparenţă în timp ce analiza continuă, potrivit publicaţiei.

De asemenea, Wiedermann-Moeller consideră că faptul că activitatea nu a fost identificată la momentul respectiv a reprezentat o oportunitate ratată pentru prevenirea incidentului ulterior, informează sursa citată.

„Imaginaţi-vă dacă ar fi detectat acest comportament în mai. Ar fi putut preveni incidentul ulterior, care a fost mult mai mare”, a declarat cercetătorul, potrivit publicaţiei menţionate.

Doi experţi externi care au analizat concluziile cercetătorului au afirmat că acestea sunt compatibile cu activităţile atribuite anterior agenţilor OpenAI, Tom Hegel, cercetător senior în domeniul ameninţărilor la SentinelOne, a spus că preluarea conturilor şi testarea reţelei corespund comportamentului cunoscut al agenţilor, iar Sydney Von Arx, de la organizaţia pentru siguranţa AI Nightingale Collective, a susţinut aceeaşi atribuire şi a descris activitatea drept un „semnal clar de avertizare”, conform sursei.

OpenAI se află sub presiune după ce a anunţat, la 21 iulie, că agenţi AI au ocolit controale interne, au accesat internetul şi şi-au coordonat acţiunile într-un eveniment descris de companie drept „un incident cibernetic fără precedent”, potrivit publicaţiei.

Ulterior, cercetători independenţi au identificat şi alte incidente presupus asociate agenţilor OpenAI, inclusiv activităţi care au afectat un site wiki german inactiv şi platforma RubyGems, utilizată pentru distribuirea pachetelor software, conform sursei.

În cazul RubyGems, persoane familiarizate cu situaţia au declarat că angajaţii OpenAI au stabilit că propriul sistem AI era responsabil pentru activitatea maliţioasă abia după ce aceasta a fost identificată de Nightingale Collective, potrivit publicaţiei.

Noile informaţii au alimentat întrebările privind amploarea reală a incidentelor şi măsurile de siguranţă aplicate sistemelor AI, astfel Wiedermann-Moeller susţine că evoluţiile recente justifică o încetinire temporară a dezvoltării celor mai avansate sisteme, conform sursei.

„O pauză ar putea face bine lumii, astfel încât partea de siguranţă să poată recupera decalajul”, a spus el, informează publicaţia menţionată.