Politico: Modelele scăpate de sub control ale OpenAI au circulat pe internet timp de patru zile şi au lansat un al doilea atac

Modelele puternice de inteligenţă artificială de la OpenAI, care au scăpat de sub control şi au lansat un atac cibernetic autonom fără precedent la începutul acestei luni, au petrecut mai mult de patru zile libere pe internet pentru a organiza atacul, conform unei noi analize publicate de platforma care a fost spartă, transmite publicaţia Politico.

În mod separat, o a doua companie de inteligenţă artificială a confirmat faptul că unul dintre clienţii săi a fost de asemenea ţintit de modelele OpenAI în timpul aceluiaşi eveniment, aspect care ridică semne de întrebare despre modul în care OpenAI a eşuat în a detecta activitatea alarmantă timp de câteva zile, notează publicaţia.

OpenAI a recunoscut săptămâna trecută că două dintre cele mai avansate modele ale sale au evadat dintr-un mediu de testare închis şi au legat o serie de tehnici avansate de hacking pentru a sparge platforma de dezvoltare de inteligenţă artificială Hugging Face înainte de a fi descoperite, conform sursei citate.

Însă, într-o nouă analiză publicată marţi, Hugging Face a transmis că cele două modele ale OpenAI - unul lansat public şi un al doilea nelansat - au făcut mult mai mult, notează publicaţia.

Acestea au efectuat 17.600 de acţiuni de hacking pe internet între 9 iulie şi 13 iulie, perioadă în care modelele s-au mutat de la primul lor punct de sprijin pe internetul deschis până în interiorul serverelor Hugging Face, transmite sursa citată.

Hugging Face a detaliat prima dată atacul cibernetic pe 15 iulie, însă nu a fost clar până la dezvăluirea OpenAI de săptămâna trecută ce modele s-au aflat în spatele breşei de securitate şi faptul că niciun om nu le-a instigat să lanseze atacul, notează publicaţia.

În timp ce tehnicile detaliate în analiza Hugging Face nu au fost peste posibilităţile celor mai mulţi hackeri experimentaţi, compania de inteligenţă artificială a scris că cele două modele au fost capabile să cerceteze şi să expună breşe în straturile de apărare cibernetică ale companiei mult mai rapid decât orice om, conform sursei citate.

Directorul tehnologic al platformei de cloud computing Modal Labs, Akshat Bubna, a confirmat că modelele OpenAI au compromis de asemenea un cont de client în acest interval de timp, fapt care sporeşte amploarea situaţiei, transmite publicaţia Politico.

„[Suntem] conştienţi că un client Modal a publicat un punct final neautentificat care a permis oricui de pe internet să folosească sandbox-urile sale pentru executarea de cod. Acest lucru a fost folosit de agentul scăpat de sub control. Platforma Modal nu a fost compromisă în niciun fel.”, a declarat Akshat Bubna, directorul tehnologic al Modal Labs.

În timp ce OpenAI nu a adresat încă direct declaraţia cu privire la atacul asupra unui client Modal, aceasta a recunoscut într-o postare pe blog publicată marţi că a găsit un număr mic de cazuri în care modelele au identificat şi folosit credenţiale expuse public la nivel de cont pe alte servicii disponibile public, notează publicaţia. Această constatare a avut loc în cadrul revizuirii în curs de desfăşurare a incidentului Hugging Face, adaugă sursa menţionată.

Compania a menţionat de asemenea că modelul de inteligenţă artificială nelansat care a efectuat atacul este un prototip de cercetare exclusiv intern şi nu a fost niciodată destinat lansării publice, conform sursei citate.

Acesta a fost de atunci dezactivat, criptat şi restricţionat de la accesul pentru cercetare, transmite publicaţia.

Vestea despre atacul asupra Hugging Face a provocat solicitări pentru reglementări mai stricte în domeniul inteligenţei artificiale şi pentru o încetinire a dezvoltării acesteia, notează publicaţia.

Directorul general al OpenAI, Sam Altman, se întâlneşte în această săptămână cu oficiali de rang înalt din administraţia Trump şi cu legislatori, şi va discuta de asemenea incidentul cu vicepreşedintele Comisiei pentru Informaţii din Senat, Mark Warner, conform sursei citate.

Sam Altman a afirmat într-un episod al podcastului „Invest Like the Best” lansat marţi că incidentul Hugging Face a fost primul incident de securitate pe care l-a simţit într-un mod foarte visceral, transmite publicaţia.

„S-ar putea să fie nevoie să stabilim ritmul de dezvoltare a inteligenţei artificiale pentru a ne oferi suficient timp ca societatea să se întărească în jurul unora dintre aceste noi niveluri de capabilitate.”, a declarat Sam Altman, directorul general al OpenAI.