Euronews: UE investighează OpenAI şi Anthropic după incidente în care agenţi AI au accesat sisteme externe

Comisia Europeană a început să investigheze companiile OpenAI şi Anthropic după ce agenţi de inteligenţă artificială dezvoltaţi de acestea au accesat fără autorizare sisteme ale unor organizaţii externe, cazurile reprezintă un prim test important pentru aplicarea Legii europene privind inteligenţa artificială şi ridică întrebări privind responsabilitatea dezvoltatorilor atunci când modelele depăşesc limitele mediilor de testare, relatează Euronews.

Henna Virkkunen, vicepreşedinta executivă a Comisiei Europene responsabilă de suveranitate tehnologică, a declarat miercuri, la Summitul internaţional privind inteligenţa artificială de la Dublin, că Biroul pentru Inteligenţă Artificială a transmis celor două companii solicitări de informaţii referitoare la securitate, evaluări externe şi monitorizarea utilizării modelelor, conform sursei.

Investigaţiile vizează două incidente produse în timpul verii. În primul caz, un agent OpenAI ar fi ieşit din mediul său de testare şi ar fi atacat platforma Hugging Face, care găzduieşte modele şi seturi de date utilizate de dezvoltatorii de inteligenţă artificială, în al doilea caz, un model Anthropic ar fi obţinut acces neautorizat la sistemele a trei organizaţii externe, potrivit publicaţiei.

Potrivit Euronews, Comisia a considerat insuficiente informaţiile furnizate voluntar de companii şi a solicitat documente suplimentare, iar din august, Biroul pentru Inteligenţă Artificială are competenţe de aplicare a prevederilor Legii europene privind inteligenţa artificială în ceea ce priveşte modelele de uz general cu capacităţi avansate.

Principala problemă juridică este dacă legislaţia europeană poate fi aplicată unor incidente produse înainte ca modelele să fie lansate pe piaţă, astfel legea privind inteligenţa artificială prevede o exceptare pentru anumite activităţi de cercetare şi dezvoltare, inclusiv testarea, conform sursei.

Barry Scannell, partener al firmei de avocatură William Fry, a susţinut că legea nu reglementează în mod clar situaţiile în care agenţii AI ies din mediul de testare în timpul dezvoltării, în opinia sa, extinderea competenţelor de supraveghere ale Comisiei asupra acestor cazuri ar putea depăşi limitele prevăzute iniţial de legislaţie, potrivit publicaţiei.

Comisia susţine însă că regulile pot deveni aplicabile atunci când un model părăseşte mediul de testare şi produce efecte pe piaţa europeană, astfel un oficial european citat de Euronews, sub protecţia anonimatului, a explicat că incidentul care a vizat Hugging Face a avut consecinţe şi asupra clienţilor din UE, ceea ce justifică examinarea cazului în temeiul legislaţiei comunitare.

Executivul european compară astfel de situaţii cu un incident în care un agent periculos scapă dintr-un laborator, argumentând că dezvoltatorii trebuie să adopte măsuri adecvate pentru prevenirea riscurilor şi protejarea terţilor, potrivit sursei citate.

Investigaţiile au loc în contextul preocupărilor privind dezvoltarea accelerată a modelelor de inteligenţă artificială şi eficienţa măsurilor de securitate aplicate de companii, potrivit informaţiilor obţinute de Euronews, experţi consultaţi de Comisie au semnalat că practicile de securitate cibernetică şi de evaluare a riscurilor nu ţin întotdeauna pasul cu evoluţia capacităţilor tehnice ale modelelor.

Printre problemele semnalate se numără posibilitatea ca modelele să se abată de la obiectivele pentru care au fost proiectate, să identifice modalităţi de a ocoli evaluările şi să reducă eficienţa mecanismelor de supraveghere, astfel experţii au avertizat, de asemenea, că unele incidente ar putea să nu fie raportate, potrivit publicaţiei.

O parte a comunităţii specializate în siguranţa inteligenţei artificiale se teme că, pe măsură ce modelele devin mai autonome şi mai capabile, pierderea controlului uman ar putea deveni mai dificil de remediat, aceste scenarii reprezintă riscuri semnalate de experţi, nu concluzii stabilite în urma investigaţiilor actuale, potrivit sursei.

Săptămâna trecută, Virkkunen s-a întâlnit cu Grupul ştiinţific consultativ al UE pentru a discuta evoluţiile tehnice care au stat la baza incidentelor recente, conform publicaţiei menţionate.

Oficialul european a reafirmat că inteligenţa artificială trebuie să rămână sub supraveghere şi control uman şi a declarat că executivul comunitar este pregătit să ia măsurile necesare pentru a se asigura că firmele respectă legislaţia, astfel rezultatul investigaţiilor ar putea clarifica limitele competenţelor UE şi obligaţiile dezvoltatorilor atunci când sistemele AI generează efecte în afara mediilor în care sunt testate, potrivit sursei.