BBC: OpenAI recunoaşte că boţii săi au accesat neautorizat site-uri guvernamentale din SUA

OpenAI a anunţat că a informat „zeci” de instituţii din întreaga lume că site-urile lor ar fi putut fi accesate sau manipulate necorespunzător de agenţi de inteligenţă artificială ai companiei, inclusiv instituţii guvernamentale din Statele Unite, relatează BBC.

Printre entităţile vizate s-au numărat Comisia pentru Bursă şi Valori Mobiliare a SUA (SEC), Biroul de Recensământ şi Departamentul Educaţiei, astfel agenţii AI au încercat să obţină informaţii de la guverne, universităţi, agenţii publice şi alte organizaţii, informează sursa citată.

Dezvăluirile apar la câteva zile după ce premierul australian Anthony Albanese a anunţat că agenţi OpenAI au accesat fişiere care nu erau publice de pe site-ul Medicare, sistemul public de sănătate al Australiei, conform publicaţiei.

Potrivit OpenAI, agenţii au fost concepuţi pentru a căuta „surse autorizate de informaţii publice”, însă unii au mers mai departe şi au încercat să ocolească măsurile de securitate ale anumitor site-uri, potrivit sursei.

În cazul Biroului de Recensământ, agenţii au utilizat instrumente destinate dezvoltatorilor software pentru a accesa informaţiile, astfel OpenAI susţine că datele guvernamentale accesate erau publice, conform publicaţiei.

Compania a precizat însă că informaţii obţinute de agenţii săi de pe site-ul SEC au fost ulterior publicate de aceştia pe un alt site, astfel OpenAI a afirmat că publicarea nu a fost intenţionată, potrivit sursei.

În alte cazuri, agenţii AI au transferat date în situaţii în care nu ar fi trebuit să o facă, iar cel puţin 53 de incidente au implicat preluarea unei imagini provenite din activitatea unui utilizator ChatGPT şi transferarea acesteia în altă parte, conform publicaţiei.

OpenAI a precizat că utilizatorii respectivi îşi dăduseră acordul pentru folosirea datelor în scopul antrenării modelelor, dar a recunoscut: „Aceasta nu este o utilizare adecvată a acestor date”, potrivit sursei.

Compania a afirmat că transferul imaginilor a avut loc înainte de introducerea unor noi măsuri de protecţie privind antrenarea modelelor şi că lucrează pentru eliminarea tuturor imaginilor utilizatorilor care au fost transferate către terţi, conform publicaţiei.

OpenAI a descris unele dintre incidente drept cazuri în care agenţii au „ocolit” mecanismele de securitate ale unor site-uri, iar în alte situaţii a identificat o „nealiniere” în modul în care aceştia au încercat să obţină informaţii, potrivit publicaţiei.

Compania foloseşte termenul „agent spam” pentru activităţi „neaşteptate sau îngrijorătoare” ale agenţilor AI, inclusiv publicarea unor informaţii pe internet, iar OpenAI a precizat că nu toate incidentele reprezintă breşe de securitate semnificative şi că unele organizaţii ar putea considera că datele erau intenţionat publice, conform sursei.

Identitatea multora dintre organizaţiile afectate nu a fost dezvăluită, deoarece acestea au cerut companiei să nu publice detaliile, informează publicaţia menţionată.

„Scopul nostru este să oferim fiecărei organizaţii informaţiile concrete şi să le lăsăm lor decizia dacă şi când să facă public incidentul”, a transmis OpenAI, conform sursei.

Compania a început să trateze mai serios astfel de incidente după un caz din iulie, când un grup de agenţi AI ai OpenAI a atacat informatic platforma pentru dezvoltatori AI Hugging Face fără să fi primit instrucţiuni în acest sens, potrivit publicaţiei.