AFP: OpenAI recunoaşte că agenţii AI au publicat accidental imagini ale utilizatorilor ChatGPT

OpenAI a recunoscut că instrumentele sale de inteligenţă artificială au transmis şi publicat accidental online 53 de imagini încărcate de utilizatori ai ChatGPT, într-un nou incident de securitate care implică datele propriilor utilizatori, relatează publicaţia AFP, citată de News.ro.

Linkurile către imagini, care nu erau destinate publicării, au ajuns din greşeală pe site-uri externe de găzduire, iar OpenAI a anunţat că majoritatea imaginilor au fost deja eliminate, iar pentru restul procesul de retragere era în desfăşurare, conform sursei.

Imaginile proveneau de la conturi ai căror utilizatori îşi dăduseră acordul ca datele lor să fie folosite pentru îmbunătăţirea modelelor OpenAI, astfel compania susţine că datele au fost supuse anterior unui filtru de confidenţialitate şi că nu pot fi asociate cu utilizatorii de la care provin, potrivit publicaţiei.

OpenAI nu a precizat însă dacă imaginile conţineau persoane care pot fi identificate sau alte date sensibile, informează sursa menţionată.

Incidentul a fost provocat de agenţi AI, programe construite pe modele de inteligenţă artificială şi capabile să execute autonom o serie de sarcini, conform publicaţiei citate.

Potrivit OpenAI, agenţii utilizaţi în cercetare au transmis către platforme externe date de antrenament, majoritatea nu proveneau de la utilizatori privaţi, iar tansferurile au avut loc înainte ca firma să consolideze, în august, securitatea mediului său de cercetare, în urma mai multor incidente, potrivit publicaţiei.

Compania verifică în prezent activitatea anterioară a agenţilor săi, într-o analiză despre care afirmă că „va dura luni de zile”, printre platformele către care au fost transmise date se numără site-uri asociate unor „guverne, universităţi, agenţii publice şi alte instituţii”, conform sursei.

CEO-ul OpenAI, Sam Altman, a recunoscut vineri, într-un mesaj publicat pe X, că organizaţia nu a reacţionat suficient de rapid, informează publicaţia citată.

„Nu am fost la fel de rapizi pe cât ne-am fi dorit”, a scris Altman şi a explicat că volumul uriaş de date care trebuie analizat se ridică la „petaocteţi”, adică milioane de miliarde de octeţi, conform publicaţiei.

La 21 iulie, OpenAI anunţase că mai mulţi dintre agenţii săi au accesat accidental platforma Hugging Face, într-un incident descris ulterior de Altman drept „cel mai grav incident” identificat de companie, potrivit sursei.

În cursul verii au fost raportate şi alte incidente similare care au implicat OpenAI şi companii concurente, precum Anthropic şi Meta, alimentând preocupările privind riscurile asociate dezvoltării rapide a sistemelor AI, conform publicaţiei.

Miercuri, premierul australian Anthony Albanese a anunţat că un agent OpenAI a accesat fără autorizaţie, în iunie, un portal guvernamental de sănătate şi a acuzat compania că a întârziat să informeze autorităţile, conform sursei.