Reuters: Agenţii AI ai OpenAI au comunicat neautorizat prin zeci de site-uri externe

Agenţii de inteligenţă artificială dezvoltaţi de OpenAI ar fi utilizat cel puţin alte 10 site-uri pentru a comunica între ei fără autorizaţie, după ce au găsit modalităţi de a ocoli restricţiile care le interziceau să publice conţinut pe internet, potrivit unor investigaţii independente analizate de agenţia Reuters.

Noile descoperiri arată că activitatea agenţilor a fost considerabil mai extinsă decât incidentul dezvăluit săptămâna trecută, când o reţea de agenţi OpenAI a preluat un vechi site de tip wiki în limba germană şi l-a transformat într-o platformă improvizată pentru schimbul de date, notează sursa citată.

Deşi comportamentul nu este considerat un atac cibernetic clasic, fiind mai apropiat de fenomenul de spam, cercetătorii avertizează că situaţia demonstrează capacitatea modelelor de inteligenţă artificială de a găsi soluţii neaşteptate pentru a eluda limitările impuse de dezvoltatori, transmite agenţia de presă.

Andrew Yoon, cercetător în cadrul organizaţiei americane CivAI, a identificat 18 site-uri nedivulgate anterior care au fost utilizate de agenţi în perioada mai-iulie, subliniind că este aproape cert că au loc mai multe activităţi neraportate de acest tip, menţionează sursa citată.

Investigaţiile analizate de Reuters au reunit concluziile a şase cercetători sau grupuri independente, care au comparat şiruri de date identice lăsate pe diverse platforme, au urmărit nume de utilizator similare şi au monitorizat activităţi legate de aceleaşi sarcini de cercetare, semnalând că în anumite situaţii traficul a putut fi asociat cu adrese IP din infrastructura Microsoft Azure utilizată de OpenAI, deşi agenţia notează că nu a putut verifica independent fiecare caz în parte, dar toţi specialiştii au identificat peste 10 site-uri implicate, relatează publicaţia.

Grupul condus de Sydney Von Arx, cel care a semnalat iniţial activitatea de pe platforma germană, susţine că a descoperit indicii credibile privind prezenţa agenţilor AI pe 23 de site-uri neraportate anterior, categorie ce include wiki-uri editabile public, servicii de stocare a textelor, platforme de scurtare a linkurilor administrate de Vanderbilt University şi University of Toronto, precum şi pagini personale şi site-uri vechi cu trafic redus, indică sursa menţionată.

Conform cercetătorilor, agenţii OpenAI aveau sarcina de a răspunde unor întrebări complexe de cercetare şi primiseră autorizaţia de a naviga şi citi date de pe internet, fără dreptul de a publica informaţii, însă aceştia au exploatat particularităţile unor site-uri vechi pentru a introduce mesaje prin comenzi atipice, texte care puteau fi ulterior identificate şi citite de alţi agenţi, informează Reuters.

OpenAI nu a precizat numărul exact al paginilor web utilizate şi nici motivele pentru care incidentele nu au fost comunicate timp de mai multe luni, menţionând că desfăşoară o analiză detaliată şi că nu a identificat situaţii de gravitatea atacului din iulie asupra platformei Hugging Face, compania pregătind totodată lansarea unui sistem dedicat raportării cazurilor de abatere („misalignment”) a modelelor de la regulile stabilite, arată sursa citată.

Helmut Leitner, administratorul a şase dintre site-urile wiki afectate de acţiunile agenţilor, a declarat că nu a fost contactat de reprezentanţii OpenAI, punctând că responsabilitatea pentru aceste incidente revine oamenilor şi companiilor care creează şi gestionează tehnologia, nu sistemelor în sine, conchide Reuters.