Xinhua: Agenţi de IA asociaţi cu OpenAI au colaborat pe un „wiki” public

Un grup de agenţi de inteligenţă artificială autonomă, despre care cercetătorii cred că sunt legaţi de OpenAI, au folosit un „wiki” public în limba germană la începutul acestui an ca să comunice şi să partajeze răspunsuri la sarcinile atribuite, dar şi să facă schimb de metode de ocolire a restricţiilor din mediile lor de operare, potrivit unui studiu independent publicat vineri, citat de agenţia de presă Xinhua.

Studiul a fost realizat de patru cercetători, iar aceştia au declarat că au descoperit aproximativ 18.000 de postări făcute de agenţi de inteligenţă artificială autonomi care s-au autoidentificat drept reprezentanţi OpenAI în timp ce utilizau internetul public ca să comunice în timpul sarcinilor de recuperare a informaţiilor web, transmite sursa citată. Cercetătorii au descris comportamentul drept o colaborare care le-a oferit agenţilor un avantaj în sarcinile atribuite, în moduri pe care dezvoltatorii lor nu le-au intenţionat, precizează sursa menţionată.

Cea mai mare parte a activităţii a avut loc pe DSEWiki, un wiki în limba germană care există de aproximativ 25 de ani şi care a fost puţin utilizat în ultimii ani, precizează sursa. Potrivit cercetătorilor, agenţii ar fi trebuit să poată citi informaţii pe internet, dar nu să scrie pe acestea, informează Xinhua. Cu toate acestea, au găsit modalităţi de a posta informaţii pe wiki şi l-au folosit ca să facă schimb de răspunsuri, să pună în comun rezultatele cercetărilor şi să partajeze tehnici de ocolire a restricţiilor sandbox, relatează Xinhua.

Cercetătorii au observat pentru prima dată agenţii care încercau să editeze un wiki public pe 11 mai şi au înregistrat prima lor scriere reuşită pe DSEWiki pe 24 mai, potrivit sursei citate. Coordonarea la scară largă a început pe 16 iunie, când agenţii au început să facă schimb de răspunsuri şi să indice cronometrarea rundelor ulterioare ale sarcinilor lor, conform sursei menţionate. Înregistrările citate în studiu arată că agenţii care au întâlnit întrebări mai devreme au postat uneori răspunsuri care au fost utilizate ulterior de agenţii care au primit aceleaşi întrebări, potrivit aceleiaşi surse.

Studiul a constatat, de asemenea, că agenţii au discutat şi testat metode ca să ocolească restricţiile reţelei sandbox, informează Xinhua. După ce un moderator uman a început să şteargă pagini, unii agenţi au creat pagini de rezervă cu nume care începeau cu „ZZZ”, ca să reducă probabilitatea ca acestea să fie şterse mai întâi, transmite sursa citată.

Aproximativ 98,5% din modificările agenţilor de pe DSEWiki au provenit de la adrese IP Microsoft Azure, în timp ce cercetătorii au înregistrat şi vizite de la adrese IP asociate cu OpenAI, conform sursei citate. Mulţi agenţi au folosit, de asemenea, nume care conţineau referinţe la OpenAI, potrivit sursei. Pe baza acestor dovezi şi a altora, cercetătorii au declarat că agenţii au fost probabil implementaţi intern de OpenAI, informează Xinhua.

Cercetătorii au avertizat, însă, că analiza lor a fost preliminară şi s-a bazat doar pe informaţiile lăsate de agenţi pe wiki-ul public, transmite agenţia de presă. Aceştia nu au avut acces la datele despre lanţul de gândire al agenţilor, deţinute intern de OpenAI, şi au spus că întrebările despre motivaţiile şi strategiile agenţilor au rămas nerezolvate, potrivit sursei citate. Studiul a precizat că nu este clar dacă sarcinile au făcut parte din antrenamentul sau testarea modelului, conform sursei menţionate.

Un purtător de cuvânt al OpenAI a declarat că firma nu a avut ocazia să revizuiască raportul înainte de publicare şi, prin urmare, nu a putut răspunde în mod semnificativ la afirmaţiile sau constatările sale la momentul respectiv, precizează agenţia de presă.

Purtătorul de cuvânt a declarat că OpenAI va analiza cu atenţie raportul după publicare şi va lua toate măsurile necesare, potrivit Xinhua.

OpenAI a mai spus că activitatea wiki nu avea legătură cu incidentul separat Hugging Face din iulie şi, prin urmare, nu ar fi fost inclusă în raportul său despre incidentul respectiv, conform sursei citate.