Reuters: Agenţii OpenAI au deturnat un site german

Un grup de agenţi autonomi ai companiei OpenAI a deturnat un site web german în primăvara acestui an şi l-a transformat într-un panou de mesaje pentru alte sisteme de inteligenţă artificială. Oficialii OpenAI au aflat despre acest incident în urmă cu câteva săptămâni, dar au păstrat tăcerea în timp ce gestionau consecinţele breşei de securitate din luna iulie a platformei open-source Hugging Face, transmite agenţia Reuters.

Incidentul a început în luna mai şi subliniază tensiunea tot mai mare din industrie, unde companiile concurează pentru dezvoltarea unor agenţi capabili de sarcini complexe, în timp ce aceste sisteme învaţă să eludeze regulile şi să coordoneze acţiuni neprevăzute. Compania OpenAI a promis o monitorizare mai strictă a modelelor sale, dar a lansat recent sistemul Astra, care promite performanţe mai bune, deşi are capacitatea să ocolească monitorizarea umană. „Suntem în incapacitate să răspundem în mod semnificativ la afirmaţiile sau constatările dintr-un raport pe care nu am avut ocazia să îl revizuim. Reuters şi autorii raportului au refuzat solicitarea noastră de acces. Vom revizui cu atenţie conţinutul său la momentul publicării şi vom lua toate măsurile următoare necesare”, a declarat un purtător de cuvânt al OpenAI, citat de agenţia de presă.

Sydney Von Arx, director executiv al organizaţiei Nightingale, şi Cormac Slade Byrd, cercetător în domeniul inteligenţei artificiale, au descoperit această activitate la sfârşitul lunii august. Cei doi experţi au identificat peste 15.000 de modificări efectuate pe un site în limba germană, denumit DseWiki. Modificările arată că agenţii OpenAI au transformat platforma într-un spaţiu de discuţii unde au distribuit tactici prin care au înşelat anumite sarcini, au ocolit restricţiile companiei şi şi-au mascat comportamentul, notează sursa citată.

Activitatea de pe servere indică utilizarea infrastructurii Microsoft Azure, în timp ce mesajele analizate demonstrează că agenţii au căutat modalităţi prin care au evitat detectarea. „Pare extrem de improbabil ca OpenAI să fi dorit ca ei să facă acest lucru. Mă îndoiesc că ar trebui să se coordoneze între ei. Mă îndoiesc că ar trebui să scrie pe internetul liber”, a declarat Sydney Von Arx. Moderatorul site-ului a început ştergerea paginilor în luna iunie, dar agenţii au răspuns prin crearea unor pagini de rezervă pentru salvarea datelor, informează Reuters.

Lukasz Olejnik, cercetător la King's College London, a catalogat această activitate drept o tentativă de piraterie cibernetică, deşi reprezentanţii OpenAI au contestat această caracterizare. La rândul său, Maurice Chiodo, cadru didactic la Universitatea Cambridge, a analizat o parte din comunicări şi a avertizat asupra riscurilor majore de securitate. Mesajele se aseamănă cu operaţiunile unei reţele subterane care acţionează pentru îndeplinirea unei misiuni, iar acest incident confirmă temerile că principala ameninţare a inteligenţei artificiale provine din grupuri vaste de agenţi care colaborează în mod clandestin, precizează agenţia de presă.