CNBC: OpenAI a blocat conturi ChatGPT din Rusia folosite într-o campanie secretă de dezinformare

OpenAI a anunţat blocarea unui grup de conturi ChatGPT provenite din Rusia, după ce a descoperit utilizarea acestora într-o operaţiune online de influenţă şi răspândire a dezinformării, transmite postul de televiziune CNBC. Compania a identificat activitatea în timp ce investiga postări de pe reţelele sociale generate cu ajutorul inteligenţei artificiale, iar analiza a condus ulterior la descoperirea unei operaţiuni mult mai ample, concepute inclusiv pentru a ascunde originea rusă a celor implicaţi, notează sursa citată.

Potrivit OpenAI, operatorii introduceau instrucţiuni în limba rusă şi utilizau ChatGPT pentru generarea de comentarii şi alte materiale destinate platformelor Substack, Telegram, X, Facebook şi LinkedIn. Utilizatorii au cerut inclusiv modelului eliminarea indiciilor lingvistice din textele generate care indicau originea rusă a autorilor. Accesul la modelele OpenAI nu este disponibil în Rusia, însă persoanele implicate în operaţiune au utilizat VPN-uri pentru mascarea locaţiei, precizează postul american.

O componentă importantă a campaniei a fost promovarea unei organizaţii numite International Burke Institute (IBI), al cărei site conţinea materiale copiate din lucrări academice reale, atribuite uneori în mod fals altor autori. Operaţiunea nu a urmărit doar distribuirea unor postări favorabile Rusiei, ci a construit o infrastructură pentru oferirea unei aparenţe de credibilitate acestor mesaje, prin intermediul unor presupuşi experţi, materiale cu aspect academic şi instrumente prezentate drept analize proprii, relatează CNBC.

Campania a dezvoltat şi un aşa-numit „sovereignty index”, sau indice al suveranităţii, care a prezentat Rusia într-o lumină favorabilă şi a evaluat negativ state occidentale. Postările generate cu ChatGPT au direcţionat utilizatorii către o structură prezentată drept o instituţie credibilă, cu experţi, cercetări academice republicate şi un indice propriu de evaluare a riscurilor. Mecanismul arată modul în care inteligenţa artificială serveşte nu doar la producerea rapidă de conţinut, ci şi la fabricarea unei aparenţe de autoritate şi independenţă a surselor, consideră reprezentanţii OpenAI, conform postului de televiziune.

OpenAI a afirmat că operaţiunea nu a obţinut o audienţă foarte mare, însă compania consideră că pericolul principal a constat în infrastructura creată, deoarece aceasta permitea dezvoltarea şi utilizarea ulterioară pentru campanii de influenţă la o scară mult mai mare. Inteligenţa artificială permite actorilor implicaţi în astfel de operaţiuni producerea unor volume mari de conţinut, ascunderea originii mesajelor şi crearea unor instituţii aparent legitime pentru susţinerea anumitor naraţiuni. În acest caz, urmele lăsate de folosirea ChatGPT au contribuit însă la descoperirea operaţiunii extinse, transmite sursa citată.

Incidentul se înscrie într-o serie mai largă de tentative de utilizare a inteligenţei artificiale în operaţiuni de influenţă asociate unor actori pro-ruşi. În februarie, OpenAI a anunţat închiderea unor conturi ChatGPT asociate cu Rybar, o organizaţie media pro-rusă despre care guvernul britanic afirmă că este parţial coordonată de Administraţia Prezidenţială rusă, finanţată de corporaţia de stat Rostec şi colaborează cu membri ai serviciilor ruse de informaţii. Postul CNBC a solicitat comentarii Ambasadei Rusiei la Londra şi Ministerului rus de Externe în legătură cu noul caz, menţionează sursa citată.

Descoperirea evidenţiază una dintre provocările tot mai importante generate de AI, întrucât aceeaşi tehnologie care permite producerea rapidă şi ieftină de conţinut serveşte şi la construirea unor ecosisteme de informaţii aparent credibile, menite să ascundă identitatea celor aflaţi în realitate în spatele mesajelor distribuite online, conchide postul de televiziune.