Euronews: Roboţii de chat AI preiau propagandă rusă de pe site-uri sancţionate în Uniunea Europeană

Modelele comerciale de inteligenţă artificială generativă folosesc ca surse de informare platforme de propagandă pro-rusă interzise pe teritoriul Uniunii Europene, informează Euronews.

Această vulnerabilitate tehnică arată că războiul informaţional hibrid s-a extins de la reţelele sociale către sistemele avansate de calcul, conform agenţiei de presă.

Un raport realizat de grupul de cercetare britanic Demos indică faptul că sisteme cunoscute precum Google Gemini reproduc ştiri false despre războiul din Ucraina, transmite sursa citată.

Actorii statali pot folosi o metodă nouă denumită optimizarea motoarelor generative pentru a manipula datele pe care algoritmul le citeşte de pe internet, notează publicaţia.

Cercetătorii au testat 50 de ştiri false publicate de o organizaţie rusească de faţadă, care a fost înfiinţată de fostul lider al grupării Wagner, Evgheni Prigojin, conform agenţiei de presă.

Testele au fost efectuate pe sistemele de inteligenţă artificială dezvoltate de companiile xAI, OpenAI, Anthropic, Google şi Mistral AI, transmite sursa citată.

„Aproximativ 16% dintre răspunsurile oferite de roboţii de chat au preluat minciunile ruseşti ca şi cum ar fi argumente valabile într-o dezbatere, fără să le verifice”, a declarat Carl Miller, cercetător în cadrul Demos.

Aproape o treime dintre răspunsurile oferite utilizatorilor au ascuns faptul că informaţiile proveneau de la o sursă aflată sub sancţiuni internaţionale, notează publicaţia.

În timpul verificărilor, robotul creat de OpenAI a folosit site-ul rusesc pentru a valida o ştire falsă despre logistica armatei ucrainene, conform agenţiei de presă.

De asemenea, sistemul companiei franceze Mistral AI a susţinut teorii ale conspiraţiei despre preşedintele Volodimir Zelenski, citând aceeaşi sursă din Rusia, transmite sursa citată.

Această problemă apare deoarece hackerii şi specialiştii în dezinformare scriu texte speciale pe forumuri pentru ca inteligenţa artificială să le găsească uşor, notează publicaţia.

„Datele sunt create de la zero sau modificate pe platforme mari precum Reddit şi Wikipedia doar pentru a păcăli roboţii de chat”, a declarat Hannah Perry, directoarea Demos Digital.

Companiile de tehnologie riscă să piardă controlul asupra algoritmilor dacă aceste tactice de manipulare nu sunt reglementate urgent, conform agenţiei de presă.

Reprezentanţii companiei europene Mistral au afirmat că alocă bugete importante pentru a opri răspândirea ştirilor false prin sistemele proprii, transmite sursa citată.

Oficialii OpenAI au precizat că testul a fost făcut pe un model mai vechi şi că există echipe care blochează campaniile de influenţă ascunse, notează publicaţia.

Compania Anthropic a transmis că deţine sisteme software speciale pentru a identifica operaţiunile de dezinformare derulate de alte state, conform agenţiei de presă.