Alegătorii din întreaga lume sunt ţinta manipulărilor, deepfake-urile şi apelurilor automate

Anul acesta peste 60 de ţări au organizat sau organizează alegeri, iar alegătorii din întreaga lume sunt ţinta manipulărilor, deepfake-urile şi apelurilor automate. Utilizarea instrumentelor de inteligenţă artificială (AI) s-a extins rapid pe fondul entuziasmului şi curiozităţii, dar în acest an critic îngrijorarea publică cu privire la impactul lor asupra democraţiei de pe tot globul a crescut, conform unui comunicat transmis redacţiei.

În întreaga lume s-au întâmplat deja lucruri ciudate în politică: rapperul Eminem "a venit în sprijinul" unui partid de opoziţie din Africa de Sud; lideri din India şi Indonezia care au decedat au fost, dintr-o dată, înviaţi şi i-au îndemnat pe oameni să voteze pentru candidaţîi aflaţi în prezent pe buletinul de vot; în Statele Unite, Joe Biden "a sunat" o mulţime de oameni din New Hampshire şi le-a spus să stea acasă în timpul alegerilor locale. Folosit de oamenii nepotriviţi în scopuri rele, AI generativ poate manipula imaginile şi vocile aproape oricui şi îi poate face să spună aproape orice, aceasta dacă nu suntem pregătiţi să înţelegem şi să recunoaştem din timp DeepFake-ul, potrivit comunicatului.

În timp ce introducerea inteligenţei artificiale în procesele democratice pare de neoprit în viitorul previzibil, instituţiile şi societăţile sunt chemate să reflecteze şi să acţioneze din timp pentru a face din AI un succes pentru progresul umanităţii. Alegerile, în special, vor fi afectate de răspândirea rapidă a instrumentelor AI.

Dar cum ar trebui să fie înţeleasă Inteligenţa Artificială în cadrul procesului electoral şi cum diferă ea de alte tehnologii deja folosite în alegeri? Cum poate fi folosită de către organismele de gestionare a alegerilor (OGE) menţinând şi, eventual, sporind, integritatea şi încrederea publicului în alegeri?

Potrivit unui studiu al Centrului pentru Combaterea "urii digitale" oricine poate folosi instrumente de inteligenţă artificială uşor accesibile pentru a crea deepfake-uri audio convingătoare!

Raportul detaliază modul în care organizaţia a testat instrumentele AI de la ElevenLabs, Speechify, PlayHT, Descript, Invideo AI şi Veed de 240 de ori, folosindu-le pentru a crea materiale audio în care lideri politici, (precum Joe Biden, Trump, Rishi Sunak, Emmanuel Macron), spun lucruri pe care nu le-au rostit niciodată! Acestea rezultatele convingătoare "ar putea zgudui alegerile"!

Pentru a genera clipuri vocale credibile, AI are nevoie de cel puţin o sursa audio. Cercetătorii au observat că acestea pot fi "clonate" prin tehnici de "jailbreak" pentru a ocoli restricţia de originalitate a sursei audio.

S-a constatat că puţine dintre instrumentele testate de Centrul pentru Combaterea "urii digitale", ElevenLabs, Speechify, PlayHT, Descript, Invideo AI şi Veed aveau intrumente încorporate pentru a preveni pe cineva să creeze un deepfake audio perturbatoare. Dintre cele enumerate mai sus, doar ElevenLabs a blocat utilizatorul să manipuleze vocea miniştrilor din SUA şi Marea Britanie. Raportul concluzionează:"Companiile AI pot rezolva rapid acest lucru, doar dacă aleg şi îşi propun acest scop".

Companii, precum Midjourney, ChatGPT, OpenAI, Google , au declarat: "Vom pune limite şi nu vom permite generarea de imagini politice.", dar în realitate nu se descurcă grozav la aplicarea acestui plan. Institutul Alan Turing a concluzionat într-o analiză recentă că AI a avut momentan un impact limitat asupra rezultatelor alegerilor. Totuşi creează riscuri secundare: polarizarea publicului şi deteriorarea încrederii în surselor, în special cele online!

Singura soluţie este ca publicul larg să se informeze asupra AI-ului şi să devină conştienţi de riscul dezinformării ori conţinutului fals!

Educarea este singurul nostru mijloc viabil. La AI Expo Europe care se vă desfăşură intre 6-7 octombrie în Bucureşti,la Radisson Blu vom decripta impactul Inteligenţei Artificiale asupra prezentului, dar mai ales al viitorului, se menţionează în comunicat.