CORESPONDENŢĂ DE LA ROMA Experţii avertizează: Inteligenţa Artificială încă nu ne citeşte gândurile, dar începe să ni le controleze

Inteligenţa artificială (IA) nu ne poate citi gândurile încă, dar începe să le anticipeze, să le influenţeze şi, în anumite contexte, să le modeleze fără ca oamenii să realizeze acest lucru, a afirmat Noushin Shabab, cercetător principal în securitate în cadrul Kaspersky Global Research and Analysis Team (GReAT), în cadrul conferinţei Kaspersky HORIZONS, desfăşurate zilele trecute la Roma. Domnia sa susţine că dezvoltarea accelerată a inteligenţei artificiale cognitive deschide o nouă etapă în relaţia dintre tehnologie şi mintea umană, una în care graniţa dintre asistenţă digitală şi manipulare psihologică devine tot mai greu de distins. Ea a avertizat că IA evoluează rapid de la simpla procesare de date către sisteme capabile să interpreteze semnale neuronale, să modeleze comportamente şi să anticipeze tipare de luare a deciziilor, precizând că această transformare ridică probleme majore privind confidenţialitatea mentală şi autonomia cognitivă, într-un moment în care sistemele algoritmice influenţează deja recomandările online, fluxurile de informaţii şi modul în care utilizatorii percep realitatea digitală.

„Ce se întâmplă dacă abilităţile noastre cognitive sunt influenţate? Ştim că, odată cu progresele IA din zilele noastre - o vedem pretutindeni -fiecare parte a activităţilor noastre, de la muncă la viaţa de zi cu zi, este influenţată într-un fel de sistemele de IA. Dar când ne gândim la abilităţile noastre cognitive, cum ar fi modul în care gândim, modul în care luăm decizii, modul în care învăţăm... ce se întâmplă dacă şi aceste abilităţi sunt influenţate? Imaginaţi-vă dacă alegerile noastre nu sunt de fapt ale noastre; de exemplu, dacă credem că alegem ceva online, poate ceva de cumpărat, sau o modalitate de a ne investi banii, sau un produs pe care să-l alegem, dar acea alegere nu este de fapt a noastră. Este forţată de ceva, dar noi credem că ne aparţine. Acum să ne imaginăm dacă gândurile noastre nu mai sunt private. Cred că gândurile noastre sunt ultimul lucru pe care vrem să-l păstrăm privat, nu-i aşa? Te gândeşti la ceva, ai anumite convingeri, ai idei. Gândeşti într-un anumit fel despre ceva şi vrei ca acesta să fie ultimul lucru care devine public sau care este împărtăşit cu ceilalţi”, a declarat Noushin Shabab.

Potrivit domniei sale, chiar dacă actualele sisteme de inteligenţă artificială nu pot „citi” direct sau decodifica precis gândurile umane, ele sunt deja capabile să influenţeze comportamente prin sisteme de recomandare, personalizare şi control informaţional la scară largă, ceea ce reprezintă deja un risc cibernetic şi socio-tehnic real şi în creştere.

• Noushin Shabab: „Inteligenţa Artificială Cognitivă poate face lucruri neaşteptate, deoarece nu se bazează pe reguli definite”

În centrul acestei transformări se află IA cognitivă, o ramură a inteligenţei artificiale care încearcă să reproducă procese cognitive umane precum raţionamentul, învăţarea, rezolvarea problemelor şi anticiparea comportamentului.

„IA cognitivă este o ramură a IA care emulează şi imită abilităţile cognitive umane, cum ar fi raţionamentul, rezolvarea problemelor, învăţarea. Aceasta este o tehnologie care utilizează diferite tehnologii folosite şi de alte sisteme de IA: învăţarea automată, procesarea limbajului natural, LLM-uri precum ChatGPT sau alte servicii de sisteme de IA care sunt destul de comune acum. Toate aceste tehnologii fac parte din ceva mai mare care creează IA cognitivă”, explică Noushin Shabab.

Spre deosebire de sistemele tradiţionale, bazate pe reguli fixe, IA cognitivă poate gestiona situaţii neprevăzute şi poate formula predicţii despre reacţiile oamenilor. Reprezentanta Kaspersky a precizat: „Comparativ cu IA tradiţională, IA cognitivă poate gestiona situaţii neprevăzute. Nu se bazează pe reguli definite. Poate face lucruri neaşteptate. Poate prezice ce ar putea gândi oamenii, ce ar putea face sau ce vor să facă. Dar, în prezent, capacităţile IA cognitive nu sunt atât de vaste. Nu sunt atât de extinse, dar sunt de fapt destul de importante şi sunt folosite în multe industrii din întreaga lume în prezent”.

Potrivit expertei din cadrul companiei Kaspersky, tehnologia este deja utilizată pentru crearea de conţinut personalizat la scară largă, pentru detectarea stării emoţionale şi pentru anticiparea răspunsurilor comportamentale ale utilizatorilor. „Cu ajutorul IA cognitive, crearea de conţinut personalizat, potrivit pentru diferite categorii de public, este menţinută la scară. Astfel, este uşor să automatizezi personalizarea datelor la scară largă, ceea ce poate ajuta multe industrii. Poate ajuta marketingul, poate ajuta în educaţie”, afirmă Noushin Shabab.

Ea explică faptul că numeroase sisteme folosesc procesarea limbajului natural pentru a analiza vocea, modul de exprimare şi stilul de tastare al utilizatorilor: „Este utilizată în educaţie pentru a înţelege dacă un student înţelege ceva sau dacă are dificultăţi la un curs online. Este utilizată de industria de sănătate pentru a înţelege dacă nevoile unui pacient sau ale cuiva care solicită ajutor sunt îndeplinite. De asemenea, este utilizată în mediul de servicii pentru clienţi pentru a înţelege dacă solicitarea unui client este abordată în mod real. Aceste sisteme de IA cognitivă pot prezice de fapt răspunsurile comportamentale”.

Potrivit cercetătoarei, multe dintre modelele actuale sunt antrenate pe volume uriaşe de date psihologice şi comportamentale: „Există diferite modele antrenate pe milioane de date de la oameni care au susţinut teste psihologice, iar acestea sunt antrenate să prezică ce ar putea încerca cineva să facă în continuare sau ce opţiune vor alege la următoarea întrebare”.

În opinia sa, momentul în care predicţia comportamentală se transformă în influenţă psihologică este deja foarte aproape. „Când vorbim despre recomandări, cum ar fi recomandările personalizate, acestea pot impune un anumit conţinut în detrimentul altuia. De asemenea, pot întări prejudecăţile şi biasurile pe care oamenii le-ar putea avea atunci când privesc diverse conţinuturi. Nu vrem ca oamenii să nu fie expuşi la toate conţinuturile şi la toate ideile online, ci doar la ceea ce i-ar putea interesa deja. Se creează acele bule care produc segmentări, plasând oamenii în bule diferite pe baza acestor filtre. Şi, la un moment dat, s-ar putea să credeţi că linia dintre influenţare, ajutor, asistenţă şi manipularea propriu-zisă este destul de neclară”, a precizat Noushin Shabab.

• Patru riscuri privind IA cognitivă

Reprezentanţii companiei Kaspersky au avertizat că, pe măsură ce IA cognitivă avansează, patru riscuri majore vor deveni tot mai pronunţate. Primul este transformarea ingineriei sociale într-o armă extrem de sofisticată. Potrivit raportului global al Kaspersky Security Services, phishingul reprezintă aproximativ 15% - adică unul din şapte - dintre cele mai populare tehnici de atac utilizate în prezent. Compania avertizează că phishingul rămâne un punct de intrare eficient pentru grupările APT şi pentru alte forme sofisticate de criminalitate informatică care vizează companii şi instituţii guvernamentale.

„Ştim că, cu ajutorul IA, ingineria socială a trecut deja la un nou nivel. Sunt sigură că toată lumea este familiarizată cu înşelătoriile şi phishing-ul. Cu ajutorul IA, ingineria socială a trecut deja la un nou nivel, cu conţinut personalizat, cu conţinut care pare destul de real. Nu mai există greşeli de tipar. Nu mai există erori gramaticale. Dar ce poate adăuga IA cognitivă la toate acestea? IA cognitivă îi poate ajuta pe atacatori să realizeze o inginerie socială mai avansată, deoarece, dacă pot înţelege situaţia emoţională a ţintelor sau dacă pot avea un anumit context despre mediul cultural sau educaţional ori chiar starea personală a oamenilor pe care îi vizează, acest lucru îi poate ajuta să creeze un atac de inginerie socială mai personalizat”, susţine Noushin Shabab, care adaugă că noile tentative de phishing pot deveni dinamice, adaptate contextului şi extrem de persuasive emoţional: „Până în prezent, în ciuda tuturor progreselor tehnologice şi a tuturor atacurilor sofisticate pe care le-am văzut până acum şi pe care le investigăm în fiecare zi, atacurile de phishing sunt încă printre principalii vectori de atac chiar şi pentru cei mai sofisticaţi atacatori. Aşadar, imaginaţi-vă cât de periculos poate fi dacă IA cognitivă îi asistă pe aceşti atacatori în ingineria lor socială”.

Al doilea risc major identificat de Kaspersky este manipularea cognitivă la scară societală şi impactul asupra democraţiei. Compania avertizează că algoritmii pot exploata prejudecăţile cognitive şi emoţionale ale populaţiei, consolidând polarizarea şi fragmentarea socială. Experţii companiei susţin că, dacă alegerile, recomandările, conţinutul online sunt dezvoltate cu ajutorul IA cognitive, acestea pot exploata de fapt unele prejudecăţi cognitive, pot crea şi consolida aceste camere de ecou care nu lasă pe toată lumea dintr-o societate, dintr-o organizaţie, dintr-o ţară sau dintr-un oraş să intre; creează segmente diferite. Iar dacă aceasta este combinată într-un mod maliţios cu campanii de dezinformare, poate avea un efect uriaş asupra oamenilor şi asupra modului în care aceştia cred despre diferite subiecte, poate modela opinia publică într-un mod greşit şi acest lucru poate fi destul de înspăimântător, afirmă reprezentanţii Kaspersky.

Al treilea risc este profilarea avansată şi abuzul predictiv. Potrivit companiei Kaspersky, agregarea datelor din reţele sociale, comportamente digitale şi tipare de consum poate genera profiluri psihologice extrem de detaliate. „Gândiţi-vă la atacuri online direcţionate, cum ar fi hărţuirea, doxing-ul, şantajul. Gândiţi-vă cum aceste sisteme îi pot ajuta pe atacatori să adune date despre o persoană de pe diferite platforme, de la reţelele sociale până la tiparele de cumpărături online, la orice. Cum gândesc oamenii, care este starea lor emoţională, iar toate acestea pot înrăutăţi situaţia când vine vorba de atacuri online şi hărţuire online”, a spus Noushin Shabab, care a avertizat că pericolul depăşeşte simpla pierdere a intimităţii digitale şi poate duce la evaluarea oamenilor pe baza unor comportamente prezise de algoritmi: „Dacă aceste sisteme pot prezice ce gândesc oamenii şi ce ar putea face aceştia, oamenii pot fi judecaţi pe baza a ceea ce ar putea gândi. Iar acest lucru poate crea o altă ameninţare psihologică pentru oameni”.

Cel de-al patrulea risc priveşte convergenţa dintre interfeţele creier-calculator şi Internetul Lucrurilor(IoT). Deşi încă experimentale, dispozitivele BCI sunt deja utilizate în medicină pentru pacienţi care nu pot comunica sau controla anumite funcţii motorii. Unele dispozitive sunt purtabile, iar altele sunt implantate direct pe suprafaţa creierului pentru a colecta mai eficient semnalele neuronale. Noushin Shabab a arătat: „Aceste dispozitive citesc tipare de semnale din creier pentru a ajuta pacienţii cu diferite simptome să aibă o viaţă oarecum normală. Sunt folosite pentru pacienţi, pentru a-i ajuta să facă lucruri pe care altfel nu le-ar putea face, cum ar fi pacienţii care nu pot vorbi sau care nu pot mişca unele părţi ale corpului”.

• Reglementarea utilizării datelor, o soluţie pentru reducerea riscurilor privind IA

Experta din cadrul companiei Kaspersky a precizat, însă, că integrarea acestor interfeţe cu dispozitive inteligente conectate la internet poate deschide un nou front al ameninţărilor cibernetice: „Imaginaţi-vă când aceste dispozitive sunt conectate cu dispozitivele inteligente din jurul nostru, cum ar fi dispozitivele inteligente din case, prin comenzi neuronale. Aţi putea face ceva în casă, cum ar fi să aprindeţi luminile, să opriţi aerul condiţionat sau să faceţi alte lucruri, chiar şi să mişcaţi părţi augmentate ale corpului. Acest lucru poate fi destul de riscant dacă sistemele nu sunt proiectate într-un mod foarte sigur. Dacă atacatorii pot accesa această interfaţă, imaginaţi-vă ce pot face cu acel acces”.

În faţa acestor riscuri, Kaspersky susţine că statele şi industria tehnologică trebuie să înceapă rapid construirea unor mecanisme de protecţie pentru ceea ce experţii numesc deja „confidenţialitate mentală” şi „neuro-drepturi”. Chile a devenit pionier în protecţia neuro-drepturilor prin introducerea unor prevederi constituţionale privind colectarea datelor neuronale, iar mai multe state de pe continentul american analizează măsuri similare.

„Avem nevoie de cadre de reglementare bune pentru a ne asigura că datele colectate, sistemele dezvoltate şi progresele care au loc în acest domeniu al IA ne vor ajuta de fapt, nu ne vor pune în pericol. Avem nevoie ca industria de securitate cibernetică să ia în considerare faptul că acesta este un domeniu nou; poate deschide o nouă interfaţă pentru atacatori. Trebuie să ne gândim la educaţie; educaţia despre sistemele de IA, în special sistemele de IA cognitivă, pentru oameni, pentru indivizi şi pentru societăţi, pentru a-i face să înţeleagă ce se întâmplă, care sunt riscurile şi cum pot fi protejaţi de aceste riscuri”, a afirmat Noushin Shabab, care a adăugat: „Chiar dacă sistemele de IA nu ne pot citi încă gândurile, chiar dacă IA cognitivă îi ajută pe oameni în moduri bune acum, trebuie să fim pregătiţi pentru viitor. Dacă există un risc în viitor, ar trebui să fim pregătiţi acum”.