CORESPONDENŢĂ DIN ROMA Inteligenţa Artificială şi noua frontieră a vulnerabilităţii umane

Reporter: Care a fost cel mai important mesaj pe care doriţi să-l transmiteţi prin prezenţa dumneavoastră la conferinţa Horizons 2026?

Noushin Shabab: Prin prezentarea mea despre AI-ul cognitiv, cel mai important mesaj pe care am vrut să îl transmit a fost că avem de-a face cu o tehnologie nouă, care nu a fost încă foarte investigată. Da, nu este foarte investigată şi încă nu este foarte populară, dar există.

Reporter: Oamenii nu o cunosc, de fapt...

Noushin Shabab: Exact, pentru că nu a fost popularizată mult şi nu a fost încă utilizată atât de mult. Dar există riscuri, ca la orice altă tehnologie; există riscuri, iar aceasta este o tehnologie foarte importantă, aş spune chiar foarte sensibilă, deoarece operează cu informaţii sensibile. Se referă la ceea ce ne face umani şi la tiparele comportamentului nostru, la starea noastră psihologică, la tiparele noastre comportamentale. Este foarte sensibilă şi este important să ne asigurăm că ştim care vor fi riscurile, să fim pregătiţi şi să ne gândim la reglementările şi politicile pe care trebuie să le avem la îndemână odată ce această tehnologie devine mai populară şi, desigur, ajunge în mâinile „băieţilor răi”.

Reporter: Cum i-aţi explica unei bunici de 80 de ani, în două propoziţii, ce este AI-ul cognitiv? Care sunt cele mai importante beneficii scontate? Noushin Shabab: AI-ul cognitiv este o tehnologie nouă care poate ajuta la prezicerea comportamentului oamenilor. Poate avea beneficii foarte bune pentru umanitate. Poate avea beneficii pentru industria educaţiei, pentru oameni, pentru studenţii care au nevoie de îngrijire specială şi de un mod special de predare; au nevoie de asistenţă specială. Poate ajuta mult industria de sănătate să înţeleagă simptomele persoanelor care ar putea avea anumite afecţiuni, pentru a-i ajuta într-un mod mult mai eficient şi mult mai rapid decât metodele tradiţionale de învăţare. Şi, de asemenea, poate ajuta companiile în diferite moduri să îşi furnizeze serviciile, precum şi persoanele individuale care folosesc reţelele sociale, care utilizează servicii online în zilele noastre; AI-ul cognitiv poate fi destul de util atunci când îşi doresc ceva online. Aceste sisteme îi pot ajuta să găsească ceea ce doresc într-un mod mai eficient. Dar referitor la riscuri, există diverse riscuri pe care le asociem cu apariţia tehnologiei AI, printre care se numără şi aşa-numita „inginerie socială”, care se va dezvolta într-un mod mult mai eficient şi avansat faţă de ceea ce am cunoscut până acum.

• Riscurile utilizării Inteligenţei Artificiale Cognitive

Reporter: În aceste condiţii, cum i-aţi explica unei persoane vârstnice ce este „ingineria socială”?

Noushin Shabab: „Ingineria socială” este un tip de atac care încearcă să vă înşele şi să vă determine să faceţi ceva care ar putea fi dăunător pentru dumneavoastră. Este ca o înşelătorie telefonică în care cineva vă sună şi spune că „fiul dumneavoastră este în pericol; trimiteţi-mi bani”, sau ceva de genul acesta. Practic atinge ceva familiar, ceva care vă preocupă. De fapt, atinge un punct sensibil şi vă determină să faceţi singur ceva care ar putea fi dăunător, cum ar fi să vă partajaţi datele bancare sau să trimiteţi bani cuiva. Aceasta este „ingineria socială”. AI-ul cognitiv poate înrăutăţi lucrurile deoarece, cu ajutorul acestei tehnologii, atacatorii pot înţelege starea dumneavoastră mentală. Ei pot înţelege contextul; nu este un apel aleatoriu care spune că propriul copil este în spital, ci, pentru că atacatorii cunosc situaţia familiei dumneavoastră, poate fi mai bine direcţionat, adică ar putea exista un scenariu mai realist pentru dumneavoastră, iar acesta este primul risc.

Reporter: Ce alte riscuri implică noua tehnologie?

Noushin Shabab: Al doilea risc este unul cu un tip de impact diferit. Nu neapărat un impact individual direct, ci vorbim despre modul în care aceste sisteme pot modela opinia publică prin recomandarea unui anumit conţinut în detrimentul altuia, pentru că ştiu că aţi putea manifesta interes. În primul rând, ele consolidează orice prejudecăţi şi idei preconcepute pe care oamenii le-ar putea avea pe un anumit subiect. De fapt, le consolidează pentru că ştiu că aţi putea fi interesat de această parte a poveştii. Vă vor arăta acea parte a poveştii şi vă vor arăta conţinuturi diferite care vă fac să credeţi şi să vi se demonstreze că aceasta este realitatea actuală, în timp ce cealaltă parte a poveştii le va fi arătată oamenilor care gândesc în moduri complet diferite. Astfel, avem segmentări în societăţi şi, de asemenea, dacă actorii de ameninţare, oamenii răi, încep să folosească acest tip de informaţie ca pe un război informaţional, aţi putea vedea un impact mai mare şi consecinţe mai grave care modelează realitatea, care schimbă realitatea pentru oameni într-un mod mult mai larg.

Reporter: Adică un fel de propagandă.

Noushin Shabab: Şi asta, da, exact. Poate ajuta propaganda într-un mod mai eficient. Al treilea risc se referă la abuzul şi hărţuirea online direcţionate. Am văzut multe cazuri, din păcate, în care oamenii sunt vizaţi online şi hărţuiţi online de diferiţi actori. Şi cu ajutorul acestui AI cognitiv, este mult mai uşor să corelezi datele care pot fi colectate din surse diferite şi să vă rănească mai mult, într-un mod mai sensibil şi dureros, deoarece sunt capabile să vă înţeleagă şi starea emoţională - dacă sunteţi stresat de ceva, dacă sunteţi nervos, dacă nu sunteţi foarte încrezător în ceva; pot folosi acea vulnerabilitate pe care o aveţi pentru a vă face rău sau chiar pentru a vă şantaja. Iar al patrulea risc despre care este ceva mai tehnologic. Vorbim despre progresele în tehnologiile care ne analizează activitatea cerebrală. Vorbim despre interfaţa creier-calculator (BCI), care este o tehnologie aflată încă în faze incipiente.

• Guvernanţa datelor, cel mai important aspect în era AI

Reporter: Şi care, dacă este utilizată corect, poate face minuni în medicină, de exemplu...

Noushin Shabab: Exact. De fapt, se întâmplă chiar acum, au existat exemple şi experimente ale companiilor care dezvoltă aceste tipuri de dispozitive. Ele ajută pacienţii care nu pot vorbi să se exprime clar, să vorbească. Există sisteme conectate la interfaţa cerebrală care este implantată pe suprafaţa creierului acestor pacienţi şi care poate citi dacă acel pacient intenţionează să îşi mişte mâna sau să spună ceva, iar acest lucru poate fi tradus în text şi scris pe un ecran, iar asistentul poate înţelege dacă acel pacient are nevoie de ceva. Acest lucru se întâmplă deja, dar riscul poate apărea când aceste tipuri de dispozitive devin mai sofisticate şi mai populare şi sunt combinate cu dispozitivele inteligente. Imaginaţi-vă dacă nu este vorba despre un monitor care traduce ceea ce pacientul a vrut să spună, ci de fapt trimite acea comandă unui dispozitiv; de exemplu, un pacient care nu se poate mişca face ca ceva să se întâmple, cum ar fi să aprindă o lumină sau să deschidă o încuietoare la uşă. Acest lucru poate deschide o nouă poartă pentru atacatorii care pot, în primul rând, să profite de orice vulnerabilitate, cum ar fi o vulnerabilitate tehnică ce ar putea exista în tot acest dispozitiv complex. Dispozitivul în sine, interfaţa care îl conectează la sistemele inteligente şi, de asemenea, sistemele inteligente în sine. Şi, de asemenea, modul în care datele colectate de la aceste dispozitive pot fi folosite abuziv în multe moduri diferite.

Reporter: În aceste condiţii, cine este responsabil asigurarea faptului că lucrurile bune sunt folosite pentru cauze bune? Adică să se asigure că nu cad în mâinile unor oameni malefici care ar putea face toate acele lucruri rele de care ne temem... Cine ar trebui să fie „îngerul păzitor” al acestei noi tehnologii?

Noushin Shabab: Din păcate, poţi crea politici şi reglementări pentru oamenii buni, dar nu poţi face niciodată politici şi reglementări pentru oamenii răi, pentru că lor nu le pasă. Adică, nu există - cum se spune - „onoare între hoţi”. Deci, oamenii răi fac tot ce vor. Dar putem minimiza riscul asigurându-ne că datele colectate de sistemele AI cognitive sunt stocate şi utilizate într-un mod corespunzător. Ar trebui să existe reglementări pentru utilizarea acestor tehnologii, pentru datele pe care au fost antrenate, pentru datele pe care le pot colecta şi pe care le pot folosi. Din nou, guvernanţa datelor este cel mai important lucru. Dar da, din păcate, nu îi putem împiedica pe cei răi să folosească tehnologii noi. Iar totul este o chestiune de resurse, bani, numărul de oameni pe care îi au şi abilităţile lor. Noi lucrăm la atacuri ale celor mai sofisticaţi actori de ameninţare, iar aceştia au toate resursele pe care şi le doresc.

• „Sistemele AI nu au discernământ pentru a le putea lăsa să decidă în locul nostru”

Reporter: Aş dori să ne vorbiţi despre întreprinderile mijlocii şi AI-ul cognitiv. Ne-aţi spus în cadrul conferinţei despre deciziile luate de oameni. Cum vă asiguraţi că decizia nu este influenţată de AI-ul cognitiv şi că rămâne o decizie umană, în special în cazul companiilor mici şi mijlocii din media şi, în special, pe câmpul de luptă, unde datele colectate despre oameni, forţe sau civili sunt doar puncte de date?

Noushin Shabab: Cred cu tărie că sistemele AI trebuie folosite drept ceea ce sunt: instrumente. Ele sunt acolo pentru a ne asista, nu pentru a ne face treaba, care este treaba omului - cum ar fi luarea deciziilor sau formularea unor judecăţi. Cred cu tărie că sistemele ar trebui folosite într-un mod care să nu înlocuiască procesul decizional uman sau judecata umană. Cred cu tărie că nu există nicio cale prin care să lăsăm sistemele să decidă sau să judece. Aceasta este ceea ce ne face umani.

Reporter: Este sfatul dumneavoastră pentru CEO sau consiliile de administraţie? Pentru că în media există CEO care au încredere deplină în inteligenţa artificială şi în agenţii AI.

Noushin Shabab: Acesta este cel mai rău lucru şi cel mai rău mod în care poţi folosi tehnologia. Creăm aceste tehnologii pentru a ne ajuta să avem o viaţă mai bună şi pentru a ne ajuta să facem diverse lucruri într-un mod mai eficient. Dar apoi avem caracteristici care ne fac umani. Avem capacitatea de a rezolva probleme. Avem discernământ. Aceste sisteme nu au discernământ. Ele nu pot gândi, nu pot decide, sunt doar maşini care procesează. Deci, da, sugerez cu tărie oricui, fie că este CEO-ul unei companii, al unei organizaţii sau orice persoană individuală: aceste sisteme sunt acolo pentru a ne asista în realizarea diferitelor lucruri, nu pentru a decide pentru noi, nu pentru a lua decizii. Dar, din nou, ne întoarcem la punctul despre responsabilitate despre care am vorbit: nu poţi face un sistem responsabil; pur şi simplu nu este un concept definit pentru un sistem.

Reporter: În acest context, unde ar trebui trasă linia de echilibru între inovaţia în tehnologiile AI şi protecţia autonomiei individuale, a confidenţialităţii şi a proceselor democratice?

Noushin Shabab: Desigur, ar trebui să avem toate oportunităţile pentru a inova în tehnologii. Avem nevoie de tehnologii mai bune. Avem nevoie de tot mai multe tehnologii care să ne poată ajuta. Dar acest lucru nu are nicio legătură cu comportamentul uman. În continuare avem nevoie de sisteme mai bune, pe cât de bune pot fi ele, dar trebuie să ne asigurăm că sunt maşini care să ne asiste. Este ca trecerea de la primele zile ale transportului la prezent, cu toate aceste maşini inteligente sofisticate şi toate mijloacele pe care le avem pentru transport. Noile tehnologii sunt bune. Ne pot ajuta să facem multe lucruri noi, dar trebuie să ne amintim că acestea sunt doar tehnologii, sunt doar instrumente.

Reporter: Deci nu aţi merge cu o maşină autonomă?

Noushin Shabab: Nu aş merge. Orice decizie aş lua în timp ce mă aflu la volan trebuie să îmi aparţină în totalitate.

Reporter: Vă mulţumesc!