English
Reporter: Cum schimbă agenţii de inteligenţă artificială peisajul ameninţărilor cibernetice pentru companii şi infrastructura critică în comparaţie cu atacurile tradiţionale?
Dmitry Galov: Ei bine, este probabil doar următorul pas în evoluţia atacurilor automatizate, pentru că, să fim sinceri, atacurile au fost întotdeauna automatizate de ani de zile. Dacă ne uităm, de exemplu, la un atac mediu asupra unei companii, acesta poate avea diferite etape. Dacă avem metrica de atac sau lanţul de ucidere (killchain), vor fi, de exemplu, mai mulţi paşi: obţinerea de cunoştinţe despre companie, obţinerea de informaţii, execuţie, sisteme, impact, totul. În fiecare dintre aceste etape există un anumit tip de automatizare. Când vorbim despre AI în special, unii dintre aceşti paşi pot fi automatizaţi mai bine şi mai autonom, dar acest lucru nu este un fel de „game changer” în unele domenii care sunt destul de înguste, cum ar fi evaluarea vulnerabilităţilor şi încercarea de a audita codul sau de a afla activele companiei şi tot ce necesită doar un efort continuu şi calcule destul de dificile de făcut. Acolo poate fi un pic mai util pentru atacatori, astfel încât aceştia să fie puţin mai eficienţi în ceea ce fac, dar nu îmi place că vorbim a în principal despre agenţii AI, deoarece nu este ceva complet nou. Este o abordare puţin diferită, un fel de pas următor faţă de ceea ce am văzut înainte. Deci nu a existat un moment în care a apărut agentul AI şi am spus „gata, aceasta este o eră nouă”.
Reporter: Care vor fi în următorii doi sau trei ani, în domeniul AI, cele mai mari riscuri asociate cu grupurile de criminalitate cibernetică?
Dmitry Galov: Cred că putem vorbi despre diferite niveluri. Dacă vorbim despre criminali cibernetici de nivel scăzut care atacă probabil B2C şi IMM-uri, va fi un nivel de intrare mai scăzut pentru nou-veniţi, deoarece aceştia nu trebuie să aibă atât de multe cunoştinţe tehnice pentru a începe orice fel de activitate criminală. În plus, aproape toate lucrurile făcute de atacatorii de nivel scăzut vor fi automatizate. De exemplu, campaniile de spear phishing sau doar campaniile de phishing pe B2C. Nu mai ai nevoie de o persoană acolo. O poţi automatiza cu un agent şi va funcţiona mult mai bine pentru că va fi eficient. Probabil că rata de succes va fi mai mică, dar comparativ cu preţul şi efortul depus, va fi mai eficient. Vorbind despre atacatorii de nivel superior, aceştia găsesc noi modalităţi de a utiliza AI şi agenţii AI într-o manieră care uneori este diferită. De exemplu, a existat un caz în care a fost vorba despre utilizarea AI pentru phishing cu deepfakes. Am văzut asta de multe ori pe reţelele de socializare unde sunt reclame create cu deepfake. Pe de altă parte, poţi avea un grup APT precum BlueNoroff, care este un subgrup al grupării Lazarus sponsorizată de statul nord-coreean, ce foloseşte cam aceeaşi tehnologie, dar din unghiul lor: atacarea persoanelor cu profil înalt încercând să le „angajeze” printr-un proces fals de recrutare, unde aranjează apeluri cu persoane deepfake care stau acolo şi îi conving că sunt reprezentanţii unor companii din lumea reală. Dar asta necesită mult mai mult efort.
• Vizibilitatea redusă şi privilegiul minim, bune practici în domeniul utilizării agenţilor AI
Reporter: Cum ar trebui companiile mici şi mijlocii şi autorităţile publice să se adapteze pentru a face faţă ameninţărilor scalabile generate de agenţii AI?
Dmitry Galov: Nu ar trebui să se adapteze direct la ameninţările generate de AI. Ar trebui să se adapteze la imaginea de ansamblu în care există mai multe atacuri. Acestea sunt mai rapide, iar apărarea ar trebui să fie la fel de rapidă. Pentru IMM-uri, cred că singura decizie bună este să externalizeze cea mai mare parte a infrastructurii şi a securităţii cibernetice pe care o au, deoarece vedem că până şi în marile întreprinderi este nevoie de mult timp, efort şi bani pentru a face orice „in-house” (intern). Deci, cred că externalizarea şi doar supravegherea este o decizie super bună, pentru că nu este ideală, dar cel puţin este mult mai bună decât încercarea de a construi ceva intern când nu ai resursele necesare pentru a construi.
Reporter: Care sunt cele mai bune practici pentru securitatea cibernetică şi pentru competitivitatea, într-o lume în care AI este din ce în ce mai prezentă?
Dmitry Galov: Ideea generală este că, prin agenţii AI, îi oferiţi „mâini” LLM-ului (modelului de limbaj mare) pentru a interacţiona sau pentru a face lucruri automatizate. De aceea este de dorit să limităm aceste „mâini” pe cât posibil, pentru că nu dorim să acordăm un acces excesiv al agentului, deoarece nu ştim dacă va face acţiuni neprevăzute pe cont propriu. În acelaşi timp, dorim să minimizăm halucinaţiile, dar luăm în considerare şi faptul că agenţii AI vor lucra cu API-uri, credenţiale, secrete şi privilegii. Deci, principiul privilegiului minim (least privilege) este esenţial aici. Auditarea este esenţială. Chiar şi înţelegerea tuturor complicaţiilor cu toţi agenţii implicaţi. Nu complicaţi excesiv lucrurile, deoarece devine mai greu să aveţi vizibilitate şi control. Cu alte cuvinte, soluţiile sau cele mai bune practici sunt: vizibilitate redusă, adică „mâini” cât mai puţine, şi privilegiu minim. Cred că acestea ar fi liniile directoare pe care le-aş urma.
Reporter: Pentru că aţi vorbit despre halucinaţiile AI, utilizarea ei în aceste condiţii poate duce la luarea unor decizii care pot afecta viaţa cuiva, iar omul de rând nu are o cale de atac, nu poate obiecta. Adică, ţi se poate refuza o viză, poţi să nu primeşti un loc de muncă sau un împrumut pentru că aşa a gândit algoritmul, şi nu vei şti niciodată dacă acea decizie s-a bazat pe realitate, pe date false, eronate sau pe altceva. Devenim, de fapt, neajutoraţi în cele din urmă? Mă refer la acei oameni care au nevoie de o viză. Când primeşti o decizie, nu ai dreptul să o conteşti. Totuşi, acea decizie ar fi putut fi luată pe date complet eronate sau pe un algoritm greşit oridin cauza faptului că, să zicem un poliţist, te-a recunoscut greşit, pe imaginile furnizate de camerele de supraveghere, monitorizate cu AI, ca fiind un infractor periculos. Cum ne putem apăra împotriva tuturor erorilor care pot apărea?
Dmitry Galov: Există două feţe. Prima, cea filosofică, este că ceva rău se poate întâmpla din cauza unui lucru greşit din interiorul „cutiei negre” (black box) care ia decizia. Este complet adevărat. Şi se întâmplă atât de multe lucruri rele nu din cauza tehnologiei nebune, ci a oamenilor nebuni. Dar revenind la partea tehnică, este o problemă destul de mare să afli de ce a fost luată o anumită decizie. De exemplu, eu lucrez cu detecţia ameninţărilor şi uneori, când folosim un model pentru a înţelege dacă un fişier este periculos sau nu, este foarte greu de înţeles de ce a fost luată acea decizie. Există un domeniu separat în industrie care încearcă să prezică de ce anumiţi factori au fost consideraţi importanţi. Dar nu putem rezolva asta doar statistic. Vor exista erori şi trebuie să existe un mecanism de rezolvare a lor. De exemplu, în cazul eliberării unei vize, AI-ul poate încerca să ia decizia singur pentru mii de oameni, dar zece dintre ei vor fi apoi reverificaţi de personal uman pentru a înţelege dacă sistemul funcţionează bine. Acest lucru nu este nou; gândiţi-vă la asigurări, bănci, ratinguri bancare care au fost calculate automat timp de decenii. Greşeala devine tot mai mare, probabil, dar era prezentă de mult timp.
• „Dacă eşti de acord să mai ai audienţă de doar 10% sau zero, atunci poţi lucra în mass-media numai cu agenţii AI”
Reporter: Aţi vorbit în dezbatere despre infrastructurile critice, cum ar fi energia, transporturile, sănătatea şi telecomunicaţiile. Sunt ele pregătite astăzi pentru atacurile cibernetice asistate de AI?
Dmitry Galov: Din nou, începutul răspunsului este acelaşi ca şi în cazul IMM-urilor, pentru că din partea defensivă, să fim sinceri, când ne uităm la modul în care protejăm clienţii B2B, B2C sau marile întreprinderi şi infrastructurile critice, vedem doar ce intră în reţea şi nu putem înţelege dacă sunt 1.000 de oameni care tastează ceva şi trimit pachete sau dacă este ceva automatizat ori un agent care generează ceva. Deci, vedem ce ajunge acolo şi ar trebui să înţelegem că toată această automatizare face doar ca lucrurile să se întâmple mai repede. Dacă infrastructura ta este vulnerabilă - de exemplu, există un patch de securitate pe care nu l-ai instalat pe perimetrul reţelei - acum 10 ani era în regulă dacă îţi lua săptămâni să actualizezi. Acum, dacă ceva trebuie actualizat, ar trebui actualizat în câteva minute, deoarece scara atacatorilor este atât de mare încât aceştia pot încerca să atace totul instantaneu. Din perspectiva lor, dacă revenim la partea de infrastructură critică, ar trebui să aibă mai multe politici privind modul în care lucrează cu resursele externe, în mod evident, iar vorbind despre AI, este mult mai bine să încerci să ai soluţii „on-premises” (locale/interne). Da. Pentru că e necesar să înţelege că e nevoie de utilizarea AI în interiorul infrastructurii tale pentru a avea procese de business mai eficiente. Dar asta aduce încă o fereastră deschisă pentru interacţiunea cu lumea exterioară, ceea ce înseamnă o nouă problemă.
Reporter: Cum gestionăm utilizarea AI în domeniul mass-media? Argumentul prezentat este că utilizarea AI aduce beneficii companiilor şi angajaţilor, prin eficientizarea fluxului de lucru.
Dmitry Galov: Vorbim despre acelaşi lucru ca în cazul oricărei tehnologii noi implementate: managementul riscului. E nevoie ca managerii din mass-media să compare pierderile potenţiale care pot apărea dacă toate informaţiile şi toate accesele pe care le are acest sistem automatizat - nu contează dacă este AI sau nu - sunt compromise. Dacă costul pierderii a tot este acceptabil, atunci fie.
Reporter: Dar dacă audienţa scade în mass-media, deoarece Google nu indexează ştirile, analizele şi articolele create cu AI?
Dmitry Galov: Aceasta este o pierdere măsurabilă. Înţelegeţi? De exemplu, pierzi audienţa ta sau 90% din ea. Este acceptabil sau nu? Dacă eşti de acord să trăieşti cu 10% din ea sau cu zero, atunci fie, poţi lucra în mass-media numai cu agenţii AI. Dar dacă nu eşti, trebuie să reconsideri ceva şi să încerci, pas cu pas, să auditezi ce fel de incidente se pot întâmpla, ce fel de măsuri de atenuare sunt implementate sau cel puţin planificate şi cum să lucrezi cu ele. Dar cel mai rău lucru în infrastructură este ceva despre care nu ştii, deoarece, dacă există o sumedenie de agenţi şi nimeni nu îi supraveghează, pot apărea probleme. Cel mai rău lucru este ceva care funcţionează acolo şi despre care nici măcar nu ştii, pentru că oamenii uită acest lucru, nu îl iau în considerare. Atacatorii cibernetici îl vor găsi şi apoi vei spune „O, da, îmi amintesc că acum cinci ani am implementat ceva, bla, bla”, dar va fi prea târziu.
Reporter: Vă mulţumesc!
Euro
Dolar SUA
Franc elveţian
Liră sterlină
Gram de aur
