CORESPONDENŢĂ DIN ROMA Agenţii AI transformă radical securitatea cibernetică

Agenţii AI au trecut pragul de la simple instrumente digitale la actori autonomi care pot lua decizii, executa sarcini, interacţiona între sisteme şi chiar negociază procese fără supraveghere directă, iar problema reală nu mai este dacă AI-ul gândeşte, ci dacă omenirea mai poate controla efectele acţiunilor sale autonome, au afirmat participanţii la dezbaterea „AI Agents in Cyberspace: Who Sets the Rules?”, care a avut loc în cadrul conferinţei Horizons 2026 organizată zilele trecute la Roma.

Luana Lo Piccolo, consilier senior în drept tehnologic şi guvernanţă AI, a răspuns tranşant: „Deocamdată agenţii AI nu gândesc, dar au capacitate de acţiune, iar odată ce o au, responsabilitatea devine altceva”. Ea a explicat că agenţii AI schimbă fundamental natura riscurilor digitale, pentru că mută problema de la conţinutul generat către acţiunile executate autonom de sistemele inteligente.

„La AI-ul de asistenţă, riscul era la nivel de rezultate: halucinaţii, părtiniri, dezinformare, scurgeri de date. Agenţii AI adaugă capacitatea de a lua decizii în lumea reală. Aceste sisteme execută sarcini, interacţionează cu instrumente, accesează date şi întreprind acţiuni în diverse sisteme, ceea ce creează un nou strat de risc”, a declarat Luana Lo Piccolo. Potrivit expertei, un simplu document sau o invitaţie de calendar redactată într-un anumit mod poate redirecţiona obiectivele unui sistem autonom prin limbaj natural. „Nu mai construim simple instrumente, construim actori care interacţionează între sisteme. Riscul nu mai este ceea ce spun ele, ci ceea ce fac, iar acele acţiuni se propagă”.

Andrea Fumagalli, expert în securitate cibernetică şi AI, a nuanţat ideea afirmând că sistemele nu gândesc „aşa cum gândim noi”, dar „sunt pe cale să găsească o nouă modalitate de gândire, bazată de obicei pe luarea deciziilor, raţionament şi inferenţă logică bazată pe algoritmi statistici”, iar aceste mecanisme „ne depăşesc performanţele, aşa cum vedem în fiecare zi din interacţionarea noastră cu ele”.

El a avertizat că agenţii AI reduc dramatic pragul de intrare în criminalitatea informatică şi democratizează accesul la capabilităţi de atac care până recent necesitau expertiză avansată.

„Agenţii AI au scăzut pragul de intrare în era atacurilor cibernetice, reducând abilităţile şi cunoştinţele necesare”, a spus acesta, care a exemplificat cu platformele automate de penetration testing, create iniţial pentru securitate defensivă, dar reutilizate rapid de atacatori pentru a identifica noi căi de infiltrare în infrastructuri critice.

El a descris şi sofisticarea noilor ecosisteme de ransomware, vorbind despre cazul grupării Hunters International, desfiinţată anul trecut. Potrivit lui Fumagalli, platforma lor funcţiona „ca un instrument de nivel enterprise, un fel de ERP cu o interfaţă foarte prietenoasă”, care includea „opţiuni uşoare pentru comunicarea cu victima, generatoare de chei de criptare şi instrumente pentru clasificarea automată a datelor exfiltrate”. Impactul AI-ului este uriaş, deoarece automatizează inclusiv analiza volumelor mari de informaţii furate. „Când exfiltrezi 20 Gigabiţi de date, să le clasifici manual pentru a găsi documente financiare este greu; să faci asta cu câteva clickuri prin AI este un game changer”, a spus specialistul.

Discuţia a evidenţiat şi rolul AI-ului în apărarea cibernetică. Dmitry Galov a explicat că sistemele autonome sunt deja utilizate pentru procesarea logurilor şi automatizarea unor sarcini repetitive în centrele de operaţiuni de securitate (SOC).

„Fiecare persoană din industrie se gândeşte acum nu cum să nu-şi piardă locul de muncă în favoarea maşinii, ci ce sarcini de rutină poate externaliza către AI pentru a avea mai mult timp pentru creativitate şi gândirea abstractă”, a afirmat Dmitry Galov, care a arătat că aproximativ 25% din logurile analizate în serviciile SOC ale companiei Kaspersky sunt procesate automat de AI, însă rezultatele sunt verificate de oameni pentru a menţine calitatea şi pentru recalibrarea continuă a modelelor.

Andrea Fumagalli a arătat că AI-ul defensiv devine esenţial în procesarea alertelor timpurii, extragerea indicatorilor de compromitere şi reducerea fenomenului de „alert fatigue”, care sufocă echipele de securitate cu volume uriaşe de notificări. Tot el a adus în discuţie o altă ameninţare majoră: convergenţa dintre AI şi calculul cuantic.

„Calculul cuantic va sparge criptografia aşa cum o ştim - RSA, ECC -, punând în pericol protocoalele TLS, VPN-urile şi portofelele crypto. AI-ul va automatiza şi va creşte puterea atacurilor. Împreună, acestea vor crea un peisaj perturbator”, a spus Andrea Fumagalli, care a avertizat şi asupra dependenţei critice de energie electrică şi infrastructură: „Totul funcţionează atât timp cât avem electricitate. Energia devine o resursă critică, iar infrastructura critică trebuie protejată”. În opinia sa, AI-ul ofensiv este deja utilizat împotriva reţelelor naţionale, iar centrele SOC ale operatorilor de infrastructuri esenţiale sunt tot mai concentrate pe protejarea tehnologiilor OT şi IoT.

Una dintre cele mai dure critici ale dezbaterii a vizat ideea că reglementarea ar putea rezolva singură problema AI-ului autonom. Luana Lo Piccolo, care a contribuit la elaborarea EU AI Act şi Digital Services Act, a spus direct că legislaţia este insuficientă pentru a controla această revoluţie tehnologică. „Reglementarea este fundamentală pentru încredere, dar nu a fost menită să poarte singură responsabilitatea”, a afirmat ea. Experta a explicat că legile sunt „acorduri politice, nu neapărat teste tehnice perfecte” şi că procesele de negociere din Uniunea Europeană sunt dominate de compromisuri între state şi instituţii.

În schimb, Luana Lo Piccolo vede guvernanţa internă ca pe adevăratul mecanism de control. „Reglementarea este externă, reactivă, statică şi politică. Guvernanţa este răspunsul, pentru că acolo acţionează leadership-ul. Este responsabilitatea noastră să implementăm AI-ul într-un mod sustenabil. Nu ne permitem luxul de a aştepta claritatea reglementărilor; trebuie să acţionăm acum”. Ca exemple concrete, Lo Piccolo a enumerat definirea fluxurilor de aprobare pentru acţiuni critice, aplicarea principiului „least privilege”, implementarea mecanismelor de supraveghere continuă şi a sistemelor de auditabilitate şi observabilitate. Luanei Lo Piccolo a sintetizat întreaga tensiune a noii ere digitale: „Înainte de a implementa AI, întrebaţi-vă: cine are autoritatea şi obligaţia de a interveni dacă lucrurile merg prost? Definiţi responsabilitatea intern nu doar pentru performanţa tehnică, ci şi pentru consecinţe”.

Referitor la ce pot face companiile să păstreze controlul asupra agenţilor AI agentic într-o lume în care viteza atacurilor depăşeşte tot mai des capacitatea de reacţie umană, Dmitry Galov a spus: „Cel mai bun lucru pe care îl poate face o companie anul acesta este să se gândească la atenuări şi riscuri înainte ca AI-ul să devină ceva la fel de comun în infrastructură ca un router de reţea. Pe scurt: să gândească”.

Andrea Fumagalli a oferit o listă pragmatică de măsuri: reducerea suprafeţei de atac, protejarea informaţiilor publice despre infrastructura IT, monitorizarea atentă a lanţului de aprovizionare, utilizarea serviciilor de Cyber Threat Intelligence şi implementarea programelor de conştientizare la toate nivelurile organizaţionale. El a insistat inclusiv asupra necesităţii ca administratorii şi directorii să experimenteze personal cu instrumentele AI pentru a înţelege modul în care acestea funcţionează şi pot fi exploatate.