Agenţii de inteligenţă artificială conectaţi la aplicaţiile şi bazele de date ale companiilor pot genera riscuri de securitate dacă nu au limite clare privind accesul şi acţiunile pe care le pot executa, avertizează specialiştii Medialine România.
Deşi pot automatiza procese complexe, pot lucra continuu şi pot interacţiona simultan cu mai multe aplicaţii, agenţii AI pot fi determinaţi să execute acţiuni diferite de cele solicitate iniţial. Riscurile apar mai ales atunci când primesc permisiuni extinse, fără mecanisme adecvate de control şi monitorizare.
Raportul Global Cybersecurity Outlook 2026, publicat de World Economic Forum, arată că agenţii AI pot acumula drepturi de acces excesive, pot fi manipulaţi prin atacuri de tip prompt injection sau pot transmite erori şi vulnerabilităţi către alte sisteme. Atacurile de tip prompt injection folosesc instrucţiuni ascunse care pot determina un sistem AI să ignore regulile iniţiale.
Spre deosebire de un instrument AI folosit doar pentru redactarea unui text sau pentru obţinerea unui răspuns, un agent AI poate fi conectat la aplicaţii şi surse de date şi poate executa acţiuni în baza permisiunilor primite. În funcţie de configurare, acesta poate consulta documente interne, poate interacţiona cu alte aplicaţii şi poate automatiza etape ale proceselor de lucru.
„Un agent AI nu trebuie privit doar prin prisma modelului pe care îl foloseşte, ci şi ca un nou tip de utilizator al infrastructurii companiei. Dacă îi oferim acces la cinci sisteme interne, trebuie să ştim exact ce poate face în fiecare dintre ele şi până unde se extind aceste permisiuni”, explică Elena Radu, Director Operaţional Medialine România.
Unul dintre riscurile specifice este atacul de tip prompt injection, prin care un sistem AI poate fi determinat să ignore instrucţiunile iniţiale şi să execute comenzi neprevăzute. Dacă agentul are acces la alte aplicaţii, atacul poate duce la consultarea unor informaţii sau la executarea unor acţiuni pentru care utilizatorul nu şi-a dat acordul în mod intenţionat.
Un alt risc este extinderea excesivă a permisiunilor. Un agent configurat pentru o sarcină simplă poate ajunge să aibă acces la mai multe aplicaţii sau funcţii decât cele necesare. World Economic Forum atrage atenţia că, pe măsură ce numărul agenţilor AI creşte în organizaţii, administrarea identităţilor, acreditărilor şi permisiunilor devine comparabilă cu gestionarea accesului utilizatorilor umani şi poate fi chiar mai complexă.
Companiile trebuie să ia în calcul şi posibilitatea propagării unei erori. Într-un proces manual, o decizie greşită poate afecta o singură operaţiune. În cazul unui sistem automatizat, care poate aplica rapid aceeaşi acţiune asupra unui număr mare de fişiere, conturi sau aplicaţii, efectele unei configuraţii greşite ori ale unei instrucţiuni eronate se pot extinde mult mai repede.
„Riscul apare atunci când un sistem care poate greşi sau poate fi manipulat primeşte acces nelimitat. Cu cât îi permitem să execute mai multe acţiuni fără verificare, cu atât consecinţele unei erori sau ale unei compromiteri pot fi mai mari. De aceea, permisiunile, monitorizarea şi posibilitatea de a opri sau limita rapid acţiunile unui agent trebuie stabilite încă din momentul implementării”, adaugă Elena Radu.
Noile riscuri se suprapun peste ameninţările cibernetice deja cunoscute. Raportul ENISA Threat Landscape 2025 a analizat 4.875 de incidente produse între iulie 2024 şi iunie 2025. Atacurile de tip DDoS, prin care un site sau un serviciu online este inundat cu trafic până devine indisponibil, au reprezentat 77% dintre incidentele raportate.
Extinderea utilizării agenţilor AI nu elimină aceste ameninţări, ci adaugă un nou element în strategia de securitate a companiilor: posibilitatea ca un sistem autorizat să opereze în infrastructura internă să execute acţiuni greşite sau să fie compromis.
Această problemă influenţează şi strategia de recuperare a datelor. Dacă un cont sau un sistem cu drepturi extinse poate accesa atât datele operaţionale, cât şi copiile de rezervă, compromiterea sa poate afecta capacitatea companiei de a reveni la o versiune nealterată a informaţiilor.
„În era AI, protecţia datelor nu mai poate fi gândită doar în termeni de backup clasic. Rezilienţa trebuie proiectată pentru scenarii imprevizibile, în care ameninţarea poate veni chiar din interiorul sistemelor proprii. Securitatea nu mai poate fi o grijă rezervată echipei IT, ci o decizie de business care ţine de continuitatea companiei. De aceea, prevenţia şi capacitatea de a reveni la date curate cântăresc astăzi la fel de mult ca măsurile clasice de apărare”, explică Directorul Operaţional Medialine România.
O soluţie pentru protejarea datelor este tehnologia Cyber Vault, care presupune păstrarea copiilor informaţiilor critice într-un spaţiu izolat de infrastructura operaţională. Datele pot fi stocate într-un format care împiedică modificarea sau ştergerea lor pe durata perioadei de retenţie, iar accesul este strict limitat. Recuperarea are loc separat, după verificarea integrităţii datelor, pentru a preveni reintroducerea în infrastructură a unor fişiere compromise.
Medialine include în portofoliul său soluţii atât pentru controlul utilizării inteligenţei artificiale în organizaţii, cât şi pentru recuperarea datelor după incidente. CompanyAI GPT oferă un mediu AI securizat, iar componenta Generative Shield funcţionează ca un strat de protecţie pentru asistenţii AI, agenţii AI şi fluxurile de lucru automatizate. Prin reguli şi filtre configurabile, aceasta stabileşte ce date pot fi accesate, ce acţiuni sunt permise şi ce tipuri de conţinut trebuie blocate. Activităţile pot fi, de asemenea, înregistrate şi monitorizate.
Cyber Vault este destinat păstrării izolate şi imuabile a copiilor datelor critice.
Potrivit Medialine România, introducerea agenţilor AI presupune şi o decizie de business privind nivelul de autonomie acordat acestor sisteme. Companiile trebuie să stabilească de la început ce pot accesa şi executa agenţii, dar şi cât de repede pot interveni pentru a le opri sau limita activitatea în cazul unei erori sau al unui incident de securitate.























































Opinia Cititorului