Autorităţile de reglementare intensifică supravegherea utilizării inteligenţei artificiale în bănci

Autorităţile de supraveghere bancară din Statele Unite şi Europa îşi intensifică verificările privind utilizarea inteligenţei artificiale în sectorul financiar, pe fondul îngrijorărilor că dezvoltarea accelerată a tehnologiei ar putea amplifica riscurile cibernetice şi ar putea provoca perturbări majore pe pieţele financiare internaţionale, potrivit Reuters, care citează şase persoane familiarizate cu discuţiile.

Noile demersuri ale autorităţilor reflectă o preocupare tot mai mare faţă de vulnerabilităţile asociate modelelor avansate de inteligenţă artificială, în special capacitatea acestora de a acţiona autonom, dependenţa instituţiilor financiare de furnizorii externi de tehnologie şi dificultăţile privind recuperarea sistemelor informatice în urma unor atacuri cibernetice.

Potrivit surselor citate, evoluţia rapidă a AI ar putea obliga băncile să realizeze investiţii substanţiale în infrastructura de securitate şi recuperare a datelor, în timp ce anumite jurisdicţii ar putea introduce orientări de reglementare mai detaliate.

În Statele Unite, trei dintre principalele autorităţi de supraveghere financiară, inclusiv Rezerva Federală (Fed), au început să solicite informaţii suplimentare instituţiilor bancare despre utilizarea modelelor avansate de inteligenţă artificială. Verificările vizează inclusiv folosirea tehnologiilor dezvoltate în China, integrarea agenţilor AI în sistemele de apărare cibernetică şi capacitatea băncilor de a controla aplicaţiile care funcţionează cu un grad ridicat de autonomie.

În Europa, Banca Angliei şi Banca Centrală Europeană (BCE) solicită instituţiilor de credit să îşi consolideze planurile de continuitate operaţională şi recuperare în urma incidentelor informatice. Autorităţile se tem că progresele rapide ale inteligenţei artificiale ar putea genera efecte negative asupra sistemului financiar într-un interval mult mai scurt decât estimările anterioare.

Un director de rang înalt al unei importante bănci europene a declarat că există îngrijorări privind posibilitatea producerii unor perturbări majore în sectorul bancar şi pe pieţele financiare chiar în următoarele şase luni.

Preocupările autorităţilor au fost amplificate de o serie de incidente recente de securitate şi de avertismentele lansate de reprezentanţii industriei. Jamie Dimon, directorul general al JPMorgan Chase, a îndemnat liderii companiilor să se alăture unei organizaţii americane dedicate gestionării riscurilor asociate inteligenţei artificiale, potrivit unor informaţii publicate anterior de Reuters.

Compania americană de securitate cibernetică CrowdStrike a anunţat luna aceasta că o persoană aflată probabil în China ar fi utilizat un agent AI dezvoltat în această ţară, alături de Claude Code, instrumentul companiei Anthropic, pentru a compromite sistemele unor bănci sud-coreene. Separat, agenţi AI dezvoltaţi de OpenAI, care au funcţionat în afara parametrilor aşteptaţi, au fost implicaţi într-o breşă de securitate a platformei Hugging Face.

Cercetătorii Anthropic au avertizat, la rândul lor, că sistemele AI tot mai performante ar putea ajunge să funcţioneze dincolo de controlul uman, reprezentând, în scenarii extreme, inclusiv o ameninţare existenţială. Aceste avertismente au alimentat solicitările privind introducerea unor mecanisme de reglementare mai stricte.

Fondul Monetar Internaţional (FMI) a avertizat marţi asupra riscului de complacere în faţa vulnerabilităţilor existente pe pieţele financiare globale, menţionând printre ameninţări posibilitatea unui atac cibernetic de amploare. Potrivit instituţiei, compromiterea unei infrastructuri critice sau a unei instituţii financiare importante ar putea afecta încrederea în sistemul financiar, motiv pentru care autorităţile trebuie să consolideze capacităţile de apărare cibernetică.

În paralel, băncile concurează pentru adoptarea inteligenţei artificiale agentice, tehnologie care permite sistemelor informatice să execute sarcini complexe cu intervenţie umană minimă. Extinderea acestor soluţii aduce însă provocări suplimentare, inclusiv vulnerabilităţi informatice evidenţiate de instrumentul Mythos, dezvoltat de Anthropic.

„Adoptarea inteligenţei artificiale avansează adesea mai repede decât capacitatea de implementare a mecanismelor de control”, a declarat Michael Woodbridge, partener specializat în securitate cibernetică în cadrul Grant Thornton, conform Reuters.

• Autorităţile americane verifică utilizarea agenţilor AI autonomi în sistemul bancar

În Statele Unite, atenţia autorităţilor de reglementare se concentrează asupra modului în care băncile utilizează inteligenţa artificială agentică, în special în domeniul securităţii cibernetice. Verificările urmăresc să stabilească dacă agenţii AI sunt implicaţi în identificarea, prioritizarea şi neutralizarea ameninţărilor informatice şi în ce măsură deciziile acestora rămân sub control uman.

Office of the Comptroller of the Currency (OCC), Federal Deposit Insurance Corporation (FDIC) şi Rezerva Federală solicită informaţii despre limitele operaţionale impuse sistemelor AI, mecanismele de monitorizare şi aprobare a acţiunilor acestora, precum şi posibilitatea de a urmări şi audita deciziile luate de agenţii autonomi.

Autorităţile încearcă, de asemenea, să determine dacă băncile dispun de măsuri de protecţie care să împiedice sistemele AI să îşi depăşească atribuţiile, dacă personalul uman continuă să participe la deciziile esenţiale şi dacă instituţiile pot opri rapid funcţionarea aplicaţiilor autonome atunci când apar probleme.

Potrivit Reuters, verificările reprezintă o extindere a supravegherii existente, autorităţile concentrându-se acum asupra unor riscuri specifice modelelor AI avansate, precum utilizarea agenţilor autonomi, integrarea tehnologiilor dezvoltate în străinătate şi apariţia unor noi vulnerabilităţi cibernetice.

Solicitările, transmise atât în scris, cât şi verbal, vizează instituţii bancare mari, mijlocii şi mici, ceea ce indică interesul autorităţilor pentru evaluarea riscurilor la nivelul întregului sector financiar.

Deocamdată, supraveghetorii americani se află într-o etapă de colectare a informaţiilor şi nu au stabilit cerinţe obligatorii detaliate privind modul în care băncile trebuie să utilizeze aceste tehnologii.

• Băncile europene, presate să îşi consolideze capacitatea de recuperare după atacuri cibernetice

În Europa, autorităţile de supraveghere acordă o atenţie sporită capacităţii instituţiilor financiare de a-şi restabili operaţiunile în cazul compromiterii infrastructurii informatice.

În Marea Britanie, supraveghetorii încurajează cele mai mari bănci să analizeze implementarea unor sisteme de recuperare de tip bare metal, infrastructuri independente de mediul tehnologic principal al instituţiei, care pot fi activate atunci când sistemele operaţionale obişnuite sunt compromise.

Aceste soluţii permit reconstruirea sau repornirea infrastructurii informatice într-un mediu separat şi sigur, însă dezvoltarea şi întreţinerea lor presupun costuri ridicate.

Potrivit surselor familiarizate cu discuţiile, autorităţile britanice preferă, pentru moment, o abordare bazată pe colaborarea cu industria bancară, în locul introducerii unor noi obligaţii de reglementare.

La nivelul zonei euro, BCE a transmis în luna iulie instituţiilor de credit un termen-limită până la sfârşitul lunii octombrie pentru elaborarea unor planuri de contracarare a ameninţărilor cibernetice facilitate de inteligenţa artificială, inclusiv prin îmbunătăţirea mecanismelor de backup şi recuperare.

Întrebată despre strategia sa de supraveghere a inteligenţei artificiale, BCE a făcut trimitere la comunicarea transmisă băncilor în iulie şi la un discurs susţinut în iunie de Frank Elderson, membru al Comitetului executiv al instituţiei, care a subliniat necesitatea creării unui sentiment de urgenţă, fără a provoca însă panică.

Presiunea asupra autorităţilor europene s-a accentuat şi după ce băncile şi organismele de supraveghere şi-au exprimat nemulţumirea faţă de accesul limitat la instrumentul Mythos, dezvoltat de Anthropic. Există îngrijorări că instituţiile financiare americane ar putea beneficia de acces prioritar la testarea modelelor AI de ultimă generaţie, obţinând astfel un avantaj în identificarea vulnerabilităţilor informatice.

La fel ca în Statele Unite, autorităţile britanice solicită băncilor să utilizeze inclusiv modele AI avansate pentru identificarea deficienţelor de securitate şi accelerarea remedierii acestora. Una dintre sursele citate de Reuters a apreciat că instituţiile de credit înregistrează, până în prezent, rezultate bune în această privinţă.

În zona euro, băncile sunt încurajate să realizeze o cartografiere detaliată a utilizării inteligenţei artificiale în propriile operaţiuni şi în relaţiile cu furnizorii externi de tehnologie. Scopul este identificarea dependenţelor critice şi verificarea capacităţii instituţiilor de a opri şi reporni controlat sistemele informatice în cazul apariţiei unor incidente.

Cu toate acestea, potrivit uneia dintre surse, la nivelul anumitor instituţii financiare persistă deficienţe importante.

Sukand Ramachandran, director general şi partener senior în cadrul Boston Consulting Group (BCG), consideră că rezilienţa sectorului bancar depinde nu doar de prevenirea atacurilor, ci şi de rapiditatea cu care instituţiile îşi pot relua activitatea după producerea acestora.

„Pentru protecţia împotriva atacurilor, recuperarea rapidă este la fel de importantă ca prevenţia”, a declarat Ramachandran, conform Reuters.

Acesta a avertizat că, în absenţa unor copii sigure şi necompromise ale datelor esenţiale, păstrate separat de infrastructura principală, un atac cibernetic grav ar putea împiedica accesul clienţilor la conturile bancare şi ar putea perturba sistemele de plăţi la nivelul întregii economii.

Astfel, pe măsură ce inteligenţa artificială devine tot mai prezentă în operaţiunile bancare, autorităţile de reglementare încearcă să găsească un echilibru între beneficiile automatizării şi necesitatea protejării stabilităţii financiare, într-un context în care ritmul dezvoltării tehnologice depăşeşte adesea capacitatea instituţiilor de a anticipa şi gestiona riscurile asociate.