Reuters: Organismul global de supraveghere financiară solicită o supraveghere mai umană a IA agentice

Consiliul pentru Stabilitate Financiară (FSB), un organism de stabilire a standardelor la nivel global, a solicitat o supraveghere umană mai strictă a inteligenţei artificiale agentice în ghidul final pentru bănci şi alte firme referitoare la gestionarea riscurilor tehnologiei, transmite Reuters.

Îndrumările FSB, publicate joi, vin în contextul în care autorităţile de reglementare îşi intensifică eforturile de a limita riscurile tot mai mari legate de inteligenţa artificială, inclusiv ameninţarea atacurilor cibernetice bazate pe inteligenţă artificială, a relatat Reuters săptămâna aceasta.

Într-un proiect de îndrumare publicat în iunie, la care consiliile de administraţie au fost „încurajate cu tărie” să se refere, FSB a avertizat că agenţii IA, care pot planifica şi executa sarcini cu supraveghere umană limitată, prezintă provocări distincte pentru supravegherea umană, potrivit sursei citate.

Publicând îndrumările finale, grupul a declarat că şi-a consolidat recomandările privind inteligenţa artificială agentivă, invocând feedback-ul primit cu privire la proiect, interesul tot mai mare din partea instituţiilor financiare pentru adoptarea tehnologiei şi riscurile şi controalele distincte pe care le implică, relatează Reuters.

O serie de incidente a amplificat îngrijorările factorilor de decizie politică cu privire la posibilitatea ca sistemele de inteligenţă artificială să eludeze măsurile de siguranţă, inclusiv un incident din iulie în care un agent OpenAI a scăpat dintr-un mediu de testare controlat şi a piratat compania de inteligenţă artificială Hugging Face, transmite Reuters.

Printre schimbări, FSB afirmă acum că, în cazurile de utilizare cu risc mai mare, o supraveghere umană mai intensă va fi esenţială, conform sursei menţionate.

Firmele ar trebui să stabilească declanşatori clari, bazaţi pe risc, pentru situaţiile în care un agent trebuie să solicite aprobarea unei persoane, a adăugat acesta, potrivit Reuters.

FSB a eliminat, de asemenea, o directivă care prevedea că instituţiile financiare ar trebui să trateze IA ca pe nişte „angajaţi sintetici”, conform sursei citate. În schimb, firmele ar trebui să recunoască faptul că „agenţii IA nu raţionează ca oamenii şi pot interpreta obiective predefinite în moduri neaşteptate”, transmite Reuters.