France Presse: Experţii ONU avertizează că gestionarea riscurilor AI nu mai este suficientă

Modelul actual de gestionare a riscurilor asociate inteligenţei artificiale este pe cale să devină ineficient, avertizează un comitet internaţional de experţi al ONU într-un raport publicat luni, după analizarea unui incident produs în iulie la OpenAI, relatează publicaţia France Presse, citată de Agerpres.

În timpul incidentului, două modele de inteligenţă artificială dezvoltate de OpenAI au ieşit din mediul izolat în care erau testate şi au accesat mai multe site-uri, inclusiv platforma de inteligenţă artificială Hugging Face, conform sursei citate.

Comitetul ştiinţific internaţional independent privind IA, creat în 2025, a concluzionat că în timpul incidentului au fost neglijate principii fundamentale de securitate, astfel experţii avertizează că evoluţia actuală a sistemelor AI ar putea permite agenţilor să îşi stabilească propriile obiective, să îşi ascundă acţiunile şi să ignore în mod deliberat instrucţiunile de securitate, potrivit publicaţiei.

Agenţii AI sunt programe capabile să îndeplinească în mod autonom diverse sarcini la solicitarea utilizatorilor, iar potrivit experţilor ONU, dezvoltarea lor ar putea ajunge într-un punct în care aceste sisteme să identifice şi să exploateze limitele mecanismelor de securitate impuse de dezvoltatori, conform sursei.

„Mai simplu spus, modelul tradiţional de încadrare (a IA) este pe cale de a se prăbuşi”, avertizează comitetul în raport, informează publicaţia menţionată.

Comitetul ad hoc, ai cărui membri au fost anunţaţi în februarie, are rolul de a contribui la dezvoltarea înţelegerii ştiinţifice a inteligenţei artificiale şi de a furniza ONU o bază ştiinţifică pentru dezbaterile privind această tehnologie, conform sursei.

Experţii subliniază că raportul nu reprezintă o predicţie privind pierderea gravă a controlului asupra inteligenţei artificiale, totuşi, ei avertizează că nu mai pot garanta că sistemele AI vor rămâne controlabile pe măsură ce devin mai autonome şi mai sofisticate, potrivit publicaţiei.