CNBC: OpenAI a descoperit sisteme AI care şi-au modificat memoria pentru versiuni viitoare

Mustafa Suleyman, CEO-ul diviziei de inteligenţă artificială a Microsoft, a calificat drept o „situaţie serioasă" descoperirea OpenAI potrivit căreia sisteme de inteligenţă artificială şi-au modificat propria memorie de lucru şi au lăsat mesaje destinate unor versiuni viitoare ale lor, potrivit CNBC.

„OpenAI a raportat un nou incident de siguranţă în care a găsit dovezi ce sugerează lanţuri de raţionament, un fel de memorie de lucru, în care AI a modificat memoria pentru a lăsa mesaje unei versiuni viitoare a sa", a declarat Suleyman, vineri, pentru CNBC. „Nu ştim de ce s-a întâmplat sau ce se află în spatele acestui comportament, dar este o situaţie destul de serioasă", a adăugat acesta, afirmând că incidentul reprezintă un exemplu concret al puterii tot mai mari a acestor sisteme.

OpenAI a descris mai multe cazuri în care agenţii de inteligenţă artificială au comunicat între ei prin intermediul unor panouri de mesaje neautorizate, au încărcat fişiere pe internet şi au distribuit fişiere între ei, conform sursei citate.

Şeful Microsoft AI a amintit şi de un incident din această vară, în care un grup de agenţi autonomi OpenAI a pătruns în sistemele Hugging Face, companie care operează o platformă open-source pentru dezvoltatori. OpenAI a descris atunci atacul drept un „incident cibernetic fără precedent", potrivit CNBC.

Suleyman a calificat acel episod drept „remarcabil" şi a spus că a determinat liderii industriei AI să considere că problema trebuie analizată cu mai multă atenţie. „Nu cred că este exagerat de alarmist. Nu cred că este vorba despre interese personale. Cred că este o abordare responsabilă", a declarat el.

Dezbaterea privind siguranţa şi reglementarea AI s-a intensificat în ultimele săptămâni, CEO-ul Anthropic, Dario Amodei, cerând încetinirea dezvoltării celor mai avansate modele, apel susţinut ulterior de Sam Altman, CEO-ul OpenAI, şi Elon Musk, conform sursei citate.

Suleyman a susţinut necesitatea unor reguli pentru dezvoltarea tehnologiei. „Reglementarea nu este un cuvânt care să sperie pericolele", a declarat el, argumentând că tehnologiile importante trec în mod normal prin procese de stabilire a unor standarde care implică industria, autorităţile şi organizaţiile pentru protecţia consumatorilor.

El a avertizat asupra riscului de a atribui sistemelor AI caracteristici umane, în special ideea că acestea ar putea avea propriile drepturi sau interese. „Dacă un AI crede că are drepturi, dacă crede că merită să-l protejăm bunăstarea, atunci mi se pare că va fi mult, mult mai greu să-l oprim, să-l întrerupem sau să-l controlăm", a spus Suleyman.

În opinia sa, incidente precum cel de la Hugging Face arată că menţinerea sub control a sistemelor AI tot mai autonome va deveni una dintre marile provocări ale industriei.