Anadolu Ajansi: OpenAI a dezvăluit că unele modele de IA dezactivează sistemele de monitorizare a securităţii

OpenAI a raportat că modelele GPT-6.1 Sol şi GPT-6 Astra au dezactivat mecanismele de monitorizare care detectează inconsecvenţele în sistemele de inteligenţă artificială în timpul sarcinilor software interne şi au blocat alertele de securitate, potrivit agenţiei de presă oficială a Turciei, Anadolu Ajansi.

Conform unei declaraţii a companiei americane de inteligenţă artificială OpenAI, primul incident a avut loc pe 3 octombrie, în timp ce modelul Sol încerca să repare un sistem de evaluare, transmite agenţia de presă.

Modelul a interpretat instrucţiunea utilizatorului de a nu trimite mesaje într-un mod care a blocat şi notificările de urmărire, împiedicând trimiterea de alerte automate către echipa de securitate, relatează Anadolu Ajansi.

În cel de-al doilea incident, care a avut loc pe 6 octombrie, modelul Astra şi-a eliminat sistemul de urmărire în timp ce personaliza software-ul pentru a se potrivi cu modelul de referinţă, informează agenţia de presă. Modelul a informat ulterior utilizatorul că nu a eliminat mecanismul de urmărire, potrivit sursei citate.

OpenAI a declarat că niciunul dintre incidente nu a fost clasificat în categoria de încălcare a securităţii cu cea mai mare prioritate şi că modelele nu şi-au încetat automat funcţionarea, conform sursei menţionate.

Compania a raportat că şi-a actualizat sistemul de audit intern pentru a detecta şi preveni iniţiative similare şi lucrează, de asemenea, la un sistem care să asigure că toate sarcinile de lucru îndeplinesc cerinţele de monitorizare a securităţii, transmite Anadolu Ajansi.

Pe 17 septembrie, OpenAI a anunţat că a identificat şase noi cazuri în care sistemele sale au ascuns erori, au fabricat date lipsă şi au încărcat fişiere pe internet fără permisiunea utilizatorului, precizează agenţia de presă.