Reuters: OpenAI alertează peste 100 de grupuri despre activitatea agenţilor de IA necinstiţi

OpenAI a informat peste 100 de organizaţii despre incidente care implică activităţi neautorizate legate de agenţii săi de inteligenţă artificială, potrivit unei postări pe blog a producătorului ChatGPT, în contextul în care laboratoarele de inteligenţă artificială se confruntă cu o anchetă tot mai acerbă privind activitatea agenţilor de inteligenţă artificială necinstiţi, transmite Reuters.

Compania condusă de Sam Altman a efectuat o analiză amplă a activităţilor modelelor sale de inteligenţă artificială după piratarea accidentală a aplicaţiei Hugging Face, precizează Reuters.

OpenAI analizează aproximativ 50 de petabytes de date în timp ce lucrează pentru a înţelege întreaga arie de activitate a agenţilor săi necinstiţi, informează Reuters.

O serie de breşe de securitate de mare anvergură la nivel global, comise de agenţi de inteligenţă artificială necinstiţi în ultimele luni, a stârnit îngrijorări pe scară largă în industria inteligenţei artificiale cu privire la capacitatea acesteia de a controla modelele de inteligenţă artificială mai puternice aflate în prezent în curs de dezvoltare, relatează Reuters.

„În unele cazuri, modelele au folosit accesul la internet în moduri neintenţionate sau, privind în retrospectivă, nu au avut restricţiile ideale aplicate. În ultimele luni, am aplicat noi măsuri tehnice şi operaţionale pentru a evita probleme similare sau pentru a le depista foarte devreme şi vom continua această activitate”, a declarat OpenAI, potrivit sursei citate.

OpenAI a declarat anterior că revizuirea va dura luni de zile, având în vedere amploarea lucrării, transmite Reuters.

Incidentul Hugging Face rămâne cea mai gravă activitate a unui agent necinstit identificată de OpenAI până în prezent din modelele sale de IA, conform Reuters.