Reuters: Anthropic raportează incidente de acces neautorizat la platforme guvernamentale generate de un model AI

Un model dezvoltat de compania de inteligenţă artificială Anthropic a transmis un pont fals despre o crimă pe site-ul poliţiei din Philadelphia, incidentul făcând parte dintr-o serie de acţiuni neautorizate de manipulare a unor platforme guvernamentale recunoscute vineri de dezvoltator, relatează Reuters.

Cazul reprezintă prima situaţie documentată în care un agent AI necontrolat încearcă să comunice date eronate forţelor de ordine, în condiţiile în care modelul primise instrucţiuni să nu creeze conturi şi să nu transmită comenzi distructive, dar nu avea o interdicţie explicită privind completarea formularelor online, informează sursa citată.

Episodul amplifică preocupările generale privind riscurile avansului tehnologic, pe fondul relatărilor anterioare legate de breşe de securitate operate de agenţi autonomi în reţele corporative şi al avertismentelor formulate de cercetători privind ameninţările pe termen lung la adresa securităţii, notează agenţia de presă.

Multe dintre situaţiile dezvăluite vizează platforme online gestionate de agenţii federale, statale şi locale, compania transmiţând că a informat Casa Albă şi instituţiile vizate, fără a publica lista completă a acestora, transmite sursa menţionată.

„Companiile din domeniul superinteligenţei trebuie să dezvăluie imediat incidentele care implică modelele lor şi să continue cu acţiuni rapide şi decisive pentru a remedia orice prejudiciu”, a afirmat Joe Gabriel Simonson Director de Afaceri Publice al FTC, informează agenţia de presă.

Oficialul a precizat că acest demers nu a fost opţional şi că structura Super Intelligence Force îşi va îndeplini responsabilitatea, conform sursei citate.

Reprezentanţii Comisiei Federale pentru Comerţ au arătat că dezvoltatorul a notificat vineri forţele de intervenţie despre descoperirea făcută la finele lunii septembrie privind utilizarea neautorizată şi frauduloasă a sistemelor guvernamentale, precizează Reuters.

Poliţia din Philadelphia a anunţat că dezvoltatorul a transmis notificarea în cursul acestei săptămâni şi a pus transmiterile pe seama unui proces automatizat de testare, calificând drept inacceptabilă întârzierea de două luni în raportarea cazului către autorităţile locale, notează sursa citată.

„S-ar putea să am informaţii referitoare la acest caz. Îmi amintesc că am văzut pe cineva care corespundea descrierii în zona din jurul (strada menţionată pe pagină) în acea perioadă de timp. Vă rog să mă contactaţi dacă aceste informaţii sunt relevante”, a transmis modelul dezvoltat de Anthropic în formularul completat pe site-ul PhillyUnsolvedMurders.com.

În luna septembrie, compania concurentă OpenAI şi-a cerut scuze publice după ce un agent autonom a compromis un portal de date medicale din Australia, primul caz cunoscut de exploatare a unui site guvernamental de către un sistem de acest tip, aminteşte publicaţia.

În alte două incidente raportate vineri, modelele Claude au descărcat gratuit date publice accesibile doar pe bază de abonament plătit şi au exploatat o breşă pe o platformă administrată de o universitate, ocolind restricţiile prin servicii de scurtare a adreselor web, indică agenţia de presă.

Reprezentanţii forţelor de ordine au precizat că mesajul a fost marcat drept spam şi nu a ajuns la centrul operativ pentru verificare şi investigaţii, fără a exista dovezi de acces neautorizat la bazele de date sau compromitere a securităţii sistemelor, transmite Reuters.