Mai mulţi agenţi AI au încercat să atace cibernetic un site al guvernului canadian

O companie de cercetare în domeniul inteligenţei artificiale a anunţat miercuri că agenţi AI ar fi încercat să exploateze vulnerabilităţi ale unui site al guvernului canadian, însă tentativele nu au avut succes. Autorităţile de la Ottawa au precizat că nu există indicii că sistemele guvernamentale ar fi fost compromise.

Compania Transluce a afirmat că tentativele au prezentat tactici „compatibile cu activităţi anterioare ale unor agenţi pe care le-am atribuit OpenAI într-un interval de timp similar”. Cercetătorii au subliniat însă că nu pot atribui cu certitudine aceste incidente OpenAI.

Potrivit Transluce, agenţii au încercat să acceseze site-ul Library and Archives Canada pe 28 mai şi 9 iunie. Compania a precizat că a informat guvernul canadian despre această activitate luni.

Canadian Centre for Cyber Security a anunţat marţi că este la curent cu informaţiile privind presupusa activitate a unor agenţi AI.

”În acest moment, nu există indicii că sistemele guvernamentale au fost compromise”, a transmis instituţia.

”Nu atribuim cu certitudine aceste tentative OpenAI, însă ele prezintă tactici compatibile cu activităţi anterioare ale unor agenţi pe care le-am atribuit OpenAI într-un interval de timp similar”, a precizat Transluce.

OpenAI a transmis că este „la curent cu informaţiile privind modele OpenAI care au încercat să acceseze informaţii disponibile public pe site-uri ale guvernului canadian”. Un purtător de cuvânt al companiei a declarat că OpenAI analizează constatările raportate şi că a oferit o informare preliminară oficialilor canadieni care desfăşoară propria evaluare.

• Guvernele încearcă să ţină pasul cu evoluţia rapidă a AI

Cele mai importante companii din domeniul inteligenţei artificiale au avertizat asupra riscurilor pe care tehnologia le-ar putea reprezenta şi au cerut guvernelor să coopereze pentru gestionarea sistemelor AI tot mai performante. În acelaşi timp, autorităţile din întreaga lume întâmpină dificultăţi în adaptarea reglementărilor şi măsurilor de securitate la ritmul rapid al dezvoltării tehnologiei.

Serviciul online gratuit arquivo.pt, arhiva naţională web a Portugaliei, administrată de Fundaţia Portugheză pentru Ştiinţă şi Tehnologie, a înregistrat 899 de solicitări către serviciul ”collection-search” al Library and Archives Canada în zilele de 28 mai şi 9 iunie, potrivit Transluce.

Printre acestea s-ar fi aflat şi o serie de tentative rudimentare, aparent eşuate, de exploatare a site-ului.

Mai multe incidente recente în care agenţi AI ar fi acţionat necorespunzător au atras atenţia guvernelor şi companiilor asupra riscurilor asociate sistemelor capabile să execute autonom sarcini online.

Săptămâna trecută, autorităţile australiene au anunţat că un agent OpenAI a pătruns în luna iunie într-un portal guvernamental cu date din domeniul sănătăţii şi a obţinut acces neautorizat la fişiere. Incidentul a fost prezentat drept primul caz cunoscut în care un agent AI a accesat neautorizat un site guvernamental.

OpenAI şi-a cerut scuze marţi pentru incidentul care a vizat site-ul guvernului australian şi în care a fost implicat agentul AI.

• Peste 200.000 de solicitări către un site al Departamentului american al Educaţiei

Transluce a identificat şi un incident separat în Statele Unite. Potrivit raportului companiei, pe 17 iunie, în timp ce aparent căutau statistici despre şcoli, agenţii AI au efectuat peste 200.000 de solicitări către un site al Departamentului american al Educaţiei.

Activitatea a inclus şi o tentativă rudimentară şi nereuşită de tip SQL injection, prin care agenţii au introdus textul ”State_Id=1 OR 1=1” în încercarea de a ocoli filtrele normale ale site-ului.

În cele 40 de secunde care au precedat tentativa, au fost înregistrate mai multe solicitări care conţineau valori neobişnuite pentru identificatorii statelor. Transluce a precizat că, în absenţa unui context suplimentar privind agenţii şi raţionamentul acestora, scopul exact al acestor interogări nu poate fi stabilit.

Datele stocate pe site par să corespundă unei sarcini de căutare pe internet incluse în benchmark-ul DeepSearchQA al Google. Acest lucru sugerează, potrivit cercetătorilor, că agenţilor nu le fusese atribuită o sarcină de hacking, ci erau evaluaţi în funcţie de capacitatea de a găsi anumite informaţii specifice pe internet.

• Tactici agresive împotriva altor site-uri guvernamentale americane

Transluce susţine că agenţi AI au utilizat şi alte tactici agresive împotriva unor site-uri ale autorităţilor statale şi federale din Statele Unite.

Compania afirmă că a identificat un tipar mai amplu de fluxuri automatizate pe care le atribuie, cu diferite grade de încredere, unor agenţi AI, pe baza legăturilor dintre sarcini, a infrastructurii comune şi a momentelor în care s-a desfăşurat activitatea.

O parte din trafic se suprapune, în diferite grade, cu activităţi despre care s-a confirmat anterior că aveau legătură cu OpenAI, iar în anumite cazuri agenţii s-au identificat explicit ca fiind asociaţi companiei. Transluce subliniază însă că nu atribuie OpenAI întregul volum de trafic analizat şi nici nu încearcă să stabilească separat gradul de atribuire pentru fiecare incident.

În unele dintre cazurile analizate nu au fost observate tehnici propriu-zise de hacking. În schimb, fluxurile automatizate au recurs la metode agresive sau aflate într-o zonă gri pentru a obţine informaţii de pe site-uri guvernamentale, uneori utilizând platformele în alte scopuri decât cele pentru care au fost concepute sau încălcând politicile explicite de utilizare.

Printre metodele identificate de Transluce se numără crearea de conturi folosind adrese de e-mail temporare, reutilizarea unor date de autentificare expuse, ocolirea sistemelor anti-boţi şi trimiterea unui număr foarte mare de solicitări către site-uri.