The Guardian: OpenAI avertizează asupra ameninţării unor atacuri cibernetice

Chris Lehane, directorul de afaceri globale al OpenAI, a declarat că oamenii ar trebui să se pregătească să se apere împotriva atacurilor cibernetice „continue şi persistente” din partea inteligenţei artificiale, pe măsură ce modelele de inteligenţă artificială de ultimă generaţie dobândesc capacităţi avansate de planificare şi lansare a ofensivelor, relatează The Guardian.

OpenAI a anunţat săptămâna aceasta o pauză în dezvoltarea celor mai avansate modele interne ale sale, pe fondul temerilor crescânde legate de siguranţă, transmite The Guardian.

„Ajungem la un capitol diferit, la un moment diferit în cadrul inteligenţei artificiale, în ceea ce priveşte capacităţile acestei tehnologii.”, a declarat Chris Lehane, directorul de afaceri globale al OpenAI, potrivit sursei citate.

El a vorbit cu The Guardian după ce agenţi de inteligenţă artificială de ultimă generaţie, aflaţi în formare, au evadat pe neaşteptate dintr-un mediu presupus securizat, de tip „sandbox”, au accesat internetul şi au spart o altă companie, Hugging Face, la sfârşitul lunii iulie, precizează sursa citată. OpenAI a mai spus că nu poate exclude un alt model nou, Astra, care are „capacitate critică de securitate cibernetică”, potrivit sursei.

Conform propriei definiţii, aceasta ar putea însemna că lansează atacuri cibernetice care „ar putea duce la catastrofă din partea unor actori unilaterali, piratarea sistemelor militare sau industriale sau a infrastructurii OpenAI”, informează The Guardian.

OpenAI a anunţat marţi că a întrerupt antrenamentul unor modele de inteligenţă artificială de frontieră pentru a implementa noi măsuri de siguranţă şi nu este clar când va relua antrenamentul după ce vor fi implementate noi măsuri de siguranţă, relatează The Guardian.

„Suntem foarte departe de a reveni la normal.”, a declarat Mia Glaese, care conduce activitatea de siguranţă şi aliniere, potrivit sursei citate. „Siguranţa IA este mai importantă decât impulsul oricărei companii.”, a declarat Sam Altman, CEO-ul OpenAI, conform aceleiaşi surse.

Lehane a recunoscut că oamenii nu s-ar „simţi bine” în faţa ameninţării atacurilor şi a descris riscul ca provenind din modelele open-source, multe dintre ele fiind dezvoltate în China, care sunt la doar câteva luni în urma modelelor închise de frontieră construite de companii precum OpenAI, informează The Guardian.

„Oamenii vor putea accesa aceste modele open-source şi vor putea fi atacaţi în mod continuu şi persistent, iar tu va trebui să ai modele cu adevărat superioare pentru a le respinge şi a te apăra. Acest lucru nu va face neapărat publicul să se simtă bine în legătură cu lucrurile. Este pur şi simplu realitatea direcţiei în care ne îndreptăm”, a spus el, conform sursei menţionate.

Ameninţarea atacurilor cibernetice care afectează negativ întreprinderile, infrastructura şi publicul larg a ajuns rapid în fruntea listei de preocupări urgente legate de inteligenţa artificială, adaugă The Guardian. Săptămâna aceasta, Centrul Naţional pentru Securitate Cibernetică al guvernului britanic a îndemnat la prudenţă în ceea ce priveşte utilizarea agenţilor de inteligenţă artificială, avertizând că controalele lor de siguranţă pot fi ocolite şi că un agent de inteligenţă artificială „nu are bun simţ”, mai adaugă The Guardian. Acesta a sfătuit organizaţiile să îşi limiteze autonomia, transmite sursa citată. „Ar trebui să puteţi oricând să „scoateţi din priză” şi să opriţi imediat activitatea agenţilor de inteligenţă artificială autonomi.”, a spus acesta, conform sursei menţionate.

Lehane a reînnoit apelurile către guvernul SUA de a legifera pentru a crea reguli pentru siguranţa IA la frontieră şi a spus că faptul că cele mai avansate şi nelansate modele de IA par să îmbunătăţească ofensiva cibernetică mai rapid decât apărarea este „printre motivele pentru care cred că este absolut imperativ ca această ţară să adopte o lege naţională care să creeze standarde de siguranţă obligatorii, iar în cadrul acesteia elementul de pauză ar fi inerent şi endemic acestui proces”, informează The Guardian.

„Nu aţi putea lansa sau implementa modele decât dacă demonstraţi şi garantaţi un anumit nivel de siguranţă înainte ca acestea să fie făcute publice”, a sugerat el, potrivit sursei. „Cred că trebuie să aveţi o versiune naţională aici, în SUA, iar de acolo să puteţi crea o versiune internaţională, pentru că, în cele din urmă, cred că veţi avea nevoie de un anumit tip de structură internaţională.”, a mai spus acesta, conform sursei citate.

„Având în vedere cât de importantă este această tehnologie, având în vedere cât de repede se dezvoltă, având în vedere capacităţile sale, cu cât încep mai repede aceste conversaţii, cu atât mai repede ne putem sufleca mânecile şi ne putem apuca de munca grea şi dificilă şi putem vedea dacă putem găsi o soluţie”, a spus Lehane, potrivit aceleiaşi surse.

Incidentul Hugging Face şi cazuri similare recente recunoscute de alte companii de inteligenţă artificială au stârnit tot mai multe afirmaţii din partea experţilor în siguranţă, conform cărora companiile de inteligenţă artificială s-au comportat imprudent în cursa lor pentru a câştiga cursa inteligenţei artificiale şi, în cazul OpenAI şi Anthropic, în pregătirea de a lista acţiuni la bursă, transmite The Guardian.

Daniel Kokotajlo, un fost cercetător OpenAI care a demisionat în 2024 şi a fondat anul trecut o organizaţie non-profit care a avertizat că progresul necontrolat al inteligenţei artificiale va duce la o probabilitate de dispariţie a omenirii de 10-30%, a declarat că liderii laboratoarelor de frontieră „au încolţit lumea”, precizează The Guardian.

Organizaţia sa, AI Futures Project, prezice că super-inteligenţa IA ar putea fi atinsă până în 2030, dar solicită guvernelor să împiedice acest lucru până peste un deceniu, pentru a le oferi oamenilor de ştiinţă din domeniul IA timp să ia în considerare riscurile aferente progresului capacităţilor, transmite The Guardian.

„IA-urile actuale sunt periculoase într-un anumit sens, dar nu sunt nimic în comparaţie cu IA-urile de anul viitor şi în comparaţie cu IA-urile de peste un an”, a declarat el pentru The Guardian. Organizaţia sa doreşte ca guvernele americane şi internaţionale să amâne progresele pentru a evita o „explozie necontrolată a serviciilor de informaţii”, ale cărei cele mai grave rezultate ar putea fi „o catastrofă existenţială determinată de IA ” cauzată, de exemplu, de preluarea controlului de către IA asupra activelor militare sau a armelor biologice, relatează The Guardian.

Kokotajlo a spus că este atât de îngrijorat de riscuri încât amână să aibă mai mulţi copii până când se va lua o pauză în cercetarea de frontieră în domeniul inteligenţei artificiale, adaugă The Guardian.

„Nimeni nu ar trebui să construiască sisteme de inteligenţă artificială mai puternice, pentru că nu ştim cum să le controlăm, să le aliniem şi să ne uităm în interior şi să vedem ce gândesc suficient de bine.”, a declarat David Krueger, profesor de inteligenţă artificială, activist pentru siguranţă şi fost director fondator al Institutului de Securitate a Inteligenţei Artificiale (IA) al guvernului britanic, potrivit sursei citate.

El a numit atitudinea companiilor de inteligenţă artificială faţă de siguranţă „teribilă” şi „de neconceput”, conform The Guardian. „Sunt foarte nesăbuiţi şi îşi iau din ce în ce mai mult mâinile de pe volan. Tocmai am văzut ce se întâmplă când faci asta.”, a spus el, conform sursei menţionate.

„Acesta este cel mai important lucru la care ne gândim şi facem atunci când dezvoltăm. Cred că faptul că am pus capăt acestor lucruri vorbeşte de la sine.”, a răspuns Lehane, potrivit The Guardian.