Reuters: Anthropic - modelele AI mici ar putea ajunge la auto-replicare pe dispozitive conectate la internet în câteva luni

Anthropic a declarat luni că modelele AI mici ar putea fi la câteva luni distanţă de auto-replicare pe dispozitive conectate la internet, ceea ce ridică posibilitatea ca botnet-uri AI să se răspândească rapid, să lupte împotriva încercărilor de eliminare şi chiar să intre în centre de date pentru a-şi accelera creşterea, potrivit Reuters. Luna trecută, CEO-ul Anthropic, Dario Amodei, a lansat prima dată ideea că, în următorul an sau chiar mai devreme, AI-ul ar putea deturna „întregul internet" cu „un botnet persistent", un avertisment care a stârnit reacţii în comunitatea de securitate cibernetică, conform aceleiaşi surse.

Botnet-urile - reţele vaste de dispozitive controlate de operatori răuvoitori - există de la începuturile internetului şi încă sunt prezente, potrivit Reuters. Reţeaua include de obicei dispozitive IoT slab securizate, precum cutii Android TV, aparate inteligente şi camere de securitate, şi este folosită de hackeri pentru a trimite spam, a răspândi malware sau a sabota companii ţintă folosind valuri de trafic fals, conform aceleiaşi surse. Postarea de luni a Anthropic pe blog pare a fi primul demers de a articula modul în care s-ar putea întâmpla acest lucru, potrivit Reuters.

Compania a declarat că experimentele sale au arătat că un agent AI răuvoitor ar putea combina puterea de calcul a dispozitivelor ieftine conectate la internet pentru a rula alte modele AI, potrivit Reuters. Ea a adăugat că modelele au fost capabile să se replice pe o reţea de test simplificată, conform aceleiaşi surse. „Un replicator ca acesta ar fi dificil de oprit, deoarece nu există un punct central de oprire", a declarat compania, potrivit Reuters.

Raportul alimentează îngrijorările mai largi legate de riscurile de securitate asociate sistemelor AI din ce în ce mai capabile, inclusiv potenţialul lor de a automatiza atacuri cibernetice, de a opera cu supraveghere umană limitată şi de a ocoli măsurile de protecţie, conform Reuters. Progresele înregistrate de modele au determinat o serie de avertismente adesea sumbre din partea şefilor din industrie şi a angajaţilor companiilor de AI cu privire la posibilitatea unor riscuri severe, chiar existenţiale, ale dezvoltării AI scăpate de sub control, potrivit aceleiaşi surse.

Anthropic a declarat că experimentele sale au arătat că modelele cu 30 de miliarde de parametri sau mai puţin pot deja îndeplini multe dintre sarcinile individuale necesare auto-replicării, deşi le este greu să finalizeze întregul proces în mod fiabil, conform Reuters. În testele sale simplificate, în care unii paşi de securitate au fost eliminaţi, Anthropic a constatat că GLM-5.2 şi modele mai puternice au fost capabile de replicare completă, potrivit aceleiaşi surse.

Anthropic a declarat că, dacă modelele mai mici continuă să se îmbunătăţească la ritmul lor istoric, ar putea atinge capacitatea necesară pentru replicare autonomă până la sfârşitul anului 2026, conform Reuters. Un vierme AI care rulează pe hardware de putere redusă ar putea avea nevoie de zile pentru a finaliza părţi ale procesului de replicare, a declarat Anthropic, potrivit aceleiaşi surse. Ea a adăugat că o astfel de reţea ar putea continua să crească, mai lent decât unele programe malware convenţionale, dacă dispozitivele compromise infectează suficiente maşini suplimentare, conform Reuters.

Anthropic a avertizat, de asemenea, că sistemele viitoare ar putea viza resurse de calcul mai puternice, inclusiv procesoare din centre de date, deşi experimentele sale nu au demonstrat replicarea autonomă prin centre de date comerciale, potrivit Reuters.