Reuters: Anthropic avertizează că modelele de IA s-ar putea autoreplica fără acces la centre de date

Anthropic a declarat că experimentele sale sugerează că modelele mici de inteligenţă artificială ar putea fi la câteva luni distanţă să fie suficient de capabile pentru a se autoreplica pe dispozitive comerciale de internet al obiectelor (IoT), cum ar fi cuptoarele inteligente şi televizoarele Android de alte mărci, transmite Reuters.

În experimentele sale, Anthropic a analizat dacă modelele de inteligenţă artificială pot găsi dispozitive vulnerabile, se pot copia în acele dispozitive şi pot continua să se răspândească fără ajutor uman, informează Reuters.

S-a constatat că modele mici, sub 30 de miliarde de parametri, ar putea parcurge numeroşii paşi necesari pentru replicare, precizează Reuters. Cu toate acestea, firma a constatat că astfel de modele de inteligenţă artificială au avut dificultăţi şi în a finaliza întreaga secvenţă de la început până la sfârşit, potrivit sursei citate. În testele sale simplificate, în care au fost eliminate anumite măsuri de securitate, Anthropic a constatat că GLM-5.2 şi modelele mai ulterioare erau capabile de replicare end-to-end, conform sursei menţionate.

Replicarea modelelor ar fi greu de oprit, deoarece nu există un punct central de oprire şi, spre deosebire de programele malware non-AI, acestea ar putea, de asemenea, să identifice singure dispozitive nefamiliare, vizând procesoarele centrelor de date, a avertizat Anthropic, potrivit Reuters.

Firma s-a concentrat în cercetarea sa pe dispozitive IoT precum televizoarele Android, electrocasnicele inteligente şi alte gadgeturi conectate la internet, deoarece acestea sunt de obicei slab securizate, transmite Reuters.

Compania a avertizat, de asemenea, că, dacă modelele mici se îmbunătăţesc la ritmul lor istoric, acestea vor putea să se reproducă autonom până la sfârşitul acestui an, iar replicatoarele mici, bazate pe greutate, vor urma exemplul la scurt timp după aceea, relatează Reuters.

Anthropic a mai spus că astfel de sisteme autonome de inteligenţă artificială se vor replica probabil lent şi se vor baza pe resurse de calcul disponibile pe scară largă, relativ nesigure, transmite sursa citată. A adăugat că sistemele ar trebui consolidate pentru a îngreuna răspândirea acestor agenţi de inteligenţă artificială, potrivit Reuters.