Reuters: Anthropic blochează tentative de creare a armelor biologice

Compania de inteligenţă artificială Anthropic a blocat tentative de utilizare a modelelor sale Claude pentru dezvoltarea de arme biologice şi pentru derularea unei campanii de spionaj cibernetic asociate Rusiei împotriva Ucrainei, potrivit unui raport de analiză a ameninţărilor (Threat Intelligence) publicat de companie şi relatat de agenţia Reuters.

Documentul, care analizează utilizările maliţioase ale tehnologiei din ultimele opt luni, evidenţiază presiunea crescută asupra pionierilor din domeniul inteligenţei artificiale în contextul înmulţirii acţiunilor ilegale derulate prin agenţi autonomi de AI şi al dezbaterilor privind reglementarea sectorului. Avertismentele vin şi din interiorul companiei: doi cercetători ai Anthropic au atras atenţia în cursul acestei săptămâni că progresul rapid al inteligenţei artificiale ar putea conduce la dispariţia rasei umane într-un viitor nu foarte îndepărtat.

Raportul documentează cinci situaţii în care oameni de ştiinţă au folosit modelele Claude pentru a sprijini crearea de arme biologice. Într-unul dintre cazuri, un cercetător dintr-o regiune nesuportată oficial de Anthropic - categorie care include ţări precum Rusia, China şi Coreea de Nord - a utilizat o reţea de servere private virtuale (VPS) pentru a accesa platforma Claude timp de câteva săptămâni, cu scopul de a planifica experimente de adaptare a virusului gripei aviare la mamifere. Compania a blocat conturile implicate şi a integrat datele în filtrele sale de protecţie, fără a dezvălui instituţiile, statele de provenienţă ori agenţii patogeni specifici.

Totodată, raportul identifică noi categorii de entităţi ostile care au utilizat Claude pentru a concepe software dedicat armelor convenţionale, inclusiv arme de foc, rachete, drone înarmate, bombe şi sisteme de ghidare sau control. Operatorii identificaţi provin din China, Rusia şi Yemen şi au apelat la tehnologie pentru proiectarea de armament, culegerea de informaţii şi proceduri de achiziţii. „În urmă cu un an, dacă doreai să optimizezi o dronă sau software-ul unei rachete, modelele pur şi simplu nu erau la fel de performante pentru o astfel de sarcină precum sunt acum”, a declarat Jacob Klein, directorul diviziei de analiză a ameninţărilor din cadrul Anthropic.

Pe zona atacurilor cibernetice, grupurile susţinute de state folosesc sisteme avansate formate din mai mulţi agenţi de inteligenţă artificială (multi-agent frameworks), oamenii având doar un rol de supraveghere. O astfel de reţea, ale cărei metode corespund profilului grupării ruse Midnight Blizzard (asociată de autorităţile americane cu serviciul de spionaj extern SVR), a derulat atacuri de tip phishing, preluarea controlului asupra reţelelor Wi-Fi hoteliere şi deturnarea unor conturi WhatsApp împotriva guvernului, armatei şi corpului diplomatic din Ucraina. Hackerii au integrat AI pentru a crea un sistem care rescrie automat codul maliţios de îndată ce acesta este detectat de programele de securitate, până când reuşeşte să eludeze sistemele de protecţie. Ambasada Rusiei la Washington nu a oferit un răspuns solicitării de comentarii. În plus, Anthropic a identificat şi neutralizat acţiuni asociate afiliaţilor grupării de criminalitate cibernetică ShinyHunters, responsabilă de atacuri la nivel global.

În acelaşi timp, laboratorul de inteligenţă artificială a destructurat atacuri derulate de şapte laboratoare de profil din China, printre care Alibaba, Moonshot, DeepSeek şi Xiaomi. Entităţi afiliate Alibaba au derulat o operaţiune masivă de tip „distilare ilicită” (procedeu prin care ieşirile unui model avansat şi costisitor sunt utilizate pentru antrenarea unor modele mai mici, cu costuri reduse), menită să preia capabilităţile Claude pentru îmbunătăţirea propriilor modele Qwen. Între lunile mai şi iulie 2026, Anthropic a interceptat peste 151 de milioane de interacţiuni atribuite grupului chinez, cu vârfuri de aproape 3 milioane pe zi, derulate prin peste 3.500 de conturi frauduloase. De asemenea, dezvoltatorul Moonshot (creatorul chatbotului Kimi) şi compania DeepSeek au redirecţionat conversaţiile în timp real ale utilizatorilor - care includeau uneori date confidenţiale - prin intermediul Claude, pentru a folosi răspunsurile drept date de antrenare.

Companiile chineze menţionate nu au răspuns solicitărilor de comentarii, în timp ce Ministerul Afacerilor Externe de la Beijing a precizat că nu are cunoştinţă despre raport şi a subliniat că autorităţile promovează dezvoltarea tehnologiei AI exclusiv în scopuri paşnice, respingând acuzaţiile şi denaturarea faptelor.