Euronews: Inteligenţa artificială Mythos a Anthropic descoperă falii în sistemele secrete ale Statelor Unite

Modelul de inteligenţă artificială Mythos, dezvoltat de compania Anthropic, a permis detectarea unor falii informatice în sisteme extrem de sensibile ale Guvernului american în timpul unui exerciţiu de testare, declară un oficial de la Washington, relatează Euronews.

Sistemul a descoperit sute de vulnerabilităţi în doar câteva ore, însă nu a putut să le şi exploateze în acest interval de timp, potrivit sursei citate.

Testele au fost efectuate în cadrul unei iniţiative a Anthropic numită Project Glasswing, care reuneşte întreprinderi tehnologice cu scopul de a proteja programele informatice critice de consecinţele grave pe care modelele avansate de AI le pot reprezenta la adresa securităţii naţionale şi economiei, conform Euronews.

Senatorul democrat Mark Warner a evocat succint aceste teste în cadrul unei audieri în Congres, citând date de la directorul National Security Agency (NSA) şi Comandamentul Cibernetic american, generalul Joshua Rudd: „Acest instrument a penetrat aproape toate sistemele noastre clasificate, nu în săptămâni, ci în câteva ore”, informează sursa citată.

În pofida acestei colaborări, tensiunile au crescut între firma californiană şi administraţia Trump. Anthropic şi-a exprimat îngrijorarea faţă de utilizarea tehnologiei sale de către armata americană, în timp ce autorităţile au declanşat demersuri pentru a restrânge folosirea anumitor modele, notează Euronews.

Recent, administraţia a emis o directivă prin care ordona Anthropic să împiedice cetăţenii străini să folosească modelele cele mai recente, Fable 5 şi Mythos 5. Această măsură a intervenit la scurt timp după ce preşedintele Donald Trump a semnat un decret ce stabileşte un cadru de examinare federală a riscurilor AI înainte de lansarea publică. Anthropic a dezactivat aceste modele pentru toţi clienţii săi pentru a se conforma textului, deşi consideră decizia guvernamentală ca fiind nejustificată de nivelul real de risc, potrivit sursei menţionate.

Peste 100 de experţi în securitate cibernetică şi şefi de companii, inclusiv de la Adobe şi Nvidia, au cerut Executivului american să ridice restricţiile. Semnatarii avertizează că măsura ar putea avantaja adversarii geopolitici ai Statelor Unite, privând companiile americane de cele mai bune instrumente de audit defensiv în timp ce alte state progresează rapid în domeniu, mai adaugă Euronews.