CNBC: Nvidia, Microsoft şi SpaceX lansează o alianţă pentru siguranţa AI

Nvidia şi o serie de giganţi tehnologici au lansat luni o nouă iniţiativă de siguranţă a inteligenţei artificiale axată pe modele deschise, pe măsură ce continuă consecinţele unui atac cibernetic comis de modele OpenAI necinstite, relatează CNBC.

Săptămâna trecută, a ieşit la iveală că ţinta atacului, startup-ul Hugging Face, nu a putut folosi modele americane de top pentru a se apăra, neexistând bariere de siguranţă care să facă distincţie între agresor şi apărător, precizează CNBC.

În schimb, a apelat la un model chinezesc auto-găzduit, cu ponderare deschisă, care nu era supus aceloraşi restricţii, potrivit CNBC.

În urma analizei tot mai accentuate a modului în care legislatorii americani pot limita adoptarea tot mai mare a modelelor chinezeşti de inteligenţă artificială, dintre care cele mai avansate sunt cele de tip open-weight, giganţii tehnologici au lansat o iniţiativă care vizează construirea şi partajarea instrumentelor de inteligenţă artificială deschise, informează CNBC.

Modelele deschise pot fi descărcate, modificate şi auto-găzduite, spre deosebire de modelele închise, inclusiv sistemele de frontieră construite de Anthropic şi OpenAI, care pot fi accesate doar printr-o infrastructură specifică, transmite CNBC.

„Open Secure AI Alliance va lucra pentru a remedia şi dezvălui vulnerabilităţile folosind tehnologii deschise. Recentul incident de securitate Hugging Face a adus o reamintire clară: apărătorii cibernetici au nevoie de sisteme agenţice deschise, de frontieră, pentru autoapărare”, a declarat Nvidia într-un comunicat, potrivit CNBC.

Alături de Nvidia, alţi membri ai alianţei includ Microsoft, SpaceX, Palantir şi zeci de alte companii de tehnologie din SUA şi Europa, informează CNBC.

Există tot mai multe apeluri pentru măsuri de limitare a accesului la modelele construite de companiile chineze de inteligenţă artificială, care au fost acuzate de campanii de extragere a informaţiilor din sistemele rivalilor americani, cunoscute sub numele de „distilare”, atunci când un model extrage cunoştinţe dintr-un model mai bine antrenat, relatează CNBC.

Săptămâna trecută, secretarul Trezoreriei, Scott Bessent, a ameninţat cu sancţiuni asupra companiilor chineze care comit atacuri de distilare împotriva companiilor americane, potrivit sursei citate.

„Există o posibilitate reală ca guvernul SUA să impună restricţii asupra modelelor chinezeşti”, a declarat pentru CNBC Chris McGuire, cercetător senior pentru China şi tehnologii emergente la think tank-ul Council on Foreign Relations.

Aceasta ar putea include interzicerea tranzacţiilor care implică modelele, cum ar fi achiziţionarea de token-uri prin intermediul unei API sau găzduirea modelului în cloud de către companii americane şi taxarea clienţilor pentru inferenţă, a spus el, conform sursei citate.

„La Washington, aceasta nu este o dezbatere despre open-source versus closed-source, ci o dezbatere despre tolerarea sau nu a furtului de proprietate intelectuală chineză. Orice acţiune s-ar concentra pe companiile chineze, nu pe ecosistemul open-source.”, a spus McGuire, potrivit sursei.

Însă, având în vedere că majoritatea celor mai performante modele open-source sunt construite de companii chineze, există îngrijorări cu privire la restricţii, precizează CNBC.

Săptămâna trecută, Nvidia, Microsoft, Meta, Palantir şi peste 20 de alte companii au publicat o scrisoare prin care îndeamnă factorii de decizie să evite „restricţiile premature” asupra modelelor de inteligenţă artificială cu greutate deschisă, care ar „înăbuşi concurenţa sau ar stimula inovaţia în străinătate”, transmite CNBC.

Incidentul OpenAI-Hugging Face a arătat un „adevăr practic.”, a declarat Nvidia, conform sursei. „Atunci când apărătorii nu pot inspecta, adapta şi rula inteligenţă artificială avansată pe propria infrastructură, capacitatea lor de răspuns este limitată exact în momentul în care viteza contează cel mai mult.”, a mai declarat Nvidia, potrivit sursei citate.