CNBC: Distilarea modelelor AI provoacă dispute între companii şi autorităţile americane

Coordonatorul activităţilor de inteligenţă artificială ale Google, Jeff Dean, a discutat într-un podcast despre distilare, un concept aproape necunoscut în afara cercurilor specializate, informează CNBC.

Specialistul a explicat că el şi colegii săi au descoperit tehnici de distilare deoarece compania încerca să îmbunătăţească performanţele sistemelor fără să depindă de un singur model de mari dimensiuni, conform agenţiei de presă.

„Prin distilare, care este o tehnică esenţială pentru creşterea capacităţii modelelor mai mici, trebuie să ai mai întâi modelul de frontieră, pentru ca apoi să îi transferi cunoştinţele către modelul mai mic”, a declarat Jeff Dean, coordonatorul activităţilor de inteligenţă artificială ale Google.

Tehnica a devenit un subiect intens dezbătut în timp ce specialiştii din tehnologie şi legislatorii analizează dacă această practică se transformă într-o ameninţare la adresa securităţii naţionale, transmite sursa citată.

Îngrijorările s-au amplificat după ce laboratorul chinez Moonshot AI a lansat un model care poate concura cu unele dintre cele mai performante sisteme americane, notează publicaţia.

Unii oficiali americani atribuie progresul rapid al laboratorului utilizării distilării, pe care o descriu drept un furt de proprietate intelectuală, conform agenţiei de presă.

„Avem informaţii potrivit cărora Moonshot AI a distilat modelul Fable al Anthropic pentru dezvoltarea modelului său K3. Pentru a face acest lucru, compania a dezvoltat o platformă internă sofisticată, capabilă să realizeze distilarea la scară largă a modelelor americane, permiţându-i să schimbe rapid metodele de acces pentru a evita detectarea”, a scris Michael Kratsios, consilier al Casei Albe.

În termeni generali, distilarea presupune folosirea răspunsurilor oferite de un chatbot sau a rezultatelor produse de un model avansat pentru antrenarea altui sistem, transmite sursa citată.

„Este ca şi cum un elev ar fi participat la cursuri, ar fi citit manualul şi ar fi depus tot efortul necesar pentru a-şi face temele. Acest proces reprezintă un efort considerabil”, a declarat Pukar Hamal, fondatorul companiei SecurityPal.

„Apoi vine un alt elev şi spune: «Eu nu am făcut toate acestea. Pot pur şi simplu să îţi copiez lucrarea?»”, a adăugat Pukar Hamal, fondatorul companiei SecurityPal.

Companiile Nvidia, Microsoft, Meta şi Palantir au cerut autorităţilor să evite restricţiile premature asupra modelelor cu parametri deschişi, notează publicaţia.

Extinderea utilizării distilării creează o dilemă pentru autorităţile americane, preocupate de mult timp de tehnologia chineză, conform agenţiei de presă.

Cercetătorul Colin Shea-Blymyer a declarat că guvernul american încearcă încă să îşi definească poziţia faţă de acest fenomen, transmite sursa citată.

Directorul general al companiei Box, Aaron Levie, a afirmat că firmele americane trebuie să poată utiliza cele mai bune tehnologii disponibile pentru a rămâne competitive, notează publicaţia.

„În general, cu care există mai multă inovare, indiferent dacă aceasta provine din Statele Unite, China sau din altă parte, cu atât progresul inteligenţei artificiale va fi mai rapid, iar costurile vor tinde să scadă şi eficienţa să crească în timp”, a declarat Aaron Levie, directorul general al companiei Box.

Numeroase organizaţii au folosit distilarea pentru dezvoltarea propriilor sisteme comerciale, conform agenţiei de presă.

„Este o tehnică legitimă şi extrem de valoroasă, care permite antrenarea unui model mai mic şi mai ieftin folosind rezultatele unui model mai mare, iar această practică este utilizată permanent”, a declarat Shashi Bellamkonda, director de cercetare în cadrul Info-Tech Research Group.

Compania Anthropic are o poziţie diferită şi încearcă să îşi protejeze afacerea aflată în expansiune, transmite sursa citată.

Reprezentanţii firmei afirmă că oprirea distilării ilegale reprezintă o problemă de securitate naţională, notează publicaţia.

„Anthropic şi alte companii americane dezvoltă sisteme care împiedică actori statali şi nestatali să folosească inteligenţa artificială, de exemplu, pentru dezvoltarea armelor biologice sau desfăşurarea unor activităţi cibernetice rău intenţionate. Oprirea acestor practici necesită acţiuni rapide şi coordonate între companiile din industrie, autorităţi şi comunitatea globală din domeniul inteligenţei artificiale”, a transmis compania Anthropic.

Companiile OpenAI şi Anthropic interzic în mod explicit distilarea prin condiţiile de utilizare, conform agenţiei de presă.

În condiţiile în care costurile cresc puternic, companiile vor încerca să folosească orice soluţie disponibilă pentru îmbunătăţirea eficienţei, transmite sursa citată.

„Ne-am asigura că nu există portiţe ascunse sau componente periculoase în cod. Dar, după ce realizăm o evaluare, de ce să nu îl găzduim pe propria noastră infrastructură?”, a declarat Pukar Hamal, fondatorul companiei SecurityPal.

Ambele mari companii americane au folosit la rândul lor conţinut provenit din alte surse şi se confruntă cu litigii, notează publicaţia.

„Administraţia s-a concentrat, cel puţin la nivel public, asupra protejării proprietăţii intelectuale a companiilor tehnologice, dar a rămas în mare parte tăcută în privinţa proprietăţii intelectuale a creatorilor şi persoanelor fizice, care au fost utilizate fără autorizaţie”, a declarat Max Pritt, avocat în cadrul firmei Boies Schiller Flexner.