Anthropic propune o „pedală de frână” pentru inteligenţa artificială

Compania americană Anthropic, unul dintre principalii dezvoltatori de inteligenţă artificială generativă, a propus crearea unui mecanism internaţional care să permită marilor jucători din industrie să încetinească sau chiar să suspende temporar dezvoltarea celor mai avansate sisteme AI, pentru a oferi societăţii timpul necesar adaptării la schimbările tehnologice, relatează AFP. Iniţiativa vine într-un moment în care competiţia dintre companii precum OpenAI, Google, Anthropic şi grupul chinez DeepSeek este alimentată de investiţii de ordinul zecilor de miliarde de dolari şi de preocupări crescânde privind siguranţa şi controlul acestor sisteme.

• Riscul unei „pierderi a controlului”

Într-un document publicat de Institutul Anthropic, think tank-ul companiei, dezvoltatorul modelelor Claude susţine că ar fi benefic ca industria să dispună de mecanisme capabile să încetinească progresul tehnologic atunci când cercetarea privind siguranţa şi capacitatea societăţii de adaptare nu mai ţin pasul cu ritmul inovaţiei. Compania invocă inclusiv riscul unei „pierderi a controlului” asupra sistemelor de inteligenţă artificială, avertizând că, în lipsa unei coordonări globale, firmele şi guvernele ar putea fi obligate să ia decizii sensibile sub presiunea competiţiei economice şi a rivalităţilor geopolitice.

• Model inspirat din tratatele de control al armamentului

Potrivit Anthropic, un precedent util îl reprezintă Tratatul privind Forţele Nucleare cu Rază Intermediară (INF), care a instituit mecanisme de verificare şi limitare a armamentului nuclear. Compania avertizează însă că inteligenţa artificială este mult mai dificil de monitorizat decât infrastructurile militare clasice, deoarece modelele software pot fi dezvoltate şi ascunse mult mai uşor decât silozurile de rachete.

• „Sectorul AI are acceleraţie, dar nu şi frână”

Într-un interviu acordat BBC, cofondatorul Anthropic, Jack Clark, a comparat actuala etapă a dezvoltării inteligenţei artificiale cu boom-ul industriei petroliere de la începutul secolului XX, perioadă în care apariţia reglementărilor a contribuit la consolidarea încrederii publice. „În acest moment, este ca şi cum sectorul AI ar avea o pedală de acceleraţie, dar nu şi o pedală de frână”, a avertizat acesta.

• Demers dificil de acceptat în contextul rivalităţii cu China

Potrivit AFP, ideea unei încetiniri voluntare a dezvoltării inteligenţei artificiale ar putea întâmpina o opoziţie puternică în Statele Unite, unde numeroşi lideri din industrie consideră că o astfel de măsură ar putea oferi Chinei un avantaj strategic.

În acest context, preşedintele Donald Trump a declarat recent că a discutat cu autorităţile chineze despre posibilitatea unei cooperări în domeniul securităţii inteligenţei artificiale. Totodată, liderul de la Casa Albă a semnat un ordin executiv care permite monitorizarea celor mai avansate modele AI în numele securităţii cibernetice, însă participarea companiilor la acest mecanism rămâne voluntară.

• Acuzaţii de „marketing al fricii”

Fondată de foşti cercetători OpenAI, Anthropic şi-a construit imaginea în jurul conceptelor de siguranţă şi etică în domeniul inteligenţei artificiale. Totuşi, compania a fost criticată de o parte a industriei şi de oficiali americani, care o acuză că exagerează pericolele asociate AI şi că practică un veritabil „marketing al fricii”. În ultimele luni, compania a amânat lansarea modelului său cel mai avansat, Mythos, pentru implementarea unor actualizări de securitate, anunţând că sisteme cu performanţe similare vor fi lansate în perioada următoare.

Anthropic îşi argumentează apelul la prudenţă prin date interne care sugerează posibilitatea apariţiei, într-un viitor încă incert, a fenomenului de „auto-îmbunătăţire recursivă” - situaţia în care sistemele de inteligenţă artificială ar deveni capabile să proiecteze şi să antreneze generaţiile următoare de modele, cu o intervenţie umană minimă. Compania subliniază că nu există dovezi că un asemenea prag este iminent, însă apreciază că, dacă tendinţele actuale se menţin, un astfel de scenariu devine plauzibil.

Potrivit Anthropic, o asemenea evoluţie ar putea genera progrese majore în medicină, tehnologie şi economie, dar ar putea aduce şi riscul unei pierderi a controlului asupra sistemelor de inteligenţă artificială.