Anthropic cere o pauză în dezvoltarea inteligenţei artificiale

Anthropic, compania americană din spatele asistentului conversaţional Claude, propune o dezbatere la nivelul industriei privind introducerea unei pauze temporare, coordonate şi verificabile, în dezvoltarea celor mai avansate sisteme de inteligenţă artificială, relatează Reuters.

Potrivit unei analize publicate joi, firma avertizează că evoluţia tehnologică se apropie de un prag în care modelele AI ar putea începe să se perfecţioneze singure într-un ritm mai rapid decât capacitatea societăţii de a controla riscurile asociate.

Documentul arată că aptitudinea sistemelor de inteligenţă artificială de a executa autonom sarcini complexe se dublează, în medie, la fiecare patru luni. În opinia cercetătorilor Anthropic, această tendinţă apropie industria de fenomenul denumit „autoîmbunătăţire recursivă”, situaţie în care modelele AI ar putea genera versiuni superioare ale propriilor sisteme fără intervenţie umană directă.

Cofondatorul Anthropic, Jack Clark, şi Marina Favaro, coordonatoarea Anthropic Institute, susţin că, odată ce sistemele vor putea crea singure generaţii mai performante de inteligenţă artificială, securizarea, supravegherea şi influenţarea comportamentului acestora vor deveni provocări mult mai dificile.

În acest context, compania consideră că o încetinire temporară a ritmului de dezvoltare ar putea oferi guvernelor, instituţiilor şi societăţii civile timpul necesar pentru a evalua şi gestiona consecinţele unei astfel de schimbări tehnologice majore.

Anthropic precizează totuşi că scenariul nu este inevitabil şi că industria nu a atins încă acel nivel de dezvoltare. Cu toate acestea, reprezentanţii companiei avertizează că progresul ar putea depăşi viteza cu care autorităţile şi organismele de reglementare sunt capabile să răspundă.

Îngrijorările legate de pierderea controlului asupra sistemelor avansate de inteligenţă artificială s-au amplificat în ultimii ani, pe fondul performanţelor tot mai ridicate ale acestor tehnologii. Un exemplu invocat este modelul Mythos, dezvoltat de Anthropic, care a demonstrat capacitatea de a detecta vulnerabilităţi complexe în aplicaţii informatice existente.

În acelaşi timp, cadrul de reglementare rămâne limitat, în special în Statele Unite, unde sunt dezvoltate cele mai sofisticate modele AI. Recent, administraţia Trump a emis un ordin executiv prin care invită companiile să pună la dispoziţia autorităţilor, în mod voluntar, cele mai avansate sisteme ale lor pentru evaluări de securitate cibernetică înainte de lansarea comercială.

Ideea unei încetiniri a dezvoltării inteligenţei artificiale nu este nouă. În 2023, o iniţiativă sprijinită inclusiv de Elon Musk a cerut suspendarea timp de şase luni a dezvoltării modelelor de ultimă generaţie. Demersul nu a produs însă rezultate concrete la nivelul industriei.

Anthropic admite că o oprire unilaterală a activităţii unei singure companii nu ar rezolva problema, ci ar favoriza doar alţi competitori în cursa tehnologică. Din acest motiv, firma susţine că orice măsură de acest tip ar trebui adoptată simultan de principalele laboratoare de inteligenţă artificială şi însoţită de mecanisme clare de monitorizare, precum şi de criterii transparente privind implementarea şi încetarea restricţiilor.

Compania a anunţat că, în perioada următoare, va iniţia consultări cu cercetători, factori de decizie, organizaţii neguvernamentale şi reprezentanţi ai industriei pentru a analiza implicaţiile dezvoltării accelerate a inteligenţei artificiale.

Apelul la prudenţă vine însă într-un moment în care Anthropic îşi continuă propriul program de extindere. Evaluată recent la aproximativ 965 de miliarde de dolari, compania a depus confidenţial documentaţia pentru listarea la bursă în Statele Unite, consolidându-şi astfel competiţia cu OpenAI pentru investiţii şi influenţă pe piaţa globală a inteligenţei artificiale.