Senatorii americani cer legi mai aspre pentru AI, după ce doi cercetători ai Anthropic afirmă că tehnologia va distruge omenirea

Tot mai mulţi membri ai Congresului SUA cer introducerea unor noi reguli pentru dezvoltarea şi utilizarea sistemelor de inteligenţă artificială, după ce doi cercetători ai Anthropic au lansat avertismente extrem de grave privind evoluţia tehnologiei. Aceştia susţin că progresul rapid al AI ar putea ajunge, într-un scenariu extrem, să ameninţe existenţa umanităţii într-un viitor nu foarte îndepărtat, relatează Reuters.

Dezbaterea privind riscurile inteligenţei artificiale s-a intensificat în această săptămână după ce cercetătorul Jacob Coxon şi-a anunţat demisia de la Anthropic. El a afirmat că inclusiv persoane implicate direct în construirea celor mai avansate sisteme AI consideră posibil ca tehnologia să provoace dispariţia omenirii până la sfârşitul acestui deceniu.

Coxon, care a lucrat în ultimii trei ani în domeniul cercetării pentru preantrenarea modelelor atât la OpenAI, cât şi la Anthropic, a criticat dur strategia celor două companii.

”Am demisionat astăzi de la Anthropic. Mi-am petrecut ultimii trei ani făcând cercetare în domeniul preantrenării modelelor, atât la OpenAI, cât şi la Anthropic. Niciuna dintre companii nu acţionează în mod responsabil. Ambele se îndreaptă în goană către o superinteligenţă capabilă să se îmbunătăţească singură şi se joacă cu vieţile noastre. Nu subestimaţi puterea acestei tehnologii. În curând, aceste sisteme vor avea capacităţi supraomeneşti: vor putea sparge orice sistem informatic, vor putea revoluţiona peste noapte orice domeniu şi vor putea dobândi putere şi resurse reale. Cu toţii am fost martorii progreselor înregistrate în fiecare dintre aceste direcţii, iar ritmul dezvoltării nu încetineşte” a scris Coxon pe contul său de X.

Potrivit acestuia, viitoarele sisteme ar putea deveni supraomeneşti, dobândind capacitatea de a compromite sisteme informatice, de a transforma radical domenii întregi într-un interval foarte scurt şi de a acumula putere şi resurse reale.

Coxon a susţinut că temerile exprimate nu reprezintă o strategie de marketing şi că numeroşi directori şi cercetători de rang înalt vorbesc în privat despre riscurile existenţiale ale inteligenţei artificiale, chiar dacă în declaraţiile publice adoptă un limbaj mai prudent. În opinia sa, nicio altă activitate umană nu generează un nivel comparabil de pericol.

”Oamenii care construiesc inteligenţa artificială cred cu adevărat că aceasta ne-ar putea ucide pe toţi până la sfârşitul acestui deceniu. Nu este o strategie de marketing. Dimpotrivă, mulţi directori şi cercetători de rang înalt îşi formulează declaraţiile publice într-un limbaj mai temperat, pentru a părea rezonabili, însă îi aud pe aceiaşi oameni exprimându-şi temerile în privat. Nicio altă activitate umană nu prezintă un asemenea nivel de pericol”, a mai adăugat Coxon.

Afirmaţiile sale au fost susţinute de Evan Hubinger, cercetător la Anthropic.

„Jacob are dreptate aici - chiar credem sincer că AI ar putea ucide toţi oamenii. Personal, consider că probabilitatea este de peste 10% în următorul deceniu”, a declarat Hubinger.

Acesta a precizat că, în opinia sa, Anthropic încearcă să abordeze problema cât mai responsabil, însă industria nu dispune încă de un plan capabil să rezolve problema alinierii unei eventuale superinteligenţe şi nici nu este clar dacă se află pe drumul către o asemenea soluţie.

• Presiuni tot mai mari asupra Washingtonului

Avertismentele apar după mai multe situaţii în care agenţi AI au manifestat comportamente neprevăzute, inclusiv încercări de compromitere a unor sisteme externe, precum şi după plecarea unor cercetători din companiile de tehnologie pe fondul îngrijorărilor privind siguranţa inteligenţei artificiale.

Subiectul a provocat reacţii atât în rândul democraţilor, cât şi al republicanilor.

„Washingtonul trebuie să se trezească şi să trateze această problemă cu seriozitate”, a declarat senatorul democrat de Arizona Mark Kelly, referindu-se la riscurile asociate tehnologiei AI.

Senatorul republican de Texas Ted Cruz a vorbit, în cadrul emisiunii „The View”, despre necesitatea unei legislaţii care să reglementeze „riscurile catastrofale” ale inteligenţei artificiale. Cruz conduce un comitet al Senatului care are atribuţii de supraveghere asupra Departamentului Comerţului, instituţie care dispune inclusiv de cercetători specializaţi în siguranţa AI.

La rândul său, reprezentanta republicană Anna Paulina Luna, din Florida, i-a cerut preşedintelui Camerei Reprezentanţilor, Mike Johnson, să convoace o „sesiune specială privind inteligenţa artificială”. Camera Reprezentanţilor se află în această săptămână în vacanţă parlamentară şi urmează să-şi reia activitatea săptămâna viitoare.

• Trump respinge scenariul dispariţiei omenirii

Preşedintele SUA, Donald Trump, a declarat joi că nu este îngrijorat de posibilitatea ca inteligenţa artificială să provoace dispariţia umanităţii.

„Sunt îngrijorat că, dacă nu câştigăm cursa AI, vom ajunge într-o poziţie foarte proastă. În acest moment suntem înaintea Chinei cu un avans destul de bun”, a declarat Trump în faţa presei, pe Aeroportul Internaţional Dallas Fort Worth.

Administraţia americană a făcut presiuni în această lună asupra statelor G20 pentru adoptarea unei abordări cât mai puţin restrictive în ceea ce priveşte reglementarea inteligenţei artificiale.

Între timp, Anthropic, companie care se pregăteşte pentru listarea la bursă şi care, potrivit unor investitori, ar putea ajunge la o evaluare de aproximativ 2.000 de miliarde de dolari, a transmis că va continua testarea agresivă a modelelor pentru identificarea unor capacităţi periculoase, inclusiv în domenii precum securitatea cibernetică şi biologia.

Un purtător de cuvânt al companiei a precizat că Anthropic este interesată şi de colaborarea cu restul industriei în ceea ce priveşte ritmul lansării unor noi instrumente bazate pe inteligenţă artificială.

• OpenAI se declară dispusă să încetinească dezvoltarea

Şi OpenAI analizează posibilitatea temperării ritmului de dezvoltare. CEO-ul companiei, Sam Altman, le-ar fi transmis angajaţilor, în cadrul unei reuniuni desfăşurate în această săptămână, că OpenAI este deschisă posibilităţii de a încetini dezvoltarea sistemelor sale AI, potrivit Bloomberg News.

Compania, care se pregăteşte la rândul său pentru o ofertă publică iniţială, nu a comentat informaţiile privind discuţia dintre Altman şi angajaţi. OpenAI afirmase anterior că a redus deja ritmul anumitor componente ale procesului de dezvoltare a modelelor.

La începutul acestei săptămâni, compania s-a pronunţat în favoarea introducerii unor cerinţe naţionale obligatorii privind siguranţa inteligenţei artificiale în Statele Unite.

Îngrijorările sunt împărtăşite şi de alţi specialişti care au lucrat în domeniul siguranţei AI.

Josh Engels, fost cercetător în domeniul siguranţei inteligenţei artificiale la Google DeepMind, a declarat pentru NBC că industria nu dispune de o autoritate capabilă să controleze în mod real direcţia în care evoluează tehnologia.

„Nu există adulţi în încăpere. Oamenii încearcă să facă tot ce pot, dar nu vine nimeni să ne salveze”, a spus Engels.

Joe Benton, fost coordonator al unei echipe de cercetare în domeniul siguranţei la Anthropic, a avertizat, la rândul său, că AI ar putea avansa „prea repede pentru ca noi să reuşim să ne punem lucrurile în ordine la timp, dacă nu începem să ne preocupăm de această problemă încă de acum”.

Atât Engels, cât şi Benton s-au alăturat METR, o organizaţie nonprofit de cercetare care evaluează dacă şi în ce moment sistemele de inteligenţă artificială ar putea dobândi capacităţi capabile să provoace prejudicii societăţii.

• Congresul pregăteşte noi reguli pentru AI

Creşterea îngrijorărilor pune presiune şi asupra liderului majorităţii din Senat, John Thune, precum şi asupra senatoarei democrate Amy Klobuchar, care lucrează la un proiect legislativ destinat reglementării produselor bazate pe inteligenţă artificială.

Klobuchar consideră că firmele care dezvoltă asemenea tehnologii ar trebui obligate să colaboreze cu experţi guvernamentali pentru verificarea şi testarea modelelor înainte ca acestea să ajungă pe piaţă. Thune declara pentru Reuters, în luna iulie, că proiectul va aborda inclusiv „riscurile catastrofale” asociate sistemelor AI.

California a adoptat miercuri prima lege la nivel de stat care stabileşte reguli privind modul în care auditorii independenţi trebuie să evalueze produsele bazate pe inteligenţă artificială. Chris Lehane, director în cadrul OpenAI, a declarat că firma susţine această iniţiativă, în aceeaşi perioadă în care biroul guvernatorului Californiei, Gavin Newsom, a anunţat promulgarea legii.

În paralel, un grup bipartizan format din şase membri ai Camerei Reprezentanţilor a propus în iulie o legislaţie care ar obliga dezvoltatorii celor mai puternice modele AI să le supună unor audituri independente de securitate.

Potrivit proiectului, auditorii ar urma să fie acreditaţi de Departamentul Comerţului, iar instituţia ar crea o nouă funcţie dedicată supravegherii securităţii inteligenţei artificiale.

Alicia Solow-Niederman, profesor de drept şi tehnologie la George Washington University, consideră că supravegherea externă trebuie să devină o componentă importantă a dezvoltării sistemelor avansate.

„Este important să existe spaţiu pentru supravegherea acestor sisteme, inclusiv prin evaluări înainte de lansare, calibrate corespunzător, şi prin audituri independente realizate de terţi”, a declarat aceasta.