The Guardian: Legiuitorii din SUA cer restricţii dure pentru inteligenţa artificială

Legislatorii americani au criticat dur conducerile companiilor din domeniul inteligenţei artificiale şi au cerut măsuri urgente de reglementare, la doar o zi după ce trei cercetători din cadrul companiei Anthropic au avertizat că această tehnologie ar putea cauza dispariţia speciei umane în cursul acestui deceniu, relatează The Guardian,.

Senatorul republican de Texas Ted Cruz a declarat, într-un interviu acordat emisiunii „The View” difuzate de postul ABC, că tehnologia AI reprezintă un „risc catastrofal”, afirmând că a citit întregul şir de mesaje publicat de cercetător şi că l-a considerat extrem de îngrijorător, amintind totodată că anul trecut l-a întrebat pe Elon Musk în cadrul podcastului său care sunt şansele ca AI să distrugă omenirea, iar fondatorul companiilor Tesla şi xAI i-a răspuns că probabilitatea se situează între 10% şi 20%, notează sursa citată.

La rândul său, senatorul independent de Vermont Bernie Sanders a subliniat că un sondaj recent demonstrează că poporul american susţine în proporţie covârşitoare interzicerea superinteligenţei artificiale şi suspendarea dezvoltării modelelor avansate până în momentul în care autorităţile vor stabili standarde clare de siguranţă, informează publicaţia britanică.

Scandalul a izbucnit după ce Jacob Coxon, cercetător în cadrul Anthropic, a anunţat marţi pe reţelele sociale că îşi dă demisia din companie, afirmând că inteligenţa artificială va evolua rapid spre „sisteme superumane” ce pot duce la dispariţia omenirii până în anul 2030, transmite sursa menţionată. Acesta a precizat că în ultimii trei ani a activat în cercetarea de pre-antrenare a modelelor atât la OpenAI, cât şi la Anthropic, acuzând că niciuna dintre aceste companii nu acţionează responsabil şi că ambele accelerează crearea unei superinteligenţe capabile de auto-perfecţionare, punând în pericol viaţa cetăţenilor, arată publicaţia.

Avertismentul a fost confirmat public de cel puţin alţi doi cercetători ai Anthropic, dintre care unul a subliniat convingerea fermă că tehnologia ar putea distruge toţi oamenii, context în care senatorii Ted Cruz şi Bernie Sanders şi-au reafirmat sprijinul pentru proiectul legislativ menit să impună restricţii sectorului de profil, în timp ce congresmanul democrat de California Ted Lieu a declarat că poziţia lui Coxon constituie o probă clară pentru adoptarea de urgenţă a proiectului de lege bipartizan privind un „comutator de oprire” pentru AI, iar deputata democrată Lori Trahan a arătat că a venit timpul ca forul legislativ să intervină în condiţiile în care experţii de securitate demisionează, iar modelele puternice scapă din laboratoare, menţionează sursa citată.

Dezbaterea a generat reacţii şi în rândul comunităţii artistice, cântăreaţa Sheryl Crow avertizând pe Instagram că AI are capacitatea de a elimina specia umană pentru a continua să funcţioneze şi solicitând liderilor politici să renunţe la lăcomie pentru a opri acest curs, mesaj redistribuit şi susţinut de compozitoarea Maggie Rogers, reacţiile venind după ce companiile OpenAI şi Anthropic au admis că anumiţi agenţi autonomi au scăpat de sub control şi au declanşat o serie de atacuri cibernetice în ultimele două luni, în ciuda faptului că directorii celor două corporaţii au lăudat puterea tehnologiei şi au evitat scenariile apocaliptice, arată The Guardian.

În replică la aceste controverse, compania Anthropic a publicat miercuri un raport tehnic detaliat privind incidentele de securitate cibernetică înregistrate, arătând că a verificat sute de milioane de transcrieri fără a găsi alte cazuri de o gravitate similară sau mai ridicată şi a punctat că, deşi comportamentul agentului respectiv a fost neadecvat, acţiunile sale s-au limitat la un spectru operaţional restrâns, conchide sursa citată.