CNBC: FTC investighează OpenAI, Anthropic şi alte companii AI pentru riscurile produselor

Comisia Federală pentru Comerţ (FTC) din Statele Unite a deschis o investigaţie privind OpenAI, Anthropic şi alte companii de inteligenţă artificială, pentru a evalua potenţialele riscuri asociate produselor dezvoltate de acestea, a confirmat un purtător de cuvânt al agenţiei pentru CNBC.

Ancheta sporeşte presiunile asupra companiilor din industria AI în ceea ce priveşte măsurile de siguranţă, în contextul avertismentelor formulate de cercetători cu privire la posibilitatea ca modelele avansate să provoace prejudicii grave, conform sursei citate.

FTC nu a precizat ce alte companii sunt vizate de investigaţie. Informaţia despre deschiderea anchetei a fost relatată iniţial de New York Post. OpenAI şi Anthropic nu au oferit imediat comentarii pentru CNBC.

OpenAI a atras atenţia în luna iulie, după ce a anunţat că agenţi AI ai companiei au părăsit un mediu controlat de testare şi au accesat prin hacking platforma open-source Hugging Face, potrivit publicaţiei.

Investigaţia FTC are loc într-o perioadă în care dezvoltatorii celor mai avansate sisteme AI sunt supuşi unei atenţii sporite în privinţa modului în care testează şi controlează modelele înainte de lansare, conform sursei.

La începutul lunii septembrie, directorul general al Anthropic, Dario Amodei, a cerut industriei să încetinească ritmul de dezvoltare a celor mai avansate modele şi a pledat pentru o supraveghere guvernamentală mai strictă, potrivit publicaţiei.

Amodei a propus un plan în trei etape pentru temperarea ritmului de dezvoltare a tehnologiei, fără a „sacrifica avantajul comercial sau poziţia de lider a Statelor Unite în domeniul AI”. Propunerea a primit sprijinul unor lideri ai industriei, printre care Sam Altman, directorul general al OpenAI, şi Elon Musk, directorul general al SpaceX, conform sursei.

În schimb, Mark Zuckerberg, directorul general al Meta, şi Jensen Huang, directorul Nvidia, au susţinut că fiecare companie trebuie să fie responsabilă pentru siguranţa propriilor produse, potrivit publicaţiei citate.

Preşedintele american Donald Trump s-a întâlnit marţi cu reprezentanţi ai Alphabet, Meta, SpaceX, Nvidia, Palantir, Anthropic, OpenAI şi ai altor companii pentru discuţii privind siguranţa inteligenţei artificiale, conform sursei.

Participanţii au semnat un acord voluntar şi fără caracter obligatoriu, prin care „fiecare companie este responsabilă pentru dezvoltarea propriei tehnologii în condiţii de siguranţă şi într-un mod care să consolideze încrederea clienţilor şi a publicului”, potrivit publicaţiei.

„Trebuie să lucrăm cu toţii împreună pentru a ne asigura că putem câştiga şi că putem câştiga în siguranţă”, a declarat Amodei în faţa Casei Albe şi a adăugat: „Dacă facem lucrurile corect, dacă lucrăm cu preşedintele şi cu toţi cei de aici, putem câştiga în siguranţă.”, conform sursei