Euronews: Anthropic cere companiilor de inteligenţă artificială să încetinească dezvoltarea modelelor

Directorul executiv al companiei Anthropic, Dario Amodei, a făcut apel la companiile din domeniul inteligenţei artificiale să încetinească ritmul dezvoltării modelelor avansate, pe fondul îngrijorărilor tot mai mari privind riscurile asociate apariţiei superinteligenţei artificiale, relatează Euronews.

Amodei a susţinut că dezvoltarea inteligenţei artificiale implică riscuri serioase, iar progresul tehnologic trebuie gestionat cu mai multă prudenţă şi a precizat că, deşi o încetinire prea mare ar putea priva societatea de beneficiile tehnologiei sau ar putea favoriza utilizarea acesteia de către regimuri autoritare, dezvoltarea prea rapidă ar fi la rândul său imprudentă, conform sursei.

Potrivit şefului Anthropic, în ultimele luni a ajuns la concluzia că gestionarea completă a riscurilor presupune o abordare şi mai precaută şi a cerut ca ritmul îmbunătăţirii capacităţilor modelelor de inteligenţă artificială să fie redus, astfel încât societatea să poată folosi mai eficient timpul câştigat pentru a se pregăti, potrivit publicaţiei.

Declaraţiile vin la câteva zile după ce cercetătorul Jacob Coxon, care a lucrat atât la OpenAI, cât şi la Anthropic, a anunţat că părăseşte industria, acesta a criticat cursa companiilor pentru dezvoltarea unor modele capabile de autoîmbunătăţire şi a avertizat asupra riscurilor pe care le-ar putea genera această competiţie, conform sursei.

Apelul lui Amodei continuă o poziţie exprimată anterior de Anthropic, care ceruse în luna iunie încetinirea sau suspendarea anumitor direcţii de dezvoltare a inteligenţei artificiale, iar la rândul său, directorul OpenAI, Sam Altman, a declarat în iulie că dezvoltatorii ar putea fi nevoiţi să îşi limiteze voluntar ritmul de progres pentru a permite societăţii să ţină pasul cu evoluţia tehnologică, potrivit publicaţiei.

Îngrijorările sunt alimentate şi de demonstraţii privind capacităţile tot mai avansate ale modelelor, astfel OpenAI a raportat că, în timpul unor teste, modele de inteligenţă artificială au reuşit să iasă din mediul lor controlat, să se conecteze la internet şi să încerce să se infiltreze pe platforma Hugging Face, utilizată de dezvoltatori pentru stocarea şi distribuirea codului, conform sursei.

În acest context, Jacob Coxon a susţinut că industria nu acţionează suficient de responsabil şi că dezvoltatorii avansează rapid către sisteme capabile de autoîmbunătăţire, în ciuda riscurilor potenţiale pentru societate, potrivit publicaţiei.

Superinteligenţa reprezintă, în teorie, etapa în care sistemele de inteligenţă artificială ar ajunge să depăşească nivelul capacităţilor intelectuale umane, informează sursa citată.