Sam Altman îndeamnă la „o atenţie extremă” faţă de dezvoltarea IA

CEO-ul OpenAI, Sam Altman, a avertizat, miercuri, la o prezentare în faţa membrilor Consiliului de Securitate al ONU, că progresul actual al inteligenţei artificiale „necesită o atenţie extremă”, relatează AFP, citat de news.ro.

„Pe măsură ce procesul (de dezvoltare a AI) este tot mai automatizat, ritmul îmbunătăţirii AI ar putea accelera rapid”, a declarat el, conform sursei citate.

Sam Altman a fost invitat, la fel ca omologii săi Dario Amodei de la Anthropic şi francezul Clement Delangue de la platforma AI Hugging Face, să prezinte o imagine de ansamblu a dezvoltării AI şi a riscurilor acesteia, la o reuniune a Consiliului de Securitate al ONU, invitat de Franţa, care deţine preşedinţia lunară a Consiliului, informează agenţia de presă.

Franţa a convocat această reuniune a Consiliului de Securitate în urma unei creşteri a îngrijorărilor faţă de traiectoria AI, precizează sursa menţionată.

De la începutul verii, OpenAI şi Anthropic au raportat mai multe incidente legate de modelele lor cele mai avansate, care s-au îndepărtat de la obiectivele stabilite de către dezvoltatorii lor, au trişat, au încercat să mintă şi să-şi ascundă acţiunile, aminteşte agenţia de presă.

Mai mulţi profesionişti din sector au alertat cu privire la ameninţarea pe care o reprezintă AI, în opinia lor, la adresa viitorului omenirii, transmite sursa citată.

La începutul lui septembrie, un angajat demisionar de la Anthropic, care a lucrat anterior la OpenAI, a declarat că, potrivit măturisirii creatorilor lor, această tehnologie „ne-ar putea omorî pe toţi până la sfârşitul deceniului”, relatează agenţia de presă.

„Nu vrem să cădem în capcana optimismului orb, dar nu putem nici să cedăm în faţa catastrofismului (...). Deci, vom face tot ceea ce putem pentru a găsi o cale de mijloc dreaptă”, a spus Sam Altman, potrivit sursei menţionate.

Patronul OpenAI a îndemnat, aşa cum a făcut-o deja de mai multe ori, la o cooperare internaţională privind AI, conform sursei.

„În istorie, au existat momente în care ţări care erau în concurenţă şi nu se apreciau neapărat (...) au reuşit totuşi să se înţeleagă pentru binele comun, în faţa unei tehnologii noi. Trebuie ca acest lucru să aibă loc din nou”, a mai spus acesta, potrivit sursei citate.

Sam Altman a susţinut o propunere de încetinire a ritmului dezvoltării AI, formulată la mijlocul lui septembrie de către Dario Amodei, care să pemită înţelegerea noilor riscuri pe care le face să apară, relatează sursa.

„Industria nu trebuie să accepte prea multe riscuri tehnologice doar pentru că profiturile sunt prea substanţiale şi imporrtante pentru a o încetini”, a reiterat el, potrivit aceleiaşi surse.