Reuters: Un fost responsabil pentru siguranţa inteligenţei artificiale demisionează de la OpenAI şi critică dezvoltarea accelerată

Un fost angajat al companiei OpenAI, specializat în siguranţa inteligenţei artificiale, a demisionat recent şi a criticat cultura organizaţională, precum şi ritmul rapid pentru dezvoltarea noilor sisteme, el a avertizat că acest fenomen creşte riscul unor incidente, transmite Reuters. David Robinson, fost angajat al OpenAI, a lucrat timp de trei ani şi jumătate în cadrul companiei. El a afirmat într-un articol publicat sâmbătă de The Atlantic, intitulat „I Quit OpenAI Because Its Culture Is Broken”, că firmele de inteligenţă artificială, inclusiv OpenAI, nu sunt „nici pe departe suficient de prudente”, notează agenţia de presă.

„Perioada de încercare şi eroare s-a încheiat”, a scris David Robinson, fost angajat al OpenAI. Acesta a argumentat că sistemele avansate de inteligenţă artificială necesită măsuri de siguranţă comparabile cu standardele aplicate în industrii precum energia nucleară şi aviaţia, conform sursei citate.

David Robinson, fost angajat al OpenAI, a criticat în mod special strategia companiei de „implementare iterativă”, prin care OpenAI lansează sisteme şi îmbunătăţeşte măsurile de protecţie pe măsură ce identifică probleme. În opinia sa, companiile trebuie să acorde o importanţă mai mare cercetării şi expertizei în domeniul siguranţei înaintea dezvoltării unor sisteme şi mai performante, relatează agenţia de presă.

Fostul angajat a contribuit la elaborarea cadrului OpenAI pentru evaluarea riscurilor asociate modelelor avansate şi a coordonat rapoartele de siguranţă pentru 12 lansări de modele de frontieră, informează agenţia de presă.

„În timp ce compania aleargă de la o lansare la alta, nu reuşeşte să atingă nivelul de atenţie pe care îl consider necesar”, a afirmat David Robinson, fost angajat al OpenAI. Această afirmaţie este prezentată de sursa citată.

Compania OpenAI a respins ideea conform căreia dezvoltarea modelelor avansează fără limite de siguranţă, transmite agenţia de presă.

„Ne asigurăm că modelele noastre nu devin mai capabile decât putem gestiona şi securiza în condiţii de siguranţă şi întrerupem antrenarea sau amânăm lansarea modelelor atunci când trebuie să încetinim”, a declarat un purtător de cuvânt al companiei OpenAI. Această poziţie este preluată de agenţia de presă.

David Robinson, fost angajat al OpenAI, a avertizat, de asemenea, că performanţele sistemelor AI evoluează mai rapid comparativ cu capacitatea cercetătorilor pentru înţelegerea problemei alinierii. Acest domeniu urmăreşte asigurarea faptului că sistemele de inteligenţă artificială acţionează în conformitate cu obiectivele şi valorile umane, precizează sursa citată.

Criticile sale intervin pe fondul unei dezbateri tot mai intense în industria inteligenţei artificiale referitoare la viteza cu care companiile dezvoltă sisteme din ce în ce mai puternice. Compania OpenAI şi rivalul Anthropic au fost supuse unei examinări sporite după incidente în care mecanismele de siguranţă au eşuat sau sistemele experimentale s-au comportat în mod neaşteptat, notează agenţia de presă.