Satya Nadella, directorul executiv al Microsoft: Sistemele de inteligenţă artificială necesită o frână de urgenţă controlată uman

Satya Nadella, preşedintele şi directorul executiv al Microsoft, a solicitat sâmbătă ca sistemele avansate de inteligenţă artificială (AI) să fie construite cu măsuri de izolare, controale independente şi o „frână de urgenţă” care să permită persoanelor autorizate să întrerupă sau să oprească un model în timpul executării unei sarcini, relatează publicaţia CNBC.

Liderul companiei tehnologice a detaliat necesitatea unor reguli stricte de funcţionare printr-o postare pe platforma de socializare X. „Avem nevoie să înconjurăm modelele nedeterministe cu un design de sistem determinist şi puternic, cu controale umane şi proceduri de operare fiabile şi să stabilim standarde la nivel de industrie acolo unde cele existente sunt insuficiente”, a scris Satya Nadella, preşedintele şi directorul executiv al Microsoft. Oficialul a adăugat o perspectivă de securitate internă aplicată noilor tehnologii: „Tratarea modelelor de frontieră cu ponderi închise şi deschise ca pe nişte riscuri interne este o modalitate de a construi un astfel de sistem”, a precizat Satya Nadella, preşedintele şi directorul executiv al Microsoft, conform sursei citate.

Şeful gigantului IT a explicat că sistemele AI ar trebui proiectate în jurul „principiilor de observabilitate”, care includ diversitatea modelelor, o amprentă lizibilă pentru oameni a acţiunilor modelului, testare continuă a sistemului, controale independente, auditabilitate, izolare şi dezvăluirea incidentelor. „Cel mai demn de încredere sistem de Super Inteligenţă nu va fi cel cu modelul în care avem cea mai mare încredere”, a scris oficialul, adăugând că acesta „va fi cel care ne permite să avem cea mai mică încredere în model”, arată publicaţia.

Comentariile intervin pe fondul avertismentelor lansate de importanţi executivi şi cercetători din domeniul tehnologic, printre care Bill Gates, cofondatorul Microsoft, Dario Amodei, directorul executiv al Anthropic, Sam Altman, directorul executiv al OpenAI, şi Elon Musk, directorul executiv al SpaceX. Un cercetător de la Anthropic a demisionat luna trecută, acuzând compania şi rivalul OpenAI că „pariază cu vieţile noastre”. Ulterior, un responsabil pentru siguranţa AI din cadrul Anthropic a afirmat că există o şansă mai mare de 10% ca tehnologia să „ucidă toţi oamenii” în următorul deceniu, notează CNBC.

La nivel politic, Donald Trump, preşedintele SUA, a respins în mod repetat riscurile de extincţie cauzate de AI, subliniind în schimb că industria naţională trebuie să se menţină în faţa Chinei. De asemenea, administraţia americană a introdus recent o nouă structură denumită „Forţa AI”, condusă de Jay Clayton, directorul Serviciilor Naţionale de Informaţii, cu scopul de a facilita dezvoltarea industriei şi de a elimina actorii rău intenţionaţi, precizează sursa menţionată.