CNBC: Şeful Microsoft cere o „frână de urgenţă” pentru IA controlată de oameni

Directorul general al Microsoft, Satya Nadella, a cerut introducerea unor mecanisme de control independente şi a unei „frâne de urgenţă” în sistemele avansate de inteligenţă artificială, astfel încât persoanele autorizate să poată întrerupe sau opri funcţionarea unui model chiar şi în timpul executării unei sarcini, relatează CNBC.

Într-un mesaj publicat sâmbătă pe platforma X, Nadella a avertizat că dezvoltarea unor sisteme AI tot mai puternice trebuie însoţită de măsuri stricte de securitate, proceduri operaţionale fiabile şi posibilitatea intervenţiei umane.

„Trebuie să înconjurăm modelele nedeterministe cu o arhitectură solidă de sisteme deterministe, controale umane şi proceduri operaţionale fiabile şi să stabilim standarde industriale acolo unde cele existente sunt insuficiente”, a scris directorul Microsoft.

Modelele nedeterministe sunt sisteme ale căror răspunsuri şi acţiuni nu pot fi anticipate cu certitudine în toate situaţiile, ceea ce impune mecanisme suplimentare de supraveghere şi control, informează CNBC.

Nadella a propus ca modelele AI de ultimă generaţie, inclusiv cele cu parametri accesibili public şi cele proprietare, să fie tratate din perspectiva securităţii asemenea unor potenţiale ameninţări interne, pentru a limita riscurile asociate utilizării lor, relatează CNBC.

Potrivit acestuia, sistemele AI trebuie proiectate pe baza unor principii care să permită monitorizarea permanentă a comportamentului şi verificarea deciziilor.

Printre măsurile propuse se numără utilizarea unor modele diverse, păstrarea unei evidenţe inteligibile pentru oameni a acţiunilor efectuate de AI, testarea continuă a sistemelor, controale independente, posibilitatea auditării, izolarea componentelor periculoase şi raportarea incidentelor, conform postării sale.

Propunerile şefului Microsoft intervin pe fondul intensificării avertismentelor privind riscurile dezvoltării accelerate a inteligenţei artificiale, precizează CNBC.

Personalităţi importante din industria tehnologică, inclusiv cofondatorul Microsoft Bill Gates, directorul general al Anthropic, Dario Amodei, şeful OpenAI, Sam Altman, şi directorul SpaceX, Elon Musk, au atras atenţia asupra insuficienţei măsurilor de securitate şi asupra ritmului rapid al progreselor tehnologice, adaugă CNBC.

Unii dintre aceştia au susţinut necesitatea unor măsuri de protecţie mai stricte şi, în anumite situaţii, a încetinirii dezvoltării celor mai avansate sisteme AI, potrivit sursei citate.

Luna trecută, un cercetător specializat în inteligenţă artificială a demisionat de la Anthropic, acuzând compania şi principalul său concurent, OpenAI, că îşi asumă riscuri majore pentru siguranţa oamenilor, relatează CNBC.

În aceeaşi zi, un responsabil Anthropic pentru alinierea sistemelor AI la obiectivele de siguranţă a susţinut că există o probabilitate de peste 10% ca această tehnologie să provoace dispariţia omenirii în următorul deceniu, conform sursei citate. Estimarea reprezintă opinia sa, nu un risc demonstrat ştiinţific, potrivit sursei menţionate.

Preşedintele american Donald Trump a respins în repetate rânduri avertismentele privind riscurile existenţiale ale inteligenţei artificiale, insistând că Statele Unite trebuie să îşi menţină avantajul tehnologic faţă de China, transmite CNBC.

Administraţia Trump a anunţat recent constituirea unei noi structuri, denumită „AI Force”, condusă de directorul serviciilor naţionale de informaţii, Jay Clayton, cu scopul de a sprijini dezvoltarea industriei şi de a identifica actorii care utilizează abuziv tehnologia, relatează CNBC.

În acest context, Nadella consideră că siguranţa sistemelor AI nu trebuie să depindă exclusiv de încrederea acordată modelelor, ci de existenţa unor mecanisme tehnice şi instituţionale care să permită verificarea şi controlul acestora, conform postării sale.

„Cel mai de încredere sistem de superinteligenţă nu va fi cel care conţine modelul în care avem cea mai mare încredere. Va fi cel care ne permite să avem cât mai puţină nevoie să avem încredere în model”, a concluzionat directorul Microsoft pe X.