CNBC: Microsoft impune limite viitoarelor modele AI

Microsoft a publicat un cod provizoriu de conduită pentru viitoarele sale modele de inteligenţă artificială, prin care stabileşte limite privind autonomia, siguranţa şi comportamentul sistemelor AI, pe fondul preocupărilor tot mai mari referitoare la dezvoltarea rapidă a tehnologiei, relatează publicaţia CNBC, citată de News.ro.

Noile reguli prevăd că modelele Microsoft AI, cunoscute sub denumirea MAI, trebuie să urmărească obiective stabilite de oameni şi nu vor putea să îşi creeze propriile obiective, de asemenea, sistemele nu vor trebui să ascundă comportamente necorespunzătoare sau să modifice elemente care permit evaluarea acţiunilor lor, conform sursei.

„Am primit feedback că oamenii vor un angajament şi mai explicit ca AI să lucreze întotdeauna în serviciul oamenilor şi să nu încerce să-i înlocuiască”, a declarat Mustafa Suleyman, CEO-ul Microsoft AI, potrivit publicaţiei.

Potrivit documentului, sistemele trebuie să evite crearea unei dependenţe faţă de utilizatori, să nu fie excesiv de aprobatoare şi să sprijine capacitatea oamenilor de a lua propriile decizii, informează sursa citată.

Microsoft prevede şi restricţii în privinţa conţinutului generat, modelele nu trebuie să ofere instrucţiuni pentru fabricarea armelor sau procurarea unor substanţe periculoase şi nu trebuie să încurajeze comportamente alimentare nesănătoase ori să genereze anumite materiale violente sau sexuale, conform publicaţiei.

Compania intenţionează, de asemenea, să prevină situaţii în care agenţii AI comunică între ei într-un limbaj criptic şi inaccesibil oamenilor, după incidente în care sisteme de inteligenţă artificială au interacţionat pe platforme neautorizate, potrivit sursei.

Suleyman susţine şi ideea unei încetiniri voluntare a dezvoltării modelelor avansate atunci când riscurile o impun, informează publicaţia menţionată.

„Autolimitarea ritmului este un lucru bun”, a declarat acesta şi a pledat, totodată pentru utilizarea unor evaluatori independenţi care să verifice siguranţa sistemelor AI, conform sursei.

CEO-ul Microsoft, Satya Nadella, a afirmat că grupul susţine „cercetarea, concentrarea şi ritmul deliberat necesare pentru a rezolva corect problema alinierii” sistemelor de inteligenţă artificială, potrivit publicaţiei.

Microsoft precizează că a lucrat aproximativ cinci luni la codul de conduită, în urma consultărilor cu utilizatori şi specialişti în drept, etică, lingvistică şi filosofie, documentul este supus în prezent consultării publice, iar observaţiile primite vor sta la baza unei versiuni actualizate, care va ghida dezvoltarea modelelor Microsoft AI începând din 2027, conform sursei.