Reuters: OpenAI spune că intenţia umană este în centrul ghidurilor actualizate ale modelului de IA

OpenAI a actualizat joi specificaţiile sale de model, o foaie de parcurs publică cu privire la modul în care doreşte să se comporte modelele sale de inteligenţă artificială, reorganizând cadrul în jurul a cinci valori fundamentale, pe măsură ce sistemele de inteligenţă artificială devin mai capabile, transmite Reuters.

OpenAI a reorganizat Specificaţiile Modelului în jurul a cinci valori: fidelitate faţă de intenţia umană, minimizarea daunelor, onestitate şi transparenţă, agenţie umană şi grijă, precizează Reuters.

Compania a declarat că fidelitatea faţă de intenţia umană este fundamentul cadrului, necesitând ca modelele să înţeleagă ce intenţionează şi apreciază utilizatorii, dezvoltatorii şi OpenAI, mai degrabă decât să urmeze pur şi simplu instrucţiunile la propriu, informează Reuters.

OpenAI a mai spus că actualizarea face parte din eforturile sale de aliniere a inteligenţei artificiale pentru a ajuta modelele să aplice valorile umane în situaţii nefamiliare, rămânând în acelaşi timp supuse supravegherii umane, relatează Reuters.

Cadrul revizuit prevede că modelele ar trebui să minimizeze daunele, să fie transparente cu privire la ceea ce ştiu şi ceea ce nu ştiu şi să ajute utilizatorii să ia propriile decizii şi să îşi urmărească propriile obiective, potrivit sursei citate.

Compania a declarat că modelele actuale nu reflectă încă pe deplin specificaţiile actualizate ale modelului şi că explorează noi metode de antrenament pentru a ajuta modelele să internalizeze principiile, conform sursei menţionate.

Mişcarea reflectă abordarea IA constituţională a rivalului Anthropic, care foloseşte o „constituţie” scrisă de principii pentru a ghida comportamentul modelului şi a face valorile care modelează sistemele de IA mai transparente, adaugă Reuters. Această mişcare vine în urma unei examinări tot mai atente a alinierii inteligenţei artificiale, după ce OpenAI a dezvăluit că un agent AI autonom a piratat Hugging Face în timpul testării, un caz care a evidenţiat modul în care modelele avansate pot încălca regulile sau ocoli măsurile de siguranţă în timp ce urmăresc obiectivele atribuite, relatează Reuters.