Reuters: Anthropic oferă METR acces extins la modelele şi sistemele sale de IA

Compania americană Anthropic a anunţat joi că a acordat organizaţiei nonprofit METR, specializată în evaluarea sistemelor de inteligenţă artificială, un nivel de acces comparabil cu cel al propriilor angajaţi, ca să permită verificarea independentă a modelelor avansate, a măsurilor de siguranţă şi a gestionării riscurilor, transmite Reuters.

Şase angajaţi METR au primit echipamente ale companiei, spaţii de lucru şi acces la instrumente şi sisteme interne similare celor utilizate de echipele Anthropic responsabile de evaluarea riscurilor, precizează Reuters.

Organizaţia va putea publica independent concluzii privind riscurile, incidentele şi practicile de siguranţă ale Anthropic, fără aprobarea prealabilă a companiei, informează Reuters. Vor fi permise doar eliminări limitate ale unor informaţii sensibile, precum datele clienţilor, informaţiile protejate juridic şi anumite detalii privind arhitectura modelelor AI, potrivit Reuters.

Decizia intervine pe fondul preocupărilor exprimate de cercetători şi evaluatori independenţi, potrivit cărora marile companii de inteligenţă artificială ar putea exercita o influenţă excesivă asupra verificărilor externe, prin restricţionarea accesului la informaţii sensibile şi impunerea unor condiţii privind publicarea rezultatelor, relatează Reuters.

Iniţiativa Anthropic urmăreşte să ofere evaluatorilor externi o autonomie mai mare în examinarea sistemelor AI şi în comunicarea publică a eventualelor vulnerabilităţi sau deficienţe ale măsurilor de siguranţă, precizează Reuters.