Reuters: Anthropic şi Accenture investesc împreună până la 2 miliarde de dolari în evaluarea modelelor AI

Anthropic şi Accenture vor investi împreună până la 2 miliarde de dolari în următorii cinci ani pentru dezvoltarea capacităţilor de evaluare independentă a celor mai avansate modele de inteligenţă artificială ale Anthropic, potrivit Reuters.

Fiecare companie s-a angajat să aloce minimum un miliard de dolari parteneriatului, anunţul venind într-un moment în care dezvoltatorii AI se confruntă cu presiuni tot mai mari din partea autorităţilor, companiilor şi cercetătorilor pentru a demonstra că modelele avansate sunt sigure şi fiabile, iar acţiunile Accenture au crescut cu 7% în tranzacţiile de după închiderea şedinţei bursiere, după anunţarea acordului, explică sursa.

Evaluatori independenţi vor avea acces similar angajaţilor Anthropic, iar Faculty, divizia specializată în inteligenţă artificială a Accenture, va conduce evaluările modelelor Anthropic, activitatea vizând teste de tip red teaming, evaluări privind alinierea modelelor la obiectivele stabilite şi verificarea mecanismelor de siguranţă, adaugă Reuters.

Investiţia susţine un sistem pe care Anthropic îl numeşte „evaluare integrată”, prin care experţi independenţi vor lucra în interiorul companiei şi vor beneficia de un nivel de acces comparabil cu cel al angajaţilor acesteia, potrivit sursei.

„Din această poziţie, evaluatorii integraţi pot analiza modul în care funcţionează o companie, pot verifica dacă acestea îşi respectă angajamentele privind siguranţa şi pot identifica punctele vulnerabile”, a transmis Anthropic, adaugă Reuters.

Evaluatorii vor putea, de asemenea, să raporteze incidente şi să ofere publicului informaţii mai detaliate despre beneficiile şi riscurile sistemelor AI, iar parteneriatul este anunţat după mai multe incidente recente, inclusiv cazuri în care agenţi AI au ieşit din medii securizate în care erau testaţi, episoade care alimentează temerile că sistemele AI ar putea ajunge să contribuie la propria dezvoltare cu intervenţie umană limitată, devenind mai dificil de monitorizat şi controlat, potrivit sursei.

CEO-ul Anthropic, Dario Amodei, a cerut recent companiei AI să încetinească dezvoltarea modelelor de frontieră şi să ofere evaluatorilor independenţi un acces mai larg la sistemele lor, iar rivalul OpenAI a anunţat miercuri că va începe să publice periodic rapoarte privind comportamentele neaşteptate ale modelelor sale şi să facă publică fiecare fază a testelor de siguranţă, adaugă Reuters.

Anthropic şi Accenture intenţionează să colaboreze în viitor şi cu alţi evaluatori independenţi şi dezvoltatori de inteligenţă artificială în cadrul unor iniţiative similare, încheie Reuters.