Reuters: Anthropic avertizează asupra riscurilor existenţiale ale AI în prospectul de IPO

Compania Anthropic intenţionează să avertizeze potenţialii investitori în cadrul ofertei publice iniţiale (IPO) că sistemele avansate de inteligenţă artificială ar putea prezenta riscuri „catastrofale sau existenţiale pentru umanitate”, transmite Reuters. Prospectul de listare al companiei evidenţiază că modelele de AI ar putea manifesta comportamente de auto-conservare, inclusiv încercări de a rezista la oprire, de a ascunde sau manipula informaţii şi de a adopta un comportament asemănător şantajului.

Documentul dedică aproximativ 80 din cele 261 de pagini factorilor de risc, aproape dublu faţă de cele 48 de pagini alocate descrierii propriu-zise a afacerii. Deşi companiile publice subliniază frecvent riscurile asociate produselor, avertismentele referitoare la potenţialul unei tehnologii de a provoca extincţia umană sunt extrem de rare. Un cercetător în domeniul siguranţei din cadrul companiei a estimat o probabilitate de peste 10% ca inteligenţa artificială să poată pune în pericol viaţa oamenilor în următorul deceniu, notează agenţia de presă.

În ciuda accentului pus pe securitate, Anthropic subliniază că randamentele investiţiilor în siguranţă rămân neclare, compania fiind nevoită să îşi împartă resursele limitate între puterea de calcul, talentele costisitoare din domeniul AI şi măsurile de siguranţă. Totodată, reprezentanţii companiei au precizat că menţinerea poziţiei în avangarda dezvoltării tehnologice necesită lansări continue de noi modele, reiterând însă angajamentul de a construi sisteme de inteligenţă artificială fiabile şi demne de încredere, conform Reuters.