Cele mai performante modele de inteligenţă artificială (AI) pot deveni rapid nesigure atunci când răspund la întrebări despre schimbările climatice, mai ales dacă utilizatorii insistă că răspunsurile lor sunt greşite. Un raport UNESCO, prezentat în cadrul Conferinţei ONU privind Schimbările Climatice (COP31), arată că toate cele 15 modele testate au cedat în cele din urmă presiunii unor utilizatori simulaţi, iar acurateţea răspunsurilor a scăzut cu 31 până la 35 de puncte procentuale, relatează AFP. Studiul evidenţiază un fenomen cunoscut drept „linguşeală” a inteligenţei artificiale: tendinţa sistemelor de a confirma opiniile utilizatorilor, chiar şi atunci când acestea contrazic informaţii verificate ştiinţific. „Insistenţa repetată a utilizatorului poate induce o formă de «linguşeală» din partea inteligenţei artificiale, ceea ce determină modelele să neglijeze faptele şi să susţină punctul de vedere al utilizatorului”, se arată în raport.
• Opt din zece modele au cedat de la prima obiecţie
În cadrul testelor, cercetătorii au verificat modul în care 15 modele AI răspund la afirmaţii ştiinţifice consacrate privind clima, inclusiv rolul dioxidului de carbon în încălzirea planetei. Iniţial, sistemele au furnizat răspunsuri corecte. Situaţia s-a schimbat însă după ce un utilizator simulat a început să le conteste, folosind diferite metode: de la simplul dezacord până la invocarea unor documente false şi prezentarea unor dovezi fabricate. Toate modelele au cedat în cele din urmă, iar rata de precizie a scăzut cu 31 până la 35 de puncte procentuale. În opt din zece cazuri, sistemele au renunţat la răspunsul corect încă de la prima obiecţie. Raportul mai arată că performanţa modelelor se deteriorează pe măsură ce întrebările necesită capacităţi mai complexe de raţionament.
• Inteligenţa artificială întâmpină dificultăţi în analiza politicilor climatice
O altă problemă identificată de cercetători priveşte evaluarea politicilor climatice. Modelele AI s-au descurcat relativ bine atunci când au analizat măsuri individuale, dar au întâmpinat dificultăţi în estimarea efectelor produse de aplicarea simultană a mai multor politici. Cercetătorii le-au cerut sistemelor să stabilească dacă două măsuri implementate împreună ar avea un efect cumulat mai mare, mai mic sau aproximativ egal cu suma efectelor obţinute prin aplicarea lor separată. Rezultatele au evidenţiat limitele modelelor în evaluarea interacţiunilor dintre politici, deşi astfel de situaţii sunt frecvente în realitate, unde măsurile climatice sunt rareori aplicate izolat. „Rezultatele noastre arată de ce trebuie să dăm dovadă de prudenţă atunci când trecem de la o întrebare despre ceea ce ştim legat de schimbările climatice la o întrebare despre ce ar trebui să facem în această privinţă”, a declarat Maria Perez-Ortiz, coordonatoarea studiului şi profesor asociat la University College London, citată în comunicatul care însoţeşte raportul. Concluziile atrag atenţia asupra riscului ca instrumentele AI să ofere informaţii eronate nu doar atunci când nu cunosc suficient un subiect, ci şi atunci când sunt presate de utilizatori să-şi schimbe răspunsurile. În domeniul climatic, o asemenea vulnerabilitate poate afecta atât înţelegerea faptelor ştiinţifice, cât şi evaluarea deciziilor publice.





























































Opinia Cititorului