Google elimină unele rezumate făcute de inteligenţa artificială

Gigantul american Google a eliminat o serie de rezumate generate de inteligenţa artificială pe teme de sănătate, după ce o investigaţie a scos la iveală faptul că acestea conţineau informaţii greşite şi potenţial periculoase, relatează news.ro.

Potrivit unei investigaţii realizate de publicaţia britanică The Guardian, mai multe rezumate medicale generate de AI-ul Gemini ofereau utilizatorilor date incomplete sau eronate, ceea ce putea conduce la decizii riscante pentru sănătate.

Într-unul dintre exemplele analizate de jurnaliştii britanici, inteligenţa artificială a fost întrebată care este intervalul normal pentru testele hepatice din sânge, însă răspunsul nu a inclus factori esenţiali precum vârsta sau sexul pacientului, notează news.ro, citând investigaţia.

Absenţa acestor informaţii contextuale poate induce în eroare pacienţii, determinându-i să creadă că rezultatele analizelor sunt normale, chiar şi atunci când nu sunt, şi să renunţe la investigaţii suplimentare necesare.

La câteva zile după publicarea investigaţiei, Google a eliminat răspunsurile furnizate de Gemini din paginile motorului de căutare pentru întrebările vizate, potrivit informaţiilor transmise de news.ro.

Compania americană a evitat să ofere explicaţii detaliate sau garanţii privind o moderare mai strictă a răspunsurilor generate de AI, în special în domenii sensibile precum sănătatea.

Cert este însă că funcţia AI Overviews, care utilizează inteligenţa artificială pentru a rezuma informaţii şi a genera răspunsuri afişate direct în motorul de căutare, rămâne activă, iar specialiştii avertizează că pot exista şi alte situaţii în care informaţiile oferite de AI să fie inexacte şi să influenţeze decizii importante, mai arată news.ro.