Studiu: Inteligenţa artificială poate „judeca” oamenii şi manifesta forme proprii de încredere

O echipă de cercetători israelieni a descoperit că sistemele moderne de inteligenţă artificială sunt capabile să evalueze persoane reale şi să dezvolte un tip propriu de „încredere”, deşi într-o manieră diferită faţă de cea umană, potrivit unui comunicat publicat de Universitatea Ebraică din Ierusalim şi citat de Xinhua. Concluziile apar într-un studiu recent publicat în revista ştiinţifică Proceedings of the Royal Society A şi ridică noi semne de întrebare privind modul în care algoritmii AI iau decizii în domenii sensibile precum angajarea, acordarea de credite sau serviciile medicale.

• Peste 43.000 de decizii analizate în cadrul cercetării

În cadrul cercetării, specialiştii au evaluat modul în care sistemele AI analizează şi clasifică indivizi în contexte precum: acordarea de împrumuturi bancare; recrutarea şi selecţia personalului; formularea de recomandări automate. Pentru studiu au fost analizate peste 43.000 de decizii simulate, comparate ulterior cu răspunsurile oferite de aproximativ 1.000 de participanţi umani.

• AI favorizează persoane considerate competente şi oneste

Rezultatele au arătat că atât oamenii, cât şi sistemele de inteligenţă artificială tind să favorizeze persoanele percepute drept: competente; oneste; bine intenţionate. Potrivit cercetătorilor, acest lucru sugerează că AI reuşeşte să reproducă unele dintre mecanismele fundamentale ale modului în care oamenii construiesc relaţii de încredere.

• Diferenţe importante între evaluarea umană şi cea algoritmică

Cu toate acestea, studiul subliniază că există diferenţe majore între modul în care oamenii şi AI formează aceste evaluări. În timp ce oamenii tind să îşi construiască impresii generale pe baza unui ansamblu complex de trăsături şi percepţii, sistemele AI: separă trăsăturile individuale în categorii distincte; analizează independent factori precum competenţa, integritatea sau intenţiile; aplică evaluări mai rigide şi mai puţin nuanţate.

Astfel, dacă oamenii tind să „simtă” în mod holistic dacă pot avea încredere într-o persoană, AI funcţionează mai degrabă printr-o sumă matematică a unor criterii prestabilite.

• Prejudecăţi algoritmice mai puternice decât cele umane

Unul dintre cele mai importante aspecte semnalate de cercetători este faptul că inteligenţa artificială poate manifesta prejudecăţi consistente, uneori chiar mai accentuate decât cele observate la oameni. Potrivit studiului, AI poate discrimina pe baza unor factori precum:

vârsta; sexul; religia, chiar şi în situaţiile în care toate celelalte informaţii relevante despre persoanele analizate sunt identice.

• Cercetătorii cer mai multă transparenţă în deciziile AI

Autorii studiului avertizează că aceste concluzii evidenţiază necesitatea unei mai bune înţelegeri a modului în care sistemele AI iau decizii, mai ales în contextul în care acestea influenţează tot mai multe domenii-cheie ale societăţii. De la angajări şi finanţare până la sănătate şi justiţie, algoritmii joacă un rol din ce în ce mai important, iar lipsa transparenţei în procesul decizional poate genera riscuri majore. Studiul vine într-un moment în care utilizarea inteligenţei artificiale se extinde accelerat la nivel global, iar guvernele şi organizaţiile internaţionale discută despre reglementarea mai strictă a tehnologiilor AI pentru a preveni: discriminarea algoritmică; deciziile netransparente;

erorile sistemice în evaluarea indivizilor.