Cercetătorii ieşeni au creat un sistem IA care detectează indicii de depresie în postările de pe X

Un program de inteligenţă artificială dezvoltat la Universitatea „Alexandru Ioan Cuza” din Iaşi (UAIC) analizează postări de pe platforma X, fostul Twitter, pentru a identifica eventuale indicii de depresie şi oferă, în limbaj obişnuit, o explicaţie pentru concluzia la care ajunge, informează instituţia de învăţământ. Pe lângă conţinutul textului, sistemul ia în calcul şi ora la care a fost publicată postarea.

• Sistemul combină verdictul cu explicaţia

Potrivit UAIC, sistemele de inteligenţă artificială pot fi utilizate pentru monitorizarea stărilor emoţionale pe baza conţinutului publicat online, însă majoritatea oferă doar un verdict, fără să explice motivele care au stat la baza acestuia. „În domeniul sănătăţii mintale, simpla clasificare nu este suficientă”, afirmă conf. dr. Mădălina Răschip, de la Facultatea de Informatică a UAIC, care a coordonat dezvoltarea sistemului. Potrivit cercetătoarei, medicii, utilizatorii şi cercetătorii trebuie să poată înţelege de ce un model clasifică o postare ca indicând depresie. Explicaţiile pot creşte transparenţa şi încrederea în sistem şi pot permite verificarea faptului că modelul se bazează pe indicii relevante, nu pe corelaţii întâmplătoare, susţine Mădălina Răschip. UAIC precizează că legislaţia Uniunii Europene interzice utilizarea sistemelor de inteligenţă artificială care detectează emoţiile oamenilor la locul de muncă sau în şcoli, din cauza riscurilor pentru persoanele vulnerabile. În alte contexte, astfel de sisteme sunt încadrate drept sisteme „cu risc ridicat” şi trebuie să respecte cerinţe privind explicarea deciziilor şi controlul uman, potrivit comunicatului instituţiei.

Punctul de plecare al cercetării a fost o observaţie mai veche din literatura de specialitate, potrivit căreia momentul din zi în care o persoană postează pe reţelele sociale poate oferi informaţii despre starea sa psihică. „Am vrut să vedem dacă, pe lângă conţinutul mesajului, şi momentul publicării poate ajuta în detectarea depresiei”, explică Mădălina Răschip. Programul analizează mai întâi textul postării cu ajutorul unui model de inteligenţă artificială bazat pe o reţea neuronală de tip Transformer, denumit BERT. Modelul urmăreşte să interpreteze sensul cuvintelor în funcţie de context şi transformă mesajul într-o reprezentare numerică. Acestei reprezentări îi sunt adăugate informaţii despre momentul publicării, respectiv ora din zi şi ziua săptămânii. O a treia componentă generează apoi explicaţia verdictului, cuvânt cu cuvânt, pornind de la clasificarea realizată şi de la momentul publicării.

• Sistemul a fost antrenat pe aproximativ 20.000 de postări

Cercetătorii ieşeni au antrenat sistemul pe aproximativ 20.000 de mesaje publicate pe X de 72 de utilizatori. Jumătate dintre mesaje au fost marcate ca fiind asociate depresiei, iar cealaltă jumătate nu. Pe setul de test, programul a identificat corect verdictul în 85% dintre cazuri. Autorii au ales platforma X deoarece postările sunt publice şi afişează ora exactă a publicării, informaţie esenţială pentru verificarea ipotezei cercetării. În plus, potrivit cercetătoarei UAIC, postările de pe X sunt scurte şi spontane şi surprind adesea starea de moment. Analiza a indicat că postările clasificate drept asociate depresiei apar mai frecvent în timpul nopţii şi dimineaţa devreme, în timp ce postările din jurul prânzului tind să primească scoruri mai mici. UAIC subliniază că aceste tendinţe sunt generale şi nu reprezintă reguli stricte.

• Explicaţiile, mai dificil de generat decât verdictul

Potrivit comunicatului UAIC, generarea justificărilor s-a dovedit mai dificilă decât clasificarea propriu-zisă. Pentru antrenarea acestei componente au fost utilizate explicaţii generate anterior cu ajutorul GPT-4. Autorii au generat apoi explicaţii pentru verdictele produse de modelul propus şi le-au comparat cu cele existente. Explicaţiile generate de sistem au avut un sens apropiat de cele iniţiale, însă suprapunerea lexicală a fost redusă. Cu alte cuvinte, programul a reformulat în propriile cuvinte explicaţiile şi a surprins ideea emoţională centrală a postării, potrivit cercetătorilor ieşeni.