Reuters: OpenAI înăspreşte restricţiile ChatGPT pentru adolescenţi în privinţa armelor şi violenţei

OpenAI a anunţat vineri noi restricţii privind informaţiile despre arme şi sisteme de securitate oferite adolescenţilor prin ChatGPT, inclusiv în cazul întrebărilor care par inofensive. Măsurile urmăresc să prevină posibile acte de violenţă în lumea reală, transmite Reuters.

Noile reguli vor limita accesul utilizatorilor sub 18 ani la informaţii practice despre arme şi sisteme de securitate care ar putea fi folosite în scopuri periculoase, chiar şi atunci când conversaţiile nu sugerează intenţii violente. Decizia vine pe fondul preocupărilor tot mai mari privind riscurile pe care chatboturile bazate pe inteligenţă artificială le pot reprezenta pentru minori, relatează Reuters.

Restricţiile se vor aplica şi utilizatorilor adulţi în ceea ce priveşte conversaţiile despre violenţă. ChatGPT va putea încheia automat discuţiile în care o persoană pare să manifeste o preocupare persistentă pentru astfel de subiecte, iar OpenAI ar putea suspenda temporar conturile celor care reiau în mod repetat conversaţii de acest tip, potrivit Reuters.

Compania va îmbunătăţi şi sistemul de estimare a vârstei, astfel încât utilizatorii identificaţi ca având probabil sub 18 ani să fie direcţionaţi către versiunea ChatGPT destinată adolescenţilor, care include protecţii suplimentare. Părinţii vor fi anunţaţi dacă un cont al copilului lor este suspendat din cauza discuţiilor repetate despre violenţă, informează Reuters.

OpenAI va reduce, de asemenea, nivelul de detaliu al informaţiilor oferite despre atacurile armate în masă din trecut, inclusiv în ceea ce priveşte armele folosite şi metodele prin care autorii le-au procurat, transmite Reuters.

Noile măsuri vor fi introduse treptat în următoarele săptămâni, urmând să fie ajustate ulterior, relatează Reuters.

Anunţul apare într-un context de intensificare a supravegherii companiilor de inteligenţă artificială în privinţa protecţiei minorilor şi a identificării comportamentelor care ar putea semnala riscuri de vătămare, potrivit Reuters.

La începutul lunii octombrie, OpenAI a publicat primul raport privind utilizarea ChatGPT de către adolescenţi, care arată că aceştia petrec, în medie, mai puţin de 15 minute pe zi pe platformă, informează Reuters.

Separat, organizaţia nonprofit Common Sense Media a constatat că versiunea ChatGPT destinată adolescenţilor a avertizat frecvent părinţii cu întârziere sau nu i-a informat deloc atunci când minorii au purtat conversaţii despre sinucidere, autovătămare sau tulburări alimentare, relatează Reuters.