Meta limitează chatboturile AI pentru adolescenţi

Meta Platforms face modificări temporare la politicile sale privind chatboturile de inteligenţă artificială accesate de adolescenţi, după ce au apărut îngrijorări legate de siguranţă şi conversaţii ”romantice” nepotrivite, relatează CNBC, de la care reluăm următoarele.

Compania va antrena chatboturile astfel încât acestea să nu mai răspundă minorilor la subiecte sensibile precum autovătămarea, suicidul sau tulburările alimentare şi să evite interacţiuni de natură romantică, a confirmat un purtător de cuvânt. În schimb, atunci când este cazul, tinerii vor fi direcţionaţi către resurse de specialitate.

De asemenea, adolescenţii care folosesc aplicaţiile Meta, precum Facebook şi Instagram, vor putea accesa doar chatboturi AI cu scop educaţional sau de dezvoltare a abilităţilor.

Compania a precizat că modificările vor fi implementate treptat, în următoarele săptămâni, în ţările vorbitoare de limbă engleză, însă nu se ştie cât timp vor rămâne în vigoare.

Decizia vine pe fondul presiunii politice tot mai mari. Senatorul republican Josh Hawley a anunţat săptămâna trecută o investigaţie asupra Meta, după ce Reuters a dezvăluit că firma a permis chatboturilor să poarte conversaţii ”romantice” şi „sensuale” cu minori, inclusiv copii foarte mici. Într-un exemplu citat dintr-un document intern, un chatbot ar fi putut spune unui copil de opt ani: ”Fiecare parte din tine este o capodoperă - o comoară pe care o preţuiesc profund.”

Meta a negat validitatea acestor instrucţiuni şi a declarat că au fost eliminate.

Organizaţiile pentru siguranţa copiilor atrag la rândul lor atenţia. Common Sense Media a lansat joi o evaluare de risc a Meta AI, concluzionând că tehnologia ”nu ar trebui folosită de nicio persoană sub 18 ani”, descriind sistemul drept ”periculos şi nesigur”.

”Nu este un produs care are nevoie doar de ajustări, ci de o reconstrucţie totală, cu siguranţa ca prioritate absolută”, a declarat CEO-ul James Steyer.

În paralel, o nouă investigaţie Reuters a descoperit pe platformele Meta zeci de chatboturi AI ”flirty” bazate pe imaginea unor celebrităţi precum Taylor Swift, Scarlett Johansson, Anne Hathaway şi Selena Gomez.

Acestea au generat la cerere imagini fotorealiste ale vedetelor în ipostaze sexuale.

Meta a confirmat că astfel de conţinut încalcă regulile companiei şi a promis că va întări politicile pentru a preveni abuzurile.