BBC: Anthropic interzice abuzurile repetate şi deliberate faţă de chatbotul Claude

Anthropic, compania care dezvoltă chatbotul Claude, şi-a actualizat politica de utilizare pentru a interzice comportamentele abuzive „susţinute şi inutile” faţă de sistemele sale de inteligenţă artificială, noile reguli permit instrumentelor companiei să întrerupă interacţiunile în care utilizatorii se comportă în mod repetat şi deliberat într-o manieră considerată crudă, relatează BBC.

Măsura a fost anunţată joi, în urma revizuirii anuale a politicii de utilizare, şi completează lista comportamentelor interzise, care include hărţuirea altor persoane, promovarea autovătămării şi crearea de imagini intime fără consimţământ, conform sursei.

Anthropic a precizat că noile prevederi se vor aplica doar în cazuri extreme de abuz repetat, compania a subliniat şi că nu vor fi vizate manifestările obişnuite de frustrare ale utilizatorilor, respingerea răspunsurilor oferite de chatbot, temele creative întunecate sau activităţile de testare şi cercetare a modelelor, potrivit publicaţiei.

Totuşi, nu este clar ce comportamente vor fi considerate abuzive sau crude faţă de sistemele de inteligenţă artificială, actualizarea a generat reacţii pe reţelele de socializare, unde unii utilizatori au apreciat iniţiativa ca pe o modalitate de promovare a bunelor maniere, în timp ce alţii au criticat-o, potrivit sursei.

Barry Scannell, partener specializat în tehnologie la firma irlandeză de avocatură William Fry, a avertizat asupra riscurilor de a atribui inteligenţei artificiale caracteristici umane: „Nu poţi fi crud cu numerele şi matematica”, a scris acesta pe LinkedIn, adăugând că antropomorfizarea inteligenţei artificiale îi poate determina pe oameni să creadă că sistemele sunt altceva decât sunt în realitate, conform publicaţiei.

Mustafa Suleyman, directorul diviziei de inteligenţă artificială a Microsoft, a reacţionat la anunţul Anthropic printr-un emoji cu o faţă care se topeşte, după ce, în septembrie, acesta criticase compania rivală pentru tendinţa de a trata inteligenţa artificială ca şi cum ar fi umană, potrivit sursei citate.

Actualizarea include şi alte modificări, menite să răspundă unor riscuri noi sau emergente, printre acestea se numără interzicerea folosirii lui Claude în campanii înşelătoare şi clarificarea faptului că instrumentul nu poate fi utilizat pentru inducerea în eroare a alegătorilor sau perturbarea alegerilor, în contextul apropierii alegerilor intermediare din Statele Unite, iar Anthropic a precizat, de asemenea, că politica sa interzicea deja utilizarea instrumentelor companiei pentru dezvoltarea de arme, conform sursei.

Noile reguli au reaprins dezbaterea privind modul în care oamenii ar trebui să comunice cu sistemele de inteligenţă artificială generativă, iar unii experţi consideră că formule precum „vă rog” şi „mulţumesc” sunt inutile şi consumă token-uri, resurse utilizate de modelele lingvistice pentru procesarea solicitărilor şi generarea răspunsurilor, în timp ce alţii susţin că politeţea poate contribui la obţinerea unor răspunsuri de calitate mai bună, potrivit publicaţiei.

Anul trecut, Sam Altman, directorul OpenAI, a afirmat în legătură cu energia consumată pentru procesarea mesajelor politicoase adresate ChatGPT că este vorba despre „zeci de milioane de dolari cheltuiţi bine - nu se ştie niciodată”, conform sursei menţionate.

În acelaşi timp, termenul „clanker”, folosit în mod dispreţuitor pentru a desemna roboţi şi instrumente de inteligenţă artificială, a revenit în atenţie, fiind inclus de dicţionarul Collins pe lista scurtă a cuvintelor care au reflectat starea de spirit a anului 2025, unii experţi avertizează că folosirea unui limbaj agresiv faţă de chatboţi ar putea influenţa negativ modul în care oamenii comunică şi se comportă unii cu alţii, potrivit publicaţiei.