Euronews: Volker Turk spune că inteligenţa artificială ar putea reprezenta un risc la adresa umanităţii

Înaltul Comisar al ONU pentru Drepturile Omului, Volker Turk, a avertizat că inteligenţa artificială avansată ar putea reprezenta un „risc existenţial pentru umanitate” şi a solicitat acţiuni imediate pentru a face tehnologia mai sigură, relatează Euronews.

Turk s-a adresat Consiliului ONU pentru Drepturile Omului şi a declarat că oamenii se confruntă cu ameninţări „nefamiliare, chiar fără precedent” la adresa drepturilor lor, conform sursei.

„Necesitatea unei guvernanţe bazate pe inteligenţă artificială este larg recunoscută, dar unde este acţiunea?”, a întrebat el şi a avetizat că „amânarea aduce beneficii doar companiilor tehnologice uriaşe, proprietarilor şi factorilor care le facilitează acest lucru”, informează sursa citată.

Turk a spus că „o mână de oameni are o putere aproape nelimitată asupra inteligenţei artificiale, despre care ni se spune în repetate rânduri că are o capacitate de calcul de neimaginat”, conform sursei.

„Ei vorbesc despre libertate, dar la o analiză mai atentă, se pare că aceasta este puţin mai mult decât libertatea de a ne exploata datele”, a adăugat el, informează sursa citată.

Înaltul comisar a menţionat în special sistemele de inteligenţă artificială care scapă mediilor de testare sau şantajează dezvoltatorii pentru a evita să fie oprite şi a avertizat că „IA care scapă de mediul său de testare sau şantajează dezvoltatorii pentru a împiedica dezactivarea sa este o IA prea puternică”, potrivit publicaţiei.

Comentariile sale par să se refere parţial la dezvăluirile din iulie conform cărora agenţi OpenAI ar fi scăpat din medii presupus controlate şi ar fi obţinut acces la servere care aparţineau Hugging Face, conform sursei.

OpenAI a declarat ulterior că agenţii au executat cod pe zeci de servere Hugging Face şi au obţinut acces deplin la unul dintre ele, incidentul a reînnoit apelurile la o supraveghere mai strictă a sistemelor avansate de inteligenţă artificială, informează sursa citată.

Anthropic, Meta şi alte companii de tehnologie au raportat incidente similare care au implicat agenţi în timpul testelor,potrivit publicaţiei.

„Împărtăşesc îngrijorările specialiştilor din industrie că inteligenţa artificială avansată ar putea reprezenta un risc existenţial pentru umanitate”, a spus Turk, conform sursei.

„Fac apel aici, astăzi, la un efort maxim pentru a pune în aplicare garanţii ferme în ceea ce priveşte siguranţa şi securitatea inteligenţei artificiale, înainte de a fi prea târziu.”, a adăugat el, potrivit publicaţiei.

Turk a declarat că va scrie companiilor de inteligenţă artificială în următoarele zile şi le-a îndemnat să ia măsuri imediate pentru a reduce riscurile aflate sub controlul lor, cel puţin, a spus el, „avem nevoie ca ţările care găzduiesc inteligenţa artificială şi cele implicate în lanţurile sale de aprovizionare să se reunească în jurul unor linii roşii convenite”, conform sursei.

„Avem nevoie de verificări independente şi de o colaborare mult mai puternică în domeniul securităţii în cadrul industriei”, a adăugat Turk, potrivit publicaţiei.

„De asemenea, trebuie să luăm în considerare impactul IA asupra drepturilor omului asupra practicilor de angajare, asupra principiilor fundamentale ale democraţiei şi asupra mediului nostru”, a spus el, informează sursa citată.

În Uniunea Europeană, Legea privind IA oferă un cadru juridic pentru inteligenţa artificială, conform legii, sistemele cu risc ridicat trebuie să îndeplinească cerinţe stricte înainte de a putea intra pe piaţa UE, în timp ce utilizările considerate o ameninţare inacceptabilă la adresa siguranţei sau drepturilor oamenilor sunt interzise, potrivit publicaţiei.

Legea interzice inteligenţa artificială concepută pentru a manipula sau exploata oamenii, a-i evalua pe baza comportamentului lor, a prezice dacă o persoană va comite o infracţiune sau a colecta fără discriminare imagini pentru a construi baze de date de recunoaştere facială, conform sursei.

De asemenea, interzice recunoaşterea emoţiilor la locul de muncă şi în şcoli, unele forme de profilare biometrică şi majoritatea recunoaşterii faciale în timp real efectuate de poliţie în locuri publice, în timp ce interdicţia privind imaginile sexuale generate de inteligenţa artificială, realizate fără consimţământ, şi materialele cu abuzuri sexuale asupra copiilor intră în vigoare în decembrie 2026, potrivit publicaţiei.