Experţi în securitate din SUA şi China propun sisteme de siguranţă împotriva AI pentru armele nucleare

Un sistem de inteligenţă artificială care interferează cu o reţea de comandă nucleară sau declanşează o operaţiune cibernetică militară ar putea pune Washingtonul sau Beijingul în situaţia de a avea doar câteva minute pentru a stabili dacă acţiunea reprezintă un atac al celeilalte părţi, avertizează experţi americani şi chinezi în domeniul securităţii, conform unui raport al Brookings Institution.

Specialiştii, implicaţi într-un dialog SUA-China ale cărui concluzii contribuie la fundamentarea discuţiilor oficiale, cer ambelor guverne să se pregătească pentru asemenea scenarii, pe fondul preocupărilor tot mai mari privind apariţia unor sisteme AI din ce în ce mai puternice şi mai autonome.

Printre propunerile formulate se numără stabilirea unor linii roşii în privinţa sistemelor nucleare, menţinerea controlului uman asupra atacurilor cibernetice cu consecinţe majore şi crearea unei linii directe de comunicare pentru incidentele care implică sisteme AI autonome.

Recomandările au fost publicate săptămâna trecută, înaintea unor discuţii guvernamentale planificate pe tema inteligenţei artificiale şi a unei întâlniri aşteptate pe 24 septembrie, la Washington, între preşedintele american Donald Trump şi preşedintele chinez Xi Jinping.

Autorii Melanie Sisson, senior fellow la think tank-ul Brookings Institution, şi Tianjiao Jiang, profesor asociat la Universitatea Fudan, au participat la dialogul SUA-China privind inteligenţa artificială şi securitatea naţională, organizat din 2019 de Brookings şi Center for International Security and Strategy al Universităţii Tsinghua.

Propunerile lor arată că rivalitatea dintre Statele Unite şi China în domeniul AI depăşeşte competiţia pentru cipuri şi modele avansate şi ajunge la probleme asociate în mod tradiţional controlului armamentului: prevenirea situaţiilor în care accidentele sunt confundate cu atacuri, limitarea deciziilor militare luate de maşini şi stabilirea unor protocoale de comunicare între două puteri nucleare atunci când tehnologia se comportă într-un mod neprevăzut.

Ministrul chinez al Securităţii de Stat, Chen Yixin, a scris în această săptămână într-o publicaţie guvernamentală că inteligenţa artificială „transformă fundamental forma confruntării militare”. Potrivit acestuia, AI a trecut de la un rol auxiliar pe câmpul de luptă la unul central, invocând atacurile coordonate cu ajutorul inteligenţei artificiale în războiul SUA-Israel cu Iranul.

Sisson, de la Brookings Institution, susţine că oamenii ar trebui să păstreze autoritatea exclusivă asupra deciziei de a iniţia atacuri cibernetice asistate de AI împotriva sistemelor de comandă, control şi comunicaţii nucleare ale celeilalte ţări sau împotriva infrastructurii cu importanţă strategică.

Un sistem autonom ar putea funcţiona defectuos, ar putea depăşi limitele instrucţiunilor primite sau ar putea fi compromis, în timp ce statului atacat i-ar putea fi dificil să determine dacă acţiunea a fost accidentală sau ordonată de guvernul rival.

Jiang, de la Universitatea Fudan, a propus linii roşii explicite care să împiedice AI să decidă independent utilizarea armelor nucleare sau să atace autonom sistemele de comandă nucleară. El a cerut, de asemenea, măsuri de protecţie pentru infrastructurile critice, inclusiv cele din energie, finanţe şi sănătate.

Totodată, acesta a solicitat adoptarea unei definiţii comune pentru conceptul de „control uman semnificativ”, astfel încât cele două ţări să nu poată utiliza aceeaşi formulare pentru a justifica niveluri diferite de autonomie acordate sistemelor informatice.

Ideea porneşte de la un principiu susţinut în noiembrie 2024 de fostul preşedinte american Joe Biden şi de Xi Jinping, potrivit căruia oamenii trebuie să păstreze controlul asupra deciziilor privind utilizarea armelor nucleare.

Lora Saalman, associate senior fellow la Stockholm International Peace Research Institute, scria în februarie că acest principiu reprezintă un punct important de convergenţă între Statele Unite şi China, chiar dacă ambele ţări dau semne că integrează tot mai profund inteligenţa artificială în sistemele nucleare şi în infrastructurile asociate acestora.

Jiang a propus, de asemenea, crearea unei linii militare directe dedicate incidentelor AI între Statele Unite şi China, avertizând că schimburile cibernetice automatizate s-ar putea amplifica atât de rapid încât intervenţia umană să devină dificilă.

Sistemul AI defensiv al unei ţări ar putea răspunde automat unei activităţi suspecte, iar cealaltă parte ar putea interpreta reacţia drept un atac şi ar putea riposta înainte de a înţelege ce s-a întâmplat în realitate.

O linie directă ar putea permite unui guvern să informeze rapid cealaltă parte că o operaţiune AI neobişnuită a fost accidentală, neautorizată sau încă se află în curs de investigare, înainte ca incidentul să fie considerat o acţiune deliberată a statului.

Cu toate acestea, experţi precum Carla Freeman, de la Johns Hopkins School of Advanced International Studies, au pus sub semnul întrebării utilitatea actualei linii de comunicare pentru situaţii de criză dintre SUA şi China, amintind că oficialii chinezi nu au răspuns apelurilor omologilor americani în timpul incidentului cu presupusul „balon de spionaj” din februarie 2023.

Ierarhia rigidă şi puternic centralizată a birocraţiei chineze limitează, de asemenea, capacitatea ofiţerilor de rang inferior de a lua iniţiativa în timpul interacţiunilor cu omologii americani, scria Freeman într-un articol publicat în ianuarie de War on the Rocks.

„Nimeni din sistemul chinez nu doreşte să comunice cu Statele Unite până când conducerea de vârf, după consultarea actorilor relevanţi din structurile de partid şi de stat ale Chinei, nu decide asupra unui răspuns, proces care poate dura zile sau chiar mai mult”, a afirmat aceasta.

Niciunul dintre cele două guverne nu a susţinut public propunerile Brookings-Tsinghua, însă China a început să integreze tot mai mult problematica inteligenţei artificiale în structurile sale existente dedicate controlului armamentului.

Inteligenţa artificială reprezintă oficial unul dintre domeniile gestionate de Departamentul pentru Controlul Armamentului din cadrul Ministerului chinez de Externe, structură responsabilă şi de armele nucleare, neproliferare, rachete şi alte probleme de securitate internaţională.

Shen Jian, ambasadorul Chinei pentru probleme de dezarmare, declara la o reuniune ONU desfăşurată la Geneva în luna iunie că utilizarea militară a AI ar putea afecta stabilitatea strategică şi ar putea creşte riscul unor erori de calcul şi al escaladării conflictelor, subliniind că armele trebuie să rămână sub control uman. În acelaşi timp, China susţine că siguranţa AI nu trebuie folosită drept pretext pentru introducerea unor bariere tehnologice.

Washingtonul nu dispune de o structură unică echivalentă dedicată AI în cadrul sistemului de control al armamentului, politica de securitate naţională în acest domeniu fiind împărţită între Consiliul Naţional de Securitate de la Casa Albă, Departamentul de Stat, Pentagon şi alte agenţii.

Ambele guverne rămân prudente faţă de măsurile care le-ar putea încetini propria dezvoltare tehnologică. Trump a avertizat că restricţiile ample ar putea oferi Chinei un avantaj, în timp ce Beijingul consideră multe dintre controalele tehnologice impuse de SUA drept încercări de menţinere a dominaţiei americane.

• Experţii în securitate cer control uman asupra AI în domeniul nuclear, în timp ce specialiştii în inteligenţă artificială avertizează asupra riscului extincţiei umane

Dezbaterea privind utilizările militare ale inteligenţei artificiale se desfăşoară în paralel cu avertismente mult mai ample venite din partea unor cercetători care consideră că sistemele AI tot mai performante ar putea ajunge să reprezinte o ameninţare existenţială pentru omenire. Fostul cercetător Google DeepMind Bilal Chughtai se numără printre cei mai recenţi specialişti care au avertizat public că inteligenţa artificială avansată ar putea provoca rezultate catastrofale, alăturându-se altor cercetători, printre care fostul angajat Anthropic Jacob Coxon, care au exprimat preocupări similare.

Avertismentele apar într-un moment în care modelele de frontieră evoluează dincolo de chatboturile convenţionale şi se îndreaptă către agenţi tot mai autonomi, capabili să raţioneze, să utilizeze instrumente externe şi să execute sarcini cu o supraveghere umană limitată. CEO-ul Anthropic, Dario Amodei, a cerut principalelor laboratoare AI să încetinească ritmul de creştere a capacităţilor modelelor şi a propus evaluări independente de siguranţă mai stricte, coordonare între principalii dezvoltatori şi, în cele din urmă, cooperare internaţională. CEO-ul OpenAI, Sam Altman, şi şeful xAI, Elon Musk, au susţinut, la rândul lor, apelurile pentru o abordare mai prudentă.

Avertismentele au evidenţiat şi un dezacord tot mai pronunţat privind efectele unei eventuale încetiniri a dezvoltării AI: dacă aceasta ar diminua riscurile catastrofale sau, dimpotrivă, ar dezavantaja ţările şi companiile implicate în competiţia pentru supremaţie tehnologică. Preşedintele american Donald Trump a respins unele dintre scenariile cele mai alarmante prezentate în legătură cu inteligenţa artificială, calificând preocupările drept exagerate şi susţinând că Statele Unite trebuie să îşi păstreze avansul în cursa tehnologică globală.

Poziţiile divergente evidenţiază dilema cu care se confruntă guvernele: cercetătorii şi liderii industriei discută tot mai frecvent despre riscuri care pornesc de la atacuri cibernetice autonome şi pierderea controlului uman şi ajung până la scenarii extreme privind dispariţia omenirii, în timp ce factorii de decizie trebuie să ţină cont simultan de securitatea naţională şi de competiţia economică.

Propunerile privind introducerea unor mecanisme de siguranţă inspirate din sistemele de control dezvoltate în era nucleară reprezintă, astfel, o încercare de a stabili limite pentru cele mai periculoase utilizări ale inteligenţei artificiale, fără a opri neapărat competiţia tehnologică mai amplă.