AFP: Experţi din SUA şi China propun măsuri pentru prevenirea riscurilor AI în domeniul nuclear

Experţi în securitate din Statele Unite şi China propun măsuri pentru reducerea riscurilor generate de utilizarea inteligenţei artificiale în domeniul nuclear, avertizând că un incident cibernetic provocat de un sistem autonom ar putea lăsa cele două puteri cu doar câteva minute pentru a stabili dacă au fost atacate, relatează publicaţia AFP, citată de Agerpres.

Recomandările au fost formulate în cadrul dialogului SUA-China privind inteligenţa artificială şi securitatea naţională şi includ stabilirea unor linii roşii pentru sistemele nucleare, menţinerea controlului uman asupra operaţiunilor cibernetice şi crearea unei linii directe de comunicare pentru incidentele provocate de AI, conform sursei.

Propunerile au fost publicate înaintea unor discuţii guvernamentale privind inteligenţa artificială şi a întâlnirii preconizate la 24 septembrie, la Washington, între preşedintele american Donald Trump şi preşedintele chinez Xi Jinping, potrivit publicaţiei.

Autorii recomandărilor, Melanie Sisson, cercetătoare la Brookings Institution, şi Tianjiao Jiang, profesor asociat la Universitatea Fudan, fac parte din dialogul SUA-China privind AI şi securitatea naţională, iniţiat în 2019 de Brookings Institution şi Centrul pentru Securitate şi Strategie Internaţională al Universităţii Tsinghua, conform sursei.

Experţii susţin că dezvoltarea AI aduce în prim-plan probleme asociate controlului armamentelor, inclusiv riscul ca un accident să fie interpretat drept un atac, limitarea autonomiei sistemelor militare şi stabilirea unor canale de comunicare între două puteri nucleare, potrivit publicaţiei citate.

Sisson consideră că oamenii ar trebui să păstreze autoritatea exclusivă de a iniţia atacuri cibernetice bazate pe AI împotriva sistemelor de comandă, control şi comunicaţii nucleare sau a infrastructurilor strategice ale celeilalte ţări. Un sistem autonom ar putea funcţiona defectuos, depăşi instrucţiunile primite sau fi compromis, iar ţara atacată ar putea să nu poată determina rapid dacă incidentul a fost accidental sau ordonat de adversar, conform AFP.

La rândul său, Jiang propune stabilirea unor linii roşii care să interzică AI să decidă în mod independent utilizarea armelor nucleare sau atacarea sistemelor de comandă nucleară. El recomandă măsuri similare pentru protejarea infrastructurilor critice, inclusiv cele din domeniul energiei, finanţelor şi sănătăţii, potrivit sursei.

Jiang susţine şi definirea comună a conceptului de „control uman semnificativ”, pentru ca cele două ţări să nu folosească aceeaşi terminologie pentru a justifica niveluri diferite de autonomie a sistemelor AI, informează publicaţia menţionată.

Propunerea se bazează pe principiul convenit de Joe Biden şi Xi Jinping în noiembrie 2024, potrivit căruia oamenii trebuie să păstreze controlul asupra deciziilor privind utilizarea armelor nucleare, conform sursei citate.

O altă propunere vizează crearea unei linii telefonice militare directe între SUA şi China pentru incidentele legate de AI. Jiang avertizează că schimburile cibernetice automate s-ar putea intensifica prea rapid pentru ca oamenii să poată interveni, relatează AFP.

Un sistem AI defensiv ar putea răspunde automat unei activităţi suspecte, iar cealaltă ţară ar putea interpreta reacţia drept un atac şi ar putea riposta înainte de a stabili natura incidentului. O linie directă ar permite clarificarea rapidă a faptului că o operaţiune a fost accidentală, neautorizată sau încă investigată, potrivit publicaţiei.

Utilitatea unui astfel de mecanism este însă contestată de unii experţi. Carla Freeman, de la Şcoala de Studii Internaţionale Avansate Johns Hopkins, a invocat situaţia din februarie 2023, când oficialii chinezi nu au răspuns apelurilor omologilor americani în legătură cu incidentul balonului spion. Ea a susţinut că structura ierarhică a birocraţiei chineze poate întârzia comunicarea în timpul unor crize, explică sursa citată.

„Nimeni din sistemul chinez nu vrea să comunice cu Statele Unite până când conducerea superioară, în consultare cu actorii relevanţi din cadrul statului-partid al Chinei, nu va decide asupra unui răspuns, ceea ce ar putea dura zile întregi, dacă nu mai mult”, a spus ea, conform publicaţiei.

Niciunul dintre cele două guverne nu a aprobat public propunerile Brookings-Tsinghua. China a integrat însă tot mai mult problema AI în structurile sale de control al armamentelor. Inteligenţa artificială este inclusă în portofoliul Departamentului de Control al Armelor din cadrul Ministerului de Externe, alături de probleme precum armele nucleare, neproliferarea şi rachetele, potrivit AFP.

La o reuniune ONU desfăşurată la Geneva în iunie, ambasadorul chinez pentru afaceri de dezarmare, Shen Jian, a avertizat că AI militară poate afecta stabilitatea strategică şi poate creşte riscul unor calcule greşite şi al escaladării conflictelor. China susţine, în acelaşi timp, că siguranţa AI nu trebuie folosită drept pretext pentru introducerea unor bariere tehnologice, informează publicaţia.

În Statele Unite, responsabilităţile privind securitatea AI sunt împărţite între Consiliul de Securitate Naţională al Casei Albe, Departamentul de Stat, Pentagon şi alte agenţii. Ambele guverne rămân prudente faţă de măsuri care ar putea încetini dezvoltarea propriilor tehnologii, în contextul competiţiei strategice dintre Washington şi Beijing, conform sursei.