CNN: Un raport de informaţii bazat pe AI a identificat greşit încărcătura unei nave chineze, aproape declanşând o operaţiune militară

Un raport de informaţii distribuit în cadrul armatei americane în această primăvară, în plin război cu Iranul, a declanşat imediat alarma privind o navă chineză aflată în Orientul Mijlociu, transportând componente ale unui program de arme nucleare, potrivit CNN. Armata a pregătit interceptarea navei, însă, în urma unei analize mai atente, concluzia a fost că raportul, realizat cu ajutorul inteligenţei artificiale, identifica greşit încărcătura navei.

Armata americană a trecut la acţiune, pregătind planuri pentru interceptarea navei, potrivit a patru surse familiarizate cu episodul. Militari americani înarmaţi se pregăteau să urce la bordul navei, iar avioane militare se aflau deja în aer, au declarat două dintre aceste surse şi o altă persoană familiarizată cu incidentul, conform aceleiaşi surse.

Abia cu puţin timp înainte de operaţiunea planificată, oficialii au analizat mai atent raportul întocmit de un analist al comandamentului pentru operaţiuni speciale şi au descoperit că acesta fusese realizat cu ajutorul inteligenţei artificiale (AI) şi că un chatbot folosit de analişti identificase în mod eronat materialul transportat de navă. CNN nu a putut afla cu certitudine dacă reprezenta în realitate încărcătura identificată corect, potrivit sursei citate.

Raportul a fost „complet fals", potrivit uneia dintre surse. „Dar aproape că am declanşat un război", a afirmat aceasta. Orice operaţiune americană împotriva unei nave chineze ar fi putut risca să escaladeze într-un conflict armat între cele două ţări.

În întreaga armată americană şi în comunitatea de informaţii, oficialii încearcă să integreze AI în toate aspectele activităţii lor, de la analizarea volumelor uriaşe de informaţii brute colectate de SUA şi selectarea ţintelor pentru atacuri, până la aplicaţii mai obişnuite, precum gestionarea bugetelor, logisticii şi lanţurilor de aprovizionare, conform CNN.

Episodul evidenţiază însă riscurile majore ale utilizării acestei tehnologii puternice, iar analiştii se tem mult timp că AI ar putea conduce la o eroare de calcul catastrofală dacă statele se bazează pe date de calitate sau incertă drept bază pentru unei noi confruntări militare, comentează CNN.

În acest caz, analistul a consultat un chatbot în legătură cu informaţii privind documentele referitoare la încărcătura navei, provenite de la Comandamentul pentru Operaţiuni Speciale al SUA din Pacific, cu sediul în Hawaii. Nu este clar dacă chatbotul era unul disponibil pe piaţă sau un produs guvernamental american, potrivit sursei citate.

„Instrumentele interne sunt, în mare parte, doar copii ale celor comerciale, cosmetizate", a declarat un fost oficial american de rang înalt familiarizat cu sistemele AI utilizate de analiştii militari şi de informaţii.

Chatbotul a combinat informaţii din surse deschise cu informaţii secrete provenite din interceptarea semnalelor şi aflate în bazele de date guvernamentale, ajungând la concluzia decisivă, dar eronată, privind materialul transportat de navă, conform CNN.

Analistul a folosit apoi din nou AI pentru a transforma constatările într-un raport standard de informaţii - tipul de document în care oficialii au multă încredere - şi l-a distribuit.

Comandamentul pentru Operaţiuni Speciale al SUA din Pacific şi Pentagonul nu au răspuns unei solicitări de comentarii, potrivit sursei citate.