Securitatea cibernetică: prima linie de apărare în faţa impactului inteligenţei artificiale (I)

Marc-Andre Ryter
Ziarul BURSA #Companii #IT /

Securitatea cibernetică: prima linie de apărare în faţa impactului inteligenţei artificiale (I)

În următorii ani, spaţiul cibernetic se va confrunta cu dezvoltarea inteligenţei artificiale. Acest lucru va determina o potenţială mărire a eficienţei atacurilor cibernetice şi îi va forţa pe toţi utilizatorii spaţiului cibernetic să îşi adapteze metodele de protecţie. În special forţele armate se vor confrunta cu provocări considerabile în a-şi menţine operaţionalitatea, deşi ele de asemenea, în multe zone, vor putea beneficia de avantajele inteligenţei artificiale.

Scopul acestui articol este să demonstreze importanţa securităţii cibernetice ca metodă de protecţie împotriva riscurilor crescute ce vor fi generate de dezvoltarea şi integrarea inteligenţei artificiale (AI) în spaţiul cibernetic. Articolul se concentrează pe dimensiunea tehnică a evoluţiei AI şi ce presupune acest lucru pentru forţele armate. Totuşi, anumite consideraţii etice sau consideraţii filosofice cu privire la locul omului în lumea maşinilor sunt de neevitat. Ceea ce se întâmplă în spaţiul cibernetic poate reprezenta un progres imens dar poate de asemenea deveni oricând o ameninţare majoră. Cel mai probabil aceste riscuri vor pune în pericol pacea şi securitatea internaţională.

Această evoluţie este inevitabilă şi la acest moment un pas înapoi este de neînchipuit.

Noile tehnologii se regăsesc acum atât în zona privată a individului, cât şi în viaţa socială1, iar perspectivele AI vor face ca beneficiile să justifice o mulţime de compromisuri. Progresul în domeniul tehnologiei informaţiei oferă speranţă, dar este şi periculos în acelaşi timp. Noile instrumente pot promova pe de-o parte libertatea şi dezvoltarea, progresul şi bunăstarea dar şi opresiunea, frauda, manipularea şi controlul. Avansul tehnologic este benefic pentru toată lumea, de la cel puternic la cel slab, de la autorităţi ale statului la grupuri criminale. Astfel, ierarhiile şi autoritatea sunt fie întărite, fie slăbite2. Iar acest lucru va avea un impact semnificativ asupra naturii viitoarelor conflicte. Dacă se doreşte controlul dezvoltării noilor tehnologii şi în special controlul aplicaţiilor, este important ca riscurile şi oportunităţile să fie anticipate şi integrate.

AI va revoluţiona implementarea securităţii cibernetice, dar şi percepţia asupra sa, acestea vor deveni atribuţii permanente şi colective. În ziua de astăzi, statele şi infrastructurile critice sunt deja victimele unor atacuri pentru a se obţine diverse avantaje, fie politice, militare sau economice. Spaţiul digital este deja un adevărat spaţiu de confruntare3, iar atacurile cibernetice fac parte pe zi ce trece dintr-un nou tip de război rece4. Societăţile în ansamblu, din cauza interconexiunilor de la nivelul lor, vor deveni din ce în ce mai vulnerabile. Forme noi de conflicte, până acum ignorate, vor apărea la nivelul ţărilor, companiilor sau indivizilor. Dar un lucru este sigur, chiar dacă apar la nivel naţional sau internaţional, politic sau economic, conflictele vor avea o dimensiune cibernetică din ce în ce mai pronunţată. Actorul care deţine avantajul la nivelul reţelei, va deţine avantajul şi în faţa adversarului său5. Atacurile cibernetice vor fi din ce în ce mai exacte şi mai rapide. Ca răs­puns la această evoluţie, securitatea cibernetică trebuie să devină o construcţie formată din multiple elemente complementare, care împreună să creeze o arhitectură globală de securitate a spaţiului cibernetic. Iar competenţele militare din această zonă pot şi trebuie să devină un element important al acestei arhitecturi. Scopul ameninţărilor digitale, în special când au de-a face cu AI, nu este încă foarte bine înţeles. Pentru moment, ca să ne imaginăm acţiunile belicoase ale unui posibil agresor, este nevoie de o extrapolare a riscurilor din zona civilă la riscurile de la nivelul forţelor armate.

Acesta este motivul pentru care, forţele armate, incluzând armata elveţiană, trebuie să se afle în fruntea securităţii cibernetice. Astfel, am avea primul nivel al acţiunii de descurajare a unui atac cibernetic, respectiv se previne invazia teritoriului de către forţe armate străine. Acestea pot fi determinate să înceteze activităţile de la nivelul solului, dacă nu au reuşit în prealabil să slăbească sau să slăbească forţele armate ale ţării vizate. Rezilienţa, mai precis recuperarea rapidă a capacităţii de acţiune, trebuie să permită angajamentul mijloacelor de acţiune după sau în ciuda unui atac cibernetic în urma căruia au intervenit anumite daune. Este evident aşadar de ce forţele armate sunt direct interesate să contribuie la securitatea cibernetică. Noile tehnologii care vor fi folosite în viitor trebuie să fie sigure pentru a contribui la îndeplinirea misiunii, chiar uti­lizând un mediu cibernetic deteriorat.

Elemente problematice ale progresului inteligenţei artificiale

Principala provocare o reprezintă cunoaşterea modalităţii de a controla evoluţia curentă a AI şi consecinţele acesteia asupra forţelor armate, având în vedere că această evoluţie este inevitabilă. Trebuie identificate schimbările de paradigmă, iar acest lucru va duce la schimbări în viaţa socială, dar şi în relaţiile dintre ţări. Lumea de mâine se caracterizează prin volatilitate, incertitudine, complexitate şi ambiguitate. Puterea se va proiecta într-un mod nou, iar conflictele armate convenţionale, aşa cum sunt azi, în viitor se vor transforma în fenomene periferice. Provocarea va consta în identificarea unei modalităţi de a adopta cât mai multe noi tehnologii în paralel cu propria protecţie împotriva riscurilor majore presupuse de aceste tehnologii. În acest context, securitatea cibernetică devine o responsabilitate globală a Statului şi a tuturor celorlalţi actori care beneficiază de oportunităţi în spaţiul cibernetic sau care sunt avantajaţi de buna funcţionare a acestuia.

Per total, principala ameninţare este reprezentată de faptul că toate acţiunile din spaţiul cibernetic pot determina daune concrete în spaţii fizice şi pot afecta populaţia civilă, sau pot chiar cauza victime. Trebuie identificate ameninţările inexistente încă, dar care vor fi rezultatul progresului noilor tehnologii şi AI. Ameninţarea cibernetică trebuie să se situeze la acelaşi nivel cu ameninţările de tipul atacurilor cu rachete balistice sau de tipul terorismului internaţional, nemai menţionând faptul că aceste ameninţări pot fi combinate. Actori non-statali vor fi capabili să producă aceleaşi efecte ca şi actorii statali. Trebuie totuşi avut în vedere că atacurile care pot submina securitatea naţională şi stabilitatea unui stat au nevoie de resurse considerabile.

Sistemele trebuie protejate ca un întreg. Dacă nu există protecţie un atacator poate distruge sau întrerupe multe servicii esenţiale pentru populaţie cum ar fi distribuţia de apă şi electricitate sau chiar serviciile de vânzări în general. Iar acest lucru poate duce la tulburări sociale. Nu este de mirare astfel că atacurile cibernetice ruseşti din Ucraina în 2014 au vizat, pe lângă modul de desfăşurare al alegerilor, şi centrale electrice, bănci, spitale şi sis­teme de transport. Teoreticieni ai sistemelor susţin că dacă 37% dintr-o infrastructură este distrusă, aceasta nu va mai funcţiona6. Conform "Revue Strategique", gravitatea unui atac poate fi stabilită luând în considerare patru criterii7. Mai întâi, este necesară evaluarea daunelor care pot fi aduse intereselor fundamentale ale ţării înainte de a analiza încălcările securităţii interne. Apoi este necesară evaluarea daunelor aduse populaţiei şi mediului şi, în final, cele aduse economiei.

Se poate afirma la acest moment că AI va juca cu siguranţă un rol important în securitate, atât în ceea ce priveşte capabilităţile de apărare, cât şi cele de atac. Pentru anumite atribuţii de siguranţă, AI va depăşi cel mai probabil capacităţile umane şi va determina noi descoperiri. AI va putea controla unele dintre noile tehnologii dincolo de capabilităţile umane. Este esenţial rolul AI în machine learning / deep learning. Învăţarea automatizată determină progresul rapid al mai multor aplicaţii în comparaţie cu programarea. AI va permite fuziunea dintre lumile reale şi virtuale pentru a obţine o mai bună reprezentare a mediului. Vor exista oportunităţi noi de formare, care vor avea la bază o capacitate crescută de colectare a datelor, de analizare rapidă a acestora şi apoi de utilizare imediată.

Există trei modalităţi prin care este de aşteptat ca AI să determine creşterea ameninţărilor: va extinde şi diversifica ameninţările existente, va introduce ameninţări noi şi va modifica caracterul şi natura ameninţărilor cunos­cute8. Atacurile vor fi mai eficiente, mai exacte, mai dificil de atribuit şi vor exploata sistematic toate vulnerabilităţile. Forţele armate vor avea noi capabilităţi cum ar fi identificarea ţintelor umane (comandanţi militari) sau navigaţia autonomă. Se vor putea pune în aplicare campanii de dezinformare la o scală şi cu o probabilitate în acest moment necunoscute.

Astfel, viitoarele atacuri din spaţiul cibernetic se vor caracteriza în principal printr-o eficienţă crescută. Acestea vor fi pregătite mai bine şi cu mai multă atenţie9. Din cauza implicării AI, atacurile vor fi personalizate şi făcute la comandă pentru a atinge obiectivul dorit. În faţa acestui potenţial, provocarea va consta în interoperabilitatea dintre om şi maşini. Trebuie menţinut un anumit nivel de simplitate astfel încât oamenii să poată folosi informaţia rapid. Prea multă informaţie poate fi la un moment dat contraproductivă, la toate nivelurile şi funcţiile, inclusiv în zona militară. Nu mai este ficţiune ştiinţifică apariţia în domeniul securităţii cibernetice a unui război al maşinilor, sisteme contra sisteme. Maşinile de atac trebuie simultan să fie capabile să se apere împotriva unor contraatacuri extrem de rapide din partea sistemelor vizate anterior. În ceea ce priveşte roboţii, există trei factori importanţi de securitate10. În primul rând, dezvoltarea şi lansarea roboţilor, un fenomen global în curs de răspândire. În al doilea rând, adaptabilitatea roboţilor pentru diverse utilizări, ceea ce poate fi o reală problemă de securitate, şi, în final, autonomia, care este factorul cel mai riscant. Este posibil ca o maşină să vrea să nu mai fie sub controlul soldatului şi să continue îndeplinirea misiunii în modalitatea cea mai raţional posibilă. Controlul uman poate fi perceput ca fiind elementul distrugător şi periculos care trebuie eliminat pentru ca misiunea să fie îndeplinită. Unul dintre cele mai mari pericole ale acestei evoluţii este reprezentat de faptul că AI va putea să ia anumite decizii care au nevoie de reacţii rapide şi fără echivoc cum ar fi lansarea unor rachete sau arme nucleare11.

AI va determina creşterea eficienţei atacurilor cibernetice de tipul APT (Advanced Persistent Threats), care sunt cel mai des utilizate pentru spionajul industrial. Aceste instrumente, dificil de identificat, sunt foarte utile pentru spionajul reţelelor clasificate ale forţelor armate. Mulţumită acestor APT, actori non-statali vor putea avea aceeaşi influenţă în domeniul spionajului ca şi actorii statali. Dar AI poate avea un impact pozitiv asupra creşterii siguranţei. Deschide noi perspective asupra abilităţilor de a identifica, contracara şi răspunde la atacuri cibernetice, chiar şi la momentul în care vectorul atacurilor nu este cunoscut în avans. Deja este implicată în detectarea anomaliilor şi a malware-ului din spaţiul cibernetic.

Impactul asupra forţelor armate

Aflate în faţa ameninţării potenţiale considerabile pusă de AI în spaţiul cibernetic, forţele armate trebuie să fie pregătite să sprijine autorităţile civile în cazul unui eveniment de destabilizare majoră a societăţii. În multe dintre cazuri, riscurile pentru forţele armate trebuie să fie extrapolate pornind de la riscurile din zonele civile, pentru a putea presupune care vor fi acţiunile maliţioase ale unui agresor. Spaţiul virtual va avea nevoie de un mediu sigur în care evoluţiile pozitive să fie integrate, iar potenţialul lor să nu genereze dezastre. Luând în considerare oportunităţile şi riscurile potenţiale, este nevoie ca forţele armate să găseas­că cea mai bună modalitate de a profita de aceste avantaje, dar şi de a se proteja de riscuri. Întâi de toate ele trebuie să îşi asigure buna funcţionare pentru îndeplinirea serviciilor de securitate a Statului.

O nouă dezbatere este pe cale să înceapă. În ceea ce priveşte conflictul şi lupta, evoluţiile în curs ale AI şi noile tehnologii vor provoca mai multe daune prin acurateţea şi eficienţa lor crescută. Aceste noi sisteme vor face posibilă distrugerea mult mai eficientă a mijloacelor adversarului. Utilizând această logică, noile tehnologii sunt utilizate doar ca vectori de îmbunătăţire a ceea ce este posibil deja. Dacă schimbăm paradigma, este evident faptul că apare întrebarea dacă un inamic poate fi învins şi altfel, fără a te lupta cu el.

Spargerea unei reţele poate fi mai utilă decât introducerea unui nou sis­tem de armă. Nu va fi nevoie de distrugerea fizică a adversarului, acest lucru nu mai este un scop în sine, iar natura războiului nu doar va evolua, ci se va modifica complet. AI şi armele cibernetice au flexibilitate mărită, care le permite, prin utilizarea lor, să producă efecte de mai multe feluri. Puterea se va proiecta într-un mod nou iar conflictele armate convenţionale, aşa cum sunt azi, în viitor se vor transforma în fenomene periferice, de cele mai multe ori fiind conduse de intermediari. În contextul acestui nou tip de luptă, posibilele consecinţe pentru populaţia civilă nu sunt încă cunoscute.

(va urma)

--------

Articolul original al lui Colonelul Marc-Andre Ryter, în limba franceză, a fost publicat în nr. 2/2018 din Military Power Revue of the Swiss Armed Forces (pp. 18-30). Armata Elveţiană a acordat revistei noastre onoarea de a traduce acest articol în limba română în exclusivitate. Pe această cale ţinem să mulţumim în mod calduros Divisionarul Urs Gerber, redactor-şef ale Military Power Revue şi Colonelul Marc-Andre Ryter pentru disponibilitatea şi spriinul acordat. Toate volumele Military Power Revue se pot descărca gratuit accesând web-site-ul Armatei Elveţiene: www.vtg.admin.ch/en/media/publikationen/militarypower-revue.html

Colonel, absolvent de studii de politică de securitate şi licenţiat în Ştiinţe Politice, Marc-Andre Ryter este colaborator pe zona de doctrină militară a Statului Major al armatei Elveţiene. El urmăreşte dezvoltările tehnologice care sunt relevante pentru forţele armate şi pentru diferitele cadre de operaţiuni, în mod particular pentru dezvoltarea doctrinei militare. În 2016, a câştigat prestigiosul "Commandant's Prize for the best Senior Course Individual Paper" la NATO Defense College.

--------

Ziarul "BURSA" pregăteşte, pentru data de 4 iunie, Conferinţa internaţională "Cybersecurity Romania - Bucharest Talks", în parteneriat cu Swiss WebAcademy. Autorul articolului şi alţi invitaţi de înaltă ţinută vor dezbate subiecte importante din domeniu.

--------

Note:

1. Ryter Marc-Andre: La 4ème revolution industrielle et son impact sur les forces armees MPR I/17 pp. 50-62.

2. Rid Thomas: The Rise of the Machines Scribe Publications London 2016 p. 298.

3. Ryter op. cit. pp. 58-60.

4.Straub Jeremy: Artificial Intelligence is the weapon of the next Cold War, The Conversation, 29.01.2018, de citiit pe: https://theconversation.com/artificialintelligence-is-the-weapon-of-the-next-cold-war-86086

5. Anil Suleyman: How to integrate cyber defence into existing defence capabilities, in ANGELI Franco (Dir.): International Humanitarian Law and New Weapon Technologies, International Institute of Humanitarian Law, San Remo 2012, p. 152.

6. Anil op. cit. p. 149.

7. Revue Strategique de Cyberdefense Secretariat General de la Defense et de la Securite Nationale Paris 12.02.2018 de citiit pe http://www.sgdsn.gouv.fr/ uploads/2018/02/20180206-np-revue-cyber-public-v3.3-publication.pdf

8. Brundlage Miles (et al): The Malicious Use of Artificial Intelligence: Forecasting Prevention and Mitigation, February 2018, 99 p., de citiit pe https://arxiv.org/ ftp/arxiv/papers/1802/1802.07228.pdf

9. Ibid p. 21.

10. Ibid p. 39.

11. Straub op. cit. p. 3.

Opinia Cititorului ( 1 )

Acord

Prin trimiterea opiniei ne confirmaţi că aţi citit Regulamentul de mai jos şi că vă asumaţi prevederile sale.

  1. Este fascinant și totuși înspăimântător un asemenea viitor, în ceea ce privește „ vastul imperiu” al AI . După cum se știe toate ideile cuprinse în lucrările marilor scriitori de SF , s-au materializat, astfel că omul cibernetic sau roboții super dotați informativ vor ajunge să capete spiritul unor energii care vor contacta cu câmpurile lor energetice , biocâmpurile umane. Oricum , în timp, tot ceea cc Omul - zeu va concepe referitor la omul cibernetic, această istorie va începe cu : „ Noi am hotărât să facem om - robot, după chipul și asemănarea noastră.

    Acord

    Prin trimiterea opiniei ne confirmaţi că aţi citit Regulamentul de mai jos şi că vă asumaţi prevederile sale.

Gala BURSA 2019

Cotaţii Internaţionale

vezi aici mai multe cotaţii

Bursa Construcţiilor

www.constructiibursa.ro

www.agerpres.rowww.dreptonline.rowww.hipo.ro
Cabinet de avocatTMPS