Kunstig intelligens kan gi militært immunforsvar
Korleis skal Forsvaret ruste seg for ein krig der cyberoperasjonar er ein stor og trugande faktor? Ei internasjonal forskargruppe gir nye svar. FFI-forskarar har vore sentrale i arbeidet.
Cyberåtak kjem fort og uventa. Og det kan bli mange fleire slike i åra framover.
Korleis skal Forsvaret møte desse utfordringane?
Dersom det skal halde oppe den operative evna kan Forsvaret ikkje lenger stole berre på manuelle brannmurar og menneskeleg reaksjonsevne.
Så kva må til? Prosjektet AInception peikar ut ei tydeleg retning.
Ei KI-ramme for framtida
Hovudmålet for AInception har vore å utvikle teknikkar og teknologi basert på kunstig intelligens (KI) for deteksjon og respons av hendingar i cyberdomenet, for militære system og militære operasjonar.
Deltakarane i prosjektet har arbeidd med å utvikle og sy saman det teknologiske og det militære. Sidan oppstarten i desember 2022 og fram til avslutninga i november i fjor har forskarane jobba med å etablere ulike KI-komponentar, for deretter å sette alt saman i eit «proof-of-concept» rammeverk. Rammeverket syner korleis kunstig intelligens kan brukast til å oppdage og respondere på digitale truslar.
Fire sentrale aktivitetar
Deltakarar frå ei rekke EU-land og institusjonar (sjå rammesak) har gjennom tre år slått hovuda saman gjennom ei rekke aktivitetar. Dei kan delast inn i fire deler:
Den første er utvikling av ein militær kontekst, gjennom eit geopolitisk scenario og fleire militære delhistorier, såkalla storylines.
Det andre har vore simulering av slike storylines, for å skape datasett tiltenkt utvikling og testing av KI-driven teknologi.
Det tredje var utviklinga av ulike KI-verktøy for militær bruk i cyberdomenet.
Det fjerde og siste var å sette saman utvalde KI-verktøy for eit ende-til-ende «proof of concept»- rammeverk, for deteksjon og respons til militær bruk i cyberdomenet.
Dei blå og raude landa
Mykje av kunnskapen om militær kontekst er no samla i FFI-rapporten «AInception scenario and storylines». Den inneheld eit scenario med fiktive land og krigshandlingar. Forskarane skapte eit kontinent der ei geopolitisk krise eskalerer frå fred til væpna konflikt.
På dette kontinentet er «Blålanda» dei venlege og allierte statane. «Raudlanda» er fiendtlege aktørar med høg kapasitet innanfor cyberoperasjonar. Historiene spelar seg ut i dei ulike delhistoriene, som dekker dei tradisjonelle domena sjø, luft og land. Cyberåtak har ei viktig rolle.
Fleire av historiene er blitt simulerte i ulike cyber-ranger, for å generere data til trening av KI-komponentane. Ein cyber-range blei også brukt til å evaluere «proof of concept»-rammeverket i eit «capstone»-prosjekt. Mesteparten av dei genererte datasetta er tilgjengelege for alle.
Tilstrekkelege realistiske historier
Opplegget gav FFI-forskarane og kollegaene fridom til både å syne og simulere alvorlege, men tilstrekkeleg realistiske historier utan å skjele til politiske bindingar.
– Det er viktig å seie at det vi førestiller oss i rapporten ikkje er spådommar om framtida eller skildringar om korleis dette verkeleg ville ha arta seg, militært sett. For oss har slike tenkte scenario fungert som ei ramme for å forstå operative behov og nytteverdiar. Storylines gjorde det mogleg å generere tilstrekkelege realistiske datasett, som trengst for å trene opp og evaluere KI-verktøya, fortel FFI-forskarane Gudmund Grov og Aasmund Thuv.
FFI har vore teknisk leiar for prosjektet. Instituttet har leidd arbeidet med utvikling av militær kontekst, medan et gresk firma har hatt det overordna prosjektansvaret.
Cyberforsvar for militære operasjonar
Prosjektet har brukt cyber-ranger for å simulere cyberåtak mot alt frå dronar til maritime system. Både generiske og spesialiserte KI-verktøy er blitt utvikla for å forsvare slike system.
Aasmund Thuv understrekar kor viktig arbeidet er:
– Vi må forvente at cyberåtak i framtida vil kunne ramme alle typar militære system som blir brukte i militære operasjonar, noko som har vore eit tema i AInception, seier han.
Støtte til Cyberforsvaret
Ein sentral mottakar av denne forskinga er det norske Cyberforsvaret (CYFOR). Avdelinga har ansvar for å etablere, drifte og verne Forsvarets militære informasjons- og kommunikasjonssystem. Hovudoppgåva er å sikre at Forsvarets samband og datasystem fungerer feilfritt i både fred, krise og krig.
For CYFOR er resultata frå AInception-prosjektet relevante. Saman med NSM har dei vore ein viktig samarbeidspartnar for FFI under gjennomføringa av prosjektet.
Fleire enn 20 akademiske artiklar er blitt publisert i samband med AInception, inkludert ein artikkel som vann beste artikkelpris på International Conference on Military Communication and Information Systems (ICMCIS) 2025, ein artikkel som FFI bidrog til.
FFI-forskar Monica Endregard ved FFI peikar på verdien av denne internasjonale anerkjenninga:
– Det er veldig motiverande å sjå at arbeidet vårt med respons på cyberhendingar blei anerkjent på ein viktig internasjonal konferanse. Dette syner verdien av samarbeid og nyskapande forsking innanfor eit felt som er kritisk for framtidas forsvar, seier ho.
Behov for fleire slag KI
Den teknologiske utviklinga har gått veldig raskt, med stor merksemd rundt store språkmodellar som for eksempel frå Google, OpenAI og Anthropic. Interessa vaks spesielt mykje etter at ChatGPT kom i november 2022, også for å støtte forsvar mot cyberåtak.
AInception-prosjektet blei planlagt før ChatGPT kom ut. Slike modellar har ikkje hatt veldig stor vekt i prosjektet, sjølv om dei har blitt brukte til noko av det. Likevel er resultata frå AInception-prosjektet viktige, fastslår forskarane.
– Det er mange former for KI. I AInception har vi sett at ulike former for KI trengs for ulike formål når ein skal forsvare seg mot cyberåtak. Språkmodellar kan brukast til noko av dette, men mange av teknikkane frå AInception har andre bruksområda der språkmodellar ikkje har oppnådd same resultat. Vi hadde derimot truleg lagt større vekt på språkmodellar og agentar om vi hadde starta prosjektet no, seier Grov og Thuv.