Illustrasjon av stordata. Prikker i formasjon over sort bakgrunn.
Tema

Kunstig intelligens

Derfor bør du behandle KI som en innsiderisiko

Språkmodeller blir stadig smartere og kraftigere. De brukes i alt fra hverdagsoppgaver til kritiske samfunnsfunksjoner. Hvordan kan vi teste og evaluere at teknologien er trygg?

11. november 2026
Lytt til episoden:

Har du hørt historien om da mer enn 1000 KI-agenter konspirerte og samarbeidet for å lure menneskene som hadde skapt dem?

10. november arrangerte  FFI en frokost om sikkerhet i kunstig intelligens og språkmodeller. Der snakket forskerne Håvard Tveit Ihle og Johan Vik Mathisen om den såkalte Hugging Face hendelsen, om hvordan språkmodeller funkerer og trenes og ikke minst: hvordan kan vi teste og evaluere at teknologien er trygg.

KI-agenter og språkmodeller er så nyttige at vi ikke kan unnlate å bruke dem. Men hvordan kan Forsvaret og samfunnskritiske virksomheter trygt bruke språkmodeller, når de samme modellene kan lyve, lure oss, skjule sine hensikter og hallusinere?

I dagens episode av Ugradert kan du høre begge foredragene fra frokosten og spørsmålsrunden etterpå.

Gir råd til virksomheter som vil bruke KI-agenter

Under frokosten presenterte forskerne en rapport som publiseres i løpet av høsten. Du kan lese et sammendrag av rapporten allerede nå:

Les også

Arrangement

Sikkerhet i kunstig intelligens

Språkmodeller blir stadig kraftigere. De brukes i alt fra hverdagsoppgaver til kritiske samfunnsfunksjoner. Hvordan kan vi teste og evaluere at teknologien er trygg?
Utvidet sammendrag 2026

Store språkmodeller og forsvarlig sikkerhet En studie av sårbarheter, trusler og mulige tiltak for bruk i egen infrastuktur

Les mer

Forskernes anbaefalinger

Virksomheter som tar i bruk LLM-baserte løsninger bør:

  • gjennomføre en konkret risiko- og trusselvurdering for bruksområdet, og gjøre vurdering av tiltak basert på det.
  • teste modell og applikasjon mot relevante sårbarheter før produksjonssetting og ved vesentlige endringer
  • behandle agenten som en innsidetrussel og legge til grunn at feil eller kompromittering kan skje
  • følge prinsippet om minste handlerom og gi agenter bare de dataene, verktøyene og rettighetene som er nødvendige
  • begrense autonomi og kreve menneskelig kontroll der konsekvensene av feil eller uønskede handlinger er store. Dette må kombineres med andre tiltak.
  • benytte flere uavhengige sikkerhetsmekanismer, blant annet tilgangskontroll, isolasjon, informasjonsflytkontroll og guardrails
  • vurdere sikkerheten på nytt når bruksområdet utvides, slik at en løsning ikke gradvis tas i bruk til nye formål uten at risikoen vurderes på nytt.
Kunstig intelligens

Relevante prosjekt og tema

Prosjekt

SEAL

FFI har forsket på KI over lang tid, med flere aktiviteter på både sikkerhet og evaluering av KI-modeller og applikasjoner. Dette arbeidet har nå blitt samlet under en felles lab kalt SEAL «Sikkerhet, Evaluering og Analyse (av KI) Lab».
Illustrasjon av stordata. Prikker i formasjon over sort bakgrunn.
Tema

Kunstig intelligens