Medietilsynet åtvarar: Ikkje tru alt du ser – det er lett å bli "deepfaket"

I ein ny kampanjevideo frå Medietilsynet har Abid Raja frivillig late seg deepfake for å demonstrere kor lett ein kan bli lurt av bilete, lyd og video.

– Målet med videoen er å vise at denne teknologien er utbreidd og lett tilgjengeleg, og at kjeldekritikk derfor er endå viktigare og vanskelegare enn før, seier Mari Velsand, direktør i Medietilsynet. 

Deepfake

  • «Deepfake» blir brukt som eit samleomgrep på bilete, video og lyd framstilt ved hjelp av maskinlæring, altså kunstig intelligens.
  • Typiske bruksområde er å byte ut ansikt eller å lage syntetiske stemmer som til forveksling liknar personen dei er kopierte frå. Tenk på det som eit Snapchat-filter, berre meir avansert.
  • For å lage ein truverdig deepfake er kjeldematerialet viktig. Jo meir høgoppøyseleg bilete, video eller lydmateriale du har av personen som skal forfalskast, jo betre utgangspunkt har du for å bygge den digitale modellen.
  • Når den kunstige intelligensen er trena opp med kjeldematerialet, kan han få instruksjonar og spytte ut eit meir eller mindre truverdig resultat, avhengig av kvaliteten på teknologien.

Kilde: telenor.no

Faren er at vi resignerer, og sluttar å tru at noko er sant.

Kan lagast av bestemor

I kampanjevideoen står Abid Raja fram som trønderen Einar frå Byåsen. «Einar» fortel i videoen at Abid Raja berre var ei rolle han tok på seg då han flytta til hovudstaden for å bli kjendis. 

Men den som eigentleg blir filma og snakkar er Eskil Sivertsen, spesialrådgivar ved Forsvarets forskingsinstitutt (FFI). Han forskar på propaganda, desinformasjon og påverknad. 

– Videoen er laga med programvare som kven som helst kan laste ned frå nett. Du treng ikkje spesielle forkunnskapar. Det var litt av poenget. Det går an å laga betre og meir overtydande deepfakevideoar enn dette, understrekar Sivertsen.

– Vi ønskte å vise kor lett du kan lage noko som er godt nok til å lure nokon på ein mobilskjerm.

På kort tid har kunstig intelligens gitt oss verktøy som gjer det lettare å laga bilete, video og lyd som manipulerer identiteten til andre. I denne episoden av FFis podkast «Ugradert – kort forklart» snakkar spesialrådgivar Eskil Grendahl Sivertsen frå FFI om kva deepfake er og kvifor det er viktig med kjeldekritikk i møte med dagens medieinnhald.

Teknologien kan bli misbrukt

Kampanjevideoen, som skal gå i sosiale medium fram mot valet hausten 2023, er eit samarbeid mellom Medietilsynet og FFI. 

Sivertsen seier at teknologien kan bli brukt til å villeie og feilinformere befolkninga. Den kan bidra til å stadfeste fordommar eller forsterke haldningar.

– Vi ser at det bli stadig meir falskt eller AI-generert innhald på internett, som tek plassen til ekte innhald. Det kan vere vanskeleg å sortere kva som er ekte, både for menneske og maskiner, seier Sivertsen.

– Vi ser mellom anna at falsk innhald har byrja å dukka opp i søkjemotorar viss du søkjer på personar eller omgrep. Dette kan bli ei utfordring på sikt. Faren er at vi resignerer, og sluttar å tru at noko er sant.

Lett å bli lurt

Deepfaking kan også gjerast i sanntid. Med deepfake-teknologi kan du ringe nokon i ein videosamtale og sjå ut som nokon andre og høyrast ut som nokon andre.  Så korleis skal vi klare å skilje fake frå ekte i ein slik situasjon? Sivertsen meiner det ikkje finst nokon openberre eller enkle løysingar. 

– Det blir jobba med reglar for bruk av teknologien, både i EU og andre stader. Men det vil likevel finnast aktører som bruker deepfake og AI-teknologi til å lage falsk innhald utan å bry seg om reglar, seier Sivertsen.

– Berre dei siste månadene er det skjedd utruleg mykje innanfor denne teknologien. Den viktigaste forsvarsmekanismen vi sit att med er vår eigen kjeldekritikk. Ha det som ein ryggmargsrefleks: Ikkje alt treng å vere slik det verkar. Særleg på internett. Det beste rådet når du ser ein video er å stoppe, tenkje og sjekke. Er dette ekte?

Medietilsynets råd:

Stopp
Vekker saka sterke kjensler? 
Verkar saka for utruleg?

Tenk
Trur du på biletet, videoen, lyden? Kan det vere teke ut av samanhengen sin eller manipulert? 
Prøver saka å påverke deg?

Sjekk
Finn du saka andre stader? 
Veit du kven som står bak?