Slik endrer kunstig intelligens påvirkning på nett
Kunstig intelligens gjør det enklere enn noen gang å spre desinformasjon – og vanskeligere å vite hva vi kan stole på. Teknologien har endret spillereglene og skapt en ny informasjonsvirkelighet, mener seniorforsker Paul Buvarp.
Hvordan påvirkes vi av innhold vi ikke engang vet om er ekte?
Paul Buvarp forsker på desinformasjon og utenlandsk påvirkning. Han er en ivrig samfunnsdebattant når det gjelder hvordan sosiale medier påvirker oss. I denne ukens episode av Ugradert snakker han om hvordan KI har endret informasjonsmiljøet generelt og informasjonskrigføring spesielt.
Mer innhold, raskere – og mer troverdig
Buvarp og kollegene som studerer påvirkning, ser spesielt på det de kaller FIMI – Foreign Information Manipulation and Interference. Det vil si koordinerte, statsstyrte eller statssponsede forsøk på å påvirke informasjonsmiljøet i andre land.
Ifølge Buvarp er det særlig én utvikling som merkes: Før tok det tid å lage tekst, bilder eller video. Nå kan det produseres på sekunder. Det gjør at aktører kan pøse ut langt mer innhold enn tidligere.
Samtidig har kvaliteten økt. Språkmodeller kan skrive feilfri tekst, og det er ikke lenger like enkelt å avsløre avsender gjennom språklige feil. I tillegg kommer KI-genererte bilder, lyd og video – såkalte «deepfakes» – som kan gi inntrykk av at personer har sagt eller gjort noe de aldri har gjort.
Følelser som bakdør inn i hodet
En sentral trend er hvordan KI flytter påvirkning fra argumenter til følelser, sier Buvarp.
– Video og visuelt innhold er lett å konsumere. Det går rett inn i sanseinntrykkene våre, uten at vi nødvendigvis stopper opp og vurderer det kritisk, sier Buvarp.
Han peker på at påvirkning i økende grad handler om stemninger og følelser.
– Det er lettere å påvirke oss ved å gjøre oss sinte, glade eller triste. Påvirkning handler mer og mer om «vibes», mindre om å overbevise gjennom logisk argumentasjon, mener Buvarp.
Som eksempel bruker han KI-genererte videoer av ukrainske soldater som sitter i kjøretøyer ved fronten og gråter. De er kunstig generert, men likevel oppleves som ekte, og skaper «ekte» følelser.
KI-agenter forkledd som mennesker
Buvarp trekker fram en mulig fremtid der KI-agenter opptrer som mennesker på nettet.
– Vi vet fra forskning at folk endrer mening i møte med personer de har tillit til. KI-agenter kan i teorien operere på egen hånd, bygge relasjoner over tid – og så påvirke gradvis, sier han.
Selv om slike eksempler foreløpig er begrenset, mener han at teknologien allerede er langt nok utviklet til at det er realistisk.
Skjønnhet, troverdighet – og påvirkning
KI gjør det også mulig å skape troverdige, attraktive «personligheter» som kan brukes i påvirkningskampanjer. Buvarp viser til studier som viser at vi har en tendens til å tillegge vakre mennesker større troverdighet.
– Når hvem som helst kan lage slike videoer der unge vakre kvinner kommer med et budskap. Det kan utnyttes til å spre budskap mer effektivt, sier han.
Ikke bare en trussel
Buvarp understreker at teknologien også kan brukes til forsvar mot påvirkning. KI kan analysere store datamengder og avdekke mønstre som er vanskelig for mennesker å oppdage, og dermed bidra til å avsløre påvirkningsoperasjoner.
En ny informasjonsvirkelighet
Buvarp mener vi står midt i et skifte som kan endre hvordan vi forstår informasjon.
– Ingenting som er KI-generert er egentlig «sant» i tradisjonell forstand. Men det kan fortsatt oppleves troverdig – og påvirke oss, sier han.
Han advarer mot å gjenta feilen fra sosiale medier, der regulering kom sent:
– Selskapene innen sosiale medier fikk ture på som de ville i flere tiår. Det har ikke gått så bra. Vi må forstå hvor kraftfull denne teknologien er, og sørge for at det finnes rammer som beskytter samfunnet. Vi er nødt til å få på plass et slags vern, slik at ikke KI-generert innhold raserer måten vi ser og forstår verden gjennom informasjon, sier Buvarp.