De første ondsinnede eksemplene på bruk av deepfakes i politisk forstand har nå begynt å dukke opp. Denne virkeligheten har vi i Trend Micro advart mot i flere år. En virkelighet som i økende grad vil bestå av deepfakes, altså lyd- og videoinnhold basert på avansert bruk av kunstig intelligens (AI) som er designet for å lure publikum til å tro at det de ser og hører er ekte.
Nå bør det ikke være noen tvil om at alt fra sikkerhetsansvarlige, toppledere og -politikere verden over må inkludere deepfakes inn i sitt risikobilde
Nylig opplevde vi de første tilfeller hvor deepfakes hadde blitt brukt mot europeiske parlamentsmedlemmer, bestående av falske videosamtaler som gir seg ut for å være fra den russiske opposisjonen. Uavhengig av hvor vidt parlamentsmedlemmene lot seg lure eller ikke, vitner dette om hvor langt teknologiutviklingen har kommet, og hva vi kan forvente oss fremover.
Når dette er i ferd med å bli den nye virkeligheten, er det viktig at sikkerhetsindustrien, myndigheter og regulatorer forbereder seg. Positive tiltak er på vei, blant annet fra EU, som har tatt initiativ til reguleringer for bruk av AI. Og da med fokus på å etablere en global standard. Selv om det siste kanskje vil være en smule naivt og til dels utopisk, vil jeg berømme Europakommisjonen for å sette det her på dagsorden.
Nå bør det ikke være noen tvil om at alt fra sikkerhetsansvarlige, toppledere og -politikere verden over må inkludere deepfakes inn i sitt risikobilde. I tillegg er det avgjørende at hele IT-sikkerhetsbransjen fortsetter å forske på hvordan vi best kan håndtere, avsløre og takle disse truslene fremover. Alternativet er en «falsk virkelighet» verden aldri har sett maken til, som kan velte alt fra demokratiske prosesser til selve demokratiet.
Begrepet deepfake, som er en kombinasjon av «deep learning», altså maskinlæring, og «fake media», altså falske nyheter, sier ganske mye om hvor viktig det er å ta dette på alvor. Deepfake-teknologien er som oftest basert på nevral nettverksteknologi, hvor video av to personer lastes inn, for så å bytte ansiktsuttrykk, bevegelser og stemme mellom personene. Slik mange av oss gjør for moroskyld i dag via blant annet Reface-appen til iPhone og Android. I tillegg finnes det flere deepfake-tjenester på internett, som for eksempel Deepfakes Web, som tar seg betalt for at du og jeg kan lage deepfakes som kan være svært vanskelig å avsløre som «fake».
Mulighetene for å spre desinformasjon og skape uro er nesten ubegrenset for dem som er i stand til å unytte deepfake-teknologien fullt ut
I tilfellet mot de europeiske parlamentsmedlemmene, ble deepfakes benyttet i et Zoom-møte, og Rihards Kols, en av parlamentsmedlemmene som ble utsatt for den falske videosamtalen, la ut en tweet 22. april for å vise akkurat hvor langt teknologien har kommet og hvor vanskelig det er å skille mellom det ekte og det falske.
Mulighetene for å spre desinformasjon og skape uro er nesten ubegrenset for dem som er i stand til å unytte deepfake-teknologien fullt ut. Direktørsvindel har som ett eksempel i stor grad basert seg på e-post hvor avsender, som ser ut til å være en fra toppledelsen, ber utvalgte ansatte om å overføre penger. Slike svindler blir enda mer effektfullt hvis den samme beskjeden om å utføre bankoverføringer, kommer i form av en videosamtale hvor lederen ser tilsynelatende ekte ut.
Veien frem mot at reguleringer, verktøy og kunnskap for å håndtere ondsinnet bruk av AI er lang
Dessverre er også deepfakes benyttet for å oppnå økonomisk vinning og til å destabilisere demokratier, bare starten. Teknologien blir ikke bare bedre og raskere, men også billigere og enklere å ta i bruk. Innen et par års tid vil antageligvis samtlige av oss ha muligheten til å lage svært så overbevisende deepfakes med vår egen smarttelefon. Sannsynligvis helt gratis også.
Teknologien vil helt sikkert bli brukt til å lage mange morsomme videoer. Men den vil også bli brukt til å spre desinformasjon og falske nyheter, som kan oppleves svært ubehagelig og gjøre stor skade på enkeltindivider, familier, venner, virksomheter og myndigheter.
Veien frem mot at reguleringer, verktøy og kunnskap for å håndtere ondsinnet bruk av AI er lang. Men ved å ta konkrete skritt for å bedre forstå hvilke trusler vi står ovenfor, kan vi få en taktisk fordel. Men det forutsetter at vi tar advarslene på alvor.
Karianne Myrvold
Markedssjef i Trend Micro
