Kripos vil satse på kunstig intelligens, men mangler ressurser

Kunstig intelligens gir både nye muligheter og utfordringer for politiet, men Kripos NC3 mangler ressursene til å bygge opp et nødvendig fagmiljø.

AMBISIØSE: Seniorrådgiver Joachim Hartgen-Sverdrup og
NC3-sjef Olav Skard ønsker å bygge opp et fagmiljø for generativ
kunstig intelligens hos Kripos, men per i dag har de ikke ressurser
til å etablere et slikt miljø.
AMBISIØSE: Seniorrådgiver Joachim Hartgen-Sverdrup og NC3-sjef Olav Skard ønsker å bygge opp et fagmiljø for generativ kunstig intelligens hos Kripos, men per i dag har de ikke ressurser til å etablere et slikt miljø.
Publisert Sist oppdatert

Lanseringen av chatboten ChatGPT den 30. november 2022, ble starten på et heseblesende kappløp blant utviklerne av såkalt generativ kunstig intelligens (GKI). Ett år og flere kvantesprang senere har teknologien blitt allemannseie – også i kriminelle miljøer.

– Det vi nå ser, er at det har kommet et nytt teknologisk verktøy som kan bli misbrukt av cyberkriminelle. Det som tidligere har krevd veldig mye menneskelige ressurser, innenfor mange kriminalitetsområder, kan nå gjøres veldig mye raskere og mer effektivt. I sum resulterer dette at de cyberkriminelle får økt kapabilitetene sine, sier Joachim Hartgen-Sverdrup, seniorrådgiver på seksjon for datakriminalitet hos Kripos.

I rapporten «Generativ kunstig intelligens og cyberkriminalitet», som Kripos offentliggjorde tidligere i høst, pekes det på at GKI med meget stor sannsynlighet vil gi flere og mer kompetente cyberkriminelle, og vil senke terskelen for å utføre cyberkriminalitet.

– Det gjelder i så å si alle aspekter av cyberkriminalitet. Om det er kriminalitet mot datamaskiner, eller kriminalitet støttet av datamaskiner. Så er ikke dette en prediksjon, men en beskrivelse av et mulighetsrom for de kriminelle, dersom politiet og andre ikke gjør noen mottiltak. Dette baserer seg på den teknologiske utviklingen vi har sett så langt, og hvor vi tror teknologien kan ta cyberkriminaliteten neste fem årene, sier Hartgen-Sverdrup.

Funksjonelle verktøy

Fagfolk hos Kripos har sett denne utviklingen komme, lenge før ChatGPT ble en del av norsk dagligtale, understreker Olav Skard, leder for Nasjonalt Cyberkrimsenter (NC3). Han tror GKI-teknologien kommer til å endre måten politiet jobber på.

– GKI vil påvirke måten vi tilnærmer oss kunnskap på og løser problemer på i framtiden i stort. Det er ganske åpenbart. Dette er nok et skritt på veien til å venne seg til å måtte forholde oss til svar og forslag til løsninger som er generert av teknologi, basert på vår input. Så må vi forholde oss til disse rådene som hvilke som helst andre råd, og ikke ta alt for god fisk, sier Skard.

KI og kriminalitet

Generativ kunstig intelligens gir nye verktøy for kriminelle, øker kapabiliteten og understøtter alle typer cyberkriminalitet. Teknologien kan blant annet brukes til:

  • Å generere skadevarekode, til bruk i kriminalitet mot datasystemer.
  • Å generere syntetisk tale til bruk i bedragerier.
  • Å generere bilder som seksualiserer barn.
  • Å produsere «deepfakes», falske videoklipp av reelle personer.
  • Automatisert rekruttering til terrororganisasjoner gjennom bruk av chatbotter.
  • Påvirkningsoperasjoner gjennom masseetablering av plausible, falske digitale identiteter.

Kilde: Kripos-rapporten «Generativ kunstig intelligens og cyberkriminalitet»

For Kripos handler det om å forstå hvilke muligheter og begrensninger teknologien gir for både politiet og de kriminelle – i dag og i framtiden.

– Dette er to sider av samme mynt, sier Skard.

– Vi må være helt framme i utviklingen ved å ha som ambisjon å forstå hvordan kriminelle gjennomfører sine operasjoner. Vi må tenke på samme måte som vi gjør når vi reverserer teknologi, for å finne sårbarheter og for å kunne komme fram til informasjon som vi kan bruke i etterforskning. Vi må kunne reversere kriminelles bruk av GKI. Forstår vi hvordan de bruker teknologi, forstår vi hvordan vi kan bruke det mot dem. Både i forebygging og etterforskning, og ikke minst avverging, fortsetter han.

Målet for Kripos er å bruke GKI til å utvikle funksjonelle verktøy som kan tas i bruk i ytre etat.

Vi ønsker å bruke teknologien til å utvikle verktøy til hjelp med etterforskning.

– Metodeutviklingen går i retning av at man får de beste resultatene ved å bli flinkere til å bruke og anvende elektroniske spor, og evne å analysere dem og sette dem sammen. GKI er i kjernen av dette. Vi ønsker å bruke teknologien til å utvikle verktøy til hjelp med etterforskning, sier Skard.

Han peker på måten Kripos i løpet av de siste fem-seks årene har bygget opp et fagmiljø innenfor kryptovaluta, og at de også har løftet denne kompetansen ut i politidistriktene.

– Det tenker vi også å gjøre med GKI som sådan. Vi kommer til å fokusere på det funksjonelle, på anvendt GKI. Så får vi se etter hvert om dette krever eget personell i politidistriktene.

Ordliste

Chatbot

Et dataprogram som simulerer menneskelig kommunikasjon, som for eksempel automatiserte kundeservice-assistenter. Eldre chatboter er forhåndsprogrammerte og gir begrensede svar, mens nyere chatboter er bygget på kunstig intelligens og maskinlæring.

Kunstig intelligens (KI)

Et begrep som omfatter programvare som de fleste har et forhold til i dag, gjennom blant annet søkemotorer, bildefiltre og oversettertjenester. Teknologien automatiserer og effektiviserer mange type prosesser.

Generativ kunstig intelligens (GKI)

En undergruppe av KI-systemer som kan generere blant annet tekst, bilde og lyd basert på inndata. Inndataen kan for eksempel bestå av tekst som beskriver et ønsket resultat. Chatboten ChatGPT er et eksempel på dette.

Maskinlæring

Refererer til en rekke ulike KI-teknikker, der reglene skapes av dataene som systemet trener på, snarere enn at de er forhåndsdefinert av mennesker. Maskinlæring består av algoritmer som benyttes til å utføre statistiske utregninger.

Deepfake

Manipulert og syntetisk generert materiale av ekte mennesker, som blir presentert som ekte innhold. Deepfakes kan for eksempel vise en person som sier eller gjør noe den aldri har sagt eller gjort.

Trenger kunnskap

Sentralt i ambisjonene er å kunne utnytte mulighetene GKI gir til å finne sammenhenger i store informasjonsmengder. Et slikt verktøy kan igjen brukes i etterforskning.

Enkelt forklart bygger GKI på enorme datasett, som brukes til å generere for eksempel tekst eller bilder, basert på menneskelig input. Disse modellene kan trenes opp på eksisterende datasett, som for politiets del gir utfordringer knyttet til informasjonssikkerhet. Der har kriminelle et fortrinn, medgir Skard.

Kriminelle kan fikle og leke med verktøyene umiddelbart. Den luksusen har ikke politiet.

– Kriminelle kan fikle og leke med verktøyene umiddelbart. Den luksusen har ikke politiet. Vi må vite hva disse verktøyene gjør, uavhengig om vi bygger opp systemet selv eller kjøper systemer fra andre, sier NC3-sjefen.

Han er imidlertid ikke i tvil om at Kripos vil klare å komme på høyde med og få overtaket på de kriminelle, bare de får fart på «GKI-skuta».

– Det er basert på de samlede ressursene vi sitter på. Vi ser at der vi har fokus, og setter inn folk og ressurser over tid, der vinner vi. Men dette er noe som må gjøres i trygge omgivelser, fordi politiet jobber med informasjon som ikke skal på avveie, og trenger unike datasett som vi må utvikle selv. Å utvikle slike verktøy, og anvende denne teknologien, er i praksis utvikling av etterforskningsverktøy. Da må vi være nøye med hvem som skal gjøre det. Derfor må vi ha et in house-miljø. Vi må kunne stå inne for informasjonssikkerheten, slik at sensitiv informasjon ikke kommer på avveie, fortsetter Skard.

– Har dere den nødvendige kompetansen i dag?

– Vi har personell i dag som har kompetanse som kan anvendes. For oss vil et GKI-miljø basere seg på eksisterende kompetanse på Kripos, forsterkes med nye ansatte, og bygge videre på det vi kan. Men her vil det ikke holde å sette sammen et team i en begrenset arbeidsperiode. For å få fokus, fart og retning på arbeidet med GKI, trenger vi å samle personell som over lang tid er dedikert til å utgjøre kjernen i en slik kompetansegruppe, svarer Skard.

Bør skje på Kripos

NC3-sjefen sier Kripos allerede har helt konkrete planer for å etablere et fagmiljø som skal jobbe spesifikt med GKI. På spørsmål om når en slik gruppe skal være på plass, svarer Skard dette:

– Det må på plass snarest mulig. Altså nå. I det vi har folk på plass, har vi oppdragene klare, hvor de skal begynne. Så lenge vi har flinke folk og ressurser til å jobbe kontinuerlig med problemstillingene, er vi ikke bekymret.

– Har dere de nødvendige ressursene i dag?

Vi har ikke de nødvendige ressursene [...] per nå.

– Vi har ikke de nødvendige ressursene innenfor GKI per nå. Vi kan gjøre det vi kan med det vi har, og vri på noen ressurser, men det er grenser for hvor mye få ansatte kan gjøre for å henge med i den teknologiske utviklingen. Det er behov for mer ressurser, slår Skard fast.

NC3-sjefen understreker viktigheten av at denne metodeutviklingen skjer hos Kripos.

– Vi må ta i bruk ny teknologi, og prøve og feile. Det tror jeg fortsatt er klokt skjer på Kripos. Det er både økonomisk, og gir en større grad av sikkerhet for å unngå at vi utvikler lite hensiktsmessige metoder.

Dette, sier han, krever også at det er ressurser til metodeutvikling tilgjengelig hele tiden.

Når vi kjenner at vi ikke er relevante lenger, da har de kriminelle fått et enormt forsprang.

– Det finnes ingen platåer å hvile på. Man kan ikke gjøre et løft på to-tre år, og så flate ut og hvile i tre-fire år til man begynner å kjenne at man kanskje ikke er relevante lenger. Når vi kjenner at vi ikke er relevante lenger, da har de kriminelle fått et enormt forsprang, advarer Skard.

– Vi må være proaktive, ikke reaktive, legger han til.

NC3 har i dag allerede langsiktige investeringsplaner som oppdateres kontinuerlig ut ifra hva de mener er relevant å investere i. Problemet, som Skard sier gjelder hele cyberkriminalitetsområdet, er manglende økonomisk forutsigbarhet.

– Vi trenger forutsigbarhet i budsjettene, både for å kunne gjøre nødvendige investeringer og for å oppbemanne, når det er snakk om helt åpenbare utviklingsskritt hvor politiet må etablere kompetanse. Som innenfor GKI. Så lenge vi har folk i arbeid, og kan jobbe med skikkelige verktøy, da løser vi problemer, sier han.

– Vi trenger et eget miljø for å gjøre oss klokere på hvordan GKI kan anvendes. Men det er langt fram fra det arbeidet vi starter her, til noe er klart til å brukes.

Powered by Labrador CMS