Dette er Sweetie, en digital personifisering av en 10 år gammel jente, som har blitt brukt til å avsløre nettovergripere.
Dette er Sweetie, en digital personifisering av en 10 år gammel jente, som har blitt brukt til å avsløre nettovergripere. (Foto: Terre des hommes/Facebook)

– Kunstig intelligens kan effektivisere politiets bruk av skjulte tvangsmidler

Men bruken av kunstig intelligens i politiarbeid, reiser også vanskelige juridiske spørsmål, mener Ingvild Bruce.

Bruce, som er stipendiat ved Institutt for offentlig rett på Universitetet i Oslo, har mange års erfaring med forskning på politiets bruk av skjulte tvangsmidler – som kommunikasjonskontroll, romavlytting og skjult kameraovervåkning.

– Jeg er helt overbevist om at kunstig intelligens kan gjøre masse for å effektivisere bruken av skjulte tvangsmidler. Ikke minst for å prosessere all den informasjonen som innhentes ved skjult tvangsmiddelbruk, sier Bruce.

Hun trekker fram telefonavlytting, hvor det gjerne vil være masse overskuddsinformasjon å gå gjennom, som et eksempel.

– Her kan kunstig intelligens brukes til analyse av materialet på en veldig effektiv måte. Jeg tror også kunstig intelligens kan brukes ikke bare for å effektivisere politiet, men også for å styrke mistenktes rettssikkerhet. Det er for eksempel vanskelig å skille ut advokatsamtaler fra et slikt materiale, samtaler politiet ikke har lov til å lytte på. Ved hjelp av stemmegjenkjenning kan denne utskillingen gå mye greiere. Det er masse potensiale her.

Viktig skille

Bruce var en av foredragsholderne da Oslo politidistrikt arrangerte et miniseminar om kunstig intelligens den 29. august.

Under foredraget trakk hun opp skillet mellom systematisk masseinnhenting av informasjon om store mengder mennesker, og den individrettede overvåkningen rettet mot enkeltpersoner, knyttet til mistanke om straffbar virksomhet.

Ingvild Bruce. Foto: Universitetet i Oslo

– Dette er et viktig skille å ha med seg i møtet med kunstig intelligens. Grunnen til at vi må være bevisst dette skillet, er at det rettslig sett er stilt andre krav til strategiske overvåkningstiltak. Det fremste eksempelet på det, er datalagringsdirektivet. Som ble underkjent i EU-domstolen, fordi det la opp til lagring av alles telefonnumre, uavhengig om det kunne knyttes til framtidig eller begått kriminalitet. Dette generelle aspektet gjør at det stilles strengere krav, understreker hun.

Avslørte nettovergripere

Bruce fokuserte på bruken av skjulte tvangsmidler i individrettet overvåkning under sitt foredrag, og hvordan ny teknologi skaper rettslige utfordringer. Lovverket som ga hjemmel for politiet til å avlytte fasttelefoner i 1977, er for eksempel ikke tilpasset dagens smarttelefoner som genererer en enorm mengde informasjon.

– Og siden 1977 har vi en haug med eksempler på at ny teknologi kolliderer med tradisjonell lovgivning. I disse kollisjonene finnes det en overføringsverdi også til kunstig intelligens, sier hun.

Som sin case, trekker Bruce fram Sweetie – en fiktiv, dataanimert filipinsk jente, som ble brukt for å avsløre nettovergripere. På chatterom på Internett, avslørte Sweetie over 1000 nettovergripere i 71 land i løpet av kun ti uker.

– Sweetie er et dataprogram som personifiserer en mindreårig jente på Internett. Hun er utviklet av en organisasjon som jobber mot barnemisbruk, men tilbys nå for politiet til politibruk. Hun er autonom, og skal kunne føre samtaler med menn på Internett. Hun er skalerbar, det vil si at hun kan settes ut i mange versjoner på samme tid. Og hun er innrettet på en del måter for å hindre henne fra å drive med ulovlig provokasjon. Sweetie kan ikke opptre helt eller delvis avkledd og kan ikke ta initiativ til seksualiserte samtaler, men hun kan respondere på initiativ fra de hun snakker med, forklarer Bruce.

Nyttig verktøy

Det er åpenbart at dette kan være et veldig nyttig verktøy i bekjempelse av veldig alvorlig kriminalitet. Men det reiser også noen krevende faktiske og juridiske spørsmål.

I tillegg til å konversere med samtalepartneren, sørger Sweetie for å registrere og lagre innholdet i kommunikasjonen, hun analyserer innholdet som kommer inn og gjenkjenner samtalepartnerne.

– Og hun produserer også statistikk til bruk for operative, taktiske og strategiske formål. Det er åpenbart at dette kan være et veldig nyttig verktøy i bekjempelse av veldig alvorlig kriminalitet. Men det reiser også noen krevende faktiske og juridiske spørsmål, understreker Bruce.

For når man skal tilnærme seg Sweetie, og forsøke å forstå hva dette er sett opp mot det eksisterende regelverket, må man forstå hva teknologien er og hva den kan gjøre.

– Det må være første skritt for politiets del i møte med denne type ny teknologi. For hva er Sweetie? Det er en teknologi. Men er det også en framgangsmåte? Kanskje en teknologi som tilbyr ulike framgangsmåter? Er det en politimetode? Tilsvarer den en politimetode vi har i dag, tilsvarer den kanskje flere politimetoder? Er det da snakk om eksisterende politimetoder, eller kan vi kalle framgangsmåten Sweetie bruker for en ny politimetode?

En digital politiagent

Magefølelsen til Bruce første gang hun så Sweetie, var at dette er en politiagent. Det er vanligvis definert som en polititjenesteperson som med skjult eller falsk identitet aktivt søker kontakt med personer eller miljøer for å få informasjon om straffbare forhold, eller en privatperson som gjør det samme på vegne av politiet.

– Du kan se på Sweetie som en person som opptrer på vegne av politiet og aktivt innhenter informasjon. Det rimer godt, sier hun.

– Men så tenkte jeg mer på det. Hva er det egentlig Sweetie gjør? Hun gjør ganske mye mer enn det en politiagent kan gjøre. En politiagent kommer tilbake til politiet, så forklarer vedkommende seg, og så skrives det en rapport om hva vedkommende har sett der ute. Men Sweetie samler informasjonen direkte. Man får direkte tilgang til alle samtalene hun har hatt, og de kan lagres hos politiet.

Bruce spør seg om det da er naturlig å se på dette som samtykkebasert avlytting?

– Vi har en bestemmelse i straffeprosessloven §216 som gir adgang til å ta opp samtaler der politiet selv deltar, eller en av de som deltar har samtykket. Kan vi si at Sweetie samtykker til at politiet tar opp de samtalene hun har? Det har i hvert fall noen likhetstrekk, sier hun.

Samler metadata

Samtidig sørger også Sweetie for at alt dokumenteres skriftlig, og at det samles inn store mengder metadata.

– Kan du da supplere med at man beslaglegger skriftlig kommunikasjon i tillegg, slik som det gjøres når man beslaglegger skriftlig kommunikasjon i brukerkontoer på sosiale medier? Kanskje. Eller er det ren dataavlesning? Kanskje er det det som skjer? Samtidig er dataavlesning en metode som er innrettet mot to personer som ikke samtykker, og som ikke en gang vet at politiet avlytter, resonnerer Bruce.

Kanskje betyr dette rett og slett at Sweetie er noe helt annet.

– Dette er en illustrasjon på hvordan man kan tenke rundt bruken av kunstig intelligens i politiarbeid, sier Bruce videre.

Mange rettslige spørsmål

I tillegg reiser Sweetie en rekke andre rettslige spørsmål.

– Dette må man ha oversikt over om man i det hele tatt skal kunne ta verktøyet i bruk. Det første spørsmålet er om Sweetie egentlig kan utsettes for lovbrudd, sier Bruce.

Formålet med Sweetie, er at hun skal utsettes for lovbrudd istedenfor andre barn.

– Men hun er ikke noe barn. Alle disse straffebruddene bygger på en forutsetning om at gjerningspersonene skader barn. Sweetie er ikke noe barn, og blir ikke skadd. Hvilken konsekvens har det for måten vi tenker på de straffbare forholdene? spør Bruce.

Kanskje, sier hun, må man om man iverksetter etterforskning på grunnlag av det som skjer med Sweetie, tenke på det som et forsøk på å begå ulovlige handlinger overfor et barn, heller enn at det faktisk blir gjort.

– Er det et forsøk, nettopp fordi hun ikke er et menneske? Jeg tror man må være bevisst grensene i måten man bruker denne teknologien på, sier Bruce.

– Vi må tenke helt nytt

Til sist stiller hun spørsmål ved om Sweetie er en type teknologi som faktisk kan brukes i politiets forebyggende virksomhet.

Jeg tror dette er en type kunstig intelligent teknologi som tvinger oss til å tenke helt nytt.

– Jeg tenker at i det man sender en slik teknologi, en slik bot ut på det åpne nettet, i vanlige, lovlige sosiale forum, så er ikke det en etterforskning. Det er ikke mistanke om at noe straffbart er begått enda. Skal man bruke Sweetie på denne måten, må man ha lov til det som ledd i den forebyggende virksomheten. Da er man tilbake til spørsmålet om bruken av Sweetie krever hjemmel i lov. Dersom den krever lovgivning utover det vi allerede har, så kan vi altså ikke ta den i bruk, mener Bruce.

Hun tenker imidlertid at det kan argumenteres for at Sweetie innebærer bruk av flere metoder i kombinasjon, og at man dermed kan argumentere for at det er lov til å bruke henne i politiarbeid.

– Men jeg tror dette er en type kunstig intelligent teknologi som tvinger oss til å tenke helt nytt, sier Bruce.

Lovgiver må ta stilling

Grunnen til det, er at Sweetie er skalerbar.

– Dette innebærer at vi kan sende en hel hær av politiagenter ut på nett. Politiagent pleide å være en ganske snever og spesialisert, og veldig ressurskrevende etterforskningsmetode. Skal vi ta i bruk denne metoden på en så bred skala, tenker jeg både metoden og rettslige rammene for den må underlegges helt andre krav, sier Bruce.

Hun ser for seg at politiet vil få arbeidsverktøy hvor det oppstår en kollisjon med det regelverket vi har i dag.

Det er en del ting politiet kan gjøre i kraft av sin alminnelige handlingsfrihet, men de tingene blir færre og færre.

– Når man sitter der med et nytt verktøy, må man tenke: Finnes det hjemmel for å bruke dette verktøyet? Er det noe i lovverket som passer med bruken av dette verktøyet? Hvis det ikke finnes noe som passer, da må man spørre seg selv: Trenger jeg hjemmel? Det er en del ting politiet kan gjøre i kraft av sin alminnelige handlingsfrihet, men de tingene blir færre og færre. Høyesteretts praksis stiller strengere og strengere krav til politiets bruk av nye virkemidler.

Det betyr at lovverket kan måtte endres før politiet kan ta i bruk teknologi som innebærer kunstig intelligens.

– Dermed må lovgiver ta stilling til dette før politiet kan ta en slik teknologi i bruk, avslutter Bruce.

Til toppen