Innlandet politidistrikt inngår samarbeidsavtale for å avverge og forebygge overgrep på nett

Innlandet politidistrikt inngår samarbeidsavtale med selskapet AiBA for å avverge og forebygge overgrep på nett, det skriver politidistriktet i en pressemelding.

Vider trekkes det frem at en av hovedprioriteringene til politiet er å forebygge og avverge seksuelle overgrep på nett. 

Samarbeidsavtalen innebærer at AiBA, som utvikler og tilbyr et AI -basert dataverktøy som automatisk avdekker potensielle nettovergrep på digitale plattformer, kan trene opp AI-roboten sin hos politiet.

«AiBA har som hensikt å utvikle løsninger for å trygge barn og unge på nett, ved å avdekke «cyber grooming» ved hjelp av AI (kunstig intelligens) i nåtid som analyserer adferds-signaler som tasterytme, kommunikasjon med andre, innhold i tekst med mer», heter det videre i pressemeldingen.

Avtalen ble formelt signert i formiddag av daglig leder Hege Tokerud i AbiBa,  avdelingsdirektør Siri Stai Vesterås og leder Rune Otterstad for felles enhet for etterretning, forebygging og etterforskning i Innlandet politidistrikt.

Viktig bidrag

 Avtalen omhandler deling av anonymisert data fra politiet slik at den tekniske løsningen utvikles bedre. Innlandet politidistrikt understrekes at AiBA ikke får tilgang til taushetsbelagte, sensitive data eller saksopplysninger.

 – AiBA har som hensikt å utvikle tekniske løsninger for å trygge barn og unge på nett ved å avdekke «cyber grooming» ved hjelp av AI. Kunstig intelligens analyserer i nåtid adferds-signaler som tasterytme, kommunikasjon med andre, innhold i tekst med mer, og på denne måten kan overgripere avsløres, sier Otterstad i en pressemelding fra politidistriktet.

Han sier politiet ikke alene kan forebygge kriminalitet, og at samarbeidsavtalen med AiBA handler om å gjøre andre i stand til å forebygge.

 – Det er ingen tvil om at politiet gjør størst nytte for seg ved å forebygge kriminalitet, og her har AiBA utviklet teknologi som kan forebygge nettovergrep mot barn. Vi er veldig glade for å kunne bidra slik at vi får færre saker inn til oss, og vi ser et stort potensial i samarbeidet med AiBA, sier Otterstad videre.

Vil stoppe samtaler så raskt som mulig

Formålet med løsningen er ifølge Tokerud å få teknologien implementert hos alle store leverandører av sosiale plattformer og spillselskaper slik at nettovergrepssamtaler stoppes så raskt som mulig og skade forhindres.

Det er allerede noen spillselskaper har tatt i bruk KI-roboten.

 – Roboten analyserer samtaler og gjør spill- og sosiale medier-selskapene i stand til å stoppe samtalene før skaden inntreffer. Vi setter veldig stor pris på samarbeidet med politiet som gir oss innsikt i hvilken atferd nettovergripere kan ha, sier Tokerud i pressemeldingen.

NTNU bak teknologien

Det er NTNU Gjøvik som står bak teknologien, og på universitetets nettsider kommer det frem at AbiBa kan avsløre om den som chatter er den som den utgir seg for å være,

«Basert på metadata fra en chatter (alder og kjønn) kan vi trene systemet til å skille mellom menn og kvinner og bestemme aldersgruppen til en chatter. Dette skjer basert på hvordan chatteren taster på og skriftlig verbal stil (tastetrykkdynamikk og stylometri)».

Allerede høsten 2019 fikk NTNU-professor Patrick Bours i samarbeid med NTNU Technology Transfer AS, såkalte Discovery-midler til å bygge verktøyet og verifisere teknologien mot industriaktører, skrev NTNU Discovery i 2020.

Her ble også Bours intervjuet.

 – Nettet flommer over av chattetjenester og apper som sender meldinger mellom to personer, og millioner av samtaler pågår døgnet rundt. Å kontrollere dette for å hindre at overgrep skjer er umulig for moderatorer som følger med manuelt. Det er behov for mer automatikk og noe som varsler om pågående samtaler. Her kommer AiBA inn, sa han da til  NTNU Discovery.

Fungerer som en varsellampe 

Bours fortalte videre at de hadde utviklet et system med flere algoritmer som «kan gi de store chatteselskapene et verktøy til å plukke ut de samtalene som bør sjekkes opp, når de pågår og ikke i etterkant, når kanskje skaden er skjedd og overgrep begått.»

– Den fungerer som en varsellampe. Ved maskinlæring gjør systemet analyser av samtalene, og risikovurderer den ut fra bestemte kriterier. Nivået går kanskje litt opp og ned gjennom samtalen da systemet risikovurderer hver eneste melding. Når det blir for høyt, lyser det rødt. Da varsles moderatoren som går inn i samtalen og vurderer, fortsatte han i intervjuet.

90 prosent gjenkjenning

NTNU Discovery kunne også fortelle at måten man bruker tastaturet på, rytme og slagkraft, kan gi informasjon som fastslå om du er mann/kvinne, ung/gammel i over 80 prosent av tilfellene.

Legger man til hvilke ord som brukes, så gir det over 90 prosent gjenkjenning av kjønn og alder, het det videre.

 – Hensikten er å avsløre en overgriper så raskt som mulig. Det er gjerne mange samtaler over tid det dreier seg om, så når systemet oppdager dette kan vi varsle raskt. Det er også mulig å si fra til barnet i chatten at dette er ikke Pia på 13, men en voksen mann på 40 du snakker med, sa Bours også i intervjuet med NTNU Discovery.

Rettelogg: 

20.12.2023 klokken 17:07: Innlandet politidistrikt presiserer at det ikke er politidistriktet som tar i bruk AI, men det er AiBA som får trene roboten sin hos politiet. Politiforum har derfor korrigert NTB -tittelen som først lå ute.