Barn og unge tilbringer mye av livet sitt på digitale plattformer. Her kan de bli utsatt for trakassering, nettovergrep og andre former for skadelig aktivitet. Norske Aiba bruker kunstig intelligens og forskning på digital atferd til å oppdage risiko før den rekker å utvikle seg til noe av dette.
Barn og unge bruker i dag digitale plattformer som en naturlig del av hverdagen sin. Plattformene er gjerne spill, digitale læringsverktøy og møteplasser på nett. Når mange mennesker over hele verden kommuniserer med hverandre samtidig, kan det være vanskelig å oppdage skadelig oppførsel i tide.
Moderering av innhold har tradisjonelt dreid seg om å blokkere enkeltord og å ha en manuell gjennomgang og reaksjon på hendelser i etterkant. Forskere ved NTNU Gjøvik ønsket derfor å finne ut om kunnskap om digital atferd kunne brukes til å oppdage risiko tidligere og før selve skaden inntraff.
Aiba vokste fram fra forskning på informasjonssikkerhet og atferdsmønstre i digital kommunikasjon. Selskapet ble etablert som en spin-off fra NTNU og utvikler i dag teknologi som bidrar til å gjøre digitale samfunn tryggere.
Starten på Aiba
En av dem som står bak forskningen, er professor Patrick Bours ved NTNU. Han har i mange år forsket på hvordan vi kan bruke menneskers oppførsel og måten de kommuniserer på internett, til å forstå og oppdage risiko og hensikt.
Forskningen til Bours danner grunnlaget for teknologien til Aiba. Med denne teknologien undersøker ikke forskerne bare enkeltord eller meldinger, men ser på hele situasjonen og hvordan oppførselen endrer seg over tid.
– Vi har bakgrunn fra forskning på konkrete problemer som har store negative konsekvenser på mennesker og samfunnene dette foregår i. Nettopp det har gitt oss et helt annet utgangspunkt enn om vi først hadde utviklet en KI-teknologi og deretter lett etter et område å bruke den på, sier Hege Tokerud, CEO og medgründer i Aiba.
“Dersom vi klarer å oppdage bare et tilfelle av nettovergrep tidlig, kan det bety at et barn unngår å bli utsatt for overgrep. Det har først og fremst en menneskelig verdi, men også enorme konsekvenser for samfunnet.
Fra forskning til selskap
At forskning gir lovende resultater, betyr ikke automatisk at resultatene blir tatt i bruk. Mellom forskningen og markedet er det en fase der teknologien hele tiden må videreutvikles og testes for å finne ut om den kan løse behov vi faktisk har i samfunnet.
Kvalifiserings- og verifiseringsmidler fra Forskningsrådet gjorde det mulig for Aiba å videreutvikle forskningsresultatene, teste teknologien og undersøke potensialet i markedet.
– Vi hadde ikke kunnet starte Aiba uten støtten fra Forskningsrådet. Den ga oss muligheten til å ta forskningen videre, inngå samarbeid med relevante industripartnere og undersøke om vi kunne bygge en løsning som de faktisk kunne ta i bruk, sier Hege Tokerud.
Selskapet deltok også i REACH i California, et inkubatorprogram for forskningsbaserte teknologiprosjekter og oppstartsbedrifter med internasjonale ambisjoner. Her fikk Aiba blant annet arbeide videre med markedstilpasning og internasjonalisering.
Aiba har nylig inngått en avtale med Rovio med planlagt integrasjon i Angry Birds. Dette skal sikre tryggere spillmiljøer gjennom automatisert moderering for Rovio. Selskapet henter samtidig 25–30 millioner kroner for videre vekst.
KI som er trent opp til å lete etter sammenhenger
Resultatet av utviklingsarbeidet er Amanda, Aibas plattform for moderering og digital sikkerhet.
Teknologien er utviklet for å registrere mer enn hvilke ord som brukes. Den analyserer blant annet kontekst, sammenhenger, atferd og hvordan kommunikasjon utvikler seg over tid. Det er særlig viktig for å oppdage nettovergrep og annen sosial manipulasjon. En enkelt melding kan fremstå som harmløs, mens et mønster av meldinger over tid kan fortelle en helt annen, og langt mer alvorlig, historie.
Amanda kan identifisere flere typer uønsket eller skadelig aktivitet, blant annet trakassering, mobbing, seksuelt innhold, svindel, nettovergrep og deling av personopplysninger. Plattformen kan analysere alt brukergenerert innhold som tekst, tale og bilder.
Ved mistanke om nettovergrep kan systemet blant annet se etter mønstre som meldingsfrekvens, gjentatte spørsmål om personlig informasjon og forsøk på å flytte en samtale over til private kanaler.
Men det er ikke KI-en som tar den endelige avgjørelsen. Når systemet identifiserer en aktør med høy risiko, sendes den videre til et menneske for vurdering.
– Kunstig intelligens gjør det mulig å analysere og systematisere enorme mengder kommunikasjon som mennesker alene ikke ville hatt mulighet til å håndtere. Poenget er å raskt oppdage de hendelsene som trenger oppmerksomhet, slik at det blir mulig å reagere tidlig og helst før en skade inntreffer, sier Tokerud.
Verdien av det som ikke skjer
Samfunnsnytten av teknologien kan være vanskelig å se nettopp fordi målet er å forhindre at noe skjer.
Dersom vi klarer å oppdage bare et tilfelle av nettovergrep tidlig, kan det bety at et barn unngår å bli utsatt for overgrep. Det har først og fremst en menneskelig verdi, men også enorme konsekvenser for samfunnet.
Aiba har brukt en britisk forskningsmodell for å beregne samfunnskostnadene knyttet til nettbaserte overgrep. Med utgangspunkt i denne modellen anslår selskapet at teknologien har bidratt til å forhindre nettovergrep med en samfunnsøkonomisk verdi på mer enn 100 millioner euro.
Beregningen omfatter blant annet kostnader knyttet til politi, rettsvesen, fengselsopphold og psykososial oppfølging. Andre langsiktige konsekvenser, som påvirkning på utdanning og arbeidsliv og belastningen på familier, er ifølge Aiba ikke fullt ut inkludert.
Aiba oppgir samtidig at teknologien har analysert nærmere 5 milliarder meldinger på digitale plattformer.
Forskning som blir tatt i bruk
– Samfunnet investerer betydelige ressurser i forskning fordi ny kunnskap kan hjelpe oss med å forstå og løse utfordringer vi står overfor. For å skape nytte må kunnskapen tas i bruk. Aiba viser hvordan forskning kan gi grunnlag et nytt selskap med en konkret løsning på et alvorlig samfunnsproblem – og som har fått internasjonal synlighet, sier Anne Kjersti Fahlvik, områdedirektør for innovasjon i Forskningsrådet.
For Aiba har forskningsbakgrunnen fortsatt betydning etter at selskapet nå har gått fra forskningsprosjekt til kommersiell virksomhet. Patrick Bours er fortsatt involvert, og selskapet videreutvikler teknologien med utgangspunkt i forskning og testing.
Det er viktig også fordi teknologien skal brukes på et område der feil kan få store konsekvenser.
– Når forskning tas i bruk på områder som berører mennesker direkte, er det avgjørende at vi stiller krav til etikk, kvalitet, dokumentasjon og etterprøvbarhet. Det er viktig for tilliten til både forskningen og for de som skal bruke løsningene, sier Fahlvik.
Fra Gjøvik til et internasjonalt marked
Aiba startet med å se særlig på spill og plattformer der barn og unge kommuniserer.
Selskapet ser nå muligheter i flere digitale miljøer og bransjer. Når mange brukere lager innhold og kommuniserer, blir det vanskelig å sikre trygg moderering. Dette er også blitt viktigere på grunn av nye internasjonale regler, for eksempel Digital Services Act (DSA). DSA krever at plattformeiere tar i bruk sikkerhetsløsninger og rapporterer om hvordan de modererer innhold.
Digitale plattformer opererer globalt, og Aiba har derfor utviklet teknologien med tanke på ulike språk og markeder.
Fra forskning på digital atferd ved NTNU Gjøvik har det vokst fram en teknologi som allerede gjør en forskjell internasjonalt og som har potensial til å nå langt flere.