Retningslinjer for sikker og ansvarlig bruk av kunstig intelligens for søkere

Retningslinjene tar utgangspunkt i prinsippene som er formulert i The European Code of Conduct for Research Integrity (pdf 2023 s.5) og i ERA Living Guidelines on the Responsible Use of Generative AI in Research (pdf) som oppdateres med ujevne mellomrom.

Vi oppfordrer også søkere om å følge veiledere om ansvarlig bruk av KI i forskning ved egen institusjon og fra De nasjonale forskningsetiske komiteene.

Retningslinjene

1. Pålitelighet når det gjelder å sikre kvaliteten på forskningen, noe som gjenspeiles i utforming, metodikk, analyse og ressursbruk. Dette omfatter aspekter knyttet til verifisering og reproduserbarhet av informasjonen som ulike KI-verktøy genererer for forskningsformål. Det innebærer også å være oppmerksom på mulige likestillings- og ikke-diskrimineringsspørsmål knyttet til skjevheter og unøyaktigheter.
2. Ærlighet i utvikling, gjennomføring, evaluering, rapportering og formidling av forskning på en transparent, rettferdig, grundig og upartisk måte. Dette prinsippet innebærer å opplyse om at generativ KI har blitt brukt.
3. Respekt for kolleger, forskningsdeltakere, forskningsobjekter, samfunnet, økosystemer, kulturarv og miljøet. Ansvarlig bruk av generativ KI bør ta hensyn til teknologiens begrensninger, dens miljøpåvirkning og samfunnsmessige virkninger (skjevheter, mangfold, ikke-diskriminering, rettferdighet og forebygging av skade). Dette omfatter forsvarlig håndtering av informasjon, respekt for personvern, konfidensialitet og immaterielle rettigheter, i tillegg til korrekt kildehenvisning.
4. Ansvarlighet for forskningen fra idé til publisering, for ledelse og organisering av den, for opplæring, veiledning og mentorering, og for konsekvenser dette kan ha på samfunnet som helhet. Dette omfatter ansvar for alle resultater som en forsker får fram, underbygget av menneskelig handlekraft og tilsyn.

Eksempler på god praksis

For å hjelpe søkerne våre med å bruke KI i tråd med disse prinsippene gir vi her noen råd om god praksis.

Fordi KI-teknologien – og bruken av den i forskning – er i stadig utvikling, skal eksemplene under ikke forstås som en uttømmende veiledning. Er du i tvil, er det prinsippene som gjelder. Hvilke handlinger som er nødvendige for å overholde prinsippene vil avhenge av hvilke KI-verktøy du bruker.

Vi tar sikte på å oppdatere eksemplene etter hvert som teknologien og normene for ansvarlig bruk i forskningen utvikles. 

1. Pålitelighet 

Det er særlig to kilder til feil i generative KI-systemer: Såkalte hallusinasjoner og skjevheter i KI-modellens treningsdata eller systeminnstillinger. Med «hallusinasjon» menes her at store språkmodeller (LLM-er) eller andre generative KI-systemer produserer uriktig, meningsløs eller unøyaktig informasjon. 

• Kontroller påstander mot primærkilder du selv har funnet. Kildehenvisninger fra KI kan være feil eller oppdiktet.

De fleste kommersielle språkmodeller og generative KI-systemer har innebygde filtre som skal hindre dem i å produsere innhold som er støtende, umoralsk eller på andre måter uakseptabelt. Skjevheter i treningsdata kan føre til diskriminering av bestemte grupper eller tema i svar fra en generativ KI-tjeneste.

Hvis man for eksempel ber en KI-tjeneste beskrive en leges hovedoppgaver, kan KI-en anta at legen er en kvinne dersom treningsdataene i hovedsak inneholder informasjon om kvinnelige leger. Viktig informasjon om mannlige leger kan da bli oversett. På samme måte kan engelskspråklig eller vestlig forskning være overrepresentert i en litteraturoversikt fordi engelskspråklige kilder er dominerende i treningsdata.

• Vær kritisk når du vurderer kvaliteten på generert innhold: Er det fullstendig og uten skjevheter?

2. Ærlighet

Forskningsintegritet er en av hjørnesteinene i god forskningspraksis og innebærer å være ærlig om eventuell bruk av KI. En kort setning om hvilke KI-verktøy som eventuelt er brukt, og hvordan, gjør leseren oppmerksom på at forfatteren har reflektert over bruken av slike verktøy. 

• Ta med en kort forklaring på hvordan KI ble brukt i utarbeidelsen av søknaden.

3. Respekt

Bruk av KI-verktøy kan ha utilsiktede konsekvenser som brukeren bør være oppmerksom på. Opplysninger fra en søknad, enten det gjelder personopplysninger, nye forskningsideer eller informasjon om planlagte samarbeid, kan bli tilgjengelige for en tredjepart dersom teksten lastes opp til en KI uten tilstrekkelige sikkerhetstiltak. 

• Bruk bare KI-verktøy du kan stole på: enten fordi de tilbys gjennom en pålitelig institusjon, som et universitet eller forskningsinstitutt, eller fordi du har inngått en lisensavtale som gir deg kontroll over informasjonen din.

En annen utilsiktet konsekvens av å bruke KI-verktøy kan være påvirkningen på miljø og samfunn. De fleste KI-verktøy er basert på datasentre som bruker store mengder strøm, vann og areal. Virkningene avhenger av hvilket verktøy som brukes, og hvordan leverandøren har implementert tjenesten. Det er den enkelte brukers ansvar å vurdere risiko og mulige uintenderte effekter ved bruk av KI.

• Vurder hvilke virkninger bruken av KI-verktøy har ut over påvirkning på selve søknaden.

4. Ansvarlighet

Som søker har du fullt ansvar for alt som står i søknaden. Å overlate oppgaver til en KI-tjeneste innebærer risiko som kan være utfordrende å kontrollere: Svar generert av KI kan bygge på materiale som er rettighetsbelagt. Ordrett gjenbruk av tidligere publisert forskning uten tilstrekkelig referanse regnes som plagiat.

• Sørg for at du forstår hvilke data svarene fra KI-tjenester bygger på, og at du kan gjøre rede for hvordan KI-tjenesten er brukt, f.eks. ved å ta vare på prompt. Kontroller alltid originalkildene for å forsikre deg om at du gir korrekte og tilstrekkelige referanser.