Retningslinjer for sikker og ansvarlig bruk av kunstig intelligens for søkere
Skal du søke om midler fra Forskningsrådet, må du sette deg inn i retningslinjene våre for sikker og ansvarlig bruk av kunstig intelligens.
Retningslinjene tar utgangspunkt i prinsippene som er formulert i Europeiske retningslinjer for forskningsintegritet (PDF 2023 s.6) og i ERA Living Guidelines on the Responsible Use of Generative AI in Research (PDF - Fourth version, October 2026 ).
Vi oppfordrer også søkere om å følge veiledere om ansvarlig bruk av KI i forskning ved egen institusjon og fra De nasjonale forskningsetiske komiteene.
Retningslinjene
- Pålitelighet i arbeidet med å sikre forskningens kvalitet, herunder design, metode, analyse og bruk av ressurser. Dette omfatter aspekter knyttet til verifisering og reproduserbarhet av informasjonen som ulike KI-verktøy genererer for forskningsformål.
Det innebærer også å være oppmerksom på mulige likestillings- og ikke-diskrimineringsspørsmål knyttet til skjevheter og unøyaktigheter. - Ærlighet i utvikling, gjennomføring, publisering og formidling av forskning på en åpen, rimelig, fullstendig og upartisk måte.
Dette prinsippet innebærer å opplyse om at KI er blitt brukt. - Respekt for kollegaer, forskningsdeltakere, andre som inngår i forskning, samfunnet, økosystemer, kulturarv og miljøet.
Ansvarlig bruk av generativ KI bør ta hensyn til teknologiens begrensninger, dens miljøpåvirkning og samfunnsmessige virkninger (skjevheter, mangfold, ikke-diskriminering, rettferdighet og forebygging av skade). Dette omfatter forsvarlig håndtering av informasjon, respekt for personvern, konfidensialitet og immaterielle rettigheter, i tillegg til korrekt kildehenvisning. - Ansvarlighet i forskning fra idé til publikasjon, for ledelse og organisering, for opplæring, utdanning og veiledning, og for forskningens bredere samfunnsmessige konsekvenser. Dette omfatter å etablere tydelige ansvarsforhold for bruk av KI i forskergruppen og å opprettholde menneskelig tilsyn med beslutninger og resultater.
Eksempler på god praksis
For å hjelpe søkerne våre med å bruke KI i tråd med disse prinsippene gir vi her noen råd om god praksis.
Fordi KI-teknologien – og bruken av den i forskning – er i stadig utvikling, skal eksemplene under ikke forstås som en uttømmende veiledning. Er du i tvil, er det prinsippene over som gjelder. Hvilke handlinger som er nødvendige for å overholde prinsippene vil avhenge av hvilke KI-verktøy du bruker.
Vi tar sikte på å oppdatere eksemplene under etter hvert som teknologien og normene for ansvarlig bruk i forskningen utvikles.
1. Pålitelighet
Det er særlig to kilder til feil i generative KI-systemer: Såkalte hallusinasjoner og skjevheter i KI-modellens treningsdata eller systeminnstillinger. Med «hallusinasjon» mener vi her at store språkmodeller (LLM-er) eller andre generative KI-systemer produserer uriktig, meningsløs eller unøyaktig informasjon.
God praksis: Kildehenvisninger fra KI kan være feil eller oppdiktet. Kontroller påstander mot primærkilder som du selv har identifisert.
De fleste kommersielle språkmodeller og generative KI-systemer har innebygde filtre som skal hindre dem i å produsere innhold som er støtende, umoralsk eller på andre måter uakseptabelt. Skjevheter i treningsdata kan også føre til diskriminering av bestemte grupper eller temaer i svar fra en generativ KI-tjeneste.
Hvis vi for eksempel ber en KI-tjeneste beskrive en leges hovedoppgaver, kan KI-en anta at legen er en kvinne dersom treningsdataene i hovedsak inneholder informasjon om kvinnelige leger. Viktig informasjon om mannlige leger kan da bli oversett. På samme måte kan engelskspråklig forskning være overrepresentert i en litteraturoversikt fordi engelskspråklige kilder er dominerende i treningsdata. Høyt siterte artikler kan også favoriseres. https://doi.org/10.1162/QSS.a.502egrity
Oppsummert: Vær kritisk når du vurderer kvaliteten på generert innhold: Er det fullstendig og uten skjevheter?
2. Ærlighet
Forskningsintegritet er en av hjørnesteinene i god forskningspraksis og innebærer å være ærlig om eventuell bruk av KI.
Forskningsrådet arbeider for tiden med en løsning for egenerklæring om bruk av KI i arbeidet med prosjektsøknaden.
3. Respekt
Bruk av KI-verktøy kan ha utilsiktede konsekvenser som brukeren bør være oppmerksom på. Opplysninger fra en søknad, enten det gjelder personopplysninger, nye forskningsideer eller informasjon om planlagte samarbeid, kan bli tilgjengelige for en tredjepart dersom teksten lastes opp til en KI uten tilstrekkelige sikkerhetstiltak.
God praksis: Bruk bare KI-verktøy du kan stole på: enten fordi de tilbys gjennom en pålitelig institusjon, som et universitet eller forskningsinstitutt, eller fordi du har inngått en lisensavtale som gir deg kontroll over informasjonen din.
En annen utilsiktet konsekvens av å bruke KI-verktøy kan være påvirkningen på miljø og samfunn. De fleste KI-verktøy er basert på datasentre som bruker store mengder strøm, vann og areal. Virkningene avhenger av hvilket verktøy som brukes, og hvordan leverandøren har implementert tjenesten. Det er den enkelte brukers ansvar å vurdere risiko og mulige uintenderte effekter ved bruk av KI.
Oppsummert: Vurder hvilke virkninger bruken av KI-verktøy har ut over påvirkning på selve søknaden.
4. Ansvarlighet
Som søker har du fullt ansvar for alt som står i søknaden. Å overlate oppgaver til en KI-tjeneste innebærer risiko som kan være utfordrende å kontrollere: Svar generert av KI kan bygge på materiale som er rettighetsbelagt. Ordrett gjenbruk av tidligere publisert forskning uten tilstrekkelig referanse regnes som plagiat.
God praksis: Sørg for at du forstår hvilke data svarene fra KI-tjenester bygger på, og at du kan gjøre rede for hvordan KI-tjenesten er brukt, f.eks. ved å ta vare på prompten/instruksen din. Kontroller alltid originalkildene for å forsikre deg om at du gir korrekte og tilstrekkelige referanser.
Meldinger ved utskriftstidspunkt 22. november 2026, kl. 12.53 CET