Statsråden svarer på spørsmål om kunstig intelligens: Bør KI-generert innhold merkes?

Siden hun ble digitaliseringsminister, har Karianne O. Tung signalisert at regjeringen vil se på merking av KI-generert innhold. Dette, for at vi som mottakere skal bli gjort oppmerksom på om det vi ser eller hører er laget av et menneske eller en algoritme.

Før jul spurte vi i Dataforeningen den nye ministeren om hva hun var mest opptatt av å få gjort noe med. Tett på EU-forordninger og kunstig intelligens (KI) var blant det som gikk igjen. På spørsmål om hva ambisjonene var i statsrådstillingen, svarte Tung blant annet:

– At digitaliseringsstrategien har fått betydning for retningen Norge tar når det kommer til digitalisering, og at vi er tryggere på bruken av kunstig intelligens.

Siden nyttår, da det nye departementet offisielt trådte i kraft, har Dataforeningens nye leder, Hege Svendsen, hatt møte med ministeren. Og vi har stilt noen nye spørsmål, denne gang mer spesifikt på området KI/AI. Dataforeningen har sin egen faggruppe for KI, hvor det nå er ute en etterlysning etter nye ildsjeler og entusiaster.

Norske KI-initiativ
I Norge er det mye arbeid som foregår parallelt på KI-området. Digitaliseringsdirektoratet er i ferd med å utvikle en veiledning på KI for ansvarlig bruk og utvikling av kunstig intelligens.

Dattilsynet har sin egen sandkasse for KI. Her kan virksomheter som vil eksperimentere med nye produkter, teknologier og tjenester under oppfølging av myndighetene, søke om å bli med i et kontrollert testmiljø. Intenasjonen fra tilsynets side er å sørge for at virksomheter kan få økt forståelse for de regulatoriske kravene, samtidig som myndighetene får mulighet til å oppnå økt forståelse for nye teknologiske løsninger.

Ett av prosjektene er Helsedirektoratets ønske om å utforske om generativ KI kan brukes til å gjøre informasjon fra helsevesenet mer tilpasset og forståelig for forskjellige brukergrupper. Ett annet er et prosjekt som vil bruke generativ KI til juridisk rådgivning i forbindelse med arbeidsrett.
Les mer om sandkasse-prosjektene her.

KI på alles lepper
Fra alle verdenshjørner kommer nå signaler om en KI-utviklingen, som er utrolig spennende, men at også må reguleres. EU forslag til nye regler for kunstig intelligens (KI), «EU Artificial Intelligence Act», ble lagt frem som et forslag fra EU-kommisjonen i april 2021. Intensjonen er en ansvarlig utvikling og bruk i tråd med fundamentale rettigheter.

Hos Digitaliseringsdirektoratet kan du lese mer om dette arbeidet,

Men også andre store aktører beveger seg i retning regulering: Kina har allerede tatt skritt for å forby AI-genererte bilder uten vannmerker. I USA er frykten stor for en flom av desinformasjon gjennom KI-generert innhold i forbindelse med presidentvalget senere i år. Begge de to siste valgene ble rammet av beskyldninger om manipulasjon, og denne gang kan det bli langt raskere og enklere å produsere desinformasjon. 58 prosent av voksne amerikanere frykter massiv spredning av falsk og villedende informasjon i forbindelse med valget, meldte Associated Press i november i fjor.

I oktober i fjor signerte USAs president Joe Biden en pakke med reguleringer for å styre utviklingen av kunstig intelligens, styrke tilsynsmyndighetene og beskytte mottakerne/brukerne. Retningslinjene krever at teknologiindustrien utvikler sikkerhetsstandarder, innfører nye rutiner for å beskytte brukerne, samtidig som offentlige tilsynsorganer har en sjekkliste som de fortløpende må forholde seg til.

Og G7 har bedt om utvikling og distribusjon av pålitelige innholdsautentiseringsmekanismer, eksempelvis vannmerking, slik at brukerne klarer å identifisere AI-generert innhold.
I en brief/statusrapport fra EU-parlamentet kan du lese mer om arbeidet med vannmerking.

– Vi må lage rammeverk så teknologi brukes til samfunnets beste
Her er det digitaliseringsministeren svarer om KI og merking av digitalt innhold:

Digitaliseringsministeren virker spesielt opptatt av at vi må vite at det vi ser eller hører er laget av et menneske eller en algoritme, derfor vil regjeringen vurdere pålegg om merking av KI-generert innhold. Når skal det skje, hvilke aktører vil det gjelde og hva slags type innhold snakker vi om?

– Vi må kunne skille mellom det som er laget av en maskin og det som er laget av et menneske. Det handler om å vite hva som er ekte og hva formålet med bildet eller videoen er. Jeg tror en slik ordning vil bidra til å skape tillit til teknologien og den digitale omstillingen vi skal gjennom. Det vil vi være helt avhengig av om vi skal lykkes. Når det gjelder reguleringen, er det viktig å huske at i EUs nye lov om kunstig intelligens – KI-forordningen – stilles det krav om at selskapene som utvikler og tilbyr løsninger som kan produsere slikt syntetisk materiale, også sørger for at det er merket på en måte som ikke lett lar seg omgå. Jeg jobber for at dette regelverket skal tre i kraft i Norge i takt med at det innføres i EU. Dette mener vi det er helt naturlig, og nødvendig, å se i sammenheng.

Ministeren har kommet med klare signaler om at det ikke vil innføres et særnorsk regelverk på KI, men ønsker at det blir samordnede regler nasjonalt og internasjonalt også på merking av KI-innhold. Vil reguleringsprosessene som foregår i EU også fungere godt for norske forhold? I tilfelle ja, hvordan kan vi være så sikre på det?

– Vi følger som nevnt EUs arbeid med KI tett, og jeg jobber med et hurtigspor med sikte på å innføre det nye regelverket samtidig som EU-statene. Samtidig er lovverket vårt teknologinøytralt. Det handler nettopp om å bevare de verdiene som er viktige for oss og vår samfunnsutvikling. Skal vi til enhver tid lage nytt regelverk når en ny teknologi introduseres, blir vi springende etter. Det som ikke er lov ellers, er heller ikke lov ved bruk av kunstig intelligens.

Dette med merking av KI-generert innhold er vel egentlig ikke en ny praksis og tilsvarer noe av det samme som for eksempel reklamebransjen allerede er pålagt når det gjelder merking av manipulerte bilder. Intensjonen er god, men utfordringene desto flere: Hvor går grensen for når innhold kan betraktes som KI-generert?

– Jeg er opptatt av at vi må kunne stole på det vi hører eller ser på nett. Jeg er glad for at den nye lovteksten i EU stiller strenge krav til at KI-systemer som genererer lyd, bilde, video eller tekst skal være merket slik at vi er klar over at det ikke er ekte. Jeg møtte nylig politikere i Brüssel som jobber med regelverket. De informerte om at det vil ta inntil tre år før alle delene av KI-forordningen er innført. I mellomtiden er ikke dette, som du påpeker, et lovtomt rom – verken i EU eller Norge. Vi har gode, teknologinøytrale lover for å slippe å endre dem hver gang det kommer en ny teknologi.

Vi har i dag verktøy som kan spesialtilpasse informasjon til hver enkelt person for å påvirke dem til å opptre og handle på en bestemt måte. Det er skjedd gjentatte ganger, blant annet i forbindelse med valg. Personvern kan løse en del, men ikke alt: Hvordan forbereder vi folk flest på flommen av persontilpasset desinformasjon, som blant annet SoMe-aktørene har sagt at de skal ta tak i? Et eget fag for kildekritikk på skolen og et kurs i kildekritikk på jobben, er det eksempler på grep som bør tas?

– Bruk av KI og ny teknologi gir først og fremst utrolige muligheter, det må vi ikke glemme. Men som all annen teknologi, så kan det også brukes på måter vi ikke ønsker. For eksempel kan deepfake videoer brukes til å manipulere og desinformere. Alle bør ha en årvåkenhet og kritisk sans i møte med innhold som kanskje ikke er det det gir seg ut for å være. Vår oppgave som politikere er å lage et rammeverk så ny teknologi utvikles og brukes til samfunnets beste, og i tråd med våre verdier.