Generativ kunstig intelligens og ytringsfrihet

NIM-R-2023-004
Rapport: Generativ kunstig intelligens og ytringsfrihet (pdf) 2.61 MB

Å skape innhold på nett er ikke lenger forbeholdt mennesker. Kunstig intelligens har gitt maskiner skaperevner som gjør at de kan delta i det offentlige rom på en menneskelignende måte. Det byr på helt nye utfordringer for ytringsfriheten.

Internett og sosiale medieplattformer har blitt infrastruktur for det offentlige ordskiftet i Norge, slo Ytringsfrihetskommisjonen fast, kort tid før ChatGPT ble lansert. Ett år senere gir vi vårt bud på kapittelet kommisjonen ikke rakk å skrive: Hvordan påvirkes ytringsfriheten av generativ kunstig intelligens?

I denne rapporten har Teknologirådet og Norges institusjon for menneskerettigheter forent krefter for å forutse noen av effektene kunstig intelligens vil føre med seg for vår digitale offentlighet, og vurdere hvordan utviklingen vil kunne påvirke menings-, informasjons- og ytringsfriheten.

I forbindelse med lanseringen av rapporten ble det holdt en presentasjon og panelsamtale hos Pressens hus. Du kan se opptak av hele arrangementet her.

Lanseringen av ChatGPT i november 2022 markerer gjennombruddet for generativ kunstig intelligens. Det er en fellesbetegnelse på en type kunstig intelligens som kan generere unikt innhold – alt fra tekst og lyd til bilder og videoer.

Generativ kunstig intelligens vil få store konsekvenser for den digitale offentligheten. Maskiner utstyrt med generative egenskaper kan skape nytt innhold, ta del i det offentlige ordskiftet på en menneskelignende måte, og samtidig representere og formidle meninger, holdninger og verdier. I tillegg mangler de generative modellene begrep om sannhet og løgn, og modellenes kompleksitet gjør det vanskelig for mennesker å forstå nøyaktig hvordan modellene fungerer.

Rapporten går gjennom både teknologien og de ulike implikasjonene for ytringsfriheten, og trekker opp seks mulig tiltak det kan være nyttig å vurdere nærmere:

  • Utvikle tekniske løsninger for verifisering
  • Innføre krav om merking
  • Stille selskapene til ansvar
  • Styrke digital kildekritisk forståelse
  • Støtte redaktørstyrte medier
  • Påvirke internasjonal normutvikling

Ansvarlige for prosjektet er Hanne Sofie Lindahl fra Teknologirådet, og Cecilie Hellestveit og Vidar Strømme fra Norges institusjon for menneskerettigheter.

Forslag til forskrift om behandling av personopplysninger i forbindelse med programmet Sammen på vei

NIM-H-2023-040
Høringsnotat - Forslag til forskrift om behandling av personopplysninger Sammen på vei (pdf) 158.37 KB

NIM er positive til at departementet ønsker å regulere behandlingen av personopplysninger i forbindelse med programmet Sammen på vei. I høringsuttalelsen etterlyser NIM en nærmere vurdering av hvor inngripende lagringstiden anses å være overfor barnet. NIM peker på at privatlivsimplikasjonene vil kunne få gradvis større betydning etter hvert som barnet blir eldre.

Innspill til Rushåndhevingsutvalget

NIM-B-2023-026
Innspill til Rushånhevingsutvalget fra NIM (pdf) 213.06 KB

NIM har avgitt innspill til Rushåndhevingsutvalget. NIM nevner flere menneskerettslige spørsmål som bør vurderes, blant annet vern mot selvinkriminering og bruk av overskuddsinformasjon. Videre gir vi innspill definisjonen av «rusmisbruker» i tilfeller der rusbruken har sin årsak i en funksjonsnedsettelse og om spørsmålet om funksjonsnedsettelsens betydning for straffefastsettelsen.

Brev til Kommunal- og distriktsdepartementet med innspill til tillegg til veilederen «Utvalgsarbeid i staten», med forslag om å inkludere referanser til NIMs menneskerettighetsverktøy.

NIM-B-2023-027
Innspill til veilederen Utvalgsarbeid i staten (pdf) 159.67 KB

NIM har sendt brev til Kommunal- og distriktsdepartementet med innspill til tillegg til veilederen «Utvalgsarbeid i staten», med forslag om å inkludere referanser til NIMs menneskerettighetsverktøy.

NIM deltar på FNs klimatoppmøte i Dubai

Mellom 30. november og 12. desember skal delegasjoner fra hele verden samles for å forhandle om løsninger på klimakrisen under FNs klimatoppmøte (COP28) i Dubai. Dette haster. Verden er nå 1,1°C varmere enn preindustriell tid, og klimaendringene er allerede tydelige.

Dette påvirker menneskerettighetene. Et skadet klimasystem vil føre til mer ekstremvær som truer menneskers liv, hjem, helse, biologisk mangfold og naturen vi avhenger av. Menneskerettighetene forplikter stater til å beskytte sine innbyggere mot slike trusler etter menneskerettigheter som retten til liv, privatliv, helse, eiendom og et levelig miljø. Klimaendringene er med rette beskrevet som en av de største truslene mot menneskerettighetene av 161 land i en resolusjon fra FNs generalforsamling.

For å fremme dette perspektivet, reiser NIMs direktør Adele Matheson Mestad til COP28. NIM har to hovedformål med deltakelsen:

1. Fremme oppfordringer fra 120 nasjonale menneskerettighetsinstitusjoner til delegasjonene

Sammen med 120 nasjonale institusjoner for menneskerettigheter, har vi gjennom vår globale allianse GANHRI gått sammen om et felles brev med seks oppfordringer til alle delegasjonene.

En hovedoppfordring er at statene må øke ambisjonene om utslippskutt for å nå 1,5°C målet i Parisavtalen. En ny rapport fra FNs miljøprogram viser at med staters vedtatte politikk er oppvarmingen fortsatt er på vei mot 2,9°C. Dette kan få katastrofale følger for menneskerettighetene. For å få å holde målet om å begrense oppvarmingen til 1,5°C innen rekkevidde, oppfordrer GANHRI også statene å fase ut fossil energi, samtidig som fornybar energi og energieffektivisering økes.

GANHRI understreker også at menneskerettighetene må integreres i klimaforhandlingene. Dette betyr blant annet at statene må sørge for at sivilsamfunnet kan delta fritt i klimaforhandlingene, og at miljøforsvarere beskyttes før, under og etter COP28 i Dubai.

Hele brevet fra GANHRI til delegasjonene kan leses her.

2. Bidra til gode diskusjoner om klima og menneskerettigheter og observere pågående forhandlinger

NIM vil også delta på en rekke arrangementer og være observatør til de pågående forhandlingene, med sikte på å fremme menneskerettighetene i diskusjonene som pågår.

Vil du komme i kontakt med oss?

Direktør Adele Matheson Mestad er til stede i Dubai 2. til 6. desember. Dersom noen ønsker å komme i kontakt med NIM i Dubai, kan direktør Adele Matheson Mestad nås på e-post adele.mathesonmestad@nhri.no.

Pressekontakt i Norge er Magnus Eide. Tlf. 93 88 24 53 E-post: magnus.eide@nhri.no

Skriftlig innlegg til Høyesterett i sak om nakenvisitasjoner i Bergen fengsel og sak om oppfølging etter barnevernets omsorgsovertakelse

NIM-T-2023-002
Skriftlig innlegg til Høyesterett, 271123 (pdf) 341.82 KB

NIM har send skriftlig innlegg til Høyesterett, såkalt amicus curiae eller tredjepartsintervensjon, i sak om nakenvisitasjoner i Bergen fengsel som reiser spørsmål om krenkelse av EMK artikkel 3 og reparasjonserstatning etter artikkel 13, og sak om oppfølging etter barnevernets omsorgsovertakelse som reiser spørsmål om krenkelse av retten til familieliv og oppreisning etter EMK artikkel 13.

NIM lanserer krafttak for menneskerettigheter i kommunene

I dag lanserer NIM et menneskerettighetskurs for folkevalgte og ansatte i kommunene. – Vi vil hjelpe kommunene med å jobbe mer systematisk med menneskerettigheter, sier NIM-direktør Adele Matheson Mestad.

Formålet med satsingen er å få opp kunnskapen om menneskerettighetene i kommunene. Kurset retter seg mot folkevalgte, ledere, ansatte og personer som driver kontrollarbeid i kommunene.

Kommunene står ofte i førstelinjen for å innfri menneskerettighetene i Norge, innenfor områder som eldreomsorg, barnevern og skole. Samtidig er det nok mange ute i kommunene som er usikre på hva menneskerettighetene er. Vi håper vårt kurs vil bidrar til å øke bevisstheten om menneskerettighetene blant de som jobber eller er folkevalgt i kommunene, sier Mestad.

Kommunene har etter Grunnloven § 92 et selvstendig ansvar for å respektere og sikre menneskerettighetene. En spørreundersøkelse gjennomført av NIM i 2021 viste at kommunale lederes kjennskap til menneskerettighetene er varierende. Samtidig viste undersøkelsen at interessen var stor for å lære mer.

Vi opplever at det er stor interesse ute i kommunene for hva menneskerettighetene har å si for den enkelte. I mange kommuner har det også blitt gjort mye godt arbeid for å styrke gjennomføringen av særlig barnekonvensjonen. Dette har blant annet ført til bedre medvirkning fra barn i saker som berører dem. Det viser potensialet i å jobbe systematisk med menneskerettigheter på kommunalt nivå, sier Mestad.

Ifølge direktøren kan manglende kunnskap i verste fall bidra til økt risiko for at menneskerettighetene brytes. Hun trekker frem tre eksempler:

  • Sivilombudet har i flere avgjørelser konkludert med at kommuner har begrenset de ansattes ytringsfrihet for mye, blant annet på grunn av manglende kunnskap om når lojalitetsplikten kan begrense ytringsfriheten.
  • Norge har de senere årene blitt dømt i en rekke barnevernssaker i Den europeiske menneskerettsdomstolen. Sakene viser at barnevernets kompetanse om gjenforeningsmålsetningen ikke har vært god nok.
  • Et landsomfattende tilsyn fra Helsetilsynet fra 2023 konkluderte med at regelverket om tvungen helsehjelp ofte ikke er godt nok forstått og innarbeidet i de undersøkte kommunale helse- og omsorgstjenestene. Manglende kunnskap om når en pasient er samtykkekompetent kan blant annet føre til ulovlig tvangsbruk.

Et av kursets målsetninger er å ruste folkevalgte og ansatte til bedre å kjenne igjen situasjoner hvor rettigheter kan komme i spill.

Kommunalt ansatte i alt fra barnevernstjenesten, skoler, og helsetjeneste har grunnleggende viktige oppgaver med å sikre gjennomføringen av rettigheter. Målet vårt er å hjelpe dem å få menneskerettighetene under huden. På den måten kan vi forhåpentligvis redusere risikoen for menneskerettighetsbrudd i Norge, sier Mestad.

Mestad anerkjenner samtidig at dette er kompliserte problemstillinger, og at kunnskapsheving bare er en del av løsningen.

Det er flere forhold som kan gjøre det vanskelig å jobbe strukturelt med menneskerettigheter. I tillegg til kompetanseutfordringer, peker kommunelederne som har svart på vår undersøkelse særlig på tidspress og manglende ressurser. Demografiutviklingen og tilgangen til arbeidskraft øker disse utfordringene. Likevel håper vi at vårt kursopplegg kan være et steg på veien mot en mer systematisk tilnærming til menneskerettighetene i kommunene, avslutter Mestad.

Kurset er tilgjengelig i KS Læring og på NIMs nettsider.

Ta kurset på NIMs nettsider her.

Ta kurset i KS læring her.

Ønsker du intervju med NIMs direktør i forbindelse med lanseringen av kurset?

Ta kontakt med NIMs kommunikasjonsrådgivere Nora Vinsand (tlf. 90 23 47 37) eller Magnus Eide (tlf. 938 82 453).

La 2024 bli året for et voldsoppgjør

Kronikk av Adele Matheson Mestad, direktør, og Mina Haugen, rådgiver. Opprinnelig publisert i Altinget 25. november 2023.

Vold mot kvinner fremdeles er en av våre største samfunnsutfordringer. I 2024 har myndighetene en gyllen mulighet til å gjøre noe med det.

Den 25. november er den internasjonale dagen for avskaffelse av vold mot kvinner. Dagen er til for å sette søkelys på et av de mest systematiske og utbredte menneskerettighetsbruddene i verden, nemlig vold mot kvinner og jenter.

Også i Norge er det dessverre fortsatt grunn til å markere dagen.

I mars kom Nasjonalt kunnskapssenter for vold og traumatisk stress (NKVTS) med en ny nasjonal omfangsstudie om vold og seksuelle overgrep i den voksne befolkningen i Norge. Den viser blant annet en dobling i antall kvinner under 29 år som sier de har blitt utsatt for alvorlig fysisk partnervold. Ifølge studien oppgir én av ti kvinner å ha blitt utsatt for alvorlig fysisk vold fra en partner, og at å ha bli utsatt voldtekt og andre seksuelle overgrep stadig er særlig utbredt blant kvinner. Kun et mindretall av de som var utsatt for vold og overgrep anmelder det til politiet, og at mange opplevde at saken ikke ble etterforsket etter anmeldelse.

Vold mot kvinner er ikke bare en utfordring i rettssystemet. Kvinnehelseutvalget, som leverte sin utredning tidligere i år, viser at kjønnsbasert vold også er et kvinnehelseproblem. I utredningen påpeker utvalget at kvinner oftere enn menn utsettes for seksuell vold og vold i nære relasjoner. Kvinners psykiske helseproblemer som følge av volden er også større.

Som om ikke de menneskelige kostnadene var store nok, så har kjønnsbasert vold store samfunnsøkonomiske kostnader. Tidligere i år kom også Menon Economics’ rapport om samfunnskostnadene av vold i nære relasjoner, der det anslås at vold i nære relasjoner utgjorde en samfunnskostnad på 92,7 milliarder kroner i 2021. Av disse milliardene utgjorde 58 prosent kostnader knytt til redusert livskvalitet og helseutfordringer. Produksjons- og effektivitetstap, blant annet redusert deltakelse i arbeidslivet, utgjorde 27 prosent.

Samfunnsproblem og menneskerettighetsproblem

Bildet rapportene danner er ikke hyggelig. De viser et stort samfunnsproblem, så vel som et menneskerettighetsproblem. Norge er forpliktet etter Kvinnekonvensjonen, Istanbulkonvensjonen og Den europeiske menneskerettskonvensjonen til å forebygge og bekjempe vold mot kvinner.

Tidligere i år ble Norge hørt i FNs kvinnekomité, som overvåkeretterlevelsen av kvinners Kvinnekonvensjonen. I høringen kritiserte komiteen myndighetenes innsats mot vold mot kvinner. Det er heller ikke lenge siden Norge fikk tilsvarende kritikk fra Europarådet for etterlevelsen av Istanbulkonvensjonen, som forplikter myndighetene til å forebygge og bekjempe både vold mot kvinner og vold i nære relasjoner. Alvorlig kritikk har også kommet her hjemme ifra, fra Partnerdrapsutvalget og Riksrevisjonen. Samlet danner dette et bilde av vedvarende svakheter i etterlevelsen av plikten staten har til å forebygge og bekjempe kjønnsbasert vold.

Et kunnskapsbasert voldsoppgjør

Bildet er likevel ikke bare dystert. Både forskningen og systemkritikken vi har fått gir oss innsikt om både art, omfang og årsaker til kjønnsbasert vold, som er nødvendig for å iverksette tiltak mot den. Og i året som kommer har myndighetene en gyllen mulighet til å sette kunnskapen ut i livet.

Regjeringen har varslet en ny opptrappingsplan mot vold i nære relasjoner og vold mot barn. Tidligere i år satte regjeringen også ned et eget voldtektsutvalg, som skal utrede hvordan man kan styrke arbeidet med å forebygge og bekjempe voldtekt, og å bidra til av utsatte får et tilpasset og helhetlig tilbud om bistand og oppfølging. Regjeringen skal også følge opp Straffelovrådets utredning om den strafferettslige reguleringen av seksuallovbrudd.

På nyåret skal også krisesenterloven, som regulerer et av de viktigste hjelpetiltakene vi har for voldsutsatte, revideres. Dette har også sider til menneskerettighetene, ettersom myndighetene etter Istanbulkonvensjonen har en plikt til å sikre at det finnes et tilstrekkelig antall formålstjenlige og tilgjengelige krisesentre. Lovutvalget om negativ sosial kontroll skal også levere sin utredning om de juridiske problemstillingene i saker om negativ sosial kontroll, æresrelatert vold, tvangsekteskap, kjønnslemlestelse og psykisk vold.

Etter menneskerettighetene har myndighetene en plikt til å føre en kunnskapsbasert politikk for å forebygge og avverge vold mot kvinner. De siste årene har gitt oss kunnskapen. La 2024 bli året som gir oss politikken- og gjennomføringen.

Verbal krigføring

Kronikk av Anine Kierulf, førsteamanuensis UIO, spesialrådgiver NIM. Opprinnelig publisert i Dagens Næringsliv 25. november 2023.

Ord er ikke vold, og kan sjelden straffes. Men de kan likevel gjøre forferdelig vondt.

I en debatt nylig møtte jeg synspunktet «ord er vold». Debatten gjaldt provoserende ytringer som kan smerte og skremme – og som kan være ment å gjøre det også. Argumentet var at så skadelige ytringer burde anses som vold, også rettslig.

Vold – fysiske kroppskrenkelser – er straffbare. I form av slag og spark, selvsagt, men også i ganske milde varianter, som klyping, spytting og sneballkasting.

En del ord er også straffbare. Selv om vi har ytringsfrihet er det ikke lov å true folk, eller oppfordre til straffbare handlinger, utsette minoriteter for grovt hatefulle ytringer eller drive personforfølgelse og sjikane. Felles for disse lovgrensene er at de forbyr ord som ord, på grunn av den effekten de har som ord.

Er ord vold? Argumentet, som dukker opp fra tid til annen, ble denne gang fremholdt av en teolog. Det fikk meg til å tenke på ediktet i Nantes fra 1598, et vendepunkt i religionshistorien, fordi hugenottene fikk trosfrihet. Og et slags vendepunkt i tenkningen om forholdet mellom handlinger og ytringer: Etter årtiers voldelige religionskriger, ble man enige om å være uenige, selv om noe så viktig som religion. Uenige med ord, snarere enn sverd. Med ytringer fremfor handlinger.

Sett som en slags krigens fortsettelse med andre midler, blir det klart at harde ord mellom dønn uenige mennesker kan smerte og skremme og skade noe aldeles fryktelig. Men mindre enn harde handlinger.

Skaden ord kan gjøre er mer indirekte og betinget. Av kontekst, men også av subjektive forhold. Den som snakker, må ha en form for overtak eller innflytelse for at ordene skal svi (de svir mindre fra uvitende barn). Og den som lytter, må la seg påvirke. Det siste er ikke alltid noe man kan velge, selvsagt. Men der det samme, harde knyttneveslaget mot ansiktet har ca. samme effekt på alle som blir slått, kan verbale knyttnever ramme noen veldig hardt, og andre ikke i det hele tatt. Den verbale knyttneven, eller foten i munnen, kan endog ramme den som «slår».

Ord kan være vold, for eksempel i språkfilosofien eller psykologien. Og i jussen – i alle fall i ett tilfelle: Psykisk vold i form av ord kan være straffbart. Men da i nære relasjoner, der slike ord kan ta form av mishandling over tid, og mellom mennesker som nettopp står i et særegent avhengighetsforhold til hverandre.

Fra et litterært eller religiøst perspektiv er det vanskeligere å forholde seg til ord som vold. Store epos kan smerte og skremme (med vilje!), hellige skrifter kan direkte oppfordre til vold og fornedring av kvinner, utro, homofile og obsternasige barn. I seg selv er ordene likevel ikke vold. Og hvis vi (mis)bruker dem til voldelige handlinger, er det handlingene samfunnet reagerer på – sosialt og rettslig.

Mer generelt funker «ord er vold» dårlig i rettsstatlige demokratier. I alle fall hvis man mener at ytringsfrihet til kritikk av alt samfunnsrelevant er en forutsetning for reelt folkestyre:

Propalestinske demonstrasjoner og slagord(sic.) kan skremme jøder, pro-israelske ditto kan smerte palestinere. Og deres respektive støttespillere her hjemme. Slik smerte, eller nedverdigelse av motparten trenger ikke være motivasjonen bak slagordene, men det kan være det. I fravær av ulovlige ytringer er demonstrasjonene uansett uttrykk for legitim og viktig maktkritikk.

Arnulf Øverland smertet en del kristne med sin ramsalte kritikk av kristendommen. Ways of Seeing skremte familien Wara/Bertheussen ved å filme husfasaden deres. Kanskje var det intensjonen også. Vedvarende mediekjør mot Sindre Finnes’ aksjehandler er antagelig egnet til å skade ham, personlig. Hans kones offentlig uttalte skuffelse kan ha smertet ham. Uten Ways of Seeing og den harde omtalen av Finnes ville vi neppe kommet på at justisministersamboere kan være trusler mot demokratiet eller byttet utenriksminister i høst. Ytringers virkninger i verden er ganske uforutsigbare.

Ord kan i det hele tatt ha en rekke virkninger som er svært negative for dem de rammer, og likevel være samfunnsviktige. Derfor kan de ikke sammenstilles med vold rettslig sett, hvis vi vil beskytte muligheten til fri meningsutveksling.

Det er dessverre alt for mye virkelig vold om dagen. Heller ikke den blir lettere å komme til livs hvis vi likestiller de ordene vi kommuniserer om volden med, med volden selv.

Selv om ord ikke er vold, kan verbal krigføring, utøvd forsettlig eller uaktsomt, gjøre forferdelig vondt. Bare spør mobbeofre eller hardt fagfellerefuserte akademikere eller samfunnsstøtter som, berettiget eller ei, blir gjenstand for flokkmedienes inkvisisjoner.

For ikke å snakke om de sosiale flokkmedienes. Massiviteten i verbal krigføring er voldsom for dem som av ulike grunner er dens mål. Siden de fleste av oss nå er redaktører for vår egen sosialmediale formidling, kan vi derfor merke oss (de symbolske) avslutningsordene i pressens Vær Varsom-plakat: «Ord og bilder er mektige våpen. Misbruk dem ikke!»

FNs Generalforsamling uttrykker bekymring for menneskerettsforkjemperes situasjon

FNs Generalforsamling vedtok tirsdag 21. november en resolusjon om menneskerettighetsforsvarere. 25 år etter at FN-erklæringen om menneskerettighetsforsvarere ble vedtatt, uttrykker resolusjonen sterk bekymring for, og fordømmer, at menneskerettsforsvarere i mange land fortsatt blir utsatt for represalier, trakassert, bøtelagt, forfulgt, kriminalisert, fengslet og drept for sitt arbeid.

I resolusjonen gjentas tidligere anmodninger til statene om å gjennomfører erklæringen og  fremhever betydningen av å skape et trygt og fritt miljø for menneskerettighetsforsvarere og å sikre at de beskyttes.

Resolusjonen kan leses her.

Også i Europa opplever vi tilbakeslag for menneskerettighetsforsvarere.  Flere land har vedtatt restriktive lover som snevrer inn handlingsrommet deres. Menneskerettighetsforsvarere er et prioritert tema for det europeiske nettverket for menneskerettighetsinstitusjoner, (ENNHRI). Her kan man lese mer om ENNHRIs arbeide med menneskerettighetsforkjempere:  Human rights defenders – ENNHRI

NIM har tidligere skrevet en rapport om menneskerettighetsforsvarere i Norge. Den kan du lese her: