4. Nye utfordringer for menneskerettighetene

Når ny teknologi blir utbredt som verktøy for statlige myndigheter, private aktører og borgerne, oppstår nye menneskerettslige problemstillinger.

«Den raske teknologiutviklingen innenfor kunstig intelligens og måten teknologien brukes av næringsliv og statlige myndigheter, har helt overkjørt innsatsen for å sikre menneskerettighetene i møte med kunstig intelligens.»
FNs høykommissær for menneskerettigheter, 2021

Digitalisering og nye teknologiske verktøy forsterker noen velkjente utfordringer for menneskerettighetene. Enkelte av menneskerettsutfordringene er også helt nye – nærmest like banebrytende som teknologien selv.

Maskinenes veier blir uransakelige

Systemer som er basert på maskinlæring, kunstig intelligens eller autonomi er ofte ugjennomtrengelige for menneskelige beslutningstakere, et problem kjent som «sort boks-problemet». I motsetning til tradisjonelle algoritmer, vil beslutninger basert på dyplæring kunne bli nær sagt umulige å ettergå for mennesker. Dermed vil de heller ikke kunne overprøves eller på andre måter forklares for publikum eller for dem som har ansvar for kontrollmekanismene. Det tales i økende grad om et «forklaringsprinsipp».

«Alle» er sårbare i møte med ny teknologi

De internasjonale menneskerettighetene skal beskytte enkeltmennesket i møte med statsmaktene. Menneskerettighetene er gjerne spesielt viktige for personer som er sårbare eller som tilhører utsatte grupper. Problemstillingene knyttet til menneskerettigheter og ny teknologi omfatter alle medlemmer av samfunnet. Ny teknologi og kommunikasjonsdata gjør at informasjon ikke lenger trenger å være «personliggjort» for å identifisere et individ.¹FNs høykommissær for menneskerettigheter, Report on the right to privacy in the digital era, 2018, avsn. 54. Teknologien kan også avsløre svært private og intime detaljer.²FNs høykommissær for menneskerettigheter, Right to privacy, 2018 avsn. 25. Ny teknologi representerer slik sett menneskerettighetsutfordringer som rammer en mye større del av samfunnet enn bare de som er i kontakt med for eksempel rettsvesenet, barnevernet eller eldreomsorgen. I møte med ny teknologi er alle mennesker sårbare.

Ny teknologi øker sårbarheten til utsatte grupper

Fra et menneskerettighetsperspektiv vil sårbare grupper gjerne være særlig utsatte i møte med ny teknologi. Menneskerettigheter handler i stor grad om minoritetsvern. Vernet av utsatte grupper ivaretas gjerne ved å sikre en god saksbehandling som er egnet til å identifisere hvilke særlige behov en gruppe har. For eksempel gir FNs barnekonvensjon rettigheter til enhver person under 18 år. Myndighetene må ta hensyn til «barnets beste» under saksbehandling og i konkrete avgjørelser som treffes.³FNs barnekonvensjon (BK), vedtatt 20. nov. 1989, trådte i kraft 2. sept. 1990, art. 3 nr. 1. BK artikkel 12 stiller mer presise krav til saksbehandlingen. Barnekonvensjonen stiller krav til barnets muligheter for å bli hørt og bidra under saksutredning, og det påligger statlige myndigheter et særlig ansvar for å etterleve konvensjonsforpliktelsene gjennom saksbehandlingen. Ved bruk av ny teknologi blir gjerne store deler av saksbehandlingen automatisert og underlagt algoritmebaserte beslutninger. Det vil kunne oppstå risiko for at myndighetene ikke ivaretar barns rett til å bli hørt i alle saker som berører dem, dersom myndighetene ikke har et særlig blikk på denne problemstillingen. Når ny teknologi gjør saksbehandlingen mer utilgjengelig, blir sårbare grupper mer utsatte.

Digitalt utenforskap

Ny teknologi skaper også helt nye sårbarheter. Av ulike grunner vil mange falle utenfor i den digitale utviklingen. I takt med at digitaliserte løsninger overtar stadig større deler av hverdagen vår, også oppgaver som er helt dagligdagse, vokser bekymringene rundt digitalt utenforskap. Den digitale utviklingen kan innebære at personer med nedsatt funksjonsevne ikke får tilgang på tjenester, noe som vil kunne utgjøre brudd på FNs konvensjon om rettighetene til mennesker med nedsatt funksjonsevne (CRPD). For eksempel har en stor andel eldre lav digital deltakelse eller svak digital kompetanse, og risikerer å falle utenfor. Ny teknologi kan skape nye former for utenforskap.

Teknologiselskaper som inngrepsaktører

Staten har ansvar for menneskerettighetsbrudd som statlige myndigheter selv forårsaker. Staten er i tillegg forpliktet til å sikre menneskerettighetene i den forstand at det må iverksettes tiltak for å hindre at tredjeparter bryter individenes menneskerettigheter. For eksempel har statene omfattende plikter til å forebygge og forhindre vold mellom enkeltpersoner, når myndighetene visste eller burde visst om denne faren. De har også plikt til å etterforske og straffeforfølge slik vold.⁴Se f.eks. Opuz v. Tyrkia (33401/02), 9. juni 2009, avsn. 150, og Mustava Tunç og Fecire Tunç v. Tyrkia (24014/05), 14. apr. 2015, avsn. 171. Dette kalles gjerne positive forpliktelser.

Ny teknologi kjennetegnes imidlertid av at det er store selskaper, gjerne store multinasjonale selskaper som GAFAM og BATX, som utvikler, forvalter og styrer teknologiutviklingen. I tillegg er det gjerne teknologiselskapene som setter rammene for den digitale aktiviteten – de står selv for reguleringen. Teknologiselskapene representerer dermed en form for regulerende myndighet som på mange måter både er sterkere og mer direkte enn myndighetene. Ny teknologi gir derfor selskaper usedvanlig stor makt over individene.

Teknologiselskapene blir stående mellom staten og innbyggerne når det gjelder kontroll og myndighet. Under menneskerettighetene er selskaper derimot ikke direkte pliktsubjekter. Det er staten som har plikt til å sikre menneskerettighetene. Dette kan etter omstendighetene medføre krav om at statene tar aktive grep for sikre menneskerettighetene i forholdet mellom teknologiselskaper og enkeltmennesker.

Utfordringen med at teknologiselskaper har mye makt, men fravær av direkte menneskerettighetsforpliktelser, kan løses på to måter. En tilnærming er å vurdere hvor langt myndighetene har plikt til å sikre rettigheter som ytringsfrihet og personvern dersom teknologiselskapene ikke selv gjør nok for å ivareta disse rettighetene. Det er fortsatt mye upløyd mark når det gjelder hvordan enkelte rettigheter skal ivaretas i møtet med ny teknologi.

En annen måte å gripe problemet an på er å se det gjennom «linsen» selskapers menneskerettighetsansvar. De siste par tiårene har oppmerksomheten økt rundt selskapers ansvar for menneskerettigheter i tilknytning til den virksomheten de driver. Både FN og OECD har forsøkt å «bygge broer» over det gapet som finnes mellom statenes rettslige plikter og selskapers ansvar. FNs veiledende prinsipper for næringsliv og menneskerettigheter (UNGP) utgjør de ledende internasjonale standardene for næringslivets menneskerettighetsansvar, og henviser blant annet til selskapers ansvar for retten til privatliv og ytringsfrihet.⁵FNs veiledende prinsipper for næringsliv og menneskerettigheter (UNGP).

Teknologiselskapenes store makt ovenfor enkeltindividene gjør at lovgivere har en særlig interesse av og behov for å underlegge teknologiselskaper direkte menneskerettighetsforpliktelser.⁶FNs spesialrapportør for ytringsfrihet, David Kaye, Report on the freedom of expression in the digital era, 2017, avsn. 82–83, FNs høykommissær for menneskerettigheter, Right to privacy, 2018, avsn. 43–49. FNs spesialrapportør for ytringsfrihet, David Kaye, har for eksempel fokusert på teknologiselskapers plikt til å fremme digital ytringsfrihet og hindre begrenset tilgang til nettet.⁷FNs spesialrapportør for ytringsfrihet, David Kaye, Report on the freedom of expression, 2017. I norsk sammenheng har vi nylig fått en åpenhetslov som pålegger større virksomheter å gjøre aktsomhetsvurderinger for menneskerettigheter i verdikjeder.⁸Lov om virksomheters åpenhet og arbeid med grunnleggende menneskerettigheter og anstendige arbeidsforhold (åpenhetsloven), som trer i kraft 1. juli 2022. Selskapenes plikter knytter seg til grunnleggende menneskerettigheter, dermed også retten til privatliv, ytringsfrihet og diskrimineringsvernet, noe som etter omstendighetene vil kunne få følger for teknologiselskapene.

Fremmede stater som inngrepsaktører

Moderne teknologi opphever i noen grad geografiens begrensninger. Cyberspace er ikke knyttet til fysiske territorier, men er desentralisert, og dominert av ikke-statlige aktører. Teknologiutviklingen eksponerer derfor mennesker i Norge i økende grad for inngrep fra utenlandske staters myndigheter som kan bryte med menneskerettighetene.

En utfordring er den digitale infrastrukturen. Norske myndigheters forvaltning av Norge er avhengig av digital infrastruktur i utlandet, som dermed ligger under andre staters jurisdiksjon. Rundt 75 prosent av skytjenestene som benyttes av det offentlige tilbys av kommersielle aktører, og store mengder data lagres i skytjenester i utlandet. Andre stater kan dermed få myndighet over data samlet inn av norske myndigheter om norske borgere i Norge. For å sikre «digital autonomi» har for eksempel Tyskland etablert Bundescloud, en offentlig skytjeneste som gir tyske myndigheter eksklusiv kontroll og jurisdiksjon over tyske data. Spørsmålet er om og i så fall hvordan myndighetene plikter å beskytte lagrede data om egne borgere mot andre stater. I Shrems-II dommen gikk EU-domstolen langt i å forby lagring i USA fordi det kan gi utenforstående (selskaper eller stater) tilgang til data på måter som bryter med EU-rettens regler om blant annet personvern.⁹Shrems-II, EU-domstolen, storkammeravgjørelse 16. juli 2020.

En annen utfordring handler om fremmede staters aktiviteter i Norge og hvilket menneskerettighetsansvar en stat har for digitale operasjoner utenfor egne landegrenser. EMD har ikke tatt stilling til såkalte ekstraterritorielle menneskerettighetsforpliktelser for digital virksomhet.¹⁰EMDs storkammerdommer fra 2021, Big Brother Watch and Others v. Storbritannia (58170/13, 62322/14 og 24960/15) og Centrum för Rättvisa v. Sverige (35252/08), 25. mai 2021, valgte å ikke berøre det kontroversielle spørsmålet. I 2020 konkluderte imidlertid Den tyske konstitusjonsdomstolen med at tysk utenlandsetterretning er underlagt grunnlovfestede forpliktelser til å respektere menneskerettigheter også når de overvåker utlendinger i utlandet. Dette er en rettsforståelse som ikke deles av de statene i verden med mest offensive digitale kapasiteter, som Kina, Russland og USA. Det er altså uenighet om hvordan menneskerettighetene gjelder når utenlandske statsmakter opererer digitalt i Norge på måter som kan innebære inngrep i menneskerettighetene her i landet.

Digital teknologi kan manipuleres

En offentlig forvaltning som i økende grad belager seg på digitale løsninger i sitt forhold til borgerne, må være oppmerksom på at data, prosesser og systemer kan manipuleres av inntrengere. Det kan dreie seg om hackere som driver med rampestreker, inntrengere som saboterer av personlige, politiske eller økonomiske årsaker, eller manipuleringen kan foretas av en terror-gruppe eller en fremmed statsmakt.

Manglende oversikt over teknologiens effekter for menneskerettighetene

Det er en økende bekymring for at de omfattende effektene som digitalisering og ny teknologi har for menneskerettighetene ikke blir analysert og debattert i tilstrekkelig grad. FNs høykommissær for menneskerettigheter anbefalte i 2021 at stater ikke bør innføre kunstig intelligens-teknologi på områder hvor det er «uklart hvilke effekter dette har for menneskerettighetene».¹¹FNs høykommissær for menneskerettigheter, Right to privacy, 2021. En dansk rapport fra 2021 som kartlegger rettighetsutfordringer knyttet til bruk av profileringsteknologi i offentlig forvaltning, konkluderte med at en rekke tiltak bør settes i verk for å sikre at kunstig intelligens og profilering som benyttes av offentlige myndigheter foregår på en betryggende måte fra et menneskerettighetsperspektiv.¹²Dansk institut for menneskerettigheder. Når algoritmer sagsbehandler – rettighteder og retssikkerhed i offentlige myndigheders brug af profileringsmodeller, 11. okt. 2021.

EMD har klargjort at stater som ligger langt fremme i utvikling og bruk av ny teknologi bærer et spesielt ansvar for å finne en god balanse mellom retten til privatliv og andre menneskerettigheter.¹³S. og Marper v. Storbritannia (30562/04 og 30566/04), 4. des. 2008, avsn. 112. Dersom styresmaktene skal kunne ivareta sine teknologinøytrale menneskerettighetsforpliktelser, er det en forutsetning at myndighetene i tilstrekkelig grad skaffer til veie kunnskap om hvilke mulige negative konsekvenser nye teknologiløsninger kan få for menneskerettighetene.