7. Menneskerettslig SciFi: Nye menneskerettigheter for ny teknologi?
Ny teknologi gjør mennesket om fra subjekt til objekt i samfunnet. Utviklingen gir grunn til å tenke nytt rundt menneskerettighetene.
«Det er simplistisk og naivt å slå seg til ro med at ‘det som er beskyttet offline er beskyttet online’.»
FNs spesialrapportør for ytringsfrihet, 2018
Utfordringene for menneskerettighetene i møte med ny teknologi som er skissert opp i denne rapporten gjør at stadig flere uttrykker bekymring for at den tradisjonelle tolkningen av menneskerettighetene er «håpløst utilstrekkelig» eller metodisk svak. Både internasjonalt og nasjonalt blir det etterspurt klarere rammer og retningslinjer.1Dansk institut for menneskerettigheder (2021), Når algoritmer sagsbehandler, s. 4. Det tales derfor stadig oftere om nye typer rettigheter for å fange opp nye former for overgrep, uintenderte effekter og negative konsekvenser av ny teknologi. Man ser for seg både utvidende eller tilpassende tolkninger av allerede eksisterende menneskerettigheter og helt nye regler. FNs spesialrapportør for ytringsfrihet har for eksempel oppfordret til at det utvikles et rettslig rammeverk som kan gi bedre tilpassede normer for beskyttelse av privatlivet i den digitale tidsalderen.
Nye rettigheter som kommer med denne utviklingen omfatter retten til å bli glemt,2Europeisk erklæring om digitale rettigheter og prinsipper, kap. V: «Everyone should be able to determine their digital legacy, and decide what happens with the publicly available information that concerns them, after their death», 2022. retten til å bli informert og retten til å ikke følge ordre eller være ulydig. Dette er alle rettigheter som anses nødvendige i ethvert solid rettssystem, altså et rettssystem som vil være effektivt i møte med algoritmisk myndighetsutøvelse og styring.
En rett til ikke å bli underlagt automatiserte beslutninger er også i støpeskjeen.3Den er allerede delvis reflektert i GDPR art. 22. GDPR gir en registrert person rett til ikke å være gjenstand for en avgjørelse utelukkende basert på automatisert behandling når avgjørelsen i betydelig grad påvirker vedkommende.
En beslektet rettighet er retten til menneskelig behandling, altså retten til kontakt med mennesker i møte med offentlige tjenester. I Frankrike arbeider man for eksempel med utkast til ny lov som skal garantere menneskelig kontakt med helsepersonell selv om selve behandlingen er basert på teknologiske løsninger, altså en slags rett til menneskelig kontakt i beslutningsprosessen. EU-parlamentet la til grunn i 2017 at menneskelig kontakt utgjør en grunnkomponent for personlig helse.4Résolution du Parlement européen contenant des recommandations à la commission concernant des règles de droit civil sur la robotique. 16. feb. 2017; No. 32.
En annen rett i støpeskjeen handler om rett til å beskyttes mot at algoritmer og kunstig intelligens pre-determinerer folks valg i privatlivet, som valg av helse, utdannelse eller arbeid.5Europeisk erklæring 2022, kap. II (Valgfrihet).
En mer revolusjonerende tilnærming til digitale rettigheter argumenterer for at teknologien i økende grad vil overta den rolle som rettsregimer har hatt, fordi digitale strukturer oppfyller den samme sosiale regulerende funksjonen som jussen har, bare raskere og mer effektivt. Fordi dataprosessering former samfunnet vil datasamling bli et nytt instrument for sosiale betingelser som igjen vil påvirke hvordan enkeltmennesker opptrer og handler. Bekymringen handler om «dyp teknologi», altså ubevisste påvirkningsmuligheter.
Noen foreslår å løse dette gjennom en egen type digitale menneskerettigheter hvor man skiller mellom menneskerettigheter offline og online. For sine online rettigheter, trenger man en online personae, altså en digital eller virtuell representasjon som kan eksistere og ha rettigheter uavhengig av rettssubjektet som skapte dem. Dette kalles en virtuell tvilling. Begrepet tar utgangspunkt i at alle har en digital identitet, en personlig digital tvilling. Så mye data samles nå om hver enkelt av oss at vi kan etter hvert kan tale om vår egen personlige virtuelle tvilling. Konseptet befinner seg mellom menneske og ting, og diskusjonen om hvordan menneskerettighetene skal tilpasses vår virtuelle tvilling tiltar raskt. For eksempel har noen foreslått å inkludere en ny rettighet i FN-erklæringen av 1948 for å gi hvert individs digitale tvilling tilsvarende rettigheter som individet har i den fysiske verden.6Change.org. A new UN Human Rights article that protects your Personal Digital Twin. Dette vil neppe føre frem.
Ny teknologi vil hjelpe samfunnet vårt med store fremskritt og forbedringer de neste årene. Myndighetene vil bli bedre i stand til å sikre menneskerettighetene gjennom disse teknologiske nyvinningene. Teknologien har imidlertid noen mørke baksider. I påvente av klarere internasjonale rettsregler for digital styring, må myndighetene ta konsekvensene av at ny teknologi og kunstig intelligens også kan utgjøre en risiko for samfunnet vårt og ha negative effekter for menneskerettighetene. Noen av disse negative effektene er det vanskelig å forutse, identifisere eller måle, som for eksempel konsekvenser for demokratiet, rettsstaten, rettferdig omfordeling eller virkninger på det menneskelige sinnet. Likefullt er det myndighetenes ansvar å sørge for at nye teknologier blir mer til nytte enn til skade for det menneskerettslige vern. Myndighetene må derfor kartlegge mulige negative effekter og iverksette nødvendige og proporsjonale tiltak for å redusere denne risikoen.
Når offentlige myndigheter anvender ny teknologi til beslutningsstøtte eller til å fatte beslutninger, er det myndighetenes ansvar at menneskerettighetene respekteres og vernes. Ansvaret gjelder både ved beslutninger om å innføre og modifisere digitale løsninger, og ved bruk av slik teknologi i statlig forvaltning.