Etter en snart 5-årig prosess og mange kontroversielle spørsmål har Europarådets ministerkomité nå vedtatt det som er verdens første internasjonalt bindende avtale om kunstig intelligens – Rammekonvensjonen om kunstig intelligens og menneskerettigheter, demokrati og rettsstat (Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of law).
Konvensjonens overordnede formål er å sikre at bruken av kunstig intelligens er i tråd med menneskerettighetene, demokratiet og rettsstaten. Slik suppleres og konkretiseres de generelle rettighetene som allerede fins i andre instrumenter for bruken av kunstig intelligens. At det er en rammekonvensjon betyr at den inneholder en del generelle prinsipper for bruk av kunstig intelligens, men også er tiltenkt supplert i fremtiden hvis det er behov for å adressere mer spesifikke og konkrete utfordringer knyttet til bruk eller utvikling av kunstig intelligens.
En interessant nyvinning ved konvensjonen er at den ikke bare tar sikte på å beskytte menneskerettighetene, men også å beskytte demokratiet og rettsstaten mot skadelig bruk av kunstig intelligens. Særlig stiller den krav om beskyttelse av integriteten til demokratiske institusjoner og prosesser. Dette gjør at konvensjonen føyer den seg inn i en trend der demokrati og rettsstat i økende grad operasjonaliseres ikke bare som prinsipper som må beskyttes politisk, men også standarder som må beskyttes rettslig.
Konvensjonen pålegger statene å vedta passende lovgivning for å gjennomføre dens bestemmelser. For Norge betyr det antakeligvis at det bør vedtas en lov, eller endringer og tillegg til eksisterende lover, med sikte på å regulere kunstig intelligens. Som EU sin AI Act legger konvensjonen opp til at reguleringen av kunstig intelligens bør graderes og differensieres ut fra en vurdering av både risikoen ved bruk og konteksten for bruk. For Norges del vil det antakeligvis være realistisk at implementeringen av denne konvensjonen ses i sammenheng med EU AI Act, som også snart forventes vedtatt, og at man jobber samlet med implementeringen av disse.
Selv om konvensjonen er et viktig steg i reguleringen av kunstig intelligens, og har viktige nyvinninger som beskyttelse av demokrati og rettsstat, har det blitt rettet kritikk for mangler på visse punkter. Særlig gjelder det konvensjonens anvendelsesområde, som i utgangspunktet begrenser seg til statens egen bruk av kunstig intelligens. For private aktører oppstiller den en mye svakere forpliktelse om at statene må regulere bruken på en måte som ikke strider mot konvensjonens formål. Det er opp til statene selv om de vil oppnå det ved å gi konvensjonen anvendelse også overfor private aktører, eller ved å heller treffe andre passende tiltak.
I tillegg ekskluderer konvensjonen både bruk av kunstig intelligens for formål som knytter seg til nasjonal sikkerhet, og all bruk som knytter seg til forsvaret. Det betyr totalt sett at anvendelsesområdet er såpass begrenset at mye av dagens bruk av kunstig intelligens vil falle utenfor. NIM mener derfor det er sentralt at regjeringen og Stortinget, i implementeringen av konvensjonen, sørger for at vi får et norsk regelverk som dekker alle områder der bruken av kunstig intelligens kan utgjøre en risiko for menneskerettighetene, demokratiet og rettsstaten, særlig ved et regelverk som gjelder også for private aktører.
Et annet kritikkpunkt er at mange av de sentrale rettighetene er formulert som «prinsipper» eller gitt andre formuleringer som er vagere enn de samme korresponderende rettighetene som allerede fins i den europeiske menneskerettighetskonvensjonen. Selv om konvensjonen klargjør at den ikke begrenser eller påvirker rettigheter som følger av andre relaterte instrumenter kan valget av formuleringer gi inntrykk av at rettighetsvernet er svakere enn det faktisk er.
Totalt sett mener NIM likevel at konvensjonen er et positivt steg i riktig retning, og at pliktene og prinsippene den setter opp er viktige såpass generelle at de vil kunne være relevante å se til som illustrasjon også ved regulering av kunstig intelligens som faller utenfor konvensjonens anvendelsesområde.