Publisert 2. mai 2021 kl. 19.33
Lesetid: 3 minutter
Artikkellengde er 629 ord
KREVENDE OPPGAVE: EU-kommisjonen har forsøkt seg på å skape et unisont, helhetlig og konsekvent rammeverk for kunstig intelligens og maskinlæring.

Nå blir kunstig intelligens rett

Nye EU-regler for bruk av kunstig intelligens kan føre til bøter opp mot 30 millioner euro, skriver Camilla Hagelien og Trine Vabog i Simonsen Vogt Wiig.

Onsdag 21. april la EU-kommisjonen fram forslag til en forordning om en harmonisert regulering av kunstig intelligens (AI). 

Forslaget kan betraktes som en balanseøvelse mellom to motstridende interesser. På den ene siden veier hensynet til grunnleggende menneskerettigheter, som vern av privatliv, personopplysninger og ytringsfrihet. På den andre siden veier hensynet til innovasjon og næringsliv, og muligheten til å utvikle ansvarlig teknologi som kan løse kompliserte problemstillinger i både privat og offentlig sektor.

Enkelte typer AI mener kommisjonen innebærer en såpass høy risiko for den enkeltes rettigheter at den må forbys

I forslaget er det særlig noen poenger som er verdt å merke seg. Blant annet har AI for første gang blitt underlagt en felleseuropeisk, rettslig definisjon. Definisjonen er utformet på en slik måte at den kan endre innhold etter hvert som teknologien utvikler seg. Definisjonen og det øvrige regelverket er på denne måten dynamisk og fleksibelt, noe som gjør reglene lettere anvendelige. Denne typen lovteknikk kan imidlertid skape en risiko for uklare regler og lite forutberegnelighet.

Trine Vabog. Foto: SVW

Kommisjonen har inndelt bruk av AI etter en risikobasert tilnærming. Enkelte typer AI mener kommisjonen innebærer en såpass høy risiko for den enkeltes rettigheter at den må forbys. Dette omfatter blant annet enkelte typer ansiktsgjenkjenningsteknologi, AI-basert «social scoring» av offentlige myndigheter og der teknologien er egnet til å utnytte særlige sårbare grupper i samfunnet. Hvis teknologien ikke er omfattet av forbudet, men likevel regnes for å medføre en «høy risiko», stilles det strenge krav til både rutiner og systemets oppbygning. Hva som anses som «høy risiko» favner vidt og inkluderer bruk av AI på en rekke områder som innvandring, grensekontroll og straffeforfølgelse. Bruk av AI-baserte beslutningsprosesser i forbindelse med rekruttering, kredittsjekker eller karaktersetting på skoler er også omfattet av denne gruppen.

Camilla Hagelien. Foto: SVW

På denne måten vil trolig teknologien også utenfor Europa kunne styres i en mer ansvarlig retning, hvor grunnleggende rettigheter setter betingelser for hva som kan tilbys i markedet

En innvending mot å innføre særskilte regler for bruk av kunstig intelligens innenfor EU og EØS, har vært at det vil svekke innovasjon og konkurransekraften mot store teknologinasjoner som Kina og USA. Det er dessuten vanskelig å operere med klare geografiske skillelinjer for digitale produkter og tjenester. Løsningen fra EU-kommisjonen er å gi forordningen et bredere nedslagsfelt enn kun EU og EØS-baserte tilbydere. Enkelte AI-baserte systemer vil ifølge kommisjonen være bundet av reglene selv om de verken er plassert, tilbudt eller brukt på det europeiske markedet. Dette vil for eksempel være tilfellet dersom en EU-lokalisert aktør benytter tilbydere av AI-basert teknologi lokalisert i et tredjeland, men hvor systemet likevel påvirker enkeltmennesker innenfor EU/EØS. Det samme vil være dersom både tilbydere og brukere av systemet er etablert i et tredjeland, men outputen produsert av systemene benyttes innenfor EU/EØS. På denne måten vil trolig teknologien også utenfor Europa kunne styres i en mer ansvarlig retning, hvor grunnleggende rettigheter setter betingelser for hva som kan tilbys i markedet.

Dersom en aktør introduserer teknologi omfattet av kommisjonens forbudsliste, kan det ilegges bøter på opptil 30 millioner euro eller 6 prosent av selskapets totale, årlige omsetning

Brudd på de foreslåtte reglene kan gi høye bøter. Hvor høye bøter som ilegges beror på en konkret vurdering av hva slags overtredelser som er begått og de øvrige omstendighetene i saken. Dersom en aktør introduserer teknologi omfattet av kommisjonens forbudsliste, kan det ilegges bøter på opptil 30 millioner euro eller 6 prosent av selskapets totale, årlige omsetning. Risikoen og konsekvensene overtredelsesbøter vil ha for et selskap, illustrerer behovet for å bevisstgjøre seg reglene og implementere rutiner som sikrer etterlevelse av forordningens bestemmelser. Med dette forslaget sender kommisjonen et tydelig signal om hvordan systemer for kunstig intelligens bør investeres i, utvikles, implementeres og brukes i tiden fremover. 

Camilla Hagelien

Advokatfullmektig i Simonsen Vogt Wiig

Trine Vabog

Assosiert partner i Simonsen Vogt Wiig