Historisk regulering av kunstig intelligens (AI) på trappene

Historisk regulering av kunstig intelligens (AI) på trappene– Kvale Advokatfirma DA
Lesetid: 3 min

Med et ønske om at Europa skal sette en global standard for bruk av kunstig intelligens, presenterte Europakommisjonen 21. april 2021 verdens første rettslige rammeverk for å regulere kunstig intelligens. Ved ikrafttredelse vil forordningen få stor betydning for utviklingen og bruk av kunstig intelligens i fremtiden.

Bakgrunn

Kunstig intelligens har allerede blitt fast inventar i svært mange bedrifters virksomhet og kan bidra til økt konkurranseevne og forbedre tjenester innen både privat og offentlig sektor.

Forslaget til en europeisk regulering av kunstig intelligens ble presentert av Europakommisjonen i en meddelelse og et forordningsforslag som innfører en rettslig ramme for AI. I lys av dette har Europakommisjonen også presentert en ny koordinert plan om kunstig intelligens som oppdaterer den forrige planen fra 2018.

Formålet med forslaget er å fastsette standardarder for å bane veien for etisk teknologi på verdensplan og samtidig sikre at EU forblir konkurransedyktig.

En risikobasert tilnærming

I forslaget adresserer Europakommisjonen negative konsekvenser og risiko ved bruk av AI-systemer, samtidig som de forsøker å balansere og tilrettelegge for behovet for teknologisk utvikling og innovasjon. For å regulere bruken av AI-systemer foreslås en risikobasert tilnærming hvor det skilles mellom fire risikonivåer:

  • Uakseptabel risiko (forbudt)
  • Høy risiko
  • Begrenset risiko
  • Minimal risiko

Nivået uakseptabel risiko omfatter AI-systemer som Europakommisjonen foreslår å forby. Dette gjelder AI-systemer som utgjør en klar trussel mot menneskers sikkerhet, eksistensgrunnlag og rettigheter. For eksempel vil Europakommisjonen forby systemer som gjør det mulig for myndigheter å innføre sosiale poengsystemer (såkalt "social scoring").

AI-systemer som kategoriseres under nivået høy risiko står i fokus i forordningsforslaget og vil bli underlagt strenge forpliktelser før de slipper ut på markedet. Forslaget fremhever åtte områder hvor AI-systemer vil kunne falle inn under denne kategorien: Biometrisk identifikasjon, kritisk infrastruktur, utdanning, HR, essensielle ytelser (herunder velferdsytelser, kredittvurderinger og nødetater), rettshåndhevelse, grensekontroll og asyl, samt domstolenes rettsanvendelse.

For høyrisiko AI-systemer oppstiller forslaget strenge regler relatert til disse AI-systemenes utvikling, drift, salg og bruk. Europakommisjonen foreslår blant annet at det etableres et system for håndtering av risiko i hele livssyklusen til AI-systemet, som omfatter krav til utvikling, testing, evaluering og implementering av risikoreduserende tiltak. I tillegg oppstilles det krav om sikkerhetsdokumentasjon, menneskelig kontroll og informasjon til brukerne. For å sikre overholdelse av reglene foreslår Europakommisjonen at leverandører av AI-systemer som kategoriseres som høyrisiko er forpliktet til å utføre en "formity assessment", dvs. en forhåndsvurdering av om det aktuelle AI-systemet oppfyller alle krav i regelverket.

Store bøter ved brudd på reglene

Europakommisjonen foreslår at brudd på forordningen sanksjoneres med opptil 20 millioner euro eller 4 % av årlig global omsetning dersom overtredelsen er begått av et selskap. Brudd på forbudsbestemmelsen kan sanksjoneres strengere med inntil 30 millioner euro eller 6 % av årlig global omsetning.

Veien videre

Før reglene kan tre i kraft, må Europaparlamentet og medlemsstatene vedta Europakommisjonens forslag om en felleseuropeisk regulering av kunstig intelligens via EUs alminnelige lovgivningsprosedyre. Forslagets EØS-relevans er foreløpig ikke vurdert.