Kort om KI

Kunstig intelligens (KI) har blitt et stadig mer sentralt tema i den teknologiske utviklingen.

KI-forordningen, også kjent som AI Act, tar sikte på å skape et harmonisert regelverket for kunstig intelligens i EU. KI Forordningen er EØS relevant og vil derfor implementeres i Norge.

La oss se på hva denne forordningen innebærer og hvordan den kan påvirke næringsdrivende i Norge.

Hva er KI-forordningen?

• KI-forordningen er et lovforslag som gir harmoniserte regler for kunstig intelligens i EU. Den tar sikte på å skape et felles rammeverk for utvikling og bruk av KI. Forordningen er godkjent av EU Parlamentet og vil sannsynligvis blir formelt vedtatt og trå i kraft i april. Overgangsreglene gjør at noen regler får virkning først etter 6 måneder.
• Forslaget er basert på en risikobasert tilnærming, der bruken av KI deles inn i 4 ulike risikokategorier. Jo høyere risiko bruken av KI utgjør, desto strengere reguleres bruken. Den høyeste risikokategorien – "unacceptable risk" - forbys.
• Forordningen fokuserer mye på den høyeste risiko-kategorien som ikke forbys, men som antas å kunne utgjøre en potensiell trussel mot samfunnet og enkeltpersoner. Denne "high risk" kategorien reguleres strengt. Ved bruk av high risk KI-systemer vil det for næringsdrivende bli nødvendig med løpende governance og compliance tiltak for å sikre at man overholder forordningen.

Sentrale punkter i KI-forordningen:

1. Forbud mot uakseptabel risiko:

• Forordningen etablerer en liste med forbudt KI – kategori "Unacceptable Risk". Dette inkluderer KI-systemer som strider med grunnleggende verdier og rettigheter.
• Eksempler på forbudt KI inkluderer systemer som manipulerer personer utenfor deres bevissthet ("circumvention of free will"), samt utnyttelse av sårbarheter hos enkeltpersoner/grupper. Barn gis særlig vern.
• KI-baserte systemer brukt av offentlige myndigheter for å vurdere troverdigheten til fysiske personer basert på sosial oppførsel, er også omfattet av forbudet.
• Biometrisk identifikasjon og kategorisering. Særlig i sanntid. Det er hensynet til personvern som ligger bak disse reglene.

2. Spesifikke regler for allmenne KI-systemer (General Purpose AI)

• For såkalte GPAIs så er det gitt regler som skal sikre transparens i hele verdikjeden. Disse reglene inkluderer krav til utarbeidelse av teknisk dokumentasjon, at det ikke skal skje inngrep i opphavsretten og at innholdet som brukes til modellens læring er sammenfattet og tilgjengelig for alle.
• GPAIs vil omfatte mange av de mest kjente tjenestene slik som Open AIs GPT og Microsofts CoPilot.

3. High Risk kategorien

• High Risk kategorien vil være praktisk fordi den vil regulere lovlig bruk av KI innenfor en rekke bruksområder.
• Eksempler på High Risk KI vil være bruk ved ansatte rekruttering og HR, bruk i tilknytning til forsikring, bank og kreditt tjenester, bruk i kjøretøy, bruk i medisinsk sammenheng, innen utdannelse og innen rettspleien.

4. Anvendelsesområde

• Forordningen gjelder for KI-systemer som påvirker personer i EU.
• KI-systemer utelukkende utviklet for eller brukt til militære formål er unntatt.

5. Menneskesentrert KI:

• Målet er å gjøre EU til verdensledende innen sikker, pålitelig og menneskesentrert KI.
• Tillit til KI-systemer er avgjørende for å utnytte det sosiale og økonomiske potensialet i KI fullt ut.

Betydning for næringsdrivende i Norge:

• Norske næringsdrivende som opererer i EU-markedet må forholde seg til KI-forordningen når de utvikler og bruker KI-systemer fra ikrafttredelsen i EU. Implementeringen i Norge vil uansett følge ikke så lenge etter.
• Forordningen vil påvirke hvordan bedrifter samler inn, behandler og bruker data, med særlig personvern i fokus.
• Næringsdrivende bør være oppmerksomme på hvilke KI-systemer de bruker, spesielt hvis de faller inn under kategorien høyrisiko.
• Bøtenivået ved brudd på forordningen er høyt.
• Implementering av KI-forordningen kan også gi muligheter for innovasjon og konkurransefordeler for bedrifter som tar ansvarlig bruk av KI på alvor.

KI-forordningen er et viktig skritt mot å regulere KI på en måte som fremmer tillit, ansvarlighet og etisk praksis. Norske næringsdrivende bør være oppmerksomme på disse endringene og både tilpasse seg i tråd med forordningens krav og også søke å utvikle potensielle konkurransefordeler.