Kunstig intelligens (KI) har blitt et stadig mer sentralt tema i den teknologiske utviklingen.
KI-forordningen, også kjent som AI Act, tar sikte på å skape et harmonisert regelverket for kunstig intelligens i EU. KI Forordningen er EØS relevant og vil derfor implementeres i Norge.
La oss se på hva denne forordningen innebærer og hvordan den kan påvirke næringsdrivende i Norge.
Hva er KI-forordningen?
- KI-forordningen er et lovforslag som gir harmoniserte regler for kunstig intelligens i EU. Den tar sikte på å skape et felles rammeverk for utvikling og bruk av KI. Forordningen er godkjent av EU Parlamentet og vil sannsynligvis blir formelt vedtatt og trå i kraft i april. Overgangsreglene gjør at noen regler får virkning først etter 6 måneder.
- Forslaget er basert på en risikobasert tilnærming, der bruken av KI deles inn i 4 ulike risikokategorier. Jo høyere risiko bruken av KI utgjør, desto strengere reguleres bruken. Den høyeste risikokategorien – "unacceptable risk" - forbys.
- Forordningen fokuserer mye på den høyeste risiko-kategorien som ikke forbys, men som antas å kunne utgjøre en potensiell trussel mot samfunnet og enkeltpersoner. Denne "high risk" kategorien reguleres strengt. Ved bruk av high risk KI-systemer vil det for næringsdrivende bli nødvendig med løpende governance og compliance tiltak for å sikre at man overholder forordningen.
Sentrale punkter i KI-forordningen:
1. Forbud mot uakseptabel risiko:
- Forordningen etablerer en liste med forbudt KI – kategori "Unacceptable Risk". Dette inkluderer KI-systemer som strider med grunnleggende verdier og rettigheter.
- Eksempler på forbudt KI inkluderer systemer som manipulerer personer utenfor deres bevissthet ("circumvention of free will"), samt utnyttelse av sårbarheter hos enkeltpersoner/grupper. Barn gis særlig vern.
- KI-baserte systemer brukt av offentlige myndigheter for å vurdere troverdigheten til fysiske personer basert på sosial oppførsel, er også omfattet av forbudet.
- Biometrisk identifikasjon og kategorisering. Særlig i sanntid. Det er hensynet til personvern som ligger bak disse reglene.
2. Spesifikke regler for allmenne KI-systemer (General Purpose AI)
- For såkalte GPAIs så er det gitt regler som skal sikre transparens i hele verdikjeden. Disse reglene inkluderer krav til utarbeidelse av teknisk dokumentasjon, at det ikke skal skje inngrep i opphavsretten og at innholdet som brukes til modellens læring er sammenfattet og tilgjengelig for alle.
- GPAIs vil omfatte mange av de mest kjente tjenestene slik som Open AIs GPT og Microsofts CoPilot.
3. High Risk kategorien
- High Risk kategorien vil være praktisk fordi den vil regulere lovlig bruk av KI innenfor en rekke bruksområder.
- Eksempler på High Risk KI vil være bruk ved ansatte rekruttering og HR, bruk i tilknytning til forsikring, bank og kreditt tjenester, bruk i kjøretøy, bruk i medisinsk sammenheng, innen utdannelse og innen rettspleien.
4. Anvendelsesområde
- Forordningen gjelder for KI-systemer som påvirker personer i EU.
- KI-systemer utelukkende utviklet for eller brukt til militære formål er unntatt.
5. Menneskesentrert KI:
- Målet er å gjøre EU til verdensledende innen sikker, pålitelig og menneskesentrert KI.
- Tillit til KI-systemer er avgjørende for å utnytte det sosiale og økonomiske potensialet i KI fullt ut.
Betydning for næringsdrivende i Norge:
- Norske næringsdrivende som opererer i EU-markedet må forholde seg til KI-forordningen når de utvikler og bruker KI-systemer fra ikrafttredelsen i EU. Implementeringen i Norge vil uansett følge ikke så lenge etter.
- Forordningen vil påvirke hvordan bedrifter samler inn, behandler og bruker data, med særlig personvern i fokus.
- Næringsdrivende bør være oppmerksomme på hvilke KI-systemer de bruker, spesielt hvis de faller inn under kategorien høyrisiko.
- Bøtenivået ved brudd på forordningen er høyt.
- Implementering av KI-forordningen kan også gi muligheter for innovasjon og konkurransefordeler for bedrifter som tar ansvarlig bruk av KI på alvor.
KI-forordningen er et viktig skritt mot å regulere KI på en måte som fremmer tillit, ansvarlighet og etisk praksis. Norske næringsdrivende bør være oppmerksomme på disse endringene og både tilpasse seg i tråd med forordningens krav og også søke å utvikle potensielle konkurransefordeler.