Ragnhild Heyerdahl

ragnhild@lomedia.no

Kunstig intelligens er på full fart inn på norske arbeidsplasser, men det betyr ikke at det er fritt fram for å bruke KI akkurat slik man vil.

Er det greit å bruke kunstig intelligens til å evaluere ansattes arbeidsprestasjoner? Eller til å sortere og vurdere jobbsøknader?

En ny lov gir arbeidsgiverne klare regler å forholde seg til.

Ny lov om kunstig intelligens

Før sommeren la regjeringen fram et forslag til en ny lov om kunstig intelligens.

Loven tar opp i seg EUs «Artificial Intelligence Act», som har til hensikt å regulere bruken av kunstig intelligens, og skal etter planen tre i kraft neste år.

Den nye KI-loven deler bruken av kunstig intelligens inn i fire risikonivåer.

Noen typer bruk forbys, mens andre utløser plikter for arbeidsgivere.

Fire risikonivåer

Loven deler inn i fire risikonivåer ved bruk av KI: Uakseptabel risiko, høy risiko, begrenset risiko og minimal risiko.

Bruk på det øverste risikonivået vil ganske enkelt være forbudt.

Det er mulig å se for seg KI-systemer som registrerer ansattes bevegelser, ansiktsuttrykk eller følelser på arbeidsplassen – informasjon som kan brukes til å vurdere lojalitet eller produktivitet. KI-loven gjør det klart at slik overvåking ikke vil være tillatt.

KI-systemer som automatisk diskriminerer personer på bakgrunn av hudfarge, kjønn, religion, seksuell legning eller andre diskrimineringsgrunnlag, vil være forbudt.

Det vil også være ulovlig å bruke kunstig intelligens til å manipulere eller påvirke ansatte på en skjult måte.

Høy risiko

KI-systemer med høy risiko er litt mer komplisert. Dette vil typisk være systemer som påvirker mennesker direkte, som i rekruttering, saksbehandling, helse eller utdanning.

Det kan også være KI-systemer som brukes i kritisk infrastruktur, som trafikkstyring eller vann- og strømforsyning.

Her stilles det strenge krav.

Et eksempel er behandling av helseopplysninger. KI-systemer og verktøy som behandler helseopplysninger, vil alltid regnes som høy risiko.

Et annet eksempel er det å bruke KI i rekrutterings- og ansettelsesprosesser.

På dette nivået stilles det strenge krav til sikkerhet, behandling av data, og til åpenhet og transparens.

Høyrisiko-systemer må også utvikles på en måte som gjør at mennesker kan overvåke og kontrollere dem under bruk. 

Begrenset risiko

Begrenset risiko kan for eksempel dreie seg om chatboter på virksomhetens hjemmeside. Her stilles det krav til åpenhet.

Brukere skal være klar over når de har med kunstig intelligens å gjøre, og KI-generert innhold skal merkes.

Hva betyr loven for virksomhetene?

KI-loven stiller krav til at virksomhetene har oversikt over hvordan kunstig intelligens brukes på arbeidsplassen, og kartlegger risikoen.

Dersom arbeidsplassen utvikler egne KI-løsninger, har de plikt til å sjekke at teknologien oppfyller kravene.

I praksis vil det innebære at virksomhetene etablerer gode rutiner for testing, dokumentasjon og kontroll.

De som ikke følger regelverket, risikerer saftige bøter.

Hva er tillitsvalgtes oppgave?

Hovedavtalene gir tillitsvalgte rett til medvirkning ved vesentlige endringer på arbeidsplassen, som innføring av ny teknologi. De tillitsvalgte skal involveres tidlig i prosessen og ha reell innflytelse.

I en undersøkelse fra LOs tillitsvalgtpanel svarer mer enn hver tredje tillitsvalgt at de mangler kompetanse til å gå i drøftinger om ny teknologi på arbeidsplassen. 

Men tillitsvalgte trenger ikke å være eksperter på kunstig intelligens, beroliger Kjetil Staalesen, spesialrådgiver i LO.

– Det veldig mange vil oppleve, er at ledelsen har ikke noe mer greie på det.

– Mitt råd til de tillitsvalgte er å stille de samme spørsmålene som du ville gjort i en hvilken som helst annen endringsprosess, eller prosess hvor du skal ta i bruk et nytt verktøy, sier han.

Gode spørsmål å stille kan være:

1. Hvilke konsekvenser har dette for mine medlemmer?

2. Kan dette føre til nedbemanninger?

3. Hvilke opplæringsbehov skaper dette?

4. Hvilken kompetanse trenger virksomheten min om ett år, to år, fem år?

5. Hvilken plan har ledelsen for å sørge for at vi har den kompetansen?

6. Hvilken plan har vi for å sørge for at det skjer ved hjelp av kompetanseheving for de ansatte vi allerede har?

Bruk møtepunktene

Det er et arbeidsgiveransvar å sørge for at ansatte har den nødvendige kompetanse til å gjøre jobben sin, understreker Staalesen.

– Det endres heller ikke av at vi nå får et verktøy som heter kunstig intelligens, påpeker han.

Hvis du ikke har innsikt i virksomhetens planer, anbefaler Staalesen å bruke de faste møtepunktene.

– Hvis du møter ledelsen en gang i måneden, så kan du jo spørre: Har vi noen plan om å ta i bruk kunstig intelligens i virksomheten vår?

Endringer som påvirker de ansattes arbeidshverdag i vesentlig grad, skal etter hovedavtalen tas opp med de ansattes representanter på et tidligst mulig tidspunkt.

– Det betyr før man kontakter et konsulentselskap, for eksempel. Det skal ikke være sånn at når de ansattes representanter blir involvert, så har man allerede leid inn et byrå.

Kilder: LO, Simployer, Digital Norway, Nasjonal kommunikasjonsmyndighet