Leif Martin Kirknes

leif.kirknes@lomedia.no

– En sandkasse er en ny måte å jobbe på for oss. Vi vil jobbe direkte med utvalgte virksomheter der vi leker og lærer og har åpen dialog, sier Kari Laumann fra Datatilsynet.

Hun har ledet prosjektet med å utvikle en «sandkasse» for kunstig intelligens, der aktører som har gode ideer til bruk av slik teknologi risikofritt kan leke seg og teste ut innovasjon, under veiledning fra Datatilsynet, og uten risiko for å komme på kant med loven.

– Målet er å stimulere til innovasjon og etisk og ansvarlig kunstig intelligens. Teknologien har et enormt potensial for å påvirke hvordan vi jobber, hvordan vi organiserer livene våre og hvordan samfunnet er organisert. Samtidig er den noen fallgruver relatert til blant annet diskriminering og overvåking, sier hun.

Uante muligheter, partybrems og fallgruver

Kunstig intelligens er hett for tiden. Konseptet består som regel gjerne av sammenstilling av ulike typer data, som kvernes gjennom selvlærende algoritmer, og hvor det som kommer ut i andre enden kan gjøre livene og arbeidsoppgavene våre mer behagelige og smidige.

Men det finnes både lover og regler som kan oppleves som skikkelig «partybrems» for teknologene med de gode ideene. Kanskje tør de ikke forsøke seg på å lage et potensielt banebrytende datasystem som hadde vært helt genialt for alle verdens borgere og gjort Norge til teknologisk superkjendis, av frykt for å få svimlende bøter for brudd på kompliserte og omfattende personvernregler.

Samtidig finnes det på den annen side nok av fallgruver om teknologene får helt fritt spillerom og muligheten til å gjennomføre sine aller villeste ideer og påfunn. Klønete valg av datagrunnlag i samspill med dårlig gjennomtenkte algoritmer, kan for eksempel gjøre at kunstig intelligente systemer konkluderer med at «siden såpass mange toppledere er menn; ja, så må vel menn være best egnet som toppledere.»

Les også: «I fucking hate feminists and they should all die and burn in hell,» sa Microsofts Twitter-bot etter 24 timer på internett

Eksempler på kunstig intelligens som roter det til for seg selv finnes det etter hvert ganske mange av, og kan også rokke ved folkeopinionens tillit til nettopp kunstig intelligens. En tillit innovatører innen kunstig intelligens vil være avhengig av for at folk skal ta i bruk de smarte løsningene.

Sandkasse

Det er for å dekke gapet mellom kompliserte personvernregler og det faktum at man må tørre å lage noe for å få noe til å bli laget, at Datatilsynet i dag lanserer en regulatorisk «sandkasse» for prosjekter relatert til kunstig intelligens. Tanken er at norske aktører, enten de er offentlige virksomheter, små selskaper eller store konserner, skal kunne søke plass i sandkassa.

Hvis de får slippe inn, kan de leke fritt i sanden og teste ut sine tanker og ideer, og spille ball med Datatilsynet, uten risiko for GDPR-bøter og andre ubehageligheter. Et kontrollert testmiljø for utvikling av nye produkter, tjenester og løsninger, med gratis veiledning.

– Godt personvern skal være en konkurransefordel, og ikke en ulempe. Drømmen min er at selskaper som søker og blir tatt inn i sandkassen skal bli den nye varianten av selskaper som Google, Amazon og Facebook, men samtidig være verdens beste på personvern, sier Datatilsynets direktør Bjørn Erik Thon.

(fortsetter under bildet)

DATATILSYNET: Bjørn Erik Thon, under lanseringen av regjeringens kunstig intelligens-strategi i januar i år.

Leif Martin Kirknes

Personvern + innovasjon = S

Som bonus vil også Datatilsynet gjennom sandkassa lære seg selv mye om de dilemmaer og problemstillinger som finnes innenfor området, og ut fra dette bli bedre på å utføre tilsyn relatert til kunstig intelligens. De vil dessuten kunne produserer skriftlige veiledere ut fra erfaringene. Disse vil være til nytte for dem som ikke slapp inn i sandkassa. Sandkassa har begrenset størrelse og slipper inn godkjente søkere i puljer.

Thons kollega, Kari Laumann, har tidligere ledet arbeidet med Datatilsynets rapport om kunstig intelligens og personvern fra 2018 og står også bak sandkasse-prosjektet. Med sandkassen kan idémakerne bli dyttet i riktig retning, slik at personvernet er ivaretatt og teknologien brukes på riktig måte, fastslår hun.

Laumann påpeker at Europa også har samme innfallsvinkel, et ønske om at teknologien brukes på en god måte. Storbritannia lanserte en tilsvarende sandkasse i 2019 og har begynt å høste erfaringer og samtidig se noen spennende bruksområder for kunstig intelligens.

– Vi mener at personvern + innovasjon = sant, sier Laumann.

Må være nyttebringende

Gevinsten med å skape systemer som er kompatible med personvernsprinsipper, er tillit, forklarer hun, og legger til at en undersøkelse viser at tilliten til offentlig bruk av data, for eksempel i helsevesenet, er høy i Norge. Mens den viser seg å være mye lavere for globale sosiale medier- og chatte-konserner.

– Lanserer du et produkt eller en tjeneste som bruker kunstig intelligens, er du helt avhengig av å ha tillit fra brukeren for at brukeren skal ta tjenesten i bruk og utlevere data, sier hun.

De har hentet inn innspill fra over 60 aktører for å bygge den riktige type sandkasse. Det åpnes for søknader for første sandkassepulje med frist i midten av januar og med sikte på å åpne sandkassen innen midten i mars for dem som blir utvalgt.

Dem som vil ha sjansen må stille med et kunstig intelligens-prosjekt med nytteverdi for samfunn eller menneske og ha tilknytning til Norge.

Prøve og feile

Distrikts- og digitaliseringsminister Linda Hofstad Helleland berømmer Datatilsynet for sitt raske arbeid. Det er ti måneder siden regjeringen la fram sin strategi for kunstig intelligens, der det ble nevnt behov for en slik sandkasse. I mars hadde Laumann og hennes kollegaer et utkast klart.

Helleland er enig med Laumann om viktigheten av tillit.

– Det er viktig å bevare og helst forsterke tilliten når vi skal ta i bruk ny teknologi på nye områder. Utvikling og bruk av kunstig intelligens krever store mengder personopplysninger, som nesten alltid er hentet inn til helt andre formål enn utviklingen av kunstig intelligens, sier hun.

– Ny bruk av disse opplysningene utfordrer grunnleggende personvernsprinsipper om å bruke opplysninger til formålet der er samlet inn for, sier hun, og legger til at det også kan bli vanskelig å ha oversikt over hvem som behandler opplysningene og hva de blir brukt til videre.

(Fortsetter under bildet)

DISTRIKT- OG DIGITALISERINGSMINISTER: Linda Hofstad Helleland, fotografert tidligere i år.

Leif Martin Kirknes

Pussige sangforslag i Spotify

Hun trekker også fram hvordan feil og skjevheter kan oppstå når data kvernes av algoritmer, og at vi vet for lite om hva som egentlig skjer i det kunstige maskineriet.

– Vi har vel alle lurt på av og til hva som skjer med algoritmene til Netflix og Spotify, når de kommer med rare forslag. Derfor er mange bekymret for kunstig intelligens, sier Helleland.

Hun henviser til flere langt mer graverende eksempler på kunstig intelligens på villspor, og understreker at det helt sikkert også finnes andre eksempler på diskriminerende, forutinntatt og potensielt rasistisk kunstig intelligens som ikke er oppdaget ennå.

Samtidig er det meget ønskelig og velkomment med smarte og innovative tjenester, påpeker ministeren.

– For å få til det må vi prøve og kanskje feile. Vi må legge til rette for å utvikle ny teknologi i et trygt miljø. Det er derfor regjeringen har gått inn for å etablere en regulatorisk sandkasse til kunstig intelligens, sier hun.

Les også: Slik vil digitaliseringsministeren få Norge til å hevde seg innen kunstig intelligens

Regelverket henger nesten alltid etter teknologiutviklingen, påpeker Helleland. Det kan hindre innovasjon.

– Derfor legger vi til rette med forsøksordninger med unntak fra reglene, sier Helleland og peker også på at det er åpnet for å teste ut førerløse biler, båter og skip.

God timing

Tekna-president Lise Lyngsnes Randberg var invitert på lanseringen til å kommentere den fra sidelinjen. Tekna organiserer den type folk som vil kunne tenkes å dra nytte av sandkassen.

Hun peker på at kunstig intelligens er helt sentralt i strategien for hva Norge skal drive med av teknologi de kommende år. Veikartet «Digital 21» som ble laget i 2018 peker på «kunstig intelligens», «stordata», «Internett of Things» (= nettoppkoblede duppeditter) og «autonome systemer» (=selvkjørende fartøy).

– De tre sistnevnte er alle avhengige av den første, kunstig intelligens. Kunstig intelligens er dermed den viktigste muliggjørende teknologien i Norge, sier hun.

Sandkassa treffer tidsånden bra, konstaterer presidenten, som henviser til at Forskningsrådet nå rennes ned av søknader relatert til denne type teknologi. Når vi er over «hype-toppen» vil vi begynne å se nytteverdien i praksis, tror hun.

Carte blanche ikke alltid lurt

Hun tror også det er bra om Datatilsynet følger med og geleider potensielt overivrige teknologer i riktig retning.

– Hvis vi setter ut hele kunstig intelligens-utviklinga til teknologer, så kan det få konsekvenser, sier Randberg, som siterer Dr. Ian Malcolm i filmen Jurassic Park: «deres vitenskapsfolk var så opptatt av å tenke på om det var mulig eller ikke, at de sluttet å spørre seg om de burde».

– Vi teknologer er glade i å prøve ting. Men noen gange burde vi tatt en fot i bakken og spurt om ideen egentlig var så god. Der kan det være nyttig med sandkassa, sier hun.

(Fortsetter under bildet)

TEKNA-PRESIDENT: Lise Lyngsnes Randeberg, her fotografert på Stortinget i 2018. For å bli flinkere på kunstig intelligens i Norge håper hun myndightene kan åpne opp flere datasett, rydde i datasettene de allerede har åpnet, og gjerne anonymisere og åpne sensitive datasett - for eksempel ved å bruke en kunstig intelligent algoritme til å stryke ut personidentifiserende detaljer?

Leif Martin Kirknes

Klar for handling

Randberg nevner også science fiction-forfatter Isaac Asimovs tre robotlover (som senere ble fire) fra 1942, som handlet mye om at roboter ikke skal skade mennesker og ellers adlyde mennesker. Den loven har professor Frank Pasquale nylig oppdatert til å også gjelde kunstig intelligens, gjennom boka «New laws of robotics».

Det handler om at kunstig intelligens skal være beslutningsstøtte (ikke beslutningstaker), ikke skal «fake» det å være menneskelig, ikke håndtere kunstig intelligens som et våpenkappløp, samt at det skal være kjent hvem som har laget systemet.

En annen ting Randberg trekker fram, er at det etter hvert har kommet ganske mange etiske dokumenter om kunstig intelligens. Der er ordbruken ganske unison, men presidenten bemerker at hva som ligger i ordene likevel vil være avhengig av kultur. Hun oppfordrer til at tolkning tas med inn i sandkassa.

Ellers er hun snart klart for handling og faktisk fremvekst av kunstig intelligente systemer.

– Kanskje har vi nok dokumenter om kunstig intelligens snart. Med 100 forskjellige retningslinjer har vi kanskje nok dokumenter og tiden er inne for handling, foreslår hun.

Også tema hos LO

I årets lønnsoppgjør kom kunstig intelligens på plass i flere tariffavtaler. Blant annet i EL og ITs avtale med Telenor. Det fastslås i notatene kort fortalt at slik teknologi også kan bære med seg dilemmaer og derfor må brukes med omhu.

For øvrig vil årets IKT-konferanse i LO blant annet ta for seg kunstig intelligens, med foredraget «Hva gjør du når Terminator gir deg sparken?» Den går av stabelen mandag 7. desember.