Leif Martin Kirknes

leif.kirkens@lomedia.no

At Datatilsynet få hovedoppgaven med tilsyn i digitaliseringsminister Nikolai Astrups blodferske nasjonale strategi for kunstig intelligens (KI), er på bakgrunn av at personvernsperspektivet som lurker under overflaten. For når datasystemer kanskje begynner å analysere helseopplysninger, inkassosaker, lånebeløp, politiske preferanser og annet, så gjelder det å holde tunga rett i munnen.

p

Aktører kan med slik teknologi forsøke å manipulere politiske valg, det kan gi feildiagnoser, undergrave grunnlovsbestemmelser og menneskerettigheter, eller det kan for eksempel føre til urettmessige avslag på lån.

I noen systemer ser man at kvinner i mindre grad enn menn får tilbud eller annonser for høyinntektsjobber, mens i andre systemer får de med dårlig råd i større grad reklame for kreditt. Cambridge Analytica viser hvor dårlig det hele kan gå om etikken ikke er i ryggraden.

– KI omfatter enorme datamengder og ofte – eller kanskje nær sagt alltid – har vi som forbrukere og borgere ikke peiling på hvilke opplysninger som inngår i disse KI-systemene. Dette utfordrer noen helt sentrale personvernsproblemstillinger, sier direktør i Datatilsynet, Bjørn Erik Thon, i forbindelse med fremleggelsen av strategien.

Bra og dårlig

Forsikringsselskaper har for eksempel så mye informasjon om oss at de kan kalkulere en ganske nøyaktig pris for den enkelte. De kunne, ved å bruke KI, regnet ut individuelle, risikobaserte priser, kanskje ispedd informasjon om kosthold og genetikk, eller en oppførselsbasert prising.

– De lovmessige grensene for dette er ikke klare. Da kommer etikken inn i bildet, vi må stille oss spørsmål av typen hvor langt et selskap bør gå innenfor for eksempel segmentering og prissetting, sier Thon.

Når er en forsikring ikke lenger en forsikring, spør han, og peker på at det er en kollektiv ordning, men på et tidspunkt blir det til individuell prising, og da undergraver man prinsippene om forsikring som en kollektivt ordning med delt risiko mellom en gruppe mennesker.

World Economic Forum sa i 2017 at KI er den fremvoksende teknologien med størst nytteverdi, men også størst skadepotensial.

– Nå har det gått tre år siden 2017 og vi begynner å se effektene av KI, sier Thon.

Liker strategien

Det er ikke noen selvfølge at Datatilsynet er positiv til alt som fremlegges, men i dette tilfellet forteller han at KI-strategien er kjærkommen ettersom personvern og etikk har fått en såpass sentral plass. Det er viktigere enn noen gang å gjøre ting riktig med KI, mener Thon, at rettighetene til forbrukere ivaretas og at folk er informerte.

p

– Det viktigste faktoren i et tillitsbasert system er at jeg som bruker eller borger vet hva som egentlig foregår i systemet, sier Thon

I KI-systemer er det to plikter som særlig er sentralt i et personvernsperspektiv, forteller han. Det ene er en risikovurdering med menneskene i sentrum, hva det betyr for eksempelvis en borger at saksbehandling automatiseres og beslutninger fattes inne i en «svart boks». Det andre handler om innebygget personvern.

(Fortsetter under bildet)

FOREDRAG: Bjørn Erik Thon holdt innlegg da nasjonal strategi for kunstig intelligens ble lagt frem i går.

Leif Martin Kirknes

Thon synes det er flott med de sju etiske prinsippene som strategien nedfeller.

Datatilsynet skal i tillegg til å veilede, føre tilsyn og sanksjonere misbruk, med bedrifter og systemer som bruker KI.

– Vi lager nå en helt ny tilsynsmetodikk, sier Thon til Nettverk.

Metodikken er ikke ferdigutviklet, men Thon tror ikke de skal se på selve algoritmene. De skal heller stille spørsmål om eksempelvis hvorfor resultatene har blitt som de har blitt, hvordan KI-en har kommet fram til de resultatene, hvilke opplysninger som har vært vektet og ikke, samt se på personvernerklæringer og kontrollere retten til å slette data, tror han.

– Vi skal kanskje se mer på etterprøvbarhet, sier Thon.

Sandkasse

Datatilsynet skal også være med på å etablere en regulatorisk sandkasse der aktører kan prøve og feile uten for høy risiko. Det blir et sted der man må søke om å få bli med.

-Tanken er at vi skal ha et sted der man kan teste ut løsninger, skape innovasjon, teste ut hvordan personvern virker i de ulike løsningene, i samarbeid og med en og arm fra Datatilsynet over skuldrene. Det skal ikke koste noe i form av sanksjoner, man skal få prøve seg til det sitter, sier Thon, som siker det er stor interesse for dette.

p

– Jeg tror dette er en fin mulighet for å lærebedriftene og oss selv hvordan det skal gjøres. Jeg har troa på den måten å jobbe på, særlig på et område hvor vi vel må erkjenne at regulering alltid vil henge etter, sier han.

– Hva med for Datatilsynet å bruke KI for å utføre tilsyn innen KI?

– Vi har snakket litt om det. Vi er ikke der ennå, men kanskje vi kan bruke noe av det i saksbehandlingen. Vi får rundt 2000 avviksmeldinger hvert år, og vi har snakket om å lage en algoritme som skiller ut avviksmeldinger som ikke er alvorlig og der vi bare vil sende et tilpasset standardbrev, sier Thon.

Gradvis

– Når det gjelder tillit til slike systemer, hvordan skal det komme på plass i en IT-virkelighet der noen brukere knapt klarer å starte slå nettleser?

– Det er KI som styrer annonser på Facebook og i avisen, og det tror jeg folk har et forhold til. Men de fleste har nok ikke sett hvordan dette virker i praksis og hvordan det påvirker livene våre ennå, siden det ikke finnes så mange løsninger. Jeg tror dette kommer til å gå gradvis, med tjeneste etter tjeneste som får KI, og folk vil venne seg til det. En del vil sikkert gi blaffen, fordi de får det de trenger, og da er de fornøyd med det

Thon viser til hvordan Facebook har gjort det, de var noe helt annet da de ble lansert, og har utviklet seg steg for steg. Om Facebook ble lansert nå, tror han folk derimot hadde reagert. Men det er en forskjell siden den tid, påpeker han:

– Vi er nok mye tidligere ute med å begynne å regulere og begynne å lage strategier enn vi var da sosiale medier kom. Da var alle litt på hæla, de skjønte ikke helt, sier Thon, som selv sto i samme situasjon på den tiden, både som direktør i Forbrukertilsynet og etter at han ble direktør i Datatilsynet.

– Men nå har vi nytt regelverk, vi samarbeider bedre, vi har mye høyere teknologisk kompetanse og vi er bedre rustet, sier han.