JavaScript is disabled in your web browser or browser is too old to support JavaScript. Today almost all web pages contain JavaScript, a scripting programming language that runs on visitor's web browser. It makes web pages functional for specific purposes and if disabled for some reason, the content or the functionality of the web page can be limited or unavailable.
LIKER STRATEGIEN: Bjørn Erik Thon, direktør i Datatilsynet.

LIKER STRATEGIEN: Bjørn Erik Thon, direktør i Datatilsynet.

Leif Martin Kirknes

Kunstig intelligens:

Datatilsynet blir et «algoritmetilsyn»

Det er Datatilsynet som får hovedoppgaven med å føre «algoritmetilsyn» av aktører innen kunstig intelligens.


15.01.2020
15:30
15.01.2020 15:30

leif.kirkens@lomedia.no

At Datatilsynet få hovedoppgaven med tilsyn i digitaliseringsminister Nikolai Astrups blodferske nasjonale strategi for kunstig intelligens (KI), er på bakgrunn av at personvernsperspektivet som lurker under overflaten. For når datasystemer kanskje begynner å analysere helseopplysninger, inkassosaker, lånebeløp, politiske preferanser og annet, så gjelder det å holde tunga rett i munnen.

p

Aktører kan med slik teknologi forsøke å manipulere politiske valg, det kan gi feildiagnoser, undergrave grunnlovsbestemmelser og menneskerettigheter, eller det kan for eksempel føre til urettmessige avslag på lån.

I noen systemer ser man at kvinner i mindre grad enn menn får tilbud eller annonser for høyinntektsjobber, mens i andre systemer får de med dårlig råd i større grad reklame for kreditt. Cambridge Analytica viser hvor dårlig det hele kan gå om etikken ikke er i ryggraden.

– KI omfatter enorme datamengder og ofte – eller kanskje nær sagt alltid – har vi som forbrukere og borgere ikke peiling på hvilke opplysninger som inngår i disse KI-systemene. Dette utfordrer noen helt sentrale personvernsproblemstillinger, sier direktør i Datatilsynet, Bjørn Erik Thon, i forbindelse med fremleggelsen av strategien.

Bra og dårlig

Forsikringsselskaper har for eksempel så mye informasjon om oss at de kan kalkulere en ganske nøyaktig pris for den enkelte. De kunne, ved å bruke KI, regnet ut individuelle, risikobaserte priser, kanskje ispedd informasjon om kosthold og genetikk, eller en oppførselsbasert prising.

– De lovmessige grensene for dette er ikke klare. Da kommer etikken inn i bildet, vi må stille oss spørsmål av typen hvor langt et selskap bør gå innenfor for eksempel segmentering og prissetting, sier Thon.

Når er en forsikring ikke lenger en forsikring, spør han, og peker på at det er en kollektiv ordning, men på et tidspunkt blir det til individuell prising, og da undergraver man prinsippene om forsikring som en kollektivt ordning med delt risiko mellom en gruppe mennesker.

World Economic Forum sa i 2017 at KI er den fremvoksende teknologien med størst nytteverdi, men også størst skadepotensial.

– Nå har det gått tre år siden 2017 og vi begynner å se effektene av KI, sier Thon.

Liker strategien

Det er ikke noen selvfølge at Datatilsynet er positiv til alt som fremlegges, men i dette tilfellet forteller han at KI-strategien er kjærkommen ettersom personvern og etikk har fått en såpass sentral plass. Det er viktigere enn noen gang å gjøre ting riktig med KI, mener Thon, at rettighetene til forbrukere ivaretas og at folk er informerte.

p

– Det viktigste faktoren i et tillitsbasert system er at jeg som bruker eller borger vet hva som egentlig foregår i systemet, sier Thon

I KI-systemer er det to plikter som særlig er sentralt i et personvernsperspektiv, forteller han. Det ene er en risikovurdering med menneskene i sentrum, hva det betyr for eksempelvis en borger at saksbehandling automatiseres og beslutninger fattes inne i en «svart boks». Det andre handler om innebygget personvern.

(Fortsetter under bildet)

FOREDRAG: Bjørn Erik Thon holdt innlegg da nasjonal strategi for kunstig intelligens ble lagt frem i går.

FOREDRAG: Bjørn Erik Thon holdt innlegg da nasjonal strategi for kunstig intelligens ble lagt frem i går.

Leif Martin Kirknes

Thon synes det er flott med de sju etiske prinsippene som strategien nedfeller.

Datatilsynet skal i tillegg til å veilede, føre tilsyn og sanksjonere misbruk, med bedrifter og systemer som bruker KI.

– Vi lager nå en helt ny tilsynsmetodikk, sier Thon til Nettverk.

Metodikken er ikke ferdigutviklet, men Thon tror ikke de skal se på selve algoritmene. De skal heller stille spørsmål om eksempelvis hvorfor resultatene har blitt som de har blitt, hvordan KI-en har kommet fram til de resultatene, hvilke opplysninger som har vært vektet og ikke, samt se på personvernerklæringer og kontrollere retten til å slette data, tror han.

– Vi skal kanskje se mer på etterprøvbarhet, sier Thon.

Sandkasse

Datatilsynet skal også være med på å etablere en regulatorisk sandkasse der aktører kan prøve og feile uten for høy risiko. Det blir et sted der man må søke om å få bli med.

-Tanken er at vi skal ha et sted der man kan teste ut løsninger, skape innovasjon, teste ut hvordan personvern virker i de ulike løsningene, i samarbeid og med en og arm fra Datatilsynet over skuldrene. Det skal ikke koste noe i form av sanksjoner, man skal få prøve seg til det sitter, sier Thon, som siker det er stor interesse for dette.

p

– Jeg tror dette er en fin mulighet for å lærebedriftene og oss selv hvordan det skal gjøres. Jeg har troa på den måten å jobbe på, særlig på et område hvor vi vel må erkjenne at regulering alltid vil henge etter, sier han.

– Hva med for Datatilsynet å bruke KI for å utføre tilsyn innen KI?

– Vi har snakket litt om det. Vi er ikke der ennå, men kanskje vi kan bruke noe av det i saksbehandlingen. Vi får rundt 2000 avviksmeldinger hvert år, og vi har snakket om å lage en algoritme som skiller ut avviksmeldinger som ikke er alvorlig og der vi bare vil sende et tilpasset standardbrev, sier Thon.

Gradvis

– Når det gjelder tillit til slike systemer, hvordan skal det komme på plass i en IT-virkelighet der noen brukere knapt klarer å starte slå nettleser?

– Det er KI som styrer annonser på Facebook og i avisen, og det tror jeg folk har et forhold til. Men de fleste har nok ikke sett hvordan dette virker i praksis og hvordan det påvirker livene våre ennå, siden det ikke finnes så mange løsninger. Jeg tror dette kommer til å gå gradvis, med tjeneste etter tjeneste som får KI, og folk vil venne seg til det. En del vil sikkert gi blaffen, fordi de får det de trenger, og da er de fornøyd med det

Thon viser til hvordan Facebook har gjort det, de var noe helt annet da de ble lansert, og har utviklet seg steg for steg. Om Facebook ble lansert nå, tror han folk derimot hadde reagert. Men det er en forskjell siden den tid, påpeker han:

– Vi er nok mye tidligere ute med å begynne å regulere og begynne å lage strategier enn vi var da sosiale medier kom. Da var alle litt på hæla, de skjønte ikke helt, sier Thon, som selv sto i samme situasjon på den tiden, både som direktør i Forbrukertilsynet og etter at han ble direktør i Datatilsynet.

– Men nå har vi nytt regelverk, vi samarbeider bedre, vi har mye høyere teknologisk kompetanse og vi er bedre rustet, sier han.

15.01.2020
15:30
15.01.2020 15:30



Mest lest

BITTERT: Per Olav Truberg har jobba mange år i matindustrien. Takken var oppsigelse da han havna i operasjonskø med et trøble kne.

BITTERT: Per Olav Truberg har jobba mange år i matindustrien. Takken var oppsigelse da han havna i operasjonskø med et trøble kne.

Erlend Angelo

Per Olav mistet jobben i operasjonskø: – Det er veldig sårt

BELASTENDE YRKE: Frisør og tillitsvalgt Kaja Aga Gaarder tar smertestillende for å klare arbeidsdagen. Etter en bilulykke har hun daglige smerter. Men hun tok smertestillende på jobb også før ulykken. Her fikser hun håret til Victoria Gjone.

BELASTENDE YRKE: Frisør og tillitsvalgt Kaja Aga Gaarder tar smertestillende for å klare arbeidsdagen. Etter en bilulykke har hun daglige smerter. Men hun tok smertestillende på jobb også før ulykken. Her fikser hun håret til Victoria Gjone.

Jan-Erik Østlie

Bruken av smertestillende øker: Kaja starter alltid arbeidsdagen med en Paracet

Unni tar gjerne på seg ekstra vakter. Hun elsker å gjøre en forskjell.

Unni tar gjerne på seg ekstra vakter. Hun elsker å gjøre en forskjell.

Eirik Dahl Viggen

Unni (65) var lei av livet som pensjonist. Da gjorde hun et uvanlig valg

Roy Ervin Solstad

Han er blant dem som har kommet med fete lønnskrav

OPPGJØR: Årets lønnsoppgjør står for døren og elektrikerne starter sine forhandlinger 22. april. Her er en Bravida-montør i sving med akkordarbeid på Drammen sykehus tidligere i år.

OPPGJØR: Årets lønnsoppgjør står for døren og elektrikerne starter sine forhandlinger 22. april. Her er en Bravida-montør i sving med akkordarbeid på Drammen sykehus tidligere i år.

Leif Martin Kirknes

Når får du ny lønn? Disse datoene må du merke deg

Håndverkere oppgir en høyere bruk av narkotika enn gjennomsnittet. Elektrobransjen frykter det kan føre til flere farlige situasjoner og ulykker på arbeidsplassene.

Håndverkere oppgir en høyere bruk av narkotika enn gjennomsnittet. Elektrobransjen frykter det kan føre til flere farlige situasjoner og ulykker på arbeidsplassene.

Leif Martin Kirknes

Økt kokainbruk blant unge elektrikere

Martine Lie satser på at et par måneder med permittering går greit.

Martine Lie satser på at et par måneder med permittering går greit.

Erlend Angelo

Potetmangel gir permitteringer i Bama

FLEST KVINNER: I rapporten kommer det fram at det ofte er unge kvinnelige ansatte, både med norsk og utenlandsk opprinnelse, som er skadelidende.

FLEST KVINNER: I rapporten kommer det fram at det ofte er unge kvinnelige ansatte, både med norsk og utenlandsk opprinnelse, som er skadelidende.

Colourbox.com

Renholdere trues med at de mister jobben om de er syke

HENTER I BARNEHAGEN: Fengselsbetjent Jørgen Myrvold samler overtid for å ha et hjem til barna. Han er helt avhengig av et godt lønnsoppgjør for å fortsette i fengsel.

HENTER I BARNEHAGEN: Fengselsbetjent Jørgen Myrvold samler overtid for å ha et hjem til barna. Han er helt avhengig av et godt lønnsoppgjør for å fortsette i fengsel.

Eirik Dahl Viggen

Jørgen (29) overlever på overtidstimer

Høyres Henrik Asheim er glad for å ha fått pensjonsforliket gjennom - og håper endringen er på plass allerede neste år.

Høyres Henrik Asheim er glad for å ha fått pensjonsforliket gjennom - og håper endringen er på plass allerede neste år.

Jonas Fagereng Jacobsen

Høyre vil ha superrask behandling av nye pensjonsregler

BLITT BEDRE: Etter at de fikk tariffavtale, syns tillitsvalgt Benjamin Jacobsen at samarbeidet med ledelsen har blitt bedre.

BLITT BEDRE: Etter at de fikk tariffavtale, syns tillitsvalgt Benjamin Jacobsen at samarbeidet med ledelsen har blitt bedre.

Herman Bjørnson Hagen

Sjefen mente de ansatte sluntra unna. Da begynte ballen å rulle

MÅLRETTA: Butikkansatt Ali Rahimi forteller arbeidsminister Tonje Brenna hvor hardt han har jobba for å lære seg norsk og få et normalt liv etter flukten fra Afghanistan.

MÅLRETTA: Butikkansatt Ali Rahimi forteller arbeidsminister Tonje Brenna hvor hardt han har jobba for å lære seg norsk og få et normalt liv etter flukten fra Afghanistan.

Brian Cliff Olguin

Ali kom fra Afghanistan som 17-åring. Han lærte seg norsk gjennom butikkjobben

Knut Viggen

Tidligere LO-leder blir korrupsjonsjeger

Etter en tøff runde med sensorer som skjelte henne ut under fagprøven, har Anny-Elise både skaffet seg fagbrev og fast jobb i forpleininga på sokkelen. Her fra hennes nyligste tur ut på Heidrun-plattformen.

Etter en tøff runde med sensorer som skjelte henne ut under fagprøven, har Anny-Elise både skaffet seg fagbrev og fast jobb i forpleininga på sokkelen. Her fra hennes nyligste tur ut på Heidrun-plattformen.

Privat

Anny-Elise ble skjelt ut av sensor. Nå har hun fått drømmejobben

Brian Cliff Olguin

Et orakel og en slags urmoder. Slik beskrives Berit (67) av kollegene

LANGE STREKK: Etter to års dragkamp, er Bergen fengsel omsider i mål med en avtale om 12-timersvakter i helgene.

LANGE STREKK: Etter to års dragkamp, er Bergen fengsel omsider i mål med en avtale om 12-timersvakter i helgene.

Eirik Dahl Viggen

Ansatte i Bergen fengsel får 12-timersvakter i helgene

Håvard Sæbø

Høyesteretts ankeutvalg: Sak om innleie må behandles på nytt

Per Backer

Fikk stoppet søndagsåpen butikk i Vinje

Kathrine Geard

Yngve sier sjelden hva han jobber med: – Da må jeg forklare resten av kvelden

Næringsminister Jan Christian Vestre er svært fornøyd med den nye handelsavtalen som EFTA-landene har forhandlet fram med India.

Næringsminister Jan Christian Vestre er svært fornøyd med den nye handelsavtalen som EFTA-landene har forhandlet fram med India.

Erlend Angelo

Nå skal norsk laks erobre India: – En «game changer»


Flere saker