[PiN-diskusjon] Fra Datatilsynets blogg om personvernspørsmål: Kunstig intelligens, kryptering og annet gøy fra den internasjonale personvernkonferansen i Marokko (fwd)

Ons 19. Okt 2016 17:48:16 CEST

---------- Forwarded message ----------
Date: Wed, 19 Oct 2016 17:36:05 +0200
From: Arve Kirkevik <akirkevi at online.no>
To: EFN-listen <efn-listen at uib.no>
Subject: Fra Datatilsynets blogg om personvernspørsmål: Kunstig intelligens,
     kryptering og annet gøy fra den internasjonale personvernkonferansen i
     Marokko
Resent-From: <thomas at ifi.uio.no>

https://www.personvernbloggen.no/2016/10/19/kunstig-intelligens-kryptering-og-annet-goy-fra-den-internasjonale-personvernkonferansen-i-marokko/

Kunstig intelligens, kryptering og annet gøy fra den internasjonale
personvernkonferansen i Marokko

19. oktober 2016

Den viktigste personvernarrangementet for datatilsyn finner sted i
Marokko denne uka. [1] Rundt 150 delegater fra tilsyn fra hele verden
deltar og diskuterer hvordan vi kan samarbeide for å sikre best mulig
personvern på tvers av grenser.

Kunstig intelligens og roboter

Første del av konferansen var dedikert til kunstig intelligens og
roboter. Her kommer det til å skje mye spennende i skjæringspunktet
big data og maskinlæring i årene framover. Intelligente systemer kan
ta til seg store mengder informasjon (for eksempel hva vi ser, hva de
observerer koblet med andre tilgjengelige kilder på nett eller i andre
registre). Ideen er at de etter hvert skal kunne lære og ta egne valg
basert på all informasjonen de samler inn og erfaringene de gjør seg.
Vi er på starten av denne utviklingen. Et eksempel på denne typen
teknologi som eksisterer i dag er en robot som kan gi en mer presis
kreftdiagnose enn en menneskelig lege. Smarte roboter blir også brukt
for å snakke med kunder og vi kan se for oss bruk i offentlig sektor i
fremtiden.

overview-2

Med kunstig intelligens kommer også personvernutfordringer. En av dem
er at det kan være vanskelig å vite hvordan en intelligent maskin
kommer fram til en avgjørelse. Vi står muligens ovenfor en situasjon
hvor algoritmene og maskinens egeninnsats blir så komplisert at verken
maskinen selv eller de som programmerte den kan si hvordan den kom
fram til resultat X (sjekk ut Little Britians «the computer says no»).
[2] Et viktig personvernprinsipp er at du skal vite hva slags
informasjon andre har om deg og hva de bruker den til.

Det var enighet på konferansen av at for å sikre åpenhet og for å
forebygge diskriminering gjennom algoritmer er det viktig å utvikle
maskiner med kunstig intelligens på en måte som ivaretar personvernet
vårt. Vi ser ofte at teknologien driver utviklingen, noen ganger på en
måte som går på bekostning av grunnleggende rettigheter som kontroll
over egne data. Spesielt når det gjelder intelligente systemer, som
kan analysere enorme mengder informasjon og aldri glemmer, er det
viktig at det er vi som mennesker som setter agendaen og sørger for
innebygd personvern i systemene vi lager.

Kryptering

Et annet tema for konferansen er kryptering. James Baker fra FBI og
Amie Stepanovich fra Access Now (NGO som fronter digitale rettigheter)
fikk opp temperaturen i panelet. Stepanovich mente at å lage bakdører
eller på andre måter kompromittere krypteringsløsninger vil
underminere sikkerheten på internett ? og være en veldig dårlig ide
både for myndigheter og enkeltpersoner. Kryptering er det beste
verktøyet vi har for å beskytte oss på internett. Det er helt
avgjørende for utøvelsen av grunnleggende rettigheter: personvern og
ytringsfrihet. Det er også et viktig verktøy for virksomheter og
myndigheter når de håndterer konfidensiell informasjon. Hun
argumenterte at det må finnes andre løsninger å løse utfordringene
myndighetene har med å bekjempe terror og annen kriminalitet på
nettet.

encryption

Baker fra FBI var overraskende enig med Stepanovich på enkelte punkt.
Han sa at kryptering er kommet for å bli. Men at det har en kostnad.
Det gjør det vanskeligere å beskytte folk mot overgrep og terror.
Baker trodde det finns andre løsninger enn å forby eller ha bakdører i
krypteringsløsninger, men han sa at FBI ikke vet hva løsningen er
enda.

Fire resolusjoner

Datatilsynene som deltok på konferansen ble enige om å adoptere fire
resolusjoner. Det betyr at vi har forpliktet oss til å inkludere
følgende temaene i vårt arbeid hjemme i Norge:

     Utvikle nye måter å måle personvernets status og kår nasjonalt og
internasjonalt
     Bidra til å forsvare personvern som en menneskerettighet
     Internasjonalt samarbeid på tvers av grenser
     Adoptere internasjonale retningslinjer for digital kompetanse for
personvern i lærerutdanningen

Du kan lese teksten i resolusjonene her. [3]

Om forfatteren
Kari Laumann

Utdannet sosiolog. Jobber som rådgiver i Datatilsynet med utredning og
analyse. Er koordinator for personvernombudene. Har spesielt fokus på
innebygd personvern, sosiale medier og skole.
Se alle innlegg av Kari Laumann [4]

[1]
https://icdppc.org/

[2]
https://www.youtube.com/watch?v=zUQgthIs7pM

[3]
https://icdppc.org/document-archive/adopted-resolutions/

[4]
https://www.personvernbloggen.no/author/kari-laumann/

_______________________________________________
http://mailman.uib.no/listinfo/efn-listen
Melde deg av listen? Send mail til efn-listen-request at uib.no med "unsubscribe" som emne/subject