Share

cover art for #2 SandKasten: Anonymiseringstrikset

Personvernpodden

#2 SandKasten: Anonymiseringstrikset

Ep. 2

Anonymisering er trikset for å omgå personvernregelverket. Og kanskje nettopp derfor ser vi, i kjølvannet av GDPR, at anonymisering for alvor er på agendaen i Europa. Men hvor anonymt er anonymt? Og hvordan sikrer vi at det som er anonymt i dag, fortsatt er anonymt i morgen? Det er problemstillinger selskapet Age Labs tar med inn i Datatilsynets sandkasse for personvernvennlig KI.


Age Labs vil bruke maskinlæring på helsedata for å kunne forutse sykdommer før du i det hele tatt har fått symptomer. Men er det i det hele tatt mulig å anonymisere informasjon om hvordan genene våre oppfører seg?


SandKasten er Personvernpoddens serie om livet og prosjektene i Datatilsynets regulatoriske sandkasse for ansvarlig kunstig intelligens. I serien prøver programleder Arild Opheim å bli klok på kunstig intelligens, ved å grave i problemstillingene det jobbes med i sandkassa. I denne episoden møter han Karl Trygve Kalleberg fra Age Labs og Datatilsynets Eirik Gulbrandsen.

More episodes

View all episodes

  • 13. #13 SandKasten: Felles front mot svindel og hvitvasking

    12:28||Ep. 13
    Det skyller en svindelbølge over landet. (Ja, la oss håpe det blir med en bølge.) Direktøren i Norges største bank mener situasjonen med økende økonomisk kriminalitet er dypt bekymringsfull. Men nå danner myndighetene og finansnæringen felles front. I en ny episode av SandKasten får du høre hvordan Datatilsynet, Finanstilsynet og tunge aktører i bank og forsikring går sammen om å dele data, rydde opp i regelverkstolkninger, og eventuelt foreslå regelverksendringer - om nødvendig - for å bekjempe økonomisk kriminalitet mer effektivt. SandKasten er Personvernpoddens serie om livet og prosjektene i Datatilsynets regulatoriske sandkasse. I serien rapporterer programleder Arild Opheim om prosjekter og problemstillinger det jobbes med i sandkassa. Denne gangen har han intervjuet Datatilsynets direktør Line Coll, Finanstilsynets direktør Per Mathis Kongsrud og DNBs konsernsjef Kjerstin Braathen i forbindelse med at det er tatt opp fem spennende prosjekter for felles utforsking i tilsynenes sandkasser.Episoden oppsummert (av et KI-verktøy)Både banknæringen og politi har en stund omtalt regelverk som et hinder for effektiv bekjempelse av økonomisk kriminalitet. De opplever at regelverket delvis stiller motstridende krav. På den ene siden er det et sterkt ønske om å dele informasjon for å forhindre økonomisk kriminalitet, men på den andre siden setter personvernlovgivningen og taushetspliktbestemmelser grenser for hva som er tillatt. Resultatet? En frykt for å gjøre feil – og dermed mindre effektiv kriminalitetsbekjempelse.For å løse dette, har Finanstilsynet og Datatilsynet gått sammen om fem sandkasseprosjekter, der bankene og relevante aktører kan utforske hvordan data kan deles innenfor lovens rammer, i tillegg til å kartlegge hva som eventuelt trengs av hjemler eller justeringer av regelverket for å få til ønsket datadeling. Ifølge DNBs Kjerstin Braathen ble deres kunder i løpet av 2024 forsøkt svindlet for hele 2,5 milliarder kroner. Heldigvis ble 2,1 milliarder av dette stoppet, men tallene viser hvor aggressivt de kriminelle opererer.– Utviklingen er dypt bekymringsfull. Vi investerer tresifrede millionbeløp hvert år i å bekjempe økonomisk kriminalitet, men vi tror vi kan få enda mer ut av pengene hvis vi jobber smartere sammen, sier Braathen.Hva kan vi forvente fra sandkasseprosjektene?Ved bruk av sandkassemetoden skal aktørene finne ut hva som faktisk er juridiske hindre, og hva som handler mer om kultur og frykt for å gjøre feil. Målet er både å skape bedre veiledning for bankene og å identifisere behov for regelverksendringer. Kanskje kan dette samarbeidet også føre til nye teknologiske løsninger som gjør det enklere å stanse svindel i sanntid?– Vi vet at det er både reelle og opplevde hindringer. I sandkassen kan vi konkretisere hvilke utfordringer vi står overfor, og finne ut hva som må gjøres – enten det er bedre veiledning, endringer i lovverket eller en ny måte å samarbeide på, forklarer Datatilsynets Line Coll.
  • 12. #12 SandKasten: Ikke bare bare med enkle svar

    41:07||Season 1, Ep. 12
    Har du brukt ChatGPT til å få svar på helsespørsmål? Helsedirektoratet ser tegn til at unge nordmenn i økende grad bruker chatboter til å finne helseinformasjon. Det er lett å skjønne. Botene bringer deg raskere til svaret enn tradisjonell googling. Men hva skjer når boten gir deg et overbevisende – men feil – svar? I denne episoden av SandKasten ser vi nærmere på Helsedirektoratets forsøk på å utvikle Helsesvar og ETI (Enklere tilgang til informasjon), to KI-løsninger spisset på helseinformasjon, som skal gi raske og kvalitetssikrede svar om helse. Men å lage en KI-chatbot for helsevesenet er ikke bare bare. Helsedirektoratet har støtt på både juridiske, teknologiske og etiske utfordringer: Hvordan sikrer man at KI ikke hallusinerer og gir farlige råd? Hvordan kan man anonymisere sensitive helseopplysninger uten at det svekker tjenestens nytteverdi? Og hvor går egentlig grensen mellom helseinformasjon og helsehjelp?I Datatilsynets regulatoriske sandkasse har Helsedirektoratet fått utforsket disse spørsmålene. I denne episoden av SandKasten møter vi Adélie Dorseuil, leder for produktteam i Helsedirektoratet, og juridisk seniorrådgiver Jan-Henrik Nielsen fra Datatilsynet. De forteller om kampen for en sikker helsebot, og hvorfor det er så utfordrende å lage enkle, men trygge svar på helsespørsmål.SandKasten er Personvernpoddens serie om livet og prosjektene i Datatilsynets regulatoriske sandkasse. I serien prøver programleder Arild Opheim å bli klok på kunstig intelligens, ved å grave i problemstillingene det jobbes med i sandkassa.Episoden oppsummert (av et KI-verktøy):Helsedirektoratet har observert at unge nordmenn stadig oftere bruker kunstig intelligente chatboter for å finne helseinformasjon. Dette er forståelig, siden slike verktøy gir raske svar. Men hva skjer når KI-modellene gir overbevisende, men feilaktige svar? I denne episoden av podkasten SandKasten blir Helsedirektoratets arbeid med prosjektene "Helsesvar" og "Enklere tilgang til informasjon" (ETI) diskutert. Begge er KI-løysinger som skal gi kvalitetssikret helseinformasjon.Det å lage en KI-chatbot for helsesektoren er utfordrende, både juridisk, teknologisk og etisk. Viktige problemstillinger som blir diskutert i episoden inkluderer:Hallusinering: at chatboten kan dikte opp falsk informasjonAnonymisering: er det mulig å snakke om grader av anonymitet? Eller er det enten eller? Og er det mulig å anonymisere sensitive helseopplysninger uten å svekke kvaliteten på tjenesten?Retrieval-Augmented Generation (RAG): en teknologi som henter inn og baserer svarene på kvalitetssikrede kilder.For å finne gode løsninger har Helsedirektoratet samarbeidet med Datatilsynet i den regulatoriske sandkassen, en arena der nye teknologiutviklinger blir vurdert juridisk og etisk. Et sentralt tema i episoden er anonymisering. Helsedirektoratet ønsket å lage en helt anonym chatbot, men Datatilsynet var i utgangspunktet skeptisk til om det faktisk var mulig. Det viste seg at god anonymisering likevel kunne oppnås gjennom teknologiske tiltak, som sanntids-sensurering av personopplysninger i fritekstfelt.Podkasten avslutter med refleksjoner rundt framtiden for KI i offentlige tjenester. Helsedirektoratets arbeid i sandkassen har ført til viktige avklaringer om personvern, anonymitet og ansvaret for å gi korrekt helseinformasjon. Sluttrapporten fra prosjektet vil ha stor verdi for andre som planlegger lignende løsninger.
  • 3. Makt og avmakt: hva vet sjefen din om deg, og hvordan ta tilbake kontrollen?

    25:53||Ep. 3
    I en tid hvor Microsoft Copilot 365 og generativ kunstig intelligens forenkler innsamling og bruk av store datamengder, er det viktig å stille kritiske spørsmål: Hva har arbeidsgiveren egentlig rett til å vite om deg, og hvordan kan du beskytte personvernet ditt på arbeidsplassen?Det er godt kjent at kunnskap er makt. Mindre kjent er at uvitenhet er avmakt. Vår nyeste personvernundersøkelse viser at de fleste arbeidstakere har tillit til hvordan arbeidsgiver behandler deres personopplysninger. Likevel, mange ansatte er usikre på hvilken informasjon arbeidsgiver samler inn og bruker og de opplever å ha lite kontroll. Nå har i tillegg algoritmisk styring og generativ kunstig intelligens gjort sitt definitive inntog i arbeidslivet.Overvåking på arbeidsplassen er strengt regulert, og skjult overvåking er som regel ulovlig. Så hva er egentlig utfordringen?Programleder Helle Jacobsen tar praten sammen med seniorrådgiver Magnus Mühlbradt og senioringeniør Eirik Gulbrandsen i studio. 
  • 2. #2 Makt og avmakt: hvordan beskytte dataene dine i møte med statlig intelligens?

    27:51||Ep. 2
    Innen 2025 skal 80 prosent av offentlig sektor bruke kunstig intelligens. Hva betyr det for din mulighet til å beholde kontrollen over egne personopplysninger og til å ettergå beslutninger som påvirker deg og ditt liv?Det sies at kunnskap er makt, men uvitenhet kan føre til avmakt. En viktig del av den politiske kampen i moderne tid har handlet om maktforholdet mellom staten og deg som borger. Staten skal sikre din trygghet og velferd, men den har også makt til å ta beslutninger som påvirker deg. Disse vedtakene kan ha stor betydning for ditt liv.IKT endret i sin tid hvordan du forholder deg til offentlige tjenester. Siden den gang har vi sett at stadig flere oppgaver og avgjørelser flyttes fra menneske til maskin. Men hvordan påvirker dette deg når staten tar i bruk kunstig intelligens i stor skala?Programleder Helle Jacobsen har invitert juridisk seniorrådgiver Jan Henrik Nielsen i studio for å forklare hvordan teknologien brukes i det offentlige i dag, og hva du kan gjøre for å beholde kontrollen over egne data. Nielsen har vært med i flere prosjekter i Datatilsynets regulatoriske sandkasse.
  • 1. #1 Makt og avmakt: hvordan ta tilbake kontrollen på nett?

    21:29||Ep. 1
    Det er godt kjent at kunnskap er makt. Mindre kjent er at uvitenhet er avmakt. I første episode av vår nye podkastserie utforsker vi hvorfor så mange føler ubehag og manglende kontroll over egne personopplysninger på nettet – og hva du kan gjøre for å ta styringen. Kunnskap om hva som samles inn av personopplysninger og hvordan de brukes er en forutsetning for å ha kontroll. Mangel på åpenhet og transparens kan således bidra til en følelse av avmakt. Det gjelder også mangel på medbestemmelse og forutsigbarhet i behandlingen av opplysninger om deg.Personvernundersøkelsen 2024 viser at det er vanskelig å ha oversikt over hvordan personopplysningene våre brukes på internett. Hvem samler inn hva, og hvordan? Halvparten av respondentene sier dessuten at de opplever et ubehag ved å tenke på hvor mye personopplysninger om dem som finnes på internett.Programleder Helle Jacobsen har invitert senioringeniør og teknologiekspert Eirik Gulbrandsen i studio for å gi deg innsikt i temaet og komme med noen gode råd på veien.
  • 11. #11 SandKasten: Smart assistent på vent

    46:00||Season 1, Ep. 11
    Den som venter på noko godt, bør kanskje vente litt til? Eventuelt sette av godt med tid og ressurser til å gjere grundige forarbeid. For det er ikkje berre berre å skulle få ein enklare arbeidskvardag gjennom Microsofts KI-verktøy M365 Copilot.Generativ kunstig intelligens kom på alles lepper, og ved manges fingertuppar, for to år sidan. Derfrå har det kanskje fått mest merksemd for å bli brukt til juks i skuleverket eller til å reprodusere andres åndsverk. Endeleg!Men no står KI-assistenten klar til å hjelpe oss med dei kjedelege – men nødvendige – oppgåvene, som å skrive møtereferat, svare på e-postar eller oppsummere lange rapportar for oss. Microsofts storsatsing M365 Copilot er lansert, klar for å assistere oss med stort og smått i deira Office-univers.Vi veit det er mange som klør i fingrane etter å ta i bruk dette verktøyet. Men er det lurt? Du bør i alle fall vere trygg på kva du gjer, og kva ansvar og plikter du har, før du slår det på.Då NTNU skulle bli Copilot-readyI denne episoden av SandKasten får du høyre korleis det gjekk då NTNU ville gjere seg klare for å bruke Copilot. Det er nemleg ikkje berre å betale lisens og klikke «installer». Du må gjere eit godt stykke arbeid for å bli Copilot-ready. Og det viste seg at copiloten visstnok ikkje var heilt klar for NTNU, han heller. (Eller for norsk arbeidsliv generelt?)Opptaka til episoden er tekne i samband med eit fagseminar, der NTNU presenterte funn og ein rapport frå testinga. Om ikkje lenge vil det også kome ein sluttrapport frå sjølve sandkasseprosjektet, som er meir spissa på dei personvernrelaterte sidene av å skulle ta i bruk Copilot.SandKasten er Personvernpoddens serie om livet i Datatilsynets regulatoriske sandkasse. I serien prøvar programleiar Arild Opheim å bli klok på kunstig intelligens, ved å grave i problemstillingane det blir jobba med i sandkassa. I denne episoden ser han på NTNUs Copilot-prosjekt. Medverkande: Heine Skipenes, Bodil Åberg Mokkelbost, Sebastian Forbes, Eirik Gulbrandsen.
  • 10. #10 SandKasten: Smart grep mot overgrep

    37:40||Season 1, Ep. 10
    Seksuell utnyttelse og overgrep mot mindreårige er et voksende samfunnsproblem. Digitale arenaer gjør det lettere for overgripere å komme i kontakt med og groome potensielle ofre, med mindre risiko for å bli tatt. Tross internasjonalt samarbeid, sliter man med å finne effektive forebyggingstiltak.Men kan kunstig intelligens bli et effektivt våpen i kampen mot seksuelle overgrep? Ved hjelp av KI kan teknologi identifisere mening i tekst og si noe om sinnsstemninger og egenskaper hos den som skriver teksten. Politihøgskolen ønsker derfor å utvikle et verktøy, som automatisk kan patruljere det åpne internettet med formål å avsløre og forhindre forsøk på seksuell utnyttelse av mindreårige. I Datatilsynets sandkasse får de sparring på hvordan de kan forske på og eventuelt utvikle en slik bot uten å komme i konflikt med lov eller etikk.SandKasten er Personvernpoddens serie om livet og prosjektene i Datatilsynets regulatoriske sandkasse. I serien prøver programleder Arild Opheim å bli klok på kunstig intelligens, ved å grave i problemstillingene det jobbes med i sandkassa. I denne episoden har han fått Politihøgskolens Inger Marie Sunde og Jens Erik Paulsen i studio, sammen med juridisk seniorrådgiver Jan-Henrik Nielsen fra Datatilsynet.
  • 9. #9 SandKasten: Når det er trygt å tape ansikt

    20:49||Season 1, Ep. 9
    Oppstartselskapet Mobai ønsker å gi personvernvennlig ansiktsgjenkjenning et ansikt. Og i sandkassa får de utforsket om deres form for ansiktsgjenkjenning faktisk ikke er å regne som biometri (i juridisk forstand).Det er ikke hemmelig at både norske og europeiske datatilsynsmyndigheter mener ansiktsgjenkjenning – og særlig ansiktsgjenkjenning i kombinasjon med kunstig intelligent analyse – er et krevende og utfordrende tema med høg risiko. Men det kan være forskjell på ansiktsgjenkjenning og det å kjenne igjen et ansikt. Dersom det viser seg at Mobai har kommet opp med en teknologisk løsning som "tar det beste" fra ansiktsgjenkjenning som metode, uten å dra med seg risikoen, er dette personvernvennlig innovasjon med et stort og spennende potensial. Og det får du høre om i denne utgaven av SandKasten.SandKasten er Personvernpoddens serie om livet og prosjektene i Datatilsynets regulatoriske sandkasse for ansvarlig kunstig intelligens. I serien prøver programleder Arild Opheim å bli klok på kunstig intelligens, ved å grave i problemstillingene det jobbes med i sandkassa. I denne episoden har han fått Mobais CEO Brage Strand i studio, sammen med juridisk seniorrådgiver Berit Bye Rinnan fra Datatilsynet.
  • Arendalsuka: Debatt om strømming av barneidrett

    59:50|
    De siste årene har stadig flere arrangementer for barn blitt filmet og lagt ut på internett, og denne utviklingen skjøt fart under koronapandemien. I Datatilsynet opplever vi nå en normalisering av fenomenet. Slik praksis har store fordeler og er til glede for mange. Samtidig har foresatte, trenere og andre kontaktpersoner ytret bekymringer for at stadig flere idrettsarrangementer for barn filmes eller avbildes og legges ut på internett. Som voksne har vi et ansvar for å sikre at idretten er en trygg arena hvor barn kan utfolde seg sportslig. Ivaretar vi barns rett til personvern hvis også fritidsaktiviteter filmes og gjøres tilgjengelig for allmennheten?Under Arendalsuka 2023 inviterte Datatilsynet til debatt om temaet strømming av barne- og ungdomsidrett. Panelet besto av Leif Welhaven, journalist i VG, Pål Kristen Rønnevik, leder av NIF digital, Reidun Kjelling Nybø, generalsekretær i Norsk redaktørforening, Omar Samay Gamal, byråd for kultur, idrett og frivillighet i Oslo kommune og Line Coll, direktør i Datatilsynet. Ordstyrer for debatten var Sara E. Grønvold, som til daglig er spesialrådgiver i Redd Barna.Dette er et opptak fra arrangementet.