Share

cover art for En sandkasse for ansvarlig kunstig intelligens

Personvernpodden

En sandkasse for ansvarlig kunstig intelligens

Season 1, Ep. 4

Datatilsynets regulatoriske sandkasse har som mål å stimulere til innovasjon av etisk og ansvarlig kunstig intelligens. Men hvordan jobber egentlig store, norske aktører med kunstig intelligens? Vi utfordret NAV og Schibsted til å fortelle om helt konkrete prosjekter de jobber med, om personvernutfordringer de har møtt på, og hvordan en regulatorisk sandkasse kan bidra til å utvikle gode og personvernvennlige løsninger. 


I studio har programleder og prosjektleder for den regulatoriske sandkassen i Datatilsynet, Kari Laumann, med seg Senior Privacy Counsel i Schibsted, Simen Evensen Breen, og personvernombud i NAV, Anders Holt.

More episodes

View all episodes

  • 11. #11 SandKasten: Smart assistent på vent

    46:00||Season 1, Ep. 11
    Den som venter på noko godt, bør kanskje vente litt til? Eventuelt sette av godt med tid og ressurser til å gjere grundige forarbeid. For det er ikkje berre berre å skulle få ein enklare arbeidskvardag gjennom Microsofts KI-verktøy M365 Copilot.Generativ kunstig intelligens kom på alles lepper, og ved manges fingertuppar, for to år sidan. Derfrå har det kanskje fått mest merksemd for å bli brukt til juks i skuleverket eller til å reprodusere andres åndsverk. Endeleg!Men no står KI-assistenten klar til å hjelpe oss med dei kjedelege – men nødvendige – oppgåvene, som å skrive møtereferat, svare på e-postar eller oppsummere lange rapportar for oss. Microsofts storsatsing M365 Copilot er lansert, klar for å assistere oss med stort og smått i deira Office-univers.Vi veit det er mange som klør i fingrane etter å ta i bruk dette verktøyet. Men er det lurt? Du bør i alle fall vere trygg på kva du gjer, og kva ansvar og plikter du har, før du slår det på.Då NTNU skulle bli Copilot-readyI denne episoden av SandKasten får du høyre korleis det gjekk då NTNU ville gjere seg klare for å bruke Copilot. Det er nemleg ikkje berre å betale lisens og klikke «installer». Du må gjere eit godt stykke arbeid for å bli Copilot-ready. Og det viste seg at copiloten visstnok ikkje var heilt klar for NTNU, han heller. (Eller for norsk arbeidsliv generelt?)Opptaka til episoden er tekne i samband med eit fagseminar, der NTNU presenterte funn og ein rapport frå testinga. Om ikkje lenge vil det også kome ein sluttrapport frå sjølve sandkasseprosjektet, som er meir spissa på dei personvernrelaterte sidene av å skulle ta i bruk Copilot.SandKasten er Personvernpoddens serie om livet i Datatilsynets regulatoriske sandkasse. I serien prøvar programleiar Arild Opheim å bli klok på kunstig intelligens, ved å grave i problemstillingane det blir jobba med i sandkassa. I denne episoden ser han på NTNUs Copilot-prosjekt. Medverkande: Heine Skipenes, Bodil Åberg Mokkelbost, Sebastian Forbes, Eirik Gulbrandsen.
  • 10. #10 SandKasten: Smart grep mot overgrep

    37:40||Season 1, Ep. 10
    Seksuell utnyttelse og overgrep mot mindreårige er et voksende samfunnsproblem. Digitale arenaer gjør det lettere for overgripere å komme i kontakt med og groome potensielle ofre, med mindre risiko for å bli tatt. Tross internasjonalt samarbeid, sliter man med å finne effektive forebyggingstiltak.Men kan kunstig intelligens bli et effektivt våpen i kampen mot seksuelle overgrep? Ved hjelp av KI kan teknologi identifisere mening i tekst og si noe om sinnsstemninger og egenskaper hos den som skriver teksten. Politihøgskolen ønsker derfor å utvikle et verktøy, som automatisk kan patruljere det åpne internettet med formål å avsløre og forhindre forsøk på seksuell utnyttelse av mindreårige. I Datatilsynets sandkasse får de sparring på hvordan de kan forske på og eventuelt utvikle en slik bot uten å komme i konflikt med lov eller etikk.SandKasten er Personvernpoddens serie om livet og prosjektene i Datatilsynets regulatoriske sandkasse. I serien prøver programleder Arild Opheim å bli klok på kunstig intelligens, ved å grave i problemstillingene det jobbes med i sandkassa. I denne episoden har han fått Politihøgskolens Inger Marie Sunde og Jens Erik Paulsen i studio, sammen med juridisk seniorrådgiver Jan-Henrik Nielsen fra Datatilsynet.
  • 9. #9 SandKasten: Når det er trygt å tape ansikt

    20:49||Season 1, Ep. 9
    Oppstartselskapet Mobai ønsker å gi personvernvennlig ansiktsgjenkjenning et ansikt. Og i sandkassa får de utforsket om deres form for ansiktsgjenkjenning faktisk ikke er å regne som biometri (i juridisk forstand).Det er ikke hemmelig at både norske og europeiske datatilsynsmyndigheter mener ansiktsgjenkjenning – og særlig ansiktsgjenkjenning i kombinasjon med kunstig intelligent analyse – er et krevende og utfordrende tema med høg risiko. Men det kan være forskjell på ansiktsgjenkjenning og det å kjenne igjen et ansikt. Dersom det viser seg at Mobai har kommet opp med en teknologisk løsning som "tar det beste" fra ansiktsgjenkjenning som metode, uten å dra med seg risikoen, er dette personvernvennlig innovasjon med et stort og spennende potensial. Og det får du høre om i denne utgaven av SandKasten.SandKasten er Personvernpoddens serie om livet og prosjektene i Datatilsynets regulatoriske sandkasse for ansvarlig kunstig intelligens. I serien prøver programleder Arild Opheim å bli klok på kunstig intelligens, ved å grave i problemstillingene det jobbes med i sandkassa. I denne episoden har han fått Mobais CEO Brage Strand i studio, sammen med juridisk seniorrådgiver Berit Bye Rinnan fra Datatilsynet.
  • Arendalsuka: Debatt om strømming av barneidrett

    59:50|
    De siste årene har stadig flere arrangementer for barn blitt filmet og lagt ut på internett, og denne utviklingen skjøt fart under koronapandemien. I Datatilsynet opplever vi nå en normalisering av fenomenet. Slik praksis har store fordeler og er til glede for mange. Samtidig har foresatte, trenere og andre kontaktpersoner ytret bekymringer for at stadig flere idrettsarrangementer for barn filmes eller avbildes og legges ut på internett. Som voksne har vi et ansvar for å sikre at idretten er en trygg arena hvor barn kan utfolde seg sportslig. Ivaretar vi barns rett til personvern hvis også fritidsaktiviteter filmes og gjøres tilgjengelig for allmennheten?Under Arendalsuka 2023 inviterte Datatilsynet til debatt om temaet strømming av barne- og ungdomsidrett. Panelet besto av Leif Welhaven, journalist i VG, Pål Kristen Rønnevik, leder av NIF digital, Reidun Kjelling Nybø, generalsekretær i Norsk redaktørforening, Omar Samay Gamal, byråd for kultur, idrett og frivillighet i Oslo kommune og Line Coll, direktør i Datatilsynet. Ordstyrer for debatten var Sara E. Grønvold, som til daglig er spesialrådgiver i Redd Barna.Dette er et opptak fra arrangementet.
  • 6. #6 Pølser og personvernpolitikk: Teknologi i personvernets tjeneste

    37:22||Ep. 6
    Hva er forholdet mellom teknologi og politikk, og hvordan kan politikken hjelpe oss gjennom digitaliseringen av samfunnet uten altfor reven pels? Vi tar diskusjonen i siste episode av denne podkastserien. Gjester i episoden er Elisabet Haugsbø, president i Tekna, Nikolai Astrup, stortingsrepresentant for Høyre og Veronica Jarnskjold Buer, avdelingsleder for teknologi, analyse og sikkerhet i Datatilsynet. Programleder er Kari Laumann.
  • 5. #5 Pølser og personvernpolitikk: med personvern i skolesekken

    43:50||Ep. 5
    Personvern bør være digitaliserings-ABC. Men hvem styrer egentlig den digitale utviklingen i norsk skole – er det politikerne, staten, kommunen – eller kanskje de store teknologiselskapene? Intet mindre enn vår viktigste ressurs – våre barn – står på spill i en episode som diskuterer skole og personvernpolitikk. Gjester i episoden er "IT-pappa" Christer Aas, teknologidirektør i Bouvet, Simen Sommerfelt, statssekretær i kunnskapsdepartementet Sindre Lysø (AP), og Datatilsynets direktør og sjef for seksjon for offentlige tjenester, Line Coll og Camilla Nervik. Programleder er Kari Laumann.
  • 4. #4 Pølser og personvernpolitikk: Åpne kilder og lukket overvåking

    40:26||Ep. 4
    - Etterretning i åpne kilder kan hjelpe med å oppdage aktiviteter og sammenhenger som ikke kan oppdages med det blotte øyet, sier FFI-forsker. Lovforslag om å gi PST adgang til å drive overvåking i åpne kilder på internett er bakteppet for en ny episode om personvern og politikk i justissektoren.Programleder Kari Laumann har invitert pensjonert riksadvokat og medlem av Personvernkommisjonen Tor-Aksel Busch, FFI-forsker Eskil Grendahl Sivertsen og juridisk seniorrådgiver Jan Henrik Nielsen for å snakke om utfordringer og dilemmaer knyttet til personvern i justissektoren. Også PST kommer til orde i episoden.
  • 3. #3 Pølser og personvernpolitikk: Forbruker - men til hvilken pris?

    32:19||Ep. 3
    Hva er en digital forbruker og hvilke utfordringer står de overfor i 2023?Episode 3 i vår serie om personvern og politikk utforsker forbrukerens ferd i det store og komplekse digitale universet, og spør om politikken kan avlaste og hjelpe oss i forbrukerrollen på nett. Hvordan kan vi egentlig styre forbrukervernet og personvernet i riktig retning?Gjester i episoden er fagdirektør i Forbrukerrådet og medlem av Personvernkommisjonen, Finn Myrstad, stortingsrepresentant for Venstre, Grunde Almeland, og sjef for internasjonal seksjon i Datatilsynet, Tobias Judin. 
  • 2. #2 Pølser og personvernpolitikk: Fremtidens forvaltning

    29:54||Ep. 2
    Den tyske attenhundretalls-politikeren Otto von Bismarck skal en gang ha sagt at den som vet hvordan pølser og politikk blir laget, vil aldri mer få en god natts søvn. En ny podkastserie fra Datatilsynet tar likevel sjansen på å utforske forholdet mellom politikk og personvern nærmere.Episode 2 handler om en sektor som angår oss alle: Vet politikerne våre hvilke utfordringer bruk av data og deling av data på tvers i offentlig sektor har? Og har Stortinget egentlig kontroll på digitaliseringen av norsk forvaltning?Gjester i episoden er juridisk fagdirektør i Nav og medlem av Personvernkommisjonen, Haakon Hertzberg, og juridisk fagdirektør i Datatilsynet, Susanne Lie. Kari Laumann er programleder.