{"version":"1.0","type":"rich","provider_name":"Acast","provider_url":"https://acast.com","height":250,"width":700,"html":"<iframe src=\"https://embed.acast.com/$/68d8f5fdacc34956e6156eec/6ad11e9229b9fbfbe2ae49ae?\" frameBorder=\"0\" width=\"700\" height=\"250\"></iframe>","title":"23) Norske språkmodeller og Nasjonalbibliotekets digitalisering med Wilfred Østgulen","thumbnail_width":200,"thumbnail_height":200,"thumbnail_url":"https://open-images.acast.com/shows/68d8f5fdacc34956e6156eec/1792088904224-50f20f0e-17fd-457b-a696-3b42b2a69bd1.jpeg?height=200","description":"<p>Visste du at Nasjonalbiblioteket publiserte sin første norske GPT-modell 11 måneder før ChatGPT kom? Eller at de har jobbet med å digitalisere hele samlingen sin i 20 år?</p><p><br></p><p>Borealis er en familie av åpne norske språkmodeller utviklet av Nasjonalbiblioteket. De er gratis, og du kan kjøre dem på din egen maskin. I denne episoden av Heis møter vi Wilfred Østgulen, IT-direktør i Nasjonalbiblioteket. Vi snakker om hva vi egentlig skal med norske språkmodeller, hvor vanskelige de er å lage, og hvorfor vi ikke bare kan overlate jobben med å lage en bra norsk modell til de store internasjonale teknologiselskapene.</p><p><br></p><p>En bra norsk modell må nemlig trenes på store mengder norsk tekst, så et skikkelig bra datasett er derfor en betydelig del av svaret. Og det datasettet har vi i Norge, for i 2006 bestemte Nasjonalbiblioteket seg for å digitalisere hele samlingen, rubb og rake. Vi snakker om fabrikken i Mo i Rana, som 20 år senere har digitalisert 19 petabyte som skal kunne bevares i 1000 år.</p><p><br></p><p>Wilfred mener han har en av de mest spennende teknologijobbene i landet. Etter denne samtalen er vi tilbøyelige til å være enige!</p><p><br></p><p>Ting vi snakker om underveis:</p><ul><li><a href=\"https://huggingface.co/collections/NbAiLab/borealis\" rel=\"noopener noreferrer\" target=\"_blank\">Borealis på Hugging Face</a> // hele modellfamilien, fra 270M til 27B parametre</li><li><a href=\"https://huggingface.co/NbAiLab/borealis2-31b-preview\" rel=\"noopener noreferrer\" target=\"_blank\">Borealis2 31B preview</a> // forhåndsversjonen av versjon 2, bygget på Gemma 4</li><li><a href=\"https://ai.nb.no/borealis/\" rel=\"noopener noreferrer\" target=\"_blank\">A new family of Norwegian-centric models</a> // lanseringsposten fra AI-laben, med lenke til demo</li><li><a href=\"https://lmstudio.ai/\" rel=\"noopener noreferrer\" target=\"_blank\">LM Studio</a> // søk etter Borealis, og kjør modellen på din egen laptop</li><li><a href=\"https://ai.nb.no/models/\" rel=\"noopener noreferrer\" target=\"_blank\">Modellene fra AI-laben</a> // NB-Whisper, NB-BERT og den aller første NB-GPT-J-6B</li><li><a href=\"https://www.ntnu.no/norllm/prosjekt-mimir-evaluerer-verdien-av-opphavsrett\" rel=\"noopener noreferrer\" target=\"_blank\">Prosjekt Mímir</a> // hva er opphavsrettsbeskyttet tekst verdt for en språkmodell?</li><li><a href=\"https://nb.no/content/uploads/2024/08/Mimirprosjektet_teknisk-rapport.pdf\" rel=\"noopener noreferrer\" target=\"_blank\">Mímir-prosjektets tekniske rapport</a> // for deg som vil ha tallene</li><li><a href=\"https://kommunikasjon.ntb.no/pressemelding/19017131/nye-sprakmodeller-fra-nasjonalbiblioteket-skal-styrke-ki-tilpasset-norske-forhold?lang=no\" rel=\"noopener noreferrer\" target=\"_blank\">Første språkmodeller trent på tekst fra norske aviser</a> // pressemeldingen fra august 2026</li><li><a href=\"https://snl.no/pliktavleveringslova\" rel=\"noopener noreferrer\" target=\"_blank\">Pliktavleveringslova</a> // derfor havner konfirmasjonssangen din i Mo i Rana</li><li><a href=\"https://www.tu.no/feature/88-000-kaoslagrede-stalkasser-og-seks-robotkraner-holder-orden-pa-nasjonens-felles-hukommelse/545345\" rel=\"noopener noreferrer\" target=\"_blank\">88.000 kaoslagrede stålkasser og seks robotkraner</a> // TU besøker fjellhallen</li><li><a href=\"https://arxiv.org/abs/1706.03762\" rel=\"noopener noreferrer\" target=\"_blank\">Attention Is All You Need</a> // artikkelen fra 2017 som snudde AI-laben</li><li><a href=\"https://arxiv.org/abs/2203.15556\" rel=\"noopener noreferrer\" target=\"_blank\">Training Compute-Optimal Large Language Models</a> // Chinchilla-skalering, eller hvorfor mer regnekraft gir større modeller</li><li><a href=\"https://www.sigma2.no/node/444\" rel=\"noopener noreferrer\" target=\"_blank\">Norway joins LUMI-AI</a> // regnekraften Borealis trenes på</li><li><a href=\"https://heis.fm/episode/16\" rel=\"noopener noreferrer\" target=\"_blank\">Inga Strümke på Heis</a> // mer om hvor AI er på vei</li></ul>","author_name":"Audun Fauchald Strand, Truls Jørgensen"}