Onder de motorkap van AI

Een dagdeel waarin deelnemers begrijpen hoe taalmodellen werken, en waarom ze soms fouten maken.

Tips verouderen bij elk nieuw model. Begrip blijft.

Daarom bouwen we samen een taalmodel na, van embeddings tot attention, met beeld in plaats van formules.

uitleggen hoe een taalmodel het volgende woord voorspeltDeel 1: Het taalmodel
uitleggen waarom een chatbot op dezelfde vraag niet altijd hetzelfde antwoord geeftDeel 1: Het taalmodel
uitleggen hoe een taalmodel wordt getraind tot slimme assistentDeel 2: Slimme assistent
herkennen wanneer een model iets verzint, scheef antwoordt of context mistDeel 3: Praktisch
inschatten wat een AI-agent zelfstandig kanDeel 3: Praktisch

Een taalmodel voorspelt het volgende woord, met drie vaardigheden die op die van ons lijken: associaties, relaties en feitjes.

Temperatuur

Meestal leren, soms niet.

Het taalmodel · een zwarte doos De prompt gaat erin, het volgende woord komt eruit. Wat daartussen gebeurt, zie je niet.

Vereenvoudigd beeld. De getallen en kansen zijn een illustratie.

Zo voorspelt een taalmodel het volgende woord bij de prompt ‘Dit is een top plek om te …’:

Het taalmodel. De prompt gaat erin, het volgende woord komt eruit: leren. Wat daartussen gebeurt, zie je niet.
Associaties (embeddings). De doos gaat open. Elk woord wordt een rij getallen. Wat op elkaar lijkt, ligt dicht bij elkaar: top bij super en geweldig, plek bij plaats en locatie.
Relaties (attention). Elk woord kijkt naar de woorden ervóór. ‘te’ let het meest op ‘om’ en ‘plek’, en wat minder op ‘top’.
Feitjes (MLP). Elke rij getallen krijgt dezelfde vaste vragen. Gaat het om een fijne plek om iets te doen? Ja, dus komt er kennis bij: leren, werken.
Laag na laag (N keer). Relaties en feitjes wisselen elkaar af. Een echt model doet dat tientallen keren.
Kiezen (softmax). Van de laatste rij getallen maakt het model kansen: leren heeft een grote kans, werken een redelijke, wonen een kleine en lopen een heel kleine. De temperatuur bepaalt hoe gewaagd het kiest. Hier wordt het leren.

Van tekst afmaken naar een assistent.

PretrainenBij miljarden zinnen het volgende woord raden en na elke fout bijstellen.
Instruction fine-tuningTrainen op voorbeeldgesprekken: om de beurt praten, helpen en stoppen.
ToolsHulpmiddelen aanroepen, zoals een rekenmachine. Dat maakt van een chatbot een agent.
Reinforcement learningBelonen wat beter is. Zo leert een model ook eerst na te denken.

Wat betekent dit voor hoe je AI gebruikt?

Hallucinatie: Waarom een taalmodel soms vol overtuiging iets verzint.
Context: Hoe de informatie die je meegeeft het antwoord stuurt.
Bias: Hoe scheefheid in de trainingsdata doorwerkt in de antwoorden.
Veiligheid: Waar je vraag naartoe gaat en wat de aanbieder ermee mag.
Denkstappen: Waarom een model beter antwoordt als het eerst stap voor stap denkt.
Agents: Wat een taalmodel met tools zelfstandig kan, en wat nog niet.

Hackathon

Met AI bouwen wat vooraf onmogelijk leek. Programmeren hoeft niet.
Aan de slag met Claude Cowork

Voor wie niet programmeert: je eigen use case werkend krijgen.
Aan de slag met Claude Code

Voor wie programmeert: een AI-agent sturen met een bewuste setup.