386 – Hoe je in twee uur een AI kunt bouwen in Excel 🤯

Judith van Stegeren:
[0:43] In deze aflevering hoor je hoe je in twee uur tijd leert om AI-modellen te trainen, dat large language models er in 2018 pas aan toe waren om die en die dungeon master te spelen, en of Judith van Stegeren liever pizza eet met biert smaak, of bier drinkt dat naar pizza smaakt.

Randal Peelen:
[0:57] TV Gelderland 2021, Welkom bij Met Nerds om tafel. We praten vandaag met...

Jurian Ubachs:
[1:12] Iria Nieuw-Bachs.

Randal Peelen:
[1:13] En mijn naam is Randal Pedel. Onze gastnerd van vandaag is Judith van Stegere. En Judith is computerwetenschapper, ondernemer en medeoprichter van Datakami. Een bedrijf dat zich specialiseert in generatieve AI en machine learning toepassingen voor startups. Ze heeft een PhD in de computerwetenschappen van de Universiteit van Twente, waar ze zich richtte op het genereren van natuurlijke taal, vooral in de context van videogames. Uit dit alles blijkt dat ze hier ontzettend aan tafel hoort te zitten. Fijn dat je naar Amsterdam wilde komen. Judith, hartelijk welkom. Je hebt al een keer in de studio verderop gezeten. Ja, klopt. Onze grote vrienden van Jong Beleggen. Met een beetje geluk kunnen we vandaag wat meer de technische diepte in. Yes. Zou ik leuk vinden.

Judith van Stegeren:
[1:51] Ik ook.

Randal Peelen:
[1:51] We hebben Jurrianne ook meegenomen, die doet ook iets met games.

Jurian Ubachs:
[1:54] Ja, spelen.

Randal Peelen:
[1:55] Ja, dus laten we even bij jouw onderzoek beginnen, als het mag. Wat hebben natuurlijke taal genereren en videogames met elkaar te maken volgens jouw onderzoek? Of wat heb je onderzocht?

Judith van Stegeren:
[2:12] Ja, in mijn onderzoek ben ik wezen kijken of je, als je games hebt waar heel veel tekst in zit, dus dat zijn vaak roleplaying games, RPG's, of je delen van het schrijven daarvan kan automatiseren met een computer.

Randal Peelen:
[2:26] Nou, dat antwoord lijkt mij ja. Het kan sowieso.

Judith van Stegeren:
[2:29] Inderdaad. Maar moet je er even bij denken dat ik onderzoek deed in een tijd dat transformer modellen, dus ChatGPT en Friends, die bestonden nog niet.

Randal Peelen:
[2:39] Wacht even, Transformers en Friends, dat bestond al in de 90's. Dat is allemaal heel oud.

Jurian Ubachs:
[2:45] Pivot.

Randal Peelen:
[2:45] Ja, precies. Maar oké, als in ChatGPT bestond nog niet?

Judith van Stegeren:
[2:52] Ja, dus ik ben begonnen in 2018 en toen hadden we al heel veel andere manieren om teksten te genereren met een computer. Dus Markov ketens, statistische taalmodellen. Dus toen was er ook al machine learning voor het produceren van tekst. Maar toen in 2018, 2019 kwam GPT-1 uit. Toen GPT-2 en toen GPT-3 en toen GPT-4. Een paar jaar geleden past ChatGPT. En toen werd het opeens heel veel beter.

Randal Peelen:
[3:21] Ja, want ik had toen ook vrienden die al telegram botjes aan het maken waren. En daarin allerlei gekke antwoorden tevoorschijn lieten over. Ik had ook iemand in mijn vriendengroep die had een Twitter bot versie van zichzelf gemaakt. Die ken je ook nog wel, Jörg. En die deed zo nu en dan een tweetje wat gewoon angstvallig leek op wat hij zelf had kunnen zeggen. En dat is ongeveer het tijdbeeld dat ik erbij heb. Dat het gewoon nog spielerij was. Een soort van makkelijker toegankelijke methode om te doen wat je het toetsenbord op je smartphone ook al deed.

Jurian Ubachs:
[3:55] Ja, wel als je het betrekt op echt taal. Maar procedureel gegenereerde content bestaat in ieder geval in de wereld van games al best wel heel lang. Ja. Dus ja, dat was er natuurlijk al wel.

Judith van Stegeren:
[4:06] Ja, vanaf de jaren tachtig al. Dus een heel bekend voorbeeld is Elite. Dat is een of ander ruimtespel. Er zit ook een heel stuk ontdekkingsreizen en zo in. Dus je vliegt met een of ander ruimteschip door universums. En Elite moest op een heel klein formaat memory passen. Dus toen hebben de programmeurs allemaal slimmigheidjes bedacht... om al die planeten die ze in dat spel wilden stoppen... om die zo klein mogelijk op te slaan. En om die weer uit te kunnen vouwen... op het moment dat de speler bij die planeet kwam. Dus dat was eigenlijk ook al procedural generation. Stiekem is slimme compressie... of eigenlijk slimme decompressie... is ook een vorm van procedural generation.

Randal Peelen:
[4:45] Ik wil nog steeds een keer iemand uit de demo scene hier aan tafel halen, die van die ongelooflijk grote dingen in 640 kilobyte kunnen stoppen, dat je echt denkt, dit hoort niet te passen, wat ben je aan het doen? Dat heeft daar ook een beetje maak. Sorry, jij had een vraag.

Jurian Ubachs:
[4:59] Ja, nee, maar Elite is een goed voorbeeld. Ik denk in de recente verleden heb je natuurlijk No Man's Sky met procedureel gerenereerde planeten. Starfield heeft zoiets gedaan. De instances in Diablo games zijn zo. Er zijn wel meer games met instances die op die manier werken. Dus... Ik vind het wel interessant dat je zeg maar in 2018 was je hier dan mee bezig, toch? En toen was het aspect waar jij je op focuste stond eigenlijk heel erg in de kennis schoenen. Maar tegelijkertijd, zeker binnen gaming, had je al iets genererends al heel lang. Dus hoe verhouden die twee zich dan tot elkaar?

Judith van Stegeren:
[5:31] Het zijn totaal andere technieken. Dus in de game wereld was het ook een manier voor hele kleine teams om hele grote games te maken. Als je een art generator of een text generator maakt, dan kan je je team als het ware opschalen. Dan kan je veel grotere, coolere games maken. Maar ChatGPT en dat soort modellen zijn getraind op zo ongelooflijk veel data. Dat soort datasets bestonden ook nog helemaal niet in die tijd. En die waren ook niet in het type-neuraal netwerk gegooid. Dat zijn dus die transformer modellen.

Judith van Stegeren:
[6:04] Dat type-neuraal netwerk was nog niet uitgevonden. Dus dat was gewoon nog geen optie.

Randal Peelen:
[6:08] Kun je iets vertellen over die types neural netwerk? Want ik heb mezelf voorgenomen om hier vanavond verstandiger vandaan te komen dan ik naar binnen ging. En één ding wat ik nog steeds heel lastig vind om te begrijpen is inderdaad hoe die modellen werken en waarom het zulke black boxes zijn. Ik ben nog steeds als amateur programmeur gewend dat ik alles met een beetje moeite en heel veel tijd nog wel kan doorgronden. En ik weet ook dat het in dit geval niet zo is. Maar het voelt toch heel raar.

Judith van Stegeren:
[6:39] Ik ben het niet met je eens dat je het waarschijnlijk niet in een paar uur kan leren.

Randal Peelen:
[6:42] Oh, oké.

Judith van Stegeren:
[6:43] Dus ja, er is een hele goede cursus van Jeremy Howard, de Fast AI cursus. Als je als programmeur dit nou hoort en denkt, oh, ik ben eigenlijk ook wel benieuwd naar die neurale netwerken, dan zou ik dat eens opzoeken. Want dan kan je in drie uur al best wel de basics gewoon begrepen hebben en er ook zelf mee te spelen.

Jurian Ubachs:
[6:58] Heb je het gevoel dat deze link in de show notes uiteindelijk...

Randal Peelen:
[7:01] Ja, nee, dat is wel de bedoeling. En ik zie op de pagina waar ik binnenkom gelijk al afbeeldingen van konijntjes en dinosaurussen. Dus ik ben Ik ben min of meer verslaafd.

Judith van Stegeren:
[7:08] Het is super toegankelijk.

Randal Peelen:
[7:09] Ja, anders overtuigd.

Judith van Stegeren:
[7:10] Zoals het hoort.

Randal Peelen:
[7:11] Ja, leuk.

Jurian Ubachs:
[7:11] Eigenlijk als je gewoon een onderwerp hebt, maar je begint in een plaatje van een dinosaurus, heb je hem.

Randal Peelen:
[7:15] Precies. Perfect.

Judith van Stegeren:
[7:17] Nou, een Norel-netwerk klinkt heel ingewikkeld. En ziet er in de plaatjes die ervan gemaakt worden ook vaak heel ingewikkeld uit. Maar het is een stukje software waar je cijfertjes ingooit. Dan gaat de software heel erg veel vermenigvuldigingen doen. Multiplications. En dan komt er een getalletje uit. Je output. Dat is wat een noraal netwerk is. En de crux van dit alles is natuurlijk, wat voor vermenigvuldigingen doet die? En hoe weet die welke vermenigvuldigingen die moet doen? Nou, die cijfertjes, dus met welke cijfertjes vermenigvuldig je de input, dat is wat ze de weights of de parameters van een model noemen, dat is wat het model is. Dus een hele grote berg cijfertjes waarmee die de input vermenigvuldigt. En dat is het.

Randal Peelen:
[8:06] En hoe train je dat dan?

Judith van Stegeren:
[8:08] Je geeft hem heel erg veel voorbeelden van wat je zo'n raal netwerk wil leren.

Randal Peelen:
[8:13] Wacht even, hoe geef je dat dan?

Judith van Stegeren:
[8:16] Die stop je in een wiskundige functie.

Randal Peelen:
[8:18] Hoe doe je dat?

Jurian Ubachs:
[8:21] Ik ben de eerste keer dat ik zeg, ja maar waarom?

Randal Peelen:
[8:23] Ja, maar dat is super interessant. Heel goed, gewoon vijf keer waarom vragen. Want kijk, ik kan zo'n model downloaden. Bij wijze van spreken Lama versie zoveel van meta. En dat kun je met een beetje geweld en een diepe broekzak ook wel draaien op een machine. Een verstevige bak, maar die zijn te koop. En ik snap dat als ik dat download en dat start en daar data in gooi en dat zijn gang laat gaan. Dat uiteindelijk een resultaat heeft, maar ik snap niet hoe dat werkt. Dat heb ik met de meeste git projectjes die ik nou nood hoor, daar niet van. Maar in dit geval helemaal.

Judith van Stegeren:
[8:58] Je kan het zien als twee verschillende fases. Dus je hebt eerst een trainingsfase, daarin leer je het model wat hij moet doen, namelijk de taak waar je hem op traint. En dat betekent dat, stel je voor je begint met een model dat helemaal uit het getalletje nul bestaat, dan ga je hem net zo lang voorbeelden geven totdat hij de taak heeft geleerd. Dus bij elk voorbeeld dat je hem geeft, verandert hij een aantal cijfertjes in dat hele grote netwerk. en dat doe je net zo lang tot hij heeft geleerd dat hij de taken heeft gesnapt die je hem probeert duidelijk te maken met de voorbeelden dus je hebt een dataset, van voorbeelden en dat zijn voorbeelden van de inputs en de outputs en dan kan je bijvoorbeeld denken aan ik wil een nuraal netwerk trainen om auto's te herkennen in foto's dan heb je een hele berg foto's en, bij elke foto de annotatie hier staat wel een auto op of hier staat niet een auto op Dus die voer je er doorheen. Daar maak je cijfertjes van. En elke keer dat je er zo'n foto doorheen haalt... dan update die de cijfertjes. Totdat er het goede antwoord uitkomt.

Jurian Ubachs:
[10:02] Wij worden dus gewoon getraind door Captcha.

Randal Peelen:
[10:04] Ja.

Jurian Ubachs:
[10:05] Iedere keer weer opnieuw leren op welke foto bussen staan. Of zeer verbale of fietsen.

Randal Peelen:
[10:10] Captcha zijn wij gewoon aan het bewijzen dat we mens zijn...

Randal Peelen:
[10:13] door middel van het trainen van een hive mind. Jullie zijn een dataset aan het werken. Juist. En dit vind ik wel een mooie brug. Want kijk, ik... Ik wil graag doorvragen, maar ik heb het vermoeden dat ik vanavond niet ga leren hoe die blackbox van training werkt. Ik vind het wel beestachtig interessant. Alleen die data, daarvan wordt nu wel gezegd dat is het nieuwe goud. Als jij een model wil hebben dat ergens goed getraind in is, dan heb je in de eerste plaats al die data nodig. Nou, de meeste AI bedrijven die zich aanmelden bij de KVK hebben niet dag één een hele berg data. De eerste rechtszaken zijn al bezig met hoe heb je die data gekregen en van wie is die nou eigenlijk. Dus dit is eigenlijk al stap 1 waar het problematisch wordt. Maar je zegt stap 2 is dus het uitvoeren van het model.

Judith van Stegeren:
[10:58] Ja, dus we hebben net stap 1 gehad of fase 1 eigenlijk, dat is de training. Dan is het model daarna af. En dan heb je dus een model. Je hebt een hele berg cijfertjes die je kan vermenigvuldigen. En dan heb je de tweede stap. Dat wordt in jargon on inference genoemd. Dus het voorspellen of iets genereren. In het geval van generative AI. En dat betekent, je stopt er een input in. Die wordt vermenigvuldigd met al die cijfertjes die je hebt gevonden... tijdens de trainingsfase. En dan komt er een getalletje uit. En dat getalletje is de output die je zocht. En voor heel veel mensen is dit heel abstract. Want we hadden het toch over tekst en foto's. Nou, foto's en plaatjes zijn stiekem al getalletjes. want dat zijn gewoon pikselwaardes. En in het geval van tekst, dus je kan tekst veranderen in cijfertjes. Want anders kan de computer er niks mee. Dus uiteindelijk moeten er toch eentjes en nulletjes worden.

Randal Peelen:
[11:55] Ja, maar hoe ver gaat jouw begrip van zoiets? Heb jij modellen getraind waarvan je denkt, nou, ik snap wel aardig hoe die dit doet.

Judith van Stegeren:
[12:04] In de zin van, kan ik de motorkap oplichten van zo'n model en helemaal snappen wat er gebeurt? Nee, want die modellen zijn heel groot. Dus om een voorbeeld te geven, die nieuwe Lama modellen van Meta, die hebben 8 miljard parameters. Dus 8 miljard cijfertjes waarmee zo'n input vermenigvuldigd wordt. Ik heb geen idee welke van die dingen belangrijk zijn of wat al die losse 8 miljard dingen doen. maar er zijn wel allemaal statistische dingen die je kan doen met zo'n model om erachter te komen wat er precies gebeurt. Maar dat is echt al een heel ander vakgebied of een heel ander subgebiedje.

Randal Peelen:
[12:43] Maar hier zitten we al met één been in het probleem dat een mens het wellicht op een gegeven moment totaal niet meer kan begrijpen. Die stap zet je net.

Judith van Stegeren:
[12:54] Nou, ik denk dat er een verschil is tussen exact weten Weten wat er in het neurale netwerk gebeurt op signaalniveau. Want het is gebaseerd op hoe je hersenen werken. Met signalen tussen cellen in je hersenen. En high level begrijpen hoe machine learning werkt. Want als machine learning engineer werkt met modellen en met data. Dan leer je op een gegeven moment wat de zwakke plekken zijn van een bepaalde methode. Of waar een methode heel goed voor werkt. Of als je een dataset hebt, welke gevallen daar bijvoorbeeld niet in zitten. En dus je model zwakker maken.

Randal Peelen:
[13:29] Ja, want een van de bekende voorbeelden is dat zo'n model toen is getraind om pong te kunnen spelen. En op een gegeven moment wil je een heel hoog score in pong. Dus dan snapte die, oké, dat getalletje daar linksboven, de score, die wil ik zo hoog mogelijk. Nou, dan moet je eerst weten wat is hoger dan wat, weet je wel. Je moet leren tellen. Daarna moet je ook nog weten, oké, dat is dus te beïnvloeden door dat pedaaltje heen en weer te gaan bewegen. En dan moet ik ook nog eens het balletje vangen enzovoort. Ik struikel al, hoe zou ik in hemelsnaam zo'n model, het spel Pong, überhaupt laten zien? Ik kan niet mijn VGA-kabel, trouwens een D-sub-kabel, in dat model douwen.

Judith van Stegeren:
[14:09] Nou, we hebben nog een heel belangrijk ingrediënt vergeten tijdens het trainen. Je hebt iets dat heet een loss function of een fitness function. Daarmee vertel je aan de computer hoe goed die bezig is of hoe slecht. En met zo'n fitness function maak je dus een soort feedback loop. Dus de computer die probeert gewoon wat in het begin. En vervolgens geef je hem punten. Je zegt, goed gedaan, je hebt het spelletje pong gewonnen. Of boe, je hebt het verloren. En op basis daarvan gaat de wiskundige functie die je aan het uitvoeren bent, die training, gaat de computer zijn gedrag aanpassen. Oftewel, al die getalletjes in het neurale netwerk. En je kan prima jouw Pong game als input aan zo'n raal netwerk geven. Want het is gewoon een plaatje. Het is gewoon het gamescreen.

Randal Peelen:
[14:54] Maar hoe pak ik dat aan?

Judith van Stegeren:
[14:57] Je maakt een screenshot van je game en alle losse pixels samen. Dat kan al een input zijn. Want dat zijn cijfertjes. Daar kan niet wat mee.

Randal Peelen:
[15:05] Ja. Maar goed, dat is dus door iemand gemaakt. Iemand heeft al gemaakt dat dat model bestaat. En dat je er een input in kan steken. Ik kan dat niet al. Ik kan het niet aan.

Judith van Stegeren:
[15:15] Echt, ik wil deze weddenschap echt wel met je aangaan. Ik denk dat jij dit kan.

Jurian Ubachs:
[15:20] Maar als ze in de input geven? Of als ze in het systeem bouwen waarin je de input geeft?

Randal Peelen:
[15:23] Nou, snappen hoe dat gaat. Ik bedoel, als je een script schrijft. En je zegt, hernoem elk bestand. En gooi er een getal achter. Dan snap ik best wel goed hoe dat gaat. Je hebt een loopje. En die gaat de bestandname langs. En die voert wat commandotjes uit. En die zegt dan ik ben klaar. Alleen zoiets abstracts als een model. Dat een input heeft. En daar een les uit leest. Hoe bouw je dat model?

Judith van Stegeren:
[15:53] Het is heel moeilijk om uit te leggen in een podcast. Ik kan er niet even makkelijk een plaatje voor je bij tekenen. Maar ik durf te zeggen. dat kijk twee uur naar zo'n lecture van Jeremy Howard. Hij bouwt een freaking noraal netwerk in een Excel sheet.

Randal Peelen:
[16:10] Oh, dat wil ik.

Judith van Stegeren:
[16:10] Het kan in een Excel sheet. En het is alleen maar vermenigvuldigen. Dus je hoeft er ook geen hogere wiskunde voor te kennen. Het is een feedback loop met een paar wiskundige functies die zo moeilijk zijn als brugklas wiskunde. Dus mensen kunnen dit. Alleen omdat er zoveel AI hype en technobabble in de wereld is, Dus wordt het ook voor veel mensen gewoon heel moeilijk gemaakt. Als in, lijkt het heel moeilijk.

Randal Peelen:
[16:38] Ja. Nee, ik weet ook dat Excel Turing Complete is. Dus dit verbaast me helemaal niks. Het had gemoeten. Maar oké. Dus hoe bouw je dit? Je hebt een model. Hoeveel van die modellen zijn er?

Judith van Stegeren:
[16:51] Duizenden en duizenden. En als je op Huggingface gaat kijken. Wat een website is waar dit soort modellen verzameld worden. Dan komen er elke dag bij.

Randal Peelen:
[16:59] Huggingface. Ja, want het is wel een geest die uit de fles is. De hardware die je thuis hebt staan, die kan het al wel draaien. En je kunt het ook gewoon downloaden en gebruiken. Ik vind dat lastig. Want... We noemen alles gelijk AI nu.

Judith van Stegeren:
[17:21] Ja, dat is heel matig.

Randal Peelen:
[17:22] Een product zonder AI kan de markt helemaal niet op.

Jurian Ubachs:
[17:25] AI domineert alles.

Randal Peelen:
[17:26] En dat betekent dus dat die allemaal gewoon een modelletje hebben gedownload bij Hugging Face. Dat getraind hebben met iets.

Randal Peelen:
[17:33] En toen hebben we gezegd, nou die doet wel meestal wat die moet. En nu hebben we een AI product.

Judith van Stegeren:
[17:37] Ik heb echt een hele erge hot take on this. Nou, geef hem. Joaf Goldberg, wat een hele beroemde persoon in mijn vakgebied is. Die heeft ooit gezegd, reguliere expressies zijn al AI. Change my view. En ik ben het zo eens met die man. Want er zijn mega veel AI producten in de wereld. Waar helemaal geen machine learning of ingewikkelde statistiek in zit. Want dat is het meestal, ingewikkelde statistiek. Er zijn heel veel AI producten die gewoon pattern matchen. Die zoeken gewoon, staat dit en dit bepaalde woord in deze tekst. En dan als het ja is, dan heb ik een ander gedrag dan wanneer het nee is.

Jurian Ubachs:
[18:14] Dus ctrl-f in de tekst is al AI.

Judith van Stegeren:
[18:17] Of een if-then-else statement.

Randal Peelen:
[18:19] Ja, maar die grens verschuift ook steeds. Want ik heb een huis gekocht, daarin zat een slimme thermostaat. Nou, die kon je gewoon een tijdschema geven. En dan zo laat, zo laat. Toen kreeg ik een thermostaat die ook rekening houdt met de stand van de zon. En of het morgen wel of niet herfst of winter is. En ik vind al dat dat ding dom is. Want dat ding kan niet eens mijn zonnescherm uitvouwen. Dus om het koel te houden in het huis. Achterlijke thermostaat, wat mot ik ermee. Dus wat je slim noemt is schuift ook.

Judith van Stegeren:
[18:50] Heel erg subjectief. Maar het is als mensen het idee hebben dat het iets slims doet. Dan wordt het al snel AI genoemd. Zelfs als er helemaal geen machine learning in zit.

Judith van Stegeren:
[18:58] Dus het woord is ook een beetje overloadend.

Randal Peelen:
[19:01] Laten we even teruggaan naar 2018 dan. Jij doet dat onderzoek en je komt erachter. De techniek die nu bestaat. Als we hier in 2024 op terugkijken is die antiek natuurlijk. Vergeleken met waar we zijn.

Judith van Stegeren:
[19:12] Ja, maar stiekem ook al snel goed genoeg. Maar maak je vraag.

Randal Peelen:
[19:15] Ja, precies. En... Oké, dus je ging onderzoeken of je tekst gebaseerde spellen kon boeken. Ik denk gelijk aan Dungeons & Dragons of iets dergelijks.

Judith van Stegeren:
[19:25] Ja, precies. Sterker nog, ik citeer het boek over Dungeons & Dragons in mijn thesis. En dat was echt een persoonlijke overwinning. Art & Arcana. Vet.

Randal Peelen:
[19:36] Ja, maar dat is toch leuk. En dit was ook de periode dat GPT, wat nu de grote speler is, niet echt beschikbaar was, volgens mij.

Judith van Stegeren:
[19:47] Nee, dat klopt. Het was toen nog heel erg speelgoed voor academici. Dus je kon toen... GPT-2 kon je downloaden. En dat was nog klein genoeg dat dat gewoon op je computer kon runnen. Ik heb dat op het high performance cluster van de universiteit gedraaid. Want het was wel te zwaar voor mijn GPU-loze laptop. Maar het kon gewoon op elke computer draaien. En GPT-3 bestond al wel, maar dat was gated. Dus je moest dan een brief schrijven naar OpenAI. En die moest jou toegang geven. En dat deden ze eigenlijk alleen met bevriende organisaties. Het was lastig tussen te komen als een schattige PhD-student uit Nederland.

Randal Peelen:
[20:21] Maar wat maakt dat getraind? Want het is dan een getraind model. Heeft het dan ook data? Of is die data achtergelaten nadat het model getraind is? Nu is het getraind. Dat laatste. Ja, precies.

Judith van Stegeren:
[20:34] Dus je gebruikt het tijdens de trainingsfase. En daarna heb je die data niet meer nodig. Die staan dan ergens bij hun op servers of zo. Maar ja, het is eigenlijk een beschrijving. Een model is eigenlijk een beschrijving van al die data waarmee je het getraind hebt. Dus in die zin kan je er ook weer dingen uithalen uit het model. Als je het model traint op alle Harry Potter boeken, dan kan je daarna best wel stukjes uit de Harry Potter boeken weer terug uit zo'n model halen. Met de juiste prompt bijvoorbeeld.

Randal Peelen:
[21:04] En slimme vragen stellen over wat deed Harry Potter op pagina zoveel van boek 6?

Judith van Stegeren:
[21:10] Ja, als ze de paginanummers erbij hebben gegeven bij training... dan weet het model dat anders niet. Dan gaat hij gewoon wat gokken.

Randal Peelen:
[21:16] Ja, maar ik vind het dan... Dit model kan zoveel kanten op. Iedereen die nu een start-up begint met... We hadden een paar weken terug mensen aan tafel die hadden een start-up gemaakt. Waarin ze juridische teksten en jurisprudentie doorzoekbaar maken eigenlijk. En daarin is zo'n model heel goed. Want je kunt er gewoon eindeloze bakken tekst in gooien. Het wordt gewoon verwerkt. Omdat dat model zo sterk is. En omdat die Azure Cloud van Microsoft er met al zijn geweld achter hangt. En op die manier is die heel erg beschikbaar.

Judith van Stegeren:
[21:58] Wat ik denk dat hun oplossing doet, bestaat eigenlijk uit twee stappen. Dat hebben ze ook wel een beetje verteld, denk ik, een paar weken geleden. Een heel groot verschil met GPT-2 en wat we nu hebben, is dat de context size, zoals dat heet, dus hoeveel tekst kan je erin gooien gewoon als prompt. Dat is heel veel groter geworden in de afgelopen vijf jaar. En vroeger kon je gewoon een paar regels meegeven. En tegenwoordig gewoon een heel boek. Dus 100.000 tokens.

Randal Peelen:
[22:25] Als prompt?

Judith van Stegeren:
[22:26] Ja, als prompt. En dat is de crux. Want wat zij doen is zij kijken binnen rechtsspraak.nl wat de relevante passages zijn. Gegeven de vraag van de gebruiker. En alleen die relevante passages verwacht ik geven zij vervolgens aan het model. Want anders verzuipt dat model helemaal in de irrelevante informatie.

Randal Peelen:
[22:44] Ja, dat klopt. Ja, dus dat is waar het geheim van de smid zit in dat geval. Dus dat die modellen niet meer op je computer draaien... komt omdat ze exponentieel ingewikkelder worden.

Judith van Stegeren:
[22:56] Ja, vooral heel veel groter. De computer moet gewoon meer van die cijfertjes onthouden.

Randal Peelen:
[22:59] Ja, en als je... de tijd vooruit spoelt en de wet van Moorhout stond, dan komen er op een dag laptops die, wat we nu 4 noemen, gewoon wel lokaal kunnen draaien.

Judith van Stegeren:
[23:12] Dat zou echt heel cool zijn.

Randal Peelen:
[23:13] Ja, dat is een kwestie van tijd. Dus, waar staan we dan nu? En waarom kunnen alleen de allergrootste bedrijven van de wereld daarmee bezig zijn?

Judith van Stegeren:
[23:25] Ja, ik vind dat ook best wel jammer. Het is ook denk ik niet zo goed voor de wetenschap. Want alle echt hele grote Want de ontwikkelingen in mijn vakgebied. Het voelt alsof die voornamelijk door bedrijven worden gedaan. En niet door universiteiten. Dus daar ben ik wel een beetje verdrietig over. Aan de andere kant is er een hele grote open source scene. Dus dat is wel weer heel fijn. En er wordt ook nog steeds genoeg gebouwd. Ook op kleine schaal. Wat ik nu zie in het vakgebied. Is dat zeker Microsoft en OpenAI. Die zijn echt groot, groot en groot. Aan het bekijken nu met al die modellen. Maar de trainingdata begint ook een beetje op te raken. Maar tenminste de teksttrainingdata. Dus wat gebeurt er nu? Het hele internet is op. We hebben alles helemaal leeggescreept. Ja, nu maar plaatjes, video's, audio. En de volgende stap, bewegingsdata. Dus de tekstdata is misschien op. Maar alle andere modaliteiten, zoals dat heet. Alle andere soorten data. Die kunnen er nog wel nieuw in worden gestopt.

Randal Peelen:
[24:29] Maar waarom is die op? Omdat internet maar zo groot is? Want internet is echt belachelijk groot. En er zijn wel eens mensen die zeggen dat je maar 5% van internet überhaupt kunt vinden.

Judith van Stegeren:
[24:38] Ja, dat kan. Maar in ieder geval het makkelijk te screpen internet, de hoge kwaliteit bronnen, dat begint gewoon een beetje op te raken.

Randal Peelen:
[24:47] Is dat niet ook een rechte kwestie?

Judith van Stegeren:
[24:49] Ja, zou kunnen. Er zijn natuurlijk heel veel boeken die nooit zijn ingescand, maar ook daar heeft Google iets aan geprobeerd te doen.

Randal Peelen:
[24:57] En als laatste zeg je bewegingsdata. Dus mijn routeplanner wordt beter.

Judith van Stegeren:
[25:05] Ja, maar denk ook bijvoorbeeld aan mocap data. Gewoon kleine handbewegingen en dat soort dingen.

Randal Peelen:
[25:10] Dan zijn we weer terug bij de games. Ja, lekker. We kunnen eindelijk acteurs aan de bak.

Jurian Ubachs:
[25:14] Nou ja, juist niet. Op het moment dat je al die data in zo'n model hebt zitten, dan heb je die acteurs niet meer nodig. Dan kun je gewoon de natuurlijke beweging van een mens kunnen gewoon on the fly genereren. Heb je geen nieuwe mocap meer nodig.

Randal Peelen:
[25:26] Nee. Nee, nee.

Randal Peelen:
[25:28] Maar, sorry, ik heb nog steeds niet het gevoel dat we het loepje rond hebben over je onderzoek. Dus we gingen die en die spelen. En wat heb je toen ook weer onderzocht?

Judith van Stegeren:
[25:38] Nou ja, bijvoorbeeld kijken of je een dungeon master kan maken met software. Ik denk dat dat kan. Ja, dat kan zeker.

Randal Peelen:
[25:47] Maar dat kon in 2018 al.

Judith van Stegeren:
[25:49] Nou ja, 2019, toen was er iemand die AI dungeon had geprogrammeerd. Volgens mij met een hele oude OpenAI API. Die was ook meteen failliet. Want het werd zoveel gebruikt dat hij echt superveel geld kwijt was aan requests daarnaartoe. Er werden bijvoorbeeld Magic the Gathering kaarten automatisch gegenereerd. Met nieuwe monsters en powers. Ik speel zelf geen Magic. Maar nieuwe en gegenereerde flavor text. Bijvoorbeeld. Dat waren projecten die ik erg leuk vond. En ja, weet ik veel. Stel je voor, je hebt Rollercoaster Tycoon als game. Die poppetjes die daar rondlopen, die hebben wel eens gedachten. Dat zijn ook typisch dingen die je met tekstgeneratie zou kunnen doen.

Randal Peelen:
[26:34] Ja, maar jouw onderzoek was in die zin best wel verkennend.

Judith van Stegeren:
[26:38] Ja, want het was echt zo nieuw, joh. Ik was één jaar bezig en toen kwamen transformers uit. En toen kon je GPT-2 downloaden en daar zelf mee experimenteren. Maar er was nog helemaal niks over te vinden. Want alleen je mede-academici die dan ook nog eens geïnteresseerd waren in games. En dat vakgebied is echt heel erg tiny. Die waren daar mee aan het spelen. Dus dat waren denk ik nou minder dan vijftig mensen op de hele aardbol.

Randal Peelen:
[27:03] Dat wou ik net zeggen. Je voelt een beetje als het juiste moment op de juiste plek. Want je was dan nerd genoeg om dit te willen snappen. En nou ja, goed. Ik durf bijna niet hardop te zeggen waar je bij bent. Maar ik vraag me af of je in 2024 nog wegkomt met een verkennend onderzoek. Nee, absoluut niet meer.

Judith van Stegeren:
[27:19] Er zijn nu journals over mijn vakgebied. Dat is wel echt insane. Dat was vroeger niet. Vroeger als ik een paper had geschreven. Dan was dat heel multidisciplinair. En een beetje moeilijk te plaatsen. Want het was niet 100% games. Het was ook niet 100% NLP. Zoals dat toen nog heette. Natural Language Processing. Zonder buzzwords. Dus je moest dan echt een beetje zoeken. Waar zitten de mensen die dit interessant vinden? En wat ook heel belangrijk was, is dat er in mijn tijd geen data was. Het was wel een makkelijkere tijd om aan data te komen via Scrape. De Twitter API stond wijd open, de Reddit API stond nog wijd open. Dat is allemaal niet meer. Dat vind ik stiekem wel jammer.

Randal Peelen:
[28:02] Omdat data het nieuwe goud is geworden.

Judith van Stegeren:
[28:04] Wat ik toen ben gaan doen is datasets bouwen. Zodat ik die aan GPT-2 kon voeren. Want er was gewoon bijna niks wat je gewoon zo van de plank kon trekken.

Randal Peelen:
[28:13] Hoe bouw je zo'n dataset dan?

Jurian Ubachs:
[28:15] De host van M. not onze nummer vragen bijvoorbeeld.

Judith van Stegeren:
[28:19] Ik heb game engines gereverse-engineerd.

Randal Peelen:
[28:22] Game engines gereverse-engineerd?

Judith van Stegeren:
[28:25] Ja, bijvoorbeeld. Ik was natuurlijk op zoek naar games met heel veel tekst erin. Dus dan kom je bij RPG's uit. En je hebt een aantal hele goede games van Bioware. Dus Star Wars, Knights of the Old Republic, The Witcher 1. Fireware?

Jurian Ubachs:
[28:39] Ja, maar niet zoveel.

Randal Peelen:
[28:40] Mass Effect 1 was goed. 2 nog beter. Toen zijn ze gestopt met goede Mass Effects maken.

Jurian Ubachs:
[28:49] Die allerlaatste Mass Effect was wel echt dramatisch. Maar dat was denk ik na jouw onderzoek pas.

Judith van Stegeren:
[28:54] Er is een open source project dat hun core game engine heeft gereverse engineered. En dan kan je, dat heet Xorios, dat project. En dan kan je dus met de game files van de cd's van vroeger. Kan je alle assets weer inladen en dan het spel opstarten. En ik gebruikte dat open source project om alle teksten uit de games te rippen. Want normaal gesproken kom je daar niet bij. Een soort emulatie-achtige...

Randal Peelen:
[29:17] Ja. Oh, wat gaaf. Maar dan kun je dus alle tekst eruit halen.

Judith van Stegeren:
[29:21] En ook de game context waarin die tekst gebeurt.

Randal Peelen:
[29:25] Maar wacht even. Is dat nuttig? Want een heleboel van die games zitten gewoon voice actors in, toch? Het is niet allemaal alleen maar tekst.

Judith van Stegeren:
[29:33] Dat klopt.

Randal Peelen:
[29:35] Maar jij wou alleen de tekst?

Judith van Stegeren:
[29:37] Ik wou alleen de tekst, want ik weet alleen tekstonderzoek.

Randal Peelen:
[29:39] Of staat het transcript van die voice actors er ook wel ergens bij?

Judith van Stegeren:
[29:43] Ja, deels. Dus er zijn heel veel van die fan wikies en fan websites... waar sommige dingen wel op getranscribeerd staan. Maar die gaan natuurlijk niet alle... Hey, hi, greetings, hoe is het? Transcriberen, want nobody gives a crap. Maar ik wilde alles en in de juiste volgorde. En ik wilde zien wanneer dat voorkomt in het spel. Want er zijn ook allemaal van die hidden branches. En dat soort games. Als je precies de juiste persoon geromanced hebt. Dan krijg je opeens een ander einde. Nou, ik wilde gewoon alles. En toen had ik dat opeens.

Randal Peelen:
[30:15] Ik wilde alleen Tiara. Ik wilde niemand anders.

Jurian Ubachs:
[30:19] Liara.

Randal Peelen:
[30:21] Zo goed heb ik opgelet. Met de mooie blauwe flapjes. Ik was wel een fam-chef. Nee, ik was een male-chef.

Jurian Ubachs:
[30:32] Al maakt dat verder ook niet echt uit.

Randal Peelen:
[30:33] Basic.

Jurian Ubachs:
[30:33] Ja, zeker.

Randal Peelen:
[30:35] Sorry, ja. Dus dat ging je eruit halen. En wat heb je toegebouwd?

Judith van Stegeren:
[30:43] Iets waar je nieuwe teksten voor Knights of the Old Republic of The Elder Scrolls of Torchlight mee kon genereren.

Randal Peelen:
[30:52] Cool. Ja. En dat gelukt ook. Ja.

Judith van Stegeren:
[30:55] Het is nooit in het spel ingevoegd, maar nieuwe missies genereren, nieuwe boeken genereren voor The Elder Scrolls. Dat soort dingen. Dat is heel erg leuk om te doen. En het was toen dus nog echt best wel nieuw ook.

Jurian Ubachs:
[31:08] En hoe ziet dat er dan uit als je dan zo'n missie genereert voor The Elder Scrolls? Hoe bepaal jij of het succesvol was?

Judith van Stegeren:
[31:17] Er zijn een aantal manieren om dat te doen. De aller coolste manier zou natuurlijk zijn. Je gaat naar de Elder Scrolls editor. En dan maak je dat daadwerkelijk. Zodat het gespeeld kan worden.

Jurian Ubachs:
[31:29] Kan dat bij Elder Scrolls?

Judith van Stegeren:
[31:30] Ja, zeker.

Randal Peelen:
[31:31] Elder Scrolls is groot geworden met de modding community. Dat is een beetje voor mijn tijd.

Jurian Ubachs:
[31:36] Oblivion ben ik een beetje ingerold.

Randal Peelen:
[31:37] Ja, maar je hebt Skyrim. Dat wordt ook helemaal kapot.

Jurian Ubachs:
[31:39] Ja, zo waarschijnlijk. Ik heb Star Wars Skyrim gespeeld.

Randal Peelen:
[31:42] Ja, precies. Dat doet ze dan wel weer goed. die modding community omarmen. Dat is ook waar ze met de Elder Scrolls 6 nu in een spagaat zitten. Wat was die laatste Bethesda game? Was dat Starfield? Ja, precies. Daar zijn ze al stappen terug aan het nemen in de modbaarheid. En ze houden nu hun handen vast, hun hart vast voor de Elder Scrolls. Wat komt er naast dat?

Jurian Ubachs:
[32:06] Elder Scrolls 6. Dat zou ik echt heel jammer vinden. Hij heeft nog geen titel volgens mij, vanuit alleen maar Elder Scrolls 6.

Judith van Stegeren:
[32:11] Als een spel modbaar is, dan is het ook voor wetenschappers veel beter bruikbaar. Want dan kan je psychologisch onderzoek gaan doen in gameomgevingen. En dat wordt ook veel gedaan. Bijvoorbeeld je kan gave mod bouwen. Proof of concept erin voegen.

Jurian Ubachs:
[32:24] Maar goed, dus de beste manier om te kijken of wat jij hebt laten genereren als missie. Of het werkt om inderdaad in zo'n edit te gooien.

Judith van Stegeren:
[32:30] Is echt in zo'n game stoppen. Dat heb ik niet gedaan. Ik heb gewoon mensen laten raten van hier zijn een aantal verschillende teksten. Welke vind je wel of niet leuk? Welke vind je wel of niet creatief? Welke vind je wel of niet boeiend om te lezen? Enzovoort. Dus daar verzamel je dan heel veel ratings van.

Jurian Ubachs:
[32:45] Het ging dus over de backstory van die missie dan?

Judith van Stegeren:
[32:47] Ja, bijvoorbeeld.

Randal Peelen:
[32:49] Nu kan ik wel fantaseren hoe je met deze skills heel waardevol zou kunnen zijn bij Bethesda. En dat als je daar zou werken, er zijn een heleboel mensen die hebben al die boekjes zitten typen, die in die kasten staan en je wel kan lezen.

Jurian Ubachs:
[33:00] Misschien waren ze al wel reageerder.

Judith van Stegeren:
[33:02] Dat denk ik niet.

Randal Peelen:
[33:03] Vermoed van niet, nee.

Jurian Ubachs:
[33:04] Sowieso niet van de oude Elder Scrolls.

Randal Peelen:
[33:06] Ja, en kijk, sommige mensen die huren George R. R. Martin in om de lore van hun game te gaan schrijven en te verzinnen. Nou, ik denk dat...

Jurian Ubachs:
[33:16] Dat is veel makkelijker gekund.

Randal Peelen:
[33:17] Hoi, JetGPT.

Jurian Ubachs:
[33:17] You are George R.R. Martin. Please tell us how the next book will end.

Randal Peelen:
[33:21] Precies. Nou, dat gaat op een dag wel kunnen. Maar ik denk dat die oorspronkelijke creativiteit nu nog wel veel waard is. Anyhow, in Skyrim is dat ongetwijfeld zo gedaan. Maar dan snap ik dat je op het juiste moment op de juiste tijd was. Met het juiste enthousiasme en ook dat vakgebied. En je bent niet de Bethesda kant op gegaan. Dus je had wel een fascinatie voor die games... En toen?

Judith van Stegeren:
[33:47] Ja, ik wist zeker dat ik niet in de videogamesindustrie wou werken. Want het is een hele zware sector om in te werken. Je wordt weinig betaald. Je hebt vaak crunch time. De kans dat je game wordt gecanceld als je er één of twee jaar aan hebt gewerkt. Is ook best wel hoog.

Randal Peelen:
[34:01] Daar kan ik niet mee dealen.

Judith van Stegeren:
[34:03] Nee, precies. Daarnaast, publishers gaan vaak voor wat veilig is. Want als je x miljoen of x ton in een game gaat steken. Dan wil je zeker weten dat het verkoopt. en dat er een hele goed afgebakende doelgroep bij hoort.

Randal Peelen:
[34:17] En we hebben met films ook zo'n last van, toch?

Judith van Stegeren:
[34:18] Ja, en dan worden het allemaal van die 13 in een dozijn games. Maar dat betekent ook dat er weinig wordt geëxperimenteerd met toch wel hoog risicotechnologie als tekstgeneratie.

Jurian Ubachs:
[34:29] Klopt, maar die risico's zijn inderdaad ook gewoon te groot. We zien al inmiddels al bijna tientallen jaren dat er een bepaalde tussenlaag games verdwijnt. Dus vroeger, zeg 15 jaar geleden, had je de allergrootste games En dan had je daaronder een laag met, noem het double A-games, maar ook nog steeds wel groot. En dan had je daaronder de kleine games, de indie games, whatever. Die tussenlaag is compleet weg. Want dat kostte te veel geld en bracht te weinig op. Dus wat je ziet is dat de grote publishers zich echt op die allergrootste releases zijn gaan focussen. Dus een select groepje, hele grote. En daaronder, EA heeft dan een bepaald label waar mensen dan indies ondersteunen. En dat doet Microsoft ook met ID at Xbox. En er zijn nogal wat andere dingen. Maar je ziet, die kloof is best wel groot. Dus je hebt echt een aantal van die hele grote dingen. En die zouden een soort van foolproof moeten zijn. Die zouden zo groot en zo'n slamdunk moeten zijn. En dat zijn inderdaad dan de veilige keuzes. Maar dat is dan wel grappig. Want de fase waar we nu in zitten... Is dat je ziet dat die slamdunks geen slamdunks meer zijn. Er komt ook veel meer kritiek en haat op. Ja, het zou om te beginnen helpen dat ze games die af zijn uitbrengen. Dat zou een vrij fijne stap zijn. Ik ben opgegroeid met games die af waren. Dat was een mooie tijd.

Randal Peelen:
[35:45] Maar dit is iets wat jij als gameredacteur gewoon hardop zegt. Die games die ze uitbrengen. Want ik hoor dat op Reddit overal. Iedereen heeft het erover. Maar ik game niet meer.

Jurian Ubachs:
[35:54] Nee, dat merk je gewoon. Zoals nu ook weer met de FC520. Dat is dan vorige week of twee weken geleden uitgekomen. Ja, die zit vol bugs. Dat is heel irritant als je daar heel lang naar hebt uitgekeken. Maar dat is het punt niet zo. Het ding is bijvoorbeeld, Ubisoft heeft nu te maken met enorm tegengevallene verkoopcijfers van Star Wars Outlast. Star Wars Outlast is een groot game, zit heel veel productiewaarde in. Ja, en die gaat nu ook op z'n bek. Ze hebben Assassin's Creed van dit najaar uitgesteld in het komend voorjaar. Omdat ze aan het onderzoeken zijn waarom de hel hun games momenteel niet verkopen. Dus het is wel grappig.

Randal Peelen:
[36:25] Ik denk een middagje Reddit heb je de antwoorden toch? Dat is geen heel groot geheim. Nou ja, dat valt wel mee.

Jurian Ubachs:
[36:30] Want er zijn nog steeds best wel veel mensen die Assassin's Creed willen, of die Star Wars, er zijn best wel veel mensen die Star Wars leuk vinden.

Randal Peelen:
[36:34] Ja, maar die willen een game zonder bugs. Dus, zonder bugs.

Jurian Ubachs:
[36:38] Ja, maar dat is, ik denk dat het nog steeds te kort door de bocht is. Wat ik zelf denk, is dat op dit moment gewoon te veel, dat, twee dingen, één, de generatie die zo'n singleplayer game koopt, en dat het nog steeds het tofst vindt, die wordt steeds ouder, en daardoor dunner. Dank je.

Randal Peelen:
[36:57] Fijn dat je het ziet.

Jurian Ubachs:
[36:59] Ik heb ook wat grijze haren inmiddels. Ik ben ook daar onderdeel van. Maar ja, die gaan minder gamen.

Jurian Ubachs:
[37:03] En de generatie die nu inmiddels opgegroeid is al, en die ook aan het opgroeien is, is opgegroeid met free-to-play titels als Fortnite en Warzone en Minecraft. En je moet allemaal op en kijken naar dingen. Dus de concurrentie vanuit een bepaalde groep games die mensen toch altijd wel door blijven spelen. Ik ken best wel veel mensen die gewoon een Warzone groepje hebben. En die spelen heus wel eens wat anders. Maar komen toch elke keer weer terug bij hun Warzone groepje. Net vergelijkbaar met World of Warcraft eigenlijk. World of Warcraft gamers die gingen af en toe wel andere dingen doen, maar kwamen toch altijd wel weer terug bij World of Warcraft.

Randal Peelen:
[37:31] Ik heb nostalgie nog steeds.

Jurian Ubachs:
[37:32] En zo heb je nu inmiddels best wel veel titels die zo zijn. En ik denk dat dat ook gewoon wel een bommetje legt onder hele grote risicovolle games. Uitzonderingen daar gelaten. Ik denk dat ik mijn hand ervoor in het vuur durf te steken dat GTA 6 krankzinnig veel gaat verkopen. Maar dan heb je het ook wel over de absolute de top.

Randal Peelen:
[37:55] Ja, maar ook wel een spel dat 7 miljard jaar uitgesteld wordt. Mij doet het namelijk direct aan Nintendo denken. Die hebben of hadden of in ieder geval zijn de vaandeldrager van het gegeven. Een spel dat je uitstelt is uiteindelijk wel een goed spel. Maar een spel dat je te vroeg uitbrengt is voor altijd een tegenvaller. Maar zo'n Miyamoto uitbrengt.

Jurian Ubachs:
[38:17] Het is Blizzard ook hè.

Randal Peelen:
[38:18] Om het een beetje Nederlands te maken. Het is ook het Blizzard credo van het is af of het niet af is. Ik heb net die...

Jurian Ubachs:
[38:25] Ik ben trouwens echt vergeten hoe we hier op de rechts zijn gekomen.

Jurian Ubachs:
[38:28] Ik heb dit hele gesprek nu gehyjacked naar de gaming.

Randal Peelen:
[38:29] We moeten even...

Jurian Ubachs:
[38:30] Het ging over publishers.

Randal Peelen:
[38:33] Ik genereer elke week een transcript van zo'n aflevering. Die kunnen we gewoon in ChatGPT gooien. Ik heb ook een chatgpt die maakt tien titels van onze afleveringen en automatische show notes. En die wordt wel steeds beter. Dat vind ik echt lekker. Ik kijk dan naar links.

Jurian Ubachs:
[38:50] Leuk voor ChatGPT dat hij in deze show elke keer zijn naam hoort.

Randal Peelen:
[38:53] Ja, heerlijk hè? Ik heb hem gedwongen alleen maar Nederlands te accepteren. Dus als het goed is, werkt dat niet. Maar ik ben benieuwd. Ja, nee, dus ik heb die nieuwe Zelda gekocht. Ik zou stijl van mijn stoel vallen als er op Reddit een shitstorm ontstaat dat dat spel zo buggy is. Sterker nog, ik ken mensen die hebben dat ding drie dagen later al uitgespeeld. Gaan mij dan fucking spoilers geven. Shanna Vogel. How dare you.

Judith van Stegeren:
[39:23] Maar Nintendo is Japan. Nintendo is Japan.

Jurian Ubachs:
[39:26] Wacht even, heeft Shanna hem al uitgespeeld?

Randal Peelen:
[39:28] Wat denk jij? Jezus.

Judith van Stegeren:
[39:30] Dat is een engineering game hè?

Randal Peelen:
[39:32] Precies. Ja, nee die ging hard. Maar die is boos over iets uit het einde. En nu ben ik iets uit het einde.

Jurian Ubachs:
[39:42] Je wilde niet in de gamemunitie werken. Volgens mij kwam het daarop neer.

Randal Peelen:
[39:46] Eerlijk toch? Ja, oké. Je wou daar niet werken.

Judith van Stegeren:
[39:48] Ja, ik ben echt een gigantische beleggingsnerd. En toen dacht ik. Weet je wat leuk is na mijn PhD?

Randal Peelen:
[39:55] Investeren in AI startups.

Judith van Stegeren:
[39:57] Nee, bijna. Wat je moet doen.

Randal Peelen:
[39:59] Nvidia aandelen. Fantastisch. 2018. Let's go. Al je geld. Alles. Geen Bitcoins.

Judith van Stegeren:
[40:05] Bitcoin in hindsight.

Randal Peelen:
[40:06] Bitcoin. Nee. Nee, ik heb liever NVIDIA als ik eerlijk ben.

Judith van Stegeren:
[40:11] Ik beleg expres niet in AI. Want dat is te veel gecorreleerd met mijn werk. Als het goed gaat met de AI, heb ik heel veel werk.

Randal Peelen:
[40:19] Maar de reden dat inside trading verboden is of handel met voorkennis.

Jurian Ubachs:
[40:23] Is omdat het werkt.

Randal Peelen:
[40:24] Juist.

Judith van Stegeren:
[40:25] Ja, precies. Nee, ook daarom. Daarnaast is NVIDIA waarschijnlijk wel investeerder in al mijn klanten. Want NVIDIA investeert in eigenlijk alle AI startups die er zijn. Dus ook in de zin...

Jurian Ubachs:
[40:39] Waarom doet NVIDIA dat?

Judith van Stegeren:
[40:40] Ja, eigenlijk is het heel slim. Want zij creëren daarmee hun eigen klantenkring. Dus ja, het is een beetje een pyramid scheme.

Randal Peelen:
[40:49] Ja, we willen toch ook baby's zodat zij mijn pensioen kunnen betalen?

Jurian Ubachs:
[40:53] Oh ja, dat is ook gewoon een pyramid scheme.

Randal Peelen:
[40:55] Juist, dat is het leven. Ja, dat is bevolkingskrimp. Dat gaat voor het eerst helemaal mis. Maar dus, vertel eens...

Randal Peelen:
[41:03] Over je start-up dan. Want wat je nu wel doet vind ik fascinerend.

Judith van Stegeren:
[41:07] Ik heb dus één maand. Of één jaar in loondienst gewerkt. En toen kwam ChatGPT uit. Ik was toen uitgenodigd voor een hele leuke hackathon in Amsterdam. Daar kwamen iets van honderd mensen op af. Honderd vijftig mensen. En dan echt een hele goede mix tussen programmeurs, designers. Nou ja, seriële start-up junkies.

Randal Peelen:
[41:26] Was dat die Jelle Prins hackathon?

Judith van Stegeren:
[41:27] Ja.

Randal Peelen:
[41:27] Die ken je ook joh.

Jurian Ubachs:
[41:28] Ja, ik wilde de serieus net zeggen. Volgens mij kennen wij degene die dat heeft gedaan toen.

Judith van Stegeren:
[41:32] Dat was echt mega leuk. Maar juist omdat er ook zo'n gemengde groep was. Het waren niet alleen maar techies en ook niet alleen maar academici. Kon ik zien, wauw, dit leeft echt in de maatschappij nu. En mensen willen er dingen mee bouwen. En er waren alleen al, denk ik, wel drie of vier groepjes. Die een bedtime story generator voor hun kinderen aan het programmeren waren.

Randal Peelen:
[41:50] Dat laat ik Chachipati heel vaak doen. Want ik zeg, je kunt Chachipati bellen. En daar kun je een gesprek mee hebben. En in het dagelijks leven is dat natuurlijk minder efficiënt. Maar als je of in de auto zit en je wil wat weten. Of je ligt naast je kind en je zegt. verhaaltje, laat je chatje doen. Dan kan dat kind daarna ook nog commentaar opgeven en zeggen dat dingen anders waren of hoe gaat het nu verder en zo. Heerlijk, ja. Schot in de roos.

Judith van Stegeren:
[42:14] Ja, dus het feit dat het nu opeens bruikbaar is en ook die chat interface, dat voelt voor veel mensen toch wel bekend. Dus dat maakt het ook minder eng. In plaats van dat je tegen wiskundige dingen aan het praten bent. De chat interface die je al kent van alle apps op je telefoon. Dus daar zat iets. En toen heb ik mijn baan opgezegd en toen ben ik samen met een vriend van mij fulltime gaan consulten. Want ja, ik was er toch al vier jaar mee bezig.

Randal Peelen:
[42:39] Ja, jij liep voor op de kudde. Lekker. En wat doet je bedrijf?

Judith van Stegeren:
[42:44] Wij werken voor start-ups in Europa en in de VS.

Judith van Stegeren:
[42:48] Die een product hebben dat bovenop een generative AI model is gebouwd.

Randal Peelen:
[42:53] Er zijn er genoeg, ja.

Judith van Stegeren:
[42:54] Precies. En als die bedrijven gaan groeien, die hebben hun eerste klanten. En op een gegeven moment komen ze vaak tegen een plafond aan. Ofwel hun app schaalt niet. Ofwel dat model doet een deel van de tijd iets wat ze niet verwachten. Of het model gaat vaak kapot. Of er komt weer een nieuw model uit.

Randal Peelen:
[43:13] Maar klopt het dat een boel van die startups eigenlijk ook gewoon een... OpenAI API gebruiken?

Judith van Stegeren:
[43:20] Dat was in het eerste half jaar tot een jaar was dat het geval. Toen was het best wel een saai vakgebied ook. Want iedereen was alleen maar een OpenAI wraparound bouwen. Maar op een gegeven moment was het model van Facebook gelekt. Lama 1. Toen was dat open source gemaakt. En toen is dat hele open source gebied opeens ontploft. En toen was er opeens een alternatief. En dat is heel goed geweest voor het vakgebied. En toen, dat was zo'n succes dat Meta heeft gezegd, ah weet je, Lama 2, we gaan het gewoon releasen, open source, met een commercial license. Dus je mag het voor commerciële doeleinden gebruiken, tenzij je zeg maar een Facebook-scale bedrijf bent.

Randal Peelen:
[43:58] Maar dat is echt zo on-Meta's, die willen juist al het geld hamsteren.

Judith van Stegeren:
[44:03] Maar die zijn ook niet gek, die zien dat als dat vakgebied booming is en iedereen is ermee aan het werk, dan gaan de ontwikkelingen veel sneller. Dus het is ook in hun voordeel.

Randal Peelen:
[44:11] Waarom dan? Als ze die ontwikkelingen niet allemaal zelf in de hand hebben en daar ook niet zelf aan verdienen?

Judith van Stegeren:
[44:16] Omdat al die mensen die nu onbetaald open source dingen aan het hacken zijn, die dragen ook weer bij aan Meta's innovatiekracht.

Randal Peelen:
[44:25] Dus jij ziet hier een soort parallel tussen Microsoft uit de jaren negentig en het Microsoft van nu, waar een fundamenteel verschil is. Microsoft is open source gaan omarmen op een gegeven moment. En nu is het imago van Microsoft onder de nerds dat het best wel een tof bedrijf is.

Judith van Stegeren:
[44:41] Ja, ik denk dat ze het wel voornamelijk uit eigen belang doen. Want anders dan release je niet zo'n model. Maar ik denk dat er uit dat ecosysteem... dat daar zoveel te halen valt voor meta. En dat ze ook hebben gezien dat er moet een alternatief zijn... voor alleen maar die steeds grotere modellen vanuit OpenAI. Dat dat dus een hele strategische keuze van hen is geweest.

Randal Peelen:
[45:00] Ik heb er zoveel moeite mee om meta complimenten te maken. Ja, ik weet niet. Het is niet lang geleden dat ik Facebook echt het kutste bedrijf aller tijden vond.

Judith van Stegeren:
[45:14] Ja, de consumer facing producten vind ik ook heel erg matig. Maar ik ben wel heel blij met Lama 1, 2 en 3.

Randal Peelen:
[45:21] Ja, oké. Dus jij helpt ze dan met schaalproblemen.

Judith van Stegeren:
[45:26] Ja, dus op een gegeven moment dan komen ze er zelf niet meer uit. Dat zijn vaak appjes die met heel veel ductape en kunst en vliegwerk in elkaar zijn gehackt. En als er dan echt een probleem is waar ze zelf niet uitkomen. Met hun eigen machine learning engineers niet. Dan kunnen ze mijn team bellen en dan komen wij als de Ghostbusters dat probleem fixen. En dan gaan we weer weg. Dus echt heel vet, want je komt overal binnen en je kan overal problemen oplossen.

Judith van Stegeren:
[45:51] En dat vind ik super gaaf.

Randal Peelen:
[45:53] Ja, maar hoe kan het dan dat jullie ze verder helpen? Want ik snap dat als je een paar kundige programmeurs hebt voor wie dit hun vakgebied is, die dat stapje vooruit kunnen geven. Alleen wat je eigenlijk wil als start-up is iemand in dienst die dat kan. of misschien een co-founder die het kan. Ik snap, die zijn er niet genoeg.

Judith van Stegeren:
[46:12] Er zijn er heel weinig van. Er was al een groot tekort aan machine learning engineers. Maar die machine learning engineers, als die een lange carrière hebben, die hebben nog nooit met die transformer modellen gewerkt. Omdat die zo supernieuw zijn.

Randal Peelen:
[46:24] Ik heb wel mazzel, want als ik vanavond niet kan slapen, dan ga ik die video kijken en twee uur later ga ik gaan solliciteren. En de luisteraars ook. Maar hoe kan het dan dat zo'n start-up na jullie werk wel weer verder kan?

Judith van Stegeren:
[46:41] Ik zie dat veel startups een beetje hetzelfde type problemen hebben. Dus bijvoorbeeld ze hebben infrastructuur met allemaal GPU's. En er moeten allemaal modellen draaien. Dan weer op deze GPU en dan weer op die GPU. Dat soort problemen die heeft iedereen. Dus als je dat één keer hebt opgelost. Dan kan je alle andere bedrijven ook helpen met dat soort dingen.

Randal Peelen:
[47:01] Dus een boel van jouw klanten hebben wel hun eigen serverparkje.

Judith van Stegeren:
[47:05] Ja, of iedereen huurt gewoon een stukje cloud. Er zijn cloud providers die ook gespecialiseerd zijn in GPU-tijd verhuren.

Randal Peelen:
[47:13] Zou je denken dat die kunnen helpen bij het efficiënt schaalbaar maken?

Judith van Stegeren:
[47:17] Ja, misschien doen ze dat ook wel. Kijk, we zijn een heel klein bedrijf. En we willen ook onze klanten zo min mogelijk afhankelijk maken van ons. Want ja, ik zit zelf niet te wachten op opdrachten van x jaar bij een hele grote corporate. Ik wil juist bij van die explosief groeiende, echt hele interessante bedrijven werken. En dan ze verder helpen. Dus ja, ik denk dat wij daar ook met andere incentives in zitten dan de verhuurpartij.

Randal Peelen:
[47:44] Dus in zekere zin...

Judith van Stegeren:
[47:46] Ik weet het eigenlijk niet.

Randal Peelen:
[47:48] Ja, dit is best wel grappig. Want je zit in een soort booming business waar exponentiële groei plaatsvindt. En mensen eerder nerveus zijn van oké, vanaf wanneer wordt het een bubbel, zeg maar. Die angst begint al te ontstaan. Terwijl wat jij doet in de kern... klinkt als uurtje factuurtje. Dat bedoel ik niet... Het is super vet en knap. Maar je zit dus niet met je start-up in die exponentiële business.

Judith van Stegeren:
[48:16] Nee, ik zit natuurlijk veel in het venture capital ecosysteem. Mensen zijn zo verbaasd dat ik niet een product aan het bouwen ben. En niet x miljoen aan het vangen ben. Het interesseert me helemaal niet. Ik zit niet voor niets bij deze podcast. Ik ben echt een nerd.

Judith van Stegeren:
[48:32] En ik krijg voldoening van gave moeilijke problemen oplossen. Nieuwe shit ontdekken. Dingen leren. En dus heel veel bedrijven van binnen zien. Dus kom maar op met die consulting opdrachten.

Randal Peelen:
[48:43] Ja nice. Maar je kunt denk ik. Je zei net ook. Ik ben beleggingsnerd. Toen waren we aan het praten over. Waarom je dan niet in AI startups investeert. Nou vooropgesteld dat je er zelf een hebt. Investeer daar maar lekker in. Maar. Als je een beetje lekker aan het beleggen bent. Dan kun je daar ook wel ook rijk mee worden. Ja zeker.

Judith van Stegeren:
[49:05] Zeker. Dus ik ben een value investor en ik schrijf zelf ook software om mij te helpen bij beleggen.

Randal Peelen:
[49:11] Je hebt een persoonlijke Warren Buffett georganiseerd.

Judith van Stegeren:
[49:13] Ja, precies.

Randal Peelen:
[49:14] Echt? Ja.

Judith van Stegeren:
[49:15] Wat doet u dan? Ik heb knijterveel boeken gelezen over beleggen. Ik ben een techneut, dus ik kan aan data komen. Ik verzamel allerlei data over bedrijven, fundamentele data. Dus wat zijn hun jaarcijfers? En uit al die boeken heb ik verschillende strategieën geleerd. En die heb ik dus allemaal los geïmplementeerd. Dus ik laat eigenlijk elke maand over alle bedrijven die ik interessant vind. Laat ik al die strategieën gaan. En dan kijk ik wat er naar boven drijft.

Randal Peelen:
[49:44] Hoe is dit niet jouw product dat je verkoopt?

Judith van Stegeren:
[49:46] Het is iets wat ik doe op mijn vrije tijd. Ik wil dit helemaal niet verkopen. Dit is gewoon een leuk hobby project.

Randal Peelen:
[49:51] Ik wil het kopen. Ja, dat weet ik. Ik heb dit nodig.

Judith van Stegeren:
[49:53] Ik ben niet de eerste die dit zegt.

Randal Peelen:
[49:55] Ja, wel.

Judith van Stegeren:
[49:57] Biet meer. Nee, weet je wel hoe vreselijk het is om een start-up in een financiële sector te hebben. waarbij je mensen helpt met beleggen. Dat ga ik echt niet doen.

Randal Peelen:
[50:08] Het is advies. Als het mislukte, was het advies.

Jurian Ubachs:
[50:12] Maar dan zit je daar en denk je, vreselijk, pak je zo'n paar duizendjes. Vreselijk.

Randal Peelen:
[50:17] Dan tegen je tranen weer weg.

Jurian Ubachs:
[50:18] Dan pak je een flesje Moët open en wacht voor Moët. Dan is het een bocht.

Randal Peelen:
[50:23] Gatverdamme.

Jurian Ubachs:
[50:24] Oh jee.

Judith van Stegeren:
[50:26] Ik vind het fascinerend. Ik zou hier een product van kunnen maken, sure. Maar ik heb zelf geen achtergrond in finance. En ik vind het superleuk om in mijn vrije tijd iets ductapies met Python aan elkaar te maken.

Randal Peelen:
[50:37] In finance komt, door dit soort producten te gaan maken. En als je dit je kunt die afwezigheid van de achtergrond in finance ook omarmen en jezelf neerzetten als underdog en outsider die het even slimmer kan doen.

Judith van Stegeren:
[50:50] Ja, maar als je shit wil managen voor andere mensen, hun geld.

Jurian Ubachs:
[50:54] Nee, je geeft alleen advies. Je hoeft niet.

Judith van Stegeren:
[50:57] Advies geven mag ook niet. Wat?

Randal Peelen:
[50:59] Nee.

Judith van Stegeren:
[50:59] Heb je Jong Beleggen niet geluisterd?

Jurian Ubachs:
[51:01] Nee.

Judith van Stegeren:
[51:01] Die moeten bij elke aflevering zeggen deze podcast.

Randal Peelen:
[51:04] Ja, omdat Of dat zij die aansprakelijkheid niet willen.

Judith van Stegeren:
[51:07] Ja, maar die wil ik dus ook niet.

Randal Peelen:
[51:09] Oké.

Jurian Ubachs:
[51:11] Toch denk ik dat als je dat tooltje gewoon uitgeeft. En je zegt, je kan je lekker...

Judith van Stegeren:
[51:15] What you see is what you get.

Jurian Ubachs:
[51:16] Ja, dan denk ik wel dat echt heel erg veel mensen dat willen hebben.

Randal Peelen:
[51:20] Ja, tenminste althans de invalshoek.

Jurian Ubachs:
[51:22] Al is het maar als extra informatiebron. En zelfs als je er heel met een disclaimer bij zet. Ik accepteer geen enkele verantwoordelijkheid. En dit is geen advies en blablabla. Alles wat je daar... Er is vast een jurist die je er even bij kan helpen. dat je jou precies kan vertellen wat je daar neer moet zetten zodat je gewoon home free bent. Dan denk ik dat er genoeg mensen zijn die zeggen prima, ik wil best dit als extra playboek erbij hebben bovenop alle andere kennis die ik al heb.

Randal Peelen:
[51:45] Tuurlijk wel.

Judith van Stegeren:
[51:47] Jongens, gratis business idee.

Randal Peelen:
[51:49] Dank je. Mag ik je scriptjes? Even, want je bent beleggingsnerd en ik denk dat de luisteraars die wij hebben dat gemiddeld niet zijn. Ik heb mazzel, want mijn familie heeft een beleggingsclubje. Daar kan ik gratis bij aansluiten.

Judith van Stegeren:
[52:05] Oh wat vet.

Randal Peelen:
[52:06] Af en toe een beetje horen hoe dat gaat. En de laatste lezing die ik daarmee meegemaakt was. Je hebt heel veel smaken beleggen. Maar eigenlijk twee hoofdstromen zou je kunnen onderscheiden. Als groei beleggen en value beleggen. Dus waarde beleggen. De een is dat je gewoon gaat kijken van oké. Bedrijf is nu x waard. Verwacht ik dat het meer waard wordt. Om welke reden ook. Boeit niet als het maar meer waard wordt. Dat is wat bijna iedereen doet. Een value investing is echt dat je kijkt. Oké wat is het nu waard. En zou het dat waard moeten zijn? Of zou het stiekem meer waard moeten zijn? Een voorbeeld dat mij altijd is bijgebleven. Is dat dus in de coronatijd.

Randal Peelen:
[52:40] Dat was die beleggingsclub die dat namens mij doet. Die hebben dat gedaan. En die hebben me dat verhaal later verteld. In coronatijd was er een restaurantketen in China. En die had heel weinig bezoek. Want het was corona. En niemand wist, komt dat bezoek binnenkort terug. Dus dat bedrijf was op een gegeven moment minder waard. En die keken gewoon even... vanuit een helicopter view naar dat bedrijf. En die zei op een gegeven moment, wacht even, al het vastgoed bij elkaar is al meer waard dan de waarde van het bedrijf. Dus het kan niet zo zijn dat dit, ook al liquideren we het bedrijf, hou je meer geld over. Dus dat gok je er wel aan. Dat is dan zo'n verhaal waar uiteindelijk zitten de restaurants weer vol en dan ben je ook inderdaad blij met die beslissing. Maar jij bent dus ook value investing. Alleen het groeibeleggen heeft het de laatste jaren veel beter gedaan.

Judith van Stegeren:
[53:34] Klopt, maar dan komt Warren Buffett en die zegt... als een bedrijf goed kan groeien, dat is ook gewoon value. Dus het is een...

Randal Peelen:
[53:43] Dat vind ik vals spelen.

Judith van Stegeren:
[53:44] Ja, ik vind die tweedeling vals spelen.

Randal Peelen:
[53:46] Ja, fair enough. Maar heb je voorbeelden van dingen waarvan je trots bent als je ze hebt gezien? Of je een model het hebt?

Judith van Stegeren:
[53:54] Ja, en dit zit niet in een van die twee categorieën die jij noemde. Dus grappig genoeg vind ik ook mergers heel erg leuk om te volgen. Samenvoegingen van twee bedrijven. En tijdens coronatijd gingen Fiat en Peugeot mergen. En daar was iedereen heel zenuwachtig over. Want het zijn natuurlijk twee relatief grote autobedrijven. Dus iedereen was daar een beetje van. Oeh, dat gaat vast niet door.

Randal Peelen:
[54:18] Autobedrijven tegenwoordig relatief groot.

Judith van Stegeren:
[54:20] Ja, als je wil overleven. Het kost natuurlijk heel veel kapitaal. Maar ik had de merger documenten gelezen. En daar stond in, als de merger lukt, dan betaalt Fiat, ik zal maar zeggen, 10 dollar per aandeel uit aan aandeelhouders. Als een soort hoera, het is gelukt bonus.

Randal Peelen:
[54:37] Vet.

Judith van Stegeren:
[54:38] Op dat moment was Fiat minder dan 10 euro op de beurs.

Randal Peelen:
[54:41] Echt?

Jurian Ubachs:
[54:42] Ja. Ik heb nu een idee waar dit naartoe gaat.

Judith van Stegeren:
[54:46] Jazeker.

Randal Peelen:
[54:46] Love it.

Judith van Stegeren:
[54:47] Dus als je de moeite doet om die merger documenten door te lezen, dan staan daar vaak hele leuke dingen in. Maar omdat dat twintig pagina's legalese zijn. Iedereen die dat langs ziet komen, die denkt, bleh, saai. En die gaat wat anders doen met zijn leven. Maar af en toe vind je dus iets dat je denkt, hé? Dit heeft niemand gezien. Of dit klopt niet. Ik doe dus een merger en acquisition belegging per jaar. En die volg ik dan. Dus dan ga ik dan het nieuws elke paar maanden even bijlezen. En dan zie je dat het inderdaad heel lang in de vergetelheid raakt. En dan pas één maand voordat de merger klaar is. Gaat het aandeel dan pas omhoog. Dus dit zijn leuke dingen die ik veel wil ontspeuren.

Randal Peelen:
[55:29] Want als je beleggingsnerd bent. Heb je ook 17 schermen voor je neus. En allemaal mooie lijntjes.

Judith van Stegeren:
[55:33] Ja, dat moet.

Randal Peelen:
[55:33] Dat hoort erbij.

Jurian Ubachs:
[55:35] En handschoentjes.

Randal Peelen:
[55:36] Je moet geld verdienen om al die schermen te kopen.

Judith van Stegeren:
[55:40] En altijd een fles champagne naast je. Nee, ik heb gewoon twee schermen.

Randal Peelen:
[55:47] En als je bedrijven helpt om schaalbaarder

Randal Peelen:
[55:52] te worden. Reis je ook de hele wereld over of valt dat wel mee?

Judith van Stegeren:
[55:55] Nee, dat is het coole. Eigenlijk sinds de pandemie hoeft dat allemaal niks meer. Want alle bedrijven hebben ervaren dat dat... dat dat gewoon oké is, een remote team. En zeker de startups en skill-ups waar wij veel voor werken, die hebben vaak al international hiring, dus die hebben veel buitenlandse medewerkers. Die zijn in ieder geval minimaal hybride en meestal ook fully remote. Dus dat is heel gunstig voor mij en mijn compagnon, want wij runnen een bedrijf vanuit Nijmegen.

Randal Peelen:
[56:23] Super chill.

Jurian Ubachs:
[56:24] Ja, ik merk toch wel dat zeker ook juist de grotere bedrijven toch wel meer en meer weer hun workforce terug naar kantoren aan het trekken zijn. En inderdaad de wat kleinere midbedrijfjes die zijn zeker die gezien hebben hoeveel voordeel het is dat jij letterlijk een bepaalde developer met een bepaalde skillset die in Indonesië zit gewoon in je team kan toevoegen. Omdat zolang je er maar toe staat om daar te blijven. Ja, daar zijn heel wat bedrijven die dat geleerd hebben, maar toch ook heel wat die toch mee zijn.

Randal Peelen:
[56:54] Ik ben zo'n persoon die echt wel af en toe thuis wil werken en lekker op mijn zolder met de hoodie aan wil zitten hacken, maar ik heb het ook wel nodig hoor, kantoor.

Jurian Ubachs:
[57:03] Wat jij nu onderschrijft is letterlijk wat ik heb. Ik werk ongeveer de helft van de tijd op kantoor en de helft van de tijd thuis. Dankjewel.

Randal Peelen:
[57:09] We hebben nog een aantal vragen van de luisteraars. Die heeft Jurian heel mooi in documentjes gezet. Ik heb dat verzaakt. Maar hij heeft mijn rug. Ik heb jouw rug. Ik wil heel eventjes nog kijken naar de stand van de markt nu. Want er is een wapenwetloop aan de gang op allerlei fronten. Dus we hebben talent nodig. Even terug.

Judith van Stegeren:
[57:33] Je hebt het over de AI-markt.

Jurian Ubachs:
[57:34] Welke markt? Want we stappen nu vanuit financiën naar jouw markt.

Randal Peelen:
[57:38] Ja, dat is een goede. Scherp. Nou ja, de AI-markt inderdaad. De grote groeimarkt. De next frontier, zeg maar. Na social media en zoekmachines en advertising enzovoort. Je hebt mensen nodig die het kunnen bouwen, die kennis en kunde. Je hebt de data nodig. Er is ook steeds grotere wedstrijd gaande en juridisch getouwtrek over van wie is welke data. En je hebt de hardware nodig waar het allemaal op draait. Nou, die hardware daarom zijn de ASML's de belangrijkste bedrijven en Nvidia's schathemeltje duur. Maar ik zie geen enkele speler in de markt die eigenlijk op alle drie die poten van de kruk heer en meester is. Nee. Kijk, bijvoorbeeld een Google is zo'n stille gigant. Die hebben onbeperkt geld en decennia aan data. Misschien ook een van de beste modellen, daar ga ik wel van uit. Maar niet per se die hardware. weer. Eigenlijk moet Google of Microsoft gewoon Nvidia kopen. En dan zijn ze opeens monopolist. Dat gaat nooit gebeuren.

Judith van Stegeren:
[58:44] Dat mag nooit. Maar waarom moet een bedrijf alle drie de poten van die kruk hebben?

Randal Peelen:
[58:50] Om kapitalisme.

Judith van Stegeren:
[58:51] Want kapitalisme. Ik denk dat niet kan. Ik denk dat alle drie de dingen die jij noemt zijn zo verschillend. En hebben zulke andere kapitaalbehoeften en ook kennisbehoeften. Dat het echt heel moeilijk is om dat allemaal in één bedrijf te doen. Dus bijvoorbeeld hardware maken. Zeker business-to-business gespecialiseerde hardware. Dat is net zoiets als auto's maken. Je hebt miljoenen en miljoenen nodig. Alleen maar om je allereerste chipje te maken. En dat duurt dan ook nog eens meerdere jaren. Om dat allemaal klaar te krijgen. Zodat je het kan gaan verkopen in grote oplages. En dat is een hele andere tak van sport dan een softwarebusiness hebben.

Randal Peelen:
[59:30] Ja, maar kijk naar een bedrijf als Apple. In feite zouden ze alles zelf willen maken. Die hebben dan wel de App Store. Want hoe kom je anders aan Een goed gevulde telefoon met een heleboel apps Maar behalve dat Alles wat ze zelf kunnen doen Ja.

Judith van Stegeren:
[59:45] Maar daar noem je wel even een bedrijf Ik denk dat Apple een van de weinigen is Die dit wel zou kunnen Ja.

Randal Peelen:
[59:50] Maar die willen dat ook, daarom zijn ze zo groot Daarom zijn ze het rijkste bedrijf op aarde Omdat zij zoveel, weet je, die klauwen alles naar zich toe Als een stel egoïstische assholes Google doet het nadeel, Jij zegt, ik denk dat het niet kan Nou niet op AI gebied Om dit perfect te doen Waarom niet?

Judith van Stegeren:
[1:00:08] Ja, nou ja, Amazon heeft ook een heleboel hardware flops gehad. Ik bedoel, ze zullen het proberen. Maar wat is de kans dat ze Nvidia inhalen? Die is niet zo groot. Maar ik ben zelf niet zo'n hardware kender. Dus over de hardware kant kan ik ook niet zoveel zeggen.

Randal Peelen:
[1:00:28] Nee, behalve dan dat er een aantal bedrijven zijn die op chipgebied heer en meester zijn. en op die GPU's de grootste speler. Dan lijkt het mij dat je die allemaal over wil nemen.

Judith van Stegeren:
[1:00:42] Het wordt ook wel in Amerika moeilijker om als grote partij kleinere visjes op te slokken. Dus de FTC is daar wat harder tegen aan het vechten.

Randal Peelen:
[1:00:53] Maar dan nog heb je een aantal hele grote mologgen met zoveel macht.

Judith van Stegeren:
[1:00:58] Aan wie zit je nog meer te denken naast Nvidia?

Randal Peelen:
[1:01:02] Ja, weet ik eigenlijk niet.

Judith van Stegeren:
[1:01:03] Volgens mij is Nvidia de nummer 1. En alle andere partijen lopen gewoon altijd een paar jaar achter op Nvidia.

Randal Peelen:
[1:01:10] Ja, want in mijn tijd, als je een videokaart kocht, kon je kiezen tussen Nvidia en AMD.

Jurian Ubachs:
[1:01:15] Nog steeds zo.

Randal Peelen:
[1:01:16] Ja, maar AMD staat nou volgens mij niet in de boeken.

Jurian Ubachs:
[1:01:22] Ik heb de val van de aardappel benchmarks bekeken waar AMD woont van de Nvidia GeForce.

Randal Peelen:
[1:01:26] En waarom kunnen die dan niet net zo goed AI?

Jurian Ubachs:
[1:01:30] Daar heb ik geen antwoord op. Dit ging gewoon over framerates en een game.

Randal Peelen:
[1:01:33] Maar Judith, weet jij dat?

Judith van Stegeren:
[1:01:34] Ik heb hier ook geen antwoord op. Dit vind ik wel een goede vraag voor Jorik. Mijn co-founder zit wat meer aan de infrastructuurkant.

Randal Peelen:
[1:01:40] Want ik vind het wel vet dat GPU's hier goed in zijn. En ook in Bitcoin minen. Omdat ze zoveel parallele taakjes tegelijk kunnen. En ik snap nog steeds niet waarom dat helpt.

Judith van Stegeren:
[1:01:51] Ik weet dat Nvidia ook heel veel software ontwikkelt. Om allerlei dingen te optimaliseren op hun chips. En volgens mij is het feit dat zij die software maken. maken, is dat ook een van hun grote concurrentievoordelen.

Randal Peelen:
[1:02:03] Maar goed, je ziet het ook in de GDO-politieken. Nederland kan maar niet ophouden over ASML. En als we geen arbeidsmigranten meer willen met het hele volk, maar dat bedrijf wil het wel, dan gaat het alsnog gebeuren. En er is ook een reden dat we Taiwan in de gaten houden, natuurlijk. Maar, het is wel zo dat er een beperkt aantal spelers is waar we echt op moeten letten. Of denk je dat Dat een van die tientallen klanten, honderden klanten, weet ik niet, duizenden klanten die jij de komende jaren bedient. Die worden dan groot in een vakgebied of in een branche.

Judith van Stegeren:
[1:02:40] In een van die drie poten. Ik denk niet dat Nvidia ooit echt apps gaat maken. Hoogstens hele goede driver software. Maar die gaan niet andere lagen van de AI stack aanvallen.

Randal Peelen:
[1:02:53] Maar gewoon de infrastructuur.

Judith van Stegeren:
[1:02:54] En ik denk ook niet dat, ja, misschien OpenAI hun eigen hardware maken. Dat zie ik eigenlijk ook niet zo snel gebeuren.

Randal Peelen:
[1:03:00] Maar ik zie wel dat ze het zouden willen.

Judith van Stegeren:
[1:03:03] Maar ja, wie wilde niet een stukje van die gouden taart?

Randal Peelen:
[1:03:07] Ja, daarom. Je kijkt er als belegger naar, denk ik.

Judith van Stegeren:
[1:03:11] Nou ja, ik probeer bedrijven te vinden die mooie dingen hebben. Zonder dat je daar heel veel geld voor moet betalen. En dan zeker nu we in die gigantische AI hype golf zitten. Zijn al die bedrijven gewoon veel te overpriced voor mijn strategieën.

Randal Peelen:
[1:03:29] Ik vind het wel mooi dat u dat net zo zei. Dacht ik, oh een Nederlandse belegger. Jurri-Jan, wat zijn de leukste vragen die we hebben?

Jurian Ubachs:
[1:03:34] Nou, die kom ik nog zo op terug. Maar het antwoord op die vraag over NVIDIA en AMD is dat NVIDIA heel vroeg ingesprek... Ik heb net een beetje zitten lezen. Die zijn gewoon heel vroeg ingesprongen op de ontwikkelingen op dat gebied. Waardoor de libraries die met hun hardware werken uiteindelijk de facto de standaard zijn geworden.

Randal Peelen:
[1:03:50] Ja, dus het is inderdaad ook een groot component software. Ja, CUDA.

Jurian Ubachs:
[1:03:53] Dat is het ding inderdaad.

Judith van Stegeren:
[1:03:54] De speciale driver software voor NVIDIA.

Jurian Ubachs:
[1:03:56] En volgens mij nu pas beginnen er een beetje soort van standaarden te komen. Die dan met AMD hardware werken.

Randal Peelen:
[1:04:01] Dus het is niet per se de hardware, maar ook gewoon een groot deel software.

Jurian Ubachs:
[1:04:05] Ze zijn er heel veel in gesprongen. En ze hebben op een gegeven moment, ik weet niet of dat nog loopt. Maar ze hebben op een gegeven moment, je kon letterlijk als je AI onderzoek deed. Wat jij al een beetje zei, dat ze overal aan investeren. Je kon online een formuliertje invullen. Een paar maanden wachten en dan kreeg je gewoon een videokaart toegestuurd. Zolang je die maar ging gebruiken bij je AI-onderzoek. Waarmee zij dus een soort van ensurede dat alles wat maar een beetje met de AI... Dus elke standaard die er ontwikkeld werd, wat er ook maar ging doorbreken... Alles en iedereen werkte met NVIDIA.

Randal Peelen:
[1:04:33] Trouwens, ik zit ook uit mijn nekteswets. Want ik heb hier de aandelenkoers van NVIDIA. Die is sinds 1999 met het blote oog vlak. En dan nu echt recent, boem! Hockeystick omhoog. Maar dat geldt net zo goed ook voor AMD.

Jurian Ubachs:
[1:04:50] Jawel.

Randal Peelen:
[1:04:50] Die zijn ook keihard.

Jurian Ubachs:
[1:04:51] Wel ietsje minder heftig dan Nvidia.

Randal Peelen:
[1:04:54] Nee, maar ik zat net tijdens jouw verhaal te denken. Oh, wacht eens even. Als ik nu even wat aandelen AMD op de kop tik. En die gaan dan straks met hun software ook hoge ogen gooien. Maar volgens mij hebben we genoeg beleggers dit idee al opgevat.

Judith van Stegeren:
[1:05:07] Uda is ook wel heel erg sticky. Dus een heel groot deel van mijn werk is zorgen dat generative AI modellen überhaupt kunnen runnen. Op whatever hardware mijn klant heeft. En vechten met CUDA. En zorgen dat alles wat je daar bovenop wil installeren. Dat dat ook werkt. Dat is best wel al een belangrijk deel van elkaar.

Randal Peelen:
[1:05:24] En als je daar super goed in bent. En een paar jaar later komt een ander bedrijf. Die zegt onze GPU is bijna net zo goed. Dan denk je ook ja.

Judith van Stegeren:
[1:05:30] Dan ga je niet al je modellen omschrijven. Naar die AMD driver.

Randal Peelen:
[1:05:34] Nee dat vat ik heel goed.

Jurian Ubachs:
[1:05:35] Dit was een beetje heel erg noten erop samenvat. Ik lees al een of andere Reddit thread. Enorm discussie over de hele. Want inderdaad meer mensen vragen dit af. Waarom is het verschil zo groot. Een aantal van de puzzelstukjes heb ik net genoemd. Er zullen vast nog meer redenen zijn. Ik hoorde last net al van, nee, het is niet daar begonnen. Het gaat nog veel verder terug. Vast wel. Als iemand zin heeft om in deze rabbit hole te duiken, doe het vooral. Hij is vast diep.

Judith van Stegeren:
[1:05:59] Ik ken nog wel twee jongens die jullie kunnen uitnodigen. Die hier makkelijk anderhalf uur over chipnummers en hardwareontwikkelingen met jullie kunnen praten.

Randal Peelen:
[1:06:07] Ja, en even NVIDIA is ook wel een... Tussen de 10 en 12 keer zoveel waard als aandelen. Dat is nog steeds niet echt gênant. Ik bedoel, als je zegt... Mijn bedrijf is maar 278 miljard waard. Och, dat is echt heel weinig.

Judith van Stegeren:
[1:06:22] Huilen met dollarbiljetten.

Randal Peelen:
[1:06:24] Oké. Hebben we vragen hier?

Jurian Ubachs:
[1:06:27] Nou, we hebben wel vragen. Maar wil je die nu of wil je die in de bonus? Want we zitten al een tijdje door. Oh. Ja, we zijn al meer dan nu bezig.

Randal Peelen:
[1:06:34] Nou ja, zeg. Er is toch vast wel een leuke vraag die de mensen nog eventjes... Dan kunnen we de bonus even door. Nee, jij hebt ze in zitten typen.

Jurian Ubachs:
[1:06:41] Ik heb ze niet in zitten typen. Andere mensen hebben dat gedaan.

Randal Peelen:
[1:06:43] Zitten copy-pasten en toen zag jij welke de upvotes konden oogsten.

Jurian Ubachs:
[1:06:47] Oké, dan doe ik er nog wel eentje. Maar hij is wel lang. Dus beer met mij. Annelies Verhelst, die vraagt Helpt AI al om financiële informatie toegankelijk te maken voor meer mensen? Het zijn vaak complexe producten die met moeilijke woorden worden aangeprezen, maar daarmee voor het gros van de Nederlanders niet makkelijk beschikbaar. En helpt het mensen ook om en helpt het ook om mensen slimmer om te laten gaan met geld? Of gaat het dat binnenkort doen? Ik denk dat mijn belangrijkste vraag is... hoe ethisch is AI voor gebruik in fintech? Er zijn een heleboel vragen achter elkaar.

Judith van Stegeren:
[1:07:21] Ik vind het een hele leuke vraag. Ik snap ook waar die vandaan komt. Want ik heb natuurlijk ook een tijdje bij een fintech startup gewerkt.

Randal Peelen:
[1:07:27] Natuurlijk.

Judith van Stegeren:
[1:07:28] Het belangrijkste is denk ik om hier onderscheid te maken... tussen aan de ene kant die generative AI... dus dat maken van nieuwe teksten en plaatjes en dat soort dingen... En meer predictive AI, wat niet per se iets maakt, maar probeert te voorspellen bijvoorbeeld hoeveel geld iemand gaat verdienen of verliezen of wat risico's zijn. En als het gaat om generative AI, je zou een hele moeilijke financiële tekst inderdaad in ChatGPT kunnen gooien en kunnen vragen. Hé, kan je dit voor mij uitleggen? Explain like I'm five. Kan je dit voor mij makkelijker maken? Zo kan je het inderdaad gebruiken. Maar ik denk wat veel belangrijker is, is dat mensen informatie over personal finance halen van organisaties die hen niets proberen te verkopen. Want dat is het grootste probleem. Als je op het internet gaat zoeken naar informatie over beleggen of ingewikkelde producten, dan kom je altijd uit op de website van een bank of een aanbieder. En die proberen je gewoon iets aan te smeren. Zelfs de bloggers met de affiliate links. Dus mensen moeten vooral goed opletten waar ze de informatie vandaan halen.

Randal Peelen:
[1:08:34] Ja, maar toch is analyse dan wel iets op het spoor. Dat als je zegt, nou, het probleem met advies geven is belangen eigenlijk. Dat er altijd belangen zijn en objectiviteit niet. Terwijl de belofte of de mogelijkheid voor AI om werkelijk objectief te zijn, is er natuurlijk wel. Tegelijkertijd hebben Jurijan en ik natuurlijk ook de afgelopen tijd wel ervaren dat als je Amsterdam in wil, en er is een bepaalde weg afgezet en iedereen wil tegelijk de andere omweg, krijg je alsnog een opstopping. Dus als er een AI komt met het perfecte advies, is dat advies daarna niet meer perfect. Want te veel mensen hebben dat advies. Je wil eigenlijk de enige zijn met dat advies.

Judith van Stegeren:
[1:09:14] Nu heb je het over beleggingsadvies zeker.

Randal Peelen:
[1:09:16] Ja, ik zie niet wat daar haak staat op fintech. Want dit is complexe producten. En dat begrijpen. Complexe financiële producten hebben meestal als doel om meer geld te gaan vergaren.

Judith van Stegeren:
[1:09:31] The bank always wins. Dat is een goed uitgangspunt. Als het een complex product is, gewoon niet aan het begin. Nee.

Randal Peelen:
[1:09:38] Ja, hoewel pensioenen volgens mij ook wel.

Jurian Ubachs:
[1:09:40] Ah ja, dat staat natuurlijk ook in. En helpt het ook om mensen slimmer om te laten gaan met geld? Kijk, ik denk op zich, je bank heeft dit, dat noemt het geen AI, maar je kunt natuurlijk al op meerdere manieren inzicht krijgen hoe jij je geld uitgeeft. Maar bijvoorbeeld een AI, een model of wat dan ook, mee laten kijken naar al je uitgaven en daar slimme dingen over zeggen.

Randal Peelen:
[1:10:00] Ja, maar ik ben daar... Wel licht heb ik het fout, maar mijn gevoel hierbij is altijd wel van, Als je niet zoveel geld hebt. Dan ga je ook niet zoveel kunnen beleggen. Als je heel veel geld hebt.

Jurian Ubachs:
[1:10:10] Ik heb het niet over beleggen. Ik heb het over je uitgaaf. Over je huishoudboekje. Over wat komt er binnen. Wat gaat er uit. Waar zit misschien winst. Waar kun je aan denken. Maar dat is misschien niet AI. Dat is gewoon Excel. Ik heb geleerd dat Excel ook al AI is.

Randal Peelen:
[1:10:29] Oké laat ik het anders zeggen. Ik denk niet dat mensen die. Op een. een budget moeten leven, hun grootste probleem is een extra cappuccino bij de Starbucks, zeg maar. Het gaat er veel meer om dat als je onvoldoende geld hebt om bepaalde keuzes mee te kunnen maken. Ik zou een warmtepomp kunnen kopen en die verdien ik in vijf jaar terug. En daarna hou ik meer geld over in de maand. Maar ja, moet je wel eerst een warmtepomp kunnen betalen. Zo zit ik meer in de vraag, zeg maar. Ja. Ik hoop dat we Annelies een beetje recht hebben gedaan.

Judith van Stegeren:
[1:11:05] Ik hoop het ook.

Randal Peelen:
[1:11:06] Zal ik hem dan naar de bonus sturen, Jur?

Jurian Ubachs:
[1:11:08] Stuur jij hem eens even lekker naar de bonus.

Randal Peelen:
[1:11:10] Tot zover deze aflevering van Met Nerds Om Tavel. En Met Nerds Om Tavel is een podcast door Jurriën Ubers en mij, Randal Peelen. We zaten er weer met z'n tweeën. Onze panelleden zaten er niet, maar het zijn Esther Krabbenam, Ruurd Sanders en Sander Bijleveld. En onze gastneurd van vandaag was Judith van Stegeren. Dank dat je mee kwam praten.

Judith van Stegeren:
[1:11:25] Leuk.

Randal Peelen:
[1:11:25] Ik hoop dat je nog heel even wil blijven zitten zo. Waar kunnen mensen meer over jou te weten komen?

Judith van Stegeren:
[1:11:30] Op www.datakami.nl Als ze leuke, interessante, moeilijke, finicky problemen voor ons hebben. Om op te lossen met generative AI. En anders op www.judithvanstegerend.com Waar je ook de link naar mijn Mastodon account vindt. Waar ik de meeste interessante dingen wel post.

Randal Peelen:
[1:11:47] Echt? Mastodon? Oh, jij bent er zo een.

Judith van Stegeren:
[1:11:49] Jazeker.

Randal Peelen:
[1:11:50] Meer informatie over ons staat op onze website. Dat is mnot.nl Met nerds om tafel.nl werkt ook. Join onze slag, daar gingen 2400 charmante kapabelen een heel gezellige nerdje voor. en die kunnen vragen stellen aan de volgende gasten in het kanaal. Vraag van de luisteraar. Als je nou vriend van de show wordt, dan hoor je bij de crème de la crème van de luisteraars en dan geven ze ons elke maand drie euro of wat minder euro, maar dan moet je in één klap voor een jaar betalen. Dan kun je in het Clubhuis, dat is een geheim chatkanaal. Je komt op vier meetups per jaar. De volgende meetup wordt legendarisch.

Jurian Ubachs:
[1:12:18] Zeker legendarisch.

Randal Peelen:
[1:12:19] Zet z'n vier vultjes door je briefbusje. Luister, het is zonder reclame eerder dan de rest. Elke week een bonus aflevering. En Jurian, hoe legendarisch?

Jurian Ubachs:
[1:12:25] Echt heel legendarisch. Onze Clubhuisers weten al waar het gaat zijn. Ik vind het nog net even te vroeg om dat al in het plein in het publiek te gooien.

Randal Peelen:
[1:12:30] Nee, maar daar kun je makkelijk achterkomen door vriend van de show te worden.

Jurian Ubachs:
[1:12:34] Kijk, uiteindelijk komt natuurlijk het moment dat we het gaan vertellen, want dan gaan we mensen heel erg lekker maken. Maar dan zit het waarschijnlijk al vol, want dan zeg ik gewoon van ja, als je nou al clubhuizen was geweest, had je meegediend.

Randal Peelen:
[1:12:41] Had je dit kunnen doen.

Jurian Ubachs:
[1:12:42] Maar nu kan het niet meer. Maar nu kan het nog wel. Als je nu nog clubhuizen wordt.

Randal Peelen:
[1:12:45] Het hart zou steken als je daar niet bij was. Ik heb trouwens ook al bedacht waar wellicht de eerste kwartaal meetup zou kunnen zijn.

Jurian Ubachs:
[1:12:53] Is het in Gelderland?

Randal Peelen:
[1:12:55] Nee Die hebben we ook nog gekraan We moeten nog.

Jurian Ubachs:
[1:12:59] Een keer naar Dave.

Randal Peelen:
[1:13:01] Ja dat wordt Q2 dan Oké Voor nu hartelijk dank voor het luisteren en tot de volgende keer.