Omslag van 486 – De perfecte cybermisdaad bestaat niet

// podcast_episode

Aflevering 486

486 – De perfecte cybermisdaad bestaat niet

De perfecte cybermisdaad bestaat niet. Eén vergeten e-mailadres, zoekopdracht of chatbericht kan genoeg zijn om de hele zaak open te breken.

Cybercriminelen vertrouwen op encryptie, anonieme accounts en bulletproof hosting, maar laten ondertussen overal data achter. Universitair docent strafrecht Jan-Jaap Oerlemans en politie-expert Barend Frans leggen uit hoe opsporing en recht elkaar in de digitale praktijk raken. We volgen de miljoenen berichten uit Ennetcom, EncroChat en Sky ECC, kijken wanneer een platform als Telegram zelf medeplichtig kan worden en horen waarom een computer bij een inval soms onder stroom mee moet. Ook komt de eerste Nederlandse veroordeling voor oplichting met deepfaketechnologie langs: 47 frauduleus geopende ABN AMRO-rekeningen, plus ChatGPT-gesprekken over het omzeilen van identiteitscontrole. En dan blijft de lastigste vraag over: hoeveel privacy mag de politie verzamelen om één verdachte te vinden?

Hoofdstukken

De tijden zijn gerekend vanaf het begin van de aflevering.

  1. Intro: hoe recht en politie naar cybercrime kijken
  2. Wanneer wordt Telegram medeplichtig?
  3. Mag de politie open Telegramgroepen volgen?
  4. Clouddata, netwerkzoekingen en computers onder stroom
  5. Van Ennetcom tot Sky ECC: miljoenen berichten als bewijs
  6. CyberBunker en bulletproof hosting
  7. Deepfakes omzeilen de identiteitscontrole van banken
  8. Wanneer je zoekgeschiedenis tegen je getuigt
  9. Luistervraag van Brian: worden gekraakte chats nog gebruikt?
  10. Wie is aansprakelijk als een AI-agent hackt?

Over Jan-Jaap Oerlemans

Jan-Jaap Oerlemans is universitair docent strafrecht bij het Instituut voor Strafrecht & Criminologie van de Universiteit Leiden. Hij promoveerde op digitale opsporing, werkte van 2017 tot 2023 als toezichthouder bij de CTIVD en onderzoekt hoe nieuwe vormen van cybercriminaliteit en opsporingsbevoegdheden binnen de rechtsstaat passen.

Over Barend Frans

Barend Frans werkt sinds 1987 bij de politie en richt zich op de samenwerking tussen politie, publieke organisaties en bedrijven bij de bestrijding van cybercrime. Op Internetsporen.nl legt hij slachtoffers uit hoe ze vluchtige digitale sporen veiligstellen.

Genoemd in deze aflevering

Tips van de tafel

Jan-Jaap Oerlemans: Neem als communicatiedienst misbruikmeldingen, klantcontrole en witwasrisico’s serieus; bewust wegkijken kan bewijs van criminele intentie worden.

Barend Frans: Stel bij digitaal onderzoek eerst vluchtig geheugen veilig en houd een computer zo nodig onder stroom; sleutels en sessies kunnen bij uitschakelen verdwijnen.

Randal Peelen: Kijk niet alleen naar het logo van een chatapp, maar ook waar je geschiedenis en reservekopieën staan en welke apparaten erbij kunnen.

Transcript

Lees het volledige transcript (14.851 woorden)
Randal Peelen:
[0:00] In deze aflevering hoor je alles over de praktische en juridische kant van cybercrime, waarom de oprichter van Telegram in Frankrijk gearresteerd is en op wat voor domme manieren cybercriminelen soms tegen de lamp lopen.

Randal Peelen:
[0:25] Welkom bij Met Nerds om tafel. Praat vandaag met...

Jurian Ubachs:
[0:27] Jurian Ubachs.

Randal Peelen:
[0:28] Mijn naam is Randal Peelen, onze gastnerds van vandaag zijn Jan-Jaap Oerlemans. En hij is jurist op het snijvlak van cybercrime, technologie en digitale opsporing. En naast hem zit Barend Frans, een bekende van de show Het Gezicht van de publiek-private samenwerking van de politie. Barend, welkom terug.

Barend Frans:
[0:44] Dank je.

Randal Peelen:
[0:45] Vorige keer dat ik je sprak waren we bij jou te gast.

Barend Frans:
[0:47] Ja, klopt.

Randal Peelen:
[0:48] Nu zit je bij ons. Dus ik vind dat een mooie harmonie.

Barend Frans:
[0:51] Ja, het is de tweede keer hier.

Randal Peelen:
[0:53] Eén van mijn favoriete politiemensen.

Barend Frans:
[0:55] Dank je.

Randal Peelen:
[0:57] En Jan Jaap Jij werd aangeraden bij ons Door een luisteraar Jessica En ik was even aan het kijken Dat ziet er inderdaad wel interessant uit Maar toen jij aan mij vroeg Waar wil je het eigenlijk over hebben En ik, Probeerde te antwoorden, Zijn je eigenlijk al in diezelfde adem? Want ik heb zelf ook wat onderwerpen voorbereid.

Jan-Jaap Oerlemans:
[1:19] Ja, dat klopt.

Randal Peelen:
[1:21] Voor jou ligt een aantal A4'tjes. Maar misschien is het handig eerst even uitleggen. Want je bent jurist, maar je geeft ook les. Hoe ziet jouw leven eruit? Hoe stel jij je voor op verjaardagsfeestjes?

Jan-Jaap Oerlemans:
[1:33] Ja, nou sinds twee jaar ben ik universitaire docent strafrecht bij de Universiteit Leiden. En ik geef heel veel les eigenlijk aan niet-juristen. Dus er is een bachelor cybercrime, cybersecurity. En dat is een beetje criminologie, een beetje recht, een beetje IT, een beetje bestuurskunde. En dan geef ik de strafrechtelijke vakken. En dan leg ik uit wat is recht nou eigenlijk. Maar vooral met betrekking tot cybercriminaliteit. Hoe is het schrappbaar gesteld? En qua opsporing wat voor bevoegdheden mogen ingezet worden. En ik doe heel veel onderzoek. Dus ik kijk voldoende die bevoegdheden aan mensenrechtelijke kaders. Ik kijk naar juridictie. Dat soort dingen. Maar ik hou me al lang bezig met cybercriminaliteit. Ik publiceer sinds 2011 de eerste artikel over de hekbevoegdheid bijvoorbeeld. Toen werd hij ingezet, maar was er nog geen regeling. Later kwam er wel een regeling. En als jurist heb je altijd kritiek erop of kunnen dingen beter. Maar ik vind het hartstikke zo'n mooi onderwerp. Laat me niet los.

Randal Peelen:
[2:31] Ik ben bij juridische zaken altijd zo iemand die zo'n podcast wel leuk vindt om te horen. Maar daarna wil ik ook weer zo snel mogelijk met een grote boog om me heen lopen. En ik ken denk ik een handvol mensen wiens ogen oprecht gaan glunderen en mensen die zitten te luisteren kunnen het niet zien, maar ik zie jou oplichten bij dit onderwerp.

Jurian Ubachs:
[2:48] Ja, ik ben er ook zo in hoor. Ik vreet true crime echt alsof het chocoladekoekjes zijn, echt waar. Het heeft gewoon, mensen kijken toch ook piratendingen en cowboydingen en dat is ook allemaal niet zuiveren koffie. Maar ja, dat zit toch een bepaalde zweem van mystiek en ja, deze heren, hun werk is het dan helaas om die mystiek er vanaf te trekken.

Randal Peelen:
[3:08] Jaap is ook zo'n jurist die de theorie daarachter ook fantastisch vindt. Terwijl ik snap gewoon boeven vangen. En het juridische, dat kan soms heel droog en saai worden, vind ik.

Jan-Jaap Oerlemans:
[3:20] Maar ik ben wel een jurist die ook graag de praktijk onderzoekt. Dus ik werk bijvoorbeeld veel met criminologen samen. En dan wil ik bijvoorbeeld kijken van, hoe zit nu de praktijk eruit? Dus ik had laatst bijvoorbeeld op Telegram in hoeverre worden diefakes van minderjarigen aangeboden. Want dat is strafbaar. En dan gaan we dat onderzoek doen op Telegram. Dan heb je een beeld. Dan kijk ik weer naar de juridische aspecten. Is dit strafbaar gesteld? Kan dat beter? Hoe is er in andere landen strafbaar gesteld? Hoe moet je opsporen? Dus ik vind het altijd wel leuk om praktijken bij te pakken. En ik geniet ook wel, net ben ik een beetje gezegd, ik geniet van die feiten ook wel. Van die delicten, hoe is dat dan gegaan? En daarnaast vind ik ook juist hoe de politie werkt. Dus de modus operandi, hoe zij opsporen, hoe zij boeven vangen, vind ik ook heel leuk en spannend. En daar hou ik me mee bezig. Ik heb in het verleden ook zeven jaar gewerkt bij een toezichthouder. Op de AIVD en de MIVD. Dan gaat het ook over een soort digitale opsporing. Maar zij doen aan inlichtingen verzamelen natuurlijk. Met andere zaken. Maar daar leer je en dan zie je ook van hoe werkt dat nou. En dat geeft weer inzicht en inspiratie ook voor mijn onderzoek nu.

Randal Peelen:
[4:26] De vorige keer dat we over dat soort toezicht hadden. Toen was Bert Hubert bezig met zijn roadshow. Omdat hij eigenlijk een soort klokluider was. Dat het toen gericht niet de goede kant op ging. Maar dat is niet het verhaal voor vandaag. Maar dat deed ik me aan het denken.

Randal Peelen:
[4:39] Maar vertel eens. Wat heb je allemaal voor ons meegenomen? Want je hebt een recent onderwerp. Waar je over hebt gepubliceerd. Waar je heel graag over wilt praten.

Jan-Jaap Oerlemans:
[4:47] Klopt. Er zijn twee grote onderzoeken. Eén gaat over. In hoeverre zijn al aanbieders voor communicatiediensten. In hoeverre kunnen die schrapbaar zijn. Dus eigenlijk. Stel je biedt een hostingdienst aan. en je hebt heel veel gebruikers die jouw hostingdiensten gebruiken voor het plegen van delicten, voor criminele doeleinden. En je weet dat en je adverteert op criminele fora en je registreert die gebruikers niet en je doet geen know-your-customer-beleid en je accepteert cryptovaluta en je monitort daar niet op. Dan kan het zijn dat je zelf ook medeplichtig wordt voor de delicten die jouw gebruikers plegen, jouw klanten plegen. Dat vind ik gewoon fascinerend en heel erg interessant. Dus dan heb ik met een collega daar onderzoek naar gedaan. En dan komt er uiteindelijk na een jaar ongeveer een artikel uit. En dan vind ik het leuk om dat te delen met anderen.

Randal Peelen:
[5:38] Want je doet onderzoek. Hoe gaat dit in zijn werk? Dit zal niet over WhatsApp gaan.

Jan-Jaap Oerlemans:
[5:43] De aanleiding was op een gegeven moment door Pavel Durov gearresteerd. Pavel Durov werd gearresteerd door de autoriteit in Frankrijk. En die werd vervolgd volgens de Fransen ook voor medeplichtigheid. Voor bijvoorbeeld de delen van afbeeldingen van seksueel materiaal van minderjarigen. Dus de Franse politie zei van Pavel Durov, jij bent de baas van Telegram. Maar jij bent medeplichtig aan die delicten die jouw klanten plegen. Ja, en dat vind ik fascinerend. Ik dacht, ja, hoe kan het nou? Die man die staat bovenaan dat bedrijf. Weet helemaal niet dat soort... In ieder geval niet specifiek van die delicten die daar dan worden gepleegd. Maar ja, ik moet de zaak nog zien. Misschien komen de Fransen wel met bewijs. Het kan ook gaan over witwassen. Deelname aan een criminele organisatie. Dat soort dingen. En dat gaf wel de aanleiding om daar verder in te gaan duiken. Zijn er voorbeelden van andere communicatiediensten die wel succesvol zijn vervolgd? Of juist niet succesvol.

Randal Peelen:
[6:40] Ik ga om met mensen die ethiek en moraliteit heel hoog hebben zitten. Tot irritante aan toe, want soms wil je ook gewoon door met je leven. Maar ik kan me nog herinneren dat een paar jaar geleden moesten we met z'n allen opeens weg bij Telegram. Want daar kwam inderdaad wel boven water dat dat wel een van de favoriete netwerken is voor dingen die het daglicht niet kunnen verdragen. En op het moment dat we dat wisten met z'n allen. Ja, een deel van de mensen die ik kent, dat zit daar nog gewoon. Maar een heleboel die wilden toen naar WhatsApp. Moet je nu weer kijken dat iedereen weer weg wil bij WhatsApp. En dan moeten we weer naar Singleton.

Jurian Ubachs:
[7:12] We gingen naar Telegram omdat we weg moesten bij WhatsApp.

Randal Peelen:
[7:14] Precies. Ik heb ook nog steeds een account.

Barend Frans:
[7:19] Ik luister naar een andere podcast ook. Heeft ook iets met nerves te maken. Alleen de groene nerves. Die hebben gewoon een ongelooflijke grote community op Telegram. Dus daarom zit ik onder andere op Telegram.

Randal Peelen:
[7:30] Ja, en POM ook. Podcast over Media. Die zitten ook op Telegram.

Jurian Ubachs:
[7:33] Ja, allemaal gesponserde Russische staat.

Randal Peelen:
[7:37] Nou, hoe dat verdienmodel in elkaar zit. Daar ben ik nog steeds niet helemaal achter. Weet jij dat wel?

Jan-Jaap Oerlemans:
[7:41] Nee, dat vraag ik me ook wel eens af. Hoe zit dat eigenlijk? En ik val me wel op. Als onderzoeker, als jurist, lees ik heel veel literatuur. Maar heel veel literatuur als het gaat om cybercriminaliteit. Daar doen ze onderzoek naar criminaliteit op Telegram. Het is gewoon wel een van de broedplaatsen van drugshandel. Handel, wat ik eerder noemde, deepfakes. Of seksueel materie, materiaal van minderjarigen. Dat soort dingen. Dus dat is wel opvallend vaak komt dat terug daarbij.

Jurian Ubachs:
[8:10] Ik heb zelfs een VKontakte-account. Nou jij weer.

Randal Peelen:
[8:13] Wat is dat?

Jurian Ubachs:
[8:14] Dat is die Durov die Telegram heeft opgegeven. Vroeger VK, dat is eigenlijk Russisch Facebook. En ik heb vroeger een vriendin gehad uit Oekraïne. Dus ik heb op een blauwe maandag ook een VKontakte-pagina gehad. Waar ik dan met haar vrienden geconnect was. Dat is ook die Durov. Inmiddels word je daar ook niet populair van als je op VK zit.

Barend Frans:
[8:34] Dat was toch ook volgens mij de reden dat hij weg is gegaan uit Rusland. Omdat hij alle data van VK moest aanleveren aan de Russische autoriteiten.

Jurian Ubachs:
[8:43] Dat is wel een goede reden om weg te gaan.

Jan-Jaap Oerlemans:
[8:45] Ja, klopt. Hij zei dat, en er was ook een zaak aangespannen, Telegram en ook VK, die wilden geen data delen met, en dan waarschijnlijk alle data, met onder andere opsporingsdiensten, inlichtingveiligheidsdiensten, en zei van, nou, dit kan ik dus niet hier doen. Maar goed, wat ervan is gekomen, in hoeverre dat wel of niet wordt gedeeld, is mij ook niet helder. Maar is in ieder geval volgens mij standplaats Dubai. En vandaar bestiert hij zijn bedrijf. Het is wel opvallend bij die actie ook van die Franse autoriteiten. Een van de redenen om dit te doen was ook omdat Telegram niet goed meewerkte met verzoeken van Franse autoriteiten om gegevens van gebruikers af te geven. En later was de berichtgeving, Telegram werkt nu beter mee. En daarna mocht Pavel Durov ook weer terug naar Dubai. En de vervolging wordt voortgezet, zeggen ze. Maar dat zat er blijkbaar ook achter als strategie. Dat vind ik dan wel interessant. En dat blijf ik ook volgen.

Barend Frans:
[9:45] Het grappige is dat hij werd aangehouden in Frankrijk. En ik heb echt een aantal maanden daarvoor met een officier van justitie die wat ruimdenkender is. Precies over dit gesproken van. Het kan toch niet waar zijn dat zo iemand maar zijn ding kan blijven doen zonder de verantwoordelijkheid te nemen. En toen zei hij van, nou wacht nog maar even af. En inderdaad een paar maanden later was Frankrijk die hem aangehouden had op het vliegveld. Misschien vraag je tussendoor, want wij kijken uiteraard ook op Telegram.

Barend Frans:
[10:23] En we kijken op alle platformen als het maar open is en dat soort zaken. Maar eigenlijk een vraag voor jou. Want stel dat wij nou een aantal groepen, als we daar naar binnen kunnen. En we weten honderd procent zeker, het is kinderporno grafisch materiaal of drugs of noem het maar op. Eigenlijk ook wat heel veel verboden is. Zouden wij dan op artikel drie van de politiewet, oftewel dat we mogen optreden, kunnen gaan screpen en die data bewaren?

Jan-Jaap Oerlemans:
[10:55] Ja, dat is een goede vraag. Een beetje flauw is dat deze vraag al zo'n tien jaar speelt. Dus de politie zou zich voor zichzelf wel beantwoord moeten hebben. En er gebeurt soms ook op basis van artikel 3 politiewet. Bijvoorbeeld waren die Maccabi-rellen toen. En in Amsterdam met die voetbalwedstrijd. En de opdreigende rellen die uitbarsten. Ik snap best dat de politie zegt, wij willen wel een beeld hebben van waar wordt dan afgesproken? Wat vindt daar plaats? En dus wil je daar graag toegang toe hebben om dat in de gaten te houden. En daar heeft uiteindelijk een rechter gezegd, ja dat mag op basis van artikel 3 politiewet. Wel daarbij, hoe ga je dan met die gegevens om daarna? Hoe lang bewaar je ze? Vernietig je ze? Nou, dat soort dingen.

Jan-Jaap Oerlemans:
[11:37] Ik begrijp dat dat niet altijd goed gaat, ook bij de politie. Maar in dat geval mocht dat op basis van artikel 3 politiewet. Bij die grote operaties, waarbij, nou ja, denk ik ook wat planning van tevoren is. Langere duurgegevens worden gebruikt om later misschien ook bewust als bewijs in strafzaken te komen. Al minder zo spontaan als die rellen. Kan ik me beter voorstellen dat dan een bijzondere opsporingsbevoegdheid wordt ingezet. En dat zie ik ook precies terug in jurisprudentie wel. En dan moet nu nog vaak een officier voor justitie een bevoegdheid voorgeven. Maar dan zeg ik als jurist wel eens van ja, maar het Mensenrechtenhof zegt dat soms een rechter daar eigenlijk een machtiging voor moet geven om te infiltreren. Dat een onafhankelijke partij meekijkt. Dus dat is typisch iets waar ik dan weer kritiek op heb en hoe we dat gaan doen. Maar ja, ik heb dat idee dat ook wel eens bijzondere opsporingsbevoegdheden voor worden ingezet.

Randal Peelen:
[12:32] Misschien een hele debiele invalshoek hoor, maar Jurian en ik zijn goed bevriend met iemand die nu burgemeester is. Er zijn gevallen waarin de burgemeester wakker gebeld wordt. En daar allerlei bevoegdheden van gevraagd worden. Maar dat is dus bij voetbalrellen niet het geval?

Jan-Jaap Oerlemans:
[12:48] Ja, er ligt nu toevallig een wetsvoorstel om dat juist te gaan regelen. Dat de burgemeester kan zeggen, ik wil nu. Dat wordt meegekeken in zo'n telegramgroep bijvoorbeeld. Met op handen zijde verstoring van de openbare orde. Rellen, vernielingen, dat soort dingen. En dan zijn er regels ook van, als je dat doet, mag het voor bepaalde tijd. En daarna moet je de data weer vernietigen. Dat soort dingen. Maar ja, daar is heel lang gewoon nog niet over nagedacht. Op ieder geval is de wetgever niet in actie gekomen om te zeggen... daar moeten we wat mee doen. Dus die bevoegdheid gaat nu... En ja, deels ook naar de politie. Of naar de burgemeester. En de politie en burgemeester zijn altijd de hele tijd met elkaar in gesprek, denk ik ook.

Barend Frans:
[13:28] Ja, maar ik ben ook wel benieuwd hoe het straks met het vuurwerkverbod gaat. Want ik denk zomaar dat je via Telegram wel iets zou kunnen gaan bestellen, lijkt mij.

Jurian Ubachs:
[13:38] Nou ja, afgelopen jaar was er natuurlijk in heel veel steden al een vuurwerkverbod. Nou, ik spreek dan even voor Utrecht. Dat was nog steeds gewoon een oorlogsgebied.

Barend Frans:
[13:46] Daarom.

Jurian Ubachs:
[13:47] Wel, moet ik wel zeggen, wel iets minder dan de jaren ervoor. En je merkt echt wel dat sommige mensen het inderdaad gewoon niet meer doen. Maar ja, in de jaren dat je wel gewoon zelf mocht afspreken, waren er natuurlijk ook al heel veel mensen die hun vuurwerk uit Duitsland en België halen, wat toen ook al verboden was. Dus het feit dat hier in Nederland misschien minder verkocht wordt, dat houdt de mensen die toch al hun het zwaardere werk uit andere landen gingen halen. Voor hen is er eigenlijk niet per se iets veranderd. Ze deden al iets wat niet mocht, nu doen ze het nog steeds. Alleen het gaat wat meer opvallen. En ik denk, ik heb het idee dat dit gewoon iets is wat slijt over de jaren. Dat gewoon per jaar net wat minder mensen... En op een gegeven moment ga je ook wat meer opvallen natuurlijk. Als je daar staat af te steken en de rest van je straat doet het niet meer. Vroeger viel jouw potje uit China niet zo op. Omdat overal was iedereen bezig. Maar ja, nu ben je de enige in de straat. Dus daar wordt het op een gegeven moment heel makkelijk voor. Na de politie langs rijden zeggen, hé, wat zijn jullie aan het doen?

Barend Frans:
[14:38] Het enige voordeel is inderdaad als je vuurwerk bij je hebt of afsteekt... Dat je sowieso al strafbaar bent.

Jan-Jaap Oerlemans:
[14:43] Dat er een duidelijk verbod ligt. Ja, als ik voor mezelf spreek... Ik vind wel, een handhavingstekort zeg maar, is dan wel zo duidelijk. En het geeft wel een soort zwakte bot en machteloosheid weg. Dat het zoveel voorkomt.

Jurian Ubachs:
[14:55] Ja, maar dat is ook nu. Ik denk dat je dit soort dingen niet kunt invoeren. En dan meteen jaar één gelijk, weet ik veel, het hele korps terug van verlof. En iedereen de straat op 31 december. Dit is iets wat denk ik een aantal jaar gewoon een beetje ingemasseerd moet worden. Moet gaan wennen. Nou ja, ik zou verwachten, maar ik word hier niet echt gehinderd door kennis en zo. Dus ik zou dan verwachten dat je op een gegeven moment soort van steekproefsgewijs. Want boetes werken natuurlijk afschrikwekkend. Als je bijvoorbeeld naar een hele andere sector kijkt. De IPTV-markt. De illegale IPTV-markt. Ja, die zit volgens mij gevoelsmatig nu best wel dicht bij het punt. En dat inderdaad gewoon de afnemers ervan, de consumenten aangepakt gaan worden. Ja, en dat gaat natuurlijk gigantisch afschrikken. We zien in het buitenland, zien we volgens mij nu al de eerste, de eerste, nou toch wel hoge boetes komen. En die worden natuurlijk gedeeld in al die groepen. Ja, als jij ineens weet van, hé wacht eens even, Pietje uit Den Helder, die is als een van de eerste aangepakt en hij moet 5000 euro schadevergoeding betalen of iets dergelijks. Ja, dat is toch...

Barend Frans:
[15:58] Een laatje ding.

Jurian Ubachs:
[15:59] Dan is ineens zo'n sigleabonnementje toch niet eens zo'n heel gek idee. Dus ja en dat zo zie ik vuurwerk ook een beetje Het zal nog wel eventjes zo van En op een gegeven moment komt er een bericht van, Er gaat wat gecontroleerd worden Dit zijn de boetes En op een gegeven moment gaan die uitgedreeld worden En dan, denk ik dat je vanzelf wel een kentering krijgt En natuurlijk zullen er hardcore vuurwerk afstekers zijn Die zich niet van de wijze laten brengen Die hou je altijd Maar de meerderheid gaat vanzelf wel mee Die.

Barend Frans:
[16:25] Wonen in Rotterdam toch?

Jurian Ubachs:
[16:26] Nou, zoveel mogelijk hoop ik.

Barend Frans:
[16:28] Nee, laat maar.

Jurian Ubachs:
[16:29] Ik snap de grap. Ja, zeker. Niet meer welkom in Leeuwarden.

Randal Peelen:
[16:33] Maar als we het hebben over dingen die eigenlijk niet mogen, maar wel gebeuren en ook op klaarlichte dag, dan zoals mij drugs nog een beter voorbeeld. Sterker nog, mensen die van hardcore houden, zoals jij net zei. Hardcore mensen.

Jurian Ubachs:
[16:43] Hardcore mensen, ja.

Randal Peelen:
[16:45] En daar denk ik ook niet vies van.

Jurian Ubachs:
[16:46] Hardcore meeuwing.

Randal Peelen:
[16:46] Maar dat is natuurlijk ook...

Jurian Ubachs:
[16:47] Technofeestje gaat ook wel hoor.

Randal Peelen:
[16:48] Ja, daarom. Dus volgens mij is dat ook ontzettend van alle tijden. Ontzettend goed verkrijgbaar op Telegram. En wat ik dus gek vind, misschien maak ik het nu gelijk te technisch hoor, maar ik had laatst een nieuwe laptop, dus ik moest al mijn backups herstellen. En dan valt opeens op dat bij Signal eigenlijk de default is, je hebt gewoon alles vanaf een bepaald moment op je device staan. Maar als je iets van voor die tijd wil zien, dan moet je dat gewoon ontvangen hebben op een device waar je dat hebt gebackupt. En als je dat kwijt bent, dan is het gewoon klaar. Dan ga je die berichten nooit meer lezen. WhatsApp is één slag beter. In die zin, daar is één device gewoon het centrale punt. En die backup dat automatisch naar iCloud in mijn geval. Maar op een gegeven moment zit je telefoon vol en je iCloud vol. En dan ga je dingen verwijderen. Maar dan doe je dat in ieder geval bewust. Telegram is de makkelijkste app aller tijden. Al jouw berichten, al jouw media, alles wat je ooit hebt verstuurd of ontvangen, staat allemaal lekker in hun cloud.

Jurian Ubachs:
[17:41] Heel handig.

Barend Frans:
[17:42] Niet aan credit.

Randal Peelen:
[17:43] Je logt gewoon in, je bent er weer bij. Ik vind dat puur praktisch heel fijn. Want voor mij zijn die filmpjes, filmpjes van mijn kinderen, En een kat die wegrent voor een hond. Maar als je daar heel erg illegale dingen hebt staan. Die daar unencrypted lekker in hun cloud staan te pruttelen. En als jij met een ander device inlogt op dat account. Kun je alles alle tijden gelijk weer zien. Ja, dan denk ik. Als ik puur technisch naar die apps kijk. Misschien wel de domste plek om illegale dingen te doen. Maar de keerzijde daarvan is toch dat dat voor jou.

Randal Peelen:
[18:14] Barend als politie. Juist de ideale plek zou moeten zijn. om criminele te hengele.

Barend Frans:
[18:22] Ja, in sommige gevallen uiteraard wel. Want wij monitoren echt wel een aantal kanalen op Telegram. En ik moet je heel eerlijk zeggen, ik weet niet hoe een gegevensdrager eruit ziet die in beslag genomen is. En onderzocht wordt welke data er van Telegram er nog op staat. Ik vermoed, na wat jij zegt, dat daar gewoon alles op te vinden is. Nou ja, dat is mooi voor ons.

Randal Peelen:
[18:48] Want is het dan ook zo, op mijn laptop staat nu, nou mijn laptop daar kan 2 terabyte aan data op. Alleen, als ik bijvoorbeeld een heleboel bestanden in mijn iCloud zet, dan gaan die op een gegeven moment naar de cloud. Maar dat maakt voor mijn laptop niet zoveel uit. Als ik internet heb en ik open hem, dan dubbelklik op dat bestand, zegt hij even downloaden en dan opent die bestanden. Dan staat die dus eigenlijk niet op mijn laptop, maar bij Apple. Maar dan heb je mijn laptop in beslag genomen en dan mag je alsnog bij dat bestand. Dat neem ik aan. Dat zou juridisch toch niet zo groot zijn.

Jan-Jaap Oerlemans:
[19:15] Ik kan vertellen dat dat heel precies is geregeld in ons webboek van strafordering. Dus ik kan daar een uur over hebben, dat ga ik nu niet doen. Maar er is een speciale bevoegdheid, het heet een netwerkzoeking. En dat betekent eigenlijk dat als je een device in beslag neemt, mag je ook op verbindende apparaten ook de data veiligstellen. En er is nu een speciale regeling. Heel lang gelde dat eigenlijk voor de situatie van 1990, toen die eerste regeling kwam, je doet een huiszoeking. En dan mag je op apparaten in dat huis ook onderzoek gaan doen.

Randal Peelen:
[19:50] De floppies.

Jan-Jaap Oerlemans:
[19:51] Ja, nou zo'n beetje. Dat was die tijd. Toen werd wel gezegd, het is een hele vergaande bevoegdheid. Want het is niet alleen die ene computer waar je die data voor veiligstelt. Maar ook van data die inderdaad op een server of op een NAS of weet ik veel wat draait. Dus dat kan.

Jurian Ubachs:
[20:03] Zolang een computer binnen dat huis verbonden is met die server, valt die server onder dezelfde...

Jan-Jaap Oerlemans:
[20:07] En dat zei die wettekst ook ongeveer letterlijk. En dus, stond daar niet. Je mag ook op een server in Tsjechië die data veiligstellen. Dat stond toen niet. Dus dat mocht niet. Jaren geleden is dat wel aangepast en er werd gezegd als je bijvoorbeeld een mobiel in beslag neemt, dan mag je volgens mij ze binnen drie dagen sowieso ook in data uit accounts veiligstellen. Dus die staan op een server ergens anders. Je mag erop inloggen. Heel vaak staan inlognaam en wacht wordt er al op de inbeslag genomen device. En ja, dus nu is dat wel duidelijk gemaakt. Ja, dat mag ook. Wel altijd bij verdenking van een wat ernstiger misdrijf met een bevel van officie of justitie, met een machtiging van een rechter. Want het heeft te maken met brieffrijmen. Net zoals om brieven in een woning te doorzoeken heb je een machtiging van de rechter nodig. Dan zeggen we daarvoor ook bij het doorzoeken van mails of privéberichten op een app.

Barend Frans:
[21:02] Het is nu wel een stuk beter geregeld. Want vroeger als wij een zoeking deden in een woning en we troffen een computer aan. Dan moesten we in de woning zelf, mochten we dat nog doen. Tot het moment dat we de computer afkoppelden. En we mochten het niet meer op het bureau doen. Hetgeen soms resulteerde in zoekingen van soms wel meer dan een dag. Omdat alles maar binnengehaald moest worden. En nu hebben we de mogelijkheid om de computer mee te nemen. En dan het eventueel op het bureau te doen. Dus dat is dan een stukje beter. Alleen je moet er wel weer voor zorgen dat de computer aan blijft. En daar kunnen we natuurlijk ook een aantal zaken mee doen. Dus dan gaat de computer onder stroom mee naar het bureau. Jij begint al gelijk te glunderen.

Randal Peelen:
[21:49] Ik zie dit voor me. Een computer die eenmaal aanstaat. Kun je niet zomaar even een UPS, eraan. Dan kun je hem aanhouden. Maar op het moment dat hij uitgaat. Een harde schijf van een moderne computer. By default is die encrypted. Dus je kunt niet even de harde schijf eruit schroeven. En denken ik heb alles. Dat zal nog steeds wel gebeuren. Maar dat is niet standaard meer. Dus jij gaat gewoon zo'n UPS eraan hangen. En dan hou je de computer aan.

Barend Frans:
[22:14] Het gaat juist niet om die harde schijf. Want die harde schijf, daar kan je nog wel dingen mee. Zeker als je een tap hebt gehad. Het gaat voornamelijk om het interne geheugen. Want in het interne geheugen worden strings opgeslagen. Die mogelijk weer later toegang geven tot gekripte kluisjes of wat dan ook. Noem het maar op. Daar wordt zo ontzettend veel in bewaard. En als je die stekker eruit trekt, als je hem uitzet, is dat allemaal weg. Dat is gewoon zonde van je onderzoek. Dus vandaar dat er heel vaak sowieso met een zoeking een digitaal specialist meegaat. En die zal ook als de computer niet onder stroom meegenomen wordt, zal hij als een van de eerste dingen het interne geheugen gaan leeghalen of in ieder geval dumpen. En dat is qua wetgeving zijn we er echt ontzettend op vooruit gegaan.

Randal Peelen:
[23:09] Want als je een computer mee wil nemen dan moet je wel echt heel snel die stacker verwisselen in 1 vijftigste van een seconde.

Jurian Ubachs:
[23:17] Ja ik gok dat daar slimmere methodes voor zijn.

Randal Peelen:
[23:19] Ik weet niet wat ze zijn dit vind ik dus fascinerend ehm.

Barend Frans:
[23:26] Wij denken heel erg goed na voordat we een woning binnen gaan. Hoe willen we een verdachte aantreffen in zijn woning? Achter zijn computer? Moet de computer aan zijn? Ja of nee? Hoe ziet dat eruit? Waar zijn de mogelijkheden dat hij bijvoorbeeld iets zou kunnen doen met die computer? Dan is het ook nog eens een keer zo. Zo'n verdachte die wordt dan opgehouden ergens in de woning voordat hij opgehaald wordt. Door een politieauto om naar het bureau gebracht te worden. Waar zet je hem dan neer?

Randal Peelen:
[23:56] Op de wc.

Barend Frans:
[23:57] Nou ja, dat is wel een van de veiligere plekken. Maar zorg er wel voor dat je die wc eerst goed hebt gekeken of er geen kill switch hangt. Want dan ben je nog verder van huis.

Jurian Ubachs:
[24:06] Ja, dat is natuurlijk sowieso wel. Ik bedoel, op het moment dat je inderdaad, ergens een inval doet, dan kan ik me zo voorstellen dat als hardop deur gebonkt en politie, dat is toch een hele goede reden om heel snel naar je computer toe te rennen bijvoorbeeld. Een goede puzzel is dat.

Barend Frans:
[24:20] Daarom wordt er soms ook niet meer gebonkt. Dus vraag tegens.

Randal Peelen:
[24:27] Ja, ik denk met een parachute zo op het balkon opkomen zeilen. En dan flying kick door het raam.

Jan-Jaap Oerlemans:
[24:33] Die verhalen zijn er wel volgens mij. Dus inderdaad door het raam heen iemand van zijn bureaustoel afduwen. Zorgen dat de computer aan blijft. Ik begrijp wel dat zijn wel de mooie verhalen die je soms op een conferentie hoort nog.

Randal Peelen:
[24:46] En dit gebeurt dus altijd als je met mensen van politie praat. Dat je het in je hoofd opeens spannender maakt dan het is. Maar we kwamen bij die bevoegdheden vandaan om online netwerken te bekijken. En we hadden het over cryptofoons en dergelijke. Jan-Jaap, je had een casus die jou... Had geprikkeld. Waar kwamen we ook weer vandaan?

Jan-Jaap Oerlemans:
[25:11] Ja, met de crypto phones, dat gaat we even terug. 2019, een Ennetcom-zaak, waar we de eerste massale berichten, eigenlijk hele crypto phone dienst opgerold. En dat betekent in dat geval stond de server in Canada met allemaal berichten er nog op, terwijl die dienst zei dat ze verwijderd waren. Dus dat was niet goed. En toen hebben ze via een Canadese rechter die hele database gekregen en er stonden 3,8 miljoen berichten op. De politie krijgt die berichten en dan zie je dus één device stuurt naar een ander device een bericht. En als je dan een opsporingsonderzoek doet en je kan die mobiele telefoon dat device relateren aan die verdachte. En je ziet welke berichten zijn verstuurd. En de berichten gaan over drugshandel, over leveringen en andere ernstige delicten. Dan kan je dat later als bewijs gebruiken in een strafzaak. En voor mij is dat een beetje het begin geweest van het oprollen aan de lopende band van die opeenvolgende crypto diensten. Waarbij elke keer gigantische hoeveelheden gegevens worden verzameld. En dan, ja, volgens mij kijkt de politie dan heel goed van wie zijn hier.

Jan-Jaap Oerlemans:
[26:16] Wie staan met elkaar in verbinding? Wie zijn de grote spelers? Waar gaan we op inzetten? Misschien dan helpt het ook wel als dit een Nederlander is, een Nederlandse ingezetene. Dan heb je meer kans dat je die in Nederland ook kan vervolgen. En vervolgens komen er heel veel uitspraken. En ik kan wel zeggen, ik ben begonnen eigenlijk met dat in kaart brengen. Een beetje als een van de eerdere, zeg maar. En dat is een bron van onderzoek geweest en publicaties. Dat is super interessant. Het gaat om rechtsop juridictie. Het gaat om de inzet van die bevoegdheden. Hoe zit het met de analyse van die berichten? Daar zitten allerlei interessante juridische vragen om in te duiken.

Jurian Ubachs:
[26:52] Hoe ga je te werk als je die berichten wil analyseren?

Jan-Jaap Oerlemans:
[26:56] Dat kan de politie denk ik zelfs best vertellen. Zal ik aan jou dat woord laten?

Jurian Ubachs:
[27:01] Voorzever je methodes mag delen natuurlijk.

Barend Frans:
[27:04] Er wordt gewoon, op een slimme manier gezocht naar bepaalde zaken. En ik heb zelf hier niet aan meegewerkt, dus dat zeg ik jullie. Maar daar hebben ze natuurlijk ook bepaalde gradaties in gemaakt. Wat vinden we ontzettend belangrijk? Wat willen we als eerste weten? Het is toen de tijd ooit een keer geklapt met die martelcontainers. Die berichten die zagen ze live overkomen. En hadden ze zoiets van nu moeten we echt gaan ingrijpen.

Jan-Jaap Oerlemans:
[27:30] Bij EncroChat geloof ik.

Barend Frans:
[27:31] Ja, klopt.

Jurian Ubachs:
[27:34] Dat is natuurlijk wel een spanningsveld. Ik kan me heel goed voorstellen dat je als onderzoeker... Eigenlijk niet wil laten blijken dat je kan meelezen. Omdat je op het moment dat je ingrijpt... Weet de andere kant natuurlijk ook van... oh wacht even, het oude enigma verhaal... Dat niet moest blijken dat het gekraakt was. Als het anders hadden de Duitsers hun systeem aangepast.

Barend Frans:
[27:55] Volgens mij heeft het nog best wel lang geduurd voordat... ...dat ze in de gaten hadden dat het door die berichten kwam.

Jurian Ubachs:
[28:02] Als ze dachten dat ze dat in ieder geval zouden gaan toeval.

Barend Frans:
[28:04] Ja, waarschijnlijk wel. Het is ook pas later, nadat de eerste aanhoudingen zijn geweest... ...de grote aanhoudingen, is het pas bekendgemaakt... ...dat de politie toegang had tot al die berichten. En volgens mij, zelfs daarna zijn er nog criminelen geweest...

Jurian Ubachs:
[28:20] ...die.

Barend Frans:
[28:20] Nog zoiets hadden van, dat zal voor mij niet...

Jurian Ubachs:
[28:23] Maar dat vind ik ook fascinerend, want je noemt er net één... ...nou, ik zat net in een van jouw documenten naar een lijst te kijken... Met allerlei verschillende encryptie chat leveranciers. Die inmiddels allemaal afgestreept zijn.

Jan-Jaap Oerlemans:
[28:32] Het is een stuk of acht of negen inmiddels.

Jurian Ubachs:
[28:35] Hoe kan het dan toch dat. Als we zeggen een ezel stoot zich niet twee maanden dezelfde steen. Dat een aanzienlijk deel van de onderwereld. Dat toch al een keer of acht, negen gedaan heeft inmiddels.

Jan-Jaap Oerlemans:
[28:47] Je ziet wel een evolutie ook in die apparaten. Dus het begon op zo'n Blackberry. En die techniek, ook de versleuteringstechniek. Weert steeds beter. En ik denk ja, elke keer toch een verkooppraatje van deze is echt veilig en dit gaat echt goed en dat dat toch, te aantrekkelijk is om te doen, het werd ook een soort statusmiddel, vond ik ook wel interessant de lasten dat criminelen ik heb deze device, nou dan ben je wel een serieuze speler ook raakbaar.

Jan-Jaap Oerlemans:
[29:14] Dat was wel boeiend en bij EncroChat, misschien nog heel even daarover dat duurde, hebben ze zes maanden lang mee kunnen kijken bij elk bericht dat werd verstuurd En zelfs ook een hack gepleegd op apparaten zelf. Dus er werd ook nog een kopie gemaakt van die 60.000 gebruikers die EncroChat had. Dus dat is een echte, ook technische, hele bijzondere operatie. En bij EncroChat zijn er, wat was het, 120 miljoen berichten verzameld. Bij Sky is het, zie je daarna naar verluid een miljard berichten. Waarvan 500 miljoen weer ontsleuteld konden worden. Zodat ze die konden uitlezen. Ja, dat zijn aantallen. Het is echt bizar. Maar dat wordt allemaal gebruikt. Ter analyse, maar ook dus voor bewijs en strafzaken. Dat is gewoon een hele succesvolle operatie vanuit opsporingsperspectief. Er zit een spanningsveld van hoe lang kan je dit nog doen, hoe lang kan je meekijken. Er zit ook een spanningsveld met privacy bijvoorbeeld. Want die impact op privacy van al die devices met hacken en interceptie, en dat blijft maar doorgaan. Hoe lang kan je dat eigenlijk nog doen? Er zijn advocaten die ook zeggen van dit is eigenlijk bulk interceptie. Je doet dan een hele grootschalige interceptie.

Jurian Ubachs:
[30:26] Stel dat Randal en ik denken, wij vertrouwen al die chat-apps niet. Maar EncroChat scheen heel goed, even als voorbeeld. EncroChat is natuurlijk al lang ontmanteld. Maar de dienst aan zich is natuurlijk niet illegaal. Dus het kan heel goed zijn dat... Wij kennen die namen vanuit criminaliteit. Maar het kan natuurlijk ook zijn dat er gewoon mensen te goeder trouwen met elkaar. Voor hun idee de best beveiligde chat-software willen gebruiken. En die dus ook in dat hele grote vangnet terechtkomen en waarmee die advocaten die dat dus zeggen dus eigenlijk best een punt hebben.

Jan-Jaap Oerlemans:
[30:57] Ik denk het wel, dat wordt in ieder geval gezegd. En de politie, ook soms het OM, ik ken zelfs een onderzoek van het NNV met betrekking tot en het komt. Dan willen ze wel van zoveel procent van de berichten zijn te relateren aan criminaliteit. Maar ja, ik denk statistics, ik weet het niet. Om dat goed te onderbouwen is wel erg ingewikkeld. Het is wel opvallend hoeveel strafzaken uit die diensten naar voren komen. Voor mij is het ook wel helder, dat waren wel voornamelijk blijkbaar criminelen die van die dienst gebruik maakten. Hoe ik dat strafrechtelijk zie, en qua opsporing, is ook een beetje van ja, als het bewijs is, als het device te redeteren is aan die verdachte. En je ziet, nou, hij heeft een bericht gestuurd, de drugs wordt dan en dan afgeleverd op dat moment. En ja, dan kan dat natuurlijk als bewijs dienen in een strafzaak.

Jan-Jaap Oerlemans:
[31:50] En dat daarvoor op grote schaal inbreuk is gemaakt op privacy. Nou, dat is helder. Dat is gebeurd. Maar dat maakt nog niet dat gebruik van dat bewijs per definitie onrechtmatig. Er is wel heel veel meer voor nodig om dat te kunnen doen. En wat die ook heel erg speelt, is dat die operaties deels in het buitenland plaatsvonden. En dan is er een Franse rechter geweest. Die heeft gezegd, ik geef een machtiging af om te hacken, te tappen, allemaal tegelijk. En dan mag die data worden gedeeld met partijen die in een samenwerkt. Er deed een joint investigation team. België, Nederland, Frankrijk zaten erbij. De data wordt met hen gedeeld, ook met Europol. En vervolgens gaan ze kijken, oké, waar zitten deze gebruikers voornamelijk? Europol deelt het weer met landen, met Duitsland, als daar heel veel criminelen zitten. Die gebruiken het weer voor hun schafzaken. Zo gebeurt dat. En dan zeggen de Nederlandse rechters, zeggen dan eigenlijk, ja, dit heeft in Frankrijk plaatsgevonden. Een Franse rechter heeft de machtiging afgegeven. Die vond het blijkbaar noodzakelijk. Dan accepteren wij dat de fundamentele rechten zijn gerespecteerd. Ik vind het een beetje makkelijk, maar dat is wel een beetje hoe dit nu gaat.

Randal Peelen:
[32:58] Ja, want dit is eigenlijk... En makkelijk goed te praten in die zin denk ik. Er is een percentage waarvan je zegt. Nou als 98% van alle berichten daar door criminelen zijn gedeeld. En we hebben ook echt in de smiezen dat daar ongure dingen gebeurden. Dan is er ergens een kwartje. Dat valt heel duidelijk die kant op. Ik vind dat bij Telegram lastiger. Want dat is overduidelijk ook wel gewoon, huistuin en keuken gebruiken. Ik denk zelfs het leeuwendeel daarvan. Maar je weet ook. Een beetje van horen zeggen. Meer dan nog. Maar dat daar een heleboel illegale handel plaatsvindt. In ieder geval. Dat is wel mijn indruk. En daar kan ik me wel voorstellen. Dat je zegt. We gaan zo'n kanaal in de gaten houden. En ik ben een kopie van alles wat er ooit in dat kanaal is gezegd. En we zijn het al. Op die app wordt alles ook wel ongeveer bewaard. Maar dan wordt het een stuk ingewikkelder. Hoe zit dat dan? Want dan moet er volgens mij gewoon op een gegeven moment. Een officier van de institutie zeggen. Nou dit mag. En dan ben je er. Dat is toch eigenlijk helemaal niet zo heel ingewikkeld.

Jan-Jaap Oerlemans:
[33:57] Want een officier of visitie moet dan in een bevel aangeven waarom is dit noodzakelijk. Waarom vind ik die privacy impact in verhouding staan tot de noodzaak om hier, opsporing te doen naar de likte. En dan uiteindelijk, waarom zijn er geen minder ingrijpende middelen om hetzelfde resultaat te bereiken. En dan moet nog een rechter eigenlijk dezelfde toets doen. En dan zou dat eventueel mogen. Maar ik kan me niet voorstellen dat dat zou mogen voor de hele infrastructuur van Telegram. Ten behoeve van opsporing om dat te kunnen doen. Dus inderdaad, dat is een ander geval. Maar ja, ondertussen is het wel die Pavel Durov opgepakt, voor medeplichtigheid van die dingen. En ik vraag me wel, ik ben heel benieuwd, wat hebben de Fransen dan nog in beslag genomen, bijvoorbeeld, en veiliggesteld voor die strafzaak? Dat is niet helemaal duidelijk.

Jurian Ubachs:
[34:39] En het is natuurlijk ook een hele, op het gebied van jurisprudentie natuurlijk, een hele interessante zaak. Want wij stellen ons zo voor dat westelijke sociale media, over het algemeen beter gecontroleerd worden. Dus dat de hoeveelheid aan, zeg ik in de porno, op Telegram of VK wellicht hoger zal zijn hopelijk dan op Facebook en alle anderen. Maar ja, op het moment dat deze man nu veroordeeld zou worden voor een medeplichtigheid omdat zij dus kennelijk hun controle niet op orde hebben ja, dan zou een Zuckerberg bijvoorbeeld in theorie in exact hetzelfde schuitje kunnen zitten als blijkt dat er op Facebook toch, ergens kinderporno zou staan ofzo. Dus het is een hele gekke dominosteen ofzo die mogelijk tegen andere steentjes aan gaat vallen en wat dat dan betekent. Ja, ik snap wel dat je daar met veel interesse naar kijkt nu.

Jan-Jaap Oerlemans:
[35:24] Ja, precies. Dus in het artikel leggen we dat uit van waar we dit eerder gezien. En dat hebben we dan bij bijvoorbeeld sommige bulletproof hosting providers gezien. CyberBunker is wel de zaak waar eigenlijk best wel weinig over is te

Jan-Jaap Oerlemans:
[35:33] lezen, ook in literatuur. Wel die Netflix-serie die wel geinig is erover.

Jurian Ubachs:
[35:37] Waar gaat die zaak ook weer over?

Jan-Jaap Oerlemans:
[35:38] CyberBunker was eigenlijk een bulletproof hosting provider ergens in Duitsland in een NAVO-bunker die daar zat. En die zeiden wij hosten alles behalve terrorisme en materiaal van seksueel misbruik van binnenjaar. Voor de rest mag alles. Anything goes. Adverteren op voorraam, komt dan de betaling, weet ik veel wat. Zij werden uiteindelijk door de Duitse justitie echt in een enorme operatie met honderden agenten probeerden ze daar binnen te komen en hebben ze de boeren in beslag genomen.

Randal Peelen:
[36:12] Het was een bunker hè?

Jan-Jaap Oerlemans:
[36:13] Ja, honderden service in beslag genomen.

Jurian Ubachs:
[36:18] Daar traint zo'n interventieteam voor. Dat kunnen ze.

Jan-Jaap Oerlemans:
[36:22] Ja, dat had wel wat voeten in de aarde, zeg maar, om dat mogelijk te maken. Maar Duits Justitie wilde hen vervolgen voor deelname aan de criminele organisatie. Zij vormden samen een criminele organisatie om bijvoorbeeld geld wit te wassen dat ze kregen. En voor het faciliteren van delicten van drugshandel. Wall Street Market was een darknet market die daar ook op die service draaide. Veel gokwebsites, websites die inbreuk maken op auteursrechten, allemaal dat soort dingen. Maar ze zeiden ook en je bent ook nog medeplichtig aan ongeveer 300.000 delicten die via jullie diensten gehost werden. Nou uiteindelijk heeft juist justitie dat niet voor elkaar gekregen. Omdat in Duitsland om iemand te vervolgen voor medeplichtigheid van de delicten die jouw klanten plegen. Moet je eigenlijk van elk individueel delict op de hoogte zijn. Je moet je weten al Pietje Puk heeft dit delict gepleegd toen en toen. Dat wist ik heb niks gedaan. Nou dan kon je vervolgd worden in Duitsland. Die drempel hebben ze niet gehaald.

Jurian Ubachs:
[37:17] Elke van die 300.000 medeplichtigheidszaken zouden ze dus inzichtelijk moeten maken. Een voor een.

Jan-Jaap Oerlemans:
[37:24] Ja, dat is niet druk. Maar die hoofd, Johan X, die is wel voor acht jaar veroordeeld voor het leiding geven aan een criminele organisatie in Witwassen. Dus dat is wel zo'n voorbeeld. En in Nederland hebben we ook maar een paar zaken met bulletproof hosting providers. Een eerste zaak, MaxiDed, daar was dat niet gelukt. En eigenlijk omdat justitie niet kon bewijzen. Dat was een boerder-provoking-provoking die werd vervolgd ook voor medeplichtigheid aan het verspreiden van materiaal van seksueel misbruik voor minderjarigen. Het was duidelijk dat hij allemaal contanten aannam. Dat liep op dat platform. Hij was een soort systeembeheerder. Maar ze konden niet bewijzen dat hij wist dat het materiaal daar plaatsvond en dat zij niet ingrepen. Dus werd hij alleen veroordeeld voor witwassen. Na de veroordeling teruggegaan naar Moldavië en de zaak was klaar. Die was onsuccesvol.

Jan-Jaap Oerlemans:
[38:19] Later is een andere zaak geweest met het Mirai botnet dat draaide bij een bulletproof hosting provider. En daarvan heeft justitie wel kunnen bewijzen van ja, jullie wisten dat het daarom draaide. Jullie hebben niet ingegrepen bij abuse meldingen. Ze hadden 8000 abuse meldingen, volgens mij ongelezen in een mailbox. Nou, dat kon niet. Mensen konden zich registreren met adres 420 Hacktown. Je kon betalen met cryptocurrency, je werd verder allemaal niet ontdekt. Nou, daarvan heeft die rechter uiteindelijk gezegd... ja, je bent hier ook medeplichtig... Aan.

Jan-Jaap Oerlemans:
[38:50] Het faciliteren van die dedos aanvallen. Maar dat is het wel. Verder hebben we nog weinig voorbeelden in Nederland.

Barend Frans:
[38:58] Z-surface, maar die hebben wij leeggehaald.

Jurian Ubachs:
[39:03] Dat doet me eigenlijk een beetje denken aan een andere situatie. Die nu in Nederland in de game wereld gaande is.

Jurian Ubachs:
[39:10] Website Power Unlimited. Dus de site die hoort bij het blad. Is los door de uitgever verkocht aan een Maltese partij. Die vult die site met AI. Dus je creëert gewoon andere gamesites die hij verhustelt te worden. Waardoor het niet direct een plagiaat is. En je ook niet echt kan achterhalen of ze het letterlijk van jouw site hebben gehaald. En ze runnen advertising. Waarbij mensen van casinonews.nl al hebben achterhaald. Dat dat in de nachtelijke uren vaak links zijn naar in Nederland illegale goksites. Die niet samenwerken met Cruks. En dat is het register waar gokverslaafde mensen zichzelf kunnen registreren. Dus zij targetten doelbewust mensen die zich in Nederland hebben laten registreren om maar tegengehouden te worden. Om niet toe te geven aan een gokverslaving. En op sites als PlaySense en PowerUnlimited.nl komen dus die illegale advertenties langs. Daar zijn gewoon screenshots van gemaakt. Dus daar is materiaal van. Maar het is ontzettend moeilijk om te achterhalen wie nou eigenlijk de partij achter die sites is.

Jurian Ubachs:
[40:10] De beste educated guesses wijzen op bedrijven uit Malta. Ja, en daar stopt eigenlijk alles. Want de kansspelautoriteit kijkt hiernaar en zegt, dit is niet in de haak. En kan vervolgens niets doen. Dat vind ik zo, het voelt zo frustrerend en raar om in een wereld die zo verbonden is met elkaar. Malta, dat bij mij weten gewoon een Europees land is. Ja, dat dan dus kennelijk, dat de geografische afstand die daar dan tussen zit, dat dat dan toch betekent dat we met z'n allen hoog en laag kunnen springen, maar dat de autoriteiten vanuit, in dit geval naar Nederland, toch niet echt iets kunnen doen.

Jan-Jaap Oerlemans:
[40:45] Ja, het legt natuurlijk een handhavingstekort bloot. Ja, ik vind dat ook. Je kan ook parallellen trekken met die verkoop van illegale medicijnen en zo. Wat hier wel speelt, denk ik, is... Je hebt het verschil tussen bestuursrecht, handhaving en strafrecht. En bij strafrecht is het echt zo natuurlijk, je moet een delict plegen. En dan kan de politie onderzoek gaan doen. En dan mogen ze echt vergaande bevoegdheden inzetten. Dus misschien infiltratie is zo'n geval interessant. Of misschien wel de hekbevoegdheid. En de kans bij autoriteit heeft niet. In ieder geval niet een hekbevoegdheid.

Jurian Ubachs:
[41:16] Maar je hebt natuurlijk niet een losstaand misdrijvende situatie. Zij overtreden de regels.

Jan-Jaap Oerlemans:
[41:22] Ja, niet direct. In Nederland kiezen we ervoor. We doen dat via de bestuurlijke handhaving. Dus een autoriteit die dan onderzoek kan doen. En dan boetes kan opleggen. Ik weet niet. Misschien is het wel strafbaar. Of worden uiteindelijk strafbare feiten gepleegd. En dan zou de politie ook onderzoek kunnen doen. En het OM zeggen. Nou, we gaan vervolgen of niet. Maar ja, dat moet dan wel afgestemd worden. En daar moet ook dan prioriteit wel of niet aan worden gegeven. Je ziet het ook in Nederland bijvoorbeeld bij, illegaal uploaden en downloaden. Daarvan zeggen we in Nederland, nou, in principe gaat OM en politie, geven we daar geen prioriteit aan om dat op te pakken. We hebben Stichting Brein, die dat namens de auteursrechtenhebbenden doet. Nou, die wint ook wel eens een zaak en dan wordt er weer wat offline gehaald. En zo doen zij dat. En dat wordt dan niet strafrechtelijk opgepakt. Ik vermoed dat er ook zo'n arrangement is qua illegaal kokken. Maar het legt wel, gewoon dat handhaafjes tekort legt dat wel helemaal bloot.

Jurian Ubachs:
[42:21] Ja, ik denk inderdaad dat je praat over een situatie waarin de kanspelautoriteit in eerste instantie boetes zou moeten opleggen. En op het moment dat daar geen gehoor aan wordt gegeven, dan kom je natuurlijk wat sneller in strafrechtelijk vaarwater terecht. Nou, laten we hopen dat snel gebeurt. Dat is mij echt een enorme doorn in het oog, dit hele verhaal.

Jurian Ubachs:
[42:38] Misschien is het ook wel leuk om nog een heel ander iets te kijken. Daar viel mijn oog op. Het is iemand gelukt om de beveiliging van een van toch wel Nederlands meest gerenommeerde banken te foppen met deepfakes. En Ruud, wat is hier aan de hand?

Randal Peelen:
[42:55] Sjefsk is precies de kant die ik ook op wilde hier Jan. Ik ben reuze benieuwd naar dat verhaal.

Jan-Jaap Oerlemans:
[43:00] Ik denk dat je het doet ook op een zaak die is in nieuws gekomen deels. Ik heb niet, toevallig ik dat nieuwsbericht eerder had ik die niet gelezen. Ik kijk namelijk vooral naar jurisprudentie. Elke twee maanden maak ik jurisprudentieoverzicht. En dan ga ik gewoon kijken van, oh, dit vind ik een leuke zaak. Of die ga ik dan uitlichten en dan zet ik een overzichtje op mijn website. En toen vond ik er een, is gewoon keyword deepfakes. En die kwam terug een keer. En ik dacht, hé, dit is interessant. En het is wel de eerste veroordeling die je hebt gezien van oplichting met deepfakes. Of in ieder geval gemanipuleerde foto's.

Jurian Ubachs:
[43:32] We kennen natuurlijk de term deepfakes. Die relateren we heel snel aan BN'er die met deepfakes ineens pornofilmpjes blijkt te hebben gemaakt. Wat natuurlijk helemaal niet zo is. En die op die manier daar heel veel last van heeft. Daar kennen we. Of inderdaad mensen die politici dingen laten zeggen die ze nooit gezegd hebben. Dat weten we al van deepfakes.

Randal Peelen:
[43:48] Je ken het van Will Smith die Spaghetti eet.

Barend Frans:
[43:50] Ja.

Jurian Ubachs:
[43:52] Ik heb iets gemist, ben je even...

Randal Peelen:
[43:53] Echt?

Jurian Ubachs:
[43:54] Nou, als je het laat zien, heb ik het vast wel gezien. Maar goed, deze man, was een man volgens mij, die ging een iets andere kant op.

Jan-Jaap Oerlemans:
[44:02] Ja, het zijn meestal mannen overigens. Maar ja, inderdaad, we hebben overigens die deepfakes van, wat noemen ze wel, niet consensueel seksueel materiaal. Dat hebben we sinds pas een paar jaar nu strafbaar gesteld. Dus dat is niet heel lang. Maar hier ging het om gebruik van deepfakes voor oplichting. En dat is ook een van de dingen waar ik nu onderzoek naar doe. Omdat ik denk dat dat veel groter wordt. Maar ook, en daar komen ze ook nog wel op. Maar dat daar zo'n hele georganiseerde industrie achter zit. Eigenlijk om op grote schaal dat te gaan doen. Dus in dit geval maakte die gebruik van. Ging die eigenlijk opzoeken van. Met welke app vindt deze verificatie plaats. Van idee's. Tegenwoordig moet je dan idee afbeeldingen van maken. En dan kan je een rekening weer openen of een nieuwe rekening en dat soort dingen. En als ik het goed begreep, krijg hij het voor elkaar om.

Jan-Jaap Oerlemans:
[44:58] De identiteitsgegevens van anderen te gebruiken. En dan zijn hoofd erop te plakken, met behulp van deepfaketechnologie. Om dan die verificatie te omzeilen en een rekening te openen. En dan eigenlijk geld van anderen over te maken weer. Deze werd toevallig volgens mij in elkaar gevat. Uiteindelijk door de Koninklijke Marechaussee. Er werd zijn telefoon in beslag genomen. Goed onderzoek op gedaan. Uiteindelijk vonden ze dus die tool waarmee hij dat deed. Maar ook, en dat vind ik ook fascinerend, chatgesprekken met ChatGPT. Van hoe omzeil ik de identiteitsverificatietechnologie van ABN AMRO. En dat is natuurlijk ideaal bewijs ook voor politie en OM om te gebruiken. En dat zie je wel vaker. dat mensen ook chatten, ChatGPT-historie, sprekshistorie, dat wordt gebruikt om bewijs te leveren voor de delicten.

Jurian Ubachs:
[45:46] Ja, het komt bij mij altijd een beetje in de categorie van don't say bomb on an airplane, weet je wel. Het is toch een beetje van, ja, gebruik geen woorden die geassocieerd worden met criminaliteit op plekken waar je... Ever eigenlijk gewoon. Waarom zou je? Dat is diezelfde fascinatie die ik dan heb als wat ik net zei. Dat keer op keer op keer alles via van die encrypted telefoons gaat. En elke keer worden ze weer gekraakt. Dit is een beetje hetzelfde. Je leest best vaak, ook als je True Crime podcast luistert of boeken leest. Dat waar het dan uiteindelijk misloopt voor verdachten. Vaak iets heel knulligs, doms. Iets laten slingeren. Iets zeggen op een plek waarvan je denkt achteraf. Zo goed. mensen die zo waanzinnig te werk gaan met het wissen van sporen en nou ja, de perfect crime bestaat niet, maar basically the perfect crime. En dan, omdat ze ooit iets een keer tegen een buurman hebben gezegd die nou met zijn vrouw heeft gebeld, wat dan weer gehoord? Dat vind ik zulke heerlijke knullige dingen.

Barend Frans:
[46:42] Of een e-mailadres 15 jaar geleden hebben gehad en toen ging je de criminele pad op en dan denk je van nou, ik moet hem toch een keer gaan wijzigen. En dan mazzelen hebben dat het een hele grote harde schijf was, waar niks werd verwijderd. En niks werd overschreven. En dat je hem dan in de locatieve clusters nog terug kan vinden. Geweldig. Echt top. Het zijn gewoon geweldige dingen.

Jan-Jaap Oerlemans:
[47:05] Maar het is wel ook daarbij. Die werkelijkheid is soms gewoon gekkerder. Ik kan bedenken. Ik ken een strafzaak bijvoorbeeld. Dan had iemand gezocht. En het was gewoon nog de internethistorie in de browser. Niet verwijderd. En er was een vrouw. Het is wel heftig even. Maar er was een vrouw. Voordeels vermoord. Want die had haar man in brand gestoken. En die was te komen overlijden.

Jurian Ubachs:
[47:24] Dat ook al niet meer?

Jan-Jaap Oerlemans:
[47:24] Nee, nee. Sorry man. Maar die heeft dus gegoogeld met terpentine overgieten en in brand steken. En dat wordt dan later gebruikt als bewijs van... ja, dit is wel met voorbedachte raden gebeurd en dit heeft plaatsgevonden. Of dat mensen googlen op het wapen die dan later wordt gebruikt... Om iemand weer om het leven te brengen. Dus ja, je ziet dat echt aan de lopende band. Ja.

Barend Frans:
[47:46] Heel lang geleden heb ik ook onderzoeken gedaan. Soms kijk ik nog wel eens mee. Maar dit zijn echt van die heerlijke briljantjes die je dan weer aan te lichten.

Randal Peelen:
[47:55] Ik realiseer me nu dat als je mijn hele historie van de afgelopen maanden zou kunnen bekijken. Dan denk je dat ik een gekke fascinatie heb met China. Want je hebt van die open AI modellen die je zelf kunt draaien. En de meeste of in ieder geval de beste daarvan komen nu uit China. Ja die je lokaal kan draaien.

Jurian Ubachs:
[48:15] Daar hadden we laatst ook een podcast over.

Randal Peelen:
[48:16] Ja, klopt. Dus ik ben daar steeds meer bedreven in. Alleen, ja, ik wil eigenlijk nu machines met meer geheugen om dat te kunnen doen. Want mijn laptop loopt tegen zijn limieten aan. Maar in ieder geval...

Jurian Ubachs:
[48:27] Jij hebt lekker veel contact met China.

Randal Peelen:
[48:29] De meeste...

Jurian Ubachs:
[48:31] Moet je mandarijn?

Randal Peelen:
[48:32] Heel, heel slecht. Die modellen die uit China komen, daar hebben ze heel vaak ook un-sensort. En daar is nog een overtreffende trap van me. Ik heb het woord eventjes, oh ja, destroyed volgens mij, versies van. En ik was dus in eerste instantie gefascineerd van, oké, ik ga dit model downloaden. Waarom zijn daar ook zoveel onderversies van? Maar blijkt dus dat in de VS heb je modellen en die willen we dan proberen wijs te maken dat ze wel mogen hacken. Of dat ze wel gaan vertellen hoe je een bom moet bouwen en dergelijke. Daar zijn de bedrijven in de VS heel erg mee bezig. In China zijn ze bezig met de censuur vanuit de staat. Ga je daar geen antwoorden uit krijgen die de partij daar niet wil hebben. Dus ik ben daar een keer voor de gein ingedoken. En ik denk nu als de politie mijn harde schijf gaat bekijken. Dat ze echt denken wat heeft Randal met Tiananmen Square. Dat hij dat opeens van de een op de ander door de dag zo passionerend vindt. En ik realiseer me opeens dat dat er heel gek uit moet zien. Als je zeg maar of als ik onder een bus kom. En mijn nabestaanden gaan eens kijken van waar was ik de afgelopen tijd mee bezig dat ze dan denken dat ik gefascineerd ben met China, is helemaal niet zo maar ik denk dat.

Jurian Ubachs:
[49:42] Ik wil ook zeggen als ik gefascineerd was met China.

Randal Peelen:
[49:45] Ik denk dat over het algemeen bij bijna iedereen als je maar goed genoeg in dienst historie kijkt daar wel wat dubieuze dingen tussen zouden staan al moet ik zeggen als het is ook nog een keer de context het.

Barend Frans:
[49:58] Is ook nog een keer de context waar je bepaalde zoekwoorden op zou gebruiken. En als het heel erg mooi past in het plaatje van een bepaald delict wat gepleegd

Barend Frans:
[50:11] is, ja, dan zou het heel mooi passen.

Jurian Ubachs:
[50:13] Dat is heel logisch, want je legt het nu uit. Maar ik heb me eigenlijk nooit zo gerealiseerd dat zoekgeschiedenis zo cruciaal kan zijn bij het bewijzen van voorbeelden achteraan. Want inderdaad, ik weet even niet meer welke, maar een van die vele aanslagen...

Randal Peelen:
[50:22] Ik wist niet dat die in brand zou vliegen. Wel, heb je gisteren genoegeld.

Jurian Ubachs:
[50:25] Nee, maar een van die eerder gepleegde aanslagen hadden ze inderdaad, dat stond er in de bijzin dat er dus gezocht was op hoe het herladen van een AR-15 werkt.

Randal Peelen:
[50:35] Oh ja, nee.

Jurian Ubachs:
[50:35] Ja, dat is op zich wel een vrij duidelijke indicatie dat je dus kennelijk een heel patroon van een AR-15 wil wegschieten en dan graag nog eentje wil. Dus dat is heel logisch als je het zo vertelt. Want je zegt van, ah ja, dat is natuurlijk superbelangrijk voor zo'n strafzaak.

Randal Peelen:
[50:48] Tegelijkertijd denk ik ook bij mezelf, volgens mij wordt mijn Google-zoekgeschiedenis steeds dunner. Ik open bijna nooit meer Google. Ik zit alles gewoon in mijn chatbots te gooien tegenwoordig.

Jan-Jaap Oerlemans:
[50:59] Veel meer gezocht met ChatGPT.

Randal Peelen:
[51:01] En daar kun je die historie kinderlijk eenvoudig wissen. Dat kan bij Google natuurlijk ook.

Jurian Ubachs:
[51:04] Ja, maar is dat dan ook service site weg? Bij jouw client site is het weg.

Randal Peelen:
[51:08] Dat zou zo moeten zijn.

Jurian Ubachs:
[51:11] Ja, dat zou zo moeten zijn. Dat zeiden ze over EncroChat ook.

Barend Frans:
[51:14] Ik heb nog een hele leuke applicatie voor je in de aanbieding. Daar kan je je ontzettend goed beveiligd mee. Blichten.

Jurian Ubachs:
[51:22] Er zitten vast een hele hoop mensen in Vught en andere plekken die bij zichzelf denken van verdorie.

Randal Peelen:
[51:27] De reden dat ik de aanname doe, dat ik wel zo... Kijk, er is bij vooral ChatGPT, dat is de een van de grootste natuurlijk. natuurlijk wel heel erg groot verschil tussen mensen die de gratis versie gebruiken en mensen die 100 euro per maand betalen. En als je die voorwaarden leest, dan staat er wel bij die eerste, ja, we mogen jouw reclame tonen. We gaan ook nieuwe modellen trainen op wat jij daarmee uitspookt. En als je betaalt, dan kun je zeggen, nee, ik wil niet dat je ermee traint. Ik betaal er wel voor. En dus neem ik aan dat ze de functie hebben gemaakt om niet te trainen op mijn gesprekken en dat ik ze ook echt kan verwijderen.

Jan-Jaap Oerlemans:
[52:00] Er is wel een verschil.

Randal Peelen:
[52:00] Denk ik.

Jan-Jaap Oerlemans:
[52:01] Dus het verbeteren van modellen, oké. Maar inderdaad echt het verwijderen van gesprekken. En zeker als een gesprek op bepaalde onderwerpen... Of dat echt weg is of dat ze dat moeten veiligstellen. Ik weet wel dat in ieder geval gespreksgeschiedenis... bij ChatGPT ook gewoon gevoorderd kan worden. Voornamelijk door Amerikaanse partijen, want het is een bedrijf in Amerika. Maar ja, hetzelfde is met berichten in Gmail of Outlook Mail. Die kunnen ook gevoorderd worden. Lastig is dat wel, omdat de inhoud van berichten... Dat krijgt meer veel privacybescherming. En dat is bekend dat dat lastig is. Wat je dus ziet is dat bijvoorbeeld de politie dan denkt. Dat gaan we proberen te omzeilen. Dus stel je bent een Nederlandse verdachte met zo'n telefoon. En je gebruikt Gmail of Microsoft of ChatGPT. Nou ja, met zo'n netwerkzoekingsbevoegdheid bijvoorbeeld. Na de inbeslagnomen van zo'n device. Kun je daarin inloggen en kan je meekijken. En kijken van zit daar misschien bewijsmateriaal in. Afhankelijk van het delict en hoe ernstig en waarvan je van wordt verdacht. Maar dat kan een manier zijn zonder dat je helemaal moeilijk hoeft te doen met vorderen van die gegevens. Om daar toch bij te komen.

Jurian Ubachs:
[53:02] Het is grappig dat je meekijkt hoe iemand met zijn agent is om te schrijven. Waarom geeft deze probleem de hele tijd zoveel context mee met zijn opdrachten?

Randal Peelen:
[53:11] Ik denk wel vast. Of het dat je jou op een gegeven moment aan hebt gehouden en dan blijkt je laptop vol te staan met AI-modellen. Die allemaal ongecensureerd zijn en helemaal kapot gemaakt. Dat je denkt, waarom heeft deze man dat? Het is een Franse hobby. Of...

Jan-Jaap Oerlemans:
[53:25] Je ziet wel soms... Wat lastig is, is van wanneer heeft iemand... Bijvoorbeeld iemand heeft een ongecensueerde lokaal model draaien. En dat gebruikt als een virtual girlfriend. Dat komt veel voor.

Randal Peelen:
[53:37] Shit, je brengt me op ideeën.

Jan-Jaap Oerlemans:
[53:38] Nee, maar... Ik heb het lastig. Iemand die heeft... Je gaat gauwen. En iemand die gebruikt dat om een seksgesprek te hebben. Voor zijn eigen plezier. Dat niet. Is dat strafbaar? Vinden we dat... Dat kan je onreeuw verwerpelijk vinden. Maar dat is niet schafbaar. Alleen, wat wordt wel strafbaar? Mogelijk, als dat. Wat nou als de minderjarige kind is. Dat je voordoet van...

Jurian Ubachs:
[54:03] Als je jouw LLM, die je lokaal draait, vertelt... Je bent een persoon van, weet ik veel, 12. I don't know.

Jan-Jaap Oerlemans:
[54:09] Ja, en dat doe je dan. Is het dan strafbaar? Nou ja, misschien wel. Want je kan ook... Als je dat doet met een virtueel persoon... Dan is dat tegenwoordig strafbaar.

Jurian Ubachs:
[54:19] Is dat zo? Grappig.

Jan-Jaap Oerlemans:
[54:20] Dat is niet zo lang geleden strafbaar gesteld. En waarom? Omdat we zeggen... Ten eerste vind ik het moreel verwerpelijk. Maar ook soms is dat een prelude naar daadwerkelijk seksueel misbruiken van minderjarigen. Dus samen hebben we gezegd van dat vinden wij in Nederland belangrijk om schatbaar te stellen. Maar dat zijn van die dingen. Maar, je zit daar wel op. Je hebt te maken met vrijheid van meningsuiting. Wanneer wordt fantasie strafbaar en wanneer niet. Dat zijn wel lastige vraagstukken. Maar die wel weer actueel worden ook door dit soort ontwikkelingen.

Jurian Ubachs:
[54:53] Dat doet mij denken aan iets heel anders. Waar ik toevallig vandaag op de redactie met mijn fans over had. Kennen jullie de videogame Bodycam?

Jan-Jaap Oerlemans:
[55:00] Nee, maar het is heel veel. Ik weet dat die worden kapot gemaakt nu.

Jurian Ubachs:
[55:04] Bodycam is, je kent wel de beelden die zeg maar veel in, ik weet niet of het in Nederland en Amerika, of er is altijd zo'n cameraatje meelopen. Bodycam is eigenlijk een shooter die daarop gebaseerd is. Dus je speelt helemaal vanuit dat perspectief. Dus je ziet vanuit dat perspectief ook het wapen. En het is een game met echt hyperrealistische beelden. Dus het is bijna fotorealistisch. Het ziet er echt heel echt uit. En nou, dat blijft zo kan werken. Een van de nieuwere updates is dat het Ragdoll systeem is geüpdatet. Dat wil zeggen, ze hebben zo goed mogelijk gekeken hoe reageert een lichaam eigenlijk op het moment dat het geraakt is door kogels. Iemand met kogels in zijn bovenlichaam zal misschien wel deels verlamd zijn, maar met zijn benen nog steeds proberen om uit te... En ik zat erover na te denken. En je hoort natuurlijk vaak, zeker als dingen, aanslagen gepleegd worden door jonge mensen, dan wordt er heel regelmatig gezegd, hij speelde veel videogames. Die link wordt vaak gelegd. Niet altijd terecht. Dus dat ik dit kijk. Dit is wel de meest realistische manier. Die je gaat zien in een game. Wat er gebeurt als jij een kogel afvuurt. Op iemand anders. Dit raakt voor mij heel dicht tegen.

Randal Peelen:
[56:15] Het is bijna oefenen.

Jurian Ubachs:
[56:17] Ik vind het eigenlijk niet meer oké. Als je dit nou afsluit. En je maakt er een trainingsmodule van. Voor FBI in Nederland. Dan denk ik van oké. Een inval doen en moeten schieten lijkt me ontzettend heftig om het te moeten doen dus dat je daarin een bepaalde trainingsmodule hebt die heel realistisch overkomt dat snap ik, maar dat je dit door gewoon mensen thuis laat spelen iets dat er zo realistisch uitziet ik, ik hou erg van creatieve vrijheid ik vind dat makers van games ver kunnen gaan, Maar dit lijkt bijna zo van, oh ja, wacht even, als het goed is, de natuurlijke tegendrang die je voelt om iemand anders iets aan te doen. Je kunt op deze manier bijna oefenen om daarmee om te gaan of zo. En dat gaat voor mij wel ver, hoor. Hoe kijken jullie daarnaar, zonder de game zelf te kennen?

Barend Frans:
[57:05] Ik ken de game zelf niet, maar ik geef je wel gelijk. Op een gegeven moment gaat het gewoon te ver.

Jurian Ubachs:
[57:10] Nou, we hebben het er ook over gehad, zouden we deze game bespreken op tweakers? Ik heb nee gezegd. We zitten niet letterlijk in die situatie nu. Maar ik denk dat ik het niet zou doen. Omdat ik het gewoon te realistisch vind. En ik gewoon geen zin heb om mensen die op een techsite komen. Om technews en gamenews en leuke reviews te lezen. Te confronteren met beelden van best wel realistisch uitziende mensen. Die dus dan neergeschoten worden. En ook met alle effecten die je daarbij hoort. Ik weet niet zeker of de death gorgel erin zit. Maar dat is toch niet iets wat je wil horen of wil zien. Als je gewoon een beetje aan het surfen bent.

Jan-Jaap Oerlemans:
[57:42] Ik ben zelf een vervent gamer. en ik moet toevallig denken aan cyberpunk bijvoorbeeld.

Jurian Ubachs:
[57:48] Ja, maar dat is duidelijk nepper.

Jan-Jaap Oerlemans:
[57:50] Dat het nepper is, ja. Ik vind het ook moeilijk om daar uitspraken over te doen. Ik merk wel vroeg toen ik jonger was, dacht ik altijd van ja, nou ja, ik geloof er helemaal niks van dat die relatie is te leggen, maar, en ik doe geen criminologisch psychologisch onderzoek om dat goed te weten, maar ik weet wel dat het niet helemaal conclusief is, van nou, het heeft helemaal geen effect of het heeft heel veel effect. Nee, misschien wel wat effect, maar het is moeilijk.

Jurian Ubachs:
[58:13] Het is altijd een beïnvloedbaar brein met andere onderliggende problemen... Waarbij gewelddadige films, bepaalde soorten muziek, games... Op een bepaalde manier best een rol gespeeld in kunnen hebben. Maar het is eigenlijk per definitie te simpel om te zeggen. Oh, hij speelde heel veel gewelddadige games. Dus daarom heeft hij zijn high school aangevallen. Dat is vrijwel altijd of eigenlijk altijd te kort door de bocht. Het zit er altijd meer achter. Maar goed, ik kwam er zo even op.

Randal Peelen:
[58:46] Ik had wel een gek gedachte. Je hebt toch dat systeem van Nvidia. Waardoor je op hun videokaart eerst gaan ze upscalen. En op een gegeven moment gaan ze daar voorbij. dat er echt een beetje een AI-sausje overbeelden is. Wil je nou voor dat we daar tien jaar moderner in zijn, dan wordt eigenlijk het woord deepfake bijna toepasselijk op wat jij uit je game haalt. En dan kan eigenlijk elke game met terugwerkende kracht bijna net zo realistisch getoond worden als je denkt, nou, dit is gewoon echt gefilmd. Dus als je dat gedagsexperiment even zo doortrekt, dat is vandaag niet mogelijk, maar dat gaat natuurlijk op een gegeven moment prima mogelijk zijn. En dat je zegt, maak eens van iedereen een naakt kind. En maak eens van iedereen een hyper-realistische sterfscène. Nou, dat gaat die... Ja, ik weet niet of diepveken het goede woord is, maar je komt, denk ik, veel makkelijker en veel laagdrempeliger op een heleboel dingen die we nu zeggen dat we eigenlijk strafbaar moeten stellen, terwijl het niet eens echt is. Het is een virtuele versie van iets.

Jurian Ubachs:
[59:45] Nee, maar bijvoorbeeld de meeste mensen zullen de beelden waarbij, wat was het destijds, Al-Qaida of wat dan ook, wat ze met een kapmes de nek van een soldaat doorzetten. De meeste mensen zullen die beelden niet willen zien, maar diezelfde mensen spelen bijvoorbeeld wel een game waar ze met een samurai zwaard tegenstanders, vrij letterlijk in stukjes hakken. Alleen dat ziet er veel minder realistisch uit, dat ziet er een beetje waartoe niet uit, het bloed spettet op zo'n Japanse anime stijl over het. En dan weten we, oh dit is nep, dus het is een spelletje. Maar als die grens vervaagt, ik vind dat heel tricky. En daar beweegt de wereld wel nu op een bepaalde manier ook inderdaad met DLSS 5 een beetje naartoe. Maar goed, hier moeten we misschien een keer een hele andere app aanbeiden.

Randal Peelen:
[1:00:26] Ja, dat is een fascinerende realisatie. Nou, ik betrap mezelf op de gedachte dat eigenlijk het woord deepfake vandaag best wel een logisch woord is. Maar dat verdwijnt natuurlijk op een gegeven moment uit het jargon. Want wat is een deepfake? Ja, iets wat door AI is aangepast om ergens anders op te lijken. Ja, in feite is alles wat je op je beeldscherm ziet zo'n beetje een deepfake. En als je er lang genoeg af benadenkt. Maar goed, Jurian heeft gelijk. Hebben we nog een leuke vraag van luisteraars?

Jurian Ubachs:
[1:00:52] Nou ja, dit hebben we al een beetje geraakt. Maar ik wil hem toch even voor de zekerheid erin gooien. Want Brian die vraagt. Wordt er nog veel informatie, bewijsvoering, aanwijzingen gehaald uit de gekraakte PGP? Zoals EncroChat, Sky ECC en dat soort communicatie. En wat gebruiken de criminelen nu?

Jan-Jaap Oerlemans:
[1:01:11] Ja, ik denk dat we allebei de antwoorden kunnen geven. Maar van wat ik weet, ik baseer me vooral op die jurisprudentie dus. In Nederland wordt jurisprudentie gepubliceerd op rechtspraak.nl. In sommige landen dat is het niet zo, in België bijvoorbeeld. En ze zeggen dat maar ongeveer 10% van de uitspraak urbouw wordt gepubliceerd. Maar ik had de kijkersvragen ook even bekeken. En alleen al in 2026, dit jaar, waren er nog 89 veroordelingen waar bewijs uit EncroChat een rol in speelde. Misschien niet de bepalende bewijsrol, maar er waren dan berichten gerelateerd aan enkele zetten die te maken hadden met het delict en daardoor als bewijs belangrijk waren.

Jurian Ubachs:
[1:01:49] Omdat je niet één super hard bewijsstuk hebt, maar wel heel veel kleine bewijsstukjes.

Jan-Jaap Oerlemans:
[1:01:52] Heel vaak zijn het neerdere bewijsstukken, ja.

Jurian Ubachs:
[1:01:54] Kom je alsnog wel één natuurlijk.

Barend Frans:
[1:01:55] Het kunnen ook plusjes zijn.

Jurian Ubachs:
[1:01:57] Hè? Zeg je?

Barend Frans:
[1:01:57] Plusjes.

Jurian Ubachs:
[1:01:58] Wat zijn dat?

Barend Frans:
[1:01:59] Goed, je probeert een zaak te maken bij een verdachte en je hebt een bepaald bewijs. En als je dan extra bewijzen wil hebben, dus het eigenlijk je zaak nog sterker wil maken dan hij al is misschien is hij net niet zo sterk dan haal je dus juist, of kan je uit die berichten ook weer die plusjes halen van joh, we weten nu dat, dit persoon in de chats dat ben jij, je hebt dit en dit gedaan dat is een plusje, je is strafbaar en, Zo wordt het soms ook een beetje opgeplust.

Jan-Jaap Oerlemans:
[1:02:29] Ja, ik zie ook heel vaak dat bijvoorbeeld een verklaring van de verdachte of, een ander inbeslaggenomen device of locatiegegevens. Waar was diegene op welk moment? En dat kan gaan, locatiegegevens van de telecomprovider die zijn gevorderd, maar heel vaak ook ANPR-gegevens of dat soort dingen. Dat speelt allemaal een rol inderdaad om die verdachte dan daaraan te relateren. Er is wel één ding die ik niet heb gezegd hiervoor. Ik zei van ja, ik kan me best voorstellen dat het als bewijs wordt gebruikt als het te relateren is aan een verdachte en iemand wordt veroordeeld. Er is wel veel discussie over hoeveel transparantie moet een politie nou geven. Ten eerste in die verzameling van hoe hebben ze dan precies gehackt en geïntercepteerd. Ik denk bij Sky is de CNN-kortchat is dat op hoofdlijnen nu best wel duidelijk geworden. En ik snap best dat de politie zegt, nou we gaan niet precies vertellen welke kwetsbaarheid we hebben gebruikt om binnen te komen.

Barend Frans:
[1:03:20] Een aantal weken geleden is dat bekendgemaakt geloof ik.

Jan-Jaap Oerlemans:
[1:03:22] Oh ja, oké. Nou ja, wel een paar jaar na dato.

Barend Frans:
[1:03:27] Volgens mij is er in Engeland een rechter geweest die heeft iemand de opdracht gegeven om het helemaal te onderzoeken. Er schijnt een bekende onderzoeker te zijn geweest en die heeft dat helemaal, nagebootst, om het zo maar te zeggen.

Randal Peelen:
[1:03:40] Dat is ook nog wat dat je in die rechtszaal staat en zei, nee, dat heb ik helemaal niet gezegd. De politie maakt dat ervan.

Jan-Jaap Oerlemans:
[1:03:44] Nou ja, maar goed. Dat is angst.

Barend Frans:
[1:03:47] En daarom zullen ze, dat weet ik eigenlijk al honderd procent zeker, niet alleen maar op berichten veroordeeld worden. Want er zal altijd meer bewijs moeten zijn dan een berichtje.

Jan-Jaap Oerlemans:
[1:03:58] Ja, ik ken wel een paar zaken waar het echt bijna voornamelijk op zo'n bericht was.

Barend Frans:
[1:04:03] Ja, maar dan moet er echt meer aan de hand zijn.

Jan-Jaap Oerlemans:
[1:04:05] Ja, nou ja, precies. De omstandigheden zijn vaak wel anders. De context is anders. Maar waar ik naartoe wil, dat is dus één punt. Hoeveel transparantie moet je geven hoe je tot die datacent bent gekomen? Maar ook wel, hoe kom je dan tot die selectie van berichten die je relateert aan een verdachte en een schatbaar feit? En heel lang gebeurde dat gewoon met sleutelwoorden. Dus dan gebruik je slang voor drugsverkoop, blokken voor cocaïneblokken en de stempels die erop komen. En daar ga je op zoeken en uiteindelijk kom je tot de selectie van berichten. Die worden gerelateerd aan mensen. Als dat de verdachte is, die wordt opgepakt, de vijzer wordt in beslag genomen. Dan kan je zeggen, oké, jij hebt die verstuurd en dan kan dat een bewijsrol spelen. Dat zie je. Maar dan zegt de verdediging bijvoorbeeld van ja, maar die hebben niet gezocht hier en hierop. Wil je daar ook op zoeken? En daar moet wel tot een bepaalde hoogte ruimte voor zijn. En ook bijvoorbeeld als wordt gezegd dit bewijs wordt tegen jou gebruikt, dat je dat mag inzien. En het is wel zo dat we in Nederland dat best wel knap geregeld hebben. Dat verdediging als het gaat om die EncroChat- en Sky ECC-berichten. Dan mag de verdediging inloggen in een systeem die ook de politie gebruikt om die berichten te bekijken. Het Hansken-systeem. En dan kunnen zij zelf die berichten nog eens bekijken. Om te kijken, kunnen wij niet komen tot een ander scenario. Dat ik het niet was. Of dat Pietje Puk het was. Weet je wel. En dat is wel een best practice, zeg maar, die wij in Nederland hebben.

Jurian Ubachs:
[1:05:30] Ja, dan krijg je ook veel dat mensen op elkaar gaan wijzen. Toch als er meerdere mensen op dezelfde plek op het staat. Ja, je moet uiteindelijk wel wezen wie wie was.

Jan-Jaap Oerlemans:
[1:05:38] Ja, en tot een bepaalde hoogte wil je dat ook geheim houden. Omdat er misschien een lopend opsporingsonderzoek is naar iemand. Of omdat je niet wil dat iemand wordt geïntimideerd. Omdat hij in die berichten staat. En daar heb ik best wel begrip voor. En dat zie je ook dat Nederlandse rechters daar ook wel begrip voor hebben. Tot een bepaalde hoogte mag je het geheim houden. Tot een bepaalde hoogte krijg je toegang tot die berichten. En dan heb je dus tegenspraak erop. Maar er wordt nu ook al veel onderzoek gedaan naar van oké, in hoeverre moet de politie dan duidelijk maken welke stappen hebben ze genomen om tot die dataset te komen en moet dat gedeeld worden met een verdachte of niet. Ik heb daar niet de antwoorden op, maar ik vind het wel goed dat daar wel over wordt nagedacht en verder wordt onderzocht van hoe gaan we dat doen. En waar ook veel discussie niet over is, je hebt er zelfs een hele evaluatiecommissie ingesteld om te kijken van hoe gaat de politie eigenlijk om met die grote hoeveelheden gegevens die vast zijn gelegd. We hadden het over honderden miljoenen IT-cryptophone operaties. Nou, daar zijn er acht of negen van inmiddels. Ik heb 53 of nee, want het was 50 cybercrime operaties in kaart gebracht, waarbij ook bij elke operatie grote hoeveelheden gegevens veilig zijn gesteld. Het is wel de vraag van oké, wat mag de politie nou met die data? Wordt daar goed mee omgegaan? Hoe is het toezicht erop? Nou ja, daar komen geheid allerlei aanbevelingen en, ook wel juridische ontwikkelingen op.

Randal Peelen:
[1:07:04] Ja, we hebben op onze Slack, en ik zit even te tellen, meer dan tien Thijsen. Volgens mij hebben we er echt een stuk of twintig.

Barend Frans:
[1:07:11] Gewoon Thijs.

Randal Peelen:
[1:07:12] Maar de gewone Thijs.

Jurian Ubachs:
[1:07:14] En drie ervan zijn cybercriminelen.

Randal Peelen:
[1:07:16] De gewone Thijs, die vroeg, en daar ga ik een beetje parafaceren, want ik denk dat er wel een leuke gedachte achter zit. Hij vroeg, waarom is de wereld te klein als een hacker een bedrijf weet te hacken, maar lijkt er vanuit de politiek weinig ophef te zijn als AI-agents van OpenAI hugging face weten te hekken. Nou, ik vind deze niet zo spannend, want ten eerste is hier wel degelijk heel veel ophef geweest. Er is in elk journaal voorbij gekomen, dus waar heb je het over? Ten tweede, het zit er meer in de aansprakelijkheid, want ik heb dan zo'n auto van Tesla en als je die zelf laat rijden, dan is het heel duidelijk, jij staat achter het stuur, je hebt 100, 100,0% verantwoordelijk voor hoe die auto rijdt. Op het moment dat je een bedrijf hebt en je laat een AI-agent iets doen.

Randal Peelen:
[1:07:59] Dan lijkt het mij vanzelfsprekend dat dat bedrijf ook aansprakelijk is. Weer een slag ingewikkelder, want bedrijven hebben medewerkers en één specifieke medewerker kan iets doen wat niet mag. En dan is het bedrijf van zich weer niet aansprakelijk. Is zo'n agent die geïnstrueerd is dat het niet mag, het vervolgens toch doet, dan net zo aansprakelijk als een medewerker die het wel doet, terwijl het niet mag? Het konijnenhol wordt steeds dieper. Maar meer nog dan dat, criminelen die AI gebruiken om strafbare feiten te plegen. Maar die server staat heel ergens anders. Die omschrijving van die opdracht was best wel obscuur. Er gebeurt iets wat niet helemaal de bedoeling was. Net zo goed nog crimineel. Hoe snel en hoe ingewikkeld wordt dit... Op het moment dat we steeds meer AI gaan zien... die ook betrokken is bij het plegen van strafbare feiten?

Jan-Jaap Oerlemans:
[1:08:48] Ja, een hele goede fascinerende vraag, maar ik heb daar nog geen antwoord op. Nee, ik vind het wel best wel scary ook.

Jan-Jaap Oerlemans:
[1:08:58] Uiteindelijk, ik heb ook een keer onderzoek gedaan naar drones en aansprakelijkheid. En toen was het nog dat er weinig bommen onderaan gehangen werden. Maar toch, die bestuurder is aansprakelijk. En als er een software fout is en daardoor doet hij iets anders, dan kan die fabrikant aansprakelijk zijn. Dan heb je te maken met het civielrecht weer een ander rechtsgebied. Maar bij echt voor inderdaad cybercriminaliteit, ja dan is het kan het steeds meer een onderdeel worden in het hele ecosysteem om tot cybercriminaliteit te komen en dan daadwerkelijk geld weer te verdienen en dat geld weer te wassen en, Ja, uiteindelijk, stel je bent de maker van zo'n systeem. Je hebt het zo gemaakt dat het op eigen oudje dat allemaal kan doen. En zo veel mogelijk verborgen blijft. We hebben wel gewoon een regeling waarbij ook het maken... En dan zie ik het eigenlijk als malware, als kadaardige software dat je kan maken. Die dingen kan doen om computerverredenbreuk te plegen, te hacken. Of dedelsaanvallen te plegen. Ja, alleen al het bezit daarvan is strafbaar. Het verspreiden daarvan is strafbaar. En het vervaarden ervan is strafbaar. Als het duidelijk is gemaakt om die delicten te gaan plegen.

Jan-Jaap Oerlemans:
[1:10:06] En dan heb je vaak een discussie over software die ethisch hackers ook gebruiken of gewoon bij een bedrijf werken. En dan dezelfde hacksoftware gebruiken die criminelen eigenlijk ook gebruiken om te doen. Maar dan is dus het punt dat die software is gemaakt met het oogmerk om delicten te gaan plegen. En als die software vervolgens op een forum wordt aangeboden voor geld. En er zijn dus alle factoren waar je naar moet kijken. Om te kijken, dan ben je strafbaar. Dan val je onder die belix om staan.

Randal Peelen:
[1:10:33] Er zijn dus ook wel AI-modellen die specifiek daarvoor ontketend worden. Dus dit gaat wel een ding zijn.

Jurian Ubachs:
[1:10:40] Denk ik.

Jan-Jaap Oerlemans:
[1:10:40] Ja, dat denk ik ook.

Jurian Ubachs:
[1:10:42] Dan moeten wij natuurlijk naar de bonus. En meestal aan de bonus gaan we al een hele andere ding bespreken. Maar er zit zoveel kennis en zoveel verhalen. Dat ik zoiets heb. Zullen we de bonus gebruiken om nog meer vragen en nog meer verhalen te tackelen?

Randal Peelen:
[1:10:52] Ik kan daar wel mee leven. Tot zover deze aflevering van Met Nerds om tafelen. Met Nerds om tafelen is een podcast door Jurian Ubachs en mij, Randal Peelen en onze panelleden zijn Annelies Verhelst, Ruurd Sanders en Sander Bijleveld. Worden wel eens geïdderd door Maarten van Woerkom, maar deze ga ik zelf doen. Onze gastneurds van vandaag, Jan-Jaap Oerlemans. Waar kunnen mensen meer over jou te weten komen? Dank dat je hier was en bent.

Jan-Jaap Oerlemans:
[1:11:15] Graag gedaan, dat was hartstikke leuk. Ik heb een eigen website, jjoerlemans.com. En het is een soort blog. Ja, elke twee maanden vat ik cybercrime jurisprudentie samen. En die zet ik erop. Af en toe een publicatie of een rapport die ik interessant vind. En ik denk dat je daar het meeste over mij kan vinden.

Randal Peelen:
[1:11:35] Weet je wat ik fantastisch vind aan jouw website? Je hebt tegenwoordig steeds meer websites waar je naartoe gaat. En dan denk je, oh, deze is duidelijk met AI gemaakt. Maar jouw website is duidelijk een WordPress thema uit de jaren negentig. Dat vind ik heerlijk. Dat is gewoon genieten.

Jurian Ubachs:
[1:11:49] Ik kan echt genieten van dit soort infographics master tijdlijn. De evolutie van cybercrime interventies tussen 2010 en 2026.

Randal Peelen:
[1:11:56] Ja, want daar kun je toch een poster van maken.

Jurian Ubachs:
[1:11:58] Ja, maar voor real.

Randal Peelen:
[1:11:59] Dan kun je gewoon uitgegroot aan de muur.

Jan-Jaap Oerlemans:
[1:12:01] En als het AI gegenereerd is, dan zet ik er wel altijd bij. En ik zie er ook soms inside jokes in en zo. Maar ja, ik probeer er transparant over te zeggen. Veel handwerks zit erin.

Randal Peelen:
[1:12:11] Love it. En naast je zit nog steeds Barend Frans. Nou, Barend, ik heb het gevoel dat ik jou elk half jaar minimaal spreek. of in een podcast heb, maar waar kunnen mensen jou vinden?

Barend Frans:
[1:12:23] Nou, voornamelijk op LinkedIn. Denk ik. En als je van mijn... Hardlopen houdt, dan kan je me eventueel nog op X volgen. Dan krijg je ook nog een klein beetje voetbal mee. Maar dat is het eigenlijk. Meer heb ik eigenlijk niet. Ja, Bluesky heb ik ook nog maar.

Randal Peelen:
[1:12:41] Dus de helft van jouw werk is mensen die van jou weg proberen rennen te vangen. De andere helft van jouw leven is zelf wegrennen.

Barend Frans:
[1:12:50] Ik probeer weg te rennen. Om die mensen juist weer te vangen in Nederland.

Jurian Ubachs:
[1:12:54] Het is onderscheid. Het is over voetbal en dan zo in gesprek te komen met al die hooligans. Zo gaat dat.

Randal Peelen:
[1:12:58] Terecht bij mezelf de aarde is rond, dus uiteindelijk ren je altijd wel achter iemand aan.

Jurian Ubachs:
[1:13:02] Dat is waar. Diep filosofisch.

Randal Peelen:
[1:13:07] Meer informatie over ons staat te vinden op onze door AI gegenereerde website mnot.nl. Je kunt ook als een Slack joinen. Daar gingen meer dan 2600 jammantike bouwen.

Jurian Ubachs:
[1:13:16] Waaronder 10 Thijssen.

Randal Peelen:
[1:13:18] Vele Thijssen. Een heleboel Wouters. Lux. En wat zijn er nog meer? Je kunt ook vragen stellen aan de volgende gastnerds in het kanaal. Vragen van de luisteraar. Je kunt ook vriend van de show worden en dan ben je Echt een leuke luisteraar. Dan kun je in ons clubhuis. Je kunt naar onze meetups komen. Je krijgt stickers en biervultjes door je brief. Dus je luistert zonder reclame. Eer dan de rest. En elke week met een pracht van een bonus aflevering.

Jurian Ubachs:
[1:13:38] Die gaan we zo nog even opnemen natuurlijk.

Randal Peelen:
[1:13:39] Die gaan we zo meteen nog even opnemen. Voor nu hartelijk dank voor het luisteren. En tot de volgende keer.