337 – AI voor het leger en meekijken op jouw telefoon? – verkiezingsplannen bekijken met Evelyn Austin
De verkiezingen komen eraan en je zou bijna denken dat ze gaan over bestaanszekerheid, kencentrales en of Omtzigt president wil worden. Maar wij nerds zijn natuurlijk vooral geïnteresseerd in het Digitale Stembusakkoord en wat de partijen denken over kunstmatige intelligentie en privacy. Daarom doken we in de verkiezingsprogramma’s met Evelyn Austin, directeur bij Bits of Freedom.
Shownotes
👉 Wat zegt de politiek over AI?
👉 De verkiezingsprogramma’s doorgelicht: wat willen politieke partijen met privacy?
👉 Het Digitale Stembusakkoord 2023
👉 Niks te verbergen? Toch steeds meer uit te leggen
Tijdschema
0:00:00 Reclame: ICT Group
0:04:50 Het Digitale Stembusakkoord
0:08:10 Alexandra van Huffelen als staatssecretaris
0:11:18 Een minister van cyber
0:15:06 Digitale expertise in ministeries
0:18:21 Camera-toezicht voor meer veiligheid.
0:19:34 Online privacy
0:25:57 Overheid als speler in privacybescherming
0:29:37 VVD en CDA voor toegang tot persoonsgegevens
0:30:27 Privacybeleid van politieke partijen
0:36:46 Techno-optimisme versus pessimisme
0:43:02 Boeven en beroepscriminelen
0:47:35 Impact van overheidsdata
0:56:26 End-to-end encryptie en de beperkingen ervan
0:57:07 Europese samenwerking en nationale wetgeving
1:00:08 Digitale Europese identiteit
1:01:36 Generatieve AI onderbelicht
1:08:03 Naaktfoto’s genereren
1:14:41 Grenscontroles en gezichtsherkenning binnen Europa
1:16:03 Estland en Thailand als voorbeelden van digitale overheid
1:19:26 TikTok al verboden onder Europese wetgeving
1:21:46 Afkondiging
Net de aflevering geluisterd. Rond (o.a.) 58 minuten gaat het over client-side versleutelde berichten scannen.
In deze discussie mist naar mijn idee iets. In de podcast wordt geconcludeerd “dan heb je aan die hele versleuteling dus niks”.
Toch wel: lokaal scannen staat toe, in ieder geval voor deskundige nerds, om in te zien wat de code doet en/of welke berichten gerapporteerd worden ter controle. Vergelijk dat met de situatie waar alles woordelijk op de server van de aanbieder leesbaar is: je weet niet waarop ze scannen, of ze er een AI/LLM op trainen, of het gaat lekken, of dat ze over vijf jaar besluiten dat nog eens onder de loep te nemen. Er is geen controle mogelijk; je kan daar niet zomaar binnenwandelen.
Maar wie verplicht jou om lokale scans te laten gebeuren? Criminelen houden zich per definitie niet aan de regels, dus de wetgeving wordt gemaakt met criminelen in gedachte maar geldt voor iedereen. Client-side scanning is pas effectief wanneer het onpraktisch tot onmogelijk is om het scannen en de rapportering uit te schakelen.
Dit gevolg wordt zelden genoemd in berichtgeving en discussies die ik zie over het onderwerp.
— verdere voorbeelden —
Op dit moment is jouw apparaat jouw apparaat, dus je mag daarop draaien wat je wil. Als het amerikaanse Facebook WhatsApp lekker preuts laat scannen op het woord ‘sex’ (zoals bijv. Skype server-side doet), dan mag jij een debugger draaien en dat eruit slopen of het netwerkverkeer aanpassen zodat jouw sexting met je vriend(in) niet onversleuteld richting Facebook gaat. Als client-side scanning door de wetgever als gewenst wordt bepaald en moet gaan werken, moet dat niet kunnen.
Het klinkt voor mij heel extreem. Zou het ooit zover komen?
Kijk naar DRM. De wetgevende en rechterlijke macht spreekt zich algemeen in het voordeel van DRM uit, waarin het meestal illegaal is om de beveiliging van de fabrikant te doorbreken ook binnen jouw eigen muren, of je dat nou leuk vindt of niet. Op smartphones zijn we ook een heel eind: vanalles werkt er niet als root gedetecteerd wordt (zoals beveiligingsupdates en betalen; toch vrij essentiële dingen) en ook het Google-Apple-duopolie heeft er moeite mee. Fairphone kreeg bijvoorbeeld geen licentie van Google om Youtube of de Play Store op het apparaat te zetten, wat iedereen wil, als ze root standaard aanboden (Fairphone forum topic 11893). Apple staat al helemaal niks toe qua alternatieve software op hun hardware, pas nu de DMA het verplicht ga je apps mogen installeren die niet Apple’s persoonlijke goedkeuring hebben. Dannog kunnen die apps op iOS niet inzien, laat staan aanpassen, wat het OS of WhatsApp op jouw telefoon met jouw gegevens doet.
Of denk aan een bankrekening. Hoeveel werkgevers of verhuurders zouden salaris of huur nog contant willen overdragen? Het is essentiëel en toch schrijven we vergaande anti-witwas-wetgeving: Radar had eerder dit jaar een uitzending met voorbeelden van mensen die per abuis en zonder uitleg hun rekening geblokkeerd kregen en wekenlang geen eten konden kopen omdat de bank nog ‘in onderzoek’ was naar of ze crimineel zijn of niet (wat me trouwens meer iets lijkt voor een rechter?). Dit is legaal en door de wetgever voorgeschreven.
— einde extra context —
Jullie (met name de gastnerd) benoemden hoe slecht mensen geïnformeerd zijn over allerlei onderwerpen die ons wel raken. Als client-side scannen in een toekomstige podcast ter sprake komt, zouden enkele gevaren maar ook voordelen benoemd kunnen worden zodat onze nerds wel een realistische mening kunnen vormen