Hij en zijn hoogbegaafde medestudenten kregen van een NAVO-brigadegeneraal een opdracht om hun visie op het bondgenootschap na 2035 te formuleren. Daarbij moesten zij rekening houden met de stand van augmented reality, artificial intelligence, machine learning, blockchain en robotisering. ‘Ach,’ zei Lody tegen de beduusde brigadegeneraal, ‘een algoritme kan nauwelijks onderscheid maken tussen een bosrand met daarvoor een auto en daarvoor een baby die op de grond zit. Niet verstandig om daarop kogels af te vuren.’

Het genuanceerde beeld van Lody over de stand van wiskunde, ­machine learning in het bijzonder, is verfrissend. Vooral wanneer we dit vergelijken met het hoog­dravende EU framework on algorithmic accounta­bility and transparency dat onvermijdelijk onze kant op drijft. Het Europese toverwoord is Algorithmic Awareness-­Building. In toenemende mate wordt algoritmiek gezien als een Nemesis voor de rechtsstaat of zelfs de civil society. Geautomati­seerde besluitvorming is volgens bepaalde toezichthouders en (juridisch) wetenschappers een zelfdenkend Mordor dat beheerst moet worden. ‘Nederland wordt wakker!’ roept het onderzoeks­rapport ‘Algoritmes en grondrechten’ van de Universiteit Utrecht (2018).

De kloof tussen algoritmiek en het begrip daarvan bij de toezichthouders, rechterlijke macht én de advocatuur is groot. Aandoenlijk is te zien hoe sommige (juridisch) wetenschappers de kloof willen overbruggen. Ik zag op YouTube een deskundige, in een vorig leven overduidelijk lachband bij ‘Zeg ‘ns Aaa’, die met droge ogen beweerde dat ‘algoritmiek eenvoudiger en begrijpelijker moet’. Complexe functionaliteit uit algoritmiek verwijderen, is hetzelfde als de elektrische motor uit een Tesla halen omdat iemand de werking niet begrijpt. Hallo! 2019 belde net!

Toch valt een positieve ontwikkeling te constateren. In de advocatuur zien we steeds meer jonge advocaten die fatsoenlijk kunnen programmeren en algoritmiek begrijpen. Jonge advocaat-stagiairs bewegen soepeler binnen tech-ondernemingen dan veel van hun senior kantoorgenoten. Een andere gunstige ontwikkeling is dat advocatuur, rechterlijke macht en, schoorvoetend, het Openbaar Ministerie de bayesiaanse statistiek omarmen bij de weging van bewijsmiddelen. Contra-intuïtief, syste­matisch nadenken werkt goed als beperkte financiële middelen efficiënt gealloceerd moeten worden. Bijkomend voordeel: de advocatuur wordt door deze ontwikkeling een stuk interessanter voor jonge studenten met een bèta-achtergrond. Naarmate het begrip over algoritmiek toeneemt en meer bèta-­studenten kiezen voor de advocatuur, zal de hysterie over het gevaar voor rechtsstaat en civil ­society rap afnemen. Een kwestie van tijd en vurig hopen dat geen onherstelbare schade wordt aangericht. Uit ­onbegrip.

Bayesiaanse statistiek

Harry Veenendaal

Columnist

Profiel-pagina
Advertentie