Doemdenkers en zelfs wetenschappelijk onderzoekers voorspellen dat door Artificial Intelligence, Deep Learning in combinatie met het gebruik van data-lakes en de enorme hoeveelheid vrije data die te vinden is op het (dark)web anonimiteit en privacy verdwijnen. De mensheid wordt geregeerd door geautomatiseerde besluitvorming. Feit is dat voor het eerst in het bestaan van de menselijke maatschappij het leven deels wordt beheerst en bestuurd door niet-mensen. Wat is hier de realiteit en de toekomst? Hoe reageren toezichthouders en wetgevers op deze ontwikkeling? Op dit moment vooral middels management by incident. Zo lanceerde de VVD eerder dit jaar de initiatiefnota ‘Menselijke Grip op Algoritmen’ en De Nederlandsche Bank het discussiedocument ‘General Principles for the use of Artificial Intelligence in the financial sector’.
Dergelijke beleids- en wetgevingsinitiatieven proberen achteraf technologische ontwikkelingen te harnassen en te sturen. De fundamentele vraag op welke wijze deze vorm van besluitvorming echter in onze maatschappij dient te worden ingebed, is overgeslagen. Zo verbiedt de AVG geautomatiseerde besluitvorming in de meeste gevallen en acht het uitsluitend toelaatbaar als deze besluitvorming transparant is en kan worden uitgelegd. Hoe kan hier zowel juridisch als ethisch vorm aan worden gegeven zonder dat we als maatschappij achter de feiten blijven aanlopen?
De vraag is of wet- en beleidsmakers de rechtsfilosofische basis ontduiken. Wat is het juridisch-ethisch normenkader voor geautomatiseerde besluitvorming? Moet niet eerst een rechtsfilosofisch debat worden gevoerd over hoe geautomatiseerde besluitvorming binnen de rechtsstaat past? Iedere rechtenstudent heeft tijdens zijn studie ‘A theory of Justice’ van John Rawls gelezen. Daaruit volgt dat (menselijke) rechtspraak een essentiële bouwsteen van onze rechtsstaat is. Maar de mogelijkheid dat een (juridische) beoordeling uit menselijke handen wordt gehaald, bestaat pas een paar jaar. Wat gebeurt er als geen menselijke maat meer bestaat? Moet niet eerst pas op de plaats worden gemaakt met wet- en regelgeving en een rechtsfilosofisch normenkader worden geformuleerd? Daaruit volgt toch immers kaders en beleid?
Schreeuwt geautomatiseerde besluitvorming bovendien niet om de instelling van een constitutioneel hof? Wie bewaakt straks anders de grondrechten? Is een constitutioneel hof niet onvermijdelijk ter toetsing van strijdigheid van wetten of wetskrachtige normen met de fundamentele rechten en vrijheden of met het gelijkheidsbeginsel bij geautomatiseerde besluitvorming? Vragen, vragen en nog meer vragen.