mandeville-0

Computeralgoritmes worden steeds vaker ingezet bij het in kaart brengen van verdachten. Openbaar ministerie, politie, maar ook de belasting- en inlichtingendienst maken frequent gebruik van software om criminelen, fraudeurs en terroristen in beeld te krijgen. ‘Dat moeten we omarmen’, stelde Inge Philips-Bryan, partner Cyber Risk Services bij Deloitte en panellid tijdens het seminar. ‘Cruciaal is het handelingsperspectief: de overheid mag persoonlijke gegevens geautomatiseerd analyseren als zij beoogd om wetsovertreders op te pakken.’ Het seminar werd gehouden bij de Hoge Raad door de Mandeville Academy, een opleiding uit Gouda voor hoogbegaafde jongeren.

Duizend huisbezoeken

Philips-Bryan gaf als positief voorbeeld de gemeente Rotterdam, die vorig jaar drie probleemwijken systematisch doorlichtte op uitkeringsfraude en andere delicten. Dit gebeurde met het Systeem Risico Indicatie (SyRI), waarin adres- en persoonsgegevens aan elkaar worden gekoppeld. Op zo’n 1100 van de 10.000 adressen leidde dat tot een huisbezoek, om te checken op mogelijk misbruik. Het project riep breed protest op omdat de privacy van burgers in gevaar zou komen. ‘Onterecht’, meende Philips-Bryan. ‘Het is een effectief middel dat flink bespaart op menselijk opsporingswerk. Bovendien gaat het om een huisbezoek, er komt niemand om zes uur ‘s ochtends je deur intrappen. Dat is geen inbreuk op de persoonlijke levenssfeer.’

De visie van fraudebestrijder Philips-Bryan werd gedeeld door diverse experts in het panel, veelal wetenschappers gespecialiseerd in de toepassing van algoritmes. ‘Profiling op basis van algoritmes kan een heel rechtvaardig middel zijn om de samenleving te ondersteunen’, aldus natuurkundige en statisticus Frank Alkemade, forensisch expert bij onder meer de Hoge Raad. ‘Het gebruik van dit soort software zorgt alleen maar voor vuile data en een tunnelvisie in de opsporing’, wierp iemand uit de zaal tegen. ‘Dat is inderdaad een risico, maar dat kun je ondervangen’, antwoordde Alkemade. ‘Je kunt vaak goed corrigeren voor een bias.’

Samenspel jurist

AI-hoofdbeeld

Als de computer beslist

Geautomatiseerde besluitvorming komt in alle rechtsgebieden voor. Wat is het eigenlijk en welke rol ligt er voor advocaten?

Een econoom uit het publiek noemde nog een bezwaar: ‘De werking van een algoritme of model hang sterk van de onderliggende theorie. Als je die theorie wijzigt, krijg je een heel ander model met andere uitkomsten.’ Algoritmes zijn minder objectief dan ze eruit zien, wil hij zeggen. ‘Dat klopt’, beaamde hoogleraar wiskunde Ger Koole. ‘Daarom is het samenspel tussen de ict-expert en de jurist zo belangrijk. Dan kun je zo precies mogelijk omschrijven naar wat voor soort data je op zoek bent.’ Ook Alkemade pleitte voor meer kennis bij juristen, ook bij de rechters en advocaten die hier mee te maken krijgen. ‘Nu denkt een rechter nog te vaak ‘Oh, de deskundige zegt het, het zal wel kloppen’. Dat is geen goede zaak.’

foto-Stijn-Dunk

Stijn Dunk

Redacteur Advocatenblad

Profiel-pagina
Advertentie