Bij de term Artificial Intelligence (AI) denkt het gros van de mensen voornamelijk aan zelfrijdende Ubers, Japanse robothonden of Siri. Toch is de aanwezigheid van AI en andere slimme technologie niet tot deze voorbeelden beperkt. In tegendeel: AI is in (exponentiële, soms onopgemerkte) opmars – ook in de juridische wereld. Zo kwam Hema al in 2013 met de Notarisservice: klanten konden voor 125 euro, met behulp van een digitaal vragenformulier, zelfstandig een samenlevingsovereenkomst of testament opstellen die na ondertekening van een aan Hema verbonden notaris rechtsgeldig werd. Hema maakte voor het opstellen van deze akten grotendeels gebruik van een geautomatiseerd systeem[1].
De Hema-notaris wekte verontwaardiging binnen de beroepsgroep: werd de geheimhoudingsplicht niet overtreden? Was er voldoende mogelijkheid voor controle op de door Hema verrichte werkzaamheden? Werd de onafhankelijkheid van de notaris wel gewaarborgd? Al binnen één jaar na introductie van de service moest de tuchtrechter zich over bovengenoemde werkwijze buigen: stond de opzet en inrichting van de service niet op gespannen voet met de beroep- en gedragsregels waar notarissen zich aan dienen te houden?[2]
De Hema-notaris illustreert enerzijds de wens van de burger om snel, goedkoop en 24/7 bediend te worden – mede met hulp van technologie. Anderzijds onderstreept het de complicaties van het intreden van Legal Tech en de ethische vraagstukken die daarbij komen kijken[3]. In dit essay zal ik, na verheldering wat Legal Tech precies is, ingaan op de kansen, maar vooral op de (ethische) schaduwkanten ervan.
Legal Tech
Legal Tech is een breed begrip en omvat talrijke technologische ontwikkelingen in het juridische beroep. De meest basale varianten zijn chatbots – geautomatiseerde gesprekspartners die als eerste aanspreekpunt kunnen fungeren of rechtszoekenden kunnen helpen bij gericht zoeken naar informatie – en systemen die cliënten standaardcontracten helpen opstellen.[4] Er zijn ook programma’s die juridisch onderzoek versnellen en vergemakkelijken. Software als Lexis, eDiscovery ZyLAB en UniCourt zijn voorbeelden uit duizenden. Middels ‘text mining’ scannen, doorzoeken en doorgronden deze slimme zoeksystemen miljoenen documenten.[5] Advocaten kunnen op deze manier in korte tijd geautomatiseerd op zoek naar bewijsmateriaal, verbanden of patronen in de door cliënt aangeleverde stukken, jurisprudentie of wereldwijde literatuur. Het Amerikaanse technologiebedrijf IBM ontwikkelde de juridische computer ROSS, de “gloednieuwe superintelligente advocaat”. Deze juridische supercomputer gaat nog een stap verder: met hulp van software op basis van AI kan robotadvocaat ROSS specifieke juridische vragen beantwoorden en definities in context plaatsen.[6] Sommige supercomputers gebruiken zelflerende algoritmen die hun foutmarge nog kleiner maken. De supercomputer baseert zijn antwoorden op grote hoeveelheden ingevoerde gegevens: big data. Waar vroeger dossiers, uitspraken of andere juridische documenten fysiek werden aangeleverd, worden anno 21e eeuw bijna alle stukken gedigitaliseerd, wat de big data poel heeft gevoed. Deze bulk aan schatrijke informatie maakt zo een volgende toepassing mogelijk: het juridische voorspellingsmodel, dat uitspraken van rechters kan voorspellen en zo advocaten kan helpen inschatten of het instellen van een procedure of hoger beroep zoden aan dijk gaat zetten (of niet).[7] Voorspellingen over een mogelijke strafmaat of schadevergoeding op basis van algoritmen zijn tevens bruikbaar en zeer waardevol voor advocaten en hun cliënten.
Het meest bepleite voordeel van bovengenoemde toepassingen is de efficiencywinst.[8] Advocaten die het gebruik van Legal Tech eigen weten te maken zouden hun praktijk mogelijk doelmatiger kunnen maken. Advocaten zouden met behulp van juridische software sneller, flexibeler en productiever kunnen werken.[9] Ook rechtszoekenden zouden zo indirect profijt hebben van deze verdere digitalisering en het toenemende gebruik van AI. Een snellere werkwijze van advocaten impliceert immers een snellere afhandeling van procedures. Al in 1996 bejubelde Susskind deze door technologie gedreven methodologieën in “The End of Lawyers”, waarin hij voorspelt dat advocaten in de toekomst zelfs compleet als beroepsgroep kunnen verdwijnen.[10]
Ethische dilemma’s
De opkomst van de digitale assistenten, juridische zoeksystemen en slimme software past echter niet naadloos in de huidige juridische praktijk. Naast beroepsadvocaten treden ook commerciële bedrijven – zoals Hema – toe tot het juridische speelveld, om waar mogelijk, de eerste standaard stappen van de rechtsgang te beconcurreren.[11] De intrede van chatbots, eDiscovery en supercomputers als ROSS maakt dat de spelers van ons juridisch systeem niet meer alleen bestaan uit advocaten, maar ook uit supercomputers en virtuele assistenten. Van Oosterom-Streep betoogt dat we zelfs te maken krijgen met een nieuwe lichting aan deze juridische professionals, de zogenoemde ‘legal technicians’.[12]
Gedragsregels
Er rijzen verschillende ethische pijnpunten bij het gebruik van Legal Tech. Allereerst kan worden gedacht aan de toepassing van de huidige gedragsregels, de Voda en de Advocatenwet. Deze zijn gebaseerd op de klassieke uitvoering van de advocatuur: door advocaten van vlees en bloed. De gedragsregels, kernwaarden en tuchtrechtelijke kaders zien niet op deze nieuwe mededingers. Bij nieuwe mededingers dient men overigens niet alleen te denken aan commerciële ondernemingen die burgers handvatten willen bieden voor een Do It Yourself-contract of notaris: ook de programmeurs en ontwikkelaars van de juridische systemen en supercomputers als ROSS zélf kwalificeren als nieuwe spelers. Deze partijen zijn medeverantwoordelijk voor de uitgeoefende werkzaamheden.[13] Zouden er geen (gedrags)regels voor deze partijen moeten gelden? Hoe passen de regels over onafhankelijkheid en verschoningsrecht op deze nieuwe spelers? Is een tuchtrechtelijke procedure mogelijk wanneer er fouten worden gemaakt door een supercomputer? Deze vragen worden meer prangend en meer relevant naarmate de technologie zich verder ontwikkelt en deze niet meer enkel als “hulpje” door advocaten worden gebruikt. Dat die tijd sneller aanbreekt dan advocaten over het algemeen denken blijkt als we kijken naar de Verenigde Staten, waar het gebruik van de Legal Tech software door advocaten al sterker is doorgedrongen. In de Amerikaanse beroepsregels voor professioneel gedrag is onder andere al opgenomen dat advocaten zich ook op het gebied van technologie en de daaraan gelieerde voordelen en risico’s moeten blijven scholen.[14] Alhoewel ik de Amerikaanse gedragsregel niet erg concreet vind (het hoe en wanneer van de bijscholing staat advocaten nog vrij, zonder controlemethoden of toekenning van “technische opleidingspunten”), denk ik dat de Nederlandse Orde van Advocaten hier een voorbeeld aan zou kunnen nemen wanneer Legal Tech in Nederland gangbaar wordt in de juridische praktijk.
Vertrouwelijkheid en de toegang tot recht
Een ander ethisch knelpunt is de veilig- en vertrouwelijkheid van de gebruikte software. Dit was ook een klachtonderdeel in de tuchtrechtelijke zaak tegen de Hema-notaris.[15] Voor de advocatuur is de vertrouwelijkheid als kernwaarde opgenomen en verder in de gedragsregels omschreven.[16] In gedragsregel 3 wordt onder meer van advocaten verlangd dat zij “passende maatregelen nemen ter handhaving van de vertrouwelijkheid en communicatie, in het bijzonder waar het de keuze betreft van de communicatiemiddelen, van dataverwerking en dataopslag waarvan de advocaat zich bedient, en de mate van beveiliging van die middelen”. Expliciet wordt de verantwoordelijkheid van het gebruik van de technische hulpmiddelen inclusief de vertrouwelijkheid en veiligheid daarvan aan de advocaat zelf opgedragen. Hoe zorgt deze dat de juridische supercomputer veilig is van hackers en andere spionerende software, zodat de vertrouwelijkheid kan worden gegarandeerd? Hoe geavanceerder en vernuftiger deze technische hulpmiddelen worden, hoe ingewikkelder het kan raken voor advocaten om hier nog zicht op te houden. Vedder en Custers betogen dit uitvoerig en stellen dat naarmate de technologie meer verfijnd, zelfstandig en gecompliceerd raakt – zoals bij hulpmiddelen op basis van kunstmatige intelligentie – de processen minder transparant worden en daarmee het begrip, zicht en controle van advocaten op deze techniek verwatert.[17] Advocaten zijn geen
IT-ers. De vraag hoe advocaten in de toekomst deze gedragsregel kunnen blijven toepassen, lijkt mij essentieel.
Dit grenst aan een ander onderwerp: de toegang tot het gebruik van de technologie. Voorstanders van de juridisch technologische ontwikkelingen betogen dat naast advocaten, vooral burgers baat hebben bij de implementatie ervan in onze maatschappij. De drempel om juridische hulp in te schakelen, bijvoorbeeld via een chatbot of een standaardcontract, opgesteld door een juridisch systeem, wordt lager. Men kan zo betogen dat een belangrijke waarde in onze rechtsstaat, namelijk de toegang tot recht, wordt ondersteund. Mijns inziens bestaat echter wel een keerzijde aan deze redenering. Men kan zich afvragen in hoeverre burgers (ongewild) afhankelijk worden van deze methoden wanneer dit de nieuwe standaard wordt. De afgelopen decennia is duidelijk geworden dat burgers niet alleen de nieuwe technologieën hebben omarmd en gebruikt, maar er ook steeds meer afhankelijk van zijn geworden. Gepaard met deze afhankelijkheid gaan verplichte kosten en vereiste kennis. Dit kunnen belemmeringen zijn – voor zowel de rechtszoekende als de advocaat – wanneer zij deze kosten niet meer kunnen dragen of de (voortdurend voortschrijdende) kennis niet meer kunnen bijbenen. Advocaten dienen niet meer enkel juridisch onderlegd te zijn. Door stevige concurrentie kunnen advocatenkantoren zich verplicht voelen juridische hulptechnologie toe te passen. Aan deze technologie hangt vaak een prijskaartje, wat mogelijk doorberekend kan worden aan de cliënt. Vedder en Custers stellen dat dit kan leiden tot buitensluiting van groepen mensen.[18]
Schikkingen
Twee advocaten uit de Verenigde Staten waarschuwden al in 2016 dat hoge kosten van juridisch ondersteunende technologische tools in bepaalde zaken – in de vroege fase – tot gedwongen schikkingen hebben geleid.[19] Onder andere Luban heeft over de voor- en nadelen van conflictoplossingen middels schikkingen geschreven.[20] Het is algemeen bekend dat schikkingen goedkoper en sneller zijn dan procedures bij de rechter. Verder vinden schikkingen vaker plaats achter gesloten deuren: een voorwaarde van de schikking is vaak dat de inhoud geheim dient te worden gehouden door partijen. Luban benadrukt dat wanneer alle geschillen zullen eindigen in ‘settlements’, dit het risico meebrengt dat er te veel voorbij wordt gegaan aan publieke belangen en onvoldoende gekeken wordt naar de bijdrage aan de maatschappij als geheel. Publieke belangen als rechtsgelijkheid, rechtszekerheid en de rechtsontwikkeling zouden verloren gaan indien juristen – door zich alleen op het individuele geval te richten – de geschilbeslechting primair in de private sfeer zouden plaatsen.[21] Verder kunnen er vragen worden gesteld bij de mate van onafhankelijkheid van advocaten, wanneer zaken waarin gebruik is gemaakt van dure technologische systemen zorgen voor het eindigen in een (gedwongen) schikking. Advocaten die op een schikking aansturen omdat dit de kans op verlies van een procedure kleiner maakt en het via deze weg mogelijk maken dat zij de hoge kosten van de technologie kunnen dragen, handelen niet in lijn met de gedragsregels en kernwaarden.[22] Advocaten mogen geen belang hebben bij de uitkomst van een geschil, het voornaamste belang is dat van de cliënt.[23] Kortom: de technologie zou de gang naar de rechter juist moeten versnellen en vergemakkelijken – niet bemoeilijken doordat advocaten hoge kosten noodgedwongen moeten terugverdienen.
Built-in biases
Het laatste ethische vraagstuk dat ik wil benoemen, gaat over verscholen biases. Het laten werken van juridische zoekprogramma’s op basis van kunstmatige intelligentie vereist grote hoeveelheden gegevens, dit om supercomputers te “trainen”. Deze (big) data bestaat onder andere uit rechterlijke uitspraken, contracten en vakliteratuur. Wanneer een systeem afhankelijk is van honderdduizenden uitspraken, schikkingen en overeenkomsten, ooit uitgesproken of opgeschreven door menselijke rechters en menselijke advocaten, bestaat er een kans dat wanneer deze mensen vooroordelen hadden, het systeem dezelfde vooroordelen gaat hanteren.[24] Het systeem wordt vervolgens weggezet als “objectief”: een computer kan immers niet discrimineren op geslacht, huidskleur, afkomst, geloof, leeftijd of uiterlijk?
Advocaten die tools gebruiken die antwoorden op juridische vragen kunnen suggereren, moeten de mogelijkheden en beperkingen van de tools begrijpen, en moeten de risico’s en voordelen van die antwoorden afwegen in de context van de specifieke zaak waaraan ze werken. Ik beschreef eerder al dat het “begrijpen” van deze systemen en hoe ze werken, mogelijk al een flinke horde op zich is.
Conclusie
Het is velen duidelijk dat het beroep advocaat “bedreigd” kan worden vanuit de technologische hoek: de ontwikkeling van AI-toepassingen en supercomputers geschiedt in razend tempo. Vraag is of de robotadvocaten de voor de maatschappij wenselijke ethische standaarden kunnen hanteren. Antwoorden en oplossingen over ethische vraagstukken zoals de toegang tot recht, vertrouwelijkheid, veiligheid, schikkingen en onbedoeld geprogrammeerde vooroordelen, blijken nog steeds lastig te geven. Dit is echter nog maar een greep uit de mogelijke ethische pijnpunten. Regels over gebruik en controle op deze “Robo sapiens” is wenselijk.
Hoe het afliep met de Hema-notaris? Het hof gaf suggesties om de veiligheid van gegevens van klanten verder te waarborgen. De nog relatief simpele geautomatiseerde service en de beloofde handmatige controle door de aan Hema verbonden notarissen voldeden aan de geldende regelgeving. Het is nu wachten op de Hema-advocaat.
Nadine Stel
Literatuurlijst
Custers & Leeuw, NJB 2017/1854
B. Custers & F. Leeuw, ‘Legal big data’, NJB 2017/1854, afl. 34, 2 oktober 2017.
Fritz, Tips on Technology 2001
C.M. Fritz, ‘Are you a Lawyer of the Past or the Future?’, Tips on Technology (American Bar Association), 2001.
Lat, Above The Law 2020
D. Lat, ‘The ethical implications of artificial intelligence’, Above The Law 2020, https://abovethelaw.com/law2020/the-ethical-implications-of-artificial-intelligence/ (laatst geraadpleegd 8 juni 2020).
Luban Georgetown Law Journal 1995
D. Luban, ‘Settlements and the Erosion of the Public Realm’, Georgetown Law Journal 83(7), 1995.
Mancini & Jenkins, Academia 2016
P. Mancini & M. Jenkins, ‘Ethics of Artificial Intelligence in the Legal Field’, Academia, 2016.
Prins & van der Roest, NJB 2018/206
C. Prins & J. van der Roest, ‘AI en de rechtspraak. Meer dan alleen de ‘robotrechter’’, NJB 2018/206, afl. 4, 22 januari 2018.
Susskind 1996
R. Susskind, The End of Lawyers? Rethinking Nature of Legal Services, Oxford: Oxford University Press 1996.
Van Ettekoven, SteR 2018
B.J. van Ettekoven ‘AI en Big Data in de (bestuurs)rechtspraak’, SteR 2018 afl. 41, 1 januari 2018.
Van der Heijden & Rijlaarsdam, NRC 2013
T. van der Heijden & B. Rijlaarsdam, ‘Rookworsten en testamenten – écht Hema’, NRC 16 november 2013, https://www.nrc.nl/nieuws/2013/11/16/rookworsten-en-testamenten-echt-hema-1316694-a607447 (laatst geraadpleegd 8 juni 2020).
Van Oosterom-Streep, NJB 2016/2115
N. van Oosterom-Streep, ‘’A wounded deer leaps highest’’, NJB 2016/2115, afl. 41, 22 november 2016.
Van Oosterom-Streep, WPNR 2017/7160
N. van Oosterom-Streep, ‘Over de ethiek van de toekomst en achterhaalde concepten’, WPNR 2017/160, 12 augustus 2017.
Vedder & Custers e.a. 2009
A.H. Vedder & B.H.M. Custers, ‘Whose responsibility is it anyway? Dealing with the consequences of new technologies’, in: P. Sollie & M. Duwell, Evaluating new technologies: Methodological problems for the ethical assessment of technology developments, New York/Berlin: Springer 2009, p. 21 – 34.
[1] Van der Heijden & Rijlaarsdam, NRC 2013.
[2] Kamer voor het notariaat 2 oktober 2014, ECLI:NL:TNORAMS:2014:34, Hof Amsterdam 16 juni 2015, ECLI:NL:GHAMS:2015:2270.
[3] De relevante ethische vraagstukken uit het voorbeeld over de Hema gaan over het notarisschap, maar spelen ook bij de advocatuur.
[4] Van Ettekoven, SteR 2018, p. 5.
[5] Custers & Leeuw, NJB 2017/1854, p. 2451.
[6] Van Oosterom-Streep, NJB 2016/2115, p. 3029.
[7] Custers & Leeuw, NJB 2017/1854, p. 2450.
[8] Prins & van der Roest, NJB 2018/206, p. 263.
[9] Fritz, Tips on Technology 2001, p. 5.
[10] Susskind 1996.
[11] Custers & Leeuw, NJB 2017/1854, p. 2455.
[12] Van Oosterom-Streep, WPNR 2017/7160, p. 565.
[13] Van Oosterom-Streep, WPNR 2017/7160, p. 567.
[14] Regel 1.1 van de Model Rules of Professional Conduct, American Bar Association, https://www.americanbar.org/groups/professional_responsibility/publications/model_rules_of_professional_conduct/model_rules_of_professional_conduct_table_of_contents/ (laatst geraadpleegd 8 juni 2020).
[15] Hof Amsterdam (Kamer voor het notariaat) 16 juni 2015, ECLI:NL:GHAMS:2015:2270, r.o. 4.2.
[16] Gedragsregel 3, “Vertrouwelijkheid”, Gedragsregels advocatuur 2018.
[17] Vedder & Custers e.a. 2009, p. 26.
[18] Vedder & Custers e.a. 2009, p. 28.
[19] Mancini & Jenkins, Academia 2016, p. 3.
[20] Luban, Georgetown Law Journal 1995, afl. 83.
[21] Luban, Georgetown Law Journal 1995, afl. 83, p. 2648 – 2659.
[22] Gedragsregel 2 (1), “Onafhankelijkheid”, Gedragsregels advocatuur 2018.
[23] Gedragsregel 2 (2), “Partijdigheid”, Gedragsregels advocatuur 2018.
[24] Lat, Above The Law 2020.