Leesvoer: de opvolger van Mark Rutte heet ChatGPT, tenzij wij daar nee op zeggen

De meeste non-fictieboeken over grote problemen komen ook met oplossingen. Deze niet, terwijl het bij dit boek extra hard nodig was. Het is het gevoel dat je overhoudt na het dichtslaan van Doe Zelf Normaal van rechtsfilosoof Maxim Februari, over computertechnologie en de democratie.

Februari is essayist, rechtsfilosoof, romanschrijver en was jarenlang columnist voor NRC. In Doe Zelf Normaal schrijft hij over de bedreiging die technologie en kunstmatige intelligentie vormen voor de rechtsstaat en democratie. De titel komt van een debat tussen politici Geert Wilders en Mark Rutte elf jaar geleden. Wilders vond dat premier Rutte 'normaal moest doen' en Rutte antwoordde dat Wilders 'zelf maar lekker normaal' moest doen. Februari noemt de namen van de politici niet, maar merkt dat op als interessante filosofische stelling. "Er zit iets aangenaam ingewikkelds in de gedachte dat je elkaar over en weer kunt bevelen de normaliteit aan jezelf als norm op te leggen. Hoe langer ik erover nadenk, hoe minder ik ervan snap, en hoe interessanter de dialoog van de weeromstuit wordt."

Het gebruik van data door computersystemen om 'normaal' en 'abnormaal' te definiëren speelt een grote rol in het boek. Februari was betrokken bij de rechtszaak waarbij de Nederlandse rechtbank het gebruik van Syri verbood. Syri was een systeem, waarin overheden data over burgers verzamelden en scanden op risicofactoren. Het probleem was onder meer dat niemand wist wat die risicofactoren precies waren, waarom bepaalde mensen volgens het systeem tot een risicogroep werden gerekend en niemand dat kon nagaan. Zelfs de rechter begreep niet hoe het algoritme tot beslissingen kwam en dat is volgens Februari het kwalijkst, dus niet eens het gebrek aan privacy, maar het gebrek aan mogelijkheid tot controle.

Syri, maar ook andere algoritmes die de overheid gebruikt, zijn een goed voorbeeld van hoe technologie de verhoudingen in de democratie verandert. De uitvoerende macht, de regering dus, krijgt veel meer te zeggen, terwijl de Tweede Kamer algoritmes lastig kan controleren en rechters die moeilijk kunnen toetsen. Want algoritmes zijn niet objectief of onfeilbaar, zo betoogt Februari. Iemand maakt ze en iemand neemt beslissingen over hoe algoritmes tot conclusies komen. Die personen zitten nu vaak bij bedrijven en daardoor verschuift de macht meer dan ooit van overheden naar bedrijven, en dat gebeurt ongemerkt en zonder overleg.

In de democratie sluipt technologie naar binnen op diverse manieren. Februari noemt natuurlijk de clichés op dit gebied, zoals het gebruik van data van Cambridge Analytica bij het personaliseren van advertenties voor de presidentsverkiezingen in de VS van 2016. Een manier om algoritmes direct te gebruiken in een democratie zou zijn om beslissingen over bijvoorbeeld budgetten te automatiseren op basis van voorkeuren van burgers. Die voorkeuren zijn dan te verzamelen met data die bedrijven en overheden toch al verzamelen, iets dat Februari samenvat als 'geef me een stapel data en ik neem het stemrecht van je over'. Het probleem daarbij is dat data geen uitsluitsel geeft over waarom we iets doen en morele overwegingen dus niet in die data staan.

Een andere manier is het vervangen van kabinet en parlement door algoritmes. Dat zou volgens voorstanders transparante beslissingen opleveren op basis van waarden die aansluiten bij de meerderheid van de bevolking. Februari pleit ertegen, juist omdat ook computers feilbaar zijn. Zolang een combimagnetron kan denken dat hij een stoomoven is, hoe kunnen we dan ons lot in handen leggen van machines? En gezien het grote aantal fouten dat chatbots als ChatGPT, Microsoft Bing en Google Bard maken, lijkt het onverstandig om de democratie te bestieren met zulke systemen, maar dat tijdperk komt wel dichterbij, claimt de auteur. En we zouden erover nagedacht moeten hebben voor zulke systemen er zijn.

Toch moet er iets gebeuren, want internet heeft wezenlijke dingen veranderd aan onze democratie, claimt Februari. "Internet heeft burgers en organisaties de mogelijkheid gegeven kwesties onderling te regelen, ergens in de verre vertakkingen van het netwerk, buiten publieke organisaties, wetenschap, pers en parlement om. De democratie vervaagt hierdoor, want de nieuwe aanpak biedt voorlopig nog niet de garantie dat de uitkomst van deze onderlinge onderhandelingen democratisch is gelegitimeerd."

Dat onderling regelen zit er vooral in dat iedereen nu internet heeft, iets dat Februari aanduidt als 'genetwerkt publiek'. De verzameling en verspreiding van kennis is nu meer verspreid. Zo kan een arts die desinformatie verspreidt over een ziekte een groot publiek krijgen en verliezen instanties in de ogen van veel mensen aan autoriteit. Sommige bedrijven, zoals Wikipedia en Meta, regelen conflicten over moderatie buiten het bestaande rechtssysteem. "Dat heeft het voordeel dat we afscheid nemen van oude autoritaire verhoudingen en traditionele machtsstructuren. Maar door afscheid te nemen van de bestaande democratische instituties loop je het gevaar ook de democratie zelf te verliezen. De oude regels gelden niet meer, nieuwe zijn er nog niet en voor je het weet ontstaan er nieuwe autoritaire verhoudingen."

Februari schrijft ook over de verhouding tussen onszelf en het recht. Hij noemt daarbij voorbeelden van CoronaCheck als toegangspas en het 'magisch schild' om de snelheid van auto's automatisch te beperken binnen een bepaald gebied. Dat je een regel niet meer kán overtreden, is kwalijk, betoogt hij. "Je hebt niet langer een autonome overtuiging, waardoor je bestaande regels aan jezelf oplegt en aanvaardt als redenen voor je gedrag, nee, afwijking van de regels is gewoon geen optie. (...) Tegelijk verandert daarmee ook de verhouding van de hele gemeenschap tot het recht: er is niet langer sprake van een gezamenlijk moreel gesprek over (...) te hard rijden in noodgevallen of over diefstal van brood bij diepe armoede. De wet wordt niet in de groep gegooid en na langdurige discussies geherinterpreteerd of bijgeschaafd, hij wordt toegepast, punt uit. Met dit strikte afdwingen van de wet heb je het recht in zekere zin vaarwel gezegd."

Het is een punt dat vaker naar voren komt in discussies over ethisch gebruik van kunstmatige intelligentie: het gevaar van dat als we huidige waarden in AI-systemen stoppen, die door de manier van handhaving veel langer blijven bestaan, omdat we ze in die systemen lastiger kunnen aanpassen. Filosoof William MacAskill schrijft over dat gevaar in zijn boek What We Owe The Future.

Het punt is volgens Februari niet dat het gebruik van technologie en kunstmatige intelligentie in een democratische rechtsstaat als de onze per definitie slecht is. Maar het probleem is wel dat we informatietechnologie moeten inpassen in de ethiek, en we kunnen niet naar het verleden kijken voor voorbeelden. "De geschiedenis van de mensheid is een aanhoudend belichaamd gesteggel over de normering en regulering van gedrag, over waarden en de beslechting van conflicten erover. We kunnen dat gesprek op dit moment van de geschiedenis stopzetten maar ik ben daar niet voor. Zolang er nog een menselijke samenleving is, is het van belang dat de mensen zich verhouden tot elkaar en tot de wet."

Doe Zelf Normaal is niet bepaald een lang boek. Het beslaat minder dan 150 ouderwetse papieren pagina's en het taalgebruik is niet zo ingewikkeld dat je er lang over zult doen. Maar het is wel een boek waar je niet mee klaar bent zodra je het hebt uitgelezen. Een tweede keer lezen is ook geen slecht idee om alles te laten bezinken.

Want Februari mag dan veel problemen benoemen, het boek biedt geen oplossing. Terug naar hoe het was, is onmogelijk, en vroeger was bovendien niet alles beter. Niets doen leidt tot aantasting of verdwijning van democratie en rechtstaat. Dus wat dan? Februari legt de taak om het antwoord te vinden bij de lezer, maar dat is wel veel gevraagd. Wie komt even de democratie en rechtsstaat redden door de nieuwe verhouding tussen computers en kunstmatige intelligentie en ons te definiëren? Het is passend dat de auteur voor de oplossing niet kijkt naar bestaande bolwerken van kennis, maar aanmoedigt een oplossing te crowdsourcen. Het maakt van Doe Zelf Normaal goed leesvoer en het geeft veel stof tot nadenken, maar het leven is zoveel makkelijker met pasklare oplossingen.