Het Duitse Bundesverfassungsgericht heeft bepaald dat het gebruik van geautomatiseerde data-analysesoftware van het Amerikaanse bedrijf Palantir, zoals is ingezet door de politie in Hessen, niet in lijn is met de grondwet.
Het Bundesverfassungsgericht schrijft dat de regelgeving in Hessen en Hamburg die deze inzet mogelijk maakt, ongrondwettig is. In Hessen wordt de software al sinds 2017 gebruikt voor het verwerken van opgeslagen persoonlijke data via geautomatiseerde data-analyses; dat gaat via het hessenDATA-platform dat de politie in Hessen al duizenden keren heeft ingezet. In Hamburg is de verwerking door de politie nog niet daadwerkelijk ingezet en bleef het beperkt tot geautomatiseerde data-interpretatie. Hessen moet de wetgeving voor 30 september aanpassen en in Hamburg zal het systeem niet worden geïnstalleerd.
Het Hof vindt dat de wetgeving voor de inzet van de software in strijd is met het recht op informationele zelfbeschikking, ofwel de zeggenschap die burgers hebben over wat er met hun persoonsgegevens gebeurt. Dat oordeel is geveld, omdat er volgens de rechters onvoldoende drempels zijn ingebouwd om de data te gebruiken. Volgens het Hof maakt de wetgeving het mogelijk om de data verder te gebruiken als een voorzorgsmaatregel om bepaalde criminele handelingen te voorkomen. De regels zijn te breed geformuleerd, zowel op het vlak van de data als op het vlak van de methodes die de politie mag inzetten, aldus het Bundesverfassungsgericht. Die inzet mag alleen bij concreet gevaar en die lat ligt een stuk hoger dan de wetgeving in Hessen en Hamburg voorschrijft.
Het vonnis maakt duidelijk dat de politie in principe wel aan datamining mag doen en geautomatiseerd verbanden mag leggen met als doel om criminele handelingen te voorkomen, maar dan moet de wet heel duidelijk specificeren onder welke omstandigheden dit toelaatbaar is. In het geval van Hessen en Hamburg was daar onvoldoende sprake van en werd dus het grondwettelijke recht op informationele zelfbeschikking geschonden.
Deze zaak werd vorig jaar aangebracht door de Duitse organisatie Gesellschaft für Freiheitsrechte. De organisatie vindt dat de software gebruikt kan worden om criminele activiteiten te voorspellen, wat de kans op fouten en discriminatie door de autoriteiten zou verhogen. De organisatie stelt dat met de uitspraak het risico dat de politie zich richt op onschuldige burgers aanzienlijk is afgenomen. "Vandaag verbood het Bundesverfassungsgericht de politie om in de kristallen bol te kijken en formuleerde het strikte richtlijnen voor het gebruik van intelligente software bij politiewerk. Dit was belangrijk, omdat de automatisering van politiewerk nog maar net is begonnen", zegt het hoofd van het juridische team van het Gesellschaft für Freiheitsrechte.