Bayerns Polizei überwacht massenweise Menschen, die sich noch nie einer Straftat verdächtig gemacht haben. Für dieses Data Mining benutzt sie eine Software von Palantir – ohne Transparenz, Kontrollmechanismus und Schutz vor Diskriminierung. Die GFF zieht dagegen vor das Bundesverfassungsgericht.
Die GFF hat Verfassungsbeschwerde gegen die Möglichkeit polizeilicher KI-Überwachung in Bayern erhoben. Artikel 61a des Bayerischen Polizeiaufgabengesetzes (BayPAG) erlaubt der Polizei sogenanntes „Data Mining“. Ein Programm auf Basis der Überwachungssoftware Gotham von Palantir wertet riesige Datenmengen aus und stellt Verbindungen her – auch zu Personen, die in keinem Zusammenhang mit Straftaten stehen
Warum verstößt Data Mining gegen Grundrechte?
Diese weitreichende Auswertung von Daten verletzt unter anderem das Grundrecht auf informationelle Selbstbestimmung und das Fernmeldegeheimnis. Das Ziel der Verfassungsbeschwerde sind klare Grenzen für die Behörden beim Einsatz von Data Mining-Software.
Die Software analysiert Daten von Bürger*innen heimlich. Sie bekommen nichts davon mit, genauso wenig wie von möglicherweise folgenden Überwachungsmaßnahmen. Nach aktuellem Recht darf die Polizei die Software nicht nur bei besonders schweren Straftaten benutzen, sondern auch bevor eine Gefahr überhaupt besteht. Klare gesetzliche Grenzen für den Einsatz von Analysesoftware gibt es nicht. Auch ein Schutz vor Fehlern der Software ist nicht gewährleistet – häufig haben die Algorithmen diskriminierende Auswirkungen.
Was sagt das Bundesverfassungsgericht zu Data Mining durch eine KI?
Nach Verfassungsbeschwerden durch die GFF zog das Bundesverfassungsgericht in einem Grundsatzurteil 2023 enge Grenzen für automatisierte Datenanalysen durch die Polizei ein. Damit hielt das Gericht massenhafte Datenauswertung bei der Polizei in Hessen und Hamburg auf und setzte wichtige Standards zu Data Mining. Diese Standards hat der bayerische Gesetzgeber nicht eingehalten.
Zu den insgesamt acht Beschwerdeführer*innen gehören eine Strafverteidigerin, Aktivist*innen und Personen der Fanhilfe des Fußballvereins SpVgg Fürth. Johannes König, Musiker und Mit-Organisator der NoBayPAG-Demonstrationen betont: „Als wäre das Bayerische Polizeiaufgabengesetz noch nicht autoritär genug geprägt, setzt die Staatsregierung nun auch noch auf die Überwachungssoftware des rechten Verschwörungsideologen Peter Thiel. Karlsruhe muss die neueste Entwicklung stoppen.“
Eine weitere Verfassungsbeschwerde der GFF ist anhängig gegen das Polizeigesetz in Nordrhein-Westfalen, wo die Behörden ebenfalls Gotham von Palantir einsetzen. Das Tech-Unternehmen Palantir des Trump-nahen US-Investors Peter Thiel steht dafür in der Kritik, seine Software unter anderem für den Einsatz in Kriegsgebieten und für Geheimdienste zu produzieren.
