Palantir Gotham: ein Überwachungsalbtraum in Händen der Polizei

Palantir Gotham ist ein Alleskönner. Doch bei den vielen Möglichkeiten der Analyse-Software müssen auch erhebliche Risiken bedacht werden.

Die Beschreibung der Datenbank- und Ermittlungssoftware Palantir Gotham klingt wie eine Eier legende Wollmilchsau. Die Softwarelösung ist dazu in der Lage, riesige Mengen an Daten zu strukturieren, zu analysieren, Zusammenhänge herauszuarbeiten und diese zu visualisieren. Sie könnte eine Zeitwende der Ermittlungstätigkeit markieren und zeigen, dass die Behörden endlich im Hier und Jetzt angekommen sind. Doch die Software, die in Deutschland besser unter dem Namen Hessendata bekannt ist, birgt auch viele Risiken.

Palantir Gotham – der Alleskönner?

Die Würzburger Kommunikationswissenschaftlerin und Technische Redakteurin für Datenverarbeitung, Annette Brücker, fasst die Grundprobleme der Ermittlungsarbeit der Polizei in ihrem Blog „Police-IT“ sehr treffend zusammen. Zwar verfüge die Polizei über eine Vielzahl an Informationen. Aber ein zentraler Datenpool, auf den man bequem zugreifen könnte, befindet sich auch im Jahr 2020 in weiter Ferne. Die Lösung verspricht die CIA-Tochterfirma Palantir, in Deutschland ist deren Software als Hessendata bekannt. Das BKA und die Innenminister verschiedener Bundesländer haben schon lautstark ihr Interesse bekundet.

Die Mitarbeiter der Behörden verfügen über zahlreiche haptische Informationen, wie zum Beispiel Fotos, Skizzen, Akten etc. Und sie können auf den Inhalt diverser Datenbanken digital zugreifen. Das können beispielsweise Überwachungsvideos, eingescannte Dokumente, E-Mails etc. sein. Die weit verstreuten Informationen gestalten jede Auswertung sehr kompliziert. Wer bitte soll den Überblick über verschiedene polizeiliche Datenbank-Systeme, Meldedienste, den Inhalt der beschlagnahmten Güter in den Asservatenkammern etc. behalten, bzw. im Idealfall sogar Zusammenhänge zwischen einzelnen Indizien herstellen, die teils haptisch und teils digital vorliegen!?? Das ist nur schwer möglich, zumal den Polizeibeamten der dafür nötige Abstand fehlt. Manchmal braucht man aber eine gewisse Distanz, muss Dinge aus der Ferne betrachten, um Zusammehänge erkennen zu können.

Palantir Gotham als Dammbruch der polizeilichen IT

data sourcecode Palantir Gotham
Foto Charles Deluvio, thx!

Genau an der Stelle soll in den Bundesländern Hessen und NRW die Software Palantir Gotham zum Einsatz kommen. Sie wird von Frau Brückner als regelrechter „Dammbruch in der polizeilichen IT“ angesehen. Die Analysten sollen in die Lage versetzt werden, einen eigenen Sandkasten zu haben, in dem sie Hypothesen verfolgen oder auf eine frühere Version der Auswertung zurückgehen können, sofern ein Zusammenhang plötzlich unstimmig erscheint etc. Ihre Analysen sollen in sichtbare Informationen verwandelt werden. Ermittler können die Namen von Personen in eine Suchmaske eingeben, um den eigenen Suchdienst Raptor zu aktivieren. Wenn’s ums Eingemachte geht, hält sich der Hersteller gerne mit Informationen zurück. So ist beispielsweise bei Hessendata nicht klar, auf welche externen Daten der Raptor, gemeint ist wahrscheinlich der räuberische Dinosaurier Velociraptor, zugreifen darf.

Theoretisch denkbar wären somit auch Datenbankabfragen bei sozialen Netzwerken wie Facebook, Instagram, Twitter etc. Das klingt ein wenig nach dem NSA-Suchprogramm PRISM? Kein Wunder, Palantir Technologies hat ein gleichnamiges Projekt im Auftrag der US-amerikanischen Geheimdienste entwickelt. Ob es sich um den Überwachungsalbtraum PRISM handelt, dessen Funktionsumfang Edward Snowden bekannt gemacht hat, darüber schweigt man sich lieber aus.

Hersteller mit interessanter Geschichte

Das Unternehmen startete 2004 als Startup mit Kapital der CIA. An der Nähe zu verschiedenen Geheimdiensten und der US-Regierung hat sich bis heute nichts geändert. 1998 war der Palantir-Gründer Peter Thiel am Aufbau des Bezahldienstes PayPal beteiligt und wurde später dessen CEO. Im Jahr 2010 hatte der Technologie-Konzern HBGary Palantir damit beauftragt, Pläne zu erarbeiten, wie man die Enthüllungsplattform WikiLeaks systematisch angreifen könne. Dafür musste man sich später öffentlich entschuldigen. Mitglieder des Hackerkollektivs Anonymous hatten die geheimen Pläne von den Servern von HBGary „besorgt“‘.

Wikileaks selbst hat die Dokumente dann veröffentlicht. In der Folge stellte Palantir Technologies die Zusammenarbeit mit HBGary ein. Palantirs Datenbankspezialisten standen für eine derartige Attacke folglich nicht mehr zur Verfügung. Weitere Hintergründe über die Entstehung der Palantir Technologies Inc. sind übrigens auch hier bei Netzfrauen.org verfügbar. Der Beitrag ist schon etwas älter, aber er ist dennoch umfangreich und interessant.

batman Palantir Gotham
Aufschlussreiches Weltbild: Einzelne Helden kämpfen gegen eine Horde Bösewichter in Gotham City. Foto der DC Comicfigur von Umanoide, thx!

Befreien die Comic-Helden Batman & Robin die Welt vor den bösen Terroristen?

Eines der wichtigsten Produkte ist Palantir Gotham. US-Geheimdienste und das Verteidigungsministerium setzen es ein, um ihren Gegnern habhaft zu werden. Offenbar stellt man sich die Welt in etwa so vor, wie im Film Gotham City, wo eine Metropole angefüllt von Verbrechern ist, gegen die außer Batman, Robin und dem einen braven Staatsanwalt niemand kämpft. Was müssen wir von so einer Firma erwarten? Eine Welt unterteilt in Gut und Böse oder vielmehr eine Datenauswertung nach dem Hauruck-Prinzip?

cnetz logodigitalcourage war die Anwendung der Analysesoftware in Hessen letztes Jahr einen BigBrotherAward in der Kategorie Behörden und Verwaltung wert. Die Verleihung des Negativpreises ging an Hessens Innenminister Peter Beuth.

Dazu kommen bei Palantir Gotham hauseigene Apps (Anwendungen), die nicht nur sinnvoll sein sollen. Deren Anwendung soll mehr Spaß machen, als die dröge Software, mit der man sonst arbeiten muss. Die Applikation Graph soll Beziehungsnetze visuell darstellen. Geo ist für die Darstellung auf Karten zuständig. Daneben gibt es einen Object Explorer, der ein regelrechtes Dossier über Verdächtige erstellt. Last, but not least gibt es eine App namens Browser.

Palantir Gotham: Jeder Mausklick der Ermittler kann später nachvollzogen werden

Laut Frau Brückner vom CIVES Redaktionsbüro gebe es derartige Lösungen schon von anderen Herstellern. Doch aufgrund der aufwändig gestalteten grafischen Benutzeroberfläche soll es den Mitarbeitern Freude bereiten, ihrer Tätigkeit nachzugehen und ausführlich mit den Daten herumzuspielen. Brückner gibt allerdings auch zu bedenken, dass jeder einzelne Mausklick der Mitarbeiter mitgeschnitten wird. Jede einzelne Handlung, jedes Gedankenspiel, jede Entscheidung der Ermittler kann später auf Leitungsebene im Detail nachvollzogen werden. Die Frage ist auch, ob die so erhobenen Daten vielleicht eines Tages noch das Land verlassen.

Der Hersteller sitzt bekanntlich in den USA, wo Datenschutzgesetze kaum bis gar nicht vorhanden sind. Außerdem bestehe laut Brückner bei dem spielerischen Charakter der Software die Gefahr, dass solche Gedankenspiele mehr mit Annahmen, als mit handfesten Beweisen gemeinsam haben könnten. Bedenken muss man auch: Jede weitere Information, jeder Kontakt erhöht die Möglichkeit, dass auch Unschuldige zufällig ins Visier der Ermittler geraten. Dafür muss man nur im gleichen Abteil der U-Bahn wie der Tatverdächtige sitzen, im gleichen Konzern arbeiten, das gleiche Konzert besuchen etc. pp.

Spielerischer Charakter der Software problematisch?

Wer sich für weitere Details interessiert, sollte sich unbedingt das Palantir-Dossier im Blog „Police-IT“ aufmerksam durchlesen. Alle dort verfügbaren Beiträge wurden allgemeinverständlich formuliert. Sie können sich aber naturgemäß nur mit bereits bekannten Features von Palantir Gotham aka Hessendata beschäftigen. Die Softwarelösung wird ja ständig weiterentwickelt, was zusätzliche Features und möglicherweise noch mehr Möglichkeiten zur Überwachung der eigenen Bevölkerung zur Folge hat. Wir haben uns im netzpolitischen Umfeld von Parteien und Polizeien umgehört, wer uns gegenüber ein Statement zur Software von Palantir Technologies abgeben möchte.

cnetz mit differenzierter Haltung beim Predictive Policing

Zu einer Aussage war der netzpolitische Verein der CDU, cnetz, spontan bereit. cnetz-Sprecher Prof. Dr. Jörg Müller-Lietzkow sieht in der neuen Technologie sowohl erhebliche Chancen, als auch Risiken. Müller-Lietzkow, der Präsident der HafenCity Universität Hamburg, im O.-Ton gegenüber Tarnkappe.info:

Zum Predictive Policing, was am Ende der Kette steht, haben wir eine differenzierte Haltung. Einerseits ist innere Sicherheit eine wichtige politische Stabilitätssäule. Maßnahmen, die diese, beispielsweise nach Serienvorfällen erhöhen können, sind wichtig und überlegenswert. Umgekehrt gilt aber, dass gerade bei KI Anwendungen der BIAS bekannt ist (also, z. B. ist bekannt, dass KI-Software, z. B. In den USA dunkelhäutige Menschen mit arabischer Herkunft a priori diskriminiert und dies beim Predictive Policing entsprechende massive Auswirkungen hat).

Wer entscheidet am Ende des Tages: der Polizist oder die Software?

Die Frage wird also sein: Wird, eine solche Software z. B. nur in Ermittlungsverfahren als Unterstützung eingesetzt, hat also instrumentell aufklärenden Charakter oder handelt es sich um eine Hauptentscheidungsrelevante Technologie, die menschliches Empfinden, Vorwissen etc. übertreffen soll. Bei letzterem behalten wir eine kritische Meinung, da wir über technologische Unzulänglichkeiten, die Fragen der Datenbasis etc. noch zu wenig Klarheit haben (kann z. B. ein Bias überhaupt erkannt werden, also nicht nur korrigiert).

Darüber hinaus ist die US-amerikanische Firma mit anderen ethischen und / oder kulturellen Werten an die Entwicklung herangegangen, als wir diese in Europa haben. Vor dem Hintergrund besteht Unklarheit, wie die Suchparameter gesetzt sind. Welche Logik hinter den Algorithmen steht, ist aber nicht unmaßgeblich für deren Wirkungsgrad. Der Umkehrschluss liegt dann darin, dass wir offenkundig in einem wesentlichen Feld derzeit in Europa keine adäquate Antwort haben.

Das Stichwort digitaler Souveränität wird spätestens dann relevant, wenn z. B. Die Daten der Verbrechensbekämpfung und Prävention aus Deutschland / Europa mit denen aus z. B. Nordamerika vermengt würden. Insgesamt spielt die verwendete Datenbasis ja eine erhebliche Rolle, bei der hier nach Presselage allein nicht klar ist, wo diese herkommen und mit welchen Kriterien gearbeitet wird. Aber auch so spielen natürlich verschiedenste Rahmenbedingungen in eine solche, auch justiziable Softwareanwendung bzw. deren Einsatz mit hinein, die es zunächst zu prüfen gilt.

Risiken und Chancen abwägen, Rechtsgundlagen nach EU-Vorgaben schaffen

Quintessenz: Wenn man sich eine klare Haltung von uns wünscht, so besteht diese darin, dass wir uns eine souveräne, in Europa, noch besser in Deutschland, entwickelte Lösung wünschen würden, bei der die Verwendung der Daten sicher und limitiert ist. Die Rechtsrahmen sollten so gesetzt werden, dass eben nicht die Software allein oder dominierend Handlungsentscheidungen trifft und auch Manipulationen sowie Bias nach menschlichem Ermessen und Möglichkeiten minimiert / ausgeschlossen werden. Umgekehrt begrüßen wir digitale, technologische Maßnahmen, die unter genannten Parametern und Rahmenbedingungen die innere Sicherheit steigern helfen. Denn eines muss auch klar sein: Wenn Menschen durch den Einsatz geschützt werden, schlimme Verbrechen verhindert werden und auch die Einsatzkräfte besser geschützt sind, da sie besser vorbereitet sind, muss man auch dies mit abwägen und in die Diskussion einbringen.

Ob eine Lösung eines US-amerikanischen Datengiganten hier der richtige Ansatz ist, mag man bezweifeln, zumindest vor dem Hintergrund, dass anders als z. B. bei Bürosoftware, die Entscheidungen eben nicht nur wirtschaftliche, sondern vor allem gesellschaftliche und zivilrechtliche Folgen haben, die indirekt auch Fragen des Datenschutzes und der Persönlichkeitsrechte betreffen, die es zunächst deutlich umfänglicher zu diskutieren gilt, als hier den Einsatz ohne ethische Prüfung vorzunehmen. Einfacher formuliert: Die Sicherheitsbehörden dürfen nicht hinter internationalen Standards und Möglichkeiten zurückfallen, gar so weit hinter die Möglichkeiten der Delinquenten.

Wohl aber muss man überlegen, wann aber – und da kommt man in Graubereiche – Software in der Prävention Entscheidungen (mit) treffen sollte, bei der allein auf Datenanalyse und nicht aufgrund von Fakten ggf. präjudizierende Wirkungen zu erwarten sind. Das Konzept digitaler Souveränität wird zumindest mit dem Einsatz eines US-Systems in einem sensiblen Bereich weiter in Frage gestellt.

Kritische Polizisten: neue Ermittlungssoftware „tödlich“ für unsere Demokratie!

Donald TrumpWir haben uns auch bei Thomas Wüppesahl, dem Bundessprecher des Berufsverbandes Kritische Polizisten (Hamburger Signal) erkundigt. Zur Frage, für wie effektiv er die Software einschätzt, schrieb er uns, dass er Palantir Gotham schon im jetzigen Stadium für sehr effektiv hält. Sie sei geradezu „tödlich für jedes demokratische Gemeinwesen. Ein weiterer Baustein zum Abschaffen von Demokratien. Das müßte doch langsam dem letzten Deppen nach dem Brexit-Plebiszit (= Volksabstimmung in Großbritannien), der Causa Cambridge Analytica, der Trump-Wahl sowie anderen Manipulationen klar geworden sein.

Das Tool ist super geeignet (= effektiv) zum Tunneln insbesondere rechtsstaatlicher Normen: Goebbels konnte von solchen Instrumenten nur träumen. Eric Arthur Blair (Pseudonym „George Orwell“) sah es kommen. Kim Jong-un (Nordkorea), Xi Jinping (China) und Konsorten sind mit Sicherheit hellauf begeistert, um nur die beiden aktuell härtesten Polizeistaaten auf diesem Planeten mit ihren Führern in die historische Kette gestellt, zu erwähnen.

Palantir ist in toto (Bedeutung = vollumfänglich) ein Problem, weil es eben einen sehr bedeutsamen Meilenstein zur Totalüberwachung darstellt. Die anderen Regime zeigen es. Und selbst in den USA wurde 2018 bekannt, dass der Saftladen „Palantir“ seit vielen Jahren Zugang zu polizeilichen und Datenbanken der Justiz in New Orleans hatte. Auch in den Vereinigten Staaten verschwimmen dann Grenzen, zum Beispiel zwischen Nordkorea, der Volksrepublik China und eben den USA.

Joseph Goebbels oder die Stasi hätten ihren Spaß an Palantir Gotham

2019 erhielt der hessische Innenminister Peter Beuth den BigBrotherAward. Gut so. Die schwarz-GRÜNE (vormals Bürgerrechtspartei) Landesregierung in Wiesbaden ließen sich locker vom Hocker die Schnüffelsoftware aufschwatzen. Halleluja! Nein: Amen! Oder: „Herr, verzeihe ihnen, denn sie wissen zwar was sie tun, aber ihnen fehlt der erforderliche Charakter zur Ausübung mittlerer Staatsämter“, oder so ähnlich.

Das Software-Potpourrie von Palantir ist an sich schon das datenschutzrechtliche Problem. Dazu bräuchte man nur die Ausführungen des Bundesverfassungsgerichtes zum Volkszählungsgesetz – damals aufgehoben – von 1983 durchlesen, um das gedanklich zu erfassen. Zusätzlich sind die Entscheider bei Palantir, wie der Milliardär Peter Thiel, der tief in den militärisch-digitalen Komplex der USA eingewoben ist, für demokratisch-rechtsstaatliche Ansprüche vollkommen unzuverlässig. Thiel sitzt zudem bei Facebook, ein weiterer datenschutzrechtlicher Schweineladen, der gemeinsam mit Amazon, Google usw. das „Primat der Politik“, das ja nach westlichem Verfassungsverständnis und demokratischem Selbstverständnis die Entscheidungen im Allgemeinwohl absichern sollte, längst ausgehebelt hat. Dieser Peter Thiel sitzt also bei Facebook im Aufsichtsrat und war trotzdem so knauserig, Donald Trump im Wahlkampf nur mit etwas über einer Million (bekannt gewordener) US-Dollar unter die Arme zu greifen.“

Mit Palantir Gotham entfernen wir uns von unseren rechtsstaatlichen Grundprinzipien

Eigentlich geht nix schief, wenn jemand in Richtung Diktatur marschieren will. Alles bestens. Dann. – Es reicht doch, was Palantir schon verbrochen hat, auch bei Wikileaks in 2010. Der Zersetzungs-Plan gegen WikiLeaks sah über das Verbreiten von Falschinformationen sowie dem Wegbrechen bedeutsamer Unterstützungslinien – auch personeller Art – zudem vor, WikiLeaks zu diskreditieren. – Das, was man mit Assange so alles anstellte und weiter anstellt, inklusive der bestellten schwedischen Falschbehauptungen strafrechtlicher Art, ist doch schon ganz schön weit gediehen. Der Mann ist in seiner Persönlichkeit so weit zersetzt, dass der Unterschied zu Folterungen in China etc. mehr marginaler Qualität sind. Das erfolgt „rechtsstaatlich“. Die Jurisprudenz (= Rechtswissenchaft) ist auch in unseren westlichen Staaten ein Machtinstrument. Alles andere stellen Sonntagsreden dar. Und all dies obwohl bzw. weil die USA auch schon von Nordkorea und China gefangene Staatsbürger „zurückerhalten“ haben, die nur noch ihre körperliche Hülle in die Kameras halten konnten und kurz danach verstarben.

Überwachungssysteme aus dem Land der unbegrenzten Möglichkeiten

Datenkrake

Palantir Gotham ist eine Datenkrake, ein Daten-Virus, wogegen selbst Corona verblasst, weil mit den Instrumenten von Palantir viel genauer gearbeitet werden kann. Aber natürlich auch die Totalüberwachung perfektioniert stattfinden wird bzw. würde. Sie wissen ja, „Die Hoffnung stirbt nie“, sagen die Katholiken.

Nur eines ist vollkommen klar: Selbst bei unseren bundesdeutschen BullInnen (Polizistinnen und Polizisten), die ja im international vergleichenden Ranking immer noch eine r e l a t i v herausgehobene Stellung von ihrer Ausbildung etc. genießen dürfen, weil viele andere Polizeitruppen wie in Frankreich, Spanien und anderswo noch viel schlechter sind, gleichzeitig aber seit der bundesdeutschen Einheit beharrlich fachlich, handwerklich und im Wertekanon, soweit unser Grundgesetz Maßstab darstellt, mit zum Teil abenteuerlich anmutenden Gesetzesverstößen im hohen Hunderterbereich (z.B. G 20-Gipfel 2017 in Hamburg) und sogar hohen Zehntausenderereich (z.B. bei dem Durchwinken entgegen gesetzlicher Vorgaben der Flüchtlingsströme in 2015/16) depriviert, schlicht und einfach sauschlecht im Abgleich zu den Verhältnissen in den 70er und 80er Jahren geworden ist, kann doch niemand ernsthaft annehmen, dass es in deren Verfügungs- und Anwendungshemisphäre etwas anderes geben wird als massenhaften Mißbrauch!“

Fazit Palantir Gotham

Jeder der versucht, die Einführung von Palantir Gotham zu verhindern, arbeitet konstruktiv. Wo und bei wem auch immer.

Tarnkappe.info

Lars Sobiraj

Über

Lars Sobiraj fing im Jahr 2000 an, als Quereinsteiger für verschiedene Computerzeitschriften tätig zu sein. 2006 kamen neben gulli.com noch zahlreiche andere Online-Magazine dazu. Er ist der Gründer von Tarnkappe.info. Außerdem brachte Ghandy, wie er sich in der Szene nennt, seit 2014 an verschiedenen Hochschulen und Fortbildungseinrichtungen den Teilnehmern bei, wie das Internet funktioniert.