Rezension: zusammen mit 
Adrian Lobe: Speichern und Strafen. Die Gesellschaft im Datengefängnis. Verlag C.H. Beck, 2019.
von Peter Schaar (Berlin).
In den letzten zehn Jahren ist eine Vielzahl von Publikationen erschienen, die vor einer Überwachungsgesellschaft warnen. Eine Besonderheit des vorliegenden Buchs besteht darin, dass der Autor in den Fußstapfen des französischen Sozialphilosophen Michel Foucault das auf Jeremy Bentham zurückgehende Gefängnis-Modell auf die moderne Gesellschaft überträgt. Dies wird schon durch den Titel deutlich: In Anlehnung an Faucaults 1975 erschienenes Werk „Überwachen und Strafen“ trägt das hier besprochene Buch den Obertitel „Speichern und Strafen“, wobei sich Lobe ganz auf die modernen digitalen Techniken und Methoden konzentriert: Allgegenwärtige Datensammlung, algorithmische Entscheidungsfindung, augmented Reality, künstliche Intelligenz…
Im anbrechenden „Datapozän“ dominiere eine „algorithmische Regulierung“, die sich auf Nutzereingaben stütze. Angesichts der Digitalisierung werde traditionelles, durch Gesetze verbrieftes Recht durch die Herrschaft des Codes verdrängt. Entsprechend der von Lawrence Lessig formulierten These „code is law“ werde menschliches Handeln durch unerbittliche Technik determiniert. Da sich die Programmierung demokratischer Kontrolle entziehe, verlagere sich die gesellschaftliche Entscheidungsgewalt von Parlamenten und Regierungen weg zu Unternehmen wie Google oder Facebook, die über riesige Datenmengen verfügen und die mittels „Arkanformeln“ die Gesellschaft steuern. Deren Herrschaft reiche von der Kontrolle des Freizeitverhaltens bis zum Sammeln und Bereitstellen von Beweisen im Strafverfahren. Die ständige Überwachung des „Datenkörpers“ folge dabei dem Modell des Benthemschen Panoptikon: Das Smart Home sei letztlich nichts anderes als ein elektronischer Hausarrest; Alexa, Siri und Cortana fungierten dabei als elektronische Gefängniswärter.
Anders als frühere Computertechniken zielten moderne algorithmische Systeme darauf ab, unter Verwendung statistischer Verfahren Prognosen zu erstellen, die den Entscheidungsprozess determinieren. Verbleibende Unsicherheiten und Restrisiken suggerierten dabei einen permanenten Ausnahmezustand, der sich allein durch immer weitere Freiheitseinschränkungen beherrschen lasse. Dabei würden die Restriktionen für menschliches Handeln durch Technik verkörpert und damit die individuelle Wahlfreiheit praktisch auf null reduziert. In Anlehnung an die Carl Schmittsche These von der Herrschaft über den Ausnahmezustand formuliert Lobe, souverän sei, „wer die Algorithmen beherrscht“. Im Unterschied zum geschriebenen Recht sei der Code selbstexekutierend und damit inhärent totalitär. Dem einzelnen werde damit sogar die Möglichkeit genommen, gegen die in Code integrierten Vorschriften zu verstoßen. Dies geschehe nicht nur im chinesischen Social Credit System, sondern überall, wo entsprechende Technologien zum Einsatz kommen. Die kybernetische Verhaltenskontrolle sei auch deshalb perfide, weil sie den Nutzern gegenüber Freiheit simuliere, die sie tatsächlich gar nicht ausüben können.
Im Datengefängnis könne regelmäßig auf die Inhaftierung der physischen Körper verzichtet werden. Dagegen würden die „Datenkörper“ gefangen und gefoltert, etwa durch Fitnesstracker oder Suchmaschinen. Sie produzierten vordergründig freiwillige „Geständnisse“ der Nutzer, die gegen sie verwendet werden könnten und unterliefen damit das rechtsstaatliche Selbstbezichtigungsverbot. Genetische Auswertungen und biometrische Verfahren bewirkten eine „Formatiesierung des Datenkörpers“ und objektivierten Diskriminierung. Die Stigmatisierung von Menschen, bei denen biometrische Verfahren nicht angewendet werden könnten (etwa bei fehlenden Fingerabdrücken) sei „faschistoid“. Angesichts omnipräsenter Überwachung entstehe ein „technologischer Totalitarismus“.
Durch die maschinelle Zerlegung des Datenkörpers in Datenpunkte werde die äußere Schutzhülle des Körpers aufgelöst, der Sterblichkeit des physischen Körpers stehe ein unterblicher Datenkörper gegenüber. Die Datenkörper würden durch Facebook, Google usw. interniert, wobei die Nutzer sich mittels Smartphone und Fittnesstracker freiwillig der Selbstbstüberwachung aussetzten. Technische Geräte würden zu „Identitätsprothesen“ und führten in einen technologischen „Psycho-Knast“, in dem sie durch opake Disziplinierungstechniken gesteuert werden. Die Anwender unterlägen dabei der Illusion von Freiheit. In Wirklichkeit befänden sie sich jedoch in digitaler isolationshaft. Das Kerkerprinzip sei in jeder Mobilfunkzelle implementiert: „Wer einmal Daten von sich preisgibt, ist lebenslänglich auf Bewährung verurteilt“.
Die mit der „Metrisierung der Gesellschaft“ einhergehende „Mathematisierung der Macht“ erweise sich als zunehmend totalitäres Regime, wobei das Internet der Dinge letztlich als „gigantische Normalisierungsanlage“ fungiere. Entsprechend dem Weltbild von Sozialingenieuren diene das technisch gewonnene Wissen dem Macht- und Profitzuwachs und werde dazu eingesetzt, das regulierte Gemeinwesen auf „Wohlfühltemperatur“ zu halten. Digitale Assistenten manipulierten die Wahrnehmung und folgten einer „Apartheitslogik“. Die Menschen würden fremdbestimmt, wobei die mit Daten aus der Vergangenheit gefütterten Algorithmen dem Menschen die Möglichkeit nähmen, sich umzuorientieren. Die Gesellschaft werde so gegen Systemkritik immunisiert. Sie wandele sich zu einer smarten Diktatur, in der „das Politische zu Tode technisiert“ sei: „Wo alles determiniert ist, ist nichts veränderbar.“ Die Zukunftsgesellschaft sei eine „Post-Wahl-Gesellschaft“, in der die Menschen algorithmisch gesteuert werden, denn „für Algorithmen ist alles alternativlos“.
Kritik
Gerade weil viele der im Buch dargestellten dystopischen Tendenzen einer zumehmend durch digitale Technik durchdrungenen Gesellschaft nicht von der Hand zu weisen sind, würde man sich wünschen, dass der Autor nicht nur die seine schwarzen Thesen unterstützenden Argumente und Fakten aufzeigt, sondern sich auch mit den Ambivalenzen des Technologieeinsatzes und durchaus ernstzunehmenden Gegenargumenten auseinandersetzt. Er verzichtet darauf fast gänzlich und er ignoriert jegliche Versuche, mittels Regulierung steuernd in den technischen Selbstlauf einzugreifen. Ansätze zur Inkorporation ethischer Werte und verfassungsrechtlicher Vorgaben in technische Syteme (privacy by design, ethics by design) widmet er kein Wort. Auch lässt er – bis auf wiederholte Hinweise auf Machtgewinn und Profitinteressen – im Dunkeln, wer die treibenden Kräfte hinter der von ihm gesehenen totalitären Weltbeherrschung sind. An einer Stelle bedient er sich des Terminus „militärisch-industrieller Komplex“, ohne dies jedoch weiter auszuführen. Die von ihm formulierte – durchaus hinterfragbaren – Prognose einer durch Technologie produzierten „Alternativlosigkeit“ in einer totalitären „Post-Wahl-Gesellschaft“ ist selbst deterministisch, also alternativlos. In der digitalen Gefängniswelt gibt es kein Licht und keine Hoffnung.