Heute am 21.1.2020 ist der 70ste Todestag von George Orwell. Mit dem Roman 1984 und dem “Big Brother” wurde er zum Stichwortgeber für die Warnungen vor Überwachung und mit den darüber evozierten Bildern und Ideen auch für die Forschung maßgeblich.
Was bedeuten diese Bilder heute, was liegt gegenwärtig an? Ein paar Fragen.
In einem Artikel vom 18.12.2019 schreibt Adrian Lobe über Prognose-Dystopie: Demokratie als Risikofaktor (SZ).
Im wesentlichen geht es um die tieferen Implikationen und Konsequenzen von Vorhersagen, wie sie verbunden mit den Begriffen KI Algorithmen sowie Big Data gegenwärtig sehr en vogue sind. Die Vorausschau als Bedürfnis von Regierungen, die mit den neuen Technologien nun endlich, so meinen viele ihrer Vertreter, das Mittel gefunden haben die Zukunft zu kontrollieren (vgl. dazu auch meinen Aufsatz in der APuZ, 25.4.2014).
In dem Artikel von Adrian Lobe kommen eine Reihe von interessanten Beobachtungen vor, u.a. diese:
Your smartphone broadcasts your exact location thousands of times per day to dozens of different companies. Each has the power to follow individuals wherever they go, in near-real time.
That’s not a glitch in the system. It is the system. https://t.co/2D8ttMKIWD
— Edward Snowden (@Snowden) December 23, 2019
Gestern war ich als Diskussionsteilnehmer zu einer Filmvorführung in einer Reihe Zukunft, Gesellschaft, Technologien.
Gezeigt wurde der Film Anon, der allein aus ästhetischen Gründen absolut sehenswert ist. Darüber hinaus stellt er wichtige Fragen, die für eine Diskussion zur Gesellschaft der Gegenwart hochaktuell sind. Wer sind wir, wer bin ich? Was ist Wahrheit und wie gehen wir mit Wissen um, dass flüchtig, oft nicht fassbar und vor allem hochgradig manipulierbar ist? Und dann selbstvertändlich die Frage nach der Möglichkeit von Anonymität in der Gesellschaft – die gerade in den westlichen Gesellschaften und ihrem Narrativ der Individualität als höchstem Gut elementar ist. Aber eben auch eine Menge Probleme schafft und somit umkämpft ist.
Wenn ihr also die Chance habt, den Film zu sehen, geht hin. Ist von 2018, aber lief kaum in deutschen Kinos.
Über meine Beigeisterung des Buches High Rise von JG Ballard habe ich in den vergangenen Wochen ja schon öfter berichtet.
Bei einem Stadtspaziergang in der von mir koordinierten Sommerschule “Stadt und Konflikt” waren wir auch in der so genannten “(Neue) Mitte Altona” und beim Anblick einiger der neuen Häuser, war ich doch sehr an das Buch erinnert.
Vor allem die Balkone eines Bauabschnittes haben es mir dabei angetan.
Ich hatte ja in den vergangenen Wochen schon öfter von der Tübinger Tagung berichtet und von dem Filmfestival Tübinale, u.a. anderem findet ihr die Filme in einigen der vergangenen Posts.
Nun gibt es einen Bericht von der Tagung von den Studierenden selbst. Und daher bin ich der Bitte der Organisatoren sehr gern nachgekommen, diesen hier auf den Seiten zu veröffentliche.
Ich ahnte ja schon so etwas und würde nach dem Genuss des Buches “Am Anfang war die information. Digitalisierung als Religion” von Robert Feustel (2019 und sehr empfehlenswert!!) auch sagen, dass es eine Kultur der KI gibt, sie also eingebettet ist in Hoffnungen, Wünsche und Projektionen, wie so viele Technologien vor ihr. Die heilsbringerischen Erwartungen, zumal oft mit wirtschaftlichen Träumen auf das “nächste dicke Ding” verbunden, lassen mich vorsichtig sein. Eine alleinige ethische Bewertung, wie sie landauf, landab in Projekten und Kommissionen gefordert und geleistet wird, kann nicht genug sein, auch weil damit lediglich der Gebrauch reguliert, nicht aber darüber nachgedacht wird, worum es sich eigentlich handelt. Das Gerede von der KI allein reicht dann schon aus, um alles Denken auszuschalten – und die Fantasie spielen zu lassen.
Daher ist dieser kleine Text zur Kultur der Künstlichen Intelligenz lesenswert:
In einem sehr erhellenden Artikel, eigentlich einer Rezension dreier Bücher, kommentiert der Historiker Quinn Slobodian die Verwendung von Methaphern, wie sie zur Beschreibung gegenwäriger, gesellschaftlicher Entwicklungen benutzt werden. Allen voran nimmt er sich Shoshana Zuboffs “Age of Surveillance Capitalism” vor (siehe auch Rezension hier im Blog).
The False Promise of Enlightenment, in Boston Review, 29.5.2019.
Und ich finde, er trifft den Nagel sehr gut auf den Kopf.
Ich war gestern in Tübingen auf der Tübinale und der dazugehörigen Tagung “Surveillance 2.0. Zwischen Komfort und Kontrolle”. Darüber werde ich ausführlich in einem Bericht aus Panoptopia erzählen, darin dann auch ein Interview mit Dietmar Kammerer sowie den Gewinnern der Tübinale.
Ihr könnt euch hier die komplette Veranstaltung noch einmal im Original anschauen, es ist der ungeschnittene Livestream, daher lang! Ein Hauch von Hollywood oder Berlinale war auch hier zu spüren, die Motivation und der Einsatz konnte es auf jeden Fall mit den großen Vorbildern aufnehmen. Der Siegerfilm ist ab Min. 47:50 zu sehen. Mary had a little lamb.
Adrian Lobe denkt in der NZZ darüber nach, ob Alexas Stimmenerkennung nicht zu totalitären Ergebnissen führen könnte. Lesenswerter Kommentar zu einer immer alltäglicheren Technologie.
Sprachgesteuerte Computer: An meiner Stimme merkt Alexa bald, dass ich krank bin, bevor ich selber es weiss (NZZ 10.4.2019)
Eine Gesellschaft, in der Kommunikation und letztlich auch Mitsprache nur noch biologisch vermittelt ist, ist totalitär. Womöglich müsste man sich angesichts der Ubiquität der Sprachsteuerung Gedanken über eine Verschlüsselung seiner Stimme oder eine künstliche Taubheit von Maschinen machen, um seine Identität und Souveränität zu wahren. Wenn künftig Maschinen unser innerstes Seelenleben offenlegen und den binären Code Sagen/Nichtsagen zu einer Aussagepflicht umcodieren, dann droht das Kommunikationssystem einzustürzen. Und die freie Gesellschaft, die darauf aufbaut, auch.
Ungeklärt oder wenig beschrieben sind nach wie vor die individuellen und gesellschaftlichen Bedürfnisse, die hinter den Wünschen stehen solche Gimmicks zu haben und zu nutzen – aber was tut man nicht alles um modern zu sein oder zu wirken.
Die New York Times hat ein zum Thema Privatsphäre ein kleines journalistisches Projekt initiiert, welches sich mit den vielfältigen Dimensionen von Technik im digitalen Alltag beschäftigt. Es besteht aus einer Reihe von Beiträgen, hauptsächlich Kommentaren, die das Thema ausloten.
Companies and governments are gaining new powers to follow people across the internet and around the world, and even to peer into their genomes. The benefits of such advances have been apparent for years; the costs — in anonymity, even autonomy — are now becoming clearer. The boundaries of privacy are in dispute, and its future is in doubt. Citizens, politicians and business leaders are asking if societies are making the wisest tradeoffs. The Times is embarking on this monthslong project to explore the technology and where it’s taking us, and to convene debate about how it can best help realize human potential.