Schicksalsmaschinen: Algorithmen erobern das US-Justizsystem.
Von Tom Schimmeck. Das Hörspiel kann runtergeladen werden, leider nicht unbefristet.
Algorithmen entscheiden heute oft über Aktieninvestitionen, Bewerbungen und die Kreditwürdigkeit eines Kunden. In den USA lässt nun auch die Justiz zunehmend Software über Schicksale entscheiden.
Ringvorlesung im Rahmen des Allgemeinen Vorlesungswesens an der Universität Hamburg, Wintersemester 2017-18:
Daten, Algorithmen, Kontrolle der Zukunft. Big Data in der digitalen Gesellschaft – Anwendungen und Zweifel.
ein kluger Artikel von Adrian Lobe (FAZ, 22.6.2017) über die Macht der Maschinen, mit denen wir uns umgeben und den wir vertrauen als wären sie gute Bekannte….
Das Herrschaftswissen, das die Tech-Giganten mit ihren Maschinen aggregieren, könnte sich schon bald gegen ihre Nutzer wenden.
Ich würde argumentieren, der Wunsch nach den digitalen Domestiken und nach Distinktion, dem Zwang der Hypermoderne anzugehören, führt zu einem Trend in der ÜBerwachung (wenn auch nicht so genannt) zum Lifestyle wird. Ich werde dazu in Kürze nochmal ein paar Ausführungen machen.
Die Wiener Journalistin Sarah Kriesche hat im ORF ein Radiokolleg über 4 Folgen produziert, was vom 26.-29. Juni läuft. Titel: Die Daten-Gesellschaft.
Auf internationalen Konferenzen, in der Politik, in der Literatur oder in den Medien: Immer wieder ist vom “Geschäft mit unseren Daten” und “neuen Daten-Gesellschaftsformen” die Rede. Utopie und Dystopie scheinen diesen Gesellschaftsweg Hand in Hand entlang zu schreiten.
Sarah Kriesche beleuchtet den Einfluss von Daten auf die Wirtschaft, Verbrechen, Krieg und Demokratie.
Der Künstler Luke Munn spielt mit der Idee, was wäre wenn Alexa oder ein ähnliches Ding tatsächlich als Zeuge für Geschehnisse zugelassen wäre, ein Blick in unsere digitale Zukunft des “guten Leben” wie es sich die Nerds aus dem Silicon Valley vorstellen. http://lukemunn.com/monitor/
© Luke Munn, Work: Monitor
Recently police in Arkansas issued a warrant for Amazon Alexa data in connection with a suspected homicide. Though the request was denied, this artwork acts as if it was accepted, using ‘smart home’ notifications to extrapolate from the evening’s events: a few friends, a few drinks, a floating body. In doing so, it explores the data these objects might possess and anticipates some of the ways it might be both used and abused.
Mode kann Trendsetter sein, aber auch eine Reaktion auf die gesellschaftlichen Verhältnisse. Die Beispiele in der Geschichte der Bekleidung sind vielfältig, vom Minirock, zur Krawatte, zu den Baggy-Jeans der Hiphopper (und der kleinen Jungs, die fast immer damit stolpern…). Also warum nicht auch Kleidung gegen die omnipräsente öffentliche Überwachung. Bei der BBC gab es dazu einen schönen kleinen Bericht mit Beispielen: How what you wear can help you avoid surveillance (21.4.2017).
The HyperFace print range features patterns suggesting eyes, noses and mouths to confuse facial recognition algorithms (Credit: Adam Harvey)
Es ist eine Binsenweisheit, dass das Digitale in unsere Welt eindringt und sie vielfach übernimmt, uns zu neuen, anderen Praktiken im Alltag auffordert, gar zwingt, dass viele der Folgen noch nicht absehbar sind, wir andererseits uns aber auch begeistert auf die neuen Möglichkeiten stürzen, die geboten werden. Dass wir manchmal nur Probleme lösen, die wir ohne die Technik nicht gehabt hätten, ist dabei zweitrangig.
Zwei Artikel, die kürzlich erschienen sind, beschäftigen sich mit diesen Konsequenzen und Entwicklungen.
Gerade erschienen bei Kommunikation@Gesellschaft, die Themenausgabe zu “Algorithmen, Kommunikation und Gesellschaft”, herausgegeben von Jan-Hinrik Schmidt, Katharina Kinder-Kurlanda, Christian Stegbauer und Nils Zurawski.
Mit Beiträgen zur Soziologie des Algorithmus; Algorithmische Selektion im Internet; Filterblasen – Ausgangspunkte einer neuen, fremdverschuldeten Unmündigkeit?; „Online-Audiences“ – Zur Publikumsvermessung im Internet u.a.m.
Was als Seitentechnologie begann, BodyCams, weitet sich immer mehr aus. Nicht überraschen, werden die meisten Leser des Blogs jetzt rufen. Nein ist es nicht. Dennoch einen Blick wert. Dazu sind mir drei Artikel über den Weg gelaufen, die sehr umfassend Problematik, Folgen und Richtung der Ausweitung aufzeigen. Themen dabei sind Kameras nicht nur bei der Polizei, sondern in diesem Fall bei Lehrern einer Schule (irre!); die Verbindung mit Gesichtserkennung (eine Frage der Zeit); sowie die komplette Ausweitung (zu erwarten).
Ava Kofman in the Intercept, 22.3.2017: “Real-time face recognition threatens to turn cops body cameras into surveillance machines.”
Peter J. Walker in the Guardian, 8.2.2017: Two UK schools trial use of police-style bodycams for teachers
The Conversation, 14.3.2017: If surveillance cameras are to be kept in line, the rules will have to keep pace with technology.
Hier habe ich ein interessantes Buch gefunden: The Datafied Society Studying Culture through Data, herausgegeben von Mirko Tobias Schäfer & Karin van Es.
Es ist online erhältlich: http://oapen.org/search?identifier=624771
Autoren sind unter anderem: Theo Röhle, Richard Rogers, Lev Manovich, Annette Markham, Evgeny Morozov u.v.a.m.
Für alle die des Französischen mächtig sind, hier ein Tipp: Francesca Musiani: Internet et vie privée en 40 pages.
Au croisement de la sociologie des techniques et du droit, ce livre explore les récentes évolutions de la vie privée à l’ère du numérique, en dévoilant les multiples tensions dont elle fait l’objet, la diversité de ses définitions et périmètres, la recherche constante d’un équilibre entre tutelle juridique et sauvegardes techniques, surveillance et protection, modèles d’affaires et transparence, droits du consommateur et libertés citoyennes.
Da sich der Begriff race nicht ganz passend mit Rasse übersetzen lässt (zumindest nicht in der Verwendung), bleibe ich beim Englischen. Die Zusammenhänge zu Überwachung sind vielfältig, aber immer noch eher ein Seitenaspekt der surveillance studies.
Oft geht es dabei um die diskriminierende Beobachtung bestimmter ethnischer Bevölkerungsgruppen, insbesondere der afro-amerikanischen in den USA. Dort ist genau dieses Verhältnis auch viel diskutiert, wie eine Konferenz im April 2016 nahelegt: Government Surveillance and Race. (Pressemitteilung zur Konferenz; Videos von der Tagung). Hier geht es vor allem um Themen wie Polizei(gewalt), Strafjustizsystem, Überwachung von Aktivisten usw.
Siehe auch die Besprechung von Simone Brownes Dark Matters
Die Diskussion über die Probleme bei der digitalen Identifizierung bestimmter ethnischer Gruppen, vor allem aufgrund der Hautfarbe sind nicht neu, aber immer wieder ein Thema: Machine Bias. There’s software used across the country to predict future criminals. And it’s biased against blacks.
Zu Künstlicher Intelligenz und den latent diskriminierenden Eigenschaften der Algorithmen berichtet auch der Artikel Artificial Intelligence’s White Guy Problem. (NYT 25.6.2016)
Die Zusammenhänge sind aber nicht nur willkürlich und allein rassistisch, sondern haben ihre Ursprünge in den historischen Strukturen der Gesellschaft, zu denen auch eine räumliche Dimension gehört…..