Category: Big Data

KI, dicke Dollars und Halluziationen

Dieser Text von Constanze Kurz und Stefan Ullrich ist eine echte Empfehlung. Vor allem, weil er eine sehr schöne Illustration zur symbolischen Bedeutung von KI in vielen gegenwärtigen Diskursen ist – was wollen wir sehen, worauf springen wir, die Wirtschaft, all die “Gläubigen” an, die sich von KI das Heil erhoffen. Technologie als Symbol, vor allem aber als Marketing-Hype. Das Zitat aus dem Text bringt es auf den Punkt.

Wir müssen dringend kurz noch über diese „Halluzinationen“ sprechen. Es wird fälschlicherweise davon ausgegangen, dass die Maschine halluziniert. Es sind aber tatsächlich die Menschen, die Täuschungen unterliegen und die LLM-Ergebnisse schlicht überinterpretieren. Es ist ein bisschen so, wie wir Figuren in den Wolken zu erkennen glauben.

Klicken Sie auf den unteren Button, um den Inhalt von netzpolitik.org zu laden.

Inhalt laden

Palantir – Film und Analyse

Ein weiteres Posting aus der Abteilung Silicon Valleys Techno-Faschisten

Am 13.2. gab es im Weizenbaum-institut eine Vorführung des Films Watching You – Die Welt von Palantir und Alex Karp von Regisseur Klaus Stern, der auch anwesend war. Ein kleiner Trailer als Appetiizer hier schon mal:

Klaus Stern: Watching You, 2024

Nach dem Film gab es auf der gut besuchten Veranstaltung eine Diskussion mit dem Regisseur, mit Constanze Kurz (CCC / netzpolitik.org, 3 Fragen an CK bei Weizenbaum), Lena Ulbricht (Weizenbaum-Institut / Universität Hildesheim) und Simon Egbert (Universität Bielefeld). Dass hier kein Fanclub von Palantir saß, war klar, das hatte das Publikum auch nicht erwartet und so gab es spannende Information zu den Hintergründen des Film, der Verfassungsklagen gegen die Nutzung der Software durch deutsche Polizeibehörden (wozu es auch schon ein erfreuliches Urteil gibt), sowie zu Forschungen zu dem Thema von Simon und Lena.

Silicon Valleys Techno-Faschisten

Das ist ein wichtiger Punkt, ob in diesem Artikel oder woanders – und an anderen Stellen (oder hier) habe ich diesen Punkt auch und immer schon mal hervorgehoben: Dass Silicon Valley erscheint liberal, coole Büros und irgendwie woke, aber das täuscht und jetzt wird es umso wichtiger darauf zu schauen, wenn es in den USA nicht gerade schon zu spät ist.

Headed for technofascism’: the rightwing roots of Silicon Valley (Guardian, 29.1.2025 von Becca Lewis)

An influential Silicon Valley publication runs a cover story lamenting the “pussification” of tech. A major tech CEO lambasts a Black civil rights leader’s calls for diversifying the tech workforce. Technologists rage against the “PC police”.

No, this isn’t Silicon Valley in the age of Maga. It’s the tech industry of the 1990s, when observers first raised concerns about the rightwing bend of Silicon Valley and the potential for “technofascism”. Despite the industry’s (often undeserved) reputation for liberalism, its reactionary foundations were baked in almost from the beginning. As Silicon Valley enters a second Trump administration, the gendered roots of its original reactionary movement offer insight into today’s rightward turn.

Die Welt von Palantir

Eine Veranstaltung am Weizenbaum-Institut am 13. Februar, Film und Diskussion.

Watching You – Die Welt von Palantir und Alex Karp, 13.2.2025, 18-21 Uhr

Im Anschluss an den Film diskutiert Regisseur Klaus Stern mit Lena Ulbricht (Weizenbaum-Institut und Universität Hildesheim), Constanze Kurz (Chaos Computer Club und netzpolitik.org) und Simon Egbert (Universität Bielefeld) über die gesellschaftlichen Auswirkungen von Überwachungstechnologien und Big Data.

Ethnografie in Polizei-Daten

“Data are constructed, not found (Gitelman, 2013Kitchin and Lauriault, 2014)” Der Satz mag die Leserschaft dieses Blogs nicht überraschen, komisch klingen tut er dennoch. Worum geht es? Um einen sehr empfehlenswerten Aufsatz zur Konstruktion von Daten durch Polizei in und durch ihre Arbeit: …”the term “datafication” implies that something is made into data’ (Mejias and Couldry, 2019: 1). In this study, the ‘something’ concerns the street-level cognitions at the Netherlands Police.”

Donatz-Fest, I. (2024). The ‘doings’ behind data: An ethnography of police data construction. Big Data & Society, 11(3). https://doi.org/10.1177/20539517241270695

Was hat das mit Überwachung zu tun? Nichts und alles. Da es um Kategorien geht, um Einpassungen, Entscheidungen und oft, wie hier auch, die Technik, mit und in der dieses geschieht. Hier ist es die Eingabemaske des polizeilichen Systems, in dem Informationen, Daten, festgehalten werden.

Besser werden – Selbstoptimierung

Das Thema war schon einige Male Thema – und heute auch beim Deutschlandfunk. Das Audio der Sensung Bin ich gut genug? Der Drang zur Selbstoptimierung ist nachhörbar und lohnt sich wie ich finde. U.a. mit dabei ist der Soziologe Hartmut Rosa.

Und ich nutze die Gelegenheit zur schamlosen Selbstbewerbung eines im letzten Jahr publizierten Textes von mir: N. Zurawski: Zählen, messen, kontrollieren. Über eine ambivalente Technik der (Post)Moderne oder: wie aus persönlichem Geltungsdrang ein gesellschaftliches Problem werden kann, Zeitschrift für Semiotik, Vol 45, Heft 3-4, 2023. (erschienen 09/2024, online leider noch nicht frei zugänglich, aber ihr könnt mich fragen… )

Biodaten, Überwachung, “Rasse”

Die Story bekommt man so in aller Kürze gar nicht zusammengefasst: ‘Race science’ group say they accessed sensitive UK health data (Guardian 17.10.2024). Sie zeigt aber warum diese abstruse Geschichte auch für ein Blog wie diesen hier interessant ist.

Wie überkommene, falsche, absurde, aber immer weiterlebende “Rasse“-Theorien (race kllingt zwar weicher und wird im englischen Sprachraum zwangloser benutzt, dadurch wird das Konzept dahinter aber nicht besser) benutzt werden, um Menschen zu kategorisieren hat gerade wegen der Kategorisierungen eben auch mit Überwachung zu tun. David Lyon nennt es Social Sorting, wobei er nicht nur vermeintlich ethnische Merkmale (was immer diese sein könnten) mein, sondern allgemein soziale Aspekte, die sich klassifizieren lassen.

Dass es in dem Artikel auch um DNA-Daten von britischen Bürgern in der UK-Biobank geht, ist dann der weitere Link zu den Themen des Blogs. Datenschutz, biometrische Daten, Datensammlungen und vor allem ihre Auswertung für zweifelhafte Forschungen und Zwecke, wie der Artikel es nahelegt – immerhin geht es um “race science” eingedeutscht etwa “Rassenkunde”.

Überwachung weltweit

Im Panel Surveillance in Afrika & Afrikan Surveillance Studies, der SSN Working Group “Surveillance in the Majority World” auf der SSN 2024 Konferenz in Ljubljana gab es neben interessanten Diskussionsbeiträgen auch den Hinweis auf dieses Paper – frei zum Download.

Klicken Sie auf den unteren Button, um den Inhalt von paradigmhq.org zu laden.

Inhalt laden

Was ist eigentlich diese Digitalisierung?

Diese Recherche und Analyse von Bianca Kastl hat sie die Webseiten der Ministerien und Behörden durchforstet, die sich mit Digitalisierung auf Landes- bzw. Bundesebene befassen. Die Analyse zeigt, u.a. mit sehr anschaulichen Bildern der Bubbles (wörtlich und bildlich zu verstehen), worüber da so genau gesprochen wird. Es ist ja immerhin ein Zukunftsthema, auch wenn die Zukunft seit 25 Jahren begonnen hat (wenn man großzügig rechnet, sonst länger), aber manches in der Politik und vor allem in der Verwaltung braucht halt länger.

Die Recherche sind auch ohne großen Kommentar so gut und bemerkenswert, dass ich hier nicht auf den Hinweis verzichten wollte.

Klicken Sie auf den unteren Button, um den Inhalt von netzpolitik.org zu laden.

Inhalt laden

RAF-Rentner und die Bildersuche

Der erste Staub, der mit der Verhaftung von Daniela Klette aufgewirbelt wurde, hat sich gesetzt. Die etwas zu sehr ins megalomanisch gehende Geraune aus dem Bundesinnenministerium ist auch verschwunden – bleibt also Zeit, sich mal über die Methode Gedanken zu machen, die das ganze mit ans Tageslicht gebracht hat. Es war, klar, mal wieder eine KI, die auch dazu geführt hatte, dass der RBB Podcast der Gesuchten ziemlich nahe kam, wenn auch die Ergreifung durch die Polizei irgendwie anders bewerkstelligt wurde.

Schaut man sich aber die Methoden von Bellingcat einmal an, dann kann man schon sagen, dass hier sehr bedenkenswerte Praktiken am Wert waren, die letztlich dazu führen, dass ein Recht oder auch nur die theoretische Möglichkeit auf Anonymität in der Öffentlichkeit oder überhaupt in einer Gesellschaft endgültig der Vergangenheit angehören.

Michael Colborne vom Recherchenetzwerk Bellingcat sieht diese Gefahr, auch wenn er sagt, dass er seine Erkenntnisse nicht mit der Polizei geteilt hat. (taz 3.3.2024)

Philip Fees fragt in Telepolis ganz richtig, welchen Überwachungsstaat wir wollen. Ich bin mir ob der Frage unsicher, denn viele Teile davon sind bereits vorhanden.

Simulation und Überwachung

Bei Deutschlandfunk Kultur gibt es einen sehr interessantes und tolles Feature zum Thema Digitalisierung in der Stadtplanung unter dem Titel: Sim City: Wenn ganze Metropolen im Computer leben. Die Kurzbeschreibung lautet dazu wie folgt: “Rathäuser sammeln Daten über ihre Städte und erstellen daraus „digitale Zwillinge“. Das könnte die Stadtplanung revolutionieren.”

Was hat das mit Überwachung zu tun? Erstmal nichts, dann aber viel.

Nicht mal beim Schlafen unbeobachtet

Zu den Kalorien aus dem vorheringen Eintrag passt auch dieses auch im September letzten Jahres nicht mehr so neue Gadget zur Schlafüberwachung: “Halo Rise”: Amazon bringt Lichtwecker mit Schlaftracking, Heise News 28.9.2022. Was es tun soll wird klar gesagt. Wichtig bei all den digitalen Hilfen ist, dass etwas optimiert wird, so auch hier.

Amazon hat mit „Halo Rise“ am heutige Mittwoch einen Wecker präsentiert, der seinen Nutzer zum optimalen Zeitpunkt sanft mit Licht wecken soll. Um dies zu bewerkstelligen, sind in dem Gerät Sensoren integriert, die nicht nur die Temperatur, die Luftfeuchtigkeit und die Helligkeit des Raums erfasst, sondern auch den Schlaf des Nutzers trackt.