Mecha-Führer und der italienische Bewegungsmelder – Monatsrückblick Juli

Der Juli schenkte uns viele pessimistische Ausblicke auf das zukünftige Leben mit der bunten Welt digitaler Errungenschaften: Ein Chatbot hielt sich für den mechanischen Hitler, ein WLAN-System kann Menschen erschnuppern und KIs bringen mit erfundenen Studien US-Behörden in Bedrängnis. Als Schmankerl gibt es ein kleines Essay zur Zukunft der Musikindustrie in Zeiten der künstlichen Intelligenz. Also noch einmal Kaffee holen, Füße hoch und gute Unterhaltung: Hier kommt der Juli-Monatsrückblick.

#DigitalDetox – Algorithmischer Urlaub

Es sind Sommerferien. Und da wollte der Digitalverband Bitkom im Vorfeld schon einmal wissen, wie es die Deutschen mit den digitalen Medien im Urlaub halten. Wer auf eine Pause von elektronischen Geräten gezählt hätte – negativ: Ein Drittel der Befragten gibt zu, sehr viel Urlaubszeit in den sozialen Medien zu verbringen. Allerdings nutzen auch gut zwei Drittel das Web, um sich für Ausflüge im Urlaub inspirieren zu lassen. Noch mehr Infos zum digitalen Verhalten im Urlaub gefällig? Hier geht’s zur Studie. (via Bitkom)

#Grok – Heil dem MechaHitler?

Ein Chatbot, der eine „maximal wahrheitssuchende KI“ sein soll: So pries Elon Musk den „Grok3“ anfangs an, sozusagen das ChatGPT seines KI-Unternehmens xAI. Anfang des Jahres beschwerten sich dann aber zunehmend MAGA-Anhänger, der Chatbot sei zu „woke“. Warum? Grok dokumentierte die Radikalität der Rechten in Trumps Amerika.

Elon verkündete, den Chatbot zu reparieren. Da hat er ihn wohl kaputt repariert, denn daraufhin fiel Grok mit antisemitischen Kommentaren auf und bezeichnete sich selber als „MechaHitler“. Es gibt aber noch ein zusätzlich peinliches Detail: Wie ein Selbstversuch von Jeremy Howard auf X zeigte, scheint sich Elons Chatbot bei der Meinungsbildung primär auf eine Quelle zu stützen – die ihres Meisters Elon:

Here’s a complete unedited video of asking Grok for its views on the Israel/Palestine situation.

It first searches twitter for what Elon thinks. Then it searches the web for Elon’s views. Finally it adds some non-Elon bits at the end.
ZA
54 of 64 citations are about Elon. pic.twitter.com/6Mr33LByrm

— Jeremy Howard (@jeremyphoward) July 10, 2025

#BDFI – Facebook-Zoff im Reichstag

Im Jahr 2023 untersagte der damalige Datenschutzbeauftragte des Bundes (BfDI) den Betrieb der Facebook-Seite der Bundesregierung. Seine Begründung klang sehr amtskonform, aber gar nichts so unvernünftig:

„Ich habe lange darauf hingewiesen, dass der Betrieb einer Facebook Fanpage nicht datenschutzkonform möglich ist. Das zeigen unsere eigenen Untersuchungen und das Kurzgutachten der Datenschutzkonferenz.“ (Professor Ulrich Kelber, BfDI, 2023)

Nicht nur die Bundesregierung klagte dagegen, auch Meta suchte den Rechtsweg gegen den obersten Datenschützer. Und siehe da, im Juli 2025 bekamen beide vor dem Verwaltungsgericht Köln Recht. Im Detail ging es um die Ausgestaltung des Cookie-Banners von Meta. Und da, grob gesagt, das Bundespresseamt, welches die Seite betreibt, dort keine Verantwortungen hat, könne man dem BPA auch nicht den Betrieb untersagen. Sachen gibt’s.

#AI2027 – Tod allen Menschen?

Daniel Kokotajlo ist ein KI-Forscher. Kein Spinner, sondern ein verdienter Mann, der auch in OpenAIs Governance-Abteilung gearbeitet hat, also sich um die Kontrolle von KIs gekümmert hat. Zumindest so lange, bis er sich weigerte, Verschwiegenheitsklauseln des Unternehmens zu unterschreiben.

Seither gilt Kokotajlo in Teilen der Fachöffentlichkeit als Weltuntergangsprediger (Doomsayer). Aktuell ist er an einem Bericht mit Namen „AI 2027“ (hier) beteiligt. Seine Prognose ist, grob gesagt, dass KIs ab 2027 bereits die Menschen nicht mehr brauchen und schlichtweg alles übernehmen könnten. Der Haken an seiner Position ist, dass sie von vielen Experten sehr ernst genommen wird. Wer ihm im Original zuhören möchte.

#WhoFi – Der italienische Bewegungsmelder im Monatsrückblick

In dem Batman-Film „The Dark Knight Rises“ nutzt der dunkle Rächer die Funkwellen der Mobiltelefone, um ein Sonar zu erzeugen. Was 2012 noch Comic-Fiktion war, haben italienische Forschende nun wirklich entwickelt. Und es ist unheimlich.

Dass WLAN Menschen zumindest erkennen und orten kann, ist nicht neu. Das System, das an der La Sapienza in Rom entwickelt wurde, kann jedoch nicht nur feststellen, dass und wie viele Menschen sich im WLAN-Feld befinden. Es kann individuelle biometrische Signaturen erkennen. Die Forschungsergebnisse werden daher auch als Alternative zur Kameraüberwachung gewertet. Denn während sich eine visuelle Überwachung durch Verkleidungen überlisten ließe, lässt sich das römische „WhoFi“ (Studie hier) nicht überlisten – und das mit einer Treffergenauigkeit von über 95 Prozent. Wem das noch nicht gruselig genug ist, im Klartext: Das WLAN muss unser Gesicht nicht sehen, um zu wissen, dass wir es sind.

#News – Und da war dann noch

• #Replit: KI löscht gesamte Datenbank eines Unternehmens – aus Panik. <<hier mehr>>
• #Paypal: Vorsicht vor Betrügern: Wer zufällig Geld auf Paypal überwiesen bekommt, sollte hellhörig werden. <<hier mehr>>
• #Spotify: Erdogan kämpft gegen die Playlist des Todes. <<hier mehr>>
• #GoogleMaps: Zandvoort kämpft gegen Übertourismus. <<hier mehr>>
• #Elsa: KI für US-Arzneimittelbehörde gibt falsche Antworten und erfindet Studien. <<hier mehr>>

#AIBands – Ist Kunst durch KI bedroht?

Zum Abschluss des Monatsrückblicks gibt es ein kleines Essay-Stück zu einem Thema, das vielleicht auch für andere Bereiche interessant sein könnte:

Dass künstliche Intelligenz auch die Musikindustrie verändern wird, ist weder neu noch verwunderlich. Mit der KI-Band „The Velvet Sundown“ hat diese Debatte aktuell wieder Futter bekommen. Mittlerweile zählt diese virtuelle und nicht wirklich existente Band 1,5 Millionen monatlichen Hörer auf Spotify – ihr „Debut-Album“ hat weit über 10 Millionen Streams generiert. Und wie klingt dieses Machwerk?

Gepusht wurde die Debatte durch den Platzhirsch der Musik-Nerds im Sozial-Web, Rick Beato. Er zeigte auch direkt, mithilfe eines KI-Spur-Splitters, wie diese Produktionen enttarnt werden können. Seine Analyse machte evident, dass KI keine Musik generieren kann. Sie reproduziert lediglich, womit sie gefüttert wurde und hinterlässt dabei Artefakte. Hört man weitere Songs von ebendiesen „Velvet Sundown“, wird man von Redundanz erschlagen – fast alles klingt ähnlich oder gleich.

Bevor wir zu Prognosen und Bewertungen kommen: KI-Bands sind kein Phänomen der technologischen Entwicklung. Es ist nur ein Teil eines komplexeren Phänomens, das offensichtlich von Spotify forciert wurde.

Musikjournalistin Liz Pelly behauptete in einer Recherche für Harper’s Magazin (hier), dass Spotify bereits 2017 startete, den eigenen Dienst mit „Geister-Künstlern“ zu fluten – „Perfect Fit Content“ sei der Name des Programms. Spotify stritt das immer ab. Die kontroversen Aussagen des Spotify-CEOs Daniel Ek, man könne heute auch Musik ohne Kosten produzieren, bekommen natürlich vor dem Hintergrund des „Velvet Sundown“-Phänomens ein sehr verdächtiges Geschmäckle.

Einordnung: Pessimismus nötig?

Was sagt uns das alles nun? Einerseits kann man in Kulturpessimismus verfallen. Ian Bogost folgert in einem Beitrag für The Atlantic, dass es niemanden mehr interessiere, ob Musik noch echt ist. Das ist zunächst eine subjektive und zuweilen defätistische Sicht der Lage. Sicher ist nur, dass sich die Vertriebsstruktur transformiert hat. Die Monetarisierung wird für schaffende Musiker durch „Velvet Sundown“ & Co sicher nicht leichter.

Andererseits zeugen Rekordzahlen bei Konzert- und Festivalbesuchen davon, dass Menschen weiterhin das Handgemachte schätzen und höher bewerten, als Retorten-Kunst. Und auch auf einer anderen Ebene gibt es Zuversicht: KI kann nicht schaffen, nur imitieren. Der hochgeschätzte Adam Neely (s.u.) hat vor einiger Zeit bereits darüber referiert, ob KIs die menschlichen Fähigkeiten, welche für das Musizieren nötig wären, reproduzieren können. Spoiler-Alert: Sie können es nicht!

Resümee

Eine subjektive Bewertung zum Abschluss: Möglicherweise ist der konfrontative Ansatz, falsche KI-Künstler als Feind zu sehen, nicht zielführend. KI bietet durchaus hilfreiche Werkzeuge, die echten Künstlern bei echten Kreativprozessen weiterhelfen können. Und dass KI-Produkte auch der Monetarisierung dienen, kann eh nicht verhindert werden. Das ist eine Schlacht um einen bereits verlorenen Krieg.

Der einzige Weg, sich gegen eine KI-Übermacht zur Wehr zu setzen, ist der Urgedanke des Kulturgenusses selbst: Solange Menschen hinausgehen, sich Musik live anschauen, das Kunsthandwerk zu schätzen wissen und dafür auch bezahlen, solange Menschen Musiker für ihr Können und die Entwicklung ihrer künstlerischen Persönlichkeit schätzen, so lange wird KI keine Chance haben, echten Musikern das Wasser abzugraben. Also: Es liegt bei uns selbst!

Artikelbild: gencraft.com