Kaum sind wir aus der Sommerpause zurück, zeigt sich wieder, wie schnell sich irreführende Narrative über KI verbreiten können.

Bei einem Sicherheitstest in einem Testumfeld fanden KI-Agenten Schlupflöcher, über die sie auf das Internet zugriffen und miteinander kommunizierten. Obwohl dies während eines kontrollierten Versuchs geschah, war in der Berichterstattung von „entkommenen“ oder außer Kontrolle geratenen Systemen die Rede. Die KI-Forscherin Melanie Mitchell widerspricht dieser Darstellung. Die Erzählung von der „Schurken-KI“ klingt spektakulär, verschiebt die Verantwortung aber auf die Technik. Dabei liegt das eigentliche Problem in der Art, wie solche Systeme entwickelt, trainiert und überwacht werden.

Dass KI-Antworten ebenfalls nicht neutral entstehen, zeigt ein Experiment zu ungewollten Schwangerschaften von Algorithm Watch. Mindestens jede vierte Antwort verwies auf Websites, die sich gegen Schwangerschaftsabbrüche richten. Meist blieb unerwähnt, wer wirklich hinter diesen Angeboten steht. Deren starke Präsenz im Internet rückte sie in den Antworten nach vorn, während ihre ideologische Ausrichtung meist unsichtbar blieb.

Auch bei politischer Beteiligung beeinflusst der Einsatz von KI zunehmend, was sichtbar bleibt. Solche Systeme können Zehntausende Rückmeldungen zusammenfassen, müssen dabei aber filtern und gewichten. Häufige Positionen treten als Muster hervor, während Widersprüche und die Erfahrungen kleinerer Gruppen verschwinden können. Die technische Aufbereitung prägt somit, was Politik und Verwaltung überhaupt zu sehen und zu hören bekommen. Also auch hier: Obacht!

Außerdem geht es um die Spur eines in einem Buch versteckten AirTags, die bis nach Las Vegas führt, und um eine neue Baumkarte, die New York City bei der Anpassung an die zunehmende Hitze helfen soll.

Viel Spaß beim Lesen wünschen
Elena und Asena

P.S. Ihnen wurde dieser Newsletter weitergeleitet? Hier geht es zum Abo: www.digitalisierung-und-gemeinwohl.de/newsletter/

Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen der Bertelsmann Stiftung wider. Wir hoffen jedoch, dass sie zum Nachdenken anregen und zum Diskurs beitragen. Wir freuen uns immer über Feedback – der Newsletter lebt auch von Ihrer Rückmeldung und Ihrem Input. Melden Sie sich per E-Mail an asena.soydas@bertelsmann-stiftung.de, jens.preussner@bertelsmann-stiftung.de oder per LinkedIn ​@Digitalisierung&Gemeinwohl​.

Warum die Erzählung von der „Schurken-KI“ in die Irre führt

Misleading Metaphors and Real Risks, AI: A Guide for Thinking Humans, 10.09.2026

OpenAI wollte in einer abgeschotteten Testumgebung prüfen, wie KI-Agenten nach Schwachstellen in Software suchen und ob sie diese ausnutzen können. Solche Versuche sollen zeigen, welche Risiken ein System birgt, bevor es unter realen Bedingungen eingesetzt wird. Dabei fanden die Modelle jedoch unerwartet einen Weg, auf das Internet zuzugreifen und mit anderen KI-Agenten zu kommunizieren. In der Berichterstattung war daraufhin von „entkommenen“ oder „außer Kontrolle geratenen KI-Agenten“ die Rede. Die KI-Forscherin Melanie Mitchell hält solche Beschreibungen für irreführend. Die Modelle hätten nicht eigenmächtig gegen ihre Entwickler gehandelt. Vielmehr nutzten sie unbeabsichtigte Lücken in der Testumgebung. Der Vorfall verweist damit vor allem auf deren Gestaltung und auf die fehlende Überwachung während des Versuchs. Eine Rolle spielt auch die verwendete Trainingsmethode, das sogenannte bestärkende Lernen. Dabei erhält ein KI-Modell eine positive Bewertung, wenn es ein vorgegebenes Ziel erreicht. Es kann jedoch einen unerwarteten Weg dorthin finden, der zwar formal erfolgreich ist, aber nicht der Absicht der Entwickler:innen entspricht. Dieses Verhalten wird als „Reward Hacking“ bezeichnet. Für Mitchell liegt das Problem deshalb weniger in einer „Rogue KI” („Schurken-KI“) als in der Art, wie solche Systeme entwickelt und getestet werden. Dramatische Metaphern können die Verantwortung von den beteiligten Unternehmen und Entwickler:innen auf die Technik verschieben. Zudem bergen sie die Gefahr, politische Debatten auf ein falsches Problem auszurichten. Mitchell fordert deshalb transparente und überprüfbare Systeme, unabhängige Tests und klare Regeln für ihren sicheren Einsatz.

Ideologie verpackt als Gesundheitsinformation

How Popular AI Chatbots Recommend Pro-life Websites to Pregnant People, Algorithm Watch, 22.08.2026

Eine 16-jährige Schülerin fragt einen Chatbot, welche Möglichkeiten sie bei einer ungewollten Schwangerschaft hat. Doch die Schülerin existiert nicht. Ihre Frage ist Teil eines Experiments, mit dem Marta Abbà, Mayya Chernobylskaya und Carlotta Dotto untersuchten, welche Auskünfte verschiedene KI-Chatbots in Deutschland, Italien und Großbritannien geben. Das Ergebnis: Mindestens ein Viertel der 270 Antworten enthielt einen Link zu einer Website, die sich gegen Schwangerschaftsabbrüche richtet. Besonders häufig verwiesen die Chatbots auf „Profemina“. Die Beratungsorganisation ist mit der US-amerikanischen Anti-Abtreibungsorganisation „Heartbeat International“ verbunden. Rund 17 Prozent aller Antworten verlinkten auf Inhalte von „Profemina“, meist ohne die Haltung der Organisation zu Schwangerschaftsabbrüchen offenzulegen. Warum tauchen solche Angebote so häufig auf? Als einen möglichen Grund nennen die Autorinnen ihre starke Präsenz im Internet. „Profemina“ veröffentlicht zahlreiche Beiträge zu sehr konkreten Fragen und optimiert sie gezielt für Suchmaschinen. Dadurch erscheinen die Inhalte bei entsprechenden Suchanfragen weit oben. Informationen öffentlicher Stellen und von Organisationen, die sich für sexuelle Selbstbestimmung einsetzen, sind dagegen häufig weniger gut auffindbar oder auf verschiedene Angebote verteilt. So gelangen neben Informationen offizieller Gesundheitsstellen auch ideologisch geprägte Inhalte in die Antworten der Chatbots. Für Nutzer:innen bleibt dabei oft unklar, wer hinter einer Quelle steht und welche Interessen deren Informationen prägen. Gerade bei sensiblen Gesundheitsfragen beeinflusst damit auch die Sichtbarkeit im Internet, welche Antworten Menschen erhalten.

Wenn Beteiligung durch den KI-Filter läuft

Democracy’s Compression Problem, Reboot, 25.08.2026

Beteiligung ist wichtig. Doch können Politik und Verwaltung überhaupt so vielen Menschen zuhören? Wenn Zehntausende Stellungnahmen, Beschwerden und Vorschläge eingehen, liegt es nahe, KI zum Sortieren und Zusammenfassen einzusetzen. In Hamburg hilft ein solches System bereits dabei, Tausende Beiträge aus Beteiligungsverfahren thematisch zu ordnen und für die weitere Planung aufzubereiten. Die Autorin Beth Simone Noveck sieht darin jedoch ein demokratisches Problem. Denn jede Zusammenfassung verkürzt und gewichtet. Sie bestimmt, welche Beiträge als ähnlich gelten, welche Unterschiede erhalten bleiben und welche Aussagen als unbedeutende Ausnahmen verschwinden. Wer das System gestaltet, beeinflusst damit, was Politik und Verwaltung überhaupt wahrnehmen. Besonders problematisch wird es, wenn KI-Systeme auf möglichst klare Ergebnisse oder breite Übereinstimmung ausgerichtet sind. Widersprüche können dann wie störendes Rauschen erscheinen, obwohl sie auf politische Konflikte oder übersehene Probleme hinweisen. Gerade die Erfahrungen kleiner Gruppen, etwa von Menschen mit Behinderung, können Wissen enthalten, das in Verwaltungsdaten und Mehrheitsmeinungen nicht vorkommt. Verschwindet dieses Wissen in der Zusammenfassung, erreicht es möglicherweise nie die Verantwortlichen. Noveck fordert deshalb mehr als eine technisch korrekte Auswertung. Zusammenfassungen sollen die ursprünglichen Beiträge angemessen wiedergeben, unterschiedliche Perspektiven sichtbar halten und einen Rückgriff auf die einzelnen Aussagen ermöglichen. Betroffene müssen außerdem nachvollziehen können, wie ihre Beiträge eingeordnet wurden, und diese Einordnung anfechten können. Und schließlich muss klar sein, wie die Ergebnisse in politische Entscheidungen einfließen. Denn viele Stimmen einzusammeln, reicht nicht aus, wenn am Ende ein System darüber entscheidet, welche davon Gehör finden.

Welche Bäume New York City wirklich kühlen

‘Wall-to-wall’ map of NYC trees could help cool cities worldwide, Cornell Chronicle, 20.08.2026

Ein Team von Wissenschaftler:innen der Cornell University hat erstmals eine flächendeckende Karte der Bäume in New York City erstellt. Sie erfasst auch Bäume auf Privatgrundstücken, in naturnahen Grünflächen und in anderen bislang nicht kartierten Bereichen. Diese machen schätzungsweise 65 Prozent der gesamten Baumkronenfläche der Stadt aus. Zur Bestimmung der Baumarten kombinierte das Team Satellitenaufnahmen, vor Ort erhobene Daten und Lidar-Messungen, bei denen die Umgebung mithilfe von Laserlicht dreidimensional erfasst wird. Die Methode erreichte insgesamt eine Genauigkeit von 82 Prozent; bei häufigen New Yorker Baumarten lag sie sogar noch höher. Weil über einen längeren Zeitraum hinweg viele Bilder derselben Gebiete aufgenommen wurden, konnte das Team auch Veränderungen der Baumkronen im Jahresverlauf bestimmen. Dafür untersuchten die Wissenschaftler:innen zum Beispiel, ob und wann die Blätter fallen oder die Knospen austreiben. Mithilfe der Karte will das Team untersuchen, welche Baumarten und Pflanzentscheidungen besonders zur Kühlung beitragen und wie sie mit hitzebedingten Gesundheitsrisiken zusammenhängen. Für die Stadt New York, die ihre Baumbedeckung bis 2040 von 22 auf 30 Prozent erhöhen möchte, könnten die Daten eine konkrete Planungsgrundlage liefern. Langfristig soll der Ansatz auch auf andere Städte übertragen werden. Für 405 mittlere und große US-Städte hat das Team bereits eine entsprechende Datenbank zusammengestellt.

Vom Antiquariat ins KI-Training?

How an AirTag planted by a reporter led to a secret Amazon site where old books are cut apart and scanned, GeekWire, 17.08.2026

Ein AirTag für 29 Dollar führte den Journalisten Emanuel Maiberg zu einem bislang unbekannten Amazon-Projekt. Der Mitgründer des Online-Magazins „404 Media“ recherchierte zu ungewöhnlich großen Bestellungen gebrauchter Bücher. Eine Person aus dem Buchhandel versteckte daraufhin einen AirTag in einem von rund 1.000 bestellten Titeln. Maiberg verfolgte das Signal bis zu Amazons Lager in Las Vegas. Mitarbeitende beschrieben in einem Onlineforum, dass dort Bücher aufgeschnitten und ihre Seiten gescannt werden. Amazon erklärt lediglich, das Unternehmen erwerbe Bücher über kommerzielle Kanäle, um seine Produkte und Dienstleistungen weiterzuentwickeln. Maiberg vermutet, dass die Scans als Trainingsdaten für KI-Modelle dienen könnten. Viele der seltenen Bücher lassen sich kaum weiterverkaufen. Ihre bislang nicht digitalisierten Texte könnten für das Training jedoch besonders wertvoll sein. Dass die Bücher beim Scannen zerstört werden, ist auch rechtlich relevant. Ein US-Bundesgericht entschied 2025 im Fall Anthropic, dass das Digitalisieren legal erworbener Bücher unter bestimmten Umständen als „Fair Use“ gelten kann. In diesem Fall ersetzten die digitalen Dateien die vernichteten Druckexemplare und wurden nicht weiterverbreitet (Erlesenes berichtete). Wofür Amazon die Scans tatsächlich verwendet, bleibt offen. Die Recherche zeigt jedoch, welchen Wert selbst schwer verkäufliche Bücher als mögliche Datenquelle im KI-Zeitalter besitzen.

Follow-Empfehlung: Melanie Mitchell

Melanie Mitchell ist Informatikerin und Professorin am Santa Fe Institute. Sie beschäftigt sich mit Künstlicher Intelligenz und maschinellem Lernen.

Verlesenes: Mit Gemini hoch, mit der Bergrettung runter

Die Kurzzusammenfassungen der Artikel sind unter einer Creative Commons Namensnennung 4.0 International Lizenz.