Darüber, dass KI-Systeme oft als etwas Unausweichliches propagiert werden, haben wir bei Erlesenes schon berichtet. Nun gibt es einen sehr schönen Gegenentwurf dazu, der in Form der „AI Resist List“ Beispiele aus der ganzen Welt zeigt, wie Menschen und Communitys sich mit kreativen Aktionen und Protesten dagegenstellen und beweisen, dass diese scheinbare Unausweichlichkeit nicht in Stein gemeißelt ist. Des Weiteren in dieser Erlesenes-Ausgabe: Eine Analyse von Amnesty International zeigt die negative Menschenrechtsbilanz generativer KI-Technologien, während eine Studie der Stanford University untersucht hat, wie KI in der Personalgewinnung eingesetzt wird. Und was natürlich nicht fehlen darf: die päpstliche Enzyklika und die Frage nach Verantwortung und Menschenwürde.
Außerdem: Wie dystopisch ist die technokratische Utopie mancher Tech-Billionäre?
In eigener Sache: Das war heute meine letzte Ausgabe und ich verabschiede mich schweren Herzens von Erlesenes 😢. Es war mir eine große Freude, die letzten 75 Ausgaben für Sie zu kuratieren und die Entwicklungen rund um KI aus einer gemeinwohlorientierten Perspektive einzuordnen. Danke, dass Sie mit mir den Blick über den Tellerrand gehoben, Perspektiven fernab der dominierenden Diskurse verfolgt und dabei offensichtlich auch die Fundstücke mit Augenzwinkern gemocht haben. Vielen Dank für Ihre treue Leser:innenschaft! Ein großer Dank gebührt auch Michael Puntschuh und Elena Kalogeroupoulos, Asena Soydaş für die Urlaubsvertretungen sowie Carina Wegener, Franzi Damerow und Herrn Gajdacz, ohne die das nicht möglich gewesen wäre.
Viel Spaß beim Lesen wünscht
Teresa
P.S. Ihnen wurde dieser Newsletter weitergeleitet? Hier geht es zum Abo: https://www.reframetech.de/newsletter/
Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen der Bertelsmann Stiftung wider. Wir hoffen jedoch, dass sie zum Nachdenken anregen und zum Diskurs beitragen. Wir freuen uns immer über Feedback – der Newsletter lebt auch von Ihrer Rückmeldung und Ihrem Input. Melden Sie sich per E-Mail an teresa.staiger@bertelsmann-stiftung.de oder bei Bluesky unter @reframetech.bsky.social.
Der Papst, die KI und die Frage der Verantwortung
The Pope’s Encyclical on AI Was Important—Now Comes the Hard Part, Tech Policy Press, 27.5.2026
Ende Mai 2026 hat Papst Leo XIV. eine Enzyklika – ein päpstliches Rundschreiben an die Bischöfe weltweit – veröffentlicht, das sich dem Schutz des Menschen im Zeitalter von KI-Technologie widmet. Der Papst arbeitet dabei mit zwei biblischen Bildern. Während die Erzählung vom Turmbau zu Babel die Gefahr symbolisiert, dass Vielfalt zugunsten von Vereinheitlichung verschwindet, rückt die Erzählung im Buch Nehemia gemeinsame Verantwortung und kollektives Handeln in den Vordergrund. Die Botschaft lautet somit, dass KI-Technologie der Würde des Menschen dienen kann, sofern man sie als Werkzeug begreift, das Wachsamkeit verlangt. Doch wer trägt Verantwortung? An dieser Stelle bleibt die Enzyklika unkonkret und weist die Verantwortung an einigen Stellen den Nutzer:innen, an anderen den Konzernen zu, die solche Werkzeuge entwickeln und vermarkten. Der Autor des Artikels, José Marichal, greift diese Frage auf und verweist auf die These des Politikwissenschaftlers Langdon Winner, dass Technik nie neutral sei, sondern dass politische Interessen und Machtverhältnisse in ihr Design eingeschrieben werden. Marichal plädiert deshalb dafür, weniger abstrakt über „die KI“ zu sprechen. Ausschlaggebend sei vielmehr, welche Handlungsoptionen einzelne Plattformen ermöglichen, unterstützen oder verhindern. Die Frage laute demnach nicht, was KI-Systeme im Allgemeinen können, sondern wie sie gestaltet sind und welche Folgen sich daraus für Demokratie und Menschenwürde ergeben.
Die Menschenrechtsbilanz generativer KI-Technologie
Unlawful by Design, Amnesty International, 2026
Generative KI-Systeme erzeugen Texte, Bilder, Töne oder Videos und wirken auf den ersten Blick effizient und leistungsfähig. In ihrer Analyse sieht die Menschenrechtsorganisation Amnesty International dahinter jedoch Designentscheidungen, die mit internationalen Menschenrechtsstandards in Konflikt stehen können. Dafür wurden bekannte KI-Systeme wie ChatGPT, Gemini oder Midjourney untersucht, die mit großen Datenmengen trainiert und ohne Wissen und Einwilligung der Betroffenen aus dem Netz gesammelt wurden, wie etwa von Nutzer:innen sozialer Medien und Künstler:innen. Amnesty bewertet dieses großflächige „Web Scraping“ (automatisiertes Sammeln öffentlich zugänglicher Webdaten) als rechtswidrige Praxis und sieht darin einen Eingriff in das Recht auf Privatsphäre, der bereits in der Konstruktion vieler Systeme angelegt sei. Aus dieser Grundlage leiten sich weitere Probleme ab: Je größer die Modelle werden, desto mehr Energie, Wasser und Rechenzentren werden benötigt. Die damit verbundenen Umweltbelastungen treffen laut Amnesty überproportional Communitys in Ländern der Globalen Mehrheit, in denen sich zunehmend entsprechende Infrastruktur befindet. Hinzu kommen systematische Biases, da die Trainingsdaten stark englischsprachig und westlich geprägt sind, wodurch andere Sprachen und Kulturen benachteiligt werden können. Unternehmen hätten Tempo und Größenwachstum über den Schutz von Rechten gestellt. Als Gegenmodell nennt Amnesty kleinere Sprachmodelle, die mit gezielt ausgewählten Datensätzen arbeiten und weniger Ressourcen verbrauchen.
Algorithmische Monokulturen im Recruiting
AI Hiring Tools Can Yield Racial BiasBias In der KI bezieht sich Bias auf Verzerrungen in Modellen oder Datensätzen. Es gibt zwei Arten: Ethischer Bias: systematische Voreingenommenheit, die zu unfairen oder diskriminierenden Ergebnissen führt, basierend auf Faktoren wie Geschlecht, Ethnie oder Alter. Mathematischer Bias: eine technische Abweichung in statistischen Modellen, die zu Ungenauigkeiten führen kann, aber nicht notwendigerweise ethische Probleme verursacht. and Systemic Rejection, HAI Stanford University, 26.5.2026
Könnte bei Ihrer nächsten Bewerbung zunächst ein KI-System „entscheiden“? In den USA setzen nämlich bereits neunzig Prozent der Arbeitgeber solche Systeme ein und die meisten greifen dabei auf dieselben wenigen Drittanbieter zurück. Eine Studie hat erstmals in großem Umfang untersucht, wie diese Systeme im echten Einsatz funktionieren. Dazu verfolgten die Wissenschaftler:innen 3,4 Millionen Menschen mit vier Millionen Bewerbungen auf 1.700 Stellen bei 150 Arbeitgebern, deren Bewerbungen alle über das System eines einzigen Anbieters liefen. Das Ergebnis ermöglicht einen seltenen Einblick in die Blackbox solcher Verfahren: 26 Prozent der Schwarzen und 15 Prozent der asiatischen Bewerber:innen bewarben sich auf Stellen, bei denen das System ihre Gruppe benachteiligte. Wären sie so oft empfohlen worden wie die jeweils am häufigsten empfohlene Gruppe – häufig weiße Bewerber:innen –, wären 40.000 Bewerbungen mehr eine Runde weitergekommen. Dies wird jedoch nur sichtbar, wenn man jede Stelle einzeln betrachtet. Empfiehlt ein System schwarze Bewerber:innen häufiger für Lagerjobs, aber seltener für Stellen im Finanzbereich, bleibt die Benachteiligung im Gesamtdurchschnitt oft unsichtbar. Ein zweites Ergebnis betrifft eben die Abhängigkeit von einem einzigen Anbieter, die die Studie als „algorithmische Monokultur“ beschreibt: Wer von diesem System einmal schlecht bewertet wird, hat auch bei anderen Stellen schlechtere Chancen, wenn dort dasselbe System eingesetzt wird. Wer sich auf mehrere solcher Stellen bewirbt, wird häufiger überall aussortiert, als es bei unabhängigen Entscheidungen zu erwarten wäre.
Our tech overlords are planning for conscious AI to conquer the cosmos. What could go wrong?, The Guardian, 31.5.2026
Was wäre, wenn die einflussreichsten Personen des Silicon Valley den heutigen Menschen für ein Auslaufmodell halten würden? Eduardo Porter zeichnet in dem Artikel nach, wie sich unter einflussreichen Akteuren der Technologiebranche wie Sam Altman, Marc Andreessen und Elon Musk die Vorstellung einer transhumanen Zukunft verbreitet hat. Ihr Ziel ist laut Porter ein Zukunftsentwurf, in dem das menschliche Bewusstsein mit Maschinen verschmilzt, der Tod überwunden wird und die Menschheit den Kosmos erobert. Porter interpretiert dies als eine entstehende säkulare Glaubenswelt, die dem eigenen Technologieprojekt den Anschein von Unausweichlichkeit und höherem Sinn verleiht. Die Ideen dahinter werden unter anderem von Denkern wie dem Philosophen Nick Bostrom, Strömungen wie dem Effective Altruism geprägt und aus dem Vermögen der Techbranche finanziert. Laut Porter fließen damit Kapital, Energie, Wasser und Rohstoffe in diesen „Traum“ statt in Gesundheit, Bildung oder die Bekämpfung von Armut. Als historische Mahnung dient Porter „Fordlândia“, eine von Henry Ford im brasilianischen Amazonasgebiet gegründete Industriestadt, die zeigen sollte, wie sich Gesellschaft nach den Vorstellungen eines mächtigen Unternehmers technisch und sozial neu ordnen lässt und die heute zum Symbol solcher gescheiterter technokratischer Utopien gilt. Wollen wir hoffen, dass sich diese Geschichte wiederholt.
Eine Landkarte des Widerstands
The World Is Already Resisting AI. Now, There is a List to Prove It., Tech Policy Press, 21.5.2026
„KI lässt sich nicht aufhalten“, so lautet die Botschaft, die beispielsweise Sam Altman, der Chef von OpenAI, und der Investor Marc Andreessen seit Jahren wiederholen. Wer widerspreche, sei naiv. Die Autorin Petra Molnar zeigt in ihrem Artikel, dass diese „Rhetorik der Unausweichlichkeit“ selbst eine politische Erzählung ist. Als Gegenerzählung stellt sie die „AI Resist List“ (Liste des KI-Widerstands) vor: eine öffentliche Datenbank, die Beispiele für Widerstand gegen die KI-Industrie aus aller Welt dokumentiert. Getragen wird sie unter anderem vom Forschungsinstitut DAIR (Distributed AI Research Institute) und aufgebaut von Journalist:innen und Wissenschaftler:innen über sieben Zeitzonen hinweg. Knapp sechs von zehn regional verorteten Einträgen stammen aus dem Globalen Süden. In Japan zwang etwa eine Gewerkschaft den Konzern IBM offenzulegen, welche KI-generierten Bewertungen in die Festlegung von Löhnen einflossen. In Chile beantworteten Anwohner:innen einen Tag lang selbst die Anfragen, die wie aus einem KI-System aussahen, um Nutzer:innen zum Innehalten zu bewegen (Erlesenes berichtete). In Kenia setzt sich ein Verband von Datenarbeiter:innen für faire Bedingungen und gegen psychische Unterstützung ein. Und in New Mexico klagt eine Gemeinde gegen ein geplantes Rechenzentrum. Immer wieder richtet Molnar den Blick auf die oft unsichtbare Arbeit hinter KI-Systemen. Daraus leitet sie vier Forderungen ab: Transparenz, echte Beteiligung der Betroffenen, Verantwortung entlang der Lieferkette und die Frage, wem die KI-Infrastruktur eigentlich gehört.
Follow-Empfehlung: AI Now Institute
Das AI Now Institut ist ein unabhängiges Forschungsinstitut, das die gesellschaftlichen Folgen von KI-Technologien untersucht.
Verlesenes: Innovatives Arbeiten mit KI (Symbolbild)
Die Kurzzusammenfassungen der Artikel sind unter einer Creative Commons Namensnennung 4.0 International Lizenz.
Kommentar schreiben