Nachdem die lautesten Rufe zur stärkeren (Selbst-)Regulierung von KI-Technologien verklungen sind, folgen nun Stimmen, die für mehr Beteiligung und demokratisches Sagen sind. Im Kern schlagen die Politikwissenschaftlerin Hélène Landemore und Taiwans ehemalige Digitalministerin Audrey Tang eine weltweite Bürgerversammlung vor, um die Ziele und Grenzen von leistungsfähiger KI mitzugestalten. Eine solche Versammlung hätte die notwendige moralische Autorität und Perspektivendiversität, politische Legitimität ließe sich über lokale Gesetze herstellen.
Spannend ist unter dem Gesichtspunkt auch, was afrikanische Expert:innen über Risiken von agentischen KI-Systemen herausgefunden haben: Eingebaute Sicherheitsmechanismen funktionierten in einem Test nämlich unterschiedlich zuverlässig – je nach Sprache. Gathoni Ireri von einem Forschungszentrum zu KI-Sicherheit in Nairobi fordert deshalb, dass Sicherheitsbewertungen von agentischen KI-Systemen regionale Spezifika beinhalten müssten, da regional auch Unterschiede in Risiken bestünden. Das wäre doch eine großartige erste Anwendung für die weltweite Bürgerversammlung von Landemore & Tang.
Dass mehr gesellschaftliche Beteiligung nötig ist, zeigen auch zwei Beispiele aus den USA: Der Ausbau von KI-Rechenzentren erfährt dort heftigen Gegenwind. Eine Studie weist z. B. darauf hin, dass eine ursprüngliche Begeisterung für KI mittlerweile einer Besorgnis der Amerikaner weicht. Das AI Now Institute berichtet zudem, dass Tech-Plattformen (wieder mal) für laxere Regulierung im Gesundheitswesen lobbyieren – um ihr Geschäftsmodell der KI-getriebenen Organisation von Pflegekräften (hallo Plattformökonomie!) ausweiten zu können. Auf Kosten der Arbeitnehmerrechte, des Arbeitsschutzes und der Löhne von Pflegekräften, versteht sich.
Unsere Meinung: Statt kritischem Denken nur auf Knopfdruck lieber eine breite, gesellschaftliche Beteiligung!
Viel Spaß beim Lesen wünschen
Elena und Jens
P.S. Ihnen wurde dieser Newsletter weitergeleitet? Hier geht es zum Abo: www.digitalisierung-und-gemeinwohl.de/newsletter/
Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen der Bertelsmann Stiftung wider. Wir hoffen jedoch, dass sie zum Nachdenken anregen und zum Diskurs beitragen. Wir freuen uns immer über Feedback – der Newsletter lebt auch von Ihrer Rückmeldung und Ihrem Input. Melden Sie sich per E-Mail an asena.soydas@bertelsmann-stiftung.de, jens.preussner@bertelsmann-stiftung.de oder per LinkedIn @Digitalisierung&Gemeinwohl.
Let The People Set The Pace Of Frontier AI, Noema, 23.9.2026
Selbst führende KI-Unternehmer:innen sprechen sich inzwischen dafür aus, die Entwicklung leistungsfähiger KI-Modelle zu verlangsamen. So forderte Anthropic-CEO Dario Amodei im September ein Abbremsen der Modellentwicklung, dem OpenAI-Chef Sam Altman zustimmte. Elon Musk schrieb dazu lediglich: „Dario hat recht.“ Doch selbst wenn sich die Marktführer einig sind, stoppt dies das Rennen nicht. Sowohl die USA als auch China fürchten, dass die eigene Zurückhaltung der anderen Seite einen Vorteil verschafft. Die Politikwissenschaftlerin Hélène Landemore und Taiwans ehemalige Digitalministerin Audrey Tang vergleichen diese Situation mit Rousseaus „Hirschjagd“. Nur wenn alle Jäger zusammenarbeiten, erjagen sie den Hirsch. Entscheidet sich einer, stattdessen einen Hasen zu fangen, entkommt der Hirsch. Beim KI-Wettlauf braucht es ihrer Ansicht nach keine Weltregierung, sondern Vertrauen und eine glaubwürdige, unabhängige Instanz, die beobachtet, ob alle Beteiligten ihr Wort halten. Die Vereinten Nationen eignen sich dafür nicht, da Washington und Peking im Sicherheitsrat ein Vetorecht besitzen. Die Autorinnen schlagen stattdessen eine globale Bürgerversammlung vor: 1.000 per Los ausgewählte Menschen aus aller Welt sollen kontinuierlich über Zwecke und Grenzen von KI-Technologie beraten und die Berichte unabhängiger Evaluator:innen empfangen. Jede Empfehlung der Versammlung würde an ein benanntes Unternehmen oder eine Regierung gehen, die zur öffentlichen Antwort verpflichtet würden. Die Menschheit selbst müsse über das Tempo der KI-Entwicklung mitentscheiden und brauche dazu eine eigene Stimme, so die Autorinnen.
KI-Sicherheit ist keine Einheitsgröße
Who gets to decide if AI is safe? Africa wants a say, Rest of Support, 2.10.2026
Wie sicher KI-Systeme sind, hängt auch davon ab, wo und in welcher Sprache sie eingesetzt werden. Afrikanische Expert:innen fordern daher, regionale Risiken bei der Bewertung von KI-Sicherheit stärker zu berücksichtigen. Bei einem internationalen Test von KI-Agenten wurden Risiken wie Datenlecks und Betrug geprüft, allerdings vor allem solche, die weltweit als relevant gelten. Joanna Wiaterek, Mitgründerin des Centre for AI Security and Access, erklärt, dass afrikaspezifische Risiken dabei weitgehend unberücksichtigt blieben. Der Test zeigte außerdem, dass Sicherheitsmechanismen je nach Sprache unterschiedlich zuverlässig funktionieren. Das bedeutet, dass die Bewertungskriterien an die jeweilige Sprache angepasst werden müssen. Gathoni Ireri vom Ilina Program in Nairobi, einem Forschungszentrum für KI-Sicherheit, betont, dass bei der Bewertung von Schäden die Größe der Volkswirtschaft eines Landes berücksichtigt werden müsse. Ein kleiner Vorfall in einem westlichen Land kann die Wirtschaft in Afrika irreversibel schädigen. Ireri fordert deshalb, dass die internen Sicherheitstests der Unternehmen durch unabhängige Bewertungen Dritter ersetzt werden, die afrikaspezifische Risiken prüfen. Afrika müsse außerdem selbst definieren, was Sicherheit im eigenen Kontext bedeute, so Ireri. Afrika dürfe nicht nur ein Markt für woanders entwickelte Systeme, eine Quelle für Rohdaten oder ein Testgebiet für eine Technologie sein, an deren Gestaltung der Kontinent nicht beteiligt war. Es brauche eine eigene Stimme und eine wirksame Vertretung in internationalen Entscheidungsprozessen, fordert auch Ali Mohamed Omar, Somalias Staatsminister für auswärtige Angelegenheiten.
Wenn die Demokratie dazwischenfunkt: Rechenzentren mit Gegenwind
Democracy blindsides Silicon Valley’s power players looking to transform the world with AI, the Guardian, 27.9.2026
Die Pläne der Tech-Giganten zum Ausbau von Rechenzentren stoßen in den USA auf unerwartet starken Widerstand. Wie der Journalist Eduardo Porter berichtet, geraten die Machthaber im Silicon Valley zunehmend unter Druck, ihre Vorhaben gegenüber der Öffentlichkeit zu rechtfertigen. So wehren sich Gemeinden, Landkreise und Bundesstaaten bereits mit Moratorien und Verboten gegen den Bau neuer Rechenzentren. Laut einer Umfrage der Rechtsfakultät der Marquette University glauben 73 Prozent der Amerikaner, dass die Kosten von Rechenzentren deren Nutzen übersteigen. 70 Prozent der Befragten halten KI-Technologie für schädlich für die Gesellschaft. Das Pew Research Center stellte fest, dass der Anteil derjenigen, die mehr Besorgnis als Begeisterung empfinden, von 37 Prozent im Jahr 2021 auf 52 Prozent gestiegen ist. Henry Farrell, Politikwissenschaftler an der Johns Hopkins University, interpretiert den Protest als Ausdruck der Enttäuschung von Menschen, die das Gefühl haben, keinen Einfluss auf die Gestaltung ihres eigenen Lebens zu haben. Rumman Chowdhury, Expertin für KI-Ethik, fügt hinzu, dass die Erzählung von einem KI-System, das nicht mehr aufzuhalten sei, die Unternehmen von Verantwortung entlaste und Betroffenen den Rechtsweg verbaue. Porter bezweifelt jedoch, dass der Widerstand die Expansion aufhalten wird, und weist darauf hin, dass sich das Silicon Valley einst als Teil der liberalen Demokratie verstand. Nach den Skandalen rund um die sozialen Medien und die Wahlen von 2016 hat sich diese Beziehung jedoch umgekehrt. Der Historiker Quinn Slobodian fasst zusammen: „Die Tech-Barone interessieren sich vielleicht nicht für die Demokratie, die Demokratie aber für sie.”
Wer bietet mehr? Pflegekräfte vs. Plattformökonomie
Uber for Nursing: How an AI-Powered Gig Model Is Threatening Health Care, Roosvelt Institute, 17.12.2024
Pflegekräfte in den USA arbeiten zunehmend über Plattformen wie ShiftKey, CareRev oder ShiftMed, die nach dem Vorbild vom Fahrdienstunternehmen Uber funktionieren. Eine Studie der Wissenschaftlerinnen Katie J. Wells und Funda Ustek Spilda, die auf Interviews mit 29 Krankenpfleger:innen und Pflegeassistent:innen basiert, zeigt die Probleme der Plattformökonomie in der Gesundheitsversorgung auf. Die Apps nutzen algorithmische Lohndiskriminierung: Für dieselbe Schicht im selben Krankenhaus können unterschiedliche Beschäftigte unterschiedlich viel verdienen. Wie hoch der Lohn ausfällt, hängt davon ab, wie viel die Beschäftigten zuvor akzeptiert oder wie oft sie sich um Schichten beworben haben. Auf ShiftKey unterbieten sich Pflegekräfte gegenseitig, um die Schicht zum niedrigsten Stundenlohn zu ergattern. Von den 29 Befragten geben 14 an, von der Plattformarbeit allein nicht leben zu können. Hinzu kommt, dass die Pflegekräfte oft erst am Morgen erfahren, ob ihre angenommene Schicht tatsächlich stattfindet. Wird sie kurzfristig gestrichen, gibt es keine Entschädigung. Da die Beschäftigten als Selbstständige eingestuft sind, bedeutet das für die Plattformen geringe Kosten und wenig Verantwortung. In einem Nachfolgebericht wird dargelegt, wie dieses Modell inzwischen ausgeweitet wird. Drei Plattformen sind bereits über eine Milliarde Dollar wert und seit 2022 wurden in mindestens 17 Bundesstaaten Gesetzentwürfe eingebracht, die die Branche von bestehenden Regulierungen für Personalagenturen ausnehmen sollen. Wells warnt, dass KI-gestützte Plattformmodelle die Arbeitsbedingungen und Rechte von Beschäftigten erheblich verschlechtern können, noch bevor KI-Systeme ihre Arbeitsplätze möglicherweise ersetzen.
Kritisches Denken auf Knopfdruck?
How to stay smart in the age of AI: the science of critical thinking, nature, 23.9.2026
Die Sorgen über die Auswirkungen von KI-Technologie auf unsere Fähigkeit zum kritischen Denken sind weit verbreitet. In einer Umfrage der American Association of Colleges and Universities gaben rund 90 Prozent der über 1.000 befragten Hochschuldozent:innen in den USA an, dass die Nutzung generativer KI-Systeme die Fähigkeit der Studierenden zum kritischen Denken beeinträchtigt. In einer globalen Umfrage gaben etwa 20 Prozent der Studierenden, die KI-Tools nutzen, an, dass sie Probleme ohne diese Hilfe schwerer lösen können. Der Kognitionspsychologe Daniel Willingham erklärt, dass Lernen aufwendige Denkleistungen erfordert, und genau diese Anstrengung nehmen KI-Systeme den Menschen ab. Ein Beispiel aus der Praxis liefert Lixiang Yan, Bildungsforscher an der Tsinghua-Universität in Peking. Bei einem Onlinekurs stellte er fest, dass sich mithilfe eines KI-Agenten sämtliche Aufgaben automatisiert bearbeiten ließen, ohne dass die Studierenden selbst nachdenken mussten. Die Forschungslage ist allerdings noch nicht eindeutig. So kommt etwa eine Studie aus dem Jahr 2024 zu dem Ergebnis, dass Schulkinder mit KI-Zugang mathematische Aufgaben zwar besser lösten, nach dem Entzug des Tools jedoch schlechter abschnitten als Kinder ohne Zugang. Studien weisen auch darauf hin, dass KI-Systeme das Lernen fördern können, wenn sie statt fertiger Antworten Feedback und Denkanstöße geben. Yan berichtet allerdings auch, dass einige Studierende so ein KI-System abschalteten und stattdessen ChatGPT nutzten. Der Bildungspsychologe Paul Kirschner von der Open University of the Netherlands sieht einen wesentlichen Ansatz darin, kritisches Denken gezielt innerhalb einzelner Fächer zu vermitteln. Denn dafür braucht es nicht nur allgemeine Denkstrategien, sondern auch das entsprechende Fachwissen.
Follow-Empfehlung: Virginia Dignum
Virginia Dignum ist Professorin für verantwortungsvolle KI, KI-Governance-Expertin und Autorin von „The AI Paradox“.
Verlesenes: Ein historischer Coup.
Die Kurzzusammenfassungen der Artikel sind unter einer Creative Commons Namensnennung 4.0 International Lizenz.
Kommentar schreiben