Vor dem nächsten Gehaltsgespräch noch schnell die KI um Rat fragen? Das könnte für Frauen anders ausgehen als für Männer. In einer aktuellen Untersuchung empfahlen vier untersuchte KI-Modelle Männern höhere Gehaltsziele, während sie Frauen häufiger zu Verhandlungen über Homeoffice und flexible Arbeitszeiten rieten. Die Qualifikationen und Berufserfahrung waren dabei selbstverständlich identisch. Die Technik ist neuer, die Rollenbilder in den Trainingsdaten sind es leider nicht. Mit ihren Empfehlungen kann KI also dazu beitragen, sie weiter zu festigen.

Frauen und KI beschäftigen uns diesmal gleich in einem zweiten Artikel. Dieser richtet den Blick auf den Arbeitsplatz und die öffentliche Debatte: Laut einer Untersuchung der Harvard Kennedy School aus den USA erhalten Frauen seltener Schulungen und Unterstützung im Umgang mit KI. In der Berichterstattung werden sie zudem deutlich seltener als KI-Expertinnen zitiert. Ihre Expertise bekommt damit weniger Aufmerksamkeit. An fehlenden Expertinnen liegt es jedenfalls nicht: Für Ihre nächste Recherche oder Veranstaltung werden Sie z.B. in unserer Expertinnenliste fündig.

Die dritte Studie dieser Ausgabe nimmt Kooperationen zwischen KI-Laboren und gemeinnützigen Organisationen in den Blick. Beide Seiten profitieren, doch zum Zug kommen vor allem gut vernetzte Organisationen mit eigenen Technikteams. Kleinere haben es schwerer. Wie müssten Förderung und Zusammenarbeit aussehen, damit „KI fürs Gemeinwohl“ auch ihnen zugutekommt?

Außerdem: Wie Forschung mit KI ohne Cloud funktioniert und welche Folgen es für Verbraucher:innen hat, wenn Chatbots zur Sackgasse werden.

Viel Spaß beim Lesen wünschen
Elena und Asena

P.S. Ihnen wurde dieser Newsletter weitergeleitet? Hier geht es zum Abo: www.digitalisierung-und-gemeinwohl.de/newsletter/

Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen der Bertelsmann Stiftung wider. Wir hoffen jedoch, dass sie zum Nachdenken anregen und zum Diskurs beitragen. Wir freuen uns immer über Feedback – der Newsletter lebt auch von Ihrer Rückmeldung und Ihrem Input. Melden Sie sich per E-Mail an asena.soydas@bertelsmann-stiftung.de, jens.preussner@bertelsmann-stiftung.de oder per LinkedIn ​@Digitalisierung&Gemeinwohl​.

Gehaltserhöhungen? Eine Frage des Geschlechts

AI Advice Reinforces Traditional Gender Roles, Arxiv, 01.10.2026

Wer KI zur Karriereberatung nutzt, erhält je nach Geschlecht unterschiedliche Empfehlungen. Zu diesem Ergebnis kommt eine Studie von Forschenden der Universität Harvard und des MIT, die 86.000 Antworten von vier KI-Modellen analysierten. In zwei Experimenten erhielten die Modelle Angaben zu fiktiven Bewerber mit identischen Qualifikationen, Berufserfahrungen und Beschäftigungsbedingungen. Das Geschlecht wurde entweder ausdrücklich genannt oder war an Namen und Pronomen erkennbar. Alle getesteten Modelle empfahlen Männern deutlich höhere Gehaltsziele. Frauen rieten sie zudem häufiger, über flexible Arbeitszeiten, Homeoffice und Elternzeit zu verhandeln. Männern legten sie dagegen eher Aktienoptionen, Gehaltserhöhungen und Abfindungen nahe. In einer begleitenden Befragung von 500 Personen wurden die für Frauen empfohlenen Leistungen eher mit Fürsorge verbunden, die für Männer empfohlenen dagegen mit der Rolle des Familienernährers. KI kann also solche Rollenbilder weiter festigen und bestehende Gehaltsunterschiede zwischen Frauen und Männern verstärken, denn sie trainieren auf Daten, die historisch gewachsene Rollenbilder enthalten.

Wie es auch ohne Cloud gehen kann

Private, offline and yours: how to search the literature with local AI systems, Nature, 12.10.2026

KI-Systeme können bei der Auswertung wissenschaftlicher Literatur viel Arbeit abnehmen. Doch was geschieht mit den Forschungsdaten, wenn sie dafür in die Cloud übertragen werden? Immer mehr Wissenschaftler:innen setzen deshalb auf Sprachmodelle, die direkt auf dem eigenen Rechner laufen. Neben dem Datenschutz spielen auch Kosten und Reproduzierbarkeit eine Rolle. Eine Analyse aus dem Jahr 2025 ergab, dass sechs große KI-Anbieter Nutzer:inneneingaben standardmäßig für das Modelltraining verwendeten. Wie unterschiedlich lokale KI-Systeme genutzt werden können, zeigen zwei Beispiele: Jayashree Kalpathy-Cramer von der University of Colorado hat damit zehn Jahre wissenschaftlicher Publikationen durchsuchbar gemacht. Ihr System erstellt täglich einen Überblick über neue Studien und gleicht die Zusammenfassungen mit den Originaltexten ab. Dmitrij Lvovs von der University of Maryland erprobt dagegen eine Offline-Lösung für die Analyse von Tumorgewebedaten, da er vermeiden möchte, dass sensible Forschungsdaten bei Unternehmen landen. Hinzu kommt, dass Cloud-Anbieter ihre Modelle ohne Vorankündigung aktualisieren. Lokal lassen sich hingegen Versionen und Einstellungen festhalten, was wissenschaftliche Ergebnisse besser reproduzierbar macht. Die Gebühren pro Anfrage entfallen zwar, allerdings können die Kosten für die nötige Hardware hoch sein. Auch diese Modelle haben jedoch ihre Grenzen, denn sie sind nicht für alle Aufgaben geeignet und ihre Ergebnisse müssen natürlich weiterhin überprüft werden.

Kein Anschluss hinter dem Chatbot

The New Gatekeepers: How AI Chat Interfaces Block People From Their Banks, Insurers, and Student Loan Servicers, Jolt Digest, 13.10.2026

Wer bei seiner Bank, seiner Versicherung oder seiner Studienkreditverwaltung Hilfe sucht, kommt an Chatbots kaum noch vorbei. Für Unternehmen geht es vor allem um Effizienz und geringere Kosten. So strich der US-Softwarekonzern Salesforce nach eigenen Angaben 4.000 Servicestellen zugunsten von KI-Agenten. Heißt aber nicht, dass das immer die bessere Lösung ist: Der Zahlungsdienstleister Klarna hat nach sinkender Servicequalität wieder Personal eingestellt. Für Kund:innen können die Folgen allerdings weit über schlechten Service hinausgehen. Die Autor:innen unterscheiden drei Arten von Schäden: falsche Auskünfte, blockierter Zugang durch endlose Schleifen und unzureichende Hilfe. Ein Studienkreditnehmer in Georgia erlebte, wie teuer das werden kann. Er verließ sich auf den falschen Termin, den ihm der Chatbot als Antwort generiert hatte, verpasste so die geltende Frist und muss nun monatlich 1.100 Dollar mehr zahlen. Dabei gelten die Verbraucherschutzgesetze auch für den KI-gestützten Kundenservice, d. h. Unternehmen können sich ihrer Verantwortung nicht einfach durch den Einsatz von Chatbots entziehen. Doch das allein reiche nicht. Die Autor:innen Stephanie T. Nguyen und Adam Teitelbaum fordern deshalb strengere Kontrollen, einen einfachen Zugang zu menschlichen Ansprechpartner:innen, veröffentlichte Lösungsquoten und besser ausgestattete Aufsichtsbehörden.

KI fürs Gemeinwohl: Wer profitiert?

Beyond Pilots and PR: What Makes AI-for-Good Partnerships Work, HAI, 07.10.2026

KI-Labore und gemeinnützige Organisationen arbeiten zunehmend bei Gesundheits-, Klimaschutz- und humanitären Projekten zusammen. Doch wer profitiert davon? Das haben Vera Lummis, Angela Aristidou und Rob Reich für Stanford HAI untersucht. Durch die Kollaboration erhalten gemeinnützige Organisationen technisches Wissen und finanzielle Unterstützung während KI-Labore  ihre Modelle unter realen Bedingungen weiterentwickeln und gesellschaftliches Vertrauen gewinnen können.  Doch zum Zuge kämen vor allem gut vernetzte Organisationen mit eigenen Technikteams und großer Reichweite wodurch es kleinere schwerer haben können. Zudem könnten auslaufende Fördermittel und unverbindliche Absprachen die Zusammenarbeit gefährden. Das Forschungsteam empfiehlt deshalb, dass gemeinnützige Organisationen ihre Ziele selbst festlegen, technisches Wissen aufbauen und Ergebnisse überprüfen. Förderorganisationen sollten stärker in Datensysteme und Fachkräfte investieren. Bei Kooperationen mit großen kommerziellen KI-Anbietern empfiehlt das Team außerdem unabhängige Evaluationen und öffentliche Berichte, um den tatsächlichen Nutzen der Projekte zu prüfen.

Die Geschlechterlücke bei der KI-Technologie

Are Women Being Left Out of AI?, Harvard Kennedy School, 14.10.2026

Eine Studie der Harvard Kennedy School untersucht, wie Frauen und Männer KI nutzen, welche Einstellungen sie dazu haben und wer ihre Entwicklung mitgestaltet. Dafür wurden mehr als 5.000 Erwachsene in den USA befragt, Browserdaten ausgewertet und knapp 79.000 Nachrichtenartikel analysiert. Die Unterschiede beginnen bei der Nutzung: 29 Prozent der befragten Frauen haben noch nie KI verwendet, bei den Männern sind es 22 Prozent. Regelmäßig nutzen 16 Prozent der Frauen und 25 Prozent der Männer KI. Dass dabei auch eine kritischere Bewertung gesellschaftlicher Risiken eine Rolle spielt, berichtete Erlesenes bereits. Am Arbeitsplatz berichten Frauen zudem seltener von Schulungen, Mentoring und Unterstützung. Auch in der öffentlichen Debatte sind Frauen weniger präsent. Männer werden in Schlagzeilen 14,6-mal so häufig genannt und als Fachleute 4,3-mal so häufig zitiert. Selbst Daniela Amodei, Präsidentin von Anthropic und die bekannteste Frau auf der untersuchten Liste, kennen nur 49 Prozent der Befragten. Damit liegt sie noch hinter den am wenigsten bekannten Männern der Liste. Frauen verbinden KI außerdem häufiger mit Sorge und Angst, Männer eher mit Neugier und Optimismus. Als wichtigste Gründe gegen die Nutzung nennen jedoch beide Gruppen Datenschutzbedenken und Zweifel an der Zuverlässigkeit der Ergebnisse. Ziel der Studie sei es nicht, möglichst viele Menschen zur KI-Nutzung zu bewegen, sondern Frauen die gleichen Möglichkeiten zu eröffnen, KI zu verstehen, für ihre Zwecke einzusetzen und ihre Entwicklung mitzugestalten.

Follow-Empfehlung: Dr. Marie-Christine Fregin

Dr. Marie-Christine Fregin ist Forschungsleiterin an der Universität Maastricht und forscht zu den Auswirkungen des KI-Einsatzes am Arbeitsplatz auf Beschäftigte und Arbeit.

Verlesenes: KI-Slop à la carte

Die Kurzzusammenfassungen der Artikel sind unter einer Creative Commons Namensnennung 4.0 International Lizenz.