„Fair4Gemeinwohl“: Zwei Anwendungsfällen generativer KI für die Selbst- und Suchthilfe

Mit einem Aufruf haben wir im vergangenen Sommer nach Praxispartner:innen für die Pilotierung von Anwendungsfällen generativer KI im Projekt „Fair4Gemeinwohl“ gesucht. Uns erreichten großartige Ideen, von der Dokumentation von Beratungs- oder Fallarbeit bis zur Beantragung von Fördermitteln. Gewonnen haben Anwendungsfälle in der Selbst- und Suchthilfe aus Hamburg und Köln. 

Warum gängige KI-Basismodelle für die Arbeit im sozialen Sektor nicht geeignet sind

In unserer Studie „Auf Sand gebaut: Die versteckten Risiken generativer KI für das Gemeinwohl“ haben wir die Beschaffenheit von KI-Basismodellen untersucht, um herauszufinden, ob und mit welchen Risiken ihr Einsatz in Organisationen mit gesellschaftlicher Verantwortung, z.B. in der sozialen Beratung, einhergeht. Obwohl Basismodelle als „General Purpose Models“ für alle möglichen Anwendungsfälle vermarktet werden, zeigt die Studie, dass sich ihre Risiken auf nachgelagerte Anwendungen übertragen können.

Dass diese Risiken längst praktische Relevanz haben, zeigen Beispiele mit gravierenden Folgen für die Nutzer:innen: Ein Chatbot für Menschen mit Essstörungen gab Diät-Tipps aus, ein System der österreichischen Arbeitsagentur empfahl Frauen stereotypisch Koch- oder Pflegejobs und Männern IT-Stellen und in Kalifornien bestärkte ein Chatbot sogar suizidale Gedanken eines Jugendlichen, statt auf Hilfsangebote hinzuweisen.

 

Empfehlungen der Studie für die verantwortungsvolle Entwicklung von Basismodellen

• Monokulturen in den Trainingsdaten vermeiden: Eine sorgfältige Auswahl und verlässliche Prüfung von Trainingsdaten helfen dabei, Verzerrungen zu vermeiden und vielfältige Perspektiven abzubilden.
• Auf Transparenz und Feedback setzen: Basismodelle sollten offen für kontinuierliche Evaluation und externe Überprüfung sein, damit Fehler erkannt und Korrekturen ermöglicht werden sowie das Vertrauen in ihre Nutzung gestärkt wird.
• Bibliotheken als Vorbild nehmen: Basismodelle sollten wie eine (nationale) Bibliothek aufgebaut sein, mit dem Ziel, Wissen langfristig zu bewahren und den Zugang stetig zu erweitern. Trainingsdaten müssten dabei ausgewogen und repräsentativ sein.

 

Mit unserer Projektaktivität „Fair4Gemeinwohl“ möchten wir untersuchen, wie der verantwortungsvolle und selbstbestimmte Umgang mit generativer KI in Organisationen mit gesellschaftlicher Verantwortung trotzdem gelingen kann. Im Kern soll es darum gehen, Zugang zu Alternativen zu erleichtern, Transparenz mit nachvollziehbaren Systemen zu schaffen und Organisationen zu befähigen, wohlüberlegte Entscheidungen zu treffen. Eine dieser Alternativen sind sogenannte „Open SourceOpen Source Ein Entwicklungsmodell, bei dem der Quellcode eines Programms öffentlich zugänglich ist. Jeder kann den Code einsehen, modifizieren und weiterverbreiten. Open Source kann die Transparenz von Forschungsfeldern wie der KI fördern. / Open Weight“ Modelle. Bei einigen dieser Modelle wurden die Trainingsdaten sorgfältiger und verantwortungsvollerer zusammengestellt. Andere stellen ihre ParameterParameter Werte in einem KI-Modell, die während des Trainings angepasst werden und die Leistung des Modells bestimmen. öffentlich bereit und ermöglichen so den unabhängigen Betrieb des Modells auf eigener Infrastruktur. 

Problematisch ist allerdings, dass diese Alternativen bisher nur wenig bekannt sind und es vielerorts an Voraussetzungen fehlt, um Chancen und Risiken abzuwägen und ihren Einsatz selbstbestimmt zu gestalten.  

Wie Fair4Gemeinwohl Anwendungsfälle generativer KI unterstützt 

Deshalb unterstützt die Bertelsmann Stiftung Organisationen mit gesellschaftlicher Verantwortung bei der Entwicklung von Anwendungen generativer KI, und besonders bei der Nutzung von Open Source / Open Weight Modellen für interne Arbeitsabläufe. In jeweils 14 Wochen entstehen sogenannte MVPs (Minimum Viable Products), also technisch nutzbare und funktionsfähige Anwendungen, die im Wechsel entwickelt und vor Ort von Nutzenden getestet werden. Die Anwendungen werden dann zugänglich und nachnutzbar gemacht und dienen so einerseits als Versuchsfeld für offene Modelle im sozialen Sektor und andererseits als Basis für die Weiterentwicklung zu ausgereiften Lösungen.  

Auf unsere Ausschreibung haben sich insgesamt 16 Organisationen, darunter viele Organisationen der freien Wohlfahrtspflege, mit großartigen Ideen für den Einsatz generativer KI beworben. Besonders gefragt waren Lösungen für die Dokumentation von Beratungs- oder Fallarbeit (4), das organisationsinterne Wissensmanagement (4), die Unterstützung bei fachlichen Entscheidungen und für die Beantragung von Fördermitteln (jeweils 3). Bewertet wurden die Use Cases z.B. nach ihrer Übertragbarkeit auf andere Organisationen oder Arbeitsfelder, ihren Anforderungen an den Datenschutz und inwiefern Risiken für die Gewährleistung von Schutzbedarfen vulnerabler Zielgruppen oder Risiken für KI-generierte Verzerrungen oder Diskriminierungen entstehen können.  

Wissensmanagement und Dokumentation von Beratung: Zwei universelle Anwendungsfälle entstehen in Hamburg und Köln 

Wir haben uns für die Entwicklung von zunächst zwei Anwendungsfällen entschieden: Zusammen mit der Landesarbeitsgemeinschaft für behinderte Menschen Hamburg e.V. entwickeln wir ein KI-gestütztes System, das Wissen langfristig sichert, zugänglich macht und die tägliche Recherche- und Redaktionsarbeit unterstützt. So können die fast 70 Mitglieder des Zusammenschlusses die Interessen behinderter und chronisch kranker Menschen in Hamburg stärker vertreten. Mit der Drogenhilfe Köln gGmbH entwickeln wir ein KI-gestütztes Dokumentationsmodul, das beratende Personen bei der Pflege von Stammdaten und notwendigen Daten für die bundesweite Statistik der Suchthilfe unterstützt und entlastet. So haben beratende Personen während ihrer Beratung den Kopf frei und können sich ganz auf ihre Klient:innen konzentrieren. 

Beide Anwendungsfälle sind so konzipiert, dass sie auch auf andere Organisationen übertragen werden können. Wir halten sie zudem geeignet, wertvolle Einsichten für den verantwortungsvollen und selbstbestimmten Umgang mit generativer KI in Organisationen zu erhalten. Sowohl die Anwendungsfälle als auch die Erfahrung, die wir während der Entwicklung und Begleitung mit den beiden Organisationen machen, sollen im Anschluss öffentlich zugänglich und nachnutzbar gemacht werden.  

Förderung des verantwortungsvollen und selbstbestimmten Umgangs mit KI 

Nach dem erfolgreichen Kick-off-Workshop des Projektes geht es in den kommenden Monaten also um die konkrete Entwicklung der beiden Anwendungsfälle. Parallel dazu entwickelt und testet das Projektteam einen Leitfaden für den verantwortungsvollen und selbstbestimmten Umgang mit generativer KI für Organisationen mit gesellschaftlicher Verantwortung. Der Leitfaden soll aufzeigen, wie die Planung, Entwicklung und der Einsatz von generativer KI fair, divers und nachhaltig gestaltet werden kann und wie technologische, epistemische und prozessuale Handlungsfähigkeit in Organisationen gesichert wird.  

Über unsere Fortschritte möchten wir laufend berichten, z.B. auf dem Civic Data Online-Barcamp am 19. November 2026, oder dem DRK-Praxisforum – KI in der Wohlfahrt am 25. November 2026. Wir freuen uns sehr, mit euch dort ins Gespräch zu kommen!  

Für kontinuierliche Updates und inhaltlichen Austausch zu diesem Thema folgt unserem LinkedIn-Kanal oder kontaktiert mich gerne unter jens.preussner@bertelsmann-stiftung.de. 

Dieser Text ist lizenziert unter einer  Creative Commons Namensnennung 4.0 International Lizenz.