Künstliche Intelligenz ist bereits Teil unseres Alltags und prägt immer mehr gesellschaftliche Bereiche. Sie soll Prozesse beschleunigen, Fachkräfte entlasten und neue Handlungsmöglichkeiten eröffnen. Aber welche Voraussetzungen braucht es, damit dies auch verantwortungsvoll gelingt?

Künstliche Intelligenz (KI) wird längst nicht mehr nur erprobt. Sie wird eingesetzt in Verwaltungen, in der Sozialwirtschaft und in anderen Bereichen, in denen Entscheidungen große Auswirkungen auf Menschen haben. Dabei geht es jedoch nicht nur um die Frage, ob und wie KI genutzt wird, sondern genauso darum, welche Modelle genutzt werden. Denn mit der Wahl der Systeme verbinden sich grundlegende Fragen von Transparenz, Kontrollierbarkeit, Datenschutz, Ressourcenverbrauch und Abhängigkeit. Gerade in der Debatte um digitale Souveränität wird deshalb immer deutlicher: Wer KI einsetzt, ohne bei Modellen, Infrastruktur und Anbietern über ausreichende eigene Bewertungs- und Steuerungsfähigkeit zu verfügen, begibt sich in neue technologische Abhängigkeiten. Gleichzeitig wächst der Druck, KI einzusetzen. An den Voraussetzungen, dies verantwortungsvoll zu tun fehlt es aber noch erheblich.

Einsatz von KI in Organisationen mit besonderer Verantwortung gegenüber Bürger:innen

Besonders in Organisationen mit besonderer Verantwortung gegenüber Menschen– z.B. in der öffentlichen Verwaltung, in der Sozialwirtschaft und in vielen weiteren Bereichen – haben Entscheidungen erhebliche Auswirkungen auf deren Leben. Gleichzeitig wächst in diesen Organisationen der Druck, KI schneller zu nutzen, um Prozesse effizienter zu machen und dem Fachkräftemangel etwas entgegenzusetzen. Problematisch ist, dass es vielerorts an Voraussetzungen fehlt, um Chancen und Risiken fundiert abzuwägen und den Einsatz von KI aktiv zu gestalten. Besonders relevant wird das, wo Entscheidungen Menschen in sensiblen Lebenslagen betreffen oder öffentliche Institutionen langfristig handlungsfähig bleiben müssen. Öffentliche Verwaltungen, soziale Organisationen und politische Entscheidungsträger:innen stehen vor der Herausforderung, neue Technologien nicht nur anzuwenden, sondern informierte Entscheidungen über ihren Einsatz treffen zu können.

Verantwortungsvoller KI-Einsatz braucht mehr als Technologie

Die Debatte über KI konzentriert sich häufig auf neue Anwendungen und technische Entwicklungen. Weniger Aufmerksamkeit erhält dagegen die Frage, welche Voraussetzungen Organisationen benötigen, um KI sinnvoll einzusetzen.

Dazu gehören Kompetenzen, um KI-Systeme bewerten zu können, also beispielsweise zu entscheiden, wo sie einen Mehrwert schaffen können und wo ihr Einsatz Grenzen haben sollte. Dafür fehlen bislang Rahmenbedingungen, die es ermöglichen, unterschiedliche Modelle und Ansätze überhaupt nutzen und vergleichen zu können.

Gerade in öffentlichen und gemeinwohlorientierten Bereichen ist dies entscheidend. Denn hier geht es nicht allein um Effizienzgewinne, sondern um Transparenz, Nachvollziehbarkeit, Teilhabe und den verantwortungsvollen Umgang mit Risiken.

Verantwortungsvoller KI-Einsatz braucht Handlungsspielräume

Verantwortungsvoller KI-Einsatz hängt jedoch nicht allein von Kompetenzen und Orientierung ab. Ebenso entscheidend ist die Frage, welche Handlungsmöglichkeiten Organisationen beim Einsatz von KI überhaupt haben.

Der Markt für KI wird derzeit von wenigen großen Anbietern geprägt. Viele Organisationen nutzen Systeme, deren Entwicklung, Funktionsweise und Weiterentwicklung sie nur begrenzt nachvollziehen können. Dadurch entstehen neue Abhängigkeiten und eingeschränkte Möglichkeiten, Systeme an eigene Anforderungen anzupassen oder Alternativen zu berücksichtigen.

Gleichzeitig entwickeln sich zunehmend offene und spezialisierte KI-Modelle, die für viele Anwendungsfälle eine geeignete Alternative darstellen können. Gerade in sensiblen oder gemeinwohlorientierten Kontexten können Transparenz, Nachvollziehbarkeit und Anpassbarkeit wichtige Kriterien bei der Auswahl von KI-Systemen sein. Ihr Einsatz scheitert jedoch häufig an fehlendem Wissen, mangelnden Ressourcen oder unzureichenden Rahmenbedingungen.

Wenn KI langfristig verantwortungsvoll eingesetzt werden soll, braucht es deshalb nicht nur Kompetenzen und Orientierung, sondern auch bessere Voraussetzungen für die Nutzung unterschiedlicher Modelle und Ansätze. Die Frage nach einem verantwortungsvollen Einsatz von KI ist damit immer auch eine Frage von Gestaltungsmöglichkeiten und institutioneller Handlungsfähigkeit.

Was wir im Modul „Selbstbestimmter Einsatz von KI“ tun

Vor diesem Hintergrund beschäftigt sich das Modul „Selbstbestimmter Einsatz von KI“ mit den Voraussetzungen für einen verantwortungsvollen und reflektierten Einsatz von KI. Angelehnt an die oben genannten drei zentralen Herausforderungen, verfolgen wir dabei drei Schwerpunkte:

  1. Kompetenzen in der Verwaltung stärken

In der Verwaltung steigt der Druck, KI einzusetzen. Sie soll Abläufe beschleunigen, Routineaufgaben übernehmen und Mitarbeitende entlasten. Gleichzeitig ist oft unklar, wo KI tatsächlich Mehrwert schafft, wo neue Risiken entstehen und welche Anforderungen aus Regulierung und Aufsicht folgen. Der Einsatz von KI erfordert neue Fähigkeiten. Organisationen müssen beurteilen können, welche Systeme für ihre Aufgaben geeignet sind, welche Risiken entstehen können und welche Anforderungen sich aus Regulierung und Aufsicht ergeben.

Deshalb unterstützen wir insbesondere Verwaltungen dabei, Kompetenzen für den Umgang mit KI aufzubauen. Ziel ist es, dass neue Technologien nicht nur eingesetzt, sondern auch fundiert bewertet und verantwortungsvoll gestaltet werden können.

  1. Orientierung für den verantwortungsvollen Einsatz in der Sozialwirtschaft schaffen

In der Sozialwirtschaft sind die Anforderungen besonders hoch. Hier betreffen Entscheidungen oft Menschen in vulnerablen Lebenslagen. Wenn in solchen Kontexten KI-Systeme eingesetzt werden, deren Funktionsweise kaum verstanden wird oder die für sensible Anwendungsfelder ungeeignet sind, kann das zu Fehlentscheidungen führen, Teilhabe einschränken und Vertrauen beschädigen.

Gemeinsam mit Praxispartnern arbeiten wir an normativen Leitplanken für einen verantwortungsvollen Einsatz von KI in sensiblen Kontexten.  Dazu gehört auch, klarer zu bestimmen, wofür KI eingesetzt werden kann, wofür bewusst nicht, welche Ziele verfolgt werden und wo Grenzen liegen. Außerdem untersuchen wir, welche infrastrukturellen Voraussetzungen geschaffen werden müssen, damit soziale Organisationen bei der Auswahl und Nutzung von sichereren und für ihre Zwecke geeigneten KI-Modellen unterstützt werden.

  1. Rahmenbedingungen für den Einsatz und die Entwicklung alternativer KI-Modelle stärken

Der Einsatz von KI wird heute von wenigen großen Anbietern geprägt. Alternative Modelle, die für viele Anwendungsfälle geeignet sein können und neue Möglichkeiten für einen transparenten und anpassbaren Einsatz eröffnen, finden bislang nur begrenzt Verbreitung. Damit stellt sich zunehmend die Frage, wie Organisationen Zugang zu unterschiedlichen Ansätzen erhalten und informierte Entscheidungen über deren Einsatz treffen können. Wir betrachten KI deshalb als Frage öffentlicher digitaler Infrastruktur. Wenn Staat und Gemeinwohlsektor langfristig handlungsfähig bleiben sollen, brauchen sie bessere Möglichkeiten zur Bewertung, zum Wissenstransfer und zum Zugang zu alternativen Modellen. Besonders relevant sind dabei Public-AI-Modelle. Deshalb untersuchen wir, unter welchen Bedingungen alternative und möglichst offene Modelle stärker genutzt werden können. Dabei geht es sowohl um Wissenstransfer als auch um politische und institutionelle Rahmenbedingungen, die einen vielfältigeren Einsatz von KI ermöglichen.

Mit dem Modul „Selbstbestimmter Einsatz von KI“ arbeiten wir deshalb an den Voraussetzungen für einen souveränen Umgang mit KI: in der Verwaltung, in der Sozialwirtschaft und auf der Ebene politischer Rahmenbedingungen. Es geht um einen Einsatz von KI, der Verantwortung stärkt, statt auszulagern, der nachvollziehbar bleibt und der den Schutz vulnerabler Gruppen ernst nimmt sowie bessere Voraussetzungen für die Nutzung unterschiedlicher Modelle und Ansätze schafft.

Dieser Text ist lizenziert unter einer  Creative Commons Namensnennung 4.0 International Lizenz.