Technische Möglichkeiten allein verändern selten die Welt. Entscheidend ist, wie Menschen sie nutzen sowie welche und vor allem wessen Interessen dabei verfolgt werden.
Das zeigt sich in mehreren Beiträgen dieser Ausgabe. Shirin Anlen und Gabi Ivens beschreiben, wie moderne Bildanalyseverfahren selbst aus unkenntlich gemachten Gesichtern wieder Rückschlüsse auf Personen ermöglichen können. Damit stellt sich nicht nur eine technische Frage. Es geht auch darum, wie weit andere bereit sind zu gehen, um Informationen über Menschen sichtbar zu machen, die geschützt werden sollten.
Auch der Beitrag zur Plattformarbeit lenkt den Blick auf die Menschen hinter den Systemen. Michael Huggins macht deutlich wie Plattformunternehmen ihre Beschäftigten bis ins Detail überwachen und deren Verhalten systematisch auswerten. Die gesammelten Daten dienen nicht nur dazu, Arbeit zu organisieren, sondern auch dazu, finanzielle Abhängigkeiten möglichst genau zu berechnen und für die eigene Gewinnmaximierung zu nutzen. Wer auf die Arbeit besonders angewiesen ist, hat oft weniger Möglichkeiten, schlecht bezahlte Aufträge abzulehnen. Hier wird Technologie als Mittel genutzt, um Macht auszuüben und prekäre Lebenslagen in Vorteile für die Plattformunternehmen zu verwandeln.
Außerdem: Präzedenzfall gegen AI Overviews, Verbot von Nudifier-Apps auf EU-Ebene und das Abhängigkeitsparadoxon bei der Erkennung von Falschinformationen.
Elena und Asena
P.S. Ihnen wurde dieser Newsletter weitergeleitet? Hier geht es zum Abo: https://www.reframetech.de/newsletter/
Die Meinungen in den Beiträgen spiegeln nicht zwangsläufig die Positionen der Bertelsmann Stiftung wider. Wir hoffen jedoch, dass sie zum Nachdenken anregen und zum Diskurs beitragen. Wir freuen uns immer über Feedback – der Newsletter lebt auch von Ihrer Rückmeldung und Ihrem Input. Melden Sie sich per E-Mail an asena.soydas@bertelsmann-stiftung.de oder bei Bluesky unter @reframetech.bsky.social.
Was sich bei der KI-Verordnung jetzt ändert
AI Act: EP approves simplification measures and “nudifier” app ban, European Parliament, 16.06.2026
Mit 423 zu 57 Stimmen bei 174 Enthaltungen hat das Europäische Parlament ein Vereinfachungspaket verabschiedet, das Teile der KI-Verordnung ändert. Das sogenannte KI-Omnibus-Paket war dabei umstritten: Während die einen darin notwendige Entlastungen für Unternehmen sehen, befürchten andere eine Schwächung von Schutzrechten. Im Kern soll das Paket den Unternehmen mehr Zeit verschaffen. So greifen die Pflichten für Hochrisiko-Systeme erst ab Dezember 2027 für eigenständige Anwendungen und ab August 2028 für solche, die als Sicherheitskomponenten in andere Produkte eingebettet sind. Auch die Pflicht, KI-generierte Inhalte zu kennzeichnen, gilt erst ab Dezember 2026. Hinzu kommen kleinere Erleichterungen, etwa geringere Meldepflichten und Ausnahmen für kleine und mittlere Unternehmen. Gleichzeitig enthält das Paket auch eine wichtige Stärkung des Schutzes vor Missbrauch: Künftig sind sogenannte „Nudifier Apps“, die Personen ohne deren Einwilligung sexualisiert darstellen, verboten. Der Rat der Europäischen Union muss noch formal zustimmen, bevor die Regelung in Kraft treten kann.
Münchner Gericht nimmt Google in die Pflicht
A Court Has Ruled That Google Is Liable for False Statements Generated by AI Overviews, WIRED, 13.06.2026
In einem vorläufigen Urteil macht das Landgericht München Google für falsche Aussagen verantwortlich, die durch seine Funktion „AI Overviews” (KI-Zusammenfassungen) erzeugt wurden. In dem Fall wurden zwei Verlage in solchen Zusammenfassungen ohne jede Grundlage mit fragwürdigen Geschäftspraktiken und Abo-Betrug in Verbindung gebracht. Google bestritt, für die Aussagen verantwortlich zu sein, und verwies darauf, dass die Funktion Nutzer:innen auf mögliche Fehler hinweise und zur eigenen Prüfung auffordere. Das Gericht ließ dies jedoch nicht gelten. Daraus könnte ein Präzedenzfall entstehen, denn bisher galten Suchmaschinen als bloße Vermittler fremder Inhalte und waren bei falschen Angaben rechtlich geschützt. Nach Auffassung des Gerichts greift dieser Schutz jedoch nicht mehr, wenn ein System eigenständige neue Aussagen generiert, die in den Quellen selbst nicht vorkommen. Ein Warnhinweis auf mögliche Fehler entlaste das Unternehmen nicht, da Betroffene sonst kaum eine Möglichkeit hätten, gegen die falschen Aussagen vorzugehen. Auch auf die Meinungsfreiheit könne sich Google nicht berufen, da die Aussagen das Ergebnis eines Algorithmus seien und keine persönliche Äußerung darstellten. Google muss die beanstandeten Aussagen nun weitgehend entfernen und 80 Prozent der Verfahrenskosten tragen. Das Unternehmen kündigte jedoch eine mögliche Berufung an.
Wenn die Unschärfe verschwindet
AI Can Rebuild Blurred Faces, So How Do We Protect People Now?, Tech Policy Press, 11.06.2026
Menschenrechtsorganisationen und Medien machen oft Gesichter unkenntlich, um Quellen, Kinder oder Zeug:innen zu schützen. Für Menschen sind diese Personen danach oft nicht mehr erkennbar. Moderne KI- und Bildanalyseverfahren können jedoch weiterhin Informationen aus solchen Bildern gewinnen. Die Autorinnen Shirin Anlen und Gabi Ivens testeten dies mit einem veröffentlichten Foto zweier Kinder, deren Gesichter unkenntlich gemacht worden waren. Mit frei verfügbaren Werkzeugen ließen sich wieder Gesichtszüge sichtbar machen. Diese entsprachen zwar nicht den tatsächlichen Gesichtern, ermöglichten aber Rückschlüsse auf Alter, Geschlecht oder Herkunft. Auch die von den Autorinnen befragten Expert:innen warnen: Was heute durch Unschärfe verborgen wird, könnte künftig wieder sichtbar gemacht werden. Deshalb empfehlen sie, Identitäten möglichst vollständig zu verdecken – etwa durch schwarze Balken oder Flächen. Solche Methoden schützen besser, nehmen Bildern jedoch oft einen Teil ihrer Ausdruckskraft und Menschlichkeit. Eine endgültige Lösung gibt es also bisher nicht. Ziel sollte vielmehr sein, das Risiko einer Identifizierung zu minimieren und die Hürden dafür möglichst hoch zu setzen. Klassische Unschärfe allein bietet dafür heute keinen verlässlichen Schutz mehr.
Big Tech Built a Gig Economy That Works Against Us, Inequality.org, 08.06.2026
„Gig-Arbeit“, also über digitale Plattformen vermittelte Tätigkeiten wie Fahrdienste, Lieferungen oder Einkaufsservices, wurde einst als flexible Möglichkeit beworben, um sich ein zusätzliches Einkommen zu sichern. In den USA erzielt inzwischen fast jede vierte Person ein Einkommen durch solche Tätigkeiten, für rund ein Drittel der Beschäftigten sind sie zur Haupteinnahmequelle geworden. Autor Michael Huggins zeigt, wie Plattformen umfangreiche Daten über das Verhalten ihrer Beschäftigten sammeln und auswerten. Fachleute sprechen in diesem Zusammenhang vom sogenannten „Verzweiflungslohn“ (Desperation Wage): dem niedrigsten Lohn, den eine Person aufgrund ihrer finanziellen Situation noch akzeptiert. Plattformen wie Uber und Lyft analysieren etwa, wie lange Menschen auf Aufträge warten, welche Angebote sie annehmen und wie sie auf unterschiedliche Vergütungen reagieren. Mithilfe dieser Form der digitalen Überwachung sollen individuelle Akzeptanzgrenzen berechnet werden. Statt prekäre Situationen abzufedern, können die gewonnenen Erkenntnisse dazu genutzt werden, die Bezahlung möglichst nahe an die persönliche Notlage von Beschäftigten anzupassen. Wer besonders auf die Arbeit angewiesen ist, hat dadurch oft weniger Möglichkeiten, schlecht bezahlte Aufträge abzulehnen. Huggins verweist darauf, dass dies bei Schwarzen und anderen nicht weißen Beschäftigten häufiger der Fall ist, da stabile Beschäftigungsmöglichkeiten für sie oft schwerer zugänglich sind. Und weil all das über Code geschieht, bleibt es oft unsichtbar. Ähnliche Verfahren werden auch genutzt, um Mieten oder Preise dynamisch an die Zahlungsbereitschaft von Menschen anzupassen. Huggins warnt davor, dass Plattformen auf diese Weise auch die finanzielle Abhängigkeit von Beschäftigten auswerten und zu ihrem Vorteil nutzen können. Deshalb fordert er mehr Transparenz über Datennutzung, Lohnberechnung und algorithmische Entscheidungen. Beschäftigte sollten außerdem die Möglichkeit haben, sich kollektiv zu organisieren und ihre Interessen gegenüber den Plattformen zu vertreten.
The consequences of relying on AI for accurate news, MIT News, 09.06.2026
Immer mehr Menschen nutzen Sprachmodelle wie ChatGPT, Claude oder Gemini, um Nachrichten einzuordnen oder Informationen zu überprüfen. Eine Studie des MIT Media Lab legt nun nahe, dass dies einen Nebeneffekt haben kann. Für die Studie bewerteten 67 Personen über einen Zeitraum von vier Wochen Schlagzeilen mit Bildern. Mit Unterstützung eines Chatbots erkannten sie Falschmeldungen 21 Prozent zuverlässiger. Fiel aber diese Hilfe später weg, sank ihre eigene Leistung deutlich und in der vierten Woche lag ihre Trefferquote 15 Prozentpunkte niedriger als zu Beginn. Rund ein Viertel der Teilnehmenden war sogar überzeugt, besser geworden zu sein, obwohl die Ergebnisse das Gegenteil zeigten. Die Wissenschaftler:innen sprechen in diesem Zusammenhang vom „Abhängigkeitsparadoxon“ (AI Dependency Paradox). Ähnliche Effekte wurden bereits in anderen Bereichen beobachtet, etwa bei Ärzt:innen, die mit Hilfe von KI-Systemen Krebs schlechter eigenständig erkannten. Die Autor:innen weisen jedoch darauf hin, dass die Folgen davon abhängen, wie solche Systeme eingesetzt werden. Generiert ein KI-System fertige Antworten, fördert es die Abhängigkeit. Werden Nutzer:innen dagegen durch Fragen und Hinweise zum eigenen Nachdenken angeregt, können sie ihre Fähigkeiten eher weiterentwickeln, auch wenn dies zunächst mehr Zeit kostet.
Follow-Empfehlung: Stanford Institute for Human-Centered Artificial Intelligence (HAI)
Das Stanford Institute for Human-Centered Artificial Intelligence (HAI) ist ein interdisziplinäres Forschungsinstitut der Stanford University, das sich mit den gesellschaftlichen, technischen und wirtschaftlichen Auswirkungen von KI beschäftigt.
Verlesenes: „Fun Fact“ oder „Die Quellenkritik hat den Chat verlassen“
Die Kurzzusammenfassungen der Artikel sind unter einer Creative Commons Namensnennung 4.0 International Lizenz.
Kommentar schreiben