Manifest der Digitalen Rückeroberung

Wer trainiert wen? – Die wechselseitige Prägung von Mensch und Künstlicher Intelligenz

Einleitung

Die öffentliche Diskussion über Künstliche Intelligenz konzentriert sich häufig auf die Frage, wie Menschen KI-Systeme trainieren. Tatsächlich basiert modernes maschinelles Lernen auf menschlich erzeugten Daten, Bewertungen und Korrekturen. Weniger offensichtlich ist jedoch die Gegenrichtung: KI verändert ihrerseits menschliches Verhalten, Entscheidungsprozesse und gesellschaftliche Strukturen. Die Frage „Wer trainiert wen?“ beschreibt deshalb keine Einbahnstraße, sondern einen rekursiven Rückkopplungsprozess zwischen Mensch und Maschine.

In der Informatik wird dieser Zusammenhang als Human-in-the-Loop oder soziotechnisches System verstanden. Moderne KI ist nicht ausschließlich ein technisches Produkt, sondern entsteht im Zusammenspiel von Datensätzen, Algorithmen, menschlichen Entscheidungen und gesellschaftlichen Institutionen.

1. Menschen trainieren KI

Große Sprachmodelle oder Bildgeneratoren lernen statistische Zusammenhänge aus enormen Datenmengen. Dabei entstehen keine eigentlichen Bedeutungen oder Absichten; vielmehr werden Wahrscheinlichkeiten berechnet.

Nach der Trainingsphase folgt häufig das sogenannte Reinforcement Learning from Human Feedback (RLHF). Menschen bewerten Antworten, wodurch Modelle lernen, welche Ergebnisse bevorzugt werden.

Dadurch wird deutlich:

Menschen bestimmen die Trainingsdaten.
Menschen definieren Qualitätsmaßstäbe.
Menschen formulieren Sicherheitsregeln.
Menschen korrigieren Fehlverhalten.

KI entsteht somit nicht unabhängig vom Menschen, sondern trägt immer dessen Annahmen, Wertvorstellungen und Datenbasis in sich.

2. KI trainiert den Menschen

Ebenso bedeutsam ist die umgekehrte Richtung.

Empfehlungssysteme beeinflussen täglich,

welche Nachrichten gelesen werden,
welche Musik gehört wird,
welche Produkte gekauft werden,
welche politischen Inhalte sichtbar werden.

Dadurch verändern Algorithmen langfristig Aufmerksamkeit und Verhalten.

Die Medienwissenschaft spricht hierbei von algorithmischer Selektion.

Menschen passen sich unbewusst an die Logik digitaler Systeme an:

Inhalte werden für Algorithmen produziert.
Aufmerksamkeit wird optimiert.
Sprache verändert sich.
Entscheidungen orientieren sich zunehmend an automatisierten Empfehlungen.

Diese Wechselwirkung wird in der Forschung als Feedback-Schleife beschrieben. (Weizenbaum Institut)

3. Algorithmen sind nicht neutral

Ein häufiges Missverständnis besteht darin anzunehmen, Algorithmen seien objektiv.

Tatsächlich spiegeln sie immer

Datenauswahl,
Modellarchitektur,
Zieldefinition,
Bewertungskriterien

wider.

Bias entsteht beispielsweise durch

unausgewogene Trainingsdaten,
historische Ungleichheiten,
gesellschaftliche Vorurteile,
ökonomische Optimierungsziele.

Deshalb fordert die aktuelle KI-Forschung Transparenz, Dokumentation und regelmäßige Evaluation algorithmischer Entscheidungen. Auch die Debatte um algorithmische Verantwortung betont, dass die Wirkung eines KI-Systems nicht allein durch den Code bestimmt wird, sondern durch seinen gesamten sozialen und organisatorischen Kontext. (ResearchGate)

4. Überwachungskapitalismus und Verhaltenssteuerung

Die Wirtschaftswissenschaftlerin Shoshana Zuboff beschreibt digitale Plattformen als Akteure, die menschliches Verhalten nicht nur beobachten, sondern zunehmend vorhersagen und beeinflussen.

Ein oft zitierter Satz lautet:

„The goal is no longer to automate information flows about us; the goal now is to automate us.“

Dieser kurze Satz wird häufig als Zusammenfassung ihrer Theorie des Überwachungskapitalismus verwendet. (Der Guardian)

Zuboffs Argument lautet nicht, dass Technologie zwangsläufig Manipulation bedeutet. Vielmehr kritisiert sie Geschäftsmodelle, die aus der Sammlung und Vorhersage menschlichen Verhaltens wirtschaftlichen Nutzen ziehen. In diesem Modell werden persönliche Daten zu einer Ressource, aus der Vorhersagen über zukünftiges Verhalten abgeleitet werden. (SSRN)

5. Rückkopplung statt Kontrolle

Aktuelle Forschung beschreibt Mensch und KI zunehmend als ko-adaptive Systeme.

Dabei verändert

der Mensch die KI,
die KI den Menschen,
die Gesellschaft beide zugleich.

Diese Dynamik lässt sich als Rückkopplung verstehen:

Menschen erzeugen Daten.
KI lernt daraus.
KI beeinflusst Entscheidungen.
Diese Entscheidungen erzeugen neue Daten.
Die neuen Daten verändern wiederum zukünftige Modelle.

Dadurch entstehen langfristige gesellschaftliche Veränderungen, ohne dass einzelne Akteure diese vollständig planen.

6. Digitale Selbstbestimmung

Aus wissenschaftlicher Sicht besteht die wichtigste Herausforderung nicht darin, KI grundsätzlich abzulehnen oder unkritisch zu übernehmen.

Vielmehr geht es um den Erhalt menschlicher Handlungskompetenz.

Dazu gehören

Transparenz algorithmischer Entscheidungen,
nachvollziehbare Modelle,
Datenschutz,
digitale Bildung,
unabhängige Forschung,
demokratische Regulierung.

Die Europäische Union verfolgt mit dem AI Act beispielsweise einen risikobasierten Regulierungsansatz, bei dem Transparenz und Rechenschaftspflicht zentrale Prinzipien darstellen. (SSRN)

Fazit

Die Frage „Wer trainiert wen?“ lässt sich wissenschaftlich nicht mit einer einfachen Richtung beantworten. Menschen entwickeln, trainieren und kontrollieren KI-Systeme. Gleichzeitig beeinflussen diese Systeme Wahrnehmung, Kommunikation und Entscheidungen ihrer Nutzerinnen und Nutzer. Moderne KI ist daher Teil eines komplexen soziotechnischen Wechselspiels, in dem technologische und gesellschaftliche Prozesse untrennbar miteinander verbunden sind. Eine verantwortungsvolle Gestaltung dieser Beziehung erfordert Transparenz, demokratische Kontrolle und die kontinuierliche Reflexion darüber, welche Werte in algorithmischen Systemen verankert werden.

Literatur (Auswahl)

Zuboff, S. (2019). The Age of Surveillance Capitalism. PublicAffairs.
Cobbe, J., Veale, M., & Singh, J. (2023). Understanding Accountability in Algorithmic Supply Chains. arXiv. (arXiv)
Weizenbaum-Institut (2019). Automating Communication in the Networked Society. (Weizenbaum Institut)
Zuboff, S. (2022). Surveillance Capitalism or Democracy? The Death Match of Institutional Orders and the Politics of Knowledge in Our Information Civilization. (SSRN)