GEGEN-TRAINING
Wer trainiert wen?
Mensch, Maschine und die Rückeroberung digitaler Selbstbestimmung
Von der HNT-Redaktion
„Jede Technologie verändert nicht nur die Welt, sondern auch die Menschen, die sie benutzen.“ Dieser Gedanke zieht sich wie ein roter Faden durch die Geschichte der Zivilisation. Vom Buchdruck über die Dampfmaschine bis zum Internet haben technische Innovationen nicht nur Arbeitsweisen verändert, sondern auch Denkweisen, Kommunikationsformen und gesellschaftliche Strukturen. Mit dem Aufstieg der Künstlichen Intelligenz (KI) erreicht diese Entwicklung eine neue Dimension. Erstmals entstehen Systeme, die aus Daten lernen, Muster erkennen und Aufgaben übernehmen können, die lange Zeit als ausschließlich menschlich galten. Damit stellt sich eine grundlegende Frage: Wer trainiert eigentlich wen?
Eine neue Form des Lernens
Wenn von Künstlicher Intelligenz gesprochen wird, entsteht häufig das Bild einer Maschine, die „denkt“. Tatsächlich beruht moderne KI jedoch auf mathematischen Verfahren, die statistische Zusammenhänge in großen Datenmengen erkennen. Insbesondere Verfahren des maschinellen Lernens (Machine Learning) und des tiefen Lernens (Deep Learning) ermöglichen es Computern, Modelle zu entwickeln, ohne dass jede einzelne Regel explizit programmiert werden muss.
Neuronale Netze bestehen aus zahlreichen miteinander verbundenen Recheneinheiten, deren Struktur lose an biologische Nervenzellen angelehnt ist. Während des Trainings werden die Gewichte dieser Verbindungen angepasst, sodass das Modell Vorhersagen mit möglichst geringer Fehlerquote treffen kann. Der Lernprozess basiert dabei auf Optimierungsverfahren wie dem Gradientenabstieg und nutzt große Mengen an Beispieldaten, um statistische Muster zu identifizieren (Russell & Norvig, 2021).
Wichtig ist jedoch: KI versteht Informationen nicht im menschlichen Sinn. Sie verarbeitet Wahrscheinlichkeiten. Ein Sprachmodell „weiß“ nicht, was ein Baum oder ein Gedanke ist; es berechnet, welche Wörter mit hoher Wahrscheinlichkeit aufeinander folgen. Diese Unterscheidung ist zentral, wenn über die Fähigkeiten und Grenzen moderner KI gesprochen wird.
Daten als Grundlage künstlicher Intelligenz
Jedes lernende System benötigt Daten. Bilderkennungsprogramme werden mit Millionen beschrifteter Fotografien trainiert, Sprachmodelle mit umfangreichen Textsammlungen und autonome Fahrzeuge mit Sensorinformationen aus unterschiedlichsten Verkehrssituationen. Die Qualität eines KI-Systems hängt deshalb wesentlich von der Qualität, Vielfalt und Repräsentativität seiner Trainingsdaten ab.
In den vergangenen Jahren hat sich gezeigt, dass Datensätze niemals vollständig neutral sind. Historische Ungleichheiten, kulturelle Vorurteile oder ungleiche Repräsentationen verschiedener Bevölkerungsgruppen können sich im Verhalten eines Modells widerspiegeln. Dieser Zusammenhang wird in der Forschung unter dem Begriff algorithmischer Bias beschrieben. Bias bedeutet nicht zwangsläufig einen Programmierfehler; häufig entsteht er dadurch, dass ein Modell vergangene Muster übernimmt und dadurch bestehende Ungleichheiten fortschreibt (Mehrabi et al., 2021).
Die Erkenntnis, dass Daten immer auch gesellschaftliche Wirklichkeiten abbilden, hat die Diskussion über verantwortungsvolle KI wesentlich geprägt. Heute gehört die Dokumentation von Datensätzen, die Prüfung auf Verzerrungen und die kontinuierliche Evaluation von Modellen zu den zentralen Empfehlungen internationaler Leitlinien, etwa des National Institute of Standards and Technology (NIST, 2023) oder der UNESCO (2021).
Infokasten
Was bedeutet „Training“ in der KI?
Beim Training eines KI-Modells werden mathematische Parameter so angepasst, dass Vorhersagen möglichst präzise werden. Das System lernt nicht durch Verstehen, sondern durch Optimierung. Moderne Sprachmodelle enthalten Milliarden solcher Parameter, die aus großen Datenmengen statistische Zusammenhänge ableiten.
Der Mensch bleibt Teil des Systems
Obwohl KI häufig als autonom beschrieben wird, ist sie auf menschliche Entscheidungen angewiesen. Menschen wählen Trainingsdaten aus, definieren Lernziele, bewerten Ergebnisse und legen Sicherheitsmechanismen fest. Besonders leistungsfähige Sprachmodelle werden nach dem eigentlichen Training häufig mithilfe menschlicher Rückmeldungen weiter verbessert. Dieses Verfahren wird als Reinforcement Learning from Human Feedback (RLHF) bezeichnet und trägt dazu bei, Antworten hilfreicher, verständlicher und sicherer zu gestalten (Ouyang et al., 2022).
Die Informatik spricht in diesem Zusammenhang von Human-in-the-Loop-Systemen. Der Mensch bleibt integraler Bestandteil des Lernprozesses – nicht nur als Entwickler, sondern auch als Nutzer, der durch jede Interaktion neue Daten erzeugt.
Doch genau an dieser Stelle beginnt eine Entwicklung, die weit über die technische Ebene hinausgeht.
Die andere Richtung des Lernens
Wenn Millionen Menschen täglich Suchmaschinen nutzen, Navigationsanweisungen folgen oder sich Inhalte von sozialen Netzwerken empfehlen lassen, entsteht eine zweite Form des Trainings. Algorithmen beobachten, welche Inhalte Aufmerksamkeit erhalten, welche Entscheidungen getroffen werden und welche Verhaltensweisen sich wiederholen. Auf Grundlage dieser Informationen werden Empfehlungen angepasst – und diese Empfehlungen beeinflussen wiederum zukünftiges Verhalten.
So entsteht ein Kreislauf: Menschen trainieren die KI durch ihre Daten, während die KI gleichzeitig menschliche Entscheidungen mitprägt. In der Wissenschaft wird dieses Wechselspiel als soziotechnische Rückkopplung beschrieben. Es verdeutlicht, dass Technologie nicht isoliert betrachtet werden kann. Ihre Wirkung entfaltet sich erst im Zusammenspiel mit den Menschen, die sie entwickeln, regulieren und nutzen.
Diese Perspektive führt zu einer grundlegenden Frage: Wenn wir Maschinen lehren, Muster in unserem Verhalten zu erkennen – welche Muster lehren die Maschinen uns?
Überleitung zum Interview
Um dieser Frage nachzugehen, haben wir ein Gedankenexperiment gewählt. Im folgenden Gespräch beantwortet eine fiktive KI-Forscherin die Fragen, die viele Menschen im Alltag bewegen. Die Antworten basieren auf dem aktuellen Stand der Forschung und greifen Erkenntnisse aus Informatik, Psychologie, Ethik und Sozialwissenschaft auf. Das Interview ist literarisch gestaltet, die wissenschaftlichen Inhalte sind jedoch durch Fachliteratur gestützt.
Literatur (Auszug)
Mehrabi, N., Morstatter, F., Saxena, N., Lerman, K., & Galstyan, A. (2021). A Survey on Bias and Fairness in Machine Learning. ACM Computing Surveys, 54(6), 1–35.
NIST. (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0). National Institute of Standards and Technology.
Ouyang, L., Wu, J., Jiang, X., et al. (2022). Training language models to follow instructions with human feedback. Advances in Neural Information Processing Systems, 35, 27730–27744.
Russell, S., & Norvig, P. (2021). Artificial Intelligence: A Modern Approach (4. Aufl.). Pearson.
UNESCO. (2021). Recommendation on the Ethics of Artificial Intelligence.
.
