<\/p>\n\n\n\n
Von der HNT-Redaktion<\/strong><\/p>\n\n\n\n \u201eJede Technologie ver\u00e4ndert nicht nur die Welt, sondern auch die Menschen, die sie benutzen.\u201c<\/em> Dieser Gedanke zieht sich wie ein roter Faden durch die Geschichte der Zivilisation. Vom Buchdruck \u00fcber die Dampfmaschine bis zum Internet haben technische Innovationen nicht nur Arbeitsweisen ver\u00e4ndert, sondern auch Denkweisen, Kommunikationsformen und gesellschaftliche Strukturen. Mit dem Aufstieg der K\u00fcnstlichen Intelligenz (KI) erreicht diese Entwicklung eine neue Dimension. Erstmals entstehen Systeme, die aus Daten lernen, Muster erkennen und Aufgaben \u00fcbernehmen k\u00f6nnen, die lange Zeit als ausschlie\u00dflich menschlich galten. Damit stellt sich eine grundlegende Frage: Wer trainiert eigentlich wen?<\/strong><\/p>\n<\/blockquote>\n\n\n\n Wenn von K\u00fcnstlicher Intelligenz gesprochen wird, entsteht h\u00e4ufig das Bild einer Maschine, die \u201edenkt\u201c. Tats\u00e4chlich beruht moderne KI jedoch auf mathematischen Verfahren, die statistische Zusammenh\u00e4nge in gro\u00dfen Datenmengen erkennen. Insbesondere Verfahren des maschinellen Lernens (Machine Learning) und des tiefen Lernens (Deep Learning) erm\u00f6glichen es Computern, Modelle zu entwickeln, ohne dass jede einzelne Regel explizit programmiert werden muss.<\/p>\n\n\n\n Neuronale Netze bestehen aus zahlreichen miteinander verbundenen Recheneinheiten, deren Struktur lose an biologische Nervenzellen angelehnt ist. W\u00e4hrend des Trainings werden die Gewichte dieser Verbindungen angepasst, sodass das Modell Vorhersagen mit m\u00f6glichst geringer Fehlerquote treffen kann. Der Lernprozess basiert dabei auf Optimierungsverfahren wie dem Gradientenabstieg und nutzt gro\u00dfe Mengen an Beispieldaten, um statistische Muster zu identifizieren (Russell & Norvig, 2021).<\/p>\n\n\n\n Wichtig ist jedoch: KI versteht Informationen nicht im menschlichen Sinn. Sie verarbeitet Wahrscheinlichkeiten. Ein Sprachmodell \u201ewei\u00df\u201c nicht, was ein Baum oder ein Gedanke ist; es berechnet, welche W\u00f6rter mit hoher Wahrscheinlichkeit aufeinander folgen. Diese Unterscheidung ist zentral, wenn \u00fcber die F\u00e4higkeiten und Grenzen moderner KI gesprochen wird.<\/p>\n\n\n\n Jedes lernende System ben\u00f6tigt Daten. Bilderkennungsprogramme werden mit Millionen beschrifteter Fotografien trainiert, Sprachmodelle mit umfangreichen Textsammlungen und autonome Fahrzeuge mit Sensorinformationen aus unterschiedlichsten Verkehrssituationen. Die Qualit\u00e4t eines KI-Systems h\u00e4ngt deshalb wesentlich von der Qualit\u00e4t, Vielfalt und Repr\u00e4sentativit\u00e4t seiner Trainingsdaten ab.<\/p>\n\n\n\n In den vergangenen Jahren hat sich gezeigt, dass Datens\u00e4tze niemals vollst\u00e4ndig neutral sind. Historische Ungleichheiten, kulturelle Vorurteile oder ungleiche Repr\u00e4sentationen verschiedener Bev\u00f6lkerungsgruppen k\u00f6nnen sich im Verhalten eines Modells widerspiegeln. Dieser Zusammenhang wird in der Forschung unter dem Begriff algorithmischer Bias<\/strong> beschrieben. Bias bedeutet nicht zwangsl\u00e4ufig einen Programmierfehler; h\u00e4ufig entsteht er dadurch, dass ein Modell vergangene Muster \u00fcbernimmt und dadurch bestehende Ungleichheiten fortschreibt (Mehrabi et al., 2021).<\/p>\n\n\n\n Die Erkenntnis, dass Daten immer auch gesellschaftliche Wirklichkeiten abbilden, hat die Diskussion \u00fcber verantwortungsvolle KI wesentlich gepr\u00e4gt. Heute geh\u00f6rt die Dokumentation von Datens\u00e4tzen, die Pr\u00fcfung auf Verzerrungen und die kontinuierliche Evaluation von Modellen zu den zentralen Empfehlungen internationaler Leitlinien, etwa des National Institute of Standards and Technology (NIST, 2023) oder der UNESCO (2021).<\/p>\n\n\n\n Beim Training eines KI-Modells werden mathematische Parameter so angepasst, dass Vorhersagen m\u00f6glichst pr\u00e4zise werden. Das System lernt nicht durch Verstehen, sondern durch Optimierung. Moderne Sprachmodelle enthalten Milliarden solcher Parameter, die aus gro\u00dfen Datenmengen statistische Zusammenh\u00e4nge ableiten.<\/p>\n\n\n\n Obwohl KI h\u00e4ufig als autonom beschrieben wird, ist sie auf menschliche Entscheidungen angewiesen. Menschen w\u00e4hlen Trainingsdaten aus, definieren Lernziele, bewerten Ergebnisse und legen Sicherheitsmechanismen fest. Besonders leistungsf\u00e4hige Sprachmodelle werden nach dem eigentlichen Training h\u00e4ufig mithilfe menschlicher R\u00fcckmeldungen weiter verbessert. Dieses Verfahren wird als Reinforcement Learning from Human Feedback (RLHF)<\/strong> bezeichnet und tr\u00e4gt dazu bei, Antworten hilfreicher, verst\u00e4ndlicher und sicherer zu gestalten (Ouyang et al., 2022).<\/p>\n\n\n\n Die Informatik spricht in diesem Zusammenhang von Human-in-the-Loop-Systemen<\/strong>. Der Mensch bleibt integraler Bestandteil des Lernprozesses \u2013 nicht nur als Entwickler, sondern auch als Nutzer, der durch jede Interaktion neue Daten erzeugt.<\/p>\n\n\n\n Doch genau an dieser Stelle beginnt eine Entwicklung, die weit \u00fcber die technische Ebene hinausgeht.<\/p>\n\n\n\n Wenn Millionen Menschen t\u00e4glich Suchmaschinen nutzen, Navigationsanweisungen folgen oder sich Inhalte von sozialen Netzwerken empfehlen lassen, entsteht eine zweite Form des Trainings. Algorithmen beobachten, welche Inhalte Aufmerksamkeit erhalten, welche Entscheidungen getroffen werden und welche Verhaltensweisen sich wiederholen. Auf Grundlage dieser Informationen werden Empfehlungen angepasst \u2013 und diese Empfehlungen beeinflussen wiederum zuk\u00fcnftiges Verhalten.<\/p>\n\n\n\n So entsteht ein Kreislauf: Menschen trainieren die KI durch ihre Daten, w\u00e4hrend die KI gleichzeitig menschliche Entscheidungen mitpr\u00e4gt. In der Wissenschaft wird dieses Wechselspiel als soziotechnische R\u00fcckkopplung<\/strong> beschrieben. Es verdeutlicht, dass Technologie nicht isoliert betrachtet werden kann. Ihre Wirkung entfaltet sich erst im Zusammenspiel mit den Menschen, die sie entwickeln, regulieren und nutzen.<\/p>\n\n\n\n Diese Perspektive f\u00fchrt zu einer grundlegenden Frage: Wenn wir Maschinen lehren, Muster in unserem Verhalten zu erkennen \u2013 welche Muster lehren die Maschinen uns?<\/p>\n\n\n\n Um dieser Frage nachzugehen, haben wir ein Gedankenexperiment gew\u00e4hlt. Im folgenden Gespr\u00e4ch beantwortet eine fiktive KI-Forscherin<\/strong> die Fragen, die viele Menschen im Alltag bewegen. Die Antworten basieren auf dem aktuellen Stand der Forschung und greifen Erkenntnisse aus Informatik, Psychologie, Ethik und Sozialwissenschaft auf. Das Interview ist literarisch gestaltet, die wissenschaftlichen Inhalte sind jedoch durch Fachliteratur gest\u00fctzt.<\/p>\n\n\n\n Mehrabi, N., Morstatter, F., Saxena, N., Lerman, K., & Galstyan, A. (2021). A Survey on Bias and Fairness in Machine Learning<\/em>. ACM Computing Surveys, 54(6), 1\u201335.<\/p>\n\n\n\n NIST. (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0)<\/em>. National Institute of Standards and Technology.<\/p>\n\n\n\n Ouyang, L., Wu, J., Jiang, X., et al. (2022). Training language models to follow instructions with human feedback<\/em>. Advances in Neural Information Processing Systems, 35, 27730\u201327744.<\/p>\n\n\n\n Russell, S., & Norvig, P. (2021). Artificial Intelligence: A Modern Approach<\/em> (4. Aufl.). Pearson.<\/p>\n\n\n\n UNESCO. (2021). Recommendation on the Ethics of Artificial Intelligence<\/em>.<\/p>\n\n\n\n .<\/p>","protected":false},"excerpt":{"rendered":" GEGEN-TRAINING Wer trainiert wen? Mensch, Maschine und die R\u00fcckeroberung digitaler Selbstbestimmung Von der HNT-Redaktion \u201eJede Technologie ver\u00e4ndert nicht nur die Welt, sondern auch die Menschen, die sie benutzen.\u201c Dieser Gedanke zieht sich wie ein roter Faden durch die Geschichte der Zivilisation. Vom Buchdruck \u00fcber die Dampfmaschine bis zum Internet haben technische Innovationen nicht nur Arbeitsweisen […]<\/p>\n","protected":false},"author":1,"featured_media":761,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[24],"tags":[],"class_list":["post-729","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-hnt-frequenzen"],"_links":{"self":[{"href":"https:\/\/hypnoticneurotictoys.com\/de\/wp-json\/wp\/v2\/posts\/729","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/hypnoticneurotictoys.com\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/hypnoticneurotictoys.com\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/hypnoticneurotictoys.com\/de\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/hypnoticneurotictoys.com\/de\/wp-json\/wp\/v2\/comments?post=729"}],"version-history":[{"count":3,"href":"https:\/\/hypnoticneurotictoys.com\/de\/wp-json\/wp\/v2\/posts\/729\/revisions"}],"predecessor-version":[{"id":732,"href":"https:\/\/hypnoticneurotictoys.com\/de\/wp-json\/wp\/v2\/posts\/729\/revisions\/732"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/hypnoticneurotictoys.com\/de\/wp-json\/wp\/v2\/media\/761"}],"wp:attachment":[{"href":"https:\/\/hypnoticneurotictoys.com\/de\/wp-json\/wp\/v2\/media?parent=729"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/hypnoticneurotictoys.com\/de\/wp-json\/wp\/v2\/categories?post=729"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/hypnoticneurotictoys.com\/de\/wp-json\/wp\/v2\/tags?post=729"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}\n
Eine neue Form des Lernens<\/h2>\n\n\n\n
Daten als Grundlage k\u00fcnstlicher Intelligenz<\/h2>\n\n\n\n
\n\n\n\nInfokasten<\/h3>\n\n\n\n
Was bedeutet \u201eTraining\u201c in der KI?<\/h2>\n\n\n\n
\n\n\n\nDer Mensch bleibt Teil des Systems<\/h2>\n\n\n\n
Die andere Richtung des Lernens<\/h2>\n\n\n\n
\n\n\n\n\u00dcberleitung zum Interview<\/h2>\n\n\n\n
\n\n\n\nLiteratur (Auszug)<\/h3>\n\n\n\n
\n\n\n\n