Manifest der Digitalen R\u00fcckeroberung<\/p>\n\n\n\n
<\/p>\n\n\n\n
Die \u00f6ffentliche Diskussion \u00fcber K\u00fcnstliche Intelligenz konzentriert sich h\u00e4ufig auf die Frage, wie Menschen KI-Systeme trainieren. Tats\u00e4chlich basiert modernes maschinelles Lernen auf menschlich erzeugten Daten, Bewertungen und Korrekturen. Weniger offensichtlich ist jedoch die Gegenrichtung: KI ver\u00e4ndert ihrerseits menschliches Verhalten, Entscheidungsprozesse und gesellschaftliche Strukturen. Die Frage \u201eWer trainiert wen?\u201c beschreibt deshalb keine Einbahnstra\u00dfe, sondern einen rekursiven R\u00fcckkopplungsprozess zwischen Mensch und Maschine.<\/p>\n\n\n\n
In der Informatik wird dieser Zusammenhang als Human-in-the-Loop<\/strong> oder soziotechnisches System<\/strong> verstanden. Moderne KI ist nicht ausschlie\u00dflich ein technisches Produkt, sondern entsteht im Zusammenspiel von Datens\u00e4tzen, Algorithmen, menschlichen Entscheidungen und gesellschaftlichen Institutionen.<\/p>\n\n\n\n Gro\u00dfe Sprachmodelle oder Bildgeneratoren lernen statistische Zusammenh\u00e4nge aus enormen Datenmengen. Dabei entstehen keine eigentlichen Bedeutungen oder Absichten; vielmehr werden Wahrscheinlichkeiten berechnet.<\/p>\n\n\n\n Nach der Trainingsphase folgt h\u00e4ufig das sogenannte Reinforcement Learning from Human Feedback (RLHF)<\/strong>. Menschen bewerten Antworten, wodurch Modelle lernen, welche Ergebnisse bevorzugt werden.<\/p>\n\n\n\n Dadurch wird deutlich:<\/p>\n\n\n\n KI entsteht somit nicht unabh\u00e4ngig vom Menschen, sondern tr\u00e4gt immer dessen Annahmen, Wertvorstellungen und Datenbasis in sich.<\/p>\n\n\n\n Ebenso bedeutsam ist die umgekehrte Richtung.<\/p>\n\n\n\n Empfehlungssysteme beeinflussen t\u00e4glich,<\/p>\n\n\n\n Dadurch ver\u00e4ndern Algorithmen langfristig Aufmerksamkeit und Verhalten.<\/p>\n\n\n\n Die Medienwissenschaft spricht hierbei von algorithmischer Selektion<\/strong>.<\/p>\n\n\n\n Menschen passen sich unbewusst an die Logik digitaler Systeme an:<\/p>\n\n\n\n Diese Wechselwirkung wird in der Forschung als Feedback-Schleife<\/strong> beschrieben. (Weizenbaum Institut<\/a>)<\/p>\n\n\n\n Ein h\u00e4ufiges Missverst\u00e4ndnis besteht darin anzunehmen, Algorithmen seien objektiv.<\/p>\n\n\n\n Tats\u00e4chlich spiegeln sie immer<\/p>\n\n\n\n wider.<\/p>\n\n\n\n Bias entsteht beispielsweise durch<\/p>\n\n\n\n Deshalb fordert die aktuelle KI-Forschung Transparenz, Dokumentation und regelm\u00e4\u00dfige Evaluation algorithmischer Entscheidungen. Auch die Debatte um algorithmische Verantwortung betont, dass die Wirkung eines KI-Systems nicht allein durch den Code bestimmt wird, sondern durch seinen gesamten sozialen und organisatorischen Kontext. (ResearchGate<\/a>)<\/p>\n\n\n\n Die Wirtschaftswissenschaftlerin Shoshana Zuboff<\/strong> beschreibt digitale Plattformen als Akteure, die menschliches Verhalten nicht nur beobachten, sondern zunehmend vorhersagen und beeinflussen.<\/p>\n\n\n\n Ein oft zitierter Satz lautet:<\/p>\n\n\n\n \u201eThe goal is no longer to automate information flows about us; the goal now is to automate us.\u201c<\/p>\n<\/blockquote>\n\n\n\n Dieser kurze Satz wird h\u00e4ufig als Zusammenfassung ihrer Theorie des \u00dcberwachungskapitalismus verwendet. (Der Guardian<\/a>)<\/p>\n\n\n\n Zuboffs Argument lautet nicht, dass Technologie zwangsl\u00e4ufig Manipulation bedeutet. Vielmehr kritisiert sie Gesch\u00e4ftsmodelle, die aus der Sammlung und Vorhersage menschlichen Verhaltens wirtschaftlichen Nutzen ziehen. In diesem Modell werden pers\u00f6nliche Daten zu einer Ressource, aus der Vorhersagen \u00fcber zuk\u00fcnftiges Verhalten abgeleitet werden. (SSRN<\/a>)<\/p>\n\n\n\n Aktuelle Forschung beschreibt Mensch und KI zunehmend als ko-adaptive Systeme<\/strong>.<\/p>\n\n\n\n Dabei ver\u00e4ndert<\/p>\n\n\n\n Diese Dynamik l\u00e4sst sich als R\u00fcckkopplung verstehen:<\/p>\n\n\n\n Dadurch entstehen langfristige gesellschaftliche Ver\u00e4nderungen, ohne dass einzelne Akteure diese vollst\u00e4ndig planen.<\/p>\n\n\n\n Aus wissenschaftlicher Sicht besteht die wichtigste Herausforderung nicht darin, KI grunds\u00e4tzlich abzulehnen oder unkritisch zu \u00fcbernehmen.<\/p>\n\n\n\n Vielmehr geht es um den Erhalt menschlicher Handlungskompetenz.<\/p>\n\n\n\n Dazu geh\u00f6ren<\/p>\n\n\n\n Die Europ\u00e4ische Union verfolgt mit dem AI Act beispielsweise einen risikobasierten Regulierungsansatz, bei dem Transparenz und Rechenschaftspflicht zentrale Prinzipien darstellen. (SSRN<\/a>)<\/p>\n\n\n\n Die Frage \u201eWer trainiert wen?\u201c l\u00e4sst sich wissenschaftlich nicht mit einer einfachen Richtung beantworten. Menschen entwickeln, trainieren und kontrollieren KI-Systeme. Gleichzeitig beeinflussen diese Systeme Wahrnehmung, Kommunikation und Entscheidungen ihrer Nutzerinnen und Nutzer. Moderne KI ist daher Teil eines komplexen soziotechnischen Wechselspiels, in dem technologische und gesellschaftliche Prozesse untrennbar miteinander verbunden sind. Eine verantwortungsvolle Gestaltung dieser Beziehung erfordert Transparenz, demokratische Kontrolle und die kontinuierliche Reflexion dar\u00fcber, welche Werte in algorithmischen Systemen verankert werden.<\/p>\n\n\n\n <\/p>","protected":false},"excerpt":{"rendered":" Manifest der Digitalen R\u00fcckeroberung Wer trainiert wen? \u2013 Die wechselseitige Pr\u00e4gung von Mensch und K\u00fcnstlicher Intelligenz Einleitung Die \u00f6ffentliche Diskussion \u00fcber K\u00fcnstliche Intelligenz konzentriert sich h\u00e4ufig auf die Frage, wie Menschen KI-Systeme trainieren. Tats\u00e4chlich basiert modernes maschinelles Lernen auf menschlich erzeugten Daten, Bewertungen und Korrekturen. Weniger offensichtlich ist jedoch die Gegenrichtung: KI ver\u00e4ndert ihrerseits menschliches […]<\/p>\n","protected":false},"author":1,"featured_media":763,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[70,12],"tags":[],"class_list":["post-716","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-issue-1","category-ki-gesellschaft"],"_links":{"self":[{"href":"https:\/\/hypnoticneurotictoys.com\/de\/wp-json\/wp\/v2\/posts\/716","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/hypnoticneurotictoys.com\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/hypnoticneurotictoys.com\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/hypnoticneurotictoys.com\/de\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/hypnoticneurotictoys.com\/de\/wp-json\/wp\/v2\/comments?post=716"}],"version-history":[{"count":12,"href":"https:\/\/hypnoticneurotictoys.com\/de\/wp-json\/wp\/v2\/posts\/716\/revisions"}],"predecessor-version":[{"id":728,"href":"https:\/\/hypnoticneurotictoys.com\/de\/wp-json\/wp\/v2\/posts\/716\/revisions\/728"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/hypnoticneurotictoys.com\/de\/wp-json\/wp\/v2\/media\/763"}],"wp:attachment":[{"href":"https:\/\/hypnoticneurotictoys.com\/de\/wp-json\/wp\/v2\/media?parent=716"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/hypnoticneurotictoys.com\/de\/wp-json\/wp\/v2\/categories?post=716"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/hypnoticneurotictoys.com\/de\/wp-json\/wp\/v2\/tags?post=716"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}
\n\n\n\n1. Menschen trainieren KI<\/h1>\n\n\n\n
\n
\n\n\n\n2. KI trainiert den Menschen<\/h1>\n\n\n\n
\n
\n
\n\n\n\n3. Algorithmen sind nicht neutral<\/h1>\n\n\n\n
\n
\n
\n\n\n\n4. \u00dcberwachungskapitalismus und Verhaltenssteuerung<\/h1>\n\n\n\n
\n
\n\n\n\n5. R\u00fcckkopplung statt Kontrolle<\/h1>\n\n\n\n
\n
\n
\n\n\n\n6. Digitale Selbstbestimmung<\/h1>\n\n\n\n
\n
\n\n\n\nFazit<\/h1>\n\n\n\n
Literatur (Auswahl)<\/h2>\n\n\n\n
\n