Mensch als Datenlieferant
Als wir neulich wieder eine personalisierte Werbung auf dem Smartphone sahen, durchfuhr uns ein mulmiges Gefühl. Woher wussten die Algorithmen schon wieder von unseren geheimen Wünschen und Begierden? Die scheinbar magischen Fähigkeiten dieser Systeme sind faszinierend und beängstigend zugleich. Doch wenn wir genauer darüber nachdenke, wird uns klar:
Diese Systeme sind nicht magisch oder übermenschlich intelligent. Sie sind abhängig von uns Menschen und unseren Daten.
Wenn wir an Künstliche Intelligenz (KI) denke, schlägt unser Herz schneller. Einerseits faszinieren uns die scheinbar magischen Fähigkeiten dieser Systeme, Muster in riesigen Datenmengen zu erkennen, Gesichter zu identifizieren oder Sprache zu verstehen. Sie scheinen direkt aus einem Science-Fiction Film zu stammen. Andererseits graut es uns bei dem Gedanken, welche Macht diese Systeme bereits über unser Leben gewonnen haben. Die Algorithmen der Tech-Giganten durchleuchten inzwischen jeden Aspekt unseres Alltags – von der Partnerwahl über Versicherungstarife bis hin zu Bewerbungsgesprächen. Sie beeinflussen, was wir sehen, kaufen und sogar wie wir denken.
Doch woher kommt diese scheinbar übermenschliche Intelligenz der Maschinen?
In unserem Artikel zeigen wir, dass die aktuellen KI-Systeme nicht etwa unsere Intelligenz simulieren. Stattdessen sind sie abhängig von unseren menschlichen Fähigkeiten und Daten. Sie sind hybride Mensch-Maschine-Netzwerke, die unsere kognitiven Ressourcen ausbeuten. Über raffinierte Benutzeroberflächen und Interaktionsdesigns werden wir zu Lieferanten der Trainingsdaten, ohne die KI nicht funktionieren würde. Ob durch Gamification, Tracking oder soziale Medien – wir werden in diese Apparate eingebunden, unsere Hirnleistung und Arbeitskraft wird extrahiert.
Fünf Formen der Datengewinnung
Rainer Mühlhoff, ein Philosophie-Professor an der Universität Osnabrück unterscheidet fünf Formen, wie menschliche Fähigkeiten und Ressourcen in Mensch-Maschine-Netzwerken genutzt werden, um Daten für KI-Systeme zu generieren:
- Gamification: Hier werden Menschen durch Spielmechanismen dazu gebracht, implizit Aufgaben für KI-Systeme zu lösen. Ein Beispiel sind Spiele wie ESP Game oder Peek-a-Boom.
- Tracking und Erfassung: Über Tracking-Mechanismen in Diensten wie Google Search oder reCAPTCHA werden menschliche Interaktionen aufgezeichnet und als Trainingsdaten genutzt.
- Social Media: In sozialen Netzwerken werden menschliche Interaktionen für KI-Systeme nutzbar gemacht, etwa durch das Tagging von Gesichtern bei Facebook.
- Datensammlung durch Anreize: Über Rabatte oder ähnliche Anreize werden Menschen dazu gebracht, persönliche Daten preiszugeben, die dann zur Modellierung von Risikoprofilen genutzt werden können.
- Crowdsourcing: Über Plattformen wie Amazon Mechanical Turk werden Mikroaufgaben an Menschen ausgelagert und die Ergebnisse als Trainingsdaten verwendet.
Mensch als bloßes Rädchen in der Black Box
Anstatt menschliche Intelligenz zu simulieren, werden bei diesen hybriden Mensch-Maschine-Systemen menschliche Fähigkeiten eingebettet und ausgebeutet. Der Mensch wird zur bloßen Rädchen in der Black Box, seine Hirnleistung und Arbeitskraft werden in die Systeme integriert. KI heute beruht daher auf einer grundlegenden soziotechnologischen Transformation des Verhältnisses zwischen Mensch und Maschine. An die Stelle einer Simulation menschlicher Intelligenz tritt eine strukturelle Abhängigkeit von menschlichen Daten. Dabei spielt UX Design eine zentrale Rolle, wie menschliche kognitive Ressourcen in Netzwerken erfasst werden. Um an Trainingsdaten zu gelangen, muss für KI-Projekte eine Benutzeroberfläche (Interface) oder digitale Plattform designt werden, die es ermöglicht, menschliche Aktivität in Daten umzuwandeln. Diese Plattformen ermöglichen erst die Datengenerierung durch menschliche Beteiligung. KI ist daher teilweise ein Problem des Interface-Designs: Die Gestaltung dieser digitalen Welten, in denen menschliche Aktivität generiert und erfasst wird, ist integraler Bestandteil des KI-Systems. UX Design kolonisiert so die Schnittstelle von Mensch und Maschine.
Neues Machtverhältnis durch Feedback-Schleifen
Diese neue Konstellation führt auch zu veränderten Machtverhältnissen der Tech-Giganten. Die Beziehung wird zunehmend von Kontrolle und Abhängigkeit geprägt. Über die oben genannten Mechanismen der Datengewinnung werden einerseits neue Formen der Ausbeutung und der digitalen Arbeit geschaffen. Gleichzeitig entsteht aber auch eine wechselseitige Abhängigkeit zwischen Mensch und KI-Systemen. Je mehr Daten die Systeme sammeln, desto präziser und einflussreicher werden ihre Vorhersagen und Empfehlungen. Und je genauer diese Vorhersagen, desto abhängiger werden die Menschen von diesen Systemen. Es entstehen also Feedback-Schleifen und selbst verstärkende Effekte. Die Feedbackschleifen in der „kybernetischen KI“ haben sogar eine doppelte Funktion: Sie dienen der kontinuierlichen Nachjustierung der KI-Systeme und etablieren gleichzeitig Abhängigkeiten und Kontrollmechanismen zwischen Mensch und Maschine.
KI-Systeme sind hybride Mensch-Maschine-Apparate
Der aktuelle KI-Hype auf einer stillschweigenden Abhängigkeit von menschlichen Daten und Interaktionen. KI-Systeme sind hybride Mensch-Maschine-Apparate, die menschliche Ressourcen brauchen. Diese strukturelle Kopplung hat ihre Ursache in Entwicklungen der Mensch-Computer-Interaktion und des Interface-Designs, die den Menschen immer stärker an digitale Systeme binden. KI ist so gesehen auch eine Frage des Social Engineerings – der Konstruktion digitaler Räume, welche die Generierung nutzbarer Daten durch menschliche Aktivität ermöglichen. Um KI in eine ethisch vertretbare und sozial gerechte Richtung zu lenken, muss dieser grundlegenden Abhängigkeit von menschlichen Daten Rechnung getragen werden. Es bedarf transparenter Prozesse und fairer Entlohnungsmodelle, welche die vielfältigen menschlichen Beiträge angemessen berücksichtigen.
KI basiert so auf einer grundlegenden Transformation des Mensch-Maschine-Verhältnisses. Anstatt Intelligenz zu simulieren, macht KI uns zu einem funktionalen Bestandteil des Systems. Damit einher gehen neue Machtverhältnisse und Abhängigkeiten zwischen Mensch und Maschine. Wir müssen diese menschliche Dimension der KI und ihre Konsequenzen für Autonomie und Selbstbestimmung dringend debattieren. Sonst drohen wir zu bloßen Rädchen in Apparaten zu werden, die wir nicht mehr verstehen oder kontrollieren können.
Fazit: keine KI ohne menschlichen Daten und Interaktionen
Ohne unsere Interaktionen, ohne unsere Kicks und Likes, ohne unsere Gesichter auf Instagram und unsere Suchanfragen bei Google gäbe es keine Künstliche Intelligenz. KI-Systeme sind keine autonomen Super-Gehirne. Sie sind hybride Netzwerke, die unsere kognitiven Fähigkeiten, unsere Arbeitskraft und Aufmerksamkeit aussaugen und in Datenpunkte verwandeln. Wir sind zu Zulieferern und Erfüllungsgehilfen der Tech-Giganten geworden, ohne es zu merken. Damit müssen wir aufhören! Wir dürfen nicht zulassen, dass unsere Daten und unsere Menschlichkeit zu Produkten gemacht werden, über die wir keine Kontrolle mehr haben. Wir müssen diese gruseligen Abhängigkeiten durchbrechen und die Kontrolle zurückgewinnen. Es ist Zeit, dass wir Künstliche Intelligenz neu denken – nicht als autonome Super-Gehirne, sondern als verteilte, von Menschen abhängige Systeme. Nur wenn wir ihre Schwachstellen und Abgründe verstehen, können wir sie in eine Richtung lenken, die unseren Werten und Idealen entspricht.