Muldoon / Graham / Cant Feeding the Machine. Hinter den Kulissen der KI-Imperien

Nominiert für den DEUTSCHEN WIRTSCHAFTSBUCHPREIS¿2025 | Künstliche Intelligenz | DeepMind
1. Auflage 2025
ISBN: 978-3-7499-0851-6
Verlag: HarperCollins eBook
Format: EPUB
Kopierschutz: 6 - ePub Watermark

E-Book, Deutsch, 320 Seiten

Wer füttert die Maschinen?
Wie KI entsteht. - Spannend wie ein Thriller

»Das wichtigste Buch, das im derzeitigen Fieber der KI-Publikationen geschrieben wurde.«

KI ist keine bunte Wolke, die frei durch den Äther schwebt. Wer nur staunt, wie schnell die Programme lernen, lässt sich täuschen: Denn die KI erschafft sich nicht selbst - ihre Entwicklung beruht zum großen Teil auf prekärer Arbeit.

Es sind Menschen wie Anita in Uganda, die für einen Autokonzern in einem stundenlangen Klickreigen menschliche Anzeichen für Müdigkeit kennzeichnet, während ihr selbst jede Pause verwehrt bleibt. Wie Einar, der das infrastrukturelle Machtzentrum einer gigantischen Serverfarm wartet. Oder Alex, der am KI-gesteuerten Förderband eines britischen Amazon-Logistikzentrums Produkte sortiert - im Sekundentakt.

Ihre Geschichten offenbaren die Ausbeutungsstrukturen, die bis tief in unseren Alltag reichen. Für ihr Buch analysieren die renommierten Forscher des Oxford Internet Institute die bitteren neuen Arbeitswelten hinter unserer beliebten Denkmaschine und beleuchten die kolonialen Machtdynamiken eines digitalen Ökosystems, das uns zunehmend entgleitet. Denn wo der Mensch einspringt, um der KI zu helfen, bleiben Menschenrechte oft auf der Strecke.

»Wer, wie ich es tat, tatsächlich glaubt, dass es das Internet für lau gibt, der möge dieses außergewöhnliche und wichtige Buch lesen.« Brian Eno

Das ist die Ironie: Dass du diese Menschen dazu bringen musst, wie eine Maschine zu arbeiten, um die Maschine dazu zu bringen, wie ein Mensch zu sein.

JAMES MULDOON ist Dozent für Politik an der University of Essex, wissenschaftlicher Mitarbeiter an der Universität Oxford und Leiter der Digitalforschung am Autonomy Institute, wo er untersucht, wie moderne Technologien dem Gemeinwohl dienen können.

Autoren/Hrsg.

Muldoon, James

Graham, Mark

Cant, Callum

Weitere Mitwirkende

Pauli, Stephan

Leseproben

1
Die Annotatorin

Es ist noch dunkel, wenn Anita frühmorgens ihren zweistündigen Fußmarsch in die Stadt antritt. Nach einem leichten Frühstück aus Tee und Porridge verlässt sie gegen 5 Uhr ihr Zuhause. Gemeinsam mit ihrer Mutter, ihrer Schwester und drei Kindern lebt sie in einem kleinen Dorf am Rande von Gulu, der größten Stadt im Norden Ugandas. Busse gibt es keine auf den zerfurchten Straßen. Pendler, die nicht zu Fuß gehen wollen, nehmen sich stattdessen ein Boda-boda, ein Motorradtaxi. Eine Fahrt ins Büro kostet rund zwei Dollar. Das ist mehr, als sich Anita zweimal am Tag leisten kann. Deshalb spart sie sich die Fahrt für den Rückweg auf, wenn sie von ihrer Arbeit als Datenannotatorin erschöpft ist.

Ihr Zuhause besteht aus zwei Otlums, traditionellen strohgedeckten Lehmhäusern, die schon vor Jahren gebaut wurden. Doch derzeit schläft die Familie in einem moderneren rechteckigen Gebäude mit Wellblechdach. Es wurde vor zwei Jahren gebaut, als Anita genug gespart hatte, um die benötigten Ziegel in zwei Raten abzubezahlen. In der Mitte ihres Gartens steht ein riesiger Mangobaum, der im Juni nach den Regenfällen reichlich Früchte trägt. Um den Baum herum liegen Gemüsebeete, weiter hinten stehen Palmen und andere üppige Grünpflanzen. Während sie arbeitet, spielen ihre Kinder auf dem Grundstück und helfen ihrer Tante und der Hausangestellten der Familie. Hühner laufen umher, scharren in der fruchtbaren roten Erde und schleichen sich gelegentlich in die Gärten der Nachbarn.

Das heutige Gulu entstand während des ugandischen Bürgerkriegs. 1 Im Jahr 1996, zehn Jahre nach Beginn des zwanzig Jahre anhaltenden Konflikts, führte die Regierung eine Zwangsumsiedlung der Bevölkerung aus dem westlichen, an Gulu angrenzenden Acholiland durch. Die Stadt wurde zum Zentrum humanitärer Bemühungen in der Region und nahm 130 000 Binnenvertriebene auf, die vor Menschenrechtsverletzungen sowohl durch die von Joseph Kony als auch durch die ugandische Armee geflohen waren. Beinah über Nacht vervierfachte sich die Stadtbevölkerung, und aus einer Region mit vereinzelten Bauernhöfen und Handelsplätzen wurde ein dicht besiedeltes Gebiet, in dem die Menschen zusammengedrängt in Slums lebten. Viele der Neuankömmlinge hatten Grund und Boden verloren und konnten nicht in ihre Dörfer zurückkehren. Deshalb bauten sie provisorische Otlums und suchten nach Verdienstmöglichkeiten.

Die neue Bevölkerung war überwiegend jung und arm. Da sie kein eigenes Land besaßen, mussten sie anderweitig Geld verdienen. Doch die einzigen Jobs, die es vor Ort gab, waren bei den humanitären Organisationen in der Stadt angesiedelt, Jobs als Wächter, Übersetzer, Hilfs- oder Reinigungskräfte – und die Zahl an arbeitssuchenden Migranten überstieg bei Weitem die Zahl der freien Stellen. Das Ergebnis war eine sehr hohe Arbeitslosigkeit und eine Ausweitung des informellen Arbeitsmarkts. Migranten, die auf dem offiziellen Arbeitsmarkt leer ausgingen, versuchten daher, so gut wie möglich mit schlecht bezahlter Zeitarbeit unter ebenso schlechten Arbeitsbedingungen über die Runden zu kommen.

Es waren harte Zeiten. Bis heute sitzen die Narben des Krieges tief, und viele Menschen sind durch den Konflikt traumatisiert. Etwa jeder dritte Jugendliche hat keine Ausbildung oder Arbeit, und kaum ein Haus entspricht den von der Regierung vorgegebenen Baunormen.

Anitas Arbeitsweg führt an einem der örtlichen Märkte vorbei, wo Frauen gerade ihre Gemüsestände aufbauen, Auberginen, Zwiebeln, Okra, Maniok und anderes Wurzelgemüse auf Decken auslegen und ihre Sitzmatten ausrollen. Nahezu an jeder Straßenecke warten Boda-boda-Fahrer auf Kundschaft. Während hinter ihr die Sonne aufgeht, passiert Anita die Gulu University, wo sie ihren Bachelor in Betriebswirtschaft gemacht hat. Schon als Studentin hatte sie damals aus einem Schiffscontainer heraus für ihren jetzigen Arbeitgeber gearbeitet, der damals die ersten Datenannotationsbüros an der Universität eröffnet hatte. Damals, vor fünf Jahren, war die Firma noch winzig. Inzwischen sind die provisorischen Räumlichkeiten auf dem Campus zu klein geworden, und das Unternehmen ist in die Innenstadt gezogen.

Heute arbeitet Anita in einem öden grauen, dreistöckigen Betongebäude. Von der vierten Etage wurden nur die Wände und Fensteröffnungen fertiggestellt, da dem Eigentümer während der Bauzeit das Geld ausgegangen war. Das Gebäude ist von einem Zaun umgeben, über den zwei verschiedene Arten von Stacheldraht gespannt sind. Am Tor steht ein Wachmann, der ein Gewehr an einem improvisierten Seilriemen über der Schulter trägt. Das Firmenlogo blättert von den Schildern ab, die zu beiden Seiten des Eingangs hängen. Dies ist das örtliche Lieferzentrum einer großen Datenannotationsfirma mit Hauptsitz in San Francisco und Niederlassungen in ganz Ostafrika.

Als sie sich dem Gebäude nähert, steigt Anitas Stresspegel. Sie zückt ihre Identitätskarte und reiht sich in den Strom der Arbeitskräfte ein, die aus der ganzen Stadt angereist kommen und nun durch den Eingang drängen. Sie scannt ihre Karte und findet ihre Freunde und Freundinnen in der Kantine. Mit Arbeitsbeginn um 8 Uhr morgens fängt die Tortur an. Es gibt zwei offizielle Pausen, 20 Minuten am Morgen und 40 Minuten am Mittag, aber die meiste Zeit davon verbringt man auf den Toiletten und in der Schlange zur Essensausgabe. Die Tätigkeiten der Beschäftigten werden streng überwacht, für ein Schwätzchen bleibt keine Zeit. Der Tee am Morgen ist ihre einzige Gelegenheit, ins Gespräch zu kommen, der Rest des Tages vergeht unter ständigem Klick, Klick, Klick auf der Fabriketage.

Die Ausstattung des Atriums wirkt wie eine Persiflage auf ein typisches Silicon-Valley-Dekor. Überall stehen Sofas in hellen Primärfarben; auf Bildschirmen läuft stumm MTV. Gegenüber des Eingangs hängt ein gerahmtes Poster des Firmengründers, an den Wänden sind die Leitbilder und Werte des Unternehmens zu lesen: Die Firma »bringt mit Scharfsinn und künstlicher Intelligenz die Menscheit voran«, sie glaubt an »Mut«, »Ehrlichkeit«, David Allens »Getting Things Done«-Methode und »Menschlichkeit«.

Anita arbeitet an einem Projekt für ein Unternehmen, das selbstfahrende Autos entwickelt. Ihre Aufgabe ist es, sich stundenlang Filmmaterial von Fahrern am Steuer durchzusehen. Dabei achtet sie auf visuelle Anzeichen von Konzentrationsschwächen oder »schlafähnlichen« Phasen. Auf diese Weise hilft sie dem Hersteller, ein »verhaltensbasiertes Fahrerüberwachungssystem« zu entwickeln, das auf den Gesichtsausdrücken und Augenbewegungen des Fahrers basiert. Stunde um Stunde vor einem Computer zu sitzen und sich auf diese Bilder zu konzentrieren, ist äußerst anstrengend. Manchmal spürt Anita die Langeweile wie eine physische Kraft, die sie in ihren Stuhl hinunterdrückt und ihr die Augen schließt. Doch sie muss wach bleiben, genau wie die Fahrer auf dem Bildschirm. In gewisser Weise ist sie stolz auf ihre Arbeit. Sie trägt dazu bei, eine Technologie voranzubringen, von der sie glaubt, dass sie den Menschen helfen wird. Manchmal gelingt es ihr, dieses Gefühl zu nutzen, um weiterzumachen.

Bevor sie eine Stelle als Datenannotatorin fand, verkaufte Anita auf der Straße Saft und auf dem Markt Gemüse. Informelle Tätigkeiten dieser Art unterliegen jedoch saisonalen Schwankungen und bringen weniger ein als ihre jetzige Stelle. Sie hat das Glück, seit mehr als fünf Jahren für dasselbe Unternehmen zu arbeiten. Mit ihrem bescheidenen Lohn unterstützt sie ihre ganze Familie. Während viele ihrer Kolleginnen und Kollegen ihre Stellen verloren haben, als die Auftragslage im Unternehmen je nach Nachfrage schwankte, blieb sie als effiziente Arbeiterin Teil des Stammbelegschaft. Sie schickt ihre Kinder zur Schule, kann sich eine günstige Haushaltshilfe leisten und sorgt mit ihrem Verdienst für ihre Mutter. Es ist jedoch nicht viel – sie beklagt sich über den geringen Lohn und denkt über den Wert nach, den sie für das Unternehmen schafft.

Anita arbeitet in einem ständigen Reigen aus Klicken und Hinüberziehen. Sie muss dieses Tempo beibehalten, um ihr Tagesziel zu erreichen und sicherzustellen, dass ihr Name auf dem Bildschirm ihres Vorgesetzten grün aufleuchtet. Falls ihr Name in Rot erscheint, weil sie zu wenige Vorgänge schafft, muss sie unter Umständen unbezahlte Überstunden leisten, bis sie ihr Tagespensum erreicht hat. Die Zeit zieht sich, und ihr unterer Rücken beginnt zu schmerzen. Sie versucht, sich auf ihrem Stuhl zu strecken, doch schon bald verkrampfen auch ihre Hände und Handgelenke. Der Bildschirm verschwimmt, weil ihre Augen den Fokus verlieren. Sie hält eine Sekunde inne und fällt in einen schlafähnlichen Zustand, bevor sie sich wieder wach rüttelt. Am Ende des Tages ist ihre ganze Energie aufgebraucht. Sie kann sich nicht vorstellen, auch nur eine Minute länger zu arbeiten, wenn sie ihren müden Körper aus dem Büro schleppt und einen Boda-boda-Fahrer heranwinkt, der an der nächsten Ecke auf Kundschaft wartet. Sie kann es kaum erwarten, sich unter ihren Mangobaum zu setzen und die letzten Minuten Tageslicht zu genießen.

Anita steckt in einer Zwickmühle. Ihre Arbeit ist todlangweilig, und der andauernde Zwang, bestimmte Zielvorgaben zu erfüllen, stresst sie zunehmend. Aber wenn sie kündigen würde, gäbe es wohl keinen besseren Job für sie. Die anderen guten Stellen bei Banken, in der Regierung oder bei NGOs sind heiß begehrt. Sie hat Vorschläge zur Verbesserung der...