Crawford Atlas der KI

Die materielle Wahrheit hinter den neuen Datenimperien
1. Auflage 2024
ISBN: 978-3-406-82334-3
Verlag: Verlag C. H. Beck GmbH & Co. KG
Format: EPUB
Kopierschutz: 6 - ePub Watermark

E-Book, Deutsch, 339 Seiten

Wir tendieren dazu, künstliche Intelligenz als eine wundersame und körperlose Form maschineller Klugheit zu betrachten. Von der preisgekrönten Wissenschaftlerin Kate Crawford lernen wir hingegen, dass KI in Wahrheit weder künstlich noch intelligent ist, sondern in ihrer materiellen Wirklichkeit auf Ressourcenausbeutung und Machtkonzentration hinausläuft. Crawford nimmt uns mit auf eine faszinierende Reise zu Lithiumminen und Klickfabriken, zu automatisierten Arbeitsplätzen und riesigen Datenarchiven, zu KITrainingscamps und zum algorithmischen Kriegsführungsteam des Pentagon. Auf diese Weise zeichnet sie einen Atlas der künstlichen Intelligenz, der die verschiedenen Bereiche ihrer konkreten Realität kartiert, um unser kritisches Auge zu schulen. Gestützt auf ein Jahrzehnt originärer Forschung zeigt Crawford, dass KI in erster Linie eine Technologie der Extraktion ist - der Abschöpfung von Mineralien, billiger Arbeitskraft und einer unermesslichen Anzahl von Daten. Das planetare Netzwerk der KI schädigt unsere Umwelt massiv, vertieft soziale Ungleichheiten und bedroht demokratische Prinzipien. Crawfords Buch liefert uns eine dringliche Mahnung, was auf dem Spiel steht, wenn große Unternehmen und staatliche Institutionen KI nutzen, um die Welt umzugestalten.

Kate Crawford ist eine international führende Wissenschaftlerin für Künstliche Intelligenz und ihre Auswirkungen. Sie ist Professorin an der University of Southern California in Los Angeles, Forschungsleiterin bei Microsoft Research in New York und war die erste Gastprofessorin für KI und Justiz an der École Normale Supérieure in Paris. Ihr Buch "Atlas of AI" wurde mehrfach ausgezeichnet, in mehr als zehn Sprachen übersetzt und vom New Scientist und der Financial Times zu einem der Bücher des Jahres gekürt. Das Time Magazine hat sie in die TIME100-Liste als eine der einflussreichsten Personen im Bereich KI aufgenommen.

Autoren/Hrsg.

Crawford, Kate

Weitere Mitwirkende

Lachmann, Frank

Leseproben

EINLEITUNG

Das klügste Pferd der Welt

Europa war am Ende des 19. Jahrhunderts gefesselt von einem Pferd namens Hans. Der «Kluge Hans» war ein wahres Wunder: Er konnte mathematische Aufgaben lösen, die Zeit angeben, Tage auf dem Kalender markieren, musikalische Töne unterscheiden sowie Wörter und Sätze buchstabieren. Die Leute rissen sich darum, den deutschen Hengst dabei zu beobachten, wie er durch das Klopfen mit seinen Hufen Antworten auf schwierige Probleme diktierte und dabei zuverlässig richtiglag. «Was ist zwei plus drei?» Hans stampfte eifrig fünfmal auf dem Boden auf. «Welcher Wochentag ist heute?» Das Pferd stampfte mit den Hufen auf, um jeden einzelnen Buchstaben auf einer zu diesem Zweck präparierten Tafel anzuzeigen, und buchstabierte auf diese Weise die korrekte Antwort. Und Hans konnte sogar noch komplexere Aufgaben lösen, etwa diese: «Ich denke an eine bestimmte Zahl. Von dieser ziehe ich neun ab und lande im Ergebnis bei der Drei. An welche Zahl denke ich?» Bis zum Jahr 1904 hatte der Kluge Hans internationale Berühmtheit erlangt; die New York Times feierte ihn mit den Worten «Berlins wundersames Pferd – es kann fast alles außer sprechen».[1]

Hans’ Trainer, ein pensionierter Mathematiklehrer namens Wilhelm von Osten, war lange schon von tierischer Intelligenz fasziniert. Er hatte sich bereits erfolglos an der Unterrichtung von Katzen- und Bärenjungen in großer Zahl versucht, doch erst die Arbeit mit seinem eigenen Pferd war erfolgreich. Am Anfang brachte er Hans das Zählen bei, indem er dessen Bein hochhielt, ihm eine Zahl präsentierte und dann die Hufe entsprechend häufig auf dem Boden aufsetzte. Bald schon gab Hans die Ergebnisse einfacher Additionen durch seine Huftritte zutreffend wieder. Anschließend brachte van Osten eine Tafel mit dem Alphabet ins Spiel, sodass Hans nun Buchstaben benennen konnte, indem er so und so viele Male aufstampfte. Nach zwei Jahren Ausbildung war von Osten überrascht von dem tiefen Verständnis komplexer gedanklicher Gebilde, das das Tier an den Tag legte. Daher ging er nun mit Hans auf Tournee, um zu beweisen, dass auch Tiere denken konnten. Damit wurde das Pferd zu einer viralen Sensation der Belle Époque.

Viele Leute waren allerdings skeptisch. Das preußische Kultusministerium richtete eine Untersuchungskommission ein, die von Ostens wissenschaftliche Behauptungen überprüfen sollte. Die «Hans-Kommission» wurde vom Psychologen und Philosophen Carl Stumpf sowie von seinem Assistenten Oskar Pfungst geleitet. Sie bestand unter anderem aus einem Zirkusdirektor, einem pensionierten Lehrer, einem Zoologen, einem Tierarzt und einem Offizier der Kavallerie. Doch auch nach ausführlichen Befragungen des Tiers sowohl in An- als auch in Abwesenheit seines Trainers konnte das Pferd die Liste seiner richtigen Antworten ununterbrochen fortführen und die Kommission keine Belege für etwaige Betrügereien finden. Wie Pfungst später schrieb, stellte Hans seine Künste vor «Tausende(n) von Zuschauern während vieler Monate» unter Beweis – «Pferdekenner, Trick-Kenner ersten Ranges, unter denen nicht ein einziger irgendwelche regelmäßige Zeichen bemerkt», die zwischen Befrager und Pferd ausgetauscht worden wären.[2]

Die Kommission befand, dass die Methoden, nach denen Hans unterwiesen worden war, eher dem «Unterricht von Kindern in der Grundschule» ähnelten als der Abrichtung eines Tiers und daher «der wissenschaftlichen Erforschung lohnten».[3] Doch Stumpf und Pfungst hegten immer noch Zweifel. Einer ihrer Befunde gab ihnen besonders zu denken: Wenn der Befrager selbst die Lösung nicht kannte oder weit entfernt von ihm stand, antwortete Hans nur selten richtig. Dies führte Pfungst und Stumpf zu der Überlegung, ob möglicherweise irgendein unbewusstes Signal die Antworten an Hans übermittelt haben könnte.

Wilhelm von Osten und der Kluge Hans

Und wie Pfungst in seinem Buch von 1911 beschreibt, hatte sie ihr Gefühl nicht getäuscht: Die Pose des Befragers, sein Atem und seine Mimik veränderten sich auf kaum merkliche Weise, wenn sich das Tier der richtigen Antwort näherte, und brachten es dazu, an der entsprechenden Stelle innezuhalten.[4] Später erprobte Pfungst diese Hypothese auch an menschlichen Testkandidaten und fand sein Ergebnis bestätigt. Am meisten faszinierte ihn an dieser Entdeckung, dass den Fragestellern im Allgemeinen gar nicht bewusst war, dass sie dem Pferd Hinweise gaben. Die Lösung des Rätsels vom Klugen Hans war also, so Pfungst, die unbewusste Anleitung durch den Befrager des Pferds:[5] Das Tier wurde daraufhin konditioniert, die Resultate zu erzielen, die sein Besitzer sehen wollte; das Publikum hingegen fand, dass dies nicht das war, was es sich unter einer außergewöhnlichen Intelligenz vorgestellt hatte.

Die Geschichte vom Klugen Hans ist in vielerlei Hinsicht verlockend: in Bezug auf das Verhältnis von Wünschen, Einbildung und Handeln; mit Blick auf die Ökonomie des Spektakels und auf die Frage, wie wir das Nichtmenschliche anthropomorphisieren; in Bezug darauf, wie ein kognitiver Bias entsteht; und hinsichtlich einer Politik der Intelligenz. Hans regte die Prägung eines Begriffs an, der in der Psychologie für eine bestimmte Art von begrifflicher Falle steht: der Kluge-Hans-Effekt, auch Observer-expectancy-Effekt genannt. Mit ihm wird der Einfluss der vom Versuchsleiter seinen Versuchspersonen unabsichtlich vermittelten Hinweise beschrieben. Das Verhältnis zwischen Hans und von Osten macht die komplexen Mechanismen deutlich, durch die kognitive Verzerrungen ihren Weg in Systeme hineinfinden, und weist darauf hin, wie Menschen sich in die Phänomene verstricken, die sie untersuchen. Heute wird diese Geschichte im Kontext des maschinellen Lernens als Mahnung erzählt, dass man nicht immer wissen könne, was ein Modell eigentlich genau aus den Daten lerne, mit denen man es füttert.[6] Selbst ein System, das im Training offenbar spektakulär abschneidet, kann furchtbar schlechte Voraussagen treffen, wenn ihm neuartige Daten aus der Welt vorgelegt werden.

Dies führt uns zu einer zentralen Frage dieses Buchs: Wie wird Intelligenz «gemacht», und welche Fallen können sich dadurch auftun? Die Geschichte vom Klugen Hans handelt auf den ersten Blick davon, wie ein Mensch Intelligenz erschaffen hat, und zwar dadurch, dass er ein Pferd dazu abrichtete, auf Signale zu reagieren und dabei ein menschenähnliches Erkenntnisvermögen zu imitieren. Auf einer anderen Ebene jedoch erkennen wir, dass dieses Verfahren der Intelligenzherstellung noch viel breiter angelegt war. Denn dieses Unterfangen war darauf angewiesen, durch eine Vielzahl von Institutionen validiert und bestätigt zu werden, darunter Universitäten, Schulen, die Wissenschaft, die öffentliche Meinung und das Militär. Und außerdem gab es ja auch noch einen Markt für von Osten und sein besonderes Pferd – emotionale und finanzielle Investitionen, die die Besichtigungstouren, Zeitungsberichte und Vorträge antrieben. Bürokratische Autoritäten wurden versammelt, um die Fähigkeiten des Tiers zu messen und zu testen. In die Konstruktion von Hans’ Intelligenz spielte also ein ganzes Konglomerat von finanziellen, kulturellen und wissenschaftlichen Interessen hinein und entschied mit darüber, ob diese tatsächlich außergewöhnlich war.

Wir sehen hier zwei unterschiedliche Mythologien am Werk. Der erste Mythos besagt, dass nichtmenschliche Systeme (seien es Computer oder Pferde) dem menschlichen Geist irgendwie analog wären. Diese Auffassung unterstellt, dass – genügend Training oder Ressourcen vorausgesetzt – eine menschenähnliche Intelligenz aus dem Nichts geschaffen werden könnte, ohne dabei die grundlegende Tatsache zu berücksichtigen, dass Menschen körperliche und soziale Wesen sind, die in größere ökologische Zusammenhänge eingebettet sind. Der zweite Mythos besagt, dass Intelligenz etwas ist, das freischwebend existiert, so als wäre sie ein natürlicher, von gesellschaftlichen, kulturellen,...

Über Autor(innen)

Kate Crawford ist eine international führende Wissenschaftlerin für Künstliche Intelligenz und ihre Auswirkungen. Sie ist Professorin an der University of Southern California in Los Angeles, Forschungsleiterin bei Microsoft Research in New York und war die erste Gastprofessorin für KI und Justiz an der École Normale Supérieure in Paris. Ihr Buch "Atlas of AI" wurde mehrfach ausgezeichnet, in mehr als zehn Sprachen übersetzt und vom New Scientist und der Financial Times zu einem der Bücher des Jahres gekürt. Das Time Magazine hat sie in die TIME100-Liste als eine der einflussreichsten Personen im Bereich KI aufgenommen.