E-Book, Deutsch, 520 Seiten
Labuz Das Ende der Wirklichkeit
1. Auflage 2026
ISBN: 978-3-367-11842-7
Verlag: Rheinwerk
Format: EPUB
Kopierschutz: 0 - No protection
Deepfakes, synthetische Welten und der Beginn der Post-Realität
E-Book, Deutsch, 520 Seiten
ISBN: 978-3-367-11842-7
Verlag: Rheinwerk
Format: EPUB
Kopierschutz: 0 - No protection
Leben in einer Welt, in der nichts mehr echt ist.
Künstliche Intelligenz ist aus unserem Alltag nicht mehr wegzudenken.
Wie sie funktioniert und wie sie eingesetzt wird, hat den Diskurs der letzten Jahre bestimmt. Dieses Buch schließt daran an: Was geschieht, wenn künstliche Intelligenz nicht mehr nur Texte, Bilder und Stimmen erstellt, sondern auch Emotionen, Beziehungen und Erinnerungen simuliert? Wie verändern sich unsere Arbeit, unsere Werte und wir uns selbst, wenn wir nicht mehr sagen können, was noch echt ist?
Mateusz Labuz diskutiert, wie wir mit einer Technik umgehen können, die eine Gefahr für das Fundament unserer Wahrnehmung ist.
Aus dem Inhalt:
- Eine neue Wirklichkeit
- Synthetische Sprache
- Synthetischer Wettbewerb
- Synthetische Werte
- Synthetische Arbeit
- Synthetischer Betrug
- Synthetische Pornografie
- Synthetischer Müll
- Synthetische Figuren
- Ein Blick in die Zukunft
Dr. Mateusz Labuz ist Wissenschaftler am Institut für Friedensforschung und Sicherheitspolitik an der Universität Hamburg (IFSH), wo er das Projekt »Internationale Cybersicherheit« leitet.Er promovierte an der Technischen Universität Chemnitz, wo er sich mit Deepfakes und synthetischen Medien befasste. Zuvor war er Diplomat im Außenministerium Polens, absolvierte die Diplomatische Akademie und arbeitete in der polnischen Botschaft in Berlin.Zudem ist er Dozent für Cybersicherheit, künstliche Intelligenz sowie Desinformation und Fact-Checking an der Universität der Nationalen Bildungskommission in Krakau. Er ist Experte der Stiftung CEE Digital Democracy Watch, der Casimir-Pulaski-Stiftung und des Thinktanks Future Shift Labs. Seine Forschungsinteressen umfassen synthetische Medien, insbesondere Deepfakes, und deren Einfluss auf soziale Beziehungen sowie neue Trends im Bereich Desinformation und kognitive Operationen.Seit zwanzig Jahren betreibt er das Portal WarHist.pl, das sich der Geschichtedes Zweiten Weltkriegs widmet. In seiner Freizeit spielt er Beachvolleyball undnahm unter anderem an den polnischen und deutschen Meisterschaften teil.
Autoren/Hrsg.
Weitere Infos & Material
Geleitwort ... 11
1. Einleitung ... 13
Eine neue Wirklichkeit ... 13
Mehr, schneller, stärker ... 15
Zwei Informationsrevolutionen ... 18
Tiefgreifende Fälschung ... 21
Der Klang der Einsamkeit ... 24
Wovor fürchtete sich Joseph Weizenbaum? ... 27
Die synthetische Welt ... 30
TEIL I. Die Maschine ... 35
2. Synthetische Medien ... 37
Was bedeutet »synthetisch«? ... 37
Der pornografische Innovator ... 43
Zwischen fotorealistischer Darstellung und Spiel ... 46
Das vollkommenste Vorbild ... 50
Der permanente Wettstreit ... 57
All you need is ... ... 59
3. Synthetische Daten ... 65
Ein neuer Rohstoff ... 65
Die modernen Minen ... 67
Der versklavte Geist ... 70
Die Datenökonomie ... 74
Ein Lügner -- oder vielleicht ein Dieb? ... 76
In der Schleife ... 84
4. Synthetische Sprache ... 91
Der neue Turm zu Babel ... 91
Linguistische Evolution ... 99
Wir sind alle Bots ... 103
Unsere Freunde prägen uns einfach ... 109
Das Waschen schmutziger Sprache ... 117
TEIL II. Das Rennen ... 125
5. Synthetischer Wettbewerb ... 127
Algorithmischer Schönheitswettbewerb ... 127
Der nächste Sputnikschock ... 130
Wer die Sprache hat, hat die Macht ... 133
Wem gehört Europa? ... 137
Der Seeadler fliegt schon ... 144
6. Synthetische Werte ... 149
Die Geschichte der algorithmischen Diskriminierung ... 149
Ein Dieb, ein Betrüger und noch ein Schuft? ... 156
Die Moral der Maschine ... 160
Der Wert von Werten ... 165
Vergiftet ... 169
7. Synthetische Arbeit ... 177
Die modernen Ludditen ... 177
Der Papst der künstlichen Intelligenz ... 181
Die Maschine in der Welt des Menschen ... 185
Muss Kunst eine Seele haben? ... 193
Der Mensch in der Welt der Maschine ... 199
TEIL III. Angst ... 207
8. Synthetischer Betrug ... 209
Deepfakes -- eine digitale Pandemie der Fälschung ... 209
Das Ende fairer Wahlen! ... 217
Desinformation und Propaganda ... 223
»Oma, ich bin's, ich brauche Geld« ... 231
Die Dividende des Lügners -- oder wie man vor Gericht lügt ... 237
9. Synthetische Pornografie ... 243
Cole hatte recht -- wir sind alle am Arsch ... 243
Gewaltindustrie ... 247
»Mach dir keine Sorgen, das ist doch nicht echt« ... 252
Ich habe mich geirrt. Und zwar völlig. ... 258
Synthetische »Pädophilie« -- echte Tragödien ... 261
Auf Wunsch und auf Bestellung ... 268
10. Synthetischer Müll ... 273
Abwässer überfluten das Internet ... 273
Slopaganda und memetische Kriege -- eine neue Form der Manipulation ... 279
Enshittification ... 285
Wer zahlt dafür? ... 291
Blinder Glaube an die Macht der Maschine ... 299
TEIL IV. Der Mensch ... 305
11. Synthetische Figuren ... 307
Ein Date mit einer synthetischen Influencerin ... 307
In einer Welt der Illusionen ... 311
Avatare stellen sich zur Wahl ... 315
Das Schiff des Theseus beginnt abzulegen ... 323
Fallen der Personalisierung ... 326
12. Synthetische Beziehungen ... 331
Eine Epidemie der Einsamkeit ... 331
»Du hast mir die Liebe beigebracht« ... 336
Synthetische Freunde ... 339
Unanständige Teddybären und synthetische Schwestern ... 344
Fallstricke der synthetischen Persönlichkeit ... 348
ChatGPT ist ein Schleimer ... 351
13. Synthetische Therapie ... 355
Der Ruf nach synthetischer Hilfe ... 355
Das Bewusstsein der Maschine und eine »neue Aufklärung« ... 361
Von ELIZA zur synthetischen Psychotherapie ... 370
Von Menschen zu Göttern ... 380
Ein echter Hilferuf ... 382
14. Synthetischer Tod ... 387
Digitale Unsterblichkeit ... 387
Umgang mit Verlust ... 392
Sorgen wir für ein Leben nach dem Tod -- auch für das digitale ... 398
Ein Genie hat kein Recht zu sterben ... 402
Hitler und Mussolini tanzen ... 406
TEIL V. Veränderung ... 411
15. Synthetische Regelungen ... 413
Die Unregulierbaren regulieren ... 413
Schwacher Brüssel-Effekt? ... 417
Lesen Sie die Packungsbeilage ... ... 426
Die Gerichte werden es nicht leicht haben ... 429
Die Opfer verlangen Gerechtigkeit ... 432
Bildbasiert, aber unsichtbar ... 435
Schadenfreude ist ein schwacher Trost ... 443
16. Synthetische Realität ... 449
Grigorij Potjomkin wäre stolz ... 449
Simulationen der Realität ... 456
Die Erosion des Vertrauens und eine epistemische Apokalypse ... 460
Die Geister des Doktor Faust ... 464
Der Tod des Autors ... 467
17. Synthetische Zukunft ... 475
Es gibt nicht die eine Zukunft ... 475
Undemokratische Demokratie ... 477
Währungen der Zukunft ... 481
Maschinen mit Bewusstsein ... 484
Menschen ohne Bewusstsein ... 489
Versunken in der Immersion ... 491
Eine neue Dimension der Enshittification ... 493
Rückkehr in die Vergangenheit ... 496
Made by Humans ... 497
Kompetenzen für die Zukunft ... 500
Haben wir eine Chance? ... 502
18. Schluss ... 505
Danksagung ... 511
Über den Autor ... 515
Index ... 516
Das vollkommenste Vorbild
Ktesibios und Heron waren Symbole einer antiken Epoche des Fortschritts. Auch wenn im Mittelalter weiterhin technologische Entwicklungen stattfanden, verlangsamte sich das Tempo der Entdeckungen deutlich. Diese »dunklen Jahrhunderte« bildeten jedoch eine Brücke zur Epoche der Vernunft, in der die Konzepte der Automata neu auflebten und der Mensch erneut begann, mutiger nach wissenschaftlichen Inspirationen zu suchen.
Die Entwicklung mechanischer Konstruktionen, darunter auch solcher, die Klänge erzeugen konnten, war eng mit Fortschritten im Bau von Uhren verbunden, wie das Unternehmen M.S. Rau betont:
Mit der Entstehung immer komplexerer Uhrwerke im 17. und 18. Jahrhundert wandten sich Uhrmacher auch anderen Herausforderungen zu, etwa Automaten mit herausspringenden Vögeln oder Spieluhren. Diese mechanischen Wunder wurden bald zu begehrten Luxusobjekten für wohlhabende Käufer und ebneten den Weg für große technologische Errungenschaften.[ 24 ]
Interessanterweise übertrug zur selben Zeit René Descartes die Idee der Maschine auf die Philosophie. Er argumentierte, dass Tiere mit ihrem komplexen System aus Reizen, Reaktionen und Reflexen als eine Art komplizierter Automaten zu verstehen seien – wie Zahnräder und Getriebe, nur von den Kräften der Natur angetrieben.[ 25 ] Obwohl Descartes’ Ideen später zu Recht kritisiert wurden, können sie heute ein Ausgangspunkt sein, um darüber nachzudenken, wie lebende Organismen funktionieren, welche Prozesse in ihnen ablaufen und was sie von Maschinen unterscheidet.
Kehren wir zu den Klängen zurück. Im 18. Jahrhundert beeindruckten die Automaten des schweizerischen Uhrmachers Pierre Jaquet-Droz nicht nur durch ihre Bewegungen, sondern auch durch die präzise Nachahmung von Tönen. Die »mechanische Organistin« imitierte das Spiel auf einem Instrument, indem sie die Tasten drückte, die wiederum den Klang erzeugten. Der Automat ahmte sogar Atemzüge und die natürlichen Oberkörperbewegungen nach, die ein Musiker beim Spielen ausführen würde. Ein anderes Modell dieses schweizerischen Erfinders hatte die Gestalt eines Kindes. Der Mechanismus konnte mehrere vorprogrammierte Bilder zeichnen, darunter ein vereinfachtes Porträt von König Ludwig XV.[ 26 ] Es ist daher kaum verwunderlich, dass die Beobachter fasziniert waren. Selbst heute beeindrucken die Erfindungen von Jaquet-Droz noch immer und gelten für Historiker als weit mehr als bloße mechanische Spielzeuge.
Bald wurden weitere Durchbrüche möglich, die später durch die Verbreitung der Elektrizität beschleunigt wurden. Mitte des 19. Jahrhunderts entwickelte der französische Drucker Édouard-Léon Scott de Martinville den Phonautographen, ein Gerät, das Schallwellen sichtbar machen und auf einem speziellen Zylinder aufzeichnen konnte. Ein ähnliches System nutzte der amerikanische Erfinder Thomas Edison in seinem 1878 patentierten Phonographen, bei dem der Klang mithilfe eines Systems aus Metalltrichter, Stichel und Zinnfolie aufgezeichnet wurde.[ 27 ] Einige Jahre später erschienen Grammophonplatten, die eine effizientere Aufnahme von Tönen ermöglichten.
Diese Erfindungen trennten den Klang von seiner Quelle und ebneten den Weg für Magnetband, Radio, Synthesizer und schließlich digitale Sampler. In all diesen Prozessen spielten jedoch weiterhin Menschen die entscheidende Rolle. Sie waren es, die Stimmen aufnahmen, Aufnahmen veränderten und die technischen Möglichkeiten nutzten, um Klänge auf Kassetten, Schallplatten und schließlich in digitalen Dateien zu speichern.
***
Die Entwicklung von KI-Werkzeugen zur Erzeugung von Texten einerseits und Bildern und Klängen andererseits verlief in zwei parallelen Strängen – auf einem gemeinsamen wissenschaftlichen Fundament. Der gemeinsame Nenner beider Stränge sind tiefe neuronale Netzwerke, deren Grundidee darin besteht, die Architektur des menschlichen Gehirns nachzubilden. Auch heute ist das menschliche Gehirn ein wichtiger Bezugspunkt – ebenso wie die Denkprozesse, die für Menschen typisch sind. Entscheidend für den Erfolg dieses Ansatzes war die Entwicklung von Maschinen, die lernen können, also Informationen aufnehmen und verarbeiten, um bestimmte Aufgaben zu erfüllen. Erste Versuche des maschinellen Lernens lassen sich bis in die Mitte des 20. Jahrhunderts zurückverfolgen. Dieser Prozess sollte eine praktische Antwort auf eine uralte philosophische Frage liefern: Kann eine Maschine auf der Basis von Daten lernen – ähnlich wie ein Mensch? Und lässt sich menschliche Intelligenz nachahmen?
Der natürliche Schritt bestand darin, sich an der Struktur des Gehirns zu orientieren und Lösungen zu entwickeln, die von der Natur über Millionen von Jahren perfektioniert worden waren. 1957 präsentierte Frank Rosenblatt vom Cornell Aeronautical Laboratory das sogenannte Perzeptron – eines der ersten Systeme, das einer Maschine ermöglichte, aus Beispielen zu »lernen«. Fast siebzig Jahre Fortschritt im maschinellen Lernen liegen zwischen dem Perzeptron und heutigen Systemen, und doch bildet dieses Prinzip noch immer ein Fundament der Forschung zu künstlichen neuronalen Netzen.
Rosenblatt musste zunächst untersuchen, wie das menschliche Gehirn Informationen speichert und abruft, um diese Prozesse in die Welt der Maschinen zu übertragen.[ 28 ]
Die Verbindung zweier Dimensionen – Informatik und Psychologie – war ein entscheidender Faktor für den Erfolg seiner Arbeit. Auch spätere Durchbrüche wären ohne interdisziplinäre Forschung nicht möglich gewesen. Kognitionswissenschaft, Linguistik und Philosophie spielten dabei ebenso wichtige Rollen wie die Informatik selbst.
Das Perzeptron kann uns als Ausgangspunkt für eine kurze und vereinfachte Geschichte künstlicher neuronaler Netze dienen. Stellen wir uns ein einzelnes »Neuron« vor, das mehrere Eingangssignale empfängt. Diese Signale werden gewichtet, addiert und führen schließlich zu einer Entscheidung: »Ja« oder »Nein«. Es ist ein sehr elementarer Prozess, vergleichbar mit Reizen, die von außen auf uns einwirken.
Das Perzeptron arbeitete mit gewichteten Durchschnittswerten verschiedener Faktoren, wobei ein Mensch die Aufsicht führen musste, um die richtigen Gewichtungen zu finden. Die Gewichte wurden nämlich während des Trainings des Netzwerks angepasst. Dieses Verfahren bildete den Ursprung des sogenannten überwachten Lernens. Das Perzeptron erhielt ein Beispiel, das es selbstständig klassifizieren sollte, und zugleich die richtige Antwort von einem Menschen, der den Prozess überwachte. Wenn der Algorithmus einen Fehler machte, korrigierte er seine Gewichtung auf Grundlage der richtigen Antwort. Auf diese Weise konnte er lernen – wie ein Schüler, der von einem Lehrer mit den richtigen Antworten korrigiert wird.[ 29 ]
Obwohl Rosenblatt in seiner Forschung an eine Grenze stieß, wurden seine Arbeiten von anderen Wissenschaftlern weiterentwickelt. Dies wäre ohne ausreichende Finanzierung nicht möglich gewesen, aber künstliche neuronale Netze erregten die Aufmerksamkeit der akademischen Welt und amerikanischer Regierungsbehörden. Die Investitionen sollten spektakuläre Durchbrüche bringen. Die erhofften Durchbrüche blieben jedoch aus – oder kamen zumindest nicht in dem Ausmaß, das die hochgesteckten Erwartungen der Geldgeber in den 1960er-Jahren erfüllt hätte.
Auf den Erfolg musste man warten. Die nächsten zwei Jahrzehnte waren von Enttäuschungen und weniger Geld geprägt. Historiker sprechen vom »Winter der künstlichen Intelligenz«, auch wenn in vielen Ländern die Wissenschaftler unverdrossen weiterarbeiteten und stetige Fortschritte erzielten.
Die spektakulären Durchbrüche sollten erst in den 1980er-Jahren gelingen. Mit ihnen begann eine neue technologische »Frühlingsphase«. Künstliche neuronale Netze erlebten eine Art Renaissance, und neue Entdeckungen ermöglichten eine deutliche Erweiterung ihrer Fähigkeiten sowie konkrete Anwendungen. Mehrschichtige Netzwerke wurden zum Standard: Signale wanderten von der Eingangsschicht über verborgene Schichten bis zur Ausgangsschicht. Der verbesserte Mechanismus der sogenannten Backpropagation (der Fehlerrückführung) ermöglichte es den Netzen, sich selbst zu korrigieren.
Parallel dazu entwickelten sich sogenannte konvolutionale neuronale Netze, die vom Aufbau des menschlichen visuellen Systems inspiriert waren. Ende der 1980er-Jahre ermöglichten sie beispielsweise die automatische Erkennung von Postleitzahlen. Später wurden sie nicht nur zur Erkennung von Zahlen eingesetzt, sondern auch zur Klassifizierung von Bildern und zur Identifizierung von Objekten – bis sie schließlich zu hochpräzisen Werkzeugen der Gesichtserkennung und der Analyse menschlicher Emotionen wurden.[ 30 ]
Computer begannen zu »sehen«, Muster zu erkennen und zu interpretieren. Dadurch konnten sie Aufgaben übernehmen, die zuvor ausschließlich dem Menschen vorbehalten waren. Gegen Ende der 2000er-Jahre konnten immer leistungsfähigere...
