Gaulke KI-Algorithmen mit Python

Die Klassiker von k-Nearest Neighbours bis zum Reinforcement Learning
1. Auflage 2026
ISBN: 978-3-367-11483-2
Verlag: Rheinwerk
Format: EPUB
Kopierschutz: 0 - No protection

E-Book, Deutsch, 506 Seiten

Die codegestützte Einführung ins Machine Learning

In Zeiten von Claude, Gemini, ChatGPT und Co. ist längst bekannt: KI ist nicht gleich KI. In diesem Buch lernen Sie die zentralen lernenden Algorithmen kennen, die Sie für Ausbildung und Beruf benötigen. Von K-Nearest Neighbours bis Reinforcement Learning zeigt Ihnen Jens Gaulke, wie Sie jeden dieser Algorithmen in Python von Grund auf implementieren . Mit vielen Übungen und Best Practices bleibt es praxisnah und codeorientiert: Denn wer KI verstehen will, muss sie selbst konstruieren.

• Grundlegende KI-Algorithmen verstehen und in Python implementieren
• Anwendungsfelder, Stolperfallen und Best Practices für jedes Verfahren
• Inklusive Übungen zu den Grenzen der Algorithmen

Aus dem Inhalt:

• Das richtige Software-Setup
• Mathematische Grundlagen
• K-Nearest Neighbours
• Naive Bayes
• Lineare und logistische Regression
• K-Means Clustering
• Entscheidungsbäume
• Support-Vector-Maschinen
• Neuronale Netze
• Verstärkendes Lernen
• KI und Ethik

Autoren/Hrsg.

Gaulke, Jens

Inhaltsverzeichnis

  Materialien zum Buch ... 21

  Danksagung ... 23

  1.  Einleitung ... 25

       1.1 ... Voraussetzungen und Haltung ... 26

       1.2 ... Für wen ist dieses Buch geeignet? ... 27

       1.3 ... Warum Python? ... 28

       1.4 ... Wie wir in diesem Buch lernen ... 28

       1.5 ... Mathematik ohne Angst ... 30

       1.6 ... Machine Learning im Kontext von Data Science ... 31

       1.7 ... Wie Sie mit diesem Buch arbeiten ... 32

       1.8 ... Die Landschaft des Machine Learnings ... 33

       1.9 ... Verstehen heißt Verantwortung übernehmen ... 36

  2.  Das Starter-Kit für KI-Algorithmen ... 37

       2.1 ... Anaconda-Distribution ... 37

       2.2 ... Arbeiten mit Jupyter Notebook ... 40

       2.3 ... Module und Bibliotheken ... 41

       2.4 ... Virtuelle Umgebungen ... 43

       2.5 ... Exkurs: Bibliotheken reproduzierbar verwalten ... 44

       2.6 ... Visual Studio Code ... 45

       2.7 ... Testlauf ... 48

       2.8 ... Von der Werkstatt zur Idee ... 51

  3.  Mathematik für KI-Algorithmen ... 53

       3.1 ... Lineare Algebra und KI ... 55

       3.2 ... Statistik und Datenverständnis ... 66

       3.3 ... Wahrscheinlichkeit und Bayes-Theorem ... 81

       3.4 ... Optimierung und Ableitungen ... 92

       3.5 ... Generalisierung und das Bias-Varianz-Dilemma ... 102

       3.6 ... Weiterführende Literatur ... 107

  4.  Data Science und KI-Algorithmen ... 109

       4.1 ... Was ist Data Science? ... 110

       4.2 ... Die Data-Science-Pipeline ... 110

       4.3 ... Understand the Business ... 111

       4.4 ... Data Acquisition ... 112

       4.5 ... Einschub: Datenqualität ... 113

       4.6 ... Data Cleaning ... 113

       4.7 ... Exploratory Data Analysis ... 121

       4.8 ... Feature Engineering ... 128

       4.9 ... Machine Learning ... 130

       4.10 ... Data Visualization ... 133

       4.11 ... Weiterführende Literatur ... 134

  5.  Evaluationsmetriken ... 137

       5.1 ... Metriken: Das Maß des Lernens ... 137

       5.2 ... Von der Theorie zur Praxis ... 140

       5.3 ... Unser Datensatz ... 141

       5.4 ... Regression ... 143

       5.5 ... Klassifikation ... 150

       5.6 ... Clustering ... 162

       5.7 ... Problemtyp und geeignete Evaluationsmetriken ... 172

       5.8 ... Ausblick ... 173

       5.9 ... Weiterführende Literatur ... 173

  6.  k-Nearest Neighbours ... 175

       6.1 ... Was macht der Algorithmus eigentlich? ... 176

       6.2 ... Wofür kann man die Methode verwenden? ... 177

       6.3 ... Wie funktioniert die Methode? ... 177

       6.4 ... Algorithmusbeschreibung ... 178

       6.5 ... Beispiel: Katze oder Kaninchen ... 179

       6.6 ... Mach's kaputt ... 184

       6.7 ... Beispiel: Wisconsin Breast Cancer Dataset ... 186

       6.8 ... Recommender-System ... 203

       6.9 ... Eine Simulation in pygame ... 207

       6.10 ... Grenzen von kNN ... 208

       6.11 ... Weiterführende Literatur ... 209

  7.  Naive-Bayes-Klassifikator ... 211

       7.1 ... Was macht der Algorithmus eigentlich? ... 212

       7.2 ... Wofür kann man die Methode verwenden? ... 212

       7.3 ... Was ist Spam? ... 213

       7.4 ... Wie funktioniert die Methode? ... 213

       7.5 ... Kurzbeschreibung des Naive-Bayes-Algorithmus ... 218

       7.6 ... Beispiel: Spam oder Ham ... 219

       7.7 ... Beispiel: Produkt-Sentiment-Bewertung ... 232

       7.8 ... Eine Simulation in pygame ... 238

       7.9 ... Mach's kaputt ... 239

       7.10 ... Ethische Betrachtung von Naive Bayes ... 241

       7.11 ... Grenzen von Naive Bayes ... 242

       7.12 ... Weiterführende Literatur ... 243

  8.  Lineare Regression ... 245

       8.1 ... Was macht der Algorithmus eigentlich? ... 246

       8.2 ... Wofür kann man die Methode verwenden? ... 247

       8.3 ... Wie funktioniert die Methode? ... 248

       8.4 ... Algorithmusbeschreibung ... 249

       8.5 ... Beispiel: Ringgröße -- statische Variante ... 250

       8.6 ... Die ML-Variante ... 254

       8.7 ... Mach's kaputt ... 262

       8.8 ... Die vektorisierte Variante und scikit-learn ... 264

       8.9 ... Metriken ... 268

       8.10 ... Grenzen der Methode ... 269

       8.11 ... Weiterführende Literatur ... 269

  9.  Logistische Regression ... 271

       9.1 ... Was macht der Algorithmus eigentlich? ... 272

       9.2 ... Wofür kann man die Methode verwenden? ... 273

       9.3 ... Wie funktioniert die Methode? ... 273

       9.4 ... Algorithmusbeschreibung ... 279

       9.5 ... Beispiel: Kreditvergabe ... 283

       9.6 ... Mach's kaputt ... 292

       9.7 ... Beispiel: Heiratsantrag ... 295

       9.8 ... Heiratsantrag mit sklearn ... 300

       9.9 ... Eine Simulation in pygame ... 302

       9.10 ... Ethische Betrachtung der logistischen Regression ... 303

       9.11 ... Grenzen des Modells ... 304

       9.12 ... Weiterführende Literatur ... 305

10.  Decision Trees ... 307

       10.1 ... Hinweis zur Struktur dieses Kapitels ... 307

       10.2 ... Was ist ein (Entscheidungs-)Baum? ... 308

       10.3 ... Was macht der Algorithmus eigentlich? ... 314

       10.4 ... Wofür kann man die Methode verwenden? ... 329

       10.5 ... Algorithmusbeschreibung ... 331

       10.6 ... Mach's kaputt ... 334

       10.7 ... Beispiele ... 336

       10.8 ... Grenzen des Modells ... 336

       10.9 ... Weiterführende Literatur ... 337

11.  k-Means Clustering ... 339

       11.1 ... Was macht der Algorithmus eigentlich? ... 339

       11.2 ... Wofür kann man die Methode verwenden? ... 341

       11.3 ... Wie funktioniert die Methode? ... 342

       11.4 ... Algorithmusbeschreibung ... 343

       11.5 ... Beispiel: Hochzeitsparty-Planung ... 346

       11.6 ... Mach's kaputt ... 352

       11.7 ... Beispiel: Glasfaser im Neubaugebiet ... 357

       11.8 ... Ethische Betrachtung ... 360

       11.9 ... Metriken ... 360

       11.10 ... Simulationen ... 361

       11.11 ... Weiterführende Literatur ... 362

12.  Support Vector Machines ... 363

       12.1 ... Was ist eine Support Vector Machine? ... 364

       12.2 ... Wofür kann man die Methode verwenden? ... 368

       12.3 ... Wie funktioniert die Methode? ... 369

       12.4 ... Algorithmusbeschreibung ... 384

       12.5 ... Beispiel ... 387

       12.6 ... Mach's kaputt ... 394

       12.7 ... Metriken ... 395

       12.8 ... Ethische Betrachtung ... 396

       12.9 ... Grenzen des Modells ... 397

       12.10 ... Weiterführende Literatur ... 398

13.  Neuronale Netze ... 401

       13.1 ... Was ist ein neuronales Netz? ... 402

       13.2 ... Vom Modell zur Implementierung ... 409

       13.3 ... Beispiel: Two Moons ... 425

       13.4 ... Deep Learning ... 427

       13.5 ... Beispiel: Ziffernerkennung ... 438

       13.6 ... Mach's kaputt ... 439

       13.7 ... Ethische Betrachtung ... 441

       13.8 ... Grenzen des Modells ... 442

       13.9 ... Weiterführende Literatur ... 443

14.  Reinforcement Learning ... 445

       14.1 ... Was ist Reinforcement Learning? ... 446

       14.2 ... Die formale Struktur des Entscheidungsprozesses ... 447

       14.3 ... Die Markov-Eigenschaft ... 449

       14.4 ... Das Bellman-Prinzip ... 455

       14.5 ... Exploration und Exploitation ... 457

       14.6 ... Beispiel: Swampy Fields ... 458

       14.7 ... Mach's kaputt ... 466

       14.8 ... Beispiel: Tic-Tac-Toe ... 468

       14.9 ... Wofür kann man die Methode verwenden? ... 476

       14.10 ... Ethische Betrachtung ... 477

       14.11 ... Von der Optimierung zur Verantwortung ... 478

       14.12 ... Weiterführende Literatur ... 479

15.  KI und Ethik ... 481

       15.1 ... Was bedeutet Ethik im Kontext von KI? ... 482

       15.2 ... KI als Assistent -- nicht als Orakel ... 483

       15.3 ... Wenn KI heute anders antwortet als gestern ... 483

       15.4 ... Fallbeispiele aus der Praxis ... 486

       15.5 ... Resümee: Human in the Loop ... 494

       15.6 ... Literaturverzeichnis und Quellenangaben ... 495

16.  Ausblick ... 499

  Index ... 501

Leseproben

3    Mathematik für KI-Algorithmen

Dieses Kapitel liefert die mathematischen Bausteine, die wir in den späteren Algorithmuskapiteln immer wieder benötigen: Vektoren und Distanzen, Verteilungen und Standardisierung, Wahrscheinlichkeiten (Bayes), Ableitungen und Optimierung sowie Generalisierung (Bias-Varianz-Dilemma).

Vielleicht würden Sie an dieser Stelle lieber direkt mit Algorithmen arbeiten, Daten laden, Modelle trainieren und Ergebnisse sehen. Das kann ich voll und ganz verstehen. Bevor wir allerdings mit der Algorithmik beginnen können, kommt etwas, was viele gern überspringen würden: Mathematik. Wir begegnen ihr hier als Grundlage – sozusagen als Betriebssystem – der KI. Jede Gleichung beschreibt, warum ein Modell funktioniert, woher Vorhersagen kommen und wie sie verbessert werden können. Wir dosieren die Mathematik bewusst. Wir führen keine langen Beweise, bringen keine überflüssigen Formeln – nur das, was nötig ist, um Algorithmen zu verstehen. Schritt für Schritt, mit Beispielen, die zeigen, dass hinter jeder Formel ein nachvollziehbares Prinzip steckt. Wer Mathematik nicht als Hindernis, sondern als Werkzeug begreift, entwickelt schnell Neugier statt Skepsis. Denn jede Formel erzählt eine Geschichte. Eine Geschichte darüber, wie Maschinen lernen, Muster zu erkennen, Entscheidungen zu treffen und scheinbar intelligent zu handeln.

Wegweiser durch das Kapitel

1. Lineare Algebra und KI

2. Statistik und Datenverständnis

3. Wahrscheinlichkeit und Bayes-Theorem

4. Optimierung und Ableitungen

5. Generalisierung und das Bias-Varianz-Dilemma

Wir beginnen mit der linearen Algebra. Hier nehmen Daten die Form von Vektoren und Matrizen an. So können wir Abstände, Richtungen und Ähnlichkeiten zwischen den Daten beschreiben. Anschließend befassen wir uns mit der Statistik. Sie hilft uns, Daten nicht nur zu sammeln, sondern auch zu verstehen. Mit der Wahrscheinlichkeitstheorie können wir Unsicherheiten in unseren Modellen quantifizieren. In der Optimierung lernen Sie, aus Fehlern zu lernen und systematisch besser zu werden. Am Ende steht das Ziel, ein ausgewogenes Gleichgewicht zwischen Bias und Varianz zu finden. Perfektion ist nicht das Ziel, sondern eine Balance, die alle Aspekte berücksichtigt.

Mathematische Symbole und griechische Buchstaben

Im Verlauf dieses Buches begegnen uns immer wieder griechische Buchstaben und mathematische Symbole. Tabelle 3.1 gibt einen Überblick über die wichtigsten und dient als Nachschlagewerk für alle Kapitel.

Symbol	Name	Bedeutung im Buch

a

Alpha

Lernrate oder Lagrange-Multiplikator

ß, ß0

Beta

Regressionskoeffizienten (statistische Konvention für w und b)

?

Gamma

Discount-Faktor (Reinforcement Learning)

d

Delta

Fehlerterm in Backpropagation

e

Epsilon

Explorationswahrscheinlichkeit (RL), kleine Toleranz

?

Eta

Lernrate (alternative Schreibweise zu a)

?

Theta

Parametervektor (allgemein)

?

Lambda

Regularisierungsparameter, Eigenwert

µ

Mu

Mittelwert, Erwartungswert

?

Xi

Schlupfvariable (SVM Soft Margin)

Pi

Policy (RL), Wahrscheinlichkeitsverteilung; auch Kreiszahl 3,14…

s

Sigma (klein)

Standardabweichung; Sigmoidfunktion s(x) = 1/(1 + e–x)

Sigma (groß)

Summenzeichen ? xi; auch Kovarianzmatrix

f, F

Phi

Feature-Map/Kernel-Transformation F(x)

kalligraphisches X

Eingaberaum (Menge der Datenpunkte)

Nabla

Gradient-Operator f

partielles Ableitungszeichen

partielle Ableitung f/x ...

Über Autor(innen)

Gaulke, Jens
Jens Gaulke ist Diplominformatiker, der nach 14 Jahren Lehrtätigkeit nun seit 12 Jahren im Bereich Informationssicherheit arbeitet. Er unterrichtete am bib International College in Paderborn Programmierung, Game Development, Skriptsprachen, Netzwerke, Datenbanken, Betriebssysteme, IT-Sicherheit und Software Engineering. Diese breite Lehrerfahrung prägt seinen Schreibstil: technisch präzise, aber immer mit dem Leser im Blick. Heute arbeitet Jens Gaulke im Bereich Informationssicherheit bei Arvato Systems. Seine Schwerpunkte liegen auf ISMS, BCM, ISO-Normen, Cloud Computing und Künstlicher Intelligenz. Als Schulungsverantwortlicher für Security Awareness weiß er, wie man komplexe Themen verständlich vermittelt. In seiner Freizeit fotografiert er, wird von zwei Katzen regiert und schreibt. Seine Themen sind so vielfältig wie sein Werdegang: Spieleprogrammierung, maschinelles Lernen, Kryptographie und allgemeine Informatik. Hauptsache Python, Hauptsache praxisnah.