Deep Learning kompakt für Dummies

Wollen Sie sich über Deep Learning informieren und vielleicht erste kleine Schritte machen, diese Technologie zu nutzen? Dann hilft Ihnen dieses Buch. Die Autoren erklären Ihnen, welchen Einfluss Deep Learning im Alltag hat und in welcher Beziehung es zu maschinellem Lernen steht. Sie sammeln erste eigene Erfahrungen mit vorgegebenen Python-Programmen und verstehen so die Funktionsweise von neuronalen Netzen und wie Bilder klassifiziert und Sprache sowie Text verarbeitet werden. So ist dieses Buch ein schneller erster und verständlicher Einstieg in Deep Learning.

Autorentext
John Paul Mueller ist freier Autor und technischer Redakteur. Er hat das Schreiben im Blut. Bis heute hat er 100 Bücher und mehr als 600 Zeitschriftenartikel geschrieben. Seine Themen reichen von Netzwerken bis Haussicherheit und von Datenbankmanagement bis Programmierung.
Luca Massaron ist Data Scientist und spezialisiert auf die Aufbereitung und Analyse von Big Data. Er beherrscht die einfachsten und effektivsten Data-Mining- und Maschinelles-Lernen-Techniken und macht so aus Big Data Smart Data. Als Marketing-Consultant und -Forscher hat er seit dem Jahr 2000 mit Data Science zu tun, mit verschiedenen Kunden und in verschiedenen Märkten. Er ist Top-Ten-Kaggle-Data-Scientist.

Inhalt

Über die Autoren 9

Widmung von John Mueller 9

Widmung von Luca Massaron 10

Danksagung von John Mueller 10

Danksagung von Luca Massaron 10

Einführung 21

Über dieses Buch 21

Törichte Annahmen über den Leser 23

Symbole, die in diesem Buch verwendet werden 23

Weitere Ressourcen 24

Wie es weitergeht 24

Teil I: Einführung in Deep Learning 27

Kapitel 1 Einführung in Deep Learning 29

Definition von Deep Learning 30

Künstliche Intelligenz als Oberbegriff 30

Die Rolle der KI 32

Maschinelles Lernen als Teil der KI 35

Deep Learning als Form des maschinellen Lernens 37

Deep Learning in der Praxis 39

Der Prozess des Lernens 39

Aufgabenbewältigung mit Deep Learning 39

Deep Learning als Bestandteil größerer Anwendungen 40

Programmierumgebung für Deep Learning 40

Deep Learning: Hype vs Realität 43

Ihre ersten Schritte 43

Ungeeignete Szenarien für Deep Learning 43

Kapitel 2 Maschinelles Lernen 45

Definition von maschinellem Lernen 45

Funktionsweise von maschinellem Lernen 46

Lernen durch unterschiedliche Strategien 47

Training, Validierung und Test 49

Suche nach Generalisierungen 51

Der Einfluss von Bias 51

Beachtung der Komplexität des Modells 52

Lernstrategien und Arten von Algorithmen 52

Fünf wesentliche Strategien 53

Verschiedene Arten von Algorithmen 54

Sinnvolle Einsatzbereiche für maschinelles Lernen 59

Anwendungsszenarien für maschinelles Lernen 59

Die Grenzen des maschinellen Lernens 62

Kapitel 3 Installation und Verwendung von Python 65

Verwendung von Python in diesem Buch 66

Installation von Anaconda 66

Anaconda von Continuum Analytics 67

Installation von Anaconda unter Linux 67

Installation von Anaconda unter Mac OS X 68

Installation von Anaconda unter Windows 70

Jupyter Notebook 72

Verwendung von Jupyter Notebook 73

Verwendete Datensätze in diesem Buch 79

Erstellen einer Anwendung 81

Die Arbeit mit Zellen 81

Hinzufügen von Dokumentationszellen 82

Andere Zellarten 83

Einrückung von Codezeilen 83

Hinzufügen von Kommentaren 85

Weitere Informationen zu Python 88

Arbeiten in der Cloud 89

Verwendung der Datensätze und Kernels von Kaggle 89

Verwendung von Google Colaboratory 89

Kapitel 4 Frameworks für Deep Learning 93

Das Framework-Prinzip 94

Unterschiede zwischen Frameworks 94

Hohe Beliebtheit von Frameworks 95

Frameworks speziell für Deep Learning 96

Auswahl eines Frameworks 97

Einfache Frameworks für Deep Learning 98

Kurzvorstellung von TensorFlow 101

Teil II: Grundlagen von Deep Learning 113

Kapitel 5 Rechnen mit Matrizen 115

Nötige mathematische Grundlagen 116

Die Arbeit mit Daten 116

Matrixdarstellung von Daten 117

Skalar-, Vektor- und Matrixoperationen 118

Erzeugung einer Matrix 119

Multiplikation von Matrizen 121

Fortgeschrittene Matrixoperationen 123

Datenanalysen mit Tensoren 125

Effektive Nutzung von Vektorisierung 127

Der Lernprozess als Optimierung 128

Kostenfunktionen 128

Minimierung des Fehlers 129

Die richtige Richtung 130

Kapitel 6 Grundlagen der linearen Regression 133

Kombination von Variablen 134

Die einfache lineare Regression 134

Die multiple lineare Regression 135

Verwendung des Gradientenabstiegs 137

Die lineare Regression in Aktion 138

Vermischung von Variablen unterschiedlichen Typs 140

Modellierung der Antworten 140

Modellierung der Merkmale 141

Umgang mit komplexen Zusammenhängen 142

Nutzung von Wahrscheinlichkeiten 144

Spezifikation einer binären Antwort 144

Umwandlung numerischer Schätzungen in Wahrscheinlichkeiten 145

Schätzung der richtigen Merkmale 148

Irreführende Ergebnisse durch inkompatible Merkmale 148

Vermeidung einer Überanpassung durch Merkmalsauswahl und Regularisierung 149

Lernen aus einzelnen Beispielen 150

Verwendung des Gradientenabstiegs 150

Stochastisches Gradientenabstiegsverfahren 151

Kapitel 7 Einführung in neuronale Netze 155

Das faszinierende Perzeptron 156

Höhen und Tiefen des Perzeptrons 156

Die Funktionsweise des Perzeptrons 157

Trennbare und nicht trennbare Daten 158

Komplexere Lernverfahren und neuronale Netze 160

Das Neuron als Grundbaustein 160

Vorwärtsausrichtung in Feedforward-Netzen 162

Schichten und noch mehr Schichten 164

Lernen mittels Rückwärtspropagierung 167

Vermeidung von Überanpassung 170

Kapitel 8 Entwurf eines einfachen neuronalen Netzes 173

Grundlegende Funktionsweise neuronaler Netze 173

Definition der grundlegenden Architektur 175

Die wichtigsten Funktionen eines neuronalen Netzes 176

Lösen eines einfachen Problems 180

Ein Blick ins Innere von neuronalen Netzen 183

Auswahl der richtigen Aktivierungsfunktion 183

Auswahl eines cleveren Optimierers 185

Auswahl einer sinnvollen Lernrate 186

Kapitel 9 Deep Learning im Detail 187

Daten, Daten, Daten 188

Strukturierte und unstrukturierte Daten 188

Mooresches Gesetz 189

Datenwachstum infolge des mooreschen Gesetzes 191

Vorteile durch all die neuen Daten 191

Innovationen dank Daten 192

Rechtzeitigkeit und Qualität von Daten 192

Mehr Tempo bei der Datenverarbeitung 193

Nutzung leistungsstarker Hardware 194

Weitere Investitionen in Deep Learning 195

Neuerungen von Deep Learning 195

Immer mehr Schichten 196

Bessere Aktivierungsfunktionen 198

Regularisierung durch Dropout 199

Die Suche nach noch smarteren Lösungen 201

Kontinuierliches Lernen (Online Learning) 201

Übertragung von Wissen (Transfer Learning) 201

Simple Komplettlösungen (End-to-End Learning) 202

Kapitel 10 Konvolutionsnetze 205

Bilderkennung mit Konvolutionsnetzen 206

Grundsätzlicher Aufbau von digitalen Bildern 206

Konvolutionen (Faltungen) 208

Funktionsprinzip von Konvolutionen 209

Vereinfachtes Pooling 212

Beschreibung der LeNet-Architektur 214

Erkennung von Kanten und Formen in Bildern 219

Visualisierung von Konvolutionen 220

Einige erfolgreiche Architekturen 222

Übertragung von Wissen (Transfer Learning) 223

Kapitel 11 Rekurrente neuronale Netze 227

Einführung in rekurrente neuronale Netze 227

Modellierung von Sequenzen durch Erinnerung 228

Erkennung und Übersetzung von Sprache 230

Korrekte Beschriftung von Bildern 233

LSTM-Zellen (Long Short-Term Memory) 234

Unterschiedliche 'Gedächtnisse' 235

Die LSTM-Architektur 235

Verschiedene LSTM-Varianten 238

Der Aufmerksamkeitsmechanismus 239

Teil III: Anwendung von Deep Learning 241

Kapitel 12 Bildklassifikation 243

Herausforderungen bei der Bildklassifikation 244

ImageNet und Alternativen 244

Erstellen vo…