Generative KI mit Python

Materialien zum Buch . . . 13

1. Vorwort . . . 15
1. 1 . . . Zielsetzung des Buches . . . 16
1. 2 . . . Zielgruppe . . . 17
1. 3 . . . Was Sie schon wissen sollten . . . 18
1. 4 . . . Struktur des Buches . . . 18
1. 5 . . . Wie man dieses Buch effektiv nutzt . . . 22
1. 6 . . . Code zum Herunterladen und weitere Materialien . . . 23
1. 7 . . . Systemeinrichtung . . . 23
1. 8 . . . Danksagung . . . 30
1. 9 . . . Konventionen in diesem Buch . . . 30

2. Einführung in die generative KI . . . 33
2. 1 . . . Einführung in die künstliche Intelligenz . . . 36
2. 2 . . . Die Säulen des Fortschritts in der generativen KI . . . 40
2. 3 . . . Deep Learning . . . 43
2. 4 . . . Schwache und allgemeine KI . . . 46
2. 5 . . . Natural Language Processing (NLP) . . . 49
2. 6 . . . Large Language Models (LLMs) . . . 55
2. 7 . . . Use-Cases . . . 57
2. 8 . . . Die Grenzen von LLMs . . . 59
2. 9 . . . Large Multimodal Models (LMMs) . . . 60
2. 10 . . . Generative KI-Anwendungen . . . 62
2. 11 . . . Zusammenfassung . . . 64

3. Vortrainierte Modelle . . . 67
3. 1 . . . Was sind vortrainierte Modelle? . . . 69
3. 2 . . . Hugging Face . . . 69
3. 3 . . . Modellauswahl . . . 70
3. 4 . . . Coding: Textzusammenfassung . . . 71
3. 5 . . . Übung: Übersetzung . . . 73
3. 6 . . . Coding: Zero-Shot-Klassifikation . . . 74
3. 7 . . . Coding: Füllmaske . . . 78
3. 8 . . . Coding: Frage-Antwort Modelle . . . 79
3. 9 . . . Coding: Erkennung bekannter Entitäten (Named Entity Recognition) . . . 81
3. 10 . . . Coding: Text-zu-Bild . . . 83
3. 11 . . . Übung: Text-zu-Audio . . . 85
3. 12 . . . Abschlussprojekt: Kunden-Feedback analysieren . . . 86
3. 13 . . . Zusammenfassung . . . 89

4. Large Language Models . . . 91
4. 1 . . . Eine kurze Geschichte der Sprachmodelle . . . 92
4. 2 . . . LLMs mithilfe von Python nutzen . . . 93
4. 3 . . . Modellparameter . . . 107
4. 4 . . . Modellauswahl . . . 111
4. 5 . . . Messages . . . 115
4. 6 . . . Prompt Templates . . . 116
4. 7 . . . Chains . . . 120
4. 8 . . . LLM-Schutz und -Sicherheit . . . 135
4. 9 . . . Modellverbesserungen . . . 143
4. 10 . . . Neue Trends . . . 144
4. 11 . . . Zusammenfassung . . . 151

5. Prompt Engineering . . . 153
5. 1 . . . Prompting -- die Grundlagen . . . 154
5. 2 . . . Coding: Few-Shot Prompting . . . 163
5. 3 . . . Chain-of-Thought . . . 166
5. 4 . . . Zero-Shot Chain-of-Thought . . . 166
5. 5 . . . Coding: Self-Consistency Chain-of-Thought . . . 167
5. 6 . . . Coding: Prompt-Chaining . . . 171
5. 7 . . . Coding: Self-Feedback . . . 173
5. 8 . . . Zusammenfassung . . . 178

6. Vektordatenbanken . . . 181
6. 1 . . . Einleitung . . . 181
6. 2 . . . Der Data-Ingestion-Prozess . . . 184
6. 3 . . . Dokumente importieren . . . 185
6. 4 . . . Dokumente aufteilen . . . 193
6. 5 . . . Einbettungen erstellen . . . 209
6. 6 . . . Daten speichern . . . 225
6. 7 . . . Daten abrufen . . . 231
6. 8 . . . Abschlussprojekt . . . 238
6. 9 . . . Zusammenfassung . . . 251

7. Retrieval-Augmented Generation . . . 253
7. 1 . . . Einleitung . . . 254
7. 2 . . . Ein einfaches System zur Retrieval-Augmented Generation . . . 258
7. 3 . . . Fortgeschrittene Techniken . . . 265
7. 4 . . . Coding: Prompt-Caching . . . 287
7. 5 . . . Evaluierung . . . 293
7. 6 . . . Zusammenfassung . . . 299

8. Agentensysteme . . . 301
8. 1 . . . Einführung in KI-Agenten . . . 302
8. 2 . . . Verfügbare Frameworks . . . 304
8. 3 . . . Einfache Agentensysteme . . . 306
8. 4 . . . Agenten-Framework: LangGraph . . . 314
8. 5 . . . Agenten-Framework: AG2 . . . 330
8. 6 . . . Agenten-Framework: CrewAI . . . 346
8. 7 . . . Agenten-Framework: OpenAI Agents . . . 374
8. 8 . . . Agenten-Framework: Pydantic AI . . . 379
8. 9 . . . Überwachung von Agentensytemen . . . 382
8. 10 . . . Zusammenfassung . . . 388

9. Deployment . . . 391
9. 1 . . . Die Anwendungsarchitektur . . . 392
9. 2 . . . Die Deploymentstrategie . . . 394
9. 3 . . . Entwicklung einer eigenständigen Anwendung . . . 403
9. 4 . . . Deployment auf Heroku . . . 410
9. 5 . . . Deployment auf Streamlit. io . . . 419
9. 6 . . . Deployment auf Render . . . 421
9. 7 . . . Zusammenfassung . . . 424

10. Ausblick . . . 427
10. 1 . . . Fortschritte in der Modellarchitektur . . . 427
10. 2 . . . Limitierungen und Probleme von LLMs . . . 428
10. 3 . . . Regulatorische Entwicklungen . . . 434
10. 4 . . . Künstliche allgemeine Intelligenz und künstliche Super-Intelligenz . . . 434
10. 5 . . . KI-Fähigkeiten in der nahen Zukunft . . . 435
10. 6 . . . Hilfreiche Ressourcen . . . 438
10. 7 . . . Zusammenfassung . . . 439

Über den Autor . . . 441

Index . . . 443