Wu | Distributed AI Systems | E-Book | www.sack.de
E-Book

E-Book, Englisch, 558 Seiten

Reihe: Packt Publishing

Wu Distributed AI Systems

A practical guide to building scalable training, inference, and serving systems for production AI
1. Auflage 2026
ISBN: 978-1-80730-170-5
Verlag: Packt Publishing
Format: EPUB
Kopierschutz: 0 - No protection

A practical guide to building scalable training, inference, and serving systems for production AI

E-Book, Englisch, 558 Seiten

Reihe: Packt Publishing

ISBN: 978-1-80730-170-5
Verlag: Packt Publishing
Format: EPUB
Kopierschutz: 0 - No protection



As AI models grow to billions and trillions of parameters, distributed systems are essential for training and serving them. Many resources cover fragments of this domain, but none provide a full path from distributed training to inference and production deployment. This book fills that gap with practical, production-focused examples.
It starts with GPU and memory estimation, data preparation, and an overview of GPU architecture, interconnects, and core parallelism strategies. You'll learn training techniques including data parallelism for single and multi-node setups, parameter sharding for memory-efficient scaling, and methods to reduce memory usage in large models.
The next section covers distributed inference and deployment. You'll build high-performance systems using optimized attention, caching, operator fusion, and router-based designs. You'll deploy on schedulers and container platforms with GPU-aware orchestration and assemble production stacks emphasizing reliability, scalability, and observability.
The final section covers benchmarking, performance tuning, and trends like MoE models, edge-cloud coordination, and advanced parallelism. Each chapter includes tested code and debugging guidance.
By the end, you'll be able to build distributed AI systems that scale from a single GPU to large clusters.

Wu Distributed AI Systems jetzt bestellen!

Autoren/Hrsg.


Weitere Infos & Material


Table of Contents




Ihre Fragen, Wünsche oder Anmerkungen
Vorname*
Nachname*
Ihre E-Mail-Adresse*
Kundennr.
Ihre Nachricht*
Lediglich mit * gekennzeichnete Felder sind Pflichtfelder.
Wenn Sie die im Kontaktformular eingegebenen Daten durch Klick auf den nachfolgenden Button übersenden, erklären Sie sich damit einverstanden, dass wir Ihr Angaben für die Beantwortung Ihrer Anfrage verwenden. Selbstverständlich werden Ihre Daten vertraulich behandelt und nicht an Dritte weitergegeben. Sie können der Verwendung Ihrer Daten jederzeit widersprechen. Das Datenhandling bei Sack Fachmedien erklären wir Ihnen in unserer Datenschutzerklärung.