Buch-Tipp: AI Engineering

In Kürze

• Titel: AI Engineering – Building Applications with Foundation Models
• Autorin: Chip Huyen
• Verlag: O’Reilly
• Erscheinungsdatum: Dezember 2024
• Sprache: Englisch
• Seiten: 509
• ISBN: 978-1-098-16630-4

Einleitung

Künstliche Intelligenz (KI) ist gerade das Thema Nummer eins, wenn es um aktuelle technische Entwicklungen geht. Viele haben in den letzten Monaten verschiedenste KI-Dienste wie ChatGPT oder Claude ausprobiert. Aber wie funktioniert KI eigentlich? Und wie kann ich diese Technologie für meinen Einsatzzweck nutzen?

In ihrem Buch “AI Engineering – Building Applications with Foundation Models” beantwortet Chip Huyen diese Fragen.

Die Grundlagen

Huyen beginnt mit einer Einführung in das Thema und erklärt viele der Begriffe. Außerdem gibt sie einen Überblick über Anwendungsgebiete von KI.

Danach geht es auch gleich tiefer in die Funktionsweise von Foundation Models. Foundation Models bilden die Grundlage für viele KI-Anwendungen. Sie können, im Gegensatz zu früheren Modellen, für viele Anwendungsfälle verwendet werden.

Um die Architektur von Foundation Models zu verstehen, ist durchaus etwas Vorwissen im Bereich Machine Learning von Vorteil. Huyen erklärt die Bausteine von modernen Modellen und die Parameter, durch welche sich die Modelle unterscheiden.

Model Evaluierung

Im zweiten Teil des Buchs geht es darum, wie Entwickler verschiedene Modelle evaluieren können. Die Autorin stellt Metriken vor und erklärt, wie auch KI für die Evaluierung verwendet werden kann.

Nach einem theoretischen Kapitel gibt das Buch auch eine praktische Einführung, wie eine automatisierte Evaluierung aussehen kann. Ziel ist es, nach objektiven Kriterien ein Model auswählen zu können und auch neue Models mit dem aktuellen Model vergleichen zu können.

KI Implementierung

Die nachfolgenden Kapitel drehen sich rund um das Thema Konfiguration und Implementierung eigener Models.

Als am wenigsten aufwändige Art, den Output eines Models zu beeinflussen, wird im Kapitel “Prompt Engineering” beschrieben. Hier bleibt das Model selbst unverändert, jedoch können durch gezielte Verwendung von Prompts Verhaltensweisen verändert bzw. verbessert werden.

Huyen erklärt auch, wie durch Retrieval Augmented Generation (RAG) dem Model zusätzliche Informationen zur Verfügung gestellt werden können, ohne dass das Model diese bereits kennen muss. Als Agents können die Modelle auch dazu gebracht werden, gewisse Funktionen für den User selbständig auszuführen.

Mehr Aufwand, um ein Model zu verbessern, ist das sogenannte Finetuning. Dabei wird ein bereits vorhandenes Model verwendet und dann mit Trainingsdaten auf einen speziellen Anwendungsfall hin trainiert. Das ist allerdings auch mit höheren Kosten verbunden (Training kostet Geld) und benötigt Wissen über die Erstellung von Trainingsdaten. Letzterem widmet die Autorin ein eigenes Kapitel.

Schlussendlich finden sich im Buch auch noch Tipps, worauf beim Hosting von eigenen Modellen geachtet werden sollte.

Das Große Ganze

Im letzten Kapitel erklärt Huyen anhand eines Beispiels, wie die Architektur eines KI-Systems aussehen könnte. Sie verwendet die in den vorangehenden Kapiteln erklärten Komponenten, um Schritt für Schritt eine Architektur zu erstellen.

Das Buch schließt mit Hinweisen, wie User Feedback in KI-Systemen eingeholt werden und dieses für die Verbesserung der Anwendung verwendet werden kann.

Zusammenfassung

Wer nicht nur KI-APIs verwenden will, sondern auch verstehen will, was im Hintergrund passiert, dem kann ich dieses Buch wärmstens empfehlen.

Huyen gelingt es anhand von vielen Beispielen und Grafiken auch komplexe Themen verständlich darzustellen. Um alle Informationen bis ins letzte Detail zu verstehen, ist allerdings technisches Vorwissen von Vorteil.

Auch wenn ich viele Themen (Finetuning, Self-Hosting von Modellen) nicht zeitnah einsetzen werde, hat mir dieses Buch enorm geholfen die Welt der KIs besser zu verstehen.