LLMs selbst betreiben

Die eigene KI mit freier Software lokal ausführen


Dieser praxisorientierter Leitfaden zeigt, wie Sie frei verfügbare Sprachmodelle (LLMs) auf eigener Hardware einrichten und nachtrainieren, um damit unabhängig von proprietären Anbietern zu sein
Das Buch beschreibt Schritt für Schritt anhand konkreter Beispiele, wie Sie geeignete LLMs finden, betreiben und anpassen
Die Verwendung von Open-Source-LLMs ermöglicht maßgeschneiderte KI-Lösungen für die private Nutzung und für Unternehmen, die ihre internen Daten schützen wollen


Wer die Vorzüge von ChatGPT und generativer KI nutzen will, seine wertvollen Daten aber nicht aus dem Haus geben möchte, kann ein fertiges Sprachmodell (Large Language Model) lokal selbst betreiben. Wie dies mit Open-Source-Modellen gelingt, beschreibt Bestseller-Autor Tim Schürmann in diesem Buch. Er zeigt praxisnah, wie man ein geeignetes Modell auswählt, in Betrieb nimmt und an die eigenen Bedürfnisse anpasst. Behandelt werden auch die Hardwarevoraussetzungen und das Einrichten der Softwareumgebung. Auf diese Weise erfahren Sie, wie Sie Sprachmodelle autark einsetzen können und damit die Datenhoheit behalten. Mit Schnellstart-Kapitel für den erfolgreichen Einstieg.