LLM

Wie LLMs im Unternehmen Wert schaffen

Ein LLM wird auf sehr großen Textmengen trainiert und kann daraus Sprache verstehen und neu erzeugen. Modelle wie Claude, GPT oder Gemini sind konkrete Implementierungen dieser Modellklasse und lassen sich als Chat, über eine API oder als autonomer Agent einsetzen.

Die Verbreitung ist rasant: Laut McKinsey nutzten 2025 bereits 88 % der Unternehmen KI und 79 % generative KI — 2023 waren es erst 33 %. Zugleich melden nur 7 %, KI voll skaliert zu haben (McKinsey State of AI, Stand 2025). Der Hebel liegt also nicht im Ausprobieren, sondern in echter, prozessnaher Integration.

Wichtig für den Praxiseinsatz sind zwei Architekturmuster: Retrieval-Augmented Generation (RAG) reichert ein Modell mit geprüften externen Daten an, und Tool Calling erlaubt dem LLM, gezielt externe Schnittstellen anzusprechen. Abzugrenzen ist das LLM als Modellklasse von der Anwendung: generative KI erzeugt Inhalte, prädiktive KI trifft Vorhersagen aus historischen Daten; moderne Systeme kombinieren beides.

Für Dienstleister und KMU liegt der Hebel in der Automatisierung von Routineaufgaben, im skalierbaren Kundenservice und in der Integration über Workflow-Plattformen oder APIs. Den größten Mehrwert erzielen Unternehmen, die LLMs zur Neugestaltung von Workflows nutzen — nicht nur zur reinen Kostensenkung.

Quellen

• McKinsey — The State of AI (Stand 2025): KI-/GenAI-Adoption