LLMOps erklärt: Definition, Abgrenzung zu MLOps und Best Practices

LLMOps steht für «Large Language Model Operations». Der Begriff umfasst die Praktiken, Prozesse und Werkzeuge, mit denen Unternehmen Anwendungen auf Basis grosser Sprachmodelle entwickeln, bereitstellen, überwachen und laufend verbessern. Gemeint ist kein einzelnes Produkt, sondern die Betriebsdisziplin hinter jedem produktiven KI-Assistenten, jeder Dokumentenanalyse und jedem Chatbot. Dieser Beitrag erklärt die Definition, den Lebenszyklus und den Unterschied zu MLOps. Dazu kommen die Best Practices für Qualität, Sicherheit, Kosten und Datenschutz.

Nectos

KI produktiv und souverän nutzen

Nectos bietet einen Schweizer KI-Arbeitsbereich mit lokal gehosteten Modellen und Datenhaltung in der Schweiz für sensible Anwendungen.

Nectos kennenlernen

Kurz gesagt

Definition: LLMOps umfasst das Management des gesamten Lebenszyklus produktiver LLM-Anwendungen. Dazu gehören Leistung, Kosten, Sicherheit, Compliance und kontinuierliche Verbesserung.
Abgrenzung: MLOps ist der breitere Rahmen für Machine-Learning-Modelle jeder Art. LLMOps ist ein spezialisierter Teilbereich mit Fokus auf Prompts, Kontext, Antwortqualität und neue Angriffsflächen wie Prompt Injection.
Kernpraktiken: Versionierung von Prompts und Konfigurationen, automatisierte Evaluationen nach jeder wesentlichen Änderung, Monitoring im Betrieb und dokumentierte Freigaben.
Governance: Das NIST-Profil für generative KI ordnet Risiken den Funktionen GOVERN, MAP, MEASURE und MANAGE zu.
Datenschutz: Wo Daten verarbeitet werden und wer Zugriff hat, ist eine zentrale LLMOps-Entscheidung und keine nachgelagerte Formalität.

Inhaltsverzeichnis

Was LLMOps bedeutet
Der LLMOps-Lebenszyklus in fünf Phasen
LLMOps vs. MLOps: die wesentlichen Unterschiede
Qualität, Sicherheit, Kosten und Leistung im Betrieb prüfen
Best Practices für LLMOps
Governance, Datenschutz und menschliche Kontrolle
Unsere Perspektive: LLMOps beginnt mit der Datenhoheit
Ein souveräner KI-Arbeitsbereich für den produktiven Einsatz
Häufige Fragen zu LLMOps
Quellen

Was LLMOps bedeutet

Die Abkürzung setzt sich aus zwei Teilen zusammen:

LLM: «Large Language Model», auf Deutsch grosses Sprachmodell. Solche Modelle erkennen und erzeugen Text.
Ops: «Operations», also der Betrieb. Der Begriff knüpft an DevOps und MLOps an, die Software beziehungsweise Machine-Learning-Modelle zuverlässig in die Produktion bringen.

Fachmedien beschreiben LLMOps als Methodik zum Verwalten, Bereitstellen, Überwachen und Warten von LLMs in Produktionsumgebungen. Das Stanford Institute for Human-Centered AI fasst den Begriff weiter: LLMOps ist das Management des gesamten Lebenszyklus produktiver LLM-Anwendungen, mit ausdrücklichem Blick auf Leistung, Kosten, Sicherheit, Compliance und laufende Verbesserung.

Entscheidend ist der Unterschied zwischen Prototyp und Betrieb. Ein Chat mit einem Sprachmodell ist in wenigen Minuten eingerichtet. Anders eine Anwendung, die täglich Hunderte Mitarbeitende für Verträge, Patientendossiers oder Buchhaltungsunterlagen nutzen: Sie verlangt reproduzierbare Ergebnisse, nachvollziehbare Änderungen, kontrollierte Zugriffe und klare Verantwortlichkeiten. Genau diese Lücke schliesst LLMOps.

Typische Bestandteile einer LLM-Anwendung

LLMOps betrifft nicht nur das Modell selbst, sondern alle Komponenten, die eine Antwort beeinflussen:

Modell: das eingesetzte Sprachmodell inklusive Version und Parametern.
Prompts: System-Prompts, Vorlagen und Anweisungen, die das Verhalten steuern.
Kontext: Dokumente, Wissensdatenbanken und Suchergebnisse, die per Retrieval-Augmented Generation (RAG) eingebunden werden.
Pipelines und Ketten: mehrstufige Abläufe, etwa Abruf, Zusammenfassung und Formatierung.
Schutzmechanismen: Filter, Anonymisierung und Prüfungen von Ein- und Ausgaben.
Infrastruktur: Hosting, Rechenzentrumsstandort, Verschlüsselung und Zugriffssteuerung.

Jede dieser Komponenten kann sich ändern, und jede Änderung kann die Antwortqualität verschieben. LLMOps macht diese Änderungen sichtbar und kontrollierbar.

Der LLMOps-Lebenszyklus in fünf Phasen

Die Literatur gliedert den Lebenszyklus unterschiedlich fein. In der Praxis hat sich folgende Abfolge bewährt:

Modellauswahl: Bewertung geeigneter Modelle nach Qualität, Latenz, Kosten, Lizenz und Hosting-Option. Für sensible Daten ist der Verarbeitungsort ein Ausschlusskriterium, kein Detail.
Anpassung: Prompt Engineering, Anbindung eigener Daten per RAG oder, seltener, Fine-Tuning. RAG ist häufig die erste Wahl, weil sich Wissen aktualisieren lässt, ohne das Modell neu zu trainieren.
Evaluation und Freigabe: systematische Tests mit repräsentativen Fragen und Randfällen, danach eine dokumentierte Freigabe von der Testumgebung in die Produktion.
Bereitstellung: Auslieferung an Nutzerinnen und Nutzer mit Zugriffskontrollen, Rollen und Protokollierung.
Monitoring und Verbesserung: Überwachung von Qualität, Sicherheit, Kosten und Latenz sowie Auswertung von Feedback und Vorfällen. Danach beginnt ein neuer Durchlauf ab Phase 2.

Diese Phasen bilden einen Kreislauf. Ein neues Modell, ein geänderter Prompt oder ein erweitertes Dokumentenarchiv löst jeweils erneut Evaluation und Freigabe aus.

LLMOps vs. MLOps: die wesentlichen Unterschiede

MLOps ist der breitere Rahmen für Machine-Learning-Modelle beliebiger Grösse oder Aufgabe. LLMOps konzentriert sich auf grosse Sprachmodelle. Viele Grundprinzipien bleiben gleich: Versionierung, Automatisierung, Monitoring, Reproduzierbarkeit. Die Schwerpunkte verschieben sich jedoch deutlich.

Kriterium	MLOps	LLMOps
Typisches Modell	Klassifikation, Regression, Prognose, oft selbst trainiert	Vortrainiertes Sprachmodell, meist angepasst statt neu trainiert
Wichtigster Hebel	Trainingsdaten und Features	Prompts, Kontext (RAG) und Modellauswahl
Qualitätsmessung	Eindeutige Metriken wie Genauigkeit oder Fehlerquote	Offene Textantworten, bewertet über Testsätze, Bewertungsraster und menschliche Prüfung
Versionierte Artefakte	Daten, Code, Modellgewichte	Zusätzlich Prompts, Vorlagen, Ketten, Wissensdatenbanken
Typische Risiken	Daten- und Modelldrift, Verzerrungen	Zusätzlich Halluzinationen, Prompt Injection, Datenabfluss über Ein- und Ausgaben
Kostentreiber	Training und Rechenzeit	Inferenz pro Anfrage, Kontextlänge, Anzahl Nutzer
Menschliche Kontrolle	Vor allem bei der Modellfreigabe	Laufend, besonders bei folgenreichen Entscheidungen

Warum die Unterscheidung in der Praxis zählt

Ein Team mit gut eingespielten MLOps-Prozessen ist für LLM-Anwendungen nicht automatisch gerüstet. Ein geänderter System-Prompt verändert das Verhalten einer Anwendung so stark wie ein neues Modell. Trotzdem wird er oft ohne Test und Protokoll eingespielt. Bei LLMs entsteht zudem eine Angriffsfläche, die klassische Modelle kaum kennen: Eingaben in natürlicher Sprache können das Modell zu unerwünschtem Verhalten verleiten. Der OWASP-Leitfaden zu GenAI-Sicherheitslösungen ordnet deshalb Schutzmassnahmen gegen Prompt Injection, Datenabfluss und unsichere Ausgabeverarbeitung den einzelnen Phasen des LLM-Lebenszyklus zu.

Qualität, Sicherheit, Kosten und Leistung im Betrieb prüfen

Der Betrieb einer LLM-Anwendung lässt sich entlang von vier Dimensionen steuern. Für jede braucht es definierte Messpunkte, Schwellenwerte und eine verantwortliche Person.

Qualität: Evaluationen statt Bauchgefühl

Die MIT Sloan Management Review empfiehlt, nach jeder wesentlichen Änderung automatisierte Evaluationen mit repräsentativen Nutzerfragen und Randfällen auszuführen. Ein guter Testsatz umfasst idealerweise einige hundert sorgfältig ausgewählte Beispiele. Für die Praxis bedeutet das:

Testsatz aufbauen: echte, anonymisierte Fragen aus dem Arbeitsalltag, ergänzt um schwierige Fälle wie mehrdeutige Anfragen, fehlende Informationen oder fremdsprachige Dokumente.
Erwartete Antworten definieren: Fachpersonen legen fest, was eine korrekte, vollständige und quellentreue Antwort ausmacht.
Bewertung kombinieren: automatische Prüfungen für Format und Quellenbezug, menschliche Stichproben für fachliche Korrektheit.
Regressionen erkennen: Ergebnisse jeder Version mit der vorherigen vergleichen, bevor eine Änderung live geht.

Sicherheit: Ein- und Ausgaben kontrollieren

Eingaben prüfen: Versuche erkennen, die Anweisungen des Systems zu überschreiben, insbesondere bei Inhalten aus Dokumenten oder Webseiten.
Ausgaben absichern: Antworten nicht ungeprüft an andere Systeme weitergeben, etwa als ausführbaren Code oder als Datenbankbefehl.
Sensible Daten schützen: Personendaten vor der Verarbeitung anonymisieren, wo der Anwendungsfall es erlaubt.
Regelmässig testen: Sicherheitsprüfungen nicht nur vor dem Start durchführen, sondern in festen Intervallen und nach grösseren Änderungen.

Kosten: Verbrauch sichtbar machen

Bei LLM-Anwendungen entstehen Kosten pro Anfrage. Lange Kontexte, umfangreiche Dokumente und mehrstufige Ketten erhöhen den Verbrauch. Bewährt sind ein Monitoring nach Team und Anwendungsfall, Obergrenzen pro Anwendung und die regelmässige Prüfung, ob ein kleineres Modell für eine Aufgabe ausreicht. Bei abonnementbasierten Arbeitsbereichen mit festen Preisen pro Platz geht es weniger um die Abrechnung pro Anfrage als um die Planung der Lizenzen.

Leistung: Latenz und Verfügbarkeit

Antwortzeiten beeinflussen die Akzeptanz unmittelbar. Zu überwachen sind Latenz pro Anfrage, Fehlerraten, Zeitüberschreitungen und die Verfügbarkeit angebundener Wissensquellen. Ein langsamer Abruf aus der Wissensdatenbank wirkt für Nutzer wie ein langsames Modell.

Best Practices für LLMOps

Die folgenden Praktiken bilden einen soliden Ausgangspunkt, unabhängig von Unternehmensgrösse und Branche:

Alles versionieren: Modellversion, Parameter, System-Prompts, Vorlagen und Wissensdatenbanken. Nur so lässt sich eine fehlerhafte Antwort auf ihre Ursache zurückführen.
Evaluation automatisieren: den Testsatz bei jeder Änderung durchlaufen lassen, Ergebnisse speichern, Abweichungen vor der Freigabe klären.
Freigaben dokumentieren: Der Übergang von Test zu Produktion erfolgt über eine nachvollziehbare, manuelle Freigabe durch eine verantwortliche Person.
RAG vor Fine-Tuning prüfen: eigenes Wissen zuerst über Wissensdatenbanken einbinden. Fine-Tuning lohnt sich nur dort, wo Stil oder Spezialaufgaben es erfordern.
Zugriffe steuern: Rollen und Rechte so vergeben, dass Nutzer nur auf die Wissensdatenbanken zugreifen, die ihrer Funktion entsprechen.
Verschlüsseln und sichern: Verschlüsselung bei Übertragung und Speicherung, Backups und Redundanz für Wissensdatenbanken und Konfigurationen.
Audit-Trails führen: festhalten, wer wann welche Konfiguration geändert, welche Dokumente hochgeladen und welche Anwendung genutzt hat.
Monitoring mit Schwellenwerten: Qualität, Kosten, Latenz und Sicherheitsereignisse laufend messen und Alarme definieren.
Feedback einholen: Nutzer bewerten Antworten direkt in der Anwendung. Negative Bewertungen fliessen in den Testsatz ein.
Inventar pflegen: alle produktiven KI-Anwendungen mit Zweck, Verantwortlichen, Datenkategorien und Verarbeitungsort erfassen.

Für Modelle, Schnittstellen und Vektorspeicher empfiehlt EY im Rahmen von ModelOps zudem standardisierte Validierungs- und Freigabeworkflows sowie Audit-Trails. Ergänzt wird dies durch zentrale Dashboards und die Überwachung von Drift und Guardrails.

Governance, Datenschutz und menschliche Kontrolle

LLMOps ist nicht nur eine technische Aufgabe. Das US-amerikanische National Institute of Standards and Technology (NIST) hat im Juli 2024 ein Profil für generative KI zu seinem AI Risk Management Framework veröffentlicht. Es soll Organisationen helfen, Risiken generativer KI über den Lebenszyklus hinweg zu steuern, gegliedert in die Funktionen GOVERN, MAP, MEASURE und MANAGE. Governance ist eine der primären Betrachtungen des Profils. Datenschutz und das Risiko menschlicher Überabhängigkeit von KI werden ausdrücklich behandelt.

Konkret empfiehlt das NIST-Profil AI 600-1:

Verantwortlichkeiten: Zuständigkeiten für periodische Reviews und das Monitoring von Vorfällen festlegen.
Nachbereitung: Vorfälle nachträglich auswerten und daraus Massnahmen ableiten.
Nachweise: Test- und Evaluationsergebnisse aufbewahren.
Inventar: alle generativen KI-Systeme in einem Inventar erfassen.

Zur menschlichen Kontrolle hält KPMG fest, dass bei wichtigen Entscheidungen verantwortliche Menschen in der Kontrollschleife bleiben sollen. Das gilt besonders, solange ein System noch nicht zuverlässig validiert ist. Für Treuhand, Recht, Gesundheitswesen, Finanzen und HR heisst das: Ein LLM bereitet vor, fasst zusammen und schlägt vor. Die fachliche Verantwortung für Vertragsklauseln, Diagnosen, Steuerberechnungen oder Personalentscheide bleibt bei der zuständigen Fachperson.

Der Verarbeitungsort als LLMOps-Entscheidung

In vielen LLMOps-Konzepten wird der Datenschutz als Kontrollschritt am Ende behandelt. Für Unternehmen mit sensiblen Daten gehört er an den Anfang, in die Phase der Modellauswahl. Massgeblich sind dabei folgende Fragen:

Standort: In welchem Land werden Prompts, Dokumente und Antworten verarbeitet und gespeichert?
Weitergabe: Fliessen Daten an Dritte oder an ausländische Modellanbieter?
Training: Werden Eingaben zur Weiterentwicklung von Modellen verwendet?
Vertrag: Gibt es einen Auftragsverarbeitungsvertrag (DPA)?
Nachvollziehbarkeit: Sind Zugriffe und Änderungen protokolliert und für Audits abrufbar?

Welche Anforderungen im Einzelfall gelten, hängt vom anwendbaren Recht und von der Art der Daten ab. Unternehmen mit Berufsgeheimnissen oder besonders schützenswerten Personendaten sollten den Einsatz mit ihrer Datenschutzberaterin oder ihrem Datenschutzberater abstimmen, bevor produktive Daten in ein LLM-System fliessen.

Unsere Perspektive: LLMOps beginnt mit der Datenhoheit

Aus unserer Arbeit mit Schweizer Fachleuten und KMU kennen wir ein wiederkehrendes Muster. Mitarbeitende nutzen KI-Chats privat und produktiv, während die Organisation noch keine Antwort auf die Frage hat, wohin die Daten fliessen. Evaluationen, Versionierung und Monitoring sind wichtig. Sie setzen jedoch eine Grundentscheidung voraus, die sich später nur mit grossem Aufwand korrigieren lässt: wo die Daten verarbeitet werden und wer darauf Zugriff hat.

Unsere Perspektive: LLMOps beginnt mit der Datenhoheit — overview diagram

Wir haben Nectos deshalb so gebaut, dass diese Entscheidung bereits getroffen ist. Sämtliche Daten werden ausschliesslich auf Schweizer Servern verarbeitet und gespeichert, konform mit nDSG und DSGVO. Die Modelle laufen lokal gehostet, es gibt keine versteckten Datenflüsse zu ausländischen KI-Anbietern, und Eingaben werden nie zum Training von Modellen verwendet. Wie die Verarbeitung im Detail abläuft, dokumentieren wir offen auf unserer Seite zu den Datenflüssen in Nectos.

Für die operativen Anforderungen aus dem LLMOps-Alltag stellen wir umfassende Audit-Trails, Admin- und Zugriffssteuerung sowie Prompt-Anonymisierung bereit. So können sich Teams auf das konzentrieren, was ihren Mehrwert ausmacht: gute Wissensdatenbanken, sorgfältig formulierte Assistenten und eine saubere fachliche Kontrolle der Ergebnisse.

— Adopt

Ein souveräner KI-Arbeitsbereich für den produktiven Einsatz

Nicht jedes Unternehmen will eine eigene LLMOps-Plattform aufbauen. Nectos bietet einen Schweizer KI-Arbeitsbereich mit privatem KI-Chat, Dokumenten-Upload und -Analyse, persönlichen und geteilten Wissensdatenbanken, Meeting-Transkription und KI-Assistenten für Schweizer Branchenkontexte. Hosting und Verarbeitung erfolgen ausschliesslich auf Schweizer Servern. Ein DPA ist auf Anfrage erhältlich. Die technischen Schutzmassnahmen sind auf der Seite Sicherheit bei Nectos beschrieben.

Starter: CHF 29.90 pro Monat und Platz
Pro: CHF 49.90 pro Monat und Platz
Pro+: CHF 99.90 pro Monat und Platz
BYOC oder On-Premise: Betrieb in der eigenen Infrastruktur, Support ab CHF 490 pro Monat

Alle Pläne und die Testmöglichkeit sind in der Preisübersicht von Nectos aufgeführt. Für erhöhte Anforderungen steht zusätzlich das Sicherheits- und Compliance-Paket zur Verfügung.

Häufige Fragen zu LLMOps

Ist LLMOps nur für Unternehmen relevant, die eigene Modelle trainieren?

Nein. Die meisten Unternehmen trainieren keine eigenen Sprachmodelle, sondern nutzen bestehende Modelle mit eigenen Prompts und Wissensdatenbanken. Auch dann fallen Versionierung, Evaluation, Zugriffssteuerung und Monitoring an. LLMOps betrifft jede LLM-Anwendung im produktiven Einsatz.

Ersetzt LLMOps die bestehenden MLOps-Prozesse?

Nein. LLMOps ist ein spezialisierter Teilbereich von MLOps und baut auf denselben Prinzipien auf. Bestehende Prozesse für Versionierung, Automatisierung und Monitoring werden um Prompts, Kontextquellen, Evaluationen offener Textantworten und LLM-spezifische Sicherheitsprüfungen ergänzt.

Wie gross sollte ein Testsatz für die Evaluation sein?

Nach Empfehlung der MIT Sloan Management Review umfasst ein guter Testsatz idealerweise einige hundert sorgfältig ausgewählte Beispiele. Wichtiger als die exakte Zahl ist die Abdeckung: typische Nutzerfragen, Randfälle und bekannte Fehlerquellen. Der Testsatz wächst mit jedem gemeldeten Problem.

Was hat Datenschutz mit LLMOps zu tun?

Jede Anfrage an ein Sprachmodell kann Personendaten oder Geschäftsgeheimnisse enthalten. Verarbeitungsort, Weitergabe an Dritte, Nutzung für Modelltraining und Protokollierung von Zugriffen sind deshalb operative Entscheidungen. Sie gehören in die Modellauswahl und in das laufende Monitoring.