Zum Inhalt springen

Mosaic AI Training

Mosaic AI Training ist der Databricks-Service für Fine-Tuning und Continued Pre-Training von Foundation-Modellen. Definition, Verfahren und Abgrenzung.

Mosaic AI Training ist der Databricks-Dienst, mit dem sich fertige KI-Modelle (sogenannte Foundation-Modelle, also große vortrainierte Sprach- oder Bildmodelle) an die eigenen Daten und Aufgaben anpassen lassen. Databricks stellt dafür die notwendige Rechenleistung (Grafikkarten für KI-Training, GPUs) bereit und verbindet den Trainingslauf direkt mit dem eigenen Datenkatalog und den Werkzeugen zur Modellverwaltung auf der Plattform. Der Dienst ersetzt keine Trainings-Verfahren, er stellt die Ausführungsumgebung für ihre Anwendung auf der Databricks-Plattform bereit.

Was ist Mosaic AI Training?

Mosaic AI Training ist die verwaltete Trainings-Umgebung innerhalb der Mosaic-AI-Produktlinie von Databricks. „Verwaltet" heißt: Databricks kümmert sich um die Grafikkarten, ihre Treiber und die Skalierung; das eigene Team liefert die Trainingsdaten und startet den Lauf. Die Daten liegen dabei in Unity Catalog, dem zentralen Datenkatalog von Databricks (als Tabellen oder Datei-Ablagen). Ein Trainingslauf wird über die Oberfläche, eine Programmierschnittstelle (REST-API) oder das Experiment-Tracking-Werkzeug MLflow gestartet. Databricks verwendet zusätzlich den Begriff „AI Runtime" für die konkrete Laufzeit, während „Mosaic AI Training" das gesamte Produktangebot rund um die Modellanpassung beschreibt.

Der Begriff geht auf die 2023 von Databricks übernommene [MosaicML](https://www.databricks.com/company/newsroom/press-releases/databricks-signs-definitive-agreement-acquire-mosaicml) zurück, einen Spezialisten für effizientes Vortraining großer Modelle mit dem Composer- und Streaming-Dataset-Stack. Mit der Übernahme wurden Trainings-Orchestrierung und GPU-Betrieb in Databricks integriert und um Anbindungen an Unity Catalog, Managed MLflow und Model Serving ergänzt.

Der Service unterstützt drei Verfahrens-Klassen: Foundation Model Fine-Tuning (Supervised Fine-Tuning auf Prompt-Response-Paaren), Continued Pre-Training (weiteres unsupervidiertes Vortraining auf Domain-Rohtext) und Instruction Tuning (SFT auf Anweisungs-Datensätzen). Parameter-effiziente Varianten wie LoRA reduzieren den Ressourcenbedarf. Als Basismodelle kommen Open-Weight-Modelle aus den Familien Llama, Mistral und DBRX in Frage; proprietäre Modelle wie GPT-4o oder Claude werden nicht unterstützt und lassen sich nur über die Angebote des jeweiligen Anbieters anpassen ([Databricks-Dokumentation zu Foundation Model Training](https://docs.databricks.com/aws/en/large-language-models/foundation-model-training)).

Innerhalb einer LLMOps-Architektur sitzt Mosaic AI Training zwischen Modell-Auswahl und produktivem Betrieb. Managed MLflow protokolliert den Trainingslauf, das Mosaic AI Model Registry verwaltet die Modell-Versionen mit Anbindung an Unity Catalog, und Model Serving stellt das trainierte Modell als Endpoint bereit. Die Abrechnung erfolgt über Databricks-Units und die eingesetzten GPU-Ressourcen und läuft getrennt von den Inferenz-Kosten der Endpoints ([Databricks Pricing zu Foundation Model Training](https://www.databricks.com/product/pricing/foundation-model-training)).

Abgrenzung zu Fine-Tuning, Continued Pretraining und Feature Store

Mosaic AI Training wird häufig mit den Trainings-Verfahren gleichgesetzt, die darauf laufen. Der Unterschied ist eine Ebenen-Frage: Fine-Tuning und Continued Pretraining sind Verfahren, Mosaic AI Training ist der Betriebs-Service, in dem diese Verfahren auf Databricks ausgeführt werden.

BegriffEbeneWas er beschreibt
Mosaic AI TrainingServiceVerwaltete Trainings-Umgebung auf Databricks (GPU, UC, MLflow)
Fine-TuningVerfahrenSupervised Nachtrainieren mit gelabelten Beispielen
Continued PretrainingVerfahrenUnsupervidiertes Weitertraining auf Domain-Rohtext
Feature StoreDatendienstVerwaltete Features für klassische ML-Modelle
Mosaic AI Model RegistryServiceVersionierte Modell-Registrierung nach dem Training

[Fine-Tuning](/insights/glossar/fine-tuning/) ist ein Trainings-Verfahren, das gelabelte Beispiele auf ein vortrainiertes Modell anwendet. Es lässt sich auf beliebiger GPU-Infrastruktur ausführen; Mosaic AI Training stellt dafür eine verwaltete Umgebung innerhalb einer bestehenden Databricks-Plattform bereit. Wer Fine-Tuning außerhalb von Databricks betreibt, verwendet dasselbe Verfahren, aber einen anderen Service.

[Continued Pretraining](/insights/glossar/continued-pretraining/) ist ebenfalls ein Verfahren, ausgelegt auf unsupervidiertes Weitertraining mit dem ursprünglichen Sprachmodell-Loss. Mosaic AI Training unterstützt CPT als eines von mehreren Verfahren, ist damit aber nicht gleichzusetzen. Die Wahl des Verfahrens folgt der fachlichen Frage (Verhalten anpassen vs. Vokabular erlernen), die Wahl des Service folgt der Plattform-Frage (Databricks vs. eigener GPU-Cluster vs. Vendor-Tuning).

Feature Store und Mosaic AI Training bedienen unterschiedliche Modell-Familien und Datenformate. Der Feature Store verwaltet numerische und kategoriale Features für klassische ML-Modelle mit Point-in-Time-Joins und Online-Offline-Konsistenz. Mosaic AI Training arbeitet mit rohen Text-Datensätzen für Sprachmodell-Anpassung. Beide Bausteine können in derselben Databricks-Umgebung existieren und bedienen unterschiedliche Aufgaben.

Neben Mosaic AI Training gibt es weitere Betriebsmöglichkeiten. Herstelleroffene Tuning-APIs wie OpenAI Fine-Tuning oder Vertex AI Tuning führen die Anpassung proprietärer Modelle beim jeweiligen Anbieter durch. Ein eigener GPU-Cluster auf EKS oder AKS überträgt Bereitstellung, Treiber und Kapazitätsplanung an das eigene Team. Mosaic AI Training positioniert sich zwischen diesen Optionen als verwalteter Service innerhalb der Databricks-Plattform.

Beispiel: Fine-Tuning-Lauf mit LoRA in Mosaic AI Training

Ein typischer Ablauf beginnt mit einem geprüften Trainings-Datensatz. Etwa 15.000 Prompt-Response-Paare aus Support-Tickets liegen als Delta-Tabelle in Unity Catalog. Als Basismodell dient Llama 3 8B. Der Trainingslauf wird über die REST-API mit LoRA als PEFT-Variante gestartet, läuft auf einer von Databricks verwalteten A100-GPU und dauert wenige Stunden. Managed MLflow protokolliert Hyperparameter, Loss-Kurven und das erzeugte LoRA-Adapter-Artefakt. Nach dem Lauf wird der Adapter im Mosaic AI Model Registry registriert und als Modell-Version über Model Serving auf einem Endpoint bereitgestellt. Aliase wie @production entkoppeln Endpoint und Modell-Version voneinander.

Architektonisch positioniert sich Mosaic AI Training als Trainings-Baustein einer LLMOps-Pipeline auf Databricks. Die Datenseite bleibt in Unity Catalog, die Experiment-Historie in Managed MLflow, die Versionierung im Model Registry, die produktive Bereitstellung in Model Serving. Der Service ergänzt diese Komponenten, ohne sie zu ersetzen. Wie sich Foundation Models, Anpassungs-Verfahren, Registrierung und Bereitstellung zu einer durchgängigen LLM-Pipeline zusammenfügen, zeigt der Überblick zu [Large Language Models auf Databricks](/insights/databricks/artificial-intelligence/large-language-models/).

Mosaic AI Training im eigenen Unternehmen umsetzen?

Wir zeigen, wie sich das in deiner Systemlandschaft konkret abbilden lässt.

Gespräch vereinbaren