Active Learning

Active Learning bezeichnet ein Vorgehen im maschinellen Lernen mit Trainingsbeispielen (Supervised Learning), bei dem das Modell selbst vorschlägt, welche Beispiele als Nächstes von einem Menschen mit der richtigen Antwort versehen (gelabelt) werden sollen. Ziel ist, mit möglichst wenig manueller Beschriftung die größte Modell-Verbesserung zu erreichen. Statt zufällig ausgewählte Beispiele zu labeln, konzentriert sich der Aufwand auf jene, bei denen das Modell besonders unsicher ist.

Was ist Active Learning?

Active Learning setzt an einer typischen Situation im Supervised Learning (Lernen anhand von Beispielen mit bekannter richtiger Antwort) an: Rohdaten sind reichlich vorhanden (Bilder, Texte, Ereignisse aus Log-Strömen), aber Beispiele mit Beschriftung (Label = richtige Antwort, z. B. „Rechnung" oder „Beschwerde" bei einer E-Mail) sind es nicht. Das Vergeben dieser Labels kostet Fachexpertise, Zeit und häufig eine Datenschutz-Freigabe. Ein Modell, das aus zufällig gezogenen Labels lernt, verbraucht viel Beschriftungs-Budget auf Beispiele, die es bereits sicher vorhersagen kann. Active Learning verschiebt diese Auswahl vom Zufall zur modell-getriebenen Entscheidung: Das Modell markiert die Datenpunkte, deren Label den größten Erkenntniszuwachs verspricht, und leitet nur diese an den menschlichen Beschrifter (in der Literatur „Oracle" genannt) weiter.

Der Grundzyklus umfasst fünf Schritte: (1) Ein Modell wird auf dem bereits gelabelten Teil des Datensatzes trainiert. (2) Es erzeugt Vorhersagen für die unbeschrifteten Daten. (3) Eine Query-Strategie wählt daraus die informativsten Beispiele aus. (4) Ein menschlicher Annotator vergibt Labels für diese Charge. (5) Das Modell wird mit den neu hinzugekommenen Labels nachtrainiert. Der Zyklus wiederholt sich, bis das Modell das Zielergebnis erreicht oder das Label-Budget aufgebraucht ist.

Für die Auswahl der Beispiele existieren mehrere Query-Strategien. Uncertainty Sampling wählt Punkte nahe der Entscheidungsgrenze des Modells (niedrige Konfidenz, hohe Entropie). Query-by-Committee lässt mehrere Modelle abstimmen und priorisiert Beispiele, bei denen sie sich uneins sind. Expected Model Change und Expected Error Reduction bewerten, welches Beispiel das Modell nach dem Nachtraining am stärksten verändern würde. Diversity Sampling stellt sicher, dass die Auswahl den Datenraum repräsentativ abdeckt, statt sich in einer engen Region unsicherer Punkte zu häufen. In produktiven Setups kommen diese Strategien häufig kombiniert zum Einsatz.

Je nach Datenzugriff unterscheidet die Literatur drei Szenarien. Pool-Based Sampling ist der häufigste Fall: Ein großer, statischer Pool unbeschrifteter Daten liegt vor, aus dem in jeder Runde eine Charge gezogen wird. Stream-Based Selective Sampling entscheidet für jede eintreffende Instanz einzeln, ob sie gelabelt oder verworfen wird. Membership Query Synthesis lässt das Modell selbst hypothetische Beispiele generieren; dieses Szenario spielt außerhalb der Grundlagenforschung kaum eine Rolle. Der Begriff geht auf Arbeiten der 1990er-Jahre zurück und wurde durch Burr Settles' „Active Learning Literature Survey" (2009) breit rezipiert.

Abgrenzung: Active Learning, Supervised, Semi-Supervised, Reinforcement Learning, HITL

Die Begriffe werden häufig verwechselt, adressieren aber unterschiedliche Fragen.

Active Learning ist keine eigenständige Lernmethode, sondern eine Auswahl-Strategie über einem überwachten Trainingsschritt. Semi-Supervised Learning und Active Learning lassen sich kombinieren: Ein Modell nutzt ungelabelte Daten für Regularisierung und wählt daraus gezielt die informativsten für die menschliche Annotation aus. Zu HITL steht Active Learning im Verhältnis der Spezialisierung: HITL umfasst zusätzlich Inference-Time-Review, Content-Moderation und Feedback-Aggregation im Betrieb, Active Learning beschränkt sich auf die Trainingsphase.

Beispiel: E-Mail-Klassifikator mit Uncertainty Sampling

Ein Unternehmen trainiert einen Klassifikator zur Kategorisierung eingehender Kundenanfragen. 200.000 historische E-Mails und Chat-Nachrichten liegen im Lakehouse, gelabelt sind bislang 3.000. Statt 20.000 zufällig gezogene Anfragen manuell zu klassifizieren, startet das Team mit den vorhandenen Labels und trainiert ein Basismodell. Das Modell erzeugt Klassenwahrscheinlichkeiten für die verbleibenden 197.000 Datensätze. Eine Uncertainty-Sampling-Strategie wählt die 500 Anfragen mit der niedrigsten Konfidenz aus. Das Fachteam labelt diese Charge, das Modell wird nachtrainiert, der nächste Zyklus beginnt.

Nach fünf Iterationen (2.500 zusätzliche Labels) erreicht der Klassifikator die Zielgenauigkeit. Ein zufälliges Sampling hätte für dasselbe Ergebnis schätzungsweise 8.000 bis 10.000 Labels benötigt. Nach dem produktiven Rollout läuft der Loop weiter: Ein Monitoring-Layer beobachtet die Konfidenz-Verteilung neuer Anfragen. Steigt der Anteil unsicherer Vorhersagen über einen Schwellwert, stößt das System automatisch die nächste Label-Runde an. Der Trainingsprozess wird damit vom einmaligen Projekt zum kontinuierlichen Betriebsbaustein.