Zum Inhalt springen

Data Discovery

Data Discovery macht Datenbestände in Datenplattformen auffindbar und verstehbar. Bausteine, Abgrenzung zu Data Catalog, Lineage, Search und Marketplace.

Data Discovery bezeichnet die Fähigkeit, Datenbestände in einer Datenplattform gezielt zu finden und zu verstehen: Tabellen, Modelle, Dashboards, Volumes. Der Begriff bezieht sich auf Daten-Auffindbarkeit im Katalog und ist von Product Discovery (Produktentwicklung) und Service Discovery (Auffinden von Netzwerkdiensten in Microservice-Architekturen) klar zu trennen.

Was ist Data Discovery?

Data Discovery ist die Nutzer-Sicht auf einen Datenkatalog. Sie beantwortet drei einfache Fragen: Welche Datenbestände gibt es überhaupt? Was bedeuten sie im Geschäftskontext? Und welcher davon ist der richtige für die aktuelle Fragestellung? Ein passendes Datenobjekt soll sich in Sekunden finden lassen und nicht erst über Rückfragen bei Kollegen zutage treten.

Die klassische Discovery-Schicht kombiniert dafür mehrere Wege: eine Volltextsuche über Namen, Beschreibungen und Kommentare, Filter nach Tags (fachliche und technische Kennzeichnungen), Owner und Klassifikation, Empfehlungen für ähnliche Datenobjekte, eine Vorschau auf Beispielwerte sowie Sichten auf die Herkunft und Verwendung eines Objekts (Lineage). Neuere Ausprägungen ergänzen semantische Suche (Suche über Bedeutungen statt reiner Wortübereinstimmung) und natürliche Sprache über Datenassistenten.

Historisch ist der Begriff aus der Data-Warehouse-Ära gewachsen. Metadaten-Repositorien der 2000er-Jahre inventarisierten Datenbanken, blieben aber schwer bedienbar. Ab etwa 2018 rückte Discovery in den Fokus der „Enterprise Data Catalog"-Kategorie (Collibra, Alation, Atlan), die Metadaten-Ingestion und Suche in ein bedienbares Werkzeug packte. Heute ist Discovery ein zentrales Merkmal katalog-nativer Plattformen wie Unity Catalog, SAP Data Catalog in Datasphere oder Microsoft Purview.

In Databricks bündelt Unity Catalog Discovery mehrere Funktionen an einer Stelle: den Catalog Explorer (Browser-Sicht auf Kataloge, Schemas und Tabellen), Volltextsuche über Namen und Metadaten, Tag-Suche, „Certified by Data Team"-Kennzeichnungen für freigegebene Datenprodukte, AI-generierte Kommentare zur Erstbefüllung von Beschreibungen, das BROWSE-Privileg (Sichtbarkeit ohne Lesezugriff) und die Genie-Suche über die Ontology (den geteilten Semantik-Layer aus Kennzahlen, Beziehungen und Regeln). Ohne diese Schicht bleiben Datenbestände in einer wachsenden Plattform effektiv unsichtbar, auch wenn sie technisch existieren.

Abgrenzung zu Katalog, Lineage, Search und Marketplace

Data Discovery wird häufig mit Nachbarbegriffen verwechselt, die entweder eine Vorbedingung, ein Baustein oder ein anderer Anwendungsfall sind.

BegriffAchseKernunterschied
Data CatalogBasisDer Katalog ist der Metadaten-Speicher (Inventar der Assets mit Beschreibungen, Ownership, Klassifikation). Discovery ist die Nutzer-Sicht auf diesen Katalog. Ohne Katalog keine Discovery.
Data LineageTeilfunktionLineage ist die Herkunfts- und Wirkungssicht (welche Quelle speist welches Ziel). Discovery nutzt Lineage als eine von mehreren Sichten, ist aber breiter und umfasst Suche, Metadaten, Klassifikation und Empfehlungen.
SearchVerfahrenSearch ist ein technisches Retrieval-Verfahren (Elasticsearch, OpenSearch, Vector Search). Discovery ist der fachliche Anwendungsfall, der Search zusammen mit Filtern, Tags und Empfehlungen nutzt. Search bleibt damit ein Baustein innerhalb der Discovery-Schicht.
Data MarketplaceKanalEin Marktplatz (Databricks Marketplace, Snowflake Data Exchange) ist ein Kanal für den plattform-übergreifenden oder öffentlichen Austausch von Datenprodukten. Discovery adressiert die interne Auffindbarkeit im eigenen Katalog. Marktplatz ist Distribution, Discovery ist Inventar-Zugang.
Product/Service DiscoveryDomäneProduct Discovery bezeichnet die frühe Phase der Produktentwicklung (Kunden-Interviews, Prototypen), Service Discovery das automatische Auffinden von Netzwerk-Diensten in Microservice-Architekturen (Consul, etcd). Beide Begriffe haben mit Data Discovery inhaltlich nichts zu tun.

Die zentrale Trennlinie verläuft zwischen Katalog und Discovery. Der Katalog inventarisiert die Datenlandschaft (Was liegt wo?), Discovery macht diesen Bestand für Menschen und KI-Assistenten benutzbar (Wie findet ihn jemand, der ihn braucht?). Beide Schichten sind eng gekoppelt, in produktnahen Ausprägungen wie Unity Catalog wachsen sie zunehmend zusammen.

Beispiel: Data Discovery in einer wachsenden Lakehouse-Plattform

Ein Handelsunternehmen betreibt seit vier Jahren ein Lakehouse auf Databricks. Der Katalog umfasst inzwischen 4.000 Tabellen, im Sales-Bereich existieren siebzehn Varianten einer Kundentabelle, im Marketing-Bereich mehrere Umsatz-Tabellen mit Namen wie _final_v2. Für Analysten ist nicht klar, welche Tabelle die verbindliche Quelle ist. Die typische Antwort kommt zwei Tage später aus dem Datenkanal in Slack, vom Kollegen, der die Tabelle einmal angelegt hat.

Die Discovery-Schicht ändert diesen Ablauf grundlegend. Ein Analyst sucht im Catalog Explorer nach „Umsatz", filtert auf den Tag certified, sieht drei Treffer mit Beschreibung, Owner und Freigabe-Kennzeichnung und startet den Report auf der zertifizierten Tabelle. Die Zeit von Frage bis Ergebnis fällt von Tagen auf Minuten. Konkret setzt das Unternehmen dafür in Unity Catalog auf mehrere Bausteine: Volltextsuche über Namen und Kommentare, Tag-Filter für Klassifikation und Freigabestatus, AI-generierte Kommentare auf neu angelegten Assets als Erstbefüllung, verpflichtende Ownership pro Datenprodukt, Certified-Kennzeichnung durch Data Stewards und ein kuratierter Genie-Space für natürlichsprachige Fragen auf einem geprüften Datenausschnitt. Die Werkzeuge allein reichen dafür nicht aus; Discovery funktioniert nur so gut, wie die Metadaten unter ihr gepflegt werden.

Data Discovery im eigenen Unternehmen umsetzen?

Wir zeigen, wie sich das in deiner Systemlandschaft konkret abbilden lässt.

Gespräch vereinbaren