Zum Inhalt springen

Big Data Analytics

Big Data Analytics ist die Analyse großer, heterogener Datenbestände nach dem 3-V-Modell. Definition, Abgrenzung zu Advanced Analytics und Data Warehouse.

Big Data Analytics ist die Auswertung sehr großer und sehr unterschiedlicher Datenmengen, die klassische Datenbanken und Reporting-Werkzeuge (Business Intelligence, kurz BI) nicht mehr wirtschaftlich verarbeiten. Kennzeichnend sind die drei V: Volume (Datenmenge), Velocity (Geschwindigkeit, mit der neue Daten entstehen) und Variety (Vielfalt der Formate, von Tabellen über Texte bis zu Bildern). Der 2001 vom Analysten Doug Laney geprägte Begriff umfasst dabei die ganze Breite von einfachen Kennzahlen-Auswertungen bis zu selbstlernenden Vorhersage-Modellen (Machine Learning).

Was ist Big Data Analytics?

Big Data Analytics ist eine Kategorie von Analysen, die sich über die Eigenschaften der Daten definiert, also über Menge, Geschwindigkeit und Format. Umfasst sind alle Auswertungsarten: rückblickende Berichte (was ist passiert?), Ursachen-Analysen (warum ist es passiert?), Prognosen (was wird passieren?) und Handlungsempfehlungen (welche Maßnahme empfiehlt sich?). Der Begriff sagt damit etwas darüber aus, womit gearbeitet wird, und lässt offen, mit welcher Methode.

Der begriffliche Anker ist das 3-V-Modell, das Doug Laney 2001 in einer Gartner-Notiz vorstellte. Volume beschreibt die schiere Datenmenge im Terabyte-, Petabyte- oder Exabyte-Bereich. Velocity beschreibt die Geschwindigkeit, mit der neue Daten entstehen und verarbeitet werden müssen, also klassischerweise Streaming-Ereignisse aus IoT-Sensorik, Klickströmen oder Change-Data-Capture-Feeds operativer Datenbanken. Variety beschreibt die Vielfalt der Datenformate von strukturierten Tabellen über semi-strukturierte JSON- und Log-Daten bis zu unstrukturierten Texten, Bildern, Video- und Audio-Inhalten. Spätere Erweiterungen ergänzen Veracity (Datenqualität und Vertrauenswürdigkeit) und Value (der tatsächliche Nutzenbeitrag der Analyse) zu einem 5-V-Modell.

Die technische Grundlage bilden verteilte Speicher- und Verarbeitungs-Systeme. In der Anfangsphase dominierten das Hadoop Distributed File System (HDFS) und MapReduce. Heute läuft der Großteil der Workloads auf Objekt-Speichern wie Amazon S3, Azure Data Lake Storage oder Google Cloud Storage, kombiniert mit offenen Tabellenformaten wie Delta Lake, Apache Iceberg oder Apache Hudi. Als Verarbeitungs-Engine hat sich Apache Spark etabliert; für Streaming-Workloads ergänzen Apache Kafka als Broker und Apache Flink oder Spark Structured Streaming als Engine das Bild. Data-Lakehouse-Plattformen bündeln diese Bausteine mit Governance, Katalog und BI-Anbindung zu einem integrierten Angebot.

Analytisch reicht das Spektrum von SQL-Aggregationen und Dashboards auf großen Beständen (der BI-Aspekt) über Data-Mining-Verfahren und statistische Modellierung bis zum Training von Machine-Learning-Modellen auf Feature-Tables und zu Streaming-Auswertungen für Near-Real-Time-Dashboards und Alerts. Getrieben wird die Verbreitung durch die Kosten-Entwicklung: Speicher- und Compute-Preise pro Terabyte sind in der Cloud-Ära so weit gefallen, dass Auswertungen wirtschaftlich werden, die im klassischen On-Premises-Warehouse-Modell zu teuer waren.

Abgrenzung zu Advanced Analytics, Data Warehouse und Data Lake

Big Data Analytics wird in Fachdiskussionen mit mehreren Nachbarbegriffen vermischt, die entweder eine andere Achse beschreiben (Methode statt Datenmenge) oder eine spezifische Speicher-Architektur benennen.

BegriffAchseKernunterschied
Advanced AnalyticsMethodeAdvanced Analytics beschreibt die analytische Methode (Predictive, Prescriptive, ML). Big Data Analytics beschreibt die Daten (Volumen, Velocity, Variety). Beide Achsen überschneiden sich, sind aber unabhängig.
Data WarehouseSpeicher-ModellEin Data Warehouse ist eine relationale Analyse-Datenbank mit definiertem Schema für strukturierte Geschäftsdaten. Big Data Analytics greift auf Daten zu, die im Warehouse-Modell entweder ökonomisch oder strukturell nicht abbildbar sind.
Data LakeSpeicher-ModellEin Data Lake ist der Roh-Datenspeicher auf Objekt-Speicher-Basis; Big Data Analytics ist die Auswertung dieses und weiterer Datenbestände. Der Lake liefert die Speicherschicht, die Analytik ist die Nutzung.
Data LakehouseSpeicher-ModellEin Lakehouse fügt dem Data Lake Transaktionalität (ACID), Schema-Enforcement und Warehouse-Performance hinzu und ist heute die typische Umsetzungs-Architektur für Big Data Analytics.
Business IntelligenceMethoden-RahmenBI ist der Rahmen für deskriptive Analytik in Dashboards. Auf großen Datenbeständen wird BI zu einem Anwendungsfall von Big Data Analytics: gleiche Zielrichtung, andere Datenachse.

Die wichtigste Trennung verläuft zwischen Big Data Analytics und Advanced Analytics. Die beiden Begriffe werden häufig synonym verwendet, beschreiben aber unterschiedliche Dimensionen. Advanced Analytics kann auch auf einem einzelnen Excel-Sheet stattfinden, wenn die Methode statistisch anspruchsvoll ist; Big Data Analytics kann auch deskriptive Standardberichte umfassen, wenn das zugrunde liegende Volumen entsprechend groß ist. In modernen Lakehouse-Umgebungen fallen beide Achsen häufig zusammen, weil dieselbe Plattform Petabyte-Daten hält und gleichzeitig ML-Workloads trägt.

Die zweite häufige Verwechslung betrifft Data Warehouse und Data Lake. Ein Warehouse bleibt für strukturierte, historisierte, geschäftskritische Kennzahlen relevant; ein Lake ergänzt es um Roh-Daten in beliebigem Format. Big Data Analytics ist die analytische Nutzung dieser kombinierten Landschaft, nicht ihre Speicher-Architektur.

Beispiel: Big Data Analytics in der Logistik

Ein Logistik-Unternehmen betreibt ein Data Lakehouse auf Objekt-Speicher, das drei Datenklassen parallel hält. Auftrags- und Sendungsdaten kommen als Change-Data-Capture-Stream aus dem ERP in Delta-Tabellen; sie sind strukturiert und historisiert. Fahrzeug-Telemetrie erreicht die Plattform als Ereignisstrom mit Millionen Datensätzen pro Tag; sie ist semi-strukturiert und zeitlich hochauflösend. Kundenkommunikation aus dem Ticketsystem läuft als JSON-Payload mit Freitextfeldern in dieselbe Umgebung; sie ist unstrukturiert und heterogen. Die drei V (Volume aus der Sensor-Menge, Velocity aus dem Stream, Variety aus den drei Formaten) sind damit vollständig abgedeckt.

Auf diesem Datenbestand laufen mehrere analytische Anwendungen parallel. Dashboards zur Sendungsverfolgung aggregieren Auftrags- und Statusdaten und beantworten die deskriptive Frage nach dem aktuellen Bestand; das ist die BI-Seite von Big Data Analytics. Ein Machine-Learning-Modell schätzt die voraussichtliche Ankunftszeit einer Sendung auf Basis von Telemetrie, Verkehrsdaten und historischen Fahrzeiten; das ist der prädiktive Aspekt. Eine Streaming-Auswertung im Structured-Streaming-Job meldet Abweichungen von geplanten Fahrplänen in Near-Real-Time und stößt automatisierte Benachrichtigungen an; das ist die operative Streaming-Analytik.

Alle drei Anwendungen greifen auf denselben Datenbestand zu, unterscheiden sich in Methode und Latenz und sind gemeinsam als Big Data Analytics einzuordnen, weil sie über die Daten-Achse (Volumen, Velocity, Variety) miteinander verbunden sind. Die Methoden dahinter reichen von einfacher SQL-Aggregation bis zu regressionsbasierter Prognose, ohne dass sich der Begriff Big Data Analytics dadurch ändert.

Big Data Analytics im eigenen Unternehmen umsetzen?

Wir zeigen, wie sich das in deiner Systemlandschaft konkret abbilden lässt.

Gespräch vereinbaren