Dies ist der zweite von vier Artikeln einer Serie zum Thema End-to-End Datenmanagement. Im ersten Artikel wurde die Notwendigkeit einer umfassenden Datenverarbeitung im Zusammenhang mit der leistungsstarken und benutzerfreundlichen Plattform „IRI Voracity“ vorgestellt, denn sie kombiniert die Datenerkennung, die Datenintegration und Datenmigration, mit anschließender Verwaltung und Analytik in nur einem verwalteten Metadaten-Framework.
Die Verwendung von nur einer Konsole erleichtert nicht nur die Bedienung, sondern verringert die Betriebskosten einer vernetzen IT-Umgebung erheblich.
Durch eine miteinander vernetze IT-Umgebung bestehend aus Servern, Computern, anderen IoT-Geräten und Anwendungen können wertvolle Daten innerhalb des Unternehmens viel schneller integriert, ausgetauscht und gesammelt werden. Die Datenintegration bezieht sich auf den Prozess der Zusammenführung von Daten aus verschiedenen lokalen und Cloud-Quellen, um eine einheitliche und konsistente Sicht auf die Daten im Unternehmen zu schaffen.
Die wesentlichen Vorteile dieser Datenintegration sind:
- Verbesserte Datenqualität: Durch die Integration von Daten aus verschiedenen Quellen können Duplikate, Unstimmigkeiten und Widersprüche identifiziert und korrigiert werden, das zur Verbesserung der Datenqualität führt.
- Bessere Entscheidungsfindung: Die einheitliche Sicht auf die gesammelten Daten ermöglicht es Unternehmen, fundiertere und bessere Entscheidungen zu treffen. Es können nicht nur Trends und Muster des Kunden, sondern auch Vorgänge im Unternehmen identifiziert werden.
- Effizienzsteigerung: Durch die Integration von Daten können manuelle Prozesse automatisiert werden, was zielführend zu einer höheren Effizienz und zu Kosteneinsparungen führt.
- Bessere Zusammenarbeit: Eine einheitliche Sicht auf gemeinsame Daten verbessert die Zusammenarbeit zwischen verschiedenen Abteilungen und Teams. Durch den gemeinsamen Zugriff auf die gleichen Daten können die Mitarbeiter besser zusammenarbeiten und effektiver kommunizieren.
Die Datenintegration besteht aus mehreren Prozessen und beginnt mit der Identifizierung der relevanten Datenquellen. Danach folgt die Extraktion der benötigten Daten und endet mit der Umwandlung in ein einheitliches Format, damit die integrierten Daten für Analysen oder andere Zwecke bereitgestellt werden können.
Datenmigration
Die Datenmigration hingegen bezieht sich auf den Prozess, Daten von einem System, einer Plattform oder einer Datenbank auf eine andere zu übertragen. Dies kann verschiedene Gründe haben, wie zum Beispiel der Austausch von Servern oder Speichergeräten, Wartung oder Upgrades, Anwendungsmigration, Website-Konsolidierung oder die Verlagerung des Rechenzentrums beispielsweise in die Cloud. Bei der Datenmigration werden die Daten extrahiert, transformiert und in das Zielsystem geladen, wobei die Integrität und Konsistenz der Daten gewahrt werden müssen um eine einheitliche Datenverarbeitung gewähren zu können.
Durch eine miteinander vernetze IT-Umgebung bestehend aus Servern, Computern, anderen IoT-Geräten und Anwendungen können wertvolle Daten innerhalb des Unternehmens viel schneller integriert, ausgetauscht und gesammelt werden.
Die Herausforderung, Informationen aus Daten zu destillieren, wächst mit deren Umfang und Vielfalt. Um dem End-to-End Datenmanagement gerecht zu werden und damit Daten in jeder Phase des Lebenszyklus kontrollieren zu können, unterstützt die Plattform IRI Voracity selbstverständlich die Integration und Verschiebung von Daten zwischen verschiedenen Systemen:
- Data Discovery (Profiling, Klassifizierung, ERDs, Dark Data)
- Datenintegration (ETL, CDC, SCD, TDM)
- Datenmigration (Dateien, Datenbanken, Datentypen, Datensatzlayouts)
- Data Governance (Maskieren, Bereinigen, MDM, EMM)
- Analytics (integrierte BI & Datenaufbereitung)
Schnelle und einfache Lösung
Die Historie geht zurück bis in die späten 1970er Jahren mit der Unterstützung von Mainframe-Daten- und Sortiermigrationen. Das Basisprogramm der IRI Voracity Plattform kann daher auf eine lange Geschichte im Bereich der Datenmigration und -modernisierung zurückblicken, einschließlich der Konvertierung von Datentypen und Dateiformaten sowie ETL-Operationen mit RDB- und NoSQL-Datenbanken. IRI Voracity bietet nun ein komplettes Set von Datenintegrations- und Migrationsfunktionen, die schneller und einfacher sind als herkömmliche Werkzeuge, ist dabei auch kostengünstiger im Betrieb und kann leichter an sich ändernde Datensätze und analytische Anforderungen angepasst werden:
- Um den Ort, das Layout und die Beziehungen von Daten in Datenbanken, Dateien und Dokumenten aufzudecken.
- Datentypen, Datensatz-Layouts, Dateiformate und Endianness neu zuordnen.
- Konvertieren von Spaltendaten, Layouts und Beschränkungen zwischen Datenbanken.
- Das Schema zu migrieren.
- Replizieren oder Kopieren von Daten aus einer oder mehreren Quellen auf ähnliche oder andere Ziele.
- Erstellen von Übergaben, persistenten Berichten oder verknüpfte Ansichten.
All diese Faktoren spielen auch eine wichtige Rolle bei der Modernisierung von Daten an sich, denn die Datenmigration ist eng mit der Datenmodernisierung verknüpft. Die Migration von Daten bietet eine Gelegenheit Datenmodernisierungsmaßnahmen umzusetzen mit dem Ziel, die Qualität, Nutzbarkein und Wertigkeit der Daten insgesamt zu erhöhen. Indem wir Cloud-Migrationen, Datenmigrationen und Datenmodernisierung als sich stetig entwickelnde und miteinander verbundene Bereiche betrachten, können wir sicherstellen, dass die Daten für Anwendungen und Analysen geeignet sind und auch zukünftig bleiben.
Ausblick In den kommenden zwei Ausgaben wird auf die integrierten Funktionen der Plattform zum umfassenden Schutz von sensiblen Informationen eingegangen. Es werden verschiedene Methoden zur formaterhaltenden Datenverschlüsselung genannt, um Datensicherheit auf Feldebene umzusetzen. In diesem Zusammenhang werden auch die vier Möglichkeiten zur Erstellung von synthetischen und referentiell korrekten Testdaten gezeigt, nur via Zugriff auf Metadaten und nicht auf Produktionsdaten. Dabei ist es egal, ob die Daten lokal und in der Cloud vorhanden sind, oder in welchem un/semi/strukturierten Format sie befinden – ein umfassender Schutz wird gewährleistet! |
Fazit
Die Datenintegration, Datenmigration und Datenmodernisierung tragen dazu bei, die Qualität, Verfügbarkeit und Wertigkeit von Daten zu verbessern. Durch die Integration von Datenquellen, die reibungslose Migration von Daten und die kontinuierliche Modernisierung von Daten können Unternehmen ihre Daten effektiver nutzen und fundierte Entscheidungen treffen, um ihre Geschäftsprozesse zu optimieren und um wichtige Wettbewerbsvorteile zu erzielen.