Modern Data Engineering 101: Von Data Warehouse bis Data Mesh
Abstract
Wed 9:50 - 10:35 Uhr | 2024
In der heutigen datengetriebenen Welt sind effiziente und skalierbare Datenarchitekturen der Schlüssel zu wertvollen Business Insights. Dieser Vortrag führt in die grundlegenden Konzepte und Architekturen der Datenanalyse ein, von traditionellen Data Warehouses bis hin zu modernen Ansätzen wie dem Data Mesh.
Wir erkunden dabei die unterschiedlichen Charakteristika und Anwendungsfälle von Data Warehouse, Data Lake, Data Lakehouse und Data Mesh, um Ihnen zu helfen, die passende Architektur für Ihre Datenstrategie zu finden.
Zusätzlich zu dieser theoretischen Grundlage bieten wir eine praktische Einführung in die ETL-Prozesse (Extract, Transform, Load) unter Verwendung von Apache Spark. Sie erfahren, wie Sie Daten effektiv aus operativen Systemen extrahieren, transformieren und in Strukturen überführen können, die für Analysezwecke optimiert sind. Im Rahmen einer Live-Demo zeigen wir, wie ein einfacher ETL-Prozess mit Apache Spark implementiert werden kann.
Dieser Vortrag eignet sich hervorragend für Softwareentwickler, Datenarchitekten und IT-Manager, die ihre Kenntnisse in modernen Datenarchitekturen und Apache Spark vertiefen möchten. Durch die Kombination von Theorie und Praxis bietet dieser Vortrag einen umfassenden Überblick und praktische Einblicke, die direkt in Ihre Projekte integriert werden können.
Vortragsimpressionen
Thomas ist Cloud Solution Engineer bei Mimacom und arbeitet seit mehr als 20 Jahren in der Softwareentwicklung in verschiedenen Kontexten. Nach vielen Jahren als Fullstack Entwickler und Hands-On Architekt für Webanwendungen fokussiert er sich seit einiger Zeit auf die Themen Data-Engineering und Datenanalyse. Aktuell hilft er Mimacom Kunden dabei, Daten in einem zentralen cloudbasierten Data Lake bereitzustellen und den technischen Governance-Layer für ein Data Mesh zu implementieren. Außerdem unterstützt er Produktteams dabei, Daten im Data Mesh zu nutzen oder zu teilen. In seiner Freizeit hat er seit kurzem Hyrox für sich entdeckt und ist in der Vorbereitung auf seinen ersten Wettkampf in der Singles-Division in Stuttgart.
Julia Riedel
Julia ist Data Solution Engineer bei Mimacom. Ihr Schwerpunkt liegt im Bereich Microsoft Azure Cloud und Business Intelligence. In ihrer Rolle befasst sie sich mit dem Aufbau von Datenplattformen und engagiert sich für die Schaffung sowie Weiterentwicklung von Frameworks und Standards in diesem Bereich. Durch die tägliche Arbeit mit Kunden aus unterschiedlichen Branchen, kennt sie die vielfältigen Herausforderungen, die bei der Entwicklung moderner Cloud-Datenplattformen auftreten können.