Microservices, Container & CloudMicroservices, Container & Cloud

Was macht eigentlich mein verteiltes (AI-)System?

Distributed Tracing
LLM
OpenTelemetry

Abstract


Thu 16:40 - 17:25 Uhr | 2025

Ein klassischer Monolith ist relativ einfach zu untersuchen, wenn er nicht das tut, was erwartet wird. In verteilten Systemen oder wenn ein AI-Sprachmodell mit Tools oder RAG zum Einsatz kommt, ist dies nicht mehr so einfach wenn beispielsweise LLMs nicht-deterministisch Tools aufrufen.

Distributed Tracing, speziell mit OpenTelemetry, ist hier das Mittel der Wahl, um das Verhalten des Stacks zu verstehen. Systeme, die im Aufruf-Pfad sind, hinterlassen eine “Spur”, die dann in einem Analyse-System zu einem Bild zusammengesetzt wird, das die Analyse des Verhaltens ermöglicht.

Der Vortrag führt in Distributed Tracing ein und zeigt, wie Code mit OpenTelemetry instrumentiert werden kann.

Non-Sponsored TalkFortgeschritteneDeutsch
Heiko Rupp

Heiko Rupp

Heiko Rupp ist langjähriger Java- und Open-Source-Enthusiast und hat in der Vergangenheit mit und an Projekten mit verteilten Systemen gearbeitet. Hierbei zeigte sich im Betrieb, dass es einen neuen Ansatz zum Verstehen des Systems benötigt. Während dieser Tätigkeit hat sich Rupp immer um Monitoring und Management von Software gekümmert. Das schließt Distributed Tracing im Rahmen von Microprofile, Quarkus und den Microservices hinter console.redhat.com ein. Rupp ist Mitglied der Java User Group Stuttgart und arbeitet bei Red Hat im Bereich der Softwareentwicklung.