Agentic Observability meistern: Zuverlässige Multi-Agenten-Systeme mit OpenTelemetry

Die Softwarelandschaft steht vor einem Paradigmenwechsel: Agentic AI.

Während Microservices deterministisch arbeiten, agieren AI Agents autonom, probabilistisch und oft unvorhersehbar. Für Platform Engineers und DevOps-Teams stellt dies eine massive Herausforderung dar:

• Wie überwacht man einen Service, dessen Antwort bei jedem Aufruf variieren kann?
  
• Wie debuggt man eine "Halluzination" oder eine Endlosschleife in der Entscheidungsfindung?

Lernziele

In diesem Vortrag zeige ich, warum klassische "Golden Signals" (Latency, Traffic, Errors) für AI Agents nicht ausreichen und wie wir sie erweitern müssen. Wir betrachten Agents als die neuen Microservices und nutzen OpenTelemetry (OTel) als etablierten Standard, um Licht in die Black Box der LLMs zu bringen.