LIVE Agenten · Tool-Calling

PostLotse

KI-Agent für die E-Mail-Triage im KMU — klassifiziert, extrahiert, schlägt Routing und Antwort vor. Mit sichtbarem Tool-Calls-Trace und Mensch-in-der-Schleife (kein Auto-Versand). Live.

Live-Demo ↗ Dokumentation ↗ Design-Präsentation ↗ Code (bald)

Problem & Kontext

Die E-Mail-Flut im KMU kostet Stunden pro Woche

Anfragen, Rechnungen, Termine und Spam landen im selben Postfach. Ein Agent, der klassifiziert, priorisiert und Routine-Antworten vorbereitet — und heikle Fälle eskaliert — gibt diese Zeit zurück.

Lösung

Ein Agent mit Werkzeugen — kein Chatbot

Eine eigene State-Machine (kein LangGraph) führt fünf Schritte aus: Klassifikation und Extraktion (structured output), zwei deterministische Tools (Wissensbasis, Frist-Rechner) mit protokolliertem Tool-Calls-Trace, Routing-Vorschlag mit Begründung und Antwort-Entwurf. Kein Auto-Versand — der Mensch bestätigt, bearbeitet oder verwirft.

PostLotse-Workbench: eine Rechnungs-E-Mail triagiert — Klassifikation, extrahierte Felder, Tool-Calls-Trace und Routing-Vorschlag.

Architektur

Clean Architecture, vier Schichten

domain

Agent-Datenfluss-Modelle + LLM-Port

application

TriageAgent — eigene State-Machine, stream() + run()

infrastructure

Tools (classify/extract/kb/frist/draft), Mistral/Ollama

api

FastAPI: Workbench + /analyze (SSE)

Process History

Vom Plan zum Deploy — sechs Phasen

  1. 01

    Setup & Architektur

    FERTIG

    Clean-Arch-Gerüst, Docker, CI (ruff + mypy --strict + pytest). Accent Blau.

  2. 02

    Tools

    FERTIG

    classifier, extractor (structured output), kb_lookup, frist_rechner, draft — offline getestet (FakeLLM).

  3. 03

    Agent & Tracing

    FERTIG

    Eigene State-Machine, Tool-Calls-Trace (Name·Args·Ergebnis·Latenz), HITL, Fehlerpfad.

  4. 04

    Eval-Harness

    FERTIG

    16 etikettierte E-Mails: Accuracy, Macro-F1, Extraktion, Tool-Call-Success, Latenz.

  5. 05

    Workbench (SSE)

    FERTIG

    Live-Schritte, Tool-Trace, Routing, Entwurf-Editor mit HITL-Aktionen. BFSG/TDDDG.

  6. 06

    Deploy & Doku

    FERTIG

    Live auf eigenem VPS via Traefik. Projektdoku + Design-Präsentation öffentlich.

Ergebnisse

Messbar gemacht

100 %
Klassifikations-Accuracy (16 E-Mails)
1.00
Macro-F1 · Tool-Call-Success 16/16
~3,1 s
Latenz p50 (3 LLM-Schritte)

Gemessen gegen ein Golden-Set (26 Fälle). Details in der Projektdokumentation.

Stack & Compliance

Python 3.12FastAPIHTMX + SSEMistral / OllamaTool-CallingPydanticDockerTraefik

DSGVO: E-Mails sind personenbezogen → EU-/lokales LLM, keine Speicherung (Datenminimierung). Human-in-the-Loop (kein Auto-Versand) + sichtbarer Tool-Calls-Trace = Erklärbarkeit (EU-AI-Act).

PostLotse live ansehen

Live-Demo öffnen ↗ ← Alle Projekte