Agentic AI ist sinnvoll, wenn ein System ein klares Ziel über mehrere begrenzte Schritte verfolgt, Werkzeuge kontrolliert nutzt und Zwischenstände prüfen kann. Beginnen Sie mit einem schmalen Workflow, begrenzen Sie Berechtigungen und Kosten und verlangen Sie eine menschliche Freigabe vor folgenreichen Aktionen.
Welche Aufgaben geeignet sind
Geeignet sind wiederkehrende Abläufe mit klaren Eingaben, sichtbarem Ziel, prüfbaren Zwischenständen und reversiblen Aktionen. Ungeeignet für einen ersten Einsatz sind offene Ziele, unklare Datenrechte oder Aktionen, deren Fehler unmittelbar schwere Folgen haben. Häufig reicht zunächst ein assistierter Workflow, bei dem die KI vorbereitet und ein Mensch freigibt.
Kontrollierbare Architektur
Trennen Sie Orchestrierung, Modell, Werkzeuge, Daten und Freigaben. Jedes Werkzeug erhält nur die Rechte, die sein Schritt benötigt. Verwenden Sie feste Eingabe- und Ausgabeformate, begrenzen Sie Anzahl und Art der Aktionen und protokollieren Sie Werkzeugaufrufe. Kritische Änderungen sollten nicht allein aus freiem Modelltext ausgelöst werden.
| Kontrolle | Zweck |
|---|---|
| Minimale Rechte | Schadensradius eines Fehlers begrenzen |
| Freigabepunkt | Folgenreiche Aktion menschlich bestätigen |
| Budget und Abbruch | Schleifen und unkontrollierten Verbrauch stoppen |
| Protokoll | Entscheidungsweg untersuchen und verbessern |
Evaluation vor der Demonstration
Erstellen Sie reale Erfolgs-, Grenz- und Fehlerfälle. Bewerten Sie nicht nur das Endergebnis, sondern auch Werkzeugwahl, Reihenfolge, Abbruchverhalten und Einhaltung der Freigaben. Wiederholen Sie die Tests nach Änderungen an Modell, Prompt, Werkzeug oder Datenquelle.
Sicherer Betrieb
Benennen Sie einen fachlichen Eigentümer und einen technischen Verantwortlichen. Überwachen Sie Fehler, Abbrüche, ungewöhnliche Aktionen und Verbrauch. Definieren Sie einen manuellen Ersatzprozess. Für regulierte oder personenbezogene Anwendungsfälle sind zusätzliche Datenschutz-, Sicherheits- und Rechtsprüfungen notwendig.
Primärquellen und Prüfrahmen
- NIST: Generative AI Profile — Risiken generativer Systeme; abgerufen am 4. September 2026.
- NIST: AI Risk Management Framework — Governance, Messung und Management; abgerufen am 4. September 2026.
- Europäische Kommission: AI Act overview — regulatorischer Kontext; abgerufen am 4. September 2026.