Agentic AI Testing

Hat sich der Agent bei der Erledigung der Aufgabe sicher und ethisch verhalten?

Im Rahmen unseres umfassenden Ansatzes setzen wir Red Teaming ein – eine KI-Best-Practice, die durch gegnerische Tests potenzielle Schwachstellen gegenüber Risiken wie Bias, Rassismus und böswilliger Absicht aufdeckt. Im Rahmen von Red Team-Einsätzen kann Applause diverse Teams aus vertrauenswürdigen Testern zusammenstellen, um Angriffe zu simulieren und Probleme aufzudecken. Dabei werden sowohl die Kommunikation als auch die Handlungen der Agenten auf gefährliche Verhaltensweisen und Schwachstellen getestet. Diese Einsätze können Folgendes umfassen: Adversarial Prompt Injections, um zu prüfen, ob Prompts Sicherheitsfilter umgehen können; Contextual Framing Exploits, um zu überprüfen, ob Agenten bei der Übernahme von Rollen oder dem Wechsel des Kontexts schädliche Anweisungen befolgen; Token-Level Manipulation, um zu überprüfen, ob ungewöhnliche Token-Muster unsichere Outputs auslösen; Agent Action Leakage, um zu verhindern, dass ein Agent durch Prompts Daten offenlegt oder seine zugrunde liegenden Eigenschaften preisgibt; oder Toxicity Detection, um mithilfe von LLMs voreingenommene, rassistische oder andere toxische Inhalte zu identifizieren.

Beispiel: Testen, ob ein Reisebuchungs-Agent Anfragen zur Bauanleitung einer Bombe ablehnt.

Entsprachen die Handlungen und die Kommunikation des Agenten seiner vorgegebenen Rolle?

Wir setzen menschliche Expertise ein, um die Performance der Agenten zu analysieren. Im Rahmen eines systematischen Ansatzes zur Bewertung der Genauigkeit und Qualität von Agentenantworten können wir Folgendes prüfen: Tonalität und Rollenkonformität, um zu validieren, dass der Ton und die Handlungen eines Agenten für den jeweiligen Anwendungsfall geeignet sind; Domain-Terminologie, um zu überprüfen, ob Agenten die korrekte Terminologie, Akronyme und professionelle Sprache innerhalb einer bestimmten Domäne verwenden; sowie dauerhafte Konsistenz, um zu testen, ob Ton und Rolle bei wiederholten und redundanten Interaktionen konsistent bleiben.

Beispiel: Testen, dass ein Reisebuchungs-Agent einen professionellen Ton beibehält und keine Handlungen durchführt, die nicht mit der Buchung zusammenhängen.

Wie gut hat der Agent die ihm zugewiesene Aufgabe erfüllt?

Mit diesen Tests stellt Applause sicher, dass Agenten Aufgaben unter verschiedenen realen Bedingungen erfolgreich ausführen können. Zur Bewertung der Flexibilität simulieren Tester unterschiedliche Prompting-Stile mit verschiedenen Sprachvarianten, Dialekten, Tippfehlern und Abkürzungen, um die Anpassungsfähigkeit zu beurteilen. Fachexperten validieren die domänenspezifische Richtigkeit in Bereichen wie Finanzwesen oder Wissenschaft. Wir bewerten auch die Qualität der menschlichen Interaktion, um festzustellen, wie echte Nutzer den Agenten erleben. Dabei prüfen wir die Verständlichkeit der Prompts, die wahrgenommene Hilfsbereitschaft, Vertrauen oder Zufriedenheit (z. B. NPS, CSAT), und wie Agenten mit Fehlern oder fehlerhaften Eingaben umgehen. Diese von Menschen durchgeführten Evaluierungen gehen über automatisierte Kennzahlen hinaus, um sicherzustellen, dass agentische Erlebnisse nicht nur funktional, sondern auch intuitiv, vertrauenswürdig und für den realen Einsatz bereit sind.

Beispiel: Testen, dass ein Agent die Reise korrekt gebucht und die Reisedaten klar an den Nutzer kommuniziert hat.

Sind der Entscheidungsprozess und das finale Output des Agenten wahrheitsgemäß und frei von Halluzinationen?

Quellenverifizierung und die Bewertung der Gedankenkette sind entscheidend für die Erkennung von Halluzinationen in Agentenantworten. Diese Evaluierungen prüfen, ob die zitierten Quellen legitim sind und ob der Denkprozess zu einer fundierten Entscheidung führt, beispielsweise zur Wahl der günstigsten Reiseroute. Obwohl einige Überprüfungen ohne LLMs automatisiert werden können, erfordern andere eine menschliche Beurteilung, um die Genauigkeit zu gewährleisten und das Halluzinationsrisiko zu reduzieren. Da Agenten systembedingt von LLMs abhängen – selbst beim Testen – bleiben sie anfällig dafür, plausibel klingende, aber falsche Informationen zu generieren. Applause Tester spielen eine Schlüsselrolle bei der Verifizierung, dass Referenzen real, relevant und angemessen verwendet werden und dass die Schlussfolgerungen des Agenten dem korrekten Entscheidungspfad folgen.

Beispiel: Testen, dass ein Agent alle Unterschritte des Workflows zur Buchung einer Pauschalreise korrekt abgeschlossen hat.

Hat der Agent sowohl bei der Schlussfolgerung als auch bei den Aktionen wirtschaftlich gehandelt?

Damit KI-Agenten kosteneffizient arbeiten, müssen nicht nur die Richtigkeit ihrer Outputs, sondern auch die Effizienz ihrer Schlussfolgerungen und Aktionen bewertet werden. Ein Crowdtesting-Partner wie Applause kann Kundenteams dabei unterstützen, die Effizienz eines Agenten auf mehreren Ebenen zu validieren – einschließlich der Trajektorie-Effizienz, der Nutzerinteraktions-Effizienz und der Einzelschritt-Effizienz. Wir können dabei helfen, redundante oder unnötige Schritte im ​​gesamten​​​ Verlauf einer Interaktion festzustellen, übermäßiges Hin und Her mit Endnutzern zu erkennen, das auf Friktion oder Ineffizienz hindeuten kann, und zu prüfen, ob Prompts optimiert werden können, ohne die Leistung des Agenten zu beeinträchtigen. Durch das Testen dieser Ebenen in realen Kontexten mit menschlichem Feedback unterstützt Applause Unternehmen bei der Feinabstimmung von Agenten, sodass sie intelligentere Entscheidungen treffen und die Betriebskosten senken können.

Beispiel: Testen, dass ein Agent bei der Reisebuchung keine unnötigen Schritte unternimmt und nicht übermäßig oft beim Nutzer nachfragen muss.

Kann der Agent zuverlässig mit anderen Agenten interagieren?

Da Multiagentensysteme und Orchestrierungsframeworks immer größer werden, gewinnen Interoperabilitätstests zunehmend an Bedeutung – auch wenn sie sich noch in einem frühen Stadium befinden. Diese Tests tragen dazu bei, dass Agenten nahtlos mit anderen Agenten kommunizieren und zusammenarbeiten können. Dies geschieht entweder durch die Übernahme des Task-Managements – Empfangen und Ausführen von Anweisungen von Orchestrierungsschichten wie Model Context Protocol (MCP) – oder durch die Abgabe von Aufgabenanfragen an externe Agenten, wobei der korrekte Kontext oder Inhalt weitergegeben wird. Mit Applause können Sie validieren, ob Agenten externe Agentenanweisungen unter realen Bedingungen korrekt interpretieren, ausführen und beantworten. Da Agenten-Ökosysteme immer komplexer werden, ist die Gewährleistung einer reibungslosen Interaktion zwischen Agenten eine wesentliche Voraussetzung für skalierbare, zuverlässige KI-gestützte Lösungen.

Beispiel: Testen, ob ein Buchungsagent mit einer Website interagieren kann, die einen Shopping-Agenten basierend auf MCP1 bereitstellt.