Designing comprehensible agents. Paper

Für viele Anwendungen ist es wichtig, daß Agenten sich nicht nur korrekt verhalten, sondern sich Nutzern gegenüber auch klar und deutlich verhalten. Typischerweise hat man versucht, Verhaltenweisen von Agenten und deren Gründe verständlich zu machen, indem man ihnen je nach Bedarf im Nachhinein spezielle Erklärungssysteme anhängte, - meistens mit enttäuschenden Ergebnissen. Ich nehme stattdessen von Anfang an die Deutlichkeit von Verhalten als Gestaltungsprinzip. Ich beschreibe diese Agentenarchitektur, den Expressivator, die diese Deutlichkeit innerhalb des verhaltensbasierten Rahmenwerkes stützt. Dazu werden vier technische Innovationen benutzt: 1.) Das Verhalten des Agenten wird strukturiert anhand von Zeichen (sign) und dem Bezeichnenden (signifier), welches zu vermitteln eigentliche Absicht war. 2.) Der Agenten weiß mittels einer Art Zeichenregistrierung (sign-management), welchen Eindruck er auf den Nutzer macht. 3.) Die Gründe für Änderungen einer Verhaltensweise hin zu einer anderen werden mittels eines Zwischenstadiums (transition) erklärt. 4.) Um gegenseitige Wechselbeziehung von Verhaltensweisen wird mittels einer Kontrolle auf der meta-Ebene direkt ausgedrückt.

For many applications, it is important that agents be not only correct, but also comprehensible to human users. Typically, people have tried to make agents' behavior and reasoning understandable by adding post-hoc special-purpose explanation systems, with often disappointing results. Here, I instead take the comprehensibility of agent behavior as a central agent design consideration from the start. I describe an agent architecture, the Expressivator, that supports comprehensibility on top of a behavior-based framework, using four technical innovations: (1) structuring the agent's behavior according to the signs and signifiers it is intended to communicate; (2) allowing the agent to keep track of its impression on the user with sign management, (3) using behavioral transitions to explain the reasons for agent behavior, and (4) expressing behavioral interrelationships directly using meta-level controls.