Skill generalisation and experience acquisition for predicting and avoiding execution failures

Mitrevski, Aleksandar (Alex); Plöger, Paul G.; Lakemeyer, Gerhard; Beetz, Michael

doi:HT021728753

Skill generalisation and experience acquisition for predicting and avoiding execution failures = Fähigkeitsgeneralisierung und Erfahrungserwerb zum Vorhersagen und Vermeiden von Ausführungsfehlern

Mitrevski, Aleksandar (Alex)^RWTH*

2023

Verantwortlichkeitsangabevorgelegt von Aleksandar (Alex) Mitrevski, Master of Science

ImpressumAachen : RWTH Aachen University 2023

Umfang1 Online-Ressource : Illustrationen, Diagramme

Dissertation, RWTH Aachen University, 2023

Veröffentlicht auf dem Publikationsserver der RWTH Aachen University

Genehmigende Fakultät
Fak01

Hauptberichter/Gutachter
Lakemeyer, Gerhard (Thesis advisor)^RWTH* ; Plöger, Paul G. (Thesis advisor) ; Beetz, Michael (Thesis advisor)

Tag der mündlichen Prüfung/Habilitation
2023-01-30

Online
DOI: 10.18154/RWTH-2023-01374
URL: https://publications.rwth-aachen.de/record/943042/files/943042.pdf

Einrichtungen

Inhaltliche Beschreibung (Schlagwörter)
hybrid robot skill representation (frei) ; robot context awareness (frei) ; robot failure diagnosis (frei) ; robot introspection (frei) ; robot skill execution failures (frei) ; robot skill generalisation (frei)

Thematische Einordnung (Klassifikation)
DDC: 004

Kurzfassung
Um verschiedene Aufgaben in ihrem Umfeld zu erledigen, werden autonome Roboter mit Fähigkeiten ausgestattet, die ausgeführt und kombiniert werden können. Roboterfähigkeiten sind oft so entwickelt, damit sie flexibel erworben werden; nicht berücksichtigt sind aber Ausführungsfehler, die eventuell positive Auswirkung der Fehleranalyse auf den Fähigkeitserwerb, oder die Vorteile der Roboter-Selbstwahrnehmung für eine effektive Koexistenz mit Menschen in dem Umfeld des Roboters. Besonders in menschzentrierten Umfeldern ist die Vertrauenswürdigkeit eines Roboters, und somit auch die Akzeptanz, davon abhängig, ob der Roboter seine Fehler effektiv verstehen, erklären, und beseitigen kann. In dieser Doktorarbeit untersuchen wir zwei Hauptfragen in diesem Zusammenhang, nämlich (i) wie können parametrisierte Fähigkeiten entwickelt werden, damit die Entscheidungen eines Roboters auf der Ausführungsebene mit semantischem Wissen über den Ausführungsprozess verbunden sind und (ii) wie kann dieses Wissen eingesetzt werden, damit der Roboter Ausführungsfehler vermeiden und analysieren kann. Im ersten Teil dieser Arbeit entwickeln wir eine Repräsentation zur Fähigkeitsparametrierung, mit dem Ziel die Transparenz des Parametrierungsprozesses zu verbessern und eine semantische Analyse von Ausführungsfehlern zu ermöglichen. Hierfür beschreiben wir eine hybride lernbasierte Repräsentation zur Parametrierung, auch Ausführungsmodell genannt; ein Ausführungsmodell stellt eine Kombination aus qualitativen Erfolgsvoraussetzungen und einer Funktion, die den Erfolg der Ausführungsparameter voraussagt, dar. Im zweiten Teil der Arbeit diskutieren wir Anwendungen von Ausführungsmodellen im Kontext von verschiedenen Ausführungsfehler-Typen. Erstens stellen wir vor (i) einen Algorithmus zur Diagnose von Parametrierungsfehlern, der eine Fehlerhypothese sucht, die gegen die Erfolgsvoraussetzungen verstößt, und (ii) einen Algorithmus zur Erfahrungskorrektur, der Anhand der Fehlerhypothese alternative Ausführungsparameter sucht, die den Fehler mit höher Wahrscheinlichkeit beheben können. Darüber hinaus diskutieren wir eine Erweiterung von Ausführungsmodellen, damit qualitative Ausführungskontexte berücksichtigt und kontextspezifische Fehler vermieden werden können. Schließlich stellen wir eine adaptive ontologiebasierte Methode zur Generalisierung von Ausführungsmodellen zwischen Gegenstandskategorien vor. Dafür werden Informationen über die Ähnlichkeit zwischen Gegenstandskategorien, die aus einer Ontologie stammen, mit Ergebnissen aus Modelgeneralisierungsversuchen, die der Roboter ausführt, integriert; somit werden verschiedene Vorteile von model- und datenbasierten Verfahren kombiniert. Die beschriebenen Methoden werden durch verschiedene Anwendungsfälle erläutert - das Greifen von Gegenständen und Schubladengriffen, Gegenstandverstauen in Schubladen, Ziehen von Gegenständen, und die Übergabe eines Gegenstands an einer Person - und in mehreren Roboterexperimenten ausgewertet. Die Hauptbeiträge dieser Arbeit sind (i) eine Formalisierung des Fähigkeitsparametrierungsproblems, die Ausführungsfehler als integraler Bestandteil der Fähigkeitsentwickulung und des Fähigkeitserwerbs berücksichtigt, (ii) eine Demonstration, dass eine hybride Repräsentation zur Parametrierung die Selbstwahrnehmung eines Roboters verbessern kann, und (iii) eine ausführliche Evaluierung der entwickelten Methoden. Wir glauben, dass diese Arbeit einen erster kleinen Schritt zu fehlerbewussteren Robotern schafft, die damit geeigneter für menschzentrierte Anwendungen sind.

For performing tasks in their target environments, autonomous robots usually execute and combine skills. Robot skills in general and learning-based skills in particular are usually designed so that flexible skill acquisition is possible, but without an explicit consideration of execution failures, the impact that failure analysis can have on the skill learning process, or the benefits of introspection for effective coexistence with humans. Particularly in human-centered environments, the ability to understand, explain, and appropriately react to failures can affect a robot's trustworthiness and, consequently, its overall acceptability. Thus, in this dissertation, we study the questions of how parameterised skills can be designed so that execution-level decisions are associated with semantic knowledge about the execution process, and how such knowledge can be utilised for avoiding and analysing execution failures. The first major segment of this work is dedicated to developing a representation for skill parameterisation whose objective is to improve the transparency of the skill parameterisation process and enable a semantic analysis of execution failures. We particularly develop a hybrid learning-based representation for parameterising skills, called an execution model, which combines qualitative success preconditions with a function that maps parameters to predicted execution success. The second major part of this work focuses on applications of the execution model representation to address different types of execution failures. We first present a diagnosis algorithm that, given parameters that have resulted in a failure, finds a failure hypothesis by searching for violations of the qualitative model, as well as an experience correction algorithm that uses the found hypothesis to identify parameters that are likely to correct the failure. Furthermore, we present an extension of execution models that allows multiple qualitative execution contexts to be considered so that context-specific execution failures can be avoided. Finally, to enable the avoidance of model generalisation failures, we propose an adaptive ontology-assisted strategy for execution model generalisation between object categories that aims to combine the benefits of model-based and data-driven methods; for this, information about category similarities as encoded in an ontology is integrated with outcomes of model generalisation attempts performed by a robot. The proposed methods are exemplified in terms of various use cases - object and handle grasping, object stowing, pulling, and hand-over - and evaluated in multiple experiments performed with a physical robot. The main contributions of this work include a formalisation of the skill parameterisation problem by considering execution failures as an integral part of the skill design and learning process, a demonstration of how a hybrid representation for parameterising skills can contribute towards improving the introspective properties of robot skills, as well as an extensive evaluation of the proposed methods in various experiments. We believe that this work constitutes a small first step towards more failure-aware robots that are suitable to be used in human-centered environments.

OpenAccess:
PDF
(additional files)