Projection in a probabilistic epistemic logic and its application to belief-based program verification

Liu, Daxin; Belle, Vaishak; Lakemeyer, Gerhard

doi:10.18154/RWTH-2022-10632

Projection in a probabilistic epistemic logic and its application to belief-based program verification

Liu, Daxin^RWTH*

2022 & 2023

Verantwortlichkeitsangabevorgelegt von Daxin Liu, M.Sc.

ImpressumAachen : RWTH Aachen University 2022

Umfang1 Online-Ressource : Illustrationen

Dissertation, RWTH Aachen University, 2022

Veröffentlicht auf dem Publikationsserver der RWTH Aachen University 2023

Genehmigende Fakultät
Fak01

Hauptberichter/Gutachter
Lakemeyer, Gerhard (Thesis advisor)^RWTH* ; Belle, Vaishak (Thesis advisor)

Tag der mündlichen Prüfung/Habilitation
2022-11-21

Online
DOI: 10.18154/RWTH-2022-10632
URL: https://publications.rwth-aachen.de/record/856068/files/856068.pdf

Einrichtungen

Projekte

Inhaltliche Beschreibung (Schlagwörter)
artificial intelligence (frei) ; belief program (frei) ; knowledge representation and reasoning (frei) ; program verification (frei) ; reasoning about actions (frei) ; reasoning about beliefs (frei) ; reasoning about uncertainty (frei)

Thematische Einordnung (Klassifikation)
DDC: 004

Kurzfassung
Detaillierte Repräsentationen von Wissen und Aktionen sind ein Ziel, welches viele Wissenschaftler im Bereich der KI verfolgen. Unter den entwickelten Ansätzen ist das Situationskalkül von Reiter der wahrscheinlich am weitesten verbreitete. Es werden Aktionen als logische Terme dargestellt und Wissen durch logische Formeln kodiert. Die so entstandene Sprache wurde erweitert durch Features wie die Darstellung von Zeit, parallele Aktionen oder prozedurale Programmiersprachen. Zuletzt haben Belle und Lakemeyer eine modal Logik DS entwickelt, welche Glaubenssätze (sogenannte Beliefs) und Sensorrauschen formalisiert, durch die Modifizierung von Syntax und Semantik des Situationskalküls. Diese Logik hat bereits einige nützliche Eigenschaften, wie zum Beispiel vollständige Introspektion, aber es gibt auch noch Verbesserungspotenzial. Besonders problematisch ist die Quantifizierung des Glaubens (Degree of Belief). Derzeit kann der Degree of Belief nur durch Konstanten angegeben werden und eine exakte Darstellung durch Wahrscheinlichkeitsverteilungen ist nicht möglich. Außerdem fehlt ein Mechanismus um logische Schlüsse über Projektionen in die Zukunft zu formalisieren, also zu bestimmen, ob eine Anfrage über die Zukunft notwendigerweise aus der initialen Wissensbasis folgt. Im Allgemeinen existieren zwei Lösungsansätze für das Projektionsproblem, Regression und Progression. Während man bei Regression die Anfrage über die Zukunft in eine Anfrage über den initialen Wissensstand transformiert und dann evaluiert, projiziert man bei Progression die gesamte Wissensbasis in die Zukunft um die Anfrage direkt zu beantworten. In dieser Dissertation wird zunächst die Ausdrucksstärke der Logik DS erweitert durch Modifikation von Syntax und Semantik. Dann wird das Projektionsproblem untersucht. Es wird ein Regressionsoperator entwickelt, welcher Anfragen mit verschachtelte Beliefs und Quantoren in Belief Formeln unterstützt. Über die Progression wird gezeigt, dass diese mit der herkömmlichen Definition für ein Fragment der Sprache in Prädikatenlogik definierbar ist. Außerdem wird eine Lösung für Progression vorgestellt, welche den bezüglich Belief abgeschlossenen Teil der Wissensbasis nach der Ausführung von Aktionen betrachtet (only-believing). Die entwickelten Methoden werden in einem praktischen Szenario angewandt, bei der Verifizierung von Belief Programmen. Dies sind probabilistische Erweiterungen von Golog Programmen, wo jede Aktion und jede Wahrnehmung von Rauschen behaftet ist und Aussagen subjektiv durch den Belief des handelnden Agenten zu interpretieren sind. Es wird gezeigt, dass das Verifizierungsproblem untentscheidbar ist, sogar in stark eingeschränkten Szenarien. Außerdem wird ein Spezialfall des Problems vorgestellt, welches entscheidbar ist.

Rich representation of knowledge and actions has been a goal that many AI researchers pursue. Among all proposals, perhaps, the situation calculus by Reiter is the most widely studied, where actions are treated as logical terms and the agent’s knowledge is represented by logical formulas. The language has been extended to incorporate many features like time, concurrency, procedures, Most recently, Belle and Lakemeyer proposed a modal logic DS which deals with degrees of belief and noisy sensing. The logic has many appealing properties like full introspection, however, it also has some shortcomings. Perhaps the main one is the lack of expressiveness when it comes to degrees of belief. Currently, the language allows expressing degrees of belief only as constants making it impossible to express belief distribution. Another important problem is that it lacks projection reasoning mechanisms. Projection is the task to determine whether a query about the future is entailed by an initial knowledge base. Two solutions of projection exist regression and progression. While regression transfers the query about the future into a query about the initial state and evaluates it there, progression transfers the whole initial knowledge base into a future one.In this thesis, we first lift the expressiveness of the logic DS by modifying both the syntax and semantics. Moreover, we investigate the projection problem in DS. In particular, we propose a regression operator which can handle querieswith nested beliefs and beliefs with quantifying-in. For progression, we show that classical progression is first-order definable for a fragment of the logic and provide our solution for the progression of belief in terms of only-believing after actions. Moreover, we exploit how to apply the proposed methods in a more practical scenario: on the verification of belief programs, a probabilistic extension of Golog programs, where every action and sensing could be noisy and every test refers to the agent’s subjective beliefs. We show that the verification problem is undecidable even in very restrictive settings. We also show a special case where the problem is decidable.

OpenAccess:
PDF
(additional files)