Contributions to kernel methods in systems and control

Fiedler, Christian Martin; Herty, Michael; Trimpe, Johann Sebastian

doi:10.18154/RWTH-2025-03902

Contributions to kernel methods in systems and control

Fiedler, Christian Martin^RWTH*

2025

Verantwortlichkeitsangabevorgelegt von Christian Martin Fiedler

ImpressumAachen : RWTH Aachen University 2025

Umfang1 Online-Ressource : Illustrationen

Dissertation, RWTH Aachen University, 2025

Veröffentlicht auf dem Publikationsserver der RWTH Aachen University

Genehmigende Fakultät
Fak01

Hauptberichter/Gutachter
Trimpe, Johann Sebastian (Thesis advisor)^RWTH* ; Herty, Michael (Thesis advisor)^RWTH*

Tag der mündlichen Prüfung/Habilitation
2025-03-25

Online
DOI: 10.18154/RWTH-2025-03902
URL: https://publications.rwth-aachen.de/record/1010170/files/1010170.pdf

Einrichtungen

Inhaltliche Beschreibung (Schlagwörter)
control (frei) ; gaussian processes (frei) ; kernel methods (frei) ; kinetic theory (frei) ; machine learning (frei) ; mean field limit (frei) ; statistical learning theory (frei)

Thematische Einordnung (Klassifikation)
DDC: 004

Kurzfassung
Maschinelles Lernen wird zunehmend in der System- und Regelungstechnik eingesetzt, was durch herausfordernde Kontroll-, Simulations- und Analyseprobleme, große Daten- und Rechenressourcen, sowie beeindruckende theoretische und methodische Fortschritte des maschinellen Lernens motiviert ist. In diesem Kontext ist die etablierte Klasse der Kernmethoden von besonderem Interesse, da diese über eine reichhaltige Theorie, effiziente Algorithmen sowie hohe Modularität verfügen, und in der Tat werden diese Methoden zunehmend in der System- und Regelungstechnik eingesetzt. Die vorliegende Dissertation trägt zu diesem sehr aktiven Feld bei, wobei der Fokus auf zwei exemplarischen und komplementären Themen liegt. Viele lernbasierte Regelungsmethoden basieren auf der Kombination von Unsicherheitsschranken für Regression mit Gaußschen Prozessen (GP) mit Methoden der robusten Regelung. Wir betrachten die Grundlagen dieser Methoden, indem wir die benötigten Unsicherheitsschranken konsolidieren, verbessern und ausführlich empirisch untersuchen. Als eine Anwendung kombinieren wir diese mit modernen Synthesemethoden der robusten Regelung, was zu lern-bereicherter robusten Regelung mit rigorosen kontroll-theoretischen und statistischen Garantien führt. Des Weiteren diskutieren wir eine schwerwiegende praktische Einschränkung dieser Ansätze, nämlich das Erfordernis einer a-priori Schranke für die Norm der Zielfunktion in einem reproduzierenden Kern-Hilberraum (RKHS), und wir schlagen als Alternative die Verwendung von geometrischen Vorwissen zusammen mit Kernmaschinen vor. Zweitens starten wir eine neue Forschungsrichtung durch die Kombination von Kernen und dem Mean Field Limit, wie sie in der kinetischen Theorie vorkommen. Motiviert durch Lernprobleme auf großen Multiagentensystem führen das Mean Field Limit von Kernen ein, und studieren sehr ausführlich die entsprechenden RKHSs. Dies wiederum wird in der Analyse von kernbasierten Lernmethoden im Mean Field Limit genutzt, was nicht nur ein neues Limit-Konzept in der Theorie des maschinellen Lernens darstellt, sondern auch eine solide Grundlage für Anwendungen in der kinetischen Theorie liefert. Schließlich verwenden wir die Theorie reproduzierender Kerne, um das erste Existenzresult für das Mean Field Limit von sehr allgemeinen zeitdiskreten Multiagentensystemen zu zeigen, was anschließend in der Optimalsteuerung im Mean Field Limit angewandt wird. Zusammenfassend verbessern und verfeinern wir existierende Anwendungen von Kernmethoden in der System- und Regelungstechnik, was zur Konsoliderung der lernbasierten Regelung beiträgt und einen weiteren Schritt Richtung praktischer Anwendungen erlaubt, und zudem führen wir eine neuartige Anwendungen von reproduzierenden Kernen und ihrer Theorie in diesem Kontext ein, mit vielfältigen Anknüpfungspunkten für weitergehende Arbeiten.

Machine learning is increasingly used in systems and control, which is motivated by increasingly challenging control, simulation and analysis problems, abundant data and computing resources, as well as impressive theoretical and methodological advances in machine learning. The established class of kernel methods is of particular interest in this context, due to their rich theory, efficient and reliable algorithms, and modularity, and indeed kernel methods are increasingly used in systems and control. This thesis contributes to this flourishing field, focusing on two exemplary and complementary topics. First, many learning-based control approaches are based on combining uncertainty bounds for Gaussian process (GP) regression with robust control methods. We revisit the foundations of this domain by consolidating, improving, and carefully evaluating the required uncertainty bounds. As an application, we demonstrate how they can be combined with modern robust controller synthesis, leading to learning-enhanced robust control with rigorous control-theoretic and statistical guarantees. We furthermore discuss a severe practical limitation of these approaches, the a priori knowledge of an upper bound on the reproducing kernel Hilbert space (RKHS) norm of the target function, and propose to combine geometric assumptions together with kernel machines as a promising alternative. Second, we initiate a new research direction by combining kernels with mean field limits as appearing in kinetic theory. Motivated by learning problems on large-scale multiagent systems, we introduce mean field limits of kernels, and provide an extensive theory for the resulting RKHSs. This is used in turn in the analysis of kernel-based statistical learning in the mean field limit, which not only is a novel form of large-scale limit in theoretical machine learning, but provides also a solid foundation for applications in kinetic theory. Finally, using the theory of reproducing kernels, we establish the first existence result for the mean field limit of very general discrete-time multiagent systems, and use this in mean field optimal control. In summary, in this thesis we improve and refine existing uses of kernel methods in systems and control, helping to consolidate the area of learning-based control and pushing it further towards practical applications, and we introduce novel uses of kernels and their theory in systems and control, with many interesting directions for future work.

OpenAccess:
PDF
(additional files)