DFG project G:(GEPRIS)462234017
Meanfield Theorie zur Analysis von Deep Learning Methoden
| Coordinator | Professor Dr. Michael Herty |
| Grant period | 2021 - 2025 |
| Funding body | Deutsche Forschungsgemeinschaft |
| DFG | |
| Identifier | G:(GEPRIS)462234017 |
⇧ SPP 2298: Theoretische Grundlagen von Deep Learning ⇧
Note: Kinetische Theorie hat sich in den letzten Jahren als eine mögliche geeignete mathematische Methode zur hierarchischen Beschreibung einer Vielzahl physikalischer, technischer und soziologischer Prozesse bewährt. Zum Beispiel können strukturbildende Mechanism als Konsequenz interagierender Partikelsysteme mit Hilfe kinetischer Theorie sichtbar und einer mathematischen Analyse zugänglich gemacht werden. Ausgangspunkt dieses Antrags ist die Beobachtung, dass einige moderne Learning Methods, zum Beispiel Deep Residual Neuronal Networks, mathematisch ebenfalls als interagierende Partikelsysteme formuliert werden können. Hierbei bildet der Zustand des Partikels den Aktivierungszustand eines Neurons ab. In diesem Antrag planen wir die existierenden Methoden der kinetischen Gastheorie und insbesondere des sog. Meanfield Grenzwertes zu nutzen, auf die Speizifika der Learning Methods zu adaptieren und zu erweitern, um schließlich eine mathematische Analyse dieser Methoden zu ermöglichen. Der Schwerpunkt der Untersuchung liegt hierbei auf den für einen Meanfield Grenzwert zugänglichen Deep Residual Neuronal Networks und Filtermethoden zum Erlernen von Modellparametern aus (verrauschten) Daten. Die u.U. zu erweiternden Methoden der kinetischen Gastheorie sollen benutzt werden, um an den geeignet und äquivalent reformulierten Dynamiken strukturbildende Mechanism erkennen und analysieren zu können. Neben der Erkenntnis über zugrundeliegende Wirkungsweisen der Lernverfahren ist auch das Ziel damit neue, beweisbar konvergente und stabile Verfahren zu entwickeln. Die herzuleitenden partiellen Differentialgleichungen des Meanfield und/oder kinetischen Grenzwertes sollen hierbei erlauben, die dafür nötige Struktur und Formulierung zu liefern. Beispiele für geplante Beiträge durch diesen Antrag sind schnelle und stabile Verfahren zum Trainieren (und Adaptieren) neuronaler Netze, Studien zur Robustheit im Hinblick auf zum Beispiel unsichere Daten, Fragen der Darstellbarkeit Neuronaler Netze und neue Verfahren für daten-basierte Parameterschätzungen.All known publications ...
Download: BibTeX | EndNote XML, Text | RIS |
Journal Article
Sparse control in microscopic and mean-field leader-follower models
AIMS mathematics 10(8), 19147-19172 (2025) [10.3934/math.2025856]
BibTeX |
EndNote:
XML,
Text |
RIS
Journal Article
Exponential turnpike property for particle systems and mean-field limit
European journal of applied mathematics 36(5), 993-1011 (2025) [10.1017/S0956792524000871]
BibTeX |
EndNote:
XML,
Text |
RIS
Journal Article/Contribution to a book
Recent kernel methods for interacting particle systems: first numerical results
European journal of applied mathematics 36(2), 464-489 (2024) [10.1017/S0956792524000706] special issue: "From integro-differential models to data-oriented approaches for emergent phenomena / Seung-Yeal Ha; Qin Li; Andrea Tosin; Mattia Zanella"
BibTeX |
EndNote:
XML,
Text |
RIS
Journal Article
Data-driven models for traffic flow at junctions
Mathematical methods in the applied sciences 47(11), 8946-8968 (2024) [10.1002/mma.10053]
Files
BibTeX |
EndNote:
XML,
Text |
RIS
Journal Article
The turnpike property for high‐dimensional interacting agent systems in discrete time
Optimal control, applications and methods 45(6), 2557-2571 (2024) [10.1002/oca.3172]
Files
BibTeX |
EndNote:
XML,
Text |
RIS
Journal Article
Robust feedback stabilization of interacting multi-agent systems under uncertainty
Applied mathematics & optimization 89(1), 16 (2024) [10.1007/s00245-023-10078-2]
Files
BibTeX |
EndNote:
XML,
Text |
RIS
Journal Article/Contribution to a book
A Central Scheme for Two Coupled Hyperbolic Systems
Communications on applied mathematics and computation 6(4), 2093-2118 (2023) [10.1007/s42967-023-00306-5] special issue: "Focused Issue in Honor of Prof.Dr. Gerald Warnecke on His 65th Birthday"
Files
BibTeX |
EndNote:
XML,
Text |
RIS
Journal Article/Contribution to a conference proceedings
Lyapunov stabilization of a nonlocal LWR traffic flow model
92. Annual Meeting of the International Association of Applied Mathematics and Mechanics, GAMM 2022, AachenAachen, Germany, 15 Aug 2022 - 19 Aug 2022
Proceedings in applied mathematics and mechanics : PAMM 23(1), e202200084 (2023) [10.1002/pamm.202200084] special issue: "Special Issue: 92nd Annual Meeting of the International Association of Applied Mathematics and Mechanics (GAMM) / Issue Edited by: Ch. Böhm, K. Mang, B. Markert, S. Reese, M. Schmidtchen, J. Waimann, M. Kaliske"
Files
BibTeX |
EndNote:
XML,
Text |
RIS
Journal Article/Contribution to a conference proceedings
Numerical relaxation limit and outgoing edges in a central scheme for networked conservation laws
92. Annual Meeting of the International Association of Applied Mathematics and Mechanics, GAMM 2022, AachenAachen, Germany, 15 Aug 2022 - 19 Aug 2022
Proceedings in applied mathematics and mechanics : PAMM 23(1), e202200150 (2023) [10.1002/pamm.202200150] special issue: "Special Issue: 92nd Annual Meeting of the International Association of Applied Mathematics and Mechanics (GAMM) / Issue Edited by: Ch. Böhm, K. Mang, B. Markert, S. Reese, M. Schmidtchen, J. Waimann, M. Kaliske"
Files
BibTeX |
EndNote:
XML,
Text |
RIS
Journal Article/Contribution to a conference proceedings
Stabilization of a Multi‐Dimensional System of Hyperbolic Balance Laws – A Case Study
92. Annual Meeting of the International Association of Applied Mathematics and Mechanics, GAMM 2022, AachenAachen, Germany, 15 Aug 2022 - 19 Aug 2022
Proceedings in applied mathematics and mechanics : PAMM 22(1), e202200056 (2023) [10.1002/pamm.202200056] special issue: "Special Issue: 92nd Annual Meeting of the International Association of Applied Mathematics and Mechanics (GAMM) / Issue Edited by: Ch. Böhm, K. Mang, B. Markert, S. Reese, M. Schmidtchen, J. Waimann, M. Kaliske"
Files
BibTeX |
EndNote:
XML,
Text |
RIS
All known publications ...
Download: BibTeX | EndNote XML, Text | RIS |