Balance timing heuristics for dynamic load balancing

Halfen, Cedric; Dollenbacher, Tobias Werner; Lankes, Stefan; Müller, Matthias S.

doi:10.18154/RWTH-2026-09500

Balance timing heuristics for dynamic load balancing = Heuristiken für Balancierungszeitpunkte in dynamischer Lastbalancierung

Halfen, Cedric^RWTH*

2026

VerantwortlichkeitsangabeCedric Halfen

ImpressumAachen : RWTH Aachen University 2026

Umfang1 Online-Ressource : Illustrationen

Bachelorarbeit, RWTH Aachen University, 2026

Veröffentlicht auf dem Publikationsserver der RWTH Aachen University

Genehmigende Fakultät
Fak09

Hauptberichter/Gutachter
Müller, Matthias S. (Thesis advisor)^RWTH* ; Lankes, Stefan (Thesis advisor)^RWTH* ; Dollenbacher, Tobias Werner (Consultant)^RWTH*

Tag der mündlichen Prüfung/Habilitation
2026-10-07

Online
DOI: 10.18154/RWTH-2026-09500
URL: https://publications.rwth-aachen.de/record/1042716/files/1042716.pdf

Einrichtungen

Thematische Einordnung (Klassifikation)
DDC: 004

Kurzfassung
Moderne Hochleistungsrechneranwendungen (HPC) nutzen in der Regel einen hybriden Ansatz aus Message Passing Interface (MPI) und OpenMP, um eine parallele Ausführung zu erreichen. Die Parallelisierung von Anwendungen bringt jedoch häufig zahlreiche Herausforderungen mit sich. Eine häufige Herausforderung ist der Lastausgleich. Der Lastausgleich ist notwendig, da eine unausgewogene Rechenlast zu einer verlängerten Laufzeit und einer Verschwendung von Rechenressourcen führt. Dennoch kann es schwierig und zeitaufwändig sein, einen effektiven Lastausgleich zu erreichen. Um dies zu erleichtern, wurden Ansätze entwickelt, die unabhängig von der Anwendung fungieren können. Diese Ansätze erfordern jedoch oft immer noch eine Anpassung der Anwendung. Um diesen Aufwand zu reduzieren, wurde ein Ansatz zur automatischen Lastverteilung entwickelt, der auf der Dynamic Core Binding(DCB)-Bibliothek und dem On-the-fly critical-path-tool (OTF-CPT) basiert. Dieser Ansatz gleicht Lastungleichgewichte aus, indem er Prozessen auf demselben Knoten eine neue Anzahl an Kernen zuweist. Somit sind keine Anpassungen an der Anwendung erforderlich. Im Mittelpunkt dieser Arbeit steht die Verbesserung der Fähigkeit zur Lastbalancierung des Tools durch die Einführung zusätzlicher Heuristiken. Diese Heuristiken zielen darauf ab, den Overhead des Tools zu reduzieren und dessen Fähigkeit zur Lastbalancierung zu steigern. Darüber hinaus erweitere ich das Tool so, dass es durch die Verringerung von Lastungleichgewichten automatisch den Energieverbrauch statt der Laufzeit reduziert. Außerdem bewerte ich die Fähigkeit des Tools zur Lastbalancierung anhand selbst erstellter Testfälle sowie zweier Proxy- und zweier HPC-Anwendungen. Die Auswertung zeigt, dass das Tool in der Lage ist sowohl die Laufzeit als auch den Energieverbrauch zu senken. Jedoch hängt seine Wirksamkeit von der Anwendungsstruktur sowie von der Anzahl der pro Knoten verwendeten Prozesse und Threads ab.

Modern high-performance computing (HPC) applications typically use a hybrid Message Passing Interface (MPI) and OpenMP approach to achieve parallel execution. However, parallelizing applications often presents multiple challenges. One common challenge is load balancing. Load balancing is necessary because an imbalanced load results in an increased runtime and wasted compute resources. Nevertheless, achieving effective load balancing can be challenging and time-consuming. To facilitate this, application-independent approaches are available. However, these approaches often still require application modification. To reduce this effort an automatic load balancing approach was developed based on the Dynamic CoreBinding (DCB) library and the On-the-fly critical-path tool (OTF-CPT). This approach mitigates load imbalances by reassigning cores to processes on the same node. Thus, it does not require application modification. This thesis focuses on improving the balancing performance of the tool by introducing additional heuristics. These heuristics aim to reduce the tool’s overhead and enhance its balancing performance. Additionally, I extend the tool to automatically reduce energy consumption rather than runtime by reducing load imbalances. Furthermore, I evaluate the tool’s balancing performance using self-written test cases, as well as two proxy and two HPC applications. The evaluation proves the tool’s ability to reduce both runtime and energy consumption; however, its effectiveness depends on the application structure, as well as the number of processes and threads used per node.

OpenAccess:
PDF
(additional files)