Loadbalancing auf Parallelrechnern mit Hilfe endlicher Dimension ...

3 Dimension-Exchange-Verfahren‖x(α)‖ 2‖x min ‖ 2T 8, DE-OPT21.81.61.41.210 0.2 0.4 0.6 0.8 1α‖x(α)‖ 2‖x min ‖ 2T 8, SDE-OPT21.81.61.41.210 0.2 0.4 0.6 0.8 1αAbbildung 3.7: l 2 -Norm des Flusses in Abhängigkeit von α am Beispiel eines 8 × 8-Torusmit zufälligem w 0 (minimaler Fluss = 1)3.7.1 Vorwärts und rückwärtsEs ist zu beobachten, dass die einzelnen Komponenten des Flusses davon abhängig sind,in welcher Reihenfolge die einzelnen Teilschritte und damit die Farben abgearbeitetwerden.Als einfaches Beispiel hierzu wird der Hypercube H 2 betrachtet, bei dem anfangs einKnoten die Last 4 und die drei übrigen die Last 0 haben. Abhängig davon, ob man mitden waagerechten oder den senkrechten Kanten beginnt, erhält man zwei verschiedeneFlüsse x 1 und x 2 , beide mit Norm √ 6. Der Fluss x = 1 (2 x 1 + x 2) , der sich als Mittelwertder anderen beiden ergibt, hat eine geringere und in diesem Beispiel sogar minimaleNorm, nämlich √ 5. Vergleiche hierzu Abbildung 3.8.Dieses bislang für einen Spezialfall beschriebene Vorgehen lässt sich problemlos auf beliebigeGraphen übertragen. Das DE-OPS- bzw. DE-OPT-Verfahren wird zweimal durchgeführt,wobei die Farben einmal immer vorwärts und einmal rückwärts durchlaufenwerden, anschließend wird der Mittelwert der beiden so bestimmten Flüsse berechnet.Die Korrektheit dieses neuen, mit DE-OPSfb bzw. DE-OPTfb (forward-backward) bezeichnetenVerfahrens ist durch Satz 3.24 sichergestellt. Die Matrizen M c · · · M 1 = M DEund M 1 · · · M c = M DET haben dieselben Eigenwerte, denn die Diffusionsmatrizen M isind symmetrisch. Der Kommunikationsaufwand ist sicherlich nicht höher als für SDE-OPX, wo ja pro Schritt auch alle Farben zweimal (vorwärts und rückwärts) durchlaufenwerden. Weitere Details zur Implementierung werden in Abschnitt 5.3 gegeben.3.7.2 Zyklisches Durchlaufen der FarbenDie zweite Variante nutzt aus, dass alle Matrizen der Form M j−1 · · · M 1 · M c · · · M j fürj ∈ {2, . . . , c} dieselben Eigenwerte haben wie M DE = M c · · · M 1 . Das DE-OPX-Verfahrenwird nun für jede dieser insgesamt c Matrizen einmal durchgeführt, anschließend wirdder Mittelwert aller Flüsse bestimmt. Das gesamte, mit DE-OPXcc (color cycling) bezeichneteVerfahren hat zwar den c-fachen Rechenaufwand verglichen mit DE-OPX, derKommunikationsaufwand erhöht sich dagegen nur um c − 1 Schritte. Erreicht wird diesdadurch, dass die Einzelrechnungen jeweils um einen Teilschritt versetzt gestartet werden,vergleiche Abbildung 3.9. Da die Anzahl der Rechen- und Kommunikationsopera-66