Effizientes Lösen linearer Gleichungssysteme über GF(2) - CDC ...

2.6. OPTIMIERTES PROGRAMMIEREN MIT CUDA 31
Programm erzielt eine deutlich schlechtere Performanz, da sich die Gesamtzeit
durch die Ausführungszeit des zweiten Kernels, sowie die Verzögerungszeit
des globalen Speichers, erhöht. Es empfiehlt sich daher die Verwendung
atomarer Blöcke ohne Kommunikation einzelner Threads. Auch Synchronisationspunkte
können die Ausführung eines Warps verzögern. In diesem Fall
werden Threads bearbeitet, die diese Barriere nicht betrifft.
Die Anzahl der Threads und Blöcke sollten so gewählt werden, dass die
Hardware ausreichend ausgelastet ist. Die Metrik Auslastung besteht aus
dem Verhältnis von aktiven Warps pro Multiprozessor zur maximal möglichen
Menge.
Die Anzahl von Blöcken und Warps die sich zeitgleich auf einem Multiprozessor
befinden können hängt nicht nur von den Beschränkungen der Grafikkarte
ab, sondern auch von den benötigten Ressourcen. Tritt der Fall ein, dass ein
Block das Limit überschreitet, dann wird der Kernel nicht bearbeitet. Die
Menge der benötigten Ressourcen, wie Register und Größe des gemeinsamen
Speichers pro Block, kann berechnet werden.
Berechnung der Anzahl von Warps
Bei Devices mit einer Compute Capability von 1.x wird immer eine gerade
Anzahl von Warps für einen Block zur Verfügung gestellt. Um die Menge
benötigter Warps zu berechnen muss die Anzahl der Threads durch die
Warpgröße geteilt und anschließend auf den nächst höheren geraden Wert
aufgerundet werden.
Berechnung der Anzahl benötigter Register
Einer der Faktoren, welcher den Grad der Auslastung bestimmt, ist die Registerverfügbarkeit.
Alle aktiven Threads eines Multiprozessors müssen sich die
Menge der zur Verfügung stehenden Register teilen. Ist dies nicht möglich, so
sind weniger Blöcke aktiv und es werden gegebenenfalls Daten in den lokalen
Speicher ausgelagert, was zu erheblichen Verzögerungszeiten beim Abruf
führt.
Zuerst wird die Anzahl der Warps mit der Warpgröße sowie der Menge
benötigter Registern pro Thread multipliziert. Grafikkarten mit einer Compute
Capability von 1.0 und 1.1 stellen Register in Gruppen zu 256 Stück
bereit. Bei Devices mit einer Compute Capability von 1.2 und 1.3 bestehen