Effizientes Lösen linearer Gleichungssysteme über GF(2) - CDC ...

2.3. PARALLELE PROGRAMMIERUNG 9
Bei einer Grafikkarte werden immer 32 Threads zusammengefasst und bilden
die kleinste ausführbare Einheit namens Warp. Je nach GPU können auf
einem Multiprozessor bis zu 32 dieser Warps, also insgesamt 1024 Prozesse,
aktiv sein. Devices, wie beispielsweise die verwendete GeForce GTX 295,
verfügen über 30 Multiprozessoren, was zu mehr als 30000 Threads führt.
Im Gegensatz zur CPU ist die Erzeugung eines Threads auf der Grafikkarte
kein deutlicher Mehraufwand, da es sich um leichtgewichtige Objekte handelt.
Es muss sogar eine Mindestmenge verwendet werden, damit die GPU effizient
arbeiten kann. Die Warps werden vom Warp Scheduler verwaltet (Siehe auch
2.5.2 und 2.5.3 ). Wenn ein Warp warten muss, weil dieser beispielsweise Daten
aus dem globalen Speicher angefordert hat, dann beginnt der Prozessor
solange die Arbeit an einem anderen, dessen Prozesse bereit sind ihre Anweisungen
abzuarbeiten. Auf diese Weise ist es möglich die Verzögerungszeiten,
welche beim Zugriff auf den Speicher entstehen, zu verbergen (Siehe auch
Kapitel 2.6). Jeder Thread verfügt über seine eignen Register, was es nicht,
wie bei der CPU, nötig macht den Kontext auszutauschen. Die Ressourcen
werden ihm so lange zur Verfügung gestellt, bis seine Arbeit beendet ist.
Ein weiterer Unterschied zwischen Host und Device besteht im Zugriff auf
den Speicher. Bei der CPU werden viele Transistoren für Steuerungsaufgaben
und Caching verwendet, während auf der GPU die Verzögerungszeit, welche
beim Zugriff auf den Speicher entsteht, durch Berechnungen ausgeglichen
wird, deren Durchführung in der Wartezeit möglich ist.
Des Weiteren unterscheiden sich Host und Device in ihrer Architektur. Genauere
Informationen darüber werden in Kapitel 2.5 gegeben.
2.3.2 Threads, Blöcke und Grids
Den parallelen Teil der Berechnungen bearbeiten so genannten Kernel. Diese
werden n-mal von n verschiedenen Threads ausgeführt. Jeder Thread befindet
sich in genau einem Block und jeder Block enthält mehrere Threads.
Ein Block ist Element eines Grids, welches wiederum über mehrere Blöcke
verfügt. Ein Kernel wird von allen Threads eines Grids bearbeitet und es ist
möglich die Größe sowie die Dimension des Grids und der Blöcke beim Kernel-
Aufruf zu setzen. Jeder Multiprozessor führt anschließend so viele Blöcke wie
möglich gleichzeitig aus. Diese Hierarchie soll die Organisation des parallelen
Arbeitens auf Datenelementen wie Vektoren, Matrizen oder Räumen vereinfachen.
Daher ist es möglich über eine Variable in jedem Thread bzw. Block