Algoritmen en Datastructuren III Partim: Parallelle algoritmen - caagt

10 Hoofdstuk 2. Het gedeelde-geheugenmodel
de som z (1) + ···+ z (r) vooraleer gegarandeerd is dat alle processoren de berekening van hun z (i)
beëindigd hebben. Er is m.a.w. een expliciete synchronisatie nodig: het programma van elke
processor moet een synchronisatiepunt bevatten na de berekening van z (i) = A (i) x (i) , om ervoor
te zorgen dat de processoren synchroniseren vooraleer verder te gaan met de uitvoering van het
programma.
2.2 De Parallel Random-Access Machine (PRAM)
In deze paragraaf concentreren we ons op de Parallel Access-Random Machine (PRAM), die
zowat het standaardmodel voor parallelle algoritmen in het gedeelde-geheugenmodel geworden
is. Dit model veralgemeent de Random-Access Machine (RAM), het model dat voor sequentiële
algoritmen gebruikt wordt. We beschrijven beide modellen hier, zonder echter een precieze
formele definitie te geven.
2.2.1 Het PRAM-model
Het RAM-model bestaat uit een centrale verwerkingseenheid (CPU) met een random-accessgeheugen
eraan verbonden. De CPU kan rekenkundige en logische bewerkingen uitvoeren op
een set registers, waarvan de inhoud kan worden geladen uit en geschreven naar het geheugen
via random-access-adressering. Elke bewerking vereist één tijdseenheid.
Het PRAM-model bestaat uit meerdere RAM-processoren, met één extra gedeeld random-accessgeheugen,
waartoe alle processoren toegang hebben. De processoren zijn gesynchroniseerd
door een globale klok, en elke processor voert één stap uit tijdens elke klokcyclus.
Algoritmen ontwikkeld in het PRAM-model zijn meestal van het type single instruction multiple
data (SIMD). Dit betekent dat alle processoren hetzelfde programma uitvoeren, zodanig
dat, op elke tijdseenheid, de actieve processoren dezelfde instructie uitvoeren, doorgaans wel
op verschillende data. Merk echter op dat deze beperking niet inherent door het PRAM-model
zelf opgelegd wordt. Het PRAM-model laat toe om verschillende programma’s op verschillende
processoren uit te voeren, uiteraard op voorwaarde dat de processoren synchroon kunnen werken.
Aan de pseudocode voegen we nu ook een parallelle lus toe, die zal toelaten om een blok code
in parallel op meerdere processoren uit te voeren:
for i from 1 to n pardo
{Blok code}
Hierbij wordt het aantal gebruikte processoren niet nader gespecificeerd, en wordt impliciet verondersteld
dat hun aantal onbeperkt is. De parallelle tijd nodig om deze lus uit te voeren is het
maximum van de tijd gebruikt in één van de n stappen (in plaats van de som, zoals het op een
sequentiële machine zou zijn). De kost is het aantal stappen in de lus, maal de kost van één stap.
Voorbeeld 2.2.1. Beschouw het initialiseren van elk element van een array met een waarde. Gebruik
makend van p = n processoren kan dit met een factor n worden versneld:
Algoritmen en Datastructuren III Veerle.Fack@UGent.be