Algoritmen en Datastructuren III Partim: Parallelle algoritmen - caagt

22 Hoofdstuk 3. Het netwerkmodel
van deze ene processor een bottleneck voor het ganse netwerk. M.a.w. toppen van grote graad
(processoren met veel incidente communicatiekanalen) kan ook een nadeel zijn.
Als we de connectiviteit willen verbeteren, moeten we communicatiekanalen toevoegen. Wanneer
we alle mogelijke verbindingen toevoegen, dan bekomen we een topologie die correspondeert
met de complete graaf Kn.
Een voordeel van Kn is zijn kleine diameter van 1 en dus het ontbreken van enige bottleneck
in de communicatie tussen processoren. We betalen echter een hoge prijs voor dit netwerk: we
gebruiken n(n − 1)/2 communicatiekanalen om n processoren te verbinden.
Het is dus nuttig om naar intermediaire architecturen te kijken, zoals bomen, rijen, roosters en
hyperkubussen.
De stertopologie is een voorbeeld van een boom, en netwerken worden soms op natuurlijke wijze
op bomen gebaseerd. Denk bijvoorbeeld aan de manier waarop we het maximum berekenden
door gebruik te maken van een binaire boom.
Bomen zijn samenhangend met een minimum aan bogen, hetgeen betekent dat het verwijderen
van een top of een boog hen onmiddellijk niet-samenhangend maakt.
Positief aan bomen is dat er bomen bestaan met toppen van kleine graad en met kleine diameter.
Bijvoorbeeld, een binaire boom, waar elke top hoogstens graad 3 heeft, laat toe om n toppen te
verbinden met een diameter van 2log 2 n.
3.3.2 Rij en ring
Een andere manier om n processoren te verbinden met een klein aantal verbindingen, is de rij
van processoren, en de variant van de ring van processoren. Beiden komen in de praktijk voor;
bijvoorbeeld een Ethernet is een rijtopologie, terwijl een ‘token ring’ een ringtopologie is.
Een rij van processoren bestaat uit p processoren P1,...,Pp die in een lineaire rij verbonden
zijn, m.a.w. Pi is verbonden met de voorgaande processor Pi−1 en met de volgende processor Pi+1
(wanneer die bestaan). De diameter van dergelijke rij is p − 1 en zijn maximumgraad is 2.
Een ring van processoren is een lineaire rij van processoren waarbij de eerste processor P1 ook
met de laatste processor Pp rechtstreeks verbonden is. De diameter van de ring is ⌊p/2⌋ en zijn
maximumgraad is 2.
De connectiviteit van de ringtopologie is lichtjes hoger dan die van de stertopologie en de rijtopologie.
Na het uitvallen van een processor in een ring, is het netwerk nog steeds samenhangend,
m.a.w. elke processor kan communiceren met elke andere processor. Wanneer echter twee nietnaburige
processoren uitvallen, dan is het netwerk niet meer samenhangend.
Een nadeel van zowel rij als ring is het feit dat hun diameter Θ(n) is, waardoor ze enkel bruikbaar
zijn voor kleine waarden van n, zoals in ‘local area’ netwerken (LAN).
Voorbeeld 3.3.1 (Matrix-vector-vermenigvuldiging). Zij gegeven een n × n matrix A en een
vector x van orde n. We behandelen het berekenen van het matrix-vector-product y = Ax op een
ring van p processoren, waarbij p ≤ n. Onderstel dat p een deler van n is, en stel r = n/p.
Algoritmen en Datastructuren III Veerle.Fack@UGent.be