Algoritmen en Datastructuren III Partim: Parallelle algoritmen - caagt

3.3. Interconnectienetwerken 21
van poorten ter beschikking hebben. Elke processor Pi, j heeft twee inputkanalen, komende van
zijn linkerbuur Pi−1, j en van zijn bovenbuur Pi, j−1. Verder heeft Pi, j twee outputkanalen, gaande
naar zijn rechterbuur Pi+1, j en zijn onderbuur Pi, j+1.
Een mogelijk systolisch algoritme bestaat erin de rijen van A synchroon, maar met een verschuiving,
van links naar rechts door de rijen van het rooster te sturen, terwijl de kolommen van B
synchroon, en ook met verschuiving, van boven naar onder door de kolommen van het rooster
gestuurd worden. Wanneer processor Pi, j de inputwaarden Ai,ℓ en Bℓ, j ontvangen heeft, dan berekent
hij Ci, j ← Ci, j +Ai,ℓBℓ, j, en stuurt vervolgens de inputwaarde Ai,ℓ door naar zijn rechterbuur
en de inputwaarde Bℓ, j naar zijn onderbuur. Na O(n) dergelijke stappen bevat elke processor Pi, j
het correcte matrixelement Ci, j van het matrixproduct C = AB.
Het aantal processoren is p = n 2 . De parallelle uitvoeringstijd van dit algoritme is Tp(n) = Θ(n).
De kost van dit algoritme is Cp(n) = Θ(n 3 ).
3.3 Interconnectienetwerken
3.3.1 Netwerktopologieën
Een verzameling processoren met voorgeschreven statische communicatiekanalen wordt een interconnectienetwerk
genoemd. Zoals reeds vermeld kunnen we de communicatiekanalen voorstellen
als bogen in een graaf waarvan de toppen de processoren zijn. We spreken van netwerktopologieën
om bepaalde families van grafen aan te duiden.
Voor het evalueren van netwerktopologieën worden een aantal parameters gebruikt. De grootste
afstand tussen twee processoren in het netwerk noemen we de diameter van het netwerk.
Een kleine diameter in het netwerk betekent doorgaans snelle communicatie. De graad van
een processor is het aantal communicatiekanalen van de processoren; de grootste graad van een
processor in het netwerk wordt ook wel de graad van het netwerk genoemd. De connectiviteit
van het netwerk is het kleinste aantal toppen of bogen waarvan de verwijdering het netwerk
niet-samenhangend maakt.
Bijvoorbeeld, we kunnen de processoren verbinden in de stertopologie, waarbij alle processoren
verbonden zijn met één centrale processor. In de stertopologie is elke processor hoogstens twee
stappen verwijderd van elke andere processor. De stertopologie heeft diameter 2. Bovendien
gebruikt de stertopologie slechts n communicatiekanalen om n + 1 processoren te verbinden,
hetgeen het minimum is.
Een negatief punt is dat de stertopologie een zeer lage connectiviteit heeft: het uitvallen van één
enkele processor (nl. de centrale processor) verbreekt het ganse netwerk en maakt communicatie
tussen alle andere processoren onmogelijk. Dergelijk gedrag is in vele situaties ontoelaatbaar;
denk bijvoorbeeld aan het uitvallen van het Internet door het uitvallen van één enkele machine.
Een ander probleem ontstaat wanneer teveel processoren terzelfdertijd proberen te communiceren.
Aangezien alle communicatie door de centrale processor moet gebeuren, is de snelheid
Algoritmen en Datastructuren III Veerle.Fack@UGent.be