inleiding tot de numerieke wiskunde - Mathematisch Instituut Leiden ...

14 1.7 Vectorcomputers en parallelle computers
De som van twee vectoren x en y (x, y ∈ R n met componenten respectievelijk ξ1, ξ2, . . . , ξn en
η1, η2, . . . , ηn) wordt nu als volgt bepaald:
1. Deeloperatie D1 start met het paar (ξ1, η1).
2. Na één klokcyclus is D1 voltooid. Nu start D2 met het resultaat van D1 en start D1 met het
paar (ξ2, η2).
3. Na weer een klokcyclus zijn D1 en D2 klaar. Nu start D3 met het resultaat van D2, start D2
met het resultaat van D1 en start D1 met het paar (ξ3, η3).
4. Na de derde klokcyclus zijn D1, D2 en D3 voltooid. Nu starten D4, D3 en D2 met de resultaten
van resp. D3, D2 en D1 en start D1 met het paar (ξ4, η4).
5. Na de vierde klokcyclus zijn D1, D2, D3 en D4 klaar. De som van ξ1 en η1 is bepaald en D4,
D3 en D2 starten met de resultaten van resp. D3, D2 en D1. D1 start met het paar (ξ5, η5).
Enzovoorts.
Na iedere klokcyclus is weer een som van twee componenten bepaald. De som van de twee vectoren
x en y wordt zodoende in n + 3 klokcycli berekend. Vergeleken met een ‘gewone’ (sequentiële)
computer is dit dus ongeveer vier maal zo snel.
1.7.2 Parallelle computers
Sommige algoritmen bevatten veel berekeningen die onderling onafhankelijk zijn. Zulke algoritmen
zijn uitermate geschikt om te worden uitgevoerd op een parallelle computer. Zo’n computer beschikt
over een aantal, van elkaar onafhankelijke, processoren, die gegevens met een centraal geheugen (of
met elkaar) kunnen uitwisselen.
Voorbeeld 1.12 Zij gegeven de matrix A = (ai,j) ∈ R n,n en de vector b = (βi) ∈ R n . Gevraagd
wordt het product c = (γi) = A b ∈ R n te berekenen.
Neem aan dat de parallelle computer, die we gebruiken, over p = n processoren beschikt. Elke
processor kan dan precies één component γi van c berekenen. De i-de processor voert de volgende
algoritme uit:
1. s := 0
2. for j := 1 to n do s := s + ai,j × βj
3. γi := s
Elke processor moet dus dezelfde hoeveelheid rekenwerk uitvoeren. Vergelijken we deze wijze van
berekening van c met de berekening van c op een sequentiële computer, dan zien we dat de berekening
op de parallelle computer p maal zo snel verloopt als op een computer met slechts één
processor.
In voorbeeld 1.12 hebben we geen rekening gehouden met de tijd die per processor nodig is voor het
ophalen van elementen van A en b uit het centrale geheugen. Op veel parallelle computers gebeurt
het verzenden van data in eenheden van zgn. packets. Een packet kan een beperkt aantal reële
getallen bevatten, b.v. 64. Het verzenden van één reëel getal kost dan evenveel als het versturen
van 64 getallen. Het is derhalve zinvol voorbeeld 1.12 als volgt te generaliseren.
Voorbeeld 1.13 Zij gegeven de matrix A ∈ R n,n en de vector b ∈ R n . Gevraagd wordt het
product c = A b te berekenen.
Neem aan dat de parallelle computer, die we gebruiken, over p = n
k
processoren beschikt.