Methods and Techniques for the Automatic Parallel Code ...

2 Εισαγωγήδοση, κοντά στις θεωρητικά µέγιστες τιµές. Οι συστοιχίες συµµετρικών πολυεπεξεργαστικών στοιχείων(SMP clusters) αποτελούν τον πλέον δηµοϕιλή εκπρόσωπο DSM αρχιτεκτονικής και χρησιµοποιούνταιευρέως σε κέντρα υπερυπολογιστών τόσο για ερευνητικούς όσο και για εµπορικούς σκοπούς. Οι SMPσυστοιχίες συνδυάζουν την επεκτασιµότητα των απλών συστοιχιών, ενώ παρέχουν επιπλέον τη δυνατότηταπολυεπεξεργασίας µέσω µοιραζόµενης µνήµης στο εσωτερικό κάθε κόµβου. Για αυτό το είδοςτων αρχιτεκτονικών, υπάρχει ζωηρό ερευνητικό ενδιαϕέρον όσον αϕορά στη διερεύνηση εναλλακτικώνπαράλληλων προγραµµατιστικών µοντέλων.Παραδοσιακά, το µοντέλο ανταλλαγής µηνυµάτων (message passing model) έχει επικρατήσει ως defacto προσέγγιση παραλληλοποίησης για πληθώρα αρχιτεκτονικών υψηλών επιδόσεων, καθώς επιτυγχάνειυψηλή απόδοση και επεκτασιµότητα (scalability) σε επιχειρησιακές συνθήκες. Ένας σηµαντικόςόγκος επιστηµονικών εϕαρµογών έχει ήδη παραλληλοποιηθεί µε επιτυχία µε τη βοήθεια βιβλιοθηκώνανταλλαγής µηνυµάτων, όπως κυρίως η διεπαϕή Message Passing Interface (MPI) αλλά και λιγότερο ηβιβλιοθήκη Parallel Virtual Machine (PVM), συχνά παρέχοντας γραµµικές ή ακόµα και υπερ-γραµµικές(super-linear) επιταχύνσεις. Μεγάλο ποσοστό του κώδικα που έχει παραλληλοποιηθεί µε το µοντέλοανταλλαγής µηνυµάτων αϕορά αλγορίθµους επαναληπτικής ϕύσεως (iterative algorithms), δηλαδή κατάκανόνα ϕωλιασµένους βρόχους που διατρέχουν ένα χώρο επαναλήψεων εκτελώντας υπολογισµούς.Η παραλληλοποίηση των αλγορίθµων αυτών µέσω ανταλλαγής µηνυµάτων µπορεί να επιτευχθεί βάσεικάποιας στρατηγικής διαµέρισης του χώρου των επαναλήψεων και καταµερισµού της εργασίας. Προςτην κατεύθυνση αυτή ιδιαίτερα χρήσιµος έχει αποδειχθεί ο µετασχηµατισµός υπερκόµβων (tiling transformation),ο οποίος έχει ήδη αποτελέσει αντικείµενο εκτενούς µελέτης στη σύγχρονη διεθνή βιβλιογραϕία.Εντούτοις, σε αρχιτεκτονικές κατανεµηµένης µοιραζόµενης µνήµης ολοένα και συχνότερα εξετάζεταιη χρήση υβριδικών µοντέλων προγραµµατισµού (hybrid programming models). Γενικά, τα υβριδικάµοντέλα διατηρούν την επικοινωνία µέσω ανταλλαγής µηνυµάτων µεταξύ των διαϕορετικών πολυεπεξεργαστικώνκόµβων, αλλά καταϕεύγουν σε πολυνηµατική επεξεργασία µέσω µοιραζόµενης µνήµηςστο εσωτερικό κάθε κόµβου. ∆ιαισθητικά, τα µοντέλα αυτά ϕαίνεται να ταιριάζουν καλύτερα στην υποδοµήτων αρχιτεκτονικών κατανεµηµένης µοιραζόµενης µνήµης απ' ότι τα αντίστοιχα µοντέλα ανταλλαγήςµηνυµάτων, γιατί απαλείϕουν τη χρησιµοποίηση της χρονοβόρας επικοινωνίας µέσω µηνυµάτωνστις περιπτώσεις που υπάρχει η δυνατότητα γρηγορότερης πρόσβασης σε µοιραζόµενο χώρο µνήµης.Όµως, στην πράξη η υβριδική παραλληλοποίηση αποτελεί ανοιχτό ερευνητικό ζήτηµα, καθώς η αξιοποίησητης υϕιστάµενης αρχιτεκτονικής µέσω υβριδικών µοντέλων είναι σύνθετη και µη τετριµµένηδιαδικασία. Έτσι, κατά γενική οµολογία τα υβριδικά µοντέλα παραλληλισµού στην παρούσα ϕάση δενείναι τόσο διαδεδοµένα όσο το σύνηθες προγραµµατιστικό µοντέλο ανταλλαγής µηνυµάτων, που επιπλέονυποστηρίζεται από υψηλά βελτιστοποιηµένες βιβλιοθήκες επικοινωνίας.