1.2 Παράλληλα Υπολογιστικά Συστήματα

Επόμενο:1.3 Αρχιτεκτονική Παράλληλων Συστημάτων Διαμοιραζόμενης Μνήμης Πάνω: Κεφάλαιο 1ο: Γιατί Παράλληλος Προγραμματισμός ; Πίσω:1.1 Σειριακή εναντίον Παράλληλης Επεξεργασίας

1.2 Παράλληλα Υπολογιστικά Συστήματα

Μετά από 40 χρόνια πλήρους ενασχόλησης με το σειριακό προγραμματισμό, η επιστήμη των υπολογιστών άρχισε να αναγνωρίζει τη σημασία του παράλληλου προγραμματισμού. Παρόλο που τα προγράμματα είναι σειριακά (μια ακολουθία πράξεων), τρομακτικές αυξήσεις στην υπολογιστική ισχύ επιτεύχθηκαν κάνοντας την εκτέλεση μιας ακολουθίας εντολών ολοένα και πιο γρήγορη. Το 1945 ο πρώτος ηλεκτρονικός επεξεργαστής στον υπολογιστή ENIAC μπορούσε να εκτελέσει 1000 αριθμητικές πράξεις ανά δευτερόλεπτο. Οι συμβατικοί υπολογιστές RISC (επεξεργαστές μειωμένου σετ εντολών) μπορούν σήμερα να εκτελέσουν 10 εκατομμύρια αριθμητικών πράξεων ανά δευτερόλεπτο. Αυτοί οι επεξεργαστές είναι κατά βάση ακόμα σειριακοί αλλά η ακολουθία είναι τώρα 10⁴ πιο γρήγορη απ’ ότι ήταν πριν 40 χρόνια. Η αύξηση της ταχύτητας των επεξεργαστών αναμένεται να συνεχιστεί, αλλά μάλλον με ρυθμούς μικρότερους σε σχέση με το παρελθόν.

Παρόλη την συνεχώς αυξανόμενη υπολογιστική ισχύ των επεξεργαστών VLSI, υπάρχει μια ευρεία περιοχή σημαντικών επιστημονικών προβλημάτων που απαιτούν πολύ μεγαλύτερη υπολογιστική ταχύτητα. Μάλιστα σε ορισμένες περιπτώσεις η διαφορά της επιπλέον υπολογιστικής ισχύος που απαιτείται, αγγίζει τα όρια αρκετά μεγάλων τάξεων μεγέθους. Παραδείγματα τέτοιων γνωστικών περιοχών είναι η αεροδυναμική, η πρόγνωση καιρού, η μοριακή φυσική, η επεξεργασία εικόνων στα γραφικά υπολογιστών, η προσομοίωση χημικών αντιδράσεων και η προσομοίωση νευρωνικών δικτύων στη βιολογία. Ένα τυπικό παράδειγμα είναι οι εξισώσεις Navier-Stokes, που χρησιμοποιούνται στο σχεδιασμό αεροσκαφών. Η επίλυση τους τώρα καθίσταται δυνατή μόνο με τους πιο δυνατούς Η/Υ και η λύση που επιτυγχάνεται είναι προσεγγιστική. Αυτή τη στιγμή υπολογιστές από 10 φορές έως και 100 φορές πιο γρήγοροι απαιτούνται αυτή τη στιγμή στα παραπάνω επιστημονικά επίπεδα.

Στη δημιουργία κινούμενων εικόνων (animation), η τεχνική της ‘’ανίχνευσης ακτινών’’ (ray tracing), που παράγει τις καλύτερες ποιοτικά εικόνες, συνήθως δεν χρησιμοποιείται γιατί οι απαιτήσεις σε υπολογισμούς είναι μεγάλες ακόμα και για τα πιο γρήγορα συστήματα. Άλλο ένα παράδειγμα αυξημένης υπολογιστικής ισχύος μπορεί να βρεθεί στον κλάδο της μοριακής φυσικής. Οι σύγχρονες θεωρίες σχετικά με τα σωματίδια του πυρήνα περιέχουν εξισώσεις που προβλέπουν την ύπαρξη ενός συγκεκριμένου υποσωματιδίου που ονομάζεται ‘’κουάρκ’’. Η επίλυση τέτοιων εξισώσεων απαιτεί τόσους πολλούς υπολογισμούς που ακόμα και ο πιο γρήγορος υπολογιστής διαθέσιμος σήμερα χρειάζεται ένα ολόκληρο χρόνο.

Μια προσέγγιση για τη δημιουργία της αναγκαίας υπολογιστικής ισχύος είναι η σχεδίαση ταχύτατων ειδικών σειριακών επεξεργαστών με τη κατασκευή μεγάλου αριθμού κυκλωμάτων VLSI. Ωστόσο η σχεδίαση και η κατασκευή αυτών των ειδικών επεξεργαστών είναι ιδιαίτερα δαπανηρή. Περίπου πριν από 10 χρόνια, οι κατασκευαστές επεξεργαστών διαπίστωσαν, ότι είναι οικονομικά προτιμότερη η σύνδεση πολλών απλών VLSI επεξεργαστών σε έναν υπολογιστή, από τη σχεδίαση ενός καινούργιου επεξεργαστή για ειδικούς σκοπούς. Αν κάποιος χρειάζεται 10 φορές περισσότερη υπολογιστική ισχύ, τότε μπορεί να χρησιμοποιήσει 10 επεξεργαστές, ενώ αν θέλει 100 φορές περισσότερη ισχύ θα χρησιμοποιήσει 100 επεξεργαστές. Αυτό αποτέλεσε την εμπορική εισαγωγή σε ευρεία βάση των συστημάτων διαμοιραζόμενης μνήμης.

Καθώς αναπτύσσεται κάθε νέα γενιά ταχύτερων σειριακών επεξεργαστών, αυτοί μπορούν να συνδεθούν σε μεγάλους αριθμούς αυξάνοντας την ισχύ τέτοιων συστημάτων στο επιθυμητό επίπεδο. Κατά αυτόν τον τρόπο η παράλληλη επεξεργασία δεν έρχεται σε σύγκρουση με τη σειριακή αλλά λειτουργούν μαζί στο ίδιο υπολογιστικό σύστημα. Η πρόοδος στη σχεδίαση ταχύτερων VLSI επεξεργαστών θα δημιουργήσει ταχύτερα και πιο δυνατά παράλληλα συστήματα. Οι εταιρείες που παράγουν παράλληλα συστήματα όπως ΙΒΜ συνεχίζουν να ενσωματώνουν τους τελευταίας γενιάς πανίσχυρους σειριακούς επεξεργαστές στα συστήματα τους. Ακόμα και τα κυκλώματα ανυσματικής επεξεργασίας, που είναι σε μεγάλο βαθμό παράλληλα, συνδέονται σε μεγάλους αριθμούς σε τέτοιου είδους συστήματα. Η εξέλιξη στην τεχνολογία κυκλωμάτων θα συνεχίσει να τροφοδοτεί την εξέλιξη παράλληλων συστημάτων πολυεπεξεργαστών.