Σχεδιασμός ενσωματωμένων συστημάτων σε πλατφόρμες πολλαπλών επεξεργαστών για δυναμικές εφαρμογές

Abstract

The next generation of embedded systems will be dominated by the presence of mobile devices able to deliver rich communication and multimedia services everywhere and anytime. On the software side, such applications are composed into multiple threads of execution and heavily rely on the usage of dynamic data in order to adapt to the dynamic constraints of the user and the environment. On the hardware side, embedded systems will use a multitude of processing cores and memory modules. One of the components that play a key role in the energy consumption of embedded systems is the memory one. Data storage as well as the dynamic allocation, deallocation and accesses greatly affect the performance and energy consumption of the system. Furthermore, the designers have to find a solution on how to design the on-chip interconnection among the components in order to communicate efficiently. Additionally, the emerging 3-D process and integration technologies introduce new challenges to the embedded systems design space. The methodologies and tools developed in this Thesis target the efficient utilization of the available memory components when the embedded system executes dynamic multi-threaded applications. In more detail, the first step that the designer has to perform is to characterize the dynamic behaviour of software applications with special emphasis on dynamic data usage. To this end, I have developed the software metadata structure, which is used to represent such behaviour. The appropriate tools for profiling and analysis have been developed allowing the easy construction of the software metadata structure. Additionally, I have developed new methodologies for dynamic data block transfers and dynamic data assignment, which heavily rely on the software metadata information. The most important benefit from the development of the software metadata is that it enabled the unification of separate dynamic data management methodologies into a design flow. Another aspect of software metadata usage is that when combined with vertical interconnection patterns allowed us to explore three-dimensional Network-on-Chip architectures. Such architectures offer an efficient on-chip interconnection network, able to support the big number of on-chip components. To this end, I have developed a high-level Network-on-Chip simulator, triggered by synthetic and real-application inputs. Additionally, I have linked the simulator to a physical prototyping EDA tool, thus being able to get accurate estimation on the length and the energy consumption of the on-chip interconnect from early design steps. Summarizing, the results presented in this Research Thesis offer solutions that tackle the problems of: a) characterizing the behaviour of dynamic multi-threaded application; b) dynamic data management and c) exploration of alternative three-dimensional Network-on-Chip architectures.

Η επόµενη γενιά ενσωµατωµένων συστηµάτων θα κυριαρχείται από φορητές συσκευές, ικανές να προσφέρουν πλούσιες υπηρεσίες επικοινωνιών και πολυµέσων σε οποιαδήποτε περιοχή και στιγµή. Τέτοιου τύπου εφαρµογές χρησιµοποιούν πολλαπλά νήµατα εκτέλεσης και χειρίζονται δυναµικά δεδοµένα έτσι ώστε να ανταποκρίνονται καλύτερα στις δυναµικές απαιτήσεις του χρήστη αλλά και τις δυναµικές συνθήκες του περιβάλλοντος λειτουργίας. Για την παροχή υψηλής ποιότητας υπηρεσιών τα ενσωµατωµένα συστήµατα θα απαρτίζονται από πολλαπλά επεξεργαστικά στοιχεία και αρθρώµατα µνήµης. Ένα από τα κύρια σηµεία των ενσωµατωµένων συστηµάτων που παίζει σηµαντικό ρόλο στις επιδόσεις και την κατανάλωση ενέργειας είναι το υποσύστηµα µνήµης. Η αποθήκευση των δεδοµένων καθώς και ο δυναµικός τρόπος δέσµευσης, αποδέσµευσης και πρόσβασης σε αυτά καθορίζουν σε πολύ µεγάλο βαθµό τις επιδόσεις και την κατανάλωση ενέργειας του ενσωµατωµένου συστήµατος. Ένα άλλο σηµαντικό σηµείο είναι ο τρόπος διασύνδεσης των αρθρωµάτων του συστήµατος µεταξύ τους. Επιπλέον, νέες τεχνολογίες κατασκευής, όπως είναι η τρισδιάστατη ολοκλήρωση, φέρνουν νέες προκλήσεις στο σχεδιασµό των ενσωµατωµένων συστηµάτων. Οι µεθοδολογίες και τα εργαλεία λογισµικού που αναπτύχθηκαν στο πλαίσιο της Διδακτορικής Διατριβής έχουν ως στόχο την αξιοποίηση των διαθέσιµων πόρων µνήµης του ενσωµατωµένου συστήµατος όταν αυτό εκτελεί δυναµικές εφαρµογές µε πολλαπλά νήµατα επεξεργασίας. Πιο συγκεκριµένα, το πρώτο βήµα που πρέπει να κάνει ο σχεδιαστής είναι ο χαρακτηρισµός της (δυναµικής) συµπεριφοράς των εφαρµογών λογισµικού όσον αφορά τις προσβάσεις στα δυναµικά δεδοµένα. Για το σκοπό αυτό ανέπτυξα τη δοµή των µεταδεδοµένων λογισµικού, η οποία είναι ικανή να απεικονίσει τη συµπεριφορά δυναµικών εφαρµογών. Για την εξαγωγή των µεταδεδοµένων λογισµικού ανέπτυξα εργαλεία λογισµικού που χρησιµοποιούνται για τις εργασίες της σκιαγράφησης και ανάλυσης των δυναµικών εφαρµογών. Η ύπαρξη των µεταδεδοµένων λογισµικού βοήθησε στην ανάπτυξη των µεθοδολογιών αναγνώρισης µπλοκ µεταφορών δεδοµένων και εκχώρησης των δυναµικών δεδοµένων στο υποσύστηµα µνήµης. Αλλά, το µεγαλύτερο όφελος που πρόσφερε η ανάπτυξη των µεταδεδοµένων λογισµικού είναι ότι επέτρεψαν την ενοποίηση µεθοδολογιών διαχείρισης δυναµικών δεδοµένων σε µια ενιαία ροή σχεδιασµού για πρώτη φορά. Μια άλλη εφαρµογή των µεταδεδοµένων λογισµικού είναι ότι σε συνδυασµό µε τα µοτίβα κάθετης διασυνδεσιµότητας επέτρεψαν τη συστηµατική διερεύνηση τρισδιάστατων αρχιτεκτονικών Δικτύου-σε- Πυρίτιο. Αρχιτεκτονικές τέτοιου τύπου είναι ικανές να παρέχουν µια αποδοτική διασύνδεση στο µεγάλο αριθµό αρθρωµάτων που θα έχουν τα µελλοντικά ενσωµατωµένα συστήµατα. Για τους σκοπούς αυτής της διερεύνησης ανέπτυξα έναν προσοµοιωτή υψηλού επιπέδου, ο οποίος δέχεται συνθετικές αλλά και πραγµατικές εισόδους. Επιπλέον, πραγµατοποιήθηκε η σύνδεση του προσοµοιωτή µε εργαλείο φυσικής προτυποποίησης, παρέχοντας τη δυνατότητα ακριβής εκτίµησης του µήκους και της κατανάλωσης ενέργειας του δικτύου διασύνδεσης από τα αρχικά βήµατα του σχεδιασµού. Συνοπτικά, τα ερευνητικά αποτελέσµατα που παρουσιάζονται στην παρούσα Διδακτορική Διατριβή παρέχουν λύσεις που αφορούν το χαρακτηρισµό της συµπεριφοράς δυναµικών πολυνηµατικών εφαρµογών, τη δυναµική διαχείριση δεδοµένων αλλά και το σχεδιασµό εναλλακτικών τρισδιάστατων αρχιτεκτονικών Δικτύου-σε- Πυρίτιο.