Enabling behavior-based energy consumption and memory footprint optimizations in native contexts

Abstract

Computers control a large part of modern life despite being a (very) small part of history. And while exotic new applications such as ChatGPT attract most of the interest from both consumers and practitioners, the first principles underlying our world’s digital infrastructure remain timeless. This thesis studies the following such principles through the lens of energy consumption and memory footprint: (i) a central aspect of program behavior is its dynamic requests for memory, (ii) approximately optimal solutions to memory allocation can be computed offline and (iii) software is the result of iterative decision-making over source code transformations.Along the way, we make a series of original contributions. We show the complex impact that specific dynamic memory allocation implementations have on the extremely popular Python programming language; we describe a principled methodology for capturing program-allocator interaction and quantifying memory fragmentation; we contribute a static memory planning implementation outperforming the SOTA in a wide range of heavyweight, challenging benchmarks; and we demonstrate a flexible, agnostic framework for improving software.

Οι υπολογιστές ελέγχουν ένα μεγάλο μέρος της σύγχρονης ζωής, παρόλο που αποτελούν ένα (πολύ) μικρό μέρος της ιστορίας. Και ενώ καινοτόμες νέες εφαρμογές όπως το ChatGPT συγκεντρώνουν το μεγαλύτερο ενδιαφέρον τόσο των καταναλωτών όσο και των επαγγελματιών του χώρου, οι θεμελιώδεις αρχές στις οποίες βασίζεται η παγκόσμια ψηφιακή υποδομή παραμένουν διαχρονικές. Η παρούσα διατριβή μελετά τις ακόλουθες θεμελιώδεις αρχές υπό το πρίσμα της ενεργειακής κατανάλωσης και του αποτυπώματος μνήμης: (i) μια κεντρική πτυχή της συμπεριφοράς ενός προγράμματος είναι οι δυναμικές αιτήσεις του για μνήμη, (ii) προσεγγιστικά βέλτιστες λύσεις για την κατανομή μνήμης μπορούν να υπολογιστούν εκ των υστέρων (offline) και (iii) το λογισμικό αποτελεί προϊόν επαναληπτικής λήψης αποφάσεων επί μετασχηματισμών του πηγαίου κώδικα. Στο πλαίσιο αυτό, παρουσιάζουμε μια σειρά από πρωτότυπες συνεισφορές. Αναδεικνύουμε την περίπλοκη επίδραση που έχουν συγκεκριμένες υλοποιήσεις δυναμικής κατανομής μνήμης στην εξαιρετικά δημοφιλή γλώσσα προγραμματισμού Python· περιγράφουμε μια θεμελιωμένη μεθοδολογία για την αποτύπωση της αλληλεπίδρασης μεταξύ προγράμματος και κατανεμητή μνήμης (allocator) και την ποσοτικοποίηση του κατακερματισμού της μνήμης· παρουσιάζουμε μια υλοποίηση στατικού σχεδιασμού μνήμης με επιδόσεις που υπερβαίνουν την τεχνολογία αιχμής (State-Of-The-Art) σε ένα ευρύ φάσμα απαιτητικών δεικτών αναφοράς (benchmarks)· και, τέλος, παρουσιάζουμε ένα ευέλικτο, αγνωστικό πλαίσιο για τη βελτίωση του λογισμικού.