Μεθοδολογίες βέλτιστης διαχείρισης δεδομένων και πόρων στο Edge Computing

Abstract

In recent years, due to the evolution of Edge Devices and networks, a remarkable increase in the use of Edge Computing has been sighted in many topics, such as medicine and industry. Edge Computing solves many problems, such as real-time data processing with reduced latency and low power consumption of devices. This is where the need and importance of optimal data and resource management methodologies are presented, topics that are attracting increasing interest from the scientific community. This thesis focuses on using an approach that departs from the traditional offloading approach, in which Edge Devices offload their tasks to Servers or even to the Cloud. More specifically, we enhance a scenario where Edge Devices assist the more powerful nodes in executing processes. As the number of Edge Devices increases, an abundance of idle computing capacity is created, which, when aggregated in a systematic fashion, can be proven beneficial. We adopt this idea of reverse offloading and study a scenario where a powerful node distributes processes to a set of nearby Edge Devices. Our main contribution consists in the implementation of two innovative methodologies with the logic of reverse task offloading. The first methodology solves a single-objective optimization problem for the optimal distribution of Artificial Intelligence processes as well as the optimal choice of the AI model for each Edge Device, aiming to optimize the processing time, taking into account execution accuracy and energy consumption constraints. The second methodology extends the above logic by solving a multi-objective optimization problem, targeting the simultaneous optimization of three objectives: the AI task execution time, the execution accuracy and the overall energy consumption of the Edge Computing system. The results of this thesis show that the proposed methodologies improve the system performance compared to baseline algorithms in the literature.

Τα τελευταία χρόνια, λόγω της εξέλιξης των Συσκευών Άκρης (ΣΑ) του δικτύου καθώς και των ίδιων των δικτύων, έχει παρατηρηθεί μια αξιοσημείωτη αύξηση στη χρήση της Υπολογιστικής Άκρης (ΥΑ) του δικτύου σε πολλούς τομείς, όπως π.χ. την ιατρική και τη βιομηχανία. Η ΥΑ συμβάλλει στην επίλυση πολλών προβλημάτων, όπως η άμεση επεξεργασία των δεδομένων με μειωμένη καθυστέρηση και η χαμηλή κατανάλωση ενέργειας των συσκευών. Σε αυτό το σημείο παρουσιάζεται η ανάγκη και η σημασία των μεθοδολογιών βέλτιστης εκφόρτωσης των δεδομένων και διαχείρισης πόρων, τομείς οι οποίοι προσελκύουν ολοένα και μεγαλύτερο ενδιαφέρον από την επιστημονική κοινότητα. Η παρούσα διατριβή εστιάζει στη χρήση μιας προσέγγισης η οποία αποκλίνει από την τυπική προσέγγιση εκφόρτωσης, στην οποία οι ΣΑ εκφορτώνουν τις διεργασίες τους σε Κεντρικούς Εξυπηρετητές (ΚΕ) ή ακόμη και στο Υπολογιστικό Νέφος (ΥΝ). Πιο συγκεκριμένα, ενισχύουμε ένα σενάριο όπου οι ΣΑ βοηθούν τους ισχυρότερους κόμβους στην εκτέλεση διεργασιών. Καθώς αυξάνεται ο αριθμός των ΣΑ, δημιουργείται μια τεράστια υπολογιστική δύναμη, η οποία αξιοποιούμενη με συστηματικό τρόπο μπορεί να αποδειχθεί ιδιαίτερα επωφελής. Υιοθετούμε την ιδέα αυτή της αντίστροφης εκφόρτωσης και μελετάμε ένα σενάριο όπου ένας ισχυρός κόμβος (π.χ. ΚΕ) κατανέμει τις διεργασίες σε ένα σύνολο κοντινών ΣΑ. Η βασική συνεισφορά μας συνίσταται στην υλοποίηση δύο καινοτόμων μεθοδολογιών με τη λογική της αντίστροφης εκφόρτωσης διεργασιών. Η πρώτη μεθοδολογία επιλύει ένα πρόβλημα μονοκριτηριακής βελτιστοποίησης για τη βέλτιστη κατανομή διεργασιών Τεχνητής Νοημοσύνης (ΤΝ) καθώς και τη βέλτιστη επιλογή του μοντέλου ΤΝ για κάθε ΣΑ, με στόχο τη βελτιστοποίηση του χρόνου επεξεργασίας, λαμβάνοντας υπόψη περιορισμούς ακρίβειας εκτέλεσης και κατανάλωσης ενέργειας. Στη δεύτερη μεθοδολογία επεκτείνεται η παραπάνω λογική με την επίλυση ενός προβλήματος πολυκριτηριακής βελτιστοποίησης, του οποίου ο στόχος είναι η ταυτόχρονη βελτιστοποίηση τριών κριτηρίων: του χρόνου εκτέλεσης της διεργασίας ΤΝ, της ακρίβειας εκτέλεσης και της συνολικής κατανάλωσης ενέργειας του συστήματος ΥΝ. Τα αποτελέσματα της παρούσας διατριβής δείχνουν ότι οι προτεινόμενες μεθοδολογίες βελτιώνουν την απόδοση του συστήματος σε σύγκριση με τους βασικούς αλγορίθμους της βιβλιογραφίας.