Παρακολούθηση και διαχείριση προσαρμογής κατανεμημένων εφαρμογών σε νεφουπολογιστικά περιβάλλοντα πολλών παρόχων

Abstract

The present work for the final evaluation of the PhD Thesis focusses on innovative research areas that have to do with distributed applications hosted in various distributed infrastructures of many cloud providers. After extensive research investigation, there are four basic research questions that finally came up as the main theme of the present PhD Thesis. Time wise, and up to intermediate evaluation of PhD thesis that took place, the first two questions that concern the dynamic monitoring of distributed applications in multi-cloud environments and the optimum reconfiguration of the infrastructure of the resources have been thoroughly investigated and analyzed. Apart from those, a third question that concerns the quite bigger accuracy of prediction in resources demand in multi-cloud environment by using federated learning techniques have been analyzed and presented during the final evaluation of PhD Thesis. Moreover, a fourth question regarding the calculation of prediction accuracy regarding the demand at the edge of the cloud with related resources restrictions is a case that has presented during the final evaluation of PhD Thesis. As per the above, in the current PhD thesis specific solutions are proposed based on the distributed and multi-layer complex event systems for effective monitoring of the infrastructure. Moreover, there is also an innovative algorithm that is proposed for optimum resources management of the multicloud environment by focusing on the optimum operation of the cloud hosted distributed applications. Finally, as part of the specific PhD thesis, two more solutions are proposed. The one concern analysis and implementation of distributed federated learning algorithms in multi cloud application environments with very good prediction demand accuracy results. Moreover, there is the case of algorithms running at the edge of the cloud referring to many providers that are examined and analyzed as well. By that way securely and without any disruption in their operation, the distributed applications are used. Our solution proposals are evaluated based on consumption of basic cloud resources such as RAM, CPU and Disk Usage and the stability and reliability of the i.e. monitoring system proposed. Regarding the decisioning model for the optimum reconfiguration of the cloud resources, measurements have taken place for the startup times of virtual machines of the public and private cloud providers. These measurements show stable performance for the public cloud providers. Moreover, results from experiments regarding the final values of the proposed algorithm for reconfiguration that takes into account startup times and application response times show the effectiveness of the new proposed method for cloud reconfiguration. What is more, distributed algorithms of federated learning for demand resources prediction show extremely good results in terms of prediction by using innovative client selection methods and technologies inspecting the adequate data volume for the training of the algorithms in multi cloud environments. Last but not least, very good results regarding the prediction accuracy of Federated Learning Architecture at the cloud edge using resources constraints and quantization methods (Tiny ML) have been successfully presented.

Η παρούσα εργασία για την Τελική κρίση της Διδακτορικής Διατριβής ασχολείται με καινοτόμες ερευνητικές περιοχές σχετικές με κατανεμημένες εφαρμογές φιλοξενούμενες σε κατανεμημένα συστήματα υπολογιστικού νέφους πολλών παρόχων. Μετά από αναλυτική και ενδελεχή επισκόπηση της βιβλιογραφίας, προέκυψαν τέσσερα βασικά ερευνητικά ερωτήματα ως βασικό θέμα της παρούσας Διδακτορικής Διατριβής. Μέχρι την ενδιάμεση κρίση, το βασικό ερώτημα της ευέλικτης παρακολούθησης κατανεμημένων εφαρμογών σε υπολογιστικά νέφη πολλών παρόχων αλλά και αυτό της βέλτιστης αναπροσαρμογής των πόρων αναλύθηκαν σε βάθος. Επίσης ένα τρίτο ερώτημα για την μεγαλύτερη ακρίβεια στην πρόβλεψη ζήτησης πόρων τόσο σε επίπεδο κεντρικού νέφους πολλών παρόχων αλλά και ένα τέταρτο τελικό ερώτημα εστιαζόμενο στον υπολογισμό της ακρίβειας προγνώσεων με υπολογισμούς που λαμβάνουν χώρα στο άκρο του νέφους με τον επακόλουθο περιορισμό σε πόρους, είναι αντικείμενα που εξετάζονται στο τελικό στάδιο της παρούσας Τελικής Κρίσης της Διδακτορικής Διατριβής. Έχοντας ως βάση αυτά τα ερευνητικά ερωτήματα, προτείνουμε λύσεις που βασίζονται σε κατανεμημένα και πολλών επιπέδων σύνθετα συστήματα επεξεργασίας συμβάντων για αποτελεσματική παρακολούθηση της προαναφερθείσας υποδομής. Επίσης προτείνεται και κατάλληλος αλγόριθμος που αποφασίζει την βέλτιστη αναπροσαρμογή των πόρων του υπολογιστικού νέφους με στόχο την βέλτιστη λειτουργία κατανεμημένων εφαρμογών. Τέλος, αναλύονται και υλοποιούνται με πολύ καλά αποτελέσματα Κατανεμημένοι Αλγόριθμοι Federated Learning όσον αφορά την πρόβλεψη ζήτησης πόρων για εφαρμογές νεφουπολογιστικών συστημάτων. Σε αυτού τους αλγορίθμους εξετάζονται και τεχνολογίες που αφορούν το Άκρο του υπολογιστικού Νέφους πολλών παρόχων. Με αυτό τον τρόπο εξασφαλίζεται η ασφαλής και αδιάλειπτη λειτουργία τους στο εγγύς μέλλον τουλάχιστον. Η προσέγγισή μας αξιολογήθηκε υπό το πρίσμα της κατανάλωσης βασικών πόρων πχ. Μνήμης, Επεξεργαστικής Ισχύος και της στιβαρότητας λειτουργίας του προτεινόμενου συστήματος παρακολούθησης. Όσον αφορά το μοντέλο για την λήψη αποφάσεων σχετικά με την αναπροσαρμογή με βέλτιστο τρόπο των πόρων του υπολογιστικού νέφους, μετρήσεις διεξήχθησαν σχετικά με τους χρόνους εκκίνησης των εικονικών μηχανών των διαφόρων παρόχων δημόσιων και ιδιωτικών που φιλοξενούν εφαρμογές. Αυτές οι βασικές παράμετροι του αλγορίθμου δείχνουν σταθερή συμπεριφορά στους δημόσιους παρόχους. Επίσης αποτελέσματα πειραμάτων σχετικά με τις τελικές τιμές του προτεινόμενου αλγόριθμου με σκοπό την σωστή λήψη απόφασης για αναπροσαρμογή περιβάλλοντος νέφους φανερώνουν την αποτελεσματικότητα της νέας προτεινόμενης μεθόδου. Επίσης, διάφοροι αλγόριθμοι κατανεμημένης αρχιτεκτονικής Federated Learning για πρόβλεψη ζήτησης πόρων νεφουπολογιστικών εφαρμογών έχουν παρουσιαστεί με εξαιρετικά καλά πειραματικά αποτελέσματα προγνώσεων κυρίως λόγω των τεχνικών που εφαρμόστηκαν όπως επιλογής clients αλλά και τεχνολογιών για έλεγχο επαρκούς χρήσης δεδομένων εκπαίδευσης σε multicloud περιβάλλοντα. Τέλος, πολύ καλά αποτελέσματα όσον αφορά την πρόγνωση παρατηρήθηκαν και για Αρχιτεκτονικές Federated Learning προσαρμοσμένες να εκτελούνται και στο Άκρο του Νέφους με λίγους υπολογιστικούς πόρους και χρήση τεχνολογιών κβαντοποίησης αλγορίθμων (Tiny ML).