Optimization of intelligent wireless semantic communications for 6g and beyond

Abstract

In recent years, wireless communications have become a pivotal part of everyday life by enabling many applications. In order to achieve this, low-latency, reliable networks with enhanced capabilities in terms of coverage, connectivity and resource management are required. Due to this, the rise of 6G and beyond networks is necessitated, since conventional communication systems struggle to cope with the vast amount of generated data and the stringent requirements that are imposed by various applications such as smart cities, autonomous driving, distributed learning and virtual reality. In contrast to conventional communication, where perfect raw data recovery is desired, in many of these applications, the main objective is the delivery of meaningful information in order to execute the specific task at hand. To this end, this thesis investigates the use of the underlying semantics for different goals such as communication, image semantic segmentation and computing, by leveraging novel communication techniques and tools such as semantic communications (SemComs), over-the-air (OTA) computing, split learning and deep neural networks (DNNs) in order to establish next generation networks. Initially, we investigate the use of semantics for communication. For the first time in the literature, we propose a hybrid multicarrier framework that utilizes both bit communication (BitCom) and semantic communication (SemCom) for text transmission. In particular, the considered system jointly selects the transmission mode of each subcarrier and optimizes power allocation to minimize two significant delay-related metrics, namely sum delay and maximum delay of all subcarriers, while satisfying strict similarity constraints. To tackle the non-convexity of the resulting problems alternating optimization and an optimal iterative heuristic algorithm with low complexity are utilized for minimization. Apart from these, a novel association of data to subcarriers is also introduced based on the channel gain of each subcarrier, ultimately further enhancing the performance of the proposed hybrid system. Based on the simulation results, it is observed that while SemCom improves the performance for a wide range of signal-to-noise ratio (SNR), it is not always the preferable transmission mode, thus illustrating the advantage of the proposed hybrid framework in order to establish low-latency communication. Aiming to extend the introduced hybrid BitCom-SemCom system into a multi-user network scenario, we then focus on the performance of a hybrid cellular network, where each user selects the optimal transmission mode. In this direction, we derive useful analytical expressions for the network outage probability. In addition to this, we propose a generalized version of this metric, which examines the probability of a specific range of users to be in outage. Also in an attempt to consider the practical limitations of SemComs related to the increased memory and computational requirements, we introduce another metric, called semantic utilization. Based on the analysis of the aforementioned metrics, useful insights for the performance and the design of such systems through cell radius optimization are extracted, showcasing that the studied system can support massive connectivity, while achieving enhanced network reliability and coverage. Moving from the hybrid collaboration of BitComs and SemComs for text transmission, we delve into enabling another capability related with artificial intelligence that can be pivotal for various 6G and beyond applications, namely image semantic segmentation. To this end, we illustrate a novel split learning-based method that can be leveraged to minimize the overall inference time of the network. Moreover, to ensure the practicality of our technique, two transmission schemes are investigated and various resource allocation policies are studied in order to provide near-optimal performance with significantly reduced complexity. In this way, the proposed system can achieve low latency communication, while efficiently managing resources, hence making it suitable for next generation networks. After this, we study OTA computing in order to establish the use of semantics for computing, which is another critical application associated with 6G and beyond networks. With this in mind, waveform design is investigated for narrowband and wideband channels under practical impairments related to time and frequency synchronization. For the narrowband channel case, a novel DNN framework is proposed in order to generate new waveforms that utilize the same spectrum, while improving performance under intersymbol interference caused by time synchronization errors. For the wideband channel case, a novel orthogonal frequency division multiplexing-based technique is considered under intercarrier interference caused by frequency synchronization errors. To optimize the performance of OTA computing, a thorough theoretical analysis is conducted and optimal power allocation policies are derived through alternating optimization. As such, by leveraging signal superposition to efficiently utilize communication and computational resources, OTA computing is established as a viable technique for wireless aggregation in massively connected networks. Finally, the conclusions of the current thesis are presented and some possible future directions are briefly discussed.

Τα τελευταία χρόνια οι ασύρματες επικοινωνίες έχουν εξελιχθεί σε κεντρικό κομμάτι της καθημερινής ζωής επιτρέποντας τη λειτουργία πολλών εφαρμογών. Προκειμένου κάτι τέτοιο να καταστεί εφικτό, είναι απαραίτητα δίκτυα που χαρακτηρίζονται από μικρή καθυστέρηση, αξιοπιστία και αυξημένες δυνατότητες κάλυψης, συνδεσιμότητας και διαχείρισης πόρων. Λόγω αυτού, η υλοποίηση δικτύων 6ης γενιάς (6G) καθίσταται αναγκαία, καθώς τα κλασικά συστήματα επικοινωνίας δυσκολεύονται να αντιμετωπίσουν την τεράστια ποσότητα νέων δεδομένων και τις αυστηρές απαιτήσεις που τίθενται από διάφορες εφαρμογές, όπως για παράδειγμα οι έξυπνες πόλεις, η αυτόνομη οδήγηση, η διαμοιρασμένη μάθηση και η εικονική πραγματικότητα. Σε αντίθεση με τις κλασικές επικοινωνίες, όπου είναι επιθυμητή η ακριβής ανάκτηση της μεταδιδόμενης πληροφορίας, ο βασικός στόχος πολλών εφαρμογών είναι η μεταφορά χρήσιμης πληροφορίας ώστε να διεκπεραιωθεί κάποια συγκεκριμένη εργασία. Για τον λόγο αυτό, η παρούσα διδακτορική διατριβή ερευνά τη χρήση της σημασιολογικής πληροφορίας των δεδομένων για την επίτευξη διάφορων στόχων, όπως η επικοινωνία, η σημασιολογική τμηματοποίηση εικόνας και η εκτέλεση υπολογισμών. Προκειμένου να πραγματοποιηθεί αυτό, αξιοποιούνται καινοτόμα εργαλεία και τεχνικές επικοινωνίας, όπως οι σημασιολογικές επικοινωνίες (semantic communications - SemComs), ο υπολογισμός κατά τη μετάδοση (over-the-air computing - OTA computing), η διαμοιρασμένη μάθηση και τα βαθιά νευρωνικά δίκτυα (deep neural networks - DNNs) για να αποδειχθεί και να εξασφαλιστεί η λειτουργία δικτύων νέας γενιάς. Αρχικά εξετάζεται η χρήση της σημασιολογικής πληροφορίας για απλή επικοινωνία. Για πρώτη φορά στην βιβλιογραφία, προτείνουμε ένα υβριδικό σύστημα πολλαπλών φερόντων που μπορεί να χρησιμοποιήσει δυφία (bits) για κλασική επικοινωνία (BitCom), αλλά και να κάνει χρήση των SemCom για μετάδοση κειμένου. Πιο λεπτομερώς, το προτεινόμενο σύστημα από κοινού επιλέγει τον τρόπο μετάδοσης κάθε φέροντος και βρίσκει τη βέλτιστη κατανομή ισχύος με στόχο την ελαχιστοποίηση δύο σημαντικών μετρικών που σχετίζονται με την καθυστέρηση στην μετάδοση της πληροφορίας, το άθροισμα των καθυστερήσεων και τη μέγιστη καθυστέρηση μεταξύ των φερόντων, λαμβάνοντας ταυτόχρονα υπ' όψιν αυστηρούς περιορισμούς για την ομοιότητα της ανακτόμενης πληροφορίας. Προκειμένου να αντιμετωπιστεί η μη-κυρτότητα του προβλήματος, χρησιμοποιούνται ειδικές τεχνικές βελτιστοποίησης και ένας ευρετικός επαναληπτικός αλγόριθμος χαμηλής πολυπλοκότητας. Επιπλέον, εισάγεται μια καινούργια ιδέα αντιστοίχισης δεδομένων στα φέροντα προκειμένου να εκμεταλλευθούμε στο έπακρο το κέρδος καναλιού κάθε φέροντος, οδηγώντας έτσι σε περαιτέρω αύξηση της επίδοσης του συστήματος. Μέσω προσομοιώσεων παρατηρείται ότι η χρήση των SemCom βελτιώνει γενικώς την επίδοση για ένα μεγάλο εύρος σηματοθορυβικού λόγου (signal-to-noise ratio - SNR), αν και δεν είναι πάντοτε ο προτιμότερος τρόπος μετάδοσης, πράγμα που αποδεικνύει την σημασία του προτεινόμενου συστήματος για την επίτευξη επικοινωνίας με μικρή καθυστέρηση. Στη συνέχεια, επεκτείνοντας το προαναφερθέν υβριδικό σύστημα BitCom-SemCom για ένα δίκτυο με πολλαπλούς χρήστες, επικεντρωνόμαστε στη μελέτη της αξιοπιστίας ενός κυψελωτού δικτύου στο οποίο οι χρήστες επιλέγουν τον βέλτιστο τρόπο μετάδοσης πληροφορίας. Σε αυτό το πλαίσιο, εξάγουμε χρήσιμες αναλυτικές εκφράσεις για την πιθανότητα διακοπής επικοινωνίας στο δίκτυο, καθώς και μια γενίκευση της παραπάνω μετρικής που εξετάζει την πιθανότητα διακοπής επικοινωνίας ενός συγκεκριμένου πλήθους χρηστών. Επιπλέον, προκειμένου να λάβουμε υπ' όψιν μας πρακτικούς περιορισμούς των SemComs σχετικά με τις αυξημένες απαιτήσεις μνήμης και υπολογιστικών πόρων, εισάγουμε μια νέα μετρική για τη μέτρηση του ποσοστού αξιοποίησης των SemCom από τους χρήστες του δικτύου. Με βάση τη θεωρητική ανάλυση των προαναφερθεισών μετρικών, εξάγονται χρήσιμα συμπεράσματα για την επίδοση και τον σχεδιασμό των κυψελών του δικτύου και αποδεικνύεται ότι το σύστημα που μελετάται είναι ικανό να υποστηρίξει μαζική συνδεσιμότητα χρηστών και ταυτόχρονα να επιτύχει βελτιωμένη αξιοπιστία και κάλυψη. Ακολούθως, στοχεύουμε στην πραγματοποίηση μίας ακόμη δυνατότητας συσχετιζόμενης με τη χρήση τεχνητής νοημοσύνης, τη σημασιολογική τμηματοποίηση εικόνας, που είναι ιδιαίτερα σημαντική για διάφορες εφαρμογές δικτύων 6G. Προς αυτή την κατεύθυνση, προτείνουμε μια καινοτόμο μέθοδο που βασίζεται στην κατανεμημένη μάθηση προκειμένου να ελαχιστοποιήσουμε τον συνολικό χρόνο απόκρισης του δικτύου. Για λόγους πρακτικότητας, εξετάζονται δύο τεχνικές μετάδοσης, καθώς και διάφορα σχήματα κατανομής πόρων για την επίτευξη σχεδόν βέλτιστης απόδοσης με ελάχιστες απαιτήσεις από άποψη υπολογιστικής πολυπλοκότητας. Με τον τρόπο αυτό, το προτεινόμενο σύστημα μπορεί να πετύχει επικοινωνία με μικρή καθυστέρηση και αποδοτική χρήση υπολογιστικών και τηλεπικοινωνιακών πόρων, καθιστώντας το κατάλληλο για ενσωμάτωση σε δίκτυα επόμενων γενεών. Έπειτα, μελετάται η χρήση της τεχνικής OTA computing για την πραγματοποίηση υπολογισμών που οδηγούν σε σημασιολογικά χρήσιμη πληροφορία για τα δίκτυα. Προκειμένου να υλοποιηθεί η τεχνική OTA computing σε πρακτικά συστήματα, μελετάται ο σχεδιασμός κυματομορφής για κανάλια στενής και ευρείας ζώνης υπό συνθήκες πρακτικών σφαλμάτων χρονικού και συχνοτικού συγχρονισμού. Για την περίπτωση των καναλιών στενής ζώνης, προτείνεται ένα καινοτόμο μοντέλο DNN το οποίο μπορεί να παράγει νέες κυματομορφές ειδικά σχεδιασμένες για την πραγματοποίηση υπολογισμών. Το προτεινόμενο μοντέλο εξασφαλίζει ότι οι παραγόμενοι παλμοί καταλαμβάνουν το ίδιο φάσμα με προϋπάρχοντες παλμούς για δίκαιη σύγκριση, ενώ επιτυγχάνει βελτιωμένη ακρίβεια υπολογισμού σε περιβάλλον διασυμβολικής παρεμβολής που προκαλείται από σφάλματα συγχρονισμού. Για την περίπτωση των καναλιών ευρείας ζώνης, εισάγεται μια παραλλαγή της πολυπλεξίας ορθογώνιας διαίρεσης συχνότητας με στόχο την καταπολέμηση της διακαναλικής παρεμβολής που προκαλείται από σφάλματα στον συγχρονισμό συχνότητας φέροντος. Προκειμένου να βελτιστοποιηθεί η επίδοση του OTA computing, παρουσιάζεται μια λεπτομερής ανάλυση του συστήματος και εξάγεται η βέλτιστη κατανομή ισχύος στους πομπούς και τον δέκτη. Με αυτό τον τρόπο, αξιοποιώντας την υπέρθεση σημάτων στον δέκτη για την επίτευξη αποδοτικής διαχείρισης των υπολογιστικών και τηλεπικοινωνιακών πόρων του δικτύου, αναδεικνύεται ότι η τεχνική OTA computing είναι μια εφικτή λύση για την πραγματοποίηση υπολογισμών σε δίκτυα μαζικής συνδεσιμότητας. Τέλος, παρουσιάζονται τα συμπεράσματα της παρούσας διατριβής μαζί με πιθανές μελλοντικές επεκτάσεις των θεμάτων που μελετήθηκαν.