Antenna array digital beamforming using AI

Abstract

This PhD dissertation investigates deep learning (DL)-based approaches for beamforming (BF) and direction of arrival (DOA) estimation in antenna array systems, aiming to overcome the limitations of traditional BF techniques that depend on accurate channel state information and static propagation models, which often fail in dynamic and interference-rich environments. The thesis begins with an extensive review of the state of the art in DL-based BF, examining its connections with fields such as ultrasound imaging, massive MIMO systems, and intelligent reflecting surfaces (IRS), in order to identify research gaps that shaped the subsequent practical phases. In the first experimental phase, the focus was on predicting BF weights using angle-of-arrival information, following the conventional pipeline-based methodology. Gated recurrent unit (GRU)-based neural networks (NNs) were evaluated alongside other architectures, demonstrating high prediction accuracy in scenarios with up to ten interference signals while significantly reducing inference time compared with the traditional null steering beamforming (NSB). The second phase shifted attention to DOA estimation, establishing a multi-class classification framework that uses correlation matrix information to estimate angles of arrival with high precision. A deep residual NN (ResNet)-based classifier was developed and shown to outperform alternative approaches across a wide range of noise levels and angular resolutions. This phase also introduced an efficient input dimensionality reduction technique that exploits the Hermitian symmetry of the correlation matrix, reducing computational complexity without compromising performance. The final and most novel phase redefines the BF problem by proposing a transformer-based architecture that directly maps correlation matrix inputs to BF weight vectors, thereby eliminating the need for explicit DOA estimation. This transformer-based beamforming model, referred to as TBF-CM, demonstrates strong accuracy, robustness, and scalability in scenarios involving up to six interference signals, maintaining effective main-lobe steering, side-lobe suppression, and null placement. Overall, the results confirm the potential of DL-based architectures to advance digital BF, while future research directions include exploring more compact and efficient models, reducing computational overhead, and enabling real-time deployment in resource-constrained environments.

Η παρούσα διδακτορική διατριβή εξετάζει προσεγγίσεις διαμόρφωσης δέσμης (beamforming, BF) και εκτίμησης διεύθυνσης άφιξης (direction of arrival, DOA) βασισμένες σε τεχνικές βαθιάς μάθησης (deep learning, DL), με στόχο την αντιμετώπιση των περιορισμών των παραδοσιακών μεθόδων BF που απαιτούν ακριβή πληροφορία καναλιού και στατικά μοντέλα διάδοσης, παραδοχές οι οποίες συχνά αποτυγχάνουν σε πολύπλοκα και δυναμικά περιβάλλοντα με υψηλά επίπεδα παρεμβολών. Αρχικά, η διατριβή παρουσιάζει μια εκτενή επισκόπηση της σύγχρονης βιβλιογραφίας στη διαμόρφωση δέσμης βασισμένη σε τεχνικές DL, διερευνώντας τη διασύνδεση με πεδία όπως η υπερηχογραφική απεικόνιση, τα massive MIMO συστήματα και οι έξυπνες ανακλαστικές επιφάνειες (IRS), προκειμένου να εντοπιστούν τα ερευνητικά κενά που καθόρισαν τις επόμενες φάσεις της διατριβής. Στην πρώτη πειραματική φάση, έμφαση δόθηκε στην πρόβλεψη συντελεστών BF βάσει των γωνιών άφιξης, ακολουθώντας τη συμβατική μεθοδολογία ροής διεργασιών (pipeline-based). Δοκιμάστηκαν νευρωνικά δίκτυα τύπου ανατροφοδοτούμενης μονάδας με πύλη (GRU) και άλλες αρχιτεκτονικές, με τα GRU να επιτυγχάνουν υψηλή ακρίβεια ακόμη και σε σενάρια με έως και δέκα σήματα παρεμβολών, ενώ ταυτόχρονα προσέφεραν σημαντικά ταχύτερους χρόνους συμπερασμού σε σύγκριση με την παραδοσιακή μέθοδο null steering BF. Έπειτα, η δεύτερη φάση επικεντρώθηκε στην εκτίμηση DOA, προτείνοντας ένα πλαίσιο ταξινόμησης πολλαπλών κλάσεων που αξιοποιεί τις πληροφορίες του πίνακα συσχέτισης για την ακριβή εκτίμηση των γωνιών άφιξης. Ακόμη, αναπτύχθηκε ταξινομητής βασισμένος σε υπολειπόμενο νευρωνικό δίκτυο (ResNet), ο οποίος παρουσίασε ανώτερη απόδοση σε ένα ευρύ φάσμα σεναρίων θορύβου και διακριτών βημάτων αναφορικά με τη γωνία άφιξης. Στο πλαίσιο αυτό παρουσιάστηκε επίσης μια μέθοδος μείωσης της διαστασιμότητας που εκμεταλλεύεται τη συμμετρία του πίνακα συσχέτισης, μειώνοντας την υπολογιστική πολυπλοκότητα χωρίς απώλεια ακρίβειας. Η τελική και πιο καινοτόμος φάση αναδιατυπώνει το πρόβλημα της διαμόρφωσης δέσμης, προτείνοντας μια αρχιτεκτονική βασισμένη σε μοντέλο μετασχηματιστή (transformer) η οποία προβλέπει άμεσα τους συντελεστές BF από τον πίνακα συσχέτισης, εξαλείφοντας την ανάγκη για ρητή εκτίμηση DOA. Το προτεινόμενο μοντέλο, TBF-CM, επιδεικνύει υψηλή ακρίβεια, ανθεκτικότητα και δυνατότητα κλιμάκωσης σε σενάρια με έως και έξι σήματα παρεμβολών, επιτυγχάνοντας αποτελεσματική κατεύθυνση της κύριας δέσμης, καταστολή των πλευρικών λοβών και ακριβή τοποθέτηση των σημείων μηδενισμού. Συνολικά, τα αποτελέσματα επιβεβαιώνουν τη δυναμική των αρχιτεκτονικών βασισμένων σε τεχνικές DL για τη βελτίωση της ψηφιακής διαμόρφωσης δέσμης, ενώ μελλοντικές κατευθύνσεις περιλαμβάνουν την ανάπτυξη πιο αποδοτικών μοντέλων, τη μείωση του υπολογιστικού φόρτου και τη διευκόλυνση της υλοποίησης τους σε πραγματικό χρόνο και ιδιαίτερα σε περιβάλλοντα με περιορισμένους πόρους