Ανάπτυξη υπολογιστών μεθόδων εκμάθησης μη γραμμικών πολλαπλοτήτων και αιτιότητας, για την αναγωγή της δυναμικής και τη διερεύνηση της διασυνδεσιμότητας μεγάλης κλίμακας δεδομένων, με έμφαση σε προβλήματα της υπολογιστικής νευροεπιστήμης

Abstract

My Ph.D. dissertation focus on the development of computational methods for the analysis and identification of emergent spatio-temporal patterns from big data in the field of computational neuroscience. Specifically, the methods are met on the intersection of the disciplines of computational methods for data reduction, machine and manifold learning, complex network theory and computational neuroscience. In general, the proposed framework can be applied in a wide range of applications in engineering where big data either from experiments and/or from microscopic simulations are available. Thesis is divided into three main parts, which constitute the main body of our research. The first part consists of a rigorous comparative analysis of linear and non-linear manifold learning methods (MDS, ISOMAP, Kernel PCA, Diffusion Maps, LLE) for the diagnosis of schizophrenia based on graph theoretical measures in global scale. Here, we address a novel methodology on the construction of embedded functional connectivity networks (FCN) using manifold learning and in particular Diffusion Maps. That was the first time that such a framework is presented in the international literature. The performance of the proposed computational framework was compared against “traditional” approaches for the construction of FCN from fMRI data towards the identification of spatio-temporal patterns that can serve as biomarkers for diagnostic purposes. Well established machine learning methods such as Support Vector Machines (SVM), Artificial Neural Networks (ANN) and the nearest neighbor classifier were used to discriminate between patients and healthy controls. The second part of this Thesis concerns a new manifold learning methodology based on ISOMAP. By implementing this methodology, we were able to uncover spatio-temporal macroscopic differences in coarse areas of the brain using Functional Magnetic Resonance Imaging (rsfMRI) data from schizophrenic patients that followed a cognitive behavioral oriented group intervention program (specifically, the Integrated Psychological Therapy). Based on the proposed framework, we were able to monitor changes in the brain connectivity after treatment completion, thus confirming the beneficial effects that could be attributed to the therapeutic intervention. Again, such an analysis was presented for the first time in the international scientific community. We should note that such coarse-grained differences were not possible to be identified by the “classical” correlation approach that is usually used for such analyses. In the final and third part of this dissertation, we extended the previous methodology for the construction of embedded FCN investigating local graph theoretical properties while also mixing feature selection methods in the analysis. This time, we exported the signal of interest using an anatomical atlas and calculated local graph theoretic properties of the constructed networks. The purpose of that third part was to accurately identify biomarkers of the disease, which could lead to an accurate diagnosis of patients. Towards this aim, we applied popular machine learning/feature selection methods such as the minimum absolute shrinkage and selection operator (LASSO) and random forests (RF). Finally, we meticulously chose the method of evaluation and training of the final model to avoid over-fitting.

Η παρούσα διατριβή επικεντρώθηκε στην ανάπτυξη μαθηματικών μεθόδων και εργαλείων με στόχο την εφαρμογή τους σε δεδομένα νευροαπεικόνισης υψηλής διάστασης. Συγκεκριμένα, οι μέθοδοι εδράζονται στην συμβολή των επιστημονικών κλάδων της μηχανικής μάθησης, της εκμάθησης πολλαπλοτήτων/μείωσης διάστασης, της θεωρίας πολύπλοκων δικτύων και της υπολογιστικής Νευροεπιστήμης. Οι εφαρμογές είχαν ως στόχο να συνεισφέρουν τόσο σε κλινικό, υπολογιστικό αλλά και θεωρητικό επίπεδο στο πεδίο των μαθηματικών εφαρμογών στην Μηχανική (engineering). Η διατριβή χωρίζεται σε τρία βασικά μέρη που αποτέλεσαν τον κύριο κορμό της έρευνας μας. Το πρώτο μέρος συναρτάται από μία σχολαστική συγκριτική ανάλυση γραμμικών και μη γραμμικών μεθόδων εκμάθησης πολλαπλοτήτων (MDS, ISOMAP, Kernel PCA, Diffusion Maps, LLE) για τη διάγνωση της σχιζοφρένειας. Ουσιαστικά, εισάγουμε μια νέα μεθοδολογία βασιζόμενη στην κατασκευή ενσωματωμένων δικτύων λειτουργικής συνδεσιμότητας με βάση μη-γραμμικές μεθόδους εκμάθησης πολλαπλοτήτων (συγκεκριμένα, βάση της μεθόδου Diffusion Maps) και στη συνέχεια υπολογίζουμε καθολικά (global) γραφοθεωρητικά μέτρα με σκοπό την ταξινόμηση ανάμεσα σε υγιείς και ασθενείς με σχιζοφρένεια. Σκοπός ήταν να διαπιστώσουμε ποια μέθοδος θα μπορούσε να λειτουργήσει καλύτερα για τη διάγνωση της νόσου, εξετάζοντας ταυτόχρονα δύο διαφορετικές μετρικές απόστασης ανάμεσα στα εγκεφαλικά σήματα. Για την ταξινόμηση μεταξύ ασθενών και υγιών εφαρμόστηκαν δημοφιλείς μέθοδοι μηχανικής μάθησης όπως οι μηχανές διανυσμάτων υποστήριξης (Support Vector Machines), τα τεχνητά νευρωνικά δίκτυα (Artificial Neural Networks) και ο ταξινομητής των k πλησιέστερων γειτόνων. Το δεύτερο μέρος, αφορά μία νέα μεθοδολογία βασιζόμενη στην μη γραμμική μέθοδο εκμάθησης πολλαπλοτήτων ISOMAP. Με βάση την προτεινόμενη μεθοδολογία εντοπίστηκαν διαφορές στα δεδομένα Λειτουργικής Απεικόνισης Μαγνητικού Συντονισμού σε κατάσταση ηρεμίας (rsfMRI) μεταξύ υγιών και ασθενών με σχιζοφρένεια και χαρτογραφήθηκε το λειτουργικό αποτέλεσμα (functional outcome) μίας πειραματικής θεραπείας για τους δεύτερους. Το τρίτο και τελευταίο μέρος της διατριβής, εστίασε και πάλι στον αλγόριθμο ISOMAP για την κατασκευή ενσωματωμένων εγκεφαλικών δικτύων, υπολογίζοντας τοπικά (local) γραφοθεωρητικά μέτρα δικτύου εξάγοντας το σήμα ενδιαφέροντος σε συμφωνία με ένα ανατομικό άτλαντα. Σκοπός του τρίτου μέρους ήταν ο ακριβής προσδιορισμός βιοδεικτών της νόσου έτσι ώστε να οδηγηθούμε σε μία ακριβή και αξιόπιστη διάγνωση των ασθενών. Σε αυτή την κατεύθυνση και επεκτείνοντας την μεθοδολογία μας, εφαρμόσαμε δημοφιλείς μεθόδους μηχανικής μάθησης/επιλογής χαρακτηριστικών (feature selection), όπως για παράδειγμα o τελεστής ελάχιστης απόλυτης συρρίκνωσης και επιλογής (LASSO) και τα τυχαία δάση (random forests), σε ενσωματωμένα λειτουργικά δίκτυα όπως αυτά προέκυψαν από την μέθοδο ISOMAP. Τέλος, επιλέξαμε σχολαστικά την μέθοδο αξιολόγησης και εκπαίδευσης του τελικού μοντέλου ώστε να αποφύγουμε την υπερ-προσαρμογή (Over-fitting). Η υπολογιστική μεθοδολογία που αναπτύχθηκε στο πλαίσιο της Διδακτορικής Διατριβής προτείνεται για πρώτη φορά για την σύζευξη τόσο μακροσκοπικών όσο και πιο λεπτομερών χαρακτηριστικών της λειτουργίας των εγκεφαλικών περιοχών.