Καινοτόμες μεθοδολογίες μηχανικής μαθήσεως

Abstract

This thesis aimed at the extensive study of modem machine learning methodologies, and the provision of novel methodologies and groundbreaking regards towards pattern recognition techniques. A great deal of emphasis was put on Variational Bayesian inference techniques, which, to the author's mind, comprise the future of statistical clustering-based approaches, resulting in the provision of a novel model for robust recognition of high-dimensional patterns. Another key concept studied was fuzzy clustering. In this latter field can be found the most significant and seminal contribution of this thesis: we have introduced a novel regard towards fuzzy clustering, by showing that fuzzy clustering techniques, in the form of FCM algorithm variants, provide an interesting alternative to the EM algorithm (and other statistical clustering alternatives) for the treatment of probabilistic generative models. Furthermore, this work provided a novel hidden Markov model, offering significant benefits comparing to modem sequential data modeling techniques, as well as a new speaker verification methodology, based on Gaussian process classifiers.

Στόχος της διδακτορικής αυτής διατριβής ήταν η ενδελεχής μελέτη των μεθοδολογιών μηχανικής μάθησης, και η χάραξη νέων δρόμων στον χώρο, με την εισαγωγή πρωτοτύπων μεθοδολογιών και καινοτόμων επαναστατικών θεωρήσεων αναγνώρισης προτύπων. Μεγάλη έμφαση εδόθη στις τεχνικές Variational Bayesian inference, που κατά την γνώμη του συγγραφέως αποτελούν το αύριο των μεθοδολογιών αναγνώρισης προτύπων των βασισμένων σε προσεγγίσεις statistical clustering, με συνεισφορά ενός πρωτότυπου μοντέλου εύρωστης αναγνώρισης προτύπων για πολυδιάστατα δεδομένα, καθώς και οι μεθοδολογίες fuzzy clustering. Σε αυτό τον τελευταίο χώρο εντοπίζεται και η μεγαλύτερη και σημαντικότερη συνεισφορά της παρούσης διατριβής, με την εισαγωγή μιας νέας θεώρησης του τι είναι fuzzy clustering, υπό την έννοια του τι εργασίες μηχανικής μάθησης μπορεί κανείς να περαιώσει με χρήση fuzzy clustering, κατά την οποία ο αλγόριθμος FCM αναδεικνύεται σε μια πλεονεκτηματική εναλλακτική του ΕΜ αλγορίθμου (και λοιπών statistical clustering προσεγγίσεων) για την εκπαίδευση πολλών μορφών πιθανοτικών παραγωγικών μοντέλων. Πλέον αυτών, η εργασία αυτή παρείχε ακόμα ένα καινοτόμο αλγόριθμο hidden Markov models, προσφέρων εξαιρετικά πλεονεκτήματα σε ένα πολύ μεγάλο εύρος εφαρμογών σε σχέση με τις σημερινές τεχνικές, και τέλος, μια νέα μέθοδο ταυτοποίησης ομιλητή, στηριγμένη σε Gaussian process models.