Υβριδικές ευφυείς τεχνικές ανάλυσης για εξόρυξη γνώσης από δεδομένα υψηλών διαστάσεων

Abstract

The research on hybrid systems of artificial intelligence and machine learning models presents an increasing interest during recent years. The contribution of the current thesis is focused on this field by developing novel models and learning methods and designing original hybrid systems. More specific, initially, two different clustering methods have been implemented, based on the common idea of using first a simple clustering algorithm for the discovery of an initial group of clusters. In the first method, the FCM algorithm is used while in the second the self-organizing maps model. Following, in both cases, an agglomerative clustering algorithm is applied in order to achieve a more efficient clustering, each time with the necessary modifications so as to take advantage of meta-data deriving from the initial clustering procedure. With the use of the second clustering procedure, a feature evaluation method has been developed. This method is the first part of a hybrid classification system and the results of the method are fed to a neuro-fuzzy classifier, which is the next part of the system. Another hybrid system has also been developed. The main module of this system is a novel memory-based classifier which interacts with a feature evaluation module that is based on the self-organizing maps model. The self-organizing maps model has been also employed for implementing transformations of extracted knowledge to symbolic form. The first approach of this kind has been the development of a hand gesture recognition system that uses self-organizing maps for generating symbolic states so as to create probabilistic classification models. The second approach is a group of rule extraction methods from a trained self-organizing map. The performance of all the above methods and systems has been tested on benchmark datasets, which are widely used by researchers in the corresponding-fields.

Η ανάπτυξη υβριδικών συστημάτων στον χώρο της τεχνητής νοημοσύνης και της μηχανικής μάθησης βρίσκεται τα τελευταία χρόνια ανάμεσα στα πιο δημοφιλή πεδία έρευνας. Η συνεισφορά της παρούσας διατριβής εντάσσεται αφενός στην περιοχή των υβριδικών συστημάτων με την ανάπτυξη νέων μοντέλων και αλγορίθμων μάθησης και αφετέρου στην περιοχή της εξόρυξης γνώσης από δεδομένα. Πιο συγκεκριμένα, αρχικά αναπτύχθηκαν δυο μεθοδολογίες ομαδοποίησης με κοινό στοιχείο και στις δύο να αποτελεί η χρήση αρχικά ενός αλγόριθμου ομαδοποίησης για την δημιουργία μίας αρχικής ομαδοποίησης των δεδομένων. Στην πρώτη μέθοδο χρησιμοποιήθηκε ο αλγόριθμος FCM, ενώ στην δεύτερη χρησιμοποιήθηκε το μοντέλο των αυτο-οργανούμενων χαρτών. Στην συνέχεια, και στις δύο περιπτώσεις εφαρμόζονται τεχνικές ιεραρχικής συγχώνευσης, οι οποίες εκμεταλλευόμενες μετα-δεδομένα που προκύπτουν στην κάθε περίπτωση, έχουν ως στόχο την προσέγγιση του βέλτιστου αριθμού των ομάδων. Με χρήση της δεύτερης μεθοδολογίας αναπτύχθηκε μία μέθοδος αξιολόγησης των χαρακτηριστικών των δεδομένων εισόδου ως προς την συνεισφορά τους στον σχηματισμό των ομάδων. Η μέθοδος αυτή αποτέλεσε και τμήμα ενός πρωτότυπου υβριδικού συστήματος κατηγοριοποίησης που χρησιμοποίησε την μέθοδο αυτή ως στάδιο προεπεξεργασίας και εξαγωγής μετα-δεδομένων, τα οποία αξιοποιήθηκαν από ένα νευρο-ασαφές δίκτυο που αποτελεί το δεύτερο τμήμα του συστήματος. Στην συνέχεια, αναπτύχθηκε ένα ακόμα υβριδικό σύστημα κατηγοριοποίησης του οποίου το κυρίως μέρος αποτελεί ένας πρωτότυπος αλγόριθμος κατηγοριοποίησης που ανήκει στην κατηγορία των αλγόριθμων κατηγοριοποίησης με χρήση ένα σύνολο δεδομένων ως βάση γνώσης. Το δεύτερο τμήμα του συστήματος είναι μία μέθοδος αξιολόγησης των συνδυασμών των χαρακτηριστικών εισόδου με την χρήση αυτο-οργανούμενων χαρτών. Το μοντέλο των αυτο-οργανούμενων χαρτών χρησιμοποιήθηκε επίσης για την υλοποίηση δύο προσεγγίσεων του μετασχηματισμού της εξαγόμενης από τα δεδομένα γνώσης σε συμβολική μορφή. Η πρώτη προσέγγιση είναι η υλοποίηση ενός πρωτότυπου υβριδικού συστήματος αναγνώρισης χειρονομιών, στο οποίο οι αυτο-οργανούμενοι χάρτες χρησιμοποιήθηκαν ως παραγωγοί συμβολικών καταστάσεων από τα δεδομένα εισόδου, οι οποίες αποτέλεσαν τα δεδομένα για την δημιουργία πιθανοτικών μοντέλων κατηγοριοποίησης. Στην δεύτερη προσέγγιση παρουσιάστηκαν μεθοδολογίες εξαγωγής συμβολικών κανόνων που αποτελούν και μία μορφή απεικόνισης γνώσης, η οποία είναι κατανοητή και χρηστική από τον άνθρωπο. Η αποδοτικότητα των μεθόδων που αναπτύχθηκαν αξιολογήθηκε πειραματικά με χρήση συνόλων δεδομένων, τα οποία χρησιμοποιούνται ευρέως από την επιστημονική κοινότητα για την αξιολόγηση μεθόδων και αλγόριθμων των συναφών ερευνητικών πεδίων.