Artificial intelligence and metaheuristic optimization algorithms for financial risk assessment and investment decision-making

Abstract

The field of finance has long faced complex, difficult challenges. The present thesis, titled “Artificial Intelligence and Metaheuristic Optimization Algorithms for Financial Risk Estimation and Investment Decision-Making” studies and evaluates modern artificial intelligence and metaheuristic optimization algorithms and proposes hybrid models to address critical problems such as credit risk assessment in financial institutions, portfolio optimization, and stock closing-price prediction. It first presents the objectives and the research challenges the thesis seeks to address. This is followed by a literature review that highlights the growing research interest in these types of algorithms in recent years, both in the broader domain of Financial Science and, more specifically, in the area of portfolio optimization. Next, four applications are presented in detail in the fields of financial risk and investment decision-making. First, the problem of customer churn in financial institutions is examined, which is a demanding challenge not only in banking but across many industries. The performance of deep learning models is evaluated with respect to the choice of activation function and optimization algorithm. Different activation functions and optimization methods are investigated with the aim of assessing their performance, while the use of the APTx activation function is proposed. The respective activation function appears capable of delivering better results, and this work is the first to recommend its use in a practical application. In addition, given that such problems typically exhibit pronounced class imbalance, various resampling methods are evaluated. The second application explores another application of credit risk, the case of credit card default, an important challenge for financial institutions. For this purpose, an optimized LightGBM via the metaheuristic Pareto-like Sequential Sampling (PSS) algorithm is proposed. The performance of the proposed methodology compared against a popular Bayesian optimization method, the Tree-Structured Parzen Estimator (TPE). Furthermore, the use of Scrambled Halton Sequences (SHS) is proposed. As noted by the authors of PSS , this algorithm is compatible with any sampling method. The results showed that the proposed use of SHS provides more accurate results and better generalization performance compared to Monte Carlo and Latin Hypercube Sampling (LHS) methods. In this application, LightGBM’s built-in functionalities are also used to address class imbalance and high dimensionality. The results show that the proposed model achieves better performance compared to similar studies in the literature, without the need to use complex architectures. Subsequently, the use of metaheuristic algorithms for portfolio optimization is investigated. In particular, the Artificial Gorillas Troops Optimizer (AGTO) is proposed. Sixteen different metaheuristic algorithms are compared to assess their effectiveness in portfolio optimization—many of which have limited or no prior application in the literature—such as the Tuna Swarm Optimizer, the Artificial Rabbits Optimizer, and the Marine Predators Algorithm (MPA). Their performance is also examined with respect to different population sizes and numbers of training epochs. By optimizing a portfolioconsisting of the constituents of the Dow Jones Industrial Average (DJIA), the results showed that AGTO can provide the best performance in portfolio optimization. Finally, the hybrid model GJO-GRU|LSTM is proposed, namely an optimized hybrid deep neural network using the Golden Jackal Optimizer (GJO), for predicting stock closing prices. While many studies in the literature focus on tuning the hyperparameters of LSTM or GRU networks for time-series forecasting, the present application attempts to optimize both the parameters and the architecture itself: depending on the case, the network type (GRU or LSTM) and its corresponding parameters are selected dynamically. The performance of the proposed model is compared against sixteen deep-learning models, as well as GA-GRU|LSTM and PSO-GRU|LSTM, which denote optimized models based on Genetic Algorithms (GA) and Particle Swarm Optimization (PSO). The results indicated that GJO-GRU|LSTM delivers more accurate forecasts in the vast majority of cases. The thesis concludes with the main findings and a summary of its contributions. Its aim is to enrich applied research on Artificial Intelligence and metaheuristic optimization through models capable of supporting well-founded decisions on critical issues in finance. In recent years, these algorithms have been widely adopted across various fields, due to their ability to overcome the limitations of traditional models. We consider that the evaluation of the algorithms investigated, and the proposed approaches make a significant contribution to the field, deepening our understanding of their impact on financial science and enriching the existing literature both within finance and in the broader domains of artificial intelligence and metaheuristic optimization.

Ο κλάδος της χρηματοοικονομικής αντιμετωπίζει διαχρονικά σύνθετες προκλήσεις. Η παρούσα διατριβή, με τίτλο «Αλγόριθμοι Τεχνητής Νοημοσύνης και μεταευρετικής βελτιστοποίησης για την εκτίμηση χρηματοοικονομικού κινδύνου και τη λήψη επενδυτικών αποφάσεων», μελετά και αξιολογεί σύγχρονους αλγορίθμους Τεχνητής Νοημοσύνης και μεταευρετικής βελτιστοποίησης καθώς και προτείνει υβριδικά μοντέλα για την αντιμετώπιση κρίσιμων προβλημάτων, όπως η αξιολόγηση πιστωτικού κινδύνου σε χρηματοπιστωτικά ιδρύματα, η βελτιστοποίηση χαρτοφυλακίου και η πρόβλεψη τιμών κλεισίματος μετοχών. Αρχικά, παρουσιάζονται οι στόχοι και οι ερευνητικές προκλήσεις που επιχειρεί να απαντήσει η διατριβή. Έπειτα ακολουθεί βιβλιογραφική ανασκόπηση, η οποία αναδεικνύει το αυξανόμενο ερευνητικό ενδιαφέρον τα τελευταία χρόνια για αυτού του τύπου τους αλγορίθμους, τόσο στο ευρύτερο πεδίο της Χρηματοοικονομικής όσο και ειδικότερα στο κομμάτι της βελτιστοποίησης χαρτοφυλακίου. Στη συνέχεια παρουσιάζονται διεξοδικά τέσσερις εφαρμογές στον τομέα του χρηματοοικονομικού κινδύνου και της λήψης επενδυτικών αποφάσεων. Πρώτα, μελετάται το πρόβλημα της φυγής πελατών από τα χρηματοπιστωτικά ιδρύματα, το οποίο αποτελεί απαιτητική πρόκληση όχι μόνο για τον τραπεζικό τομέα αλλά και για μια πληθώρα επιχειρήσεων σε διάφορους κλάδους. Εξετάζεται η απόδοση μοντέλων βαθιάς μάθησης σε συνάρτηση με την επιλογή συνάρτησης ενεργοποίησης και αλγορίθμου βελτιστοποίησης. Ερευνώνται διαφορετικές συναρτήσεις ενεργοποίησης και μέθοδοι βελτιστοποίησης με σκοπό την αξιολόγηση της απόδοσής τους, ενώ προτείνεται η χρήση της συνάρτησης APTx, η οποία φαίνεται ικανή να προσφέρει καλύτερα αποτελέσματα· η παρούσα εργασία είναι η πρώτη που προτείνει τη χρήση της σε πρακτική εφαρμογή. Επιπλέον, δεδομένου ότι τέτοιου τύπου προβλήματα εμφανίζουν έντονη ανισορροπία κλάσεων, αξιολογούνται διάφορες μέθοδοι αναδειγματοληψίας. Στη δεύτερη εφαρμογή εξετάζεται μια ακόμη εφαρμογή του πιστωτικού κινδύνου, και πιο συγκεκριμένα η πρόβλεψη αθέτησης πληρωμής της πιστωτικής κάρτας. Για τον σκοπό αυτό προτείνεται ένα βελτιστοποιημένο μοντέλο μηχανικής μάθησης LightGBM, μέσω του μεταευρετικού αλγορίθμου Pareto-like Sequential Sampling (PSS). Η απόδοσή του PSS συγκρίνεται με έναν δημοφιλή αλγόριθμο Μπεϋζιανής βελτιστοποίησης, τον Tree-Structured Parzen Estimator (TPE). Επιπλέον, προτείνεται η χρήση των αναδιαταγμένων ακολουθιών Halton (Scrambled Halton Sequences, SHS). Όπως αναφέρουν οι συγγραφείς του PSS (Shaqfa & Beyer, 2021), ο συγκεκριμένος μεταευρετικός αλγόριθμος, που προσομοιάζει τον νόμο του Pareto, είναι συμβατός με οποιαδήποτε μέθοδο δειγματοληψίας. Τα αποτελέσματα έδειξαν ότι η προτεινόμενη χρήση του SHS προσφέρει καλύτερα αποτελέσματα και καλύτερο σφάλμα γενίκευσης σε σχέση με τις μεθόδους Monte Carlo και LHS. Επιπλέον, στη συγκεκριμένη εφαρμογή αξιοποιούνται οι ενσωματωμένες λειτουργίες του LightGBM για την αντιμετώπιση της ανισορροπίας κλάσεων και της πολυδιαστατικότητας. Τα αποτελέσματα δείχνουν ότι το προτεινόμενο μοντέλο προσφέρει καλύτερη επίδοση σε σύγκριση με πολλές παρόμοιεςεργασίες της βιβλιογραφίας, χωρίς την ανάγκη σύνθετων και ιδιαίτερα περίπλοκων αρχιτεκτονικών. Έπειτα, διερευνάται η χρήση μεταευρετικών αλγορίθμων για τη βελτιστοποίηση χαρτοφυλακίου. Προτείνεται ειδικότερα ο Artificial Gorillas Troops Optimizer (AGTO). Συγκρίνονται δεκαέξι διαφορετικοί μεταευρετικοί αλγόριθμοι, προκειμένου να αποτιμηθεί η αποτελεσματικότητά τους στη βελτιστοποίηση χαρτοφυλακίου—πολλοί εκ των οποίων έχουν περιορισμένη έως ανύπαρκτη εφαρμογή στη σχετική βιβλιογραφία, όπως ο Βελτιστοποιητής Σμήνους Τόνου (Tuna Swarm Optimizer), ο Βελτιστοποιητής Τεχνητών Κουνελιών (Artificial Rabbits Optimizer) και ο Αλγόριθμος Θαλάσσιων Θηρευτών (Marine Predators Algorithm, MPA). Εξετάζεται επίσης η επίδοσή τους ως προς διαφορετικά μεγέθη πληθυσμού (population size) και αριθμό εποχών εκπαίδευσης (epochs). Βελτιστοποιώντας ένα χαρτοφυλάκιο που αποτελείται από τις μετοχές του δείκτη Dow Jones Industrial Average (DJIA), τα αποτελέσματα έδειξαν ότι ο AGTO μπορεί να προσφέρει τα καλύτερα αποτελέσματα στη βελτιστοποίηση χαρτοφυλακίου. Τέλος, προτείνεται το υβριδικό μοντέλο GJO-GRU|LSTM, δηλαδή ένα βελτιστοποιημένο υβριδικό βαθύ νευρωνικό δίκτυο μέσω του αλγορίθμου των Χρυσών Τσακαλιών (Golden Jackal Optimizer, GJO), με σκοπό την πρόβλεψη της τιμής κλεισίματος μετοχών. Ενώ πολλές εργασίες στη βιβλιογραφία επιχειρούν τη βελτιστοποίηση των υπερπαραμέτρων δικτύων LSTM ή GRU για πρόβλεψη χρονοσειρών, στη συγκεκριμένη εφαρμογή επιχειρείται η βελτιστοποίηση τόσο των παραμέτρων όσο και της ίδιας της αρχιτεκτονικής: αναλόγως της περίστασης επιλέγεται δυναμικά ο τύπος δικτύου (GRU ή LSTM) και οι αντίστοιχες παράμετροί του. Η απόδοση του προτεινόμενου μοντέλου συγκρίνεται με δεκαέξι μοντέλα βαθιάς μάθησης, καθώς και με τα GA-GRU|LSTM και PSO-GRU|LSTM, τα οποία υποδηλώνουν βελτιστοποιημένα μοντέλα μέσω Γενετικών Αλγορίθμων (GA) και Βελτιστοποίησης Σμήνους Σωματιδίων (PSO). Τα αποτελέσματα έδειξαν ότι το GJO-GRU|LSTM παρέχει ακριβέστερες προβλέψεις στη πλειονότητα των περιπτώσεων. Η διατριβή ολοκληρώνεται με τα κύρια ευρήματα και τη σύνοψη της συνεισφοράς. Στόχος είναι ο εμπλουτισμός της εφαρμοσμένης έρευνας σε αλγορίθμους Τεχνητής Νοημοσύνης και μεταευρετικής βελτιστοποίησης μέσω μοντέλων ικανών να υποστηρίζουν τεκμηριωμένες αποφάσεις σε καίρια ζητήματα της χρηματοοικονομικής. Τα τελευταία χρόνια, η εφαρμογή αυτών των αλγόριθμων έχει αυξηθεί, καθώς μπορούν να αντιμετωπίσουν προκλήσεις που τα κλασικά μοντέλα δυσκολεύονται να χειριστούν. Εκτιμούμε ότι η αξιολόγηση των αλγορίθμων που διερευνήθηκαν και οι προτεινόμενες προσεγγίσεις συμβάλλουν ουσιαστικά στο πεδίο, εμβαθύνοντας στην επίδρασή τους στη χρηματοοικονομική επιστήμη και εμπλουτίζοντας την υπάρχουσα βιβλιογραφία τόσο στον κλάδο της χρηματοοικονομικής όσο και στο ευρύτερο πεδίο της Τεχνητής Νοημοσύνης και της μεταευρετικής βελτιστοποίησης.