Machine learning based methods for monitoring and control in modern industry 4.0 systems

Abstract

This thesis presents the results of a systematic research conducted about the integration of Machine Learning (ML) methods in modern Industry 4.0 systems. The work is motivated by the increasing availability of industrial operational data and by the limitations of conventional approaches when dealing with nonlinear dynamics, scarce fault labels, Machine learning black-box behavior, and in general by the benefits of fast online decision support in industrial environments. More specifically, within this thesis is explored how ML can advance five complementary directions of modern Industry 4.0 systems i.e. Supervised Fault Detection and Diagnosis (FDD) in nonlinear processes, explainability of FDD model decisions, unsupervised anomaly detection in manufacturing systems, ML-augmented advanced control, and surrogate property modeling enabling digital twin development. For supervised fault detection and diagnosis, dynamic neural-network models based on Long Short Term Memory (LSTM) and Time Delay Neural Network (TDNN) architectures are combined with dimensionality-reduction techniques and evaluated on the Tennessee Eastman Process (TEP) benchmark problem. The best configurations achieve approximately 98.5% average classification accuracy, demonstrating strong capability for real-time fault recognition in nonlinear industrial processes. To improve classifier transparency, ML explainability methods i.e. Integrated Gradients and SHAP are applied to the FDD framework, showing that, for most disturbances, the explanations generated are consistent providing physically meaningful insights from a process-engineering perspective. The thesis further proposes an unsupervisedanomaly-detection framework for manufacturing machinery based on k-nearest-neighbor outlier detection and correlation with a Key Quality Indicator. Applied to an industrial yogurt packaging machine, the method provides guidance for identifying hidden malfunctions and ranking the most probable root-cause machinery subsystems. Except for supervised and unsupervised fault and anomaly detection, it is explored whether ML can be part of advanced control methods. To this extend, a ML model is embedded in a nonlinear model predictive control algorithm for the energy management in a multi-node microgrid. In this case TDNNbased state-of-charge predictors replace mechanistic models and reduce cumulative energy transfer between nodes by about 6.5% on average while remaining feasible for real-time implementation. Finally, it is investigated whether ML can be utilized to create surrogate models capturing thermophysical properties forDigital Twin development. In this thesis Autoencoder and Support Vector Regressor models are developed for the prediction of CO2 and CH4 diffusivities in liquid water, using experimental and molecular dynamics simulated supported datasets. The results show that the proposed models capture the nonlinear dependence of diffusivity on pressure and temperature, providing accurate predictions across broad operating conditions. Overall, the current thesis demonstrates that ML can enhance modern Industry 4.0 systems in a trustworthy, scalable, and application-oriented manner.

Η παρούσα διατριβή παρουσιάζει τα αποτελέσματα συστηματικής έρευνας σχετικά με την ενσωμάτωση μεθόδων Μηχανικής Μάθησης (ΜΜ) σε συστήματα της σύγχρονης Βιομηχανίας 4.0. Το κίνητρο για την έρευνα αυτή προκύπτει από τη διαρκώς αυξανόμενη διαθεσιμότητα βιομηχανικών δεδομένων, τους περιορισμούς των συμβατικών προσεγγίσεων στην αντιμετώπιση σύνθετων προβλημάτων, καθώς και την ανάγκη για ταχεία και αξιόπιστη υποστήριξη λήψης αποφάσεων σε βιομηχανικά περιβάλλοντα. Στο πλαίσιο αυτό, διερευνώνται πέντε συμπληρωματικές κατευθύνσεις εφαρμογής της ΜΜ: 1.ανίχνευση και διάγνωση σφαλμάτων, 2.ερμηνευσιμότητα αποφάσεων μοντέλων, 3.ανίχνευση ανωμαλιών σε μηχανές τυποποίησης, 4.αναβάθμιση προηγμένων μεθόδων ελέγχου, και 5.μοντελοποίηση ιδιοτήτων υλικών για την υποστήριξη Ψηφιακών Διδύμων. Για την ανίχνευση και διάγνωση σφαλμάτων αναπτύχθηκαν μοντέλα νευρωνικών δικτύων βασισμένα στις αρχιτεκτονικές Long Short-Term Memory (LSTM) και Time Delay Neural Network (TDNN), σε συνδυασμό με τεχνικές μείωσης διαστάσεων. Η μεθοδολογία αξιολογήθηκε στο πρόβλημα αναφοράς Tennessee Eastman Process (TEP), όπου η βέλτιστη υλοποίηση πέτυχε μέση ακρίβεια ταξινόμησης 98.5%, αποδεικνύοντας την αποτελεσματικότητα της ΜΜ στην αναγνώριση σφαλμάτων σε πραγματικό χρόνο. Για την ενίσχυση της διαφάνειας των ταξινομητών εφαρμόσθηκαν οι μέθοδοι Integrated Gradients και SHapley Additive exPlanations (SHAP). Τα αποτελέσματα έδειξαν ότι, για τις περισσότερες διαταραχές, οι δύο μέθοδοι παρέχουν συνεπείς και φυσικά ερμηνεύσιμες πληροφορίες, ενισχύοντας την κατανόηση της συμπεριφοράς των μοντέλων ΜΜ από τον τελικό χρήστη. Η ανίχνευση ανωμαλιών σε μηχανές τυποποίησης βασίσθηκε στον εντοπισμό ακραίων τιμών με τη μέθοδο k-Nearest Neighbor και στη χρονική συσχέτισή τους με έναν Βασικό Δείκτη Ποιότητας οριζόμενο από τον χρήστη. Η εφαρμογή της μεθοδολογίας έγινε σε μία βιομηχανική μηχανή συσκευασίας γιαουρτιού και παρείχε χρήσιμη καθοδήγηση για τον εντοπισμό δυσλειτουργιών και των υποσυστημάτων που τις προκαλούν. Στη συνέχεια, διερευνήθηκε η αξιοποίηση της ΜΜ για την αναβάθμιση προηγμένων μεθόδων ελέγχου. Εκπαιδεύτηκε ένα μοντέλο TDNN για την πρόβλεψη της κατάστασης φόρτισης των μπαταριών ενός ενεργειακού μικροδικτύου, το οποίο ενσωματώθηκε σε έναν αλγόριθμο μη γραμμικού προβλεπτικού ελέγχου για τη διαχείριση της ενέργειας. Η εφαρμογή οδήγησε σε μείωση κατά 6.5% της σωρευτικής μεταφοράς ενέργειας μεταξύ των κόμβων. Τέλος, εξετάστηκε η ανάπτυξη μοντέλων ΜΜ για την πρόβλεψη ιδιοτήτων υλικών με στόχο την υποστήριξη ανάπτυξης Ψηφιακών Διδύμων. Αναπτύχθηκαν μοντέλα βασισμένα σε Autoencoders και Support Vector Regressor (SVR) για την πρόβλεψη της διαχυτότητας των CO2 και CH4 στο νερό, αξιοποιώντας δεδομένα από πειραματικές μετρήσεις και προσομοιώσεις μοριακής δυναμικής. Τα προτεινόμενα μοντέλα επιτυγχάνουν ακριβείς προβλέψεις σε ένα ευρύ φάσμα πιέσεων και θερμοκρασιών. Συνολικά, η διατριβή αναδεικνύει τον τρόπο με τον οποίο η Μηχανική Μάθηση μπορεί να ενισχύσει ουσιαστικά τα συστήματα της Βιομηχανίας 4.0 με τρόπο αξιόπιστο, επεκτάσιμο και προσανατολισμένο στις απαιτήσεις της σύγχρονης βιομηχανίας.