Transfer learning for monitoring of thermal hydraulic processes

Abstract

Thermal hydraulic systems are important and useful in several engineering applications and disciplines, especially those related to energy production, as well as in industrial processes. These systems are used for heat transfer, energy conversion, cooling, heating, ventilation, etc. They are especially critical for the safe and efficient operation of nuclear reactors. Thermal hydraulic systems can help manage heat generated during nuclear fission, ensuring that the reactor operates within safe temperature and pressure ranges. Proper thermal hydraulic design is crucial to prevent accidents and maintain the integrity of a reactor. In recent and past years, related research has focused on the enhancement of nuclear reactor safety with the use of sensors and intelligent systems. Sensors and other instrumentation and control (I&C) entities are used for protection, monitoring and control processes, all of which play an important role for a system’s safety and security. Lately, the incorporation of artificial intelligence (AI) and machine learning (ML) methods for monitoring of systems, including nuclear reactors, has been explored by the research community. AI and ML techniques for automation of monitoring tasks in reactors have shown to lead to a plethora of advantages, including but not limited to, reduction in operation and maintenance (O&M) costs, early detection of faults, or recalibration of equipment before the scheduled maintenance. AI and ML approaches are data-driven, meaning that they rely on data produced by a system to learn and produce results. Since they are only limited to input or output data, they do not require detailed knowledge of a system, which preserves the privacy of any facility. Sensors and other equipment installed in systems such as nuclear reactors record huge amounts of data, which can be used to train ML models. The data-driven nature of AI and ML models moreover makes them crosscutting, which means that they are possibly applicable to different systems or equipment. A scientific term to describe this is calledtransfer learning (TL), which pertains to the transfer of knowledge between domains. TL has been explored by the scientific community in recent years. However, its use has not been thoroughly investigated for thermal hydraulic processes. This dissertation explores the application of TL in several nuclear-related thermal hydraulic facilities. First, we establish the feasibility of TL by performing real-time monitoring of thermocouple sensors, and determine the limits of TL applicability in this context by studying the correlations between prediction error and flow. Measurement data are obtained, in two separate experiments, in a flow loop filled with water and with liquid metal Galinstan. We develop long short-term memory (LSTM) recurrent neural networks (RNN) for sensor predictions by training on the sensor’s own prior history, and transfer learning LSTM (TL-LSTM) by training on a correlated sensor’s prior history. Sensor cross-correlations are identified by calculating the Pearson correlation coefficient of the time series. The accuracy of LSTM and TL-LSTM predictions of temperature is studied as a function of Reynolds number (Re). The root mean squared error (RMSE) for the test segment of time series of each sensor is shown to linearly increase with Re for both water and Galinstan fluids. Using linear correlations, we estimate the range of values of Re for which RMSE is smaller than the thermocouple measurement uncertainty. For both water and Galinstan fluids, we show that both LSTM and TL-LSTM provide reliable estimations of temperature for typical flow regimes in a nuclear reactor. The LSTM runtime is shown to be substantially smaller than the data acquisition rate, which allows for performing estimation and validation of sensor measurements in real time. In another work, we benchmark the performance of LSTM network ML model and Autoregressive Integrated Moving Average (ARIMA) statistical model in temporal forecasting of distributed temperature sensing (DTS), to determine training data selection strategies for improving a model’s performance. Data in this study consists of fluid temperature transient measured with two co-located Rayleigh scattering fiber optic sensors (FOS) in a forced convection mixing zone of a thermal tee. We treat each gauge of a FOS as an independent temperature sensor. We first study prediction of DTS time series using Vanilla LSTM and ARIMA models trained on prior history of the same FOS that is used for testing. Next, we investigate zero-shot forecasting (ZSF) with LSTM and ARIMA trained on history of the co-located FOS only, which is advantageous when limited training data is available. The ZSF MaxAPE and RMSPE values for ARIMA are comparable to those of the Vanilla use case, while the error values for LSTM increase. We show that in ZSF, performance of LSTM network can be improved by training on most correlated gauges between the two FOS, which are identified by calculating the Pearson correlation coefficient. Performance of ZSF LSTM can be further enhanced through TL, where LSTM is re-trained on a subset of the FOS that is the target of forecasting. In the last part of this dissertation, we propose to use TL to compensate for lack of training data in advanced reactors, and examine whether TL can be deployed for monitoring tasks in these systems. TL can be used to create pre-trained ML models with data from small-scale research facilities, which can then be fine-tuned to monitor GenIV reactors. In this work, we develop pre-trained Transformer and LSTM networks by training them on temperature measurements from thermal hydraulic flow loops operating with water and Galinstan fluids at room temperature at Argonne National Laboratory. The pre-trained models are then fine-tuned and re-trained with minimal additional data to perform predictions of time series of high temperature measurements obtained from the Engineering Test Unit (ETU) at Kairos Power. Performance of LSTM and Transformers is investigated by varying the size of the lookback window, to determine the optimal range for error minimization, and forecast horizon, to assess anticipatory capabilities of the models. Results of this study show that LSTM have lower prediction errors than Transformers, but LSTM errors increase more rapidly with increasing lookback window size and increasing forecast horizon compared to the Transformers errors.

Τα θερμοϋδραυλικά συστήματα είναι σημαντικά και χρήσιμα σε διάφορες μηχανικές εφαρμογές και κλάδους, ιδιαίτερα σε αυτούς που σχετίζονται με την παραγωγή ενέργειας, καθώς και σε βιομηχανικές διεργασίες. Αυτά τα συστήματα χρησιμοποιούνται για μεταφορά θερμότητας, μετατροπή ενέργειας, ψύξη, θέρμανση, αερισμό κ.λπ. Είναι ιδιαίτερα σημαντικά για την ασφαλή και αποτελεσματική λειτουργία των πυρηνικών αντιδραστήρων. Τα θερμοϋδραυλικά συστήματα μπορούν να βοηθήσουν στη διαχείριση της θερμότητας που παράγεται κατά τη διάρκεια της πυρηνικής σχάσης, διασφαλίζοντας ότι ο αντιδραστήρας λειτουργεί εντός ασφαλών ορίων θερμοκρασίας και πίεσης. Ο σωστός θερμοϋδραυλικός σχεδιασμός είναι ζωτικής σημασίας για την πρόληψη ατυχημάτων και τη διατήρηση της ακεραιότητας ενός αντιδραστήρα. Τα τελευταία χρόνια, σχετική έρευνα επικεντρώθηκε στην ενίσχυση της ασφάλειας των πυρηνικών αντιδραστήρων με τη χρήση αισθητήρων και ευφυών συστημάτων. Αισθητήρες και άλλα συστήματα οργάνων και ελέγχου (I&C) χρησιμοποιούνται για διαδικασίες προστασίας, παρακολούθησης και ελέγχου, οι οποίες διαδραματίζουν σημαντικό ρόλο για την ασφάλεια ενός συστήματος. Πρόσφατα, η ενσωμάτωση μεθόδων τεχνητής νοημοσύνης (AI) και μηχανικής μάθησης (ML) για την παρακολούθηση συστημάτων, συμπεριλαμβανομένων των πυρηνικών αντιδραστήρων, έχει διερευνηθεί από την ερευνητική κοινότητα. Οι τεχνικές AI και ML για την αυτοματοποίηση των εργασιών παρακολούθησης σε αντιδραστήρες έχει αποδειχθεί ότι οδηγούν σε μια πληθώρα πλεονεκτημάτων, όπως, μείωση του κόστους λειτουργίας και συντήρησης (O&M), έγκαιρη ανίχνευση βλαβών ή επαναβαθμονόμηση του εξοπλισμού πριν από την προγραμματισμένη συντήρηση. Οι προσεγγίσεις AI και ML βασίζονται σε δεδομένα, που σημαίνει ότι βασίζονται σε μετρήσεις που παράγονται από ένα σύστημα για να μάθουν και να παράγουν αποτελέσματα. Δεδομένου ότι περιορίζονται μόνο σε δεδομένα εισόδου ή εξόδου, δεν απαιτούν λεπτομερή γνώση ενός συστήματος, γεγονός το οποίο διατηρεί το απόρρητο οποιασδήποτε εγκατάστασης. Αισθητήρες και άλλος εξοπλισμός που βρίσκεται σε συστήματα όπως οι πυρηνικοί αντιδραστήρες καταγράφει τεράστιες ποσότητες δεδομένων, τα οποία μπορούν να χρησιμοποιηθούν για την εκπαίδευση μοντέλων ML. Επιπλέον, η φύση των μοντέλων τεχνητής νοημοσύνης και ML που βασίζονται σε δεδομένα τα καθιστά διατομεακά, πράγμα που σημαίνει ότι είναι πιθανώς εφαρμόσιμα σε διαφορετικά συστήματα ή εξοπλισμό. Ένας επιστημονικός όρος που περιγράφει αυτό ονομάζεται μεταφορά μάθησης (TL), και αφορά τη μεταφορά γνώσης μεταξύ τομέων. Το TL έχει διερευνηθεί από την επιστημονική κοινότητα τα τελευταία χρόνια. Ωστόσο, η χρήση του δεν έχει διερευνηθεί διεξοδικά για θερμoϋδραυλικές διεργασίες. Αυτή η διατριβή διερευνά την εφαρμογή του TL σε πολλές θερμoϋδραυλικές εγκαταστάσεις που σχετίζονται με πυρηνικά συστήματα. Πρώτον, καθορίζουμε τη σκοπιμότητα του TL εκτελώντας παρακολούθηση σε πραγματικό χρόνο των αισθητήρων θερμοστοιχείου και καθορίζουμε τα όρια εφαρμογής του TL σε αυτό το πλαίσιο μελετώντας τις συσχετίσεις μεταξύ του σφάλματος πρόβλεψης και της ροής. Τα δεδομένα μετρήσεων λαμβάνονται, σε δύο ξεχωριστά πειράματα, σε βρόχο ροής γεμάτο με νερό και με υγρό μέταλλο Galinstan. Αναπτύσσουμε επαναλαμβανόμενα νευρωνικά δίκτυα μακράς βραχυπρόθεσμης μνήμης (LSTM) για προβλέψεις αισθητήρων μέσω εκπαίδευσης στο ιστορικό του ίδιου αισθητήρα, και μεταφοράς μάθησης LSTM (TL-LSTM) με εκπαίδευση στο ιστορικό ενός συσχετιζόμενου αισθητήρα. Οι διασταυρούμενες συσχετίσεις αισθητήρων προσδιορίζονται με τον υπολογισμό του συντελεστή συσχέτισης Pearson της χρονοσειράς. Η ακρίβεια των προβλέψεων θερμοκρασίας LSTM και TL-LSTM μελετάται ως συνάρτηση του αριθμού Reynolds (Re). Η ρίζα μέσου τετραγωνικού σφάλματος (RMSE) για το τμήμα δοκιμής των χρονοσειρών κάθε αισθητήρα φαίνεται να αυξάνεται γραμμικά με το Re τόσο για το νερό όσο και για το υγρό μέταλλο Galinstan. Χρησιμοποιώντας γραμμικούς συσχετισμούς, υπολογίζουμε το εύρος τιμών του Re για το οποίο το RMSE είναι μικρότερο από την αβεβαιότητα μέτρησης του θερμοστοιχείου. Τόσο για το νερό όσο και για το υγρό μέταλλο Galinstan, δείχνουμε ότι τόσο το LSTM όσο και το TL-LSTM παρέχουν αξιόπιστες εκτιμήσεις της θερμοκρασίας για τυπικά καθεστώτα ροής σε έναν πυρηνικό αντιδραστήρα. Ο χρόνος εκτέλεσης του LSTM φαίνεται να είναι σημαντικά μικρότερος από τον ρυθμό απόκτησης δεδομένων, ο οποίος επιτρέπει την εκτέλεση εκτίμησης και επικύρωσης των μετρήσεων του αισθητήρα σε πραγματικό χρόνο. Σε μια άλλη εργασία, συγκρίνουμε την απόδοση του μοντέλου ML δικτύου LSTM και του στατιστικού μοντέλου Autoregressive Integrated Moving Average (ARIMA) στη χρονική πρόβλεψη της κατανεμημένης ανίχνευσης θερμοκρασίας (DTS), για να καθορίσουμε στρατηγικές επιλογής δεδομένων εκπαίδευσης για τη βελτίωση της απόδοσης ενός μοντέλου. Τα δεδομένα σε αυτή τη μελέτη αποτελούνται από μετάβαση θερμοκρασίας ρευστού που μετρήθηκε με δύο συντοποθετημένους αισθητήρες οπτικών ινών (FOS) σκέδασης Rayleigh, σε μια ζώνη ανάμειξης με εξαναγκασμένη συναγωγή ενός θερμικού Τ. Αντιμετωπίζουμε κάθε μετρητή ενός FOS ως ανεξάρτητο αισθητήρα θερμοκρασίας. Αρχικά μελετάμε την πρόβλεψη των χρονοσειρών DTS χρησιμοποιώντας μοντέλα Vanilla LSTM και ARIMA που έχουν εκπαιδευτεί στο ιστορικό του ίδιου FOS που χρησιμοποιείται για δοκιμές. Στη συνέχεια, διερευνούμε την πρόβλεψη μηδενικής βολής (ZSF) με τα LSTM και ARIMA να έχουν εκπαιδευτεί μόνο στο ιστορικό των συντοποθετημένων FOS, κάτι που είναι πλεονεκτικό όταν υπάρχουν διαθέσιμα περιορισμένα δεδομένα εκπαίδευσης. Οι τιμές ZSF MaxAPE και RMSPE για το ARIMA είναι συγκρίσιμες με αυτές της περίπτωσης χρήσης Vanilla, ενώ οι τιμές σφάλματος για το LSTM αυξάνονται. Δείχνουμε ότι στο ZSF, η απόδοση του δικτύου LSTM μπορεί να βελτιωθεί με εκπαίδευση στους περισσότερους συσχετιζόμενους μετρητές μεταξύ των δύο FOS, οι οποίοι προσδιορίζονται με τον υπολογισμό του συντελεστή συσχέτισης Pearson. Η απόδοση του ZSF LSTM μπορεί να βελτιωθεί περαιτέρω μέσω του TL, όπου το LSTM εκπαιδεύεται εκ νέου σε ένα υποσύνολο του FOS που είναι ο στόχος της πρόβλεψης. Στο τελευταίο μέρος αυτής της διατριβής, προτείνουμε να χρησιμοποιήσουμε το TL για να αντισταθμίσουμε την έλλειψη δεδομένων εκπαίδευσης σε προηγμένους αντιδραστήρες και να εξετάσουμε εάν το TL μπορεί να αναπτυχθεί για εργασίες παρακολούθησης σε αυτά τα συστήματα. Το TL μπορεί να χρησιμοποιηθεί για τη δημιουργία προεκπαιδευμένων μοντέλων ML με δεδομένα από μικρής κλίμακας ερευνητικές εγκαταστάσεις, τα οποία στη συνέχεια μπορούν να ρυθμιστούν με ακρίβεια για την παρακολούθηση των αντιδραστήρων GenIV. Σε αυτήν την εργασία, αναπτύσσουμε προεκπαιδευμένα δίκτυα Transformers και LSTM εκπαιδεύοντάς τα σε μετρήσεις θερμοκρασίας από θερμικούς υδραυλικούς βρόχους ροής που λειτουργούν με νερό και υγρό μέταλλο Galinstan σε θερμοκρασία δωματίου στο Argonne National Laboratory. Τα προεκπαιδευμένα μοντέλα στη συνέχεια τελειοποιούνται και εκπαιδεύονται εκ νέου με ελάχιστα πρόσθετα δεδομένα για την εκτέλεση προβλέψεων χρονοσειρών μετρήσεων υψηλής θερμοκρασίας που λαμβάνονται από τη Μηχανική Δοκιμαστική Μονάδα (ETU) του Kairos Power. Η απόδοση του LSTM και των Transformers διερευνάται μεταβάλλοντας το μέγεθος του παραθύρου ανασκόπησης, για να καθοριστεί το βέλτιστο εύρος ελαχιστοποίησης σφαλμάτων, και του ορίζοντα πρόβλεψης, για να αξιολογηθούν οι δυνατότητες πρόβλεψης των μοντέλων. Τα αποτελέσματα αυτής της μελέτης δείχνουν ότι τα LSTM έχουν χαμηλότερα σφάλματα πρόβλεψης από τους Transformers, αλλά τα σφάλματα LSTM αυξάνονται πιο γρήγορα με την αύξηση του μεγέθους του παραθύρου ανασκόπησης και την αύξηση του ορίζοντα πρόβλεψης σε σύγκριση με τα σφάλματα των Transformers.