Enabling efficient analysis of CVD processes by combining CFD and data-driven reduced-order modeling

Abstract

In this dissertation, a purely data-driven, equation-free computational framework is proposed for dealing efficiently and effectively with Computational Fluid Dynamics (CFD) large-scale and complex models. The case studies utilized for the framework application are Chemical Vapor Deposition (CVD) reactors, since their CFD models present multiple challenges, such as complex geometries, variety of competing transport phenomena, multiple chemical reaction pathways and nonlinearity. The CFD models are discretized and solved with the commercial code ANSYS Fluent using the Finite Volume Method (FVM). The computational study of such problems is costly because of the studied CFD model size, which is a result of high-fidelity computational grids used and the physicochemical phenomena that occur in a CVD reactor. Therefore, the main purpose of this thesis is to develop and optimize a data-driven computational framework, which is used for the creation of equation-free Reduced Order Models (ROM) of the data obtained from the high-dimensionality models of the CVD reactors. Finally, the computational processing of the ROM is significantly cheaper than the initial studied CVD reactor model and ultimately produces the same high-fidelity results. The core of the proposed computational framework is specifically the machine learning algorithms of Proper Orthogonal Decomposition (POD) and Artificial Neural Networks (ANN). Since, both algorithms are data-driven, the data collection takes place first, which is the solution of the CFD model several times. The data collection is executed on coarse computational grids with the chemistry removed from the CFD models, to reduce the cost of the procedure. The latter is an assumption that the chemistry does not affect the state of the reactor, because the reactive mixture of CVD processes is dilute. The data collection is a procedure of imposing step changes on a control variable of the process and capturing the trajectory of the dynamic response of the system throughout the change from the initial steady state to the target one. This trajectory is discretized in snapshots of the reactor state for every time increment. Following the data collection, the POD is used to determine the optimal low-dimensionality orthonormal basis that contains most of the spatial dependency information and shows the best accuracy at recreating parts of the data set. Since POD is not able to capture the time dependence, this is achieved by using the same data set and the previously constructed POD basis to train and simulate a Nonlinear Autoregressive Network with exogenous inputs (NARX) for different inputs of the control variable. Therefore, this results to a final ROM that can produce fast approximations of the system states for any given input with extremely low computational cost and great accuracy. Finally, considering that the ROM is built on coarse grid data and without chemistry, its predictions are used as initial estimates after being interpolated using the Nearest Neighbor grid-to-grid interpolation to the fine grid model that includes the chemical reactions. The latter then converges in a small number of iterations and gives the desired high-fidelity solution. Three different case studies are shown in this work, the first is the aluminum CVD from the precursor DMEAA, the second the copper CVD from copper amidinate and last a CVD reactor that presents solution multiplicity. In the first case study, the CFD model of the reactor is accompanied by a significant computational burden, due to the grid size and the complex reaction kinetics. Thus, by following the framework a ROM is created that, with negligible error on its predictions, accelerates the CFD simulations up to 2.5 times in core hours (core hours = wall clock-time x CPU cores used in parallel processing) and up to 312 times when chemistry is not considered. During the second case study of copper CVD, a novel chemical reaction network is proposed and fitted on existing experimental data, using a ROM to impressively speed up the procedure of fitting the kinetic parameters that carries a high computational burden, since a big part of it is trial and error. The reaction network consists of two temperature activated decomposition volumetric reactions and one surface deposition reaction, the first are proposed in order to explain and capture the decrease of deposition rate at high substrate temperatures, which appears in experimental findings. The two decomposition reactions are a carbodiimide deinsertion and a β-hydrogen abstraction of copper amidinate and their kinetic constants are fitted on the available experimental data. The usage of the ROM shows a 4 times acceleration in core hours with insignificant errors for its predictions, which is crucial for the fitting procedure since the model must be simulated several times. The final case study concerns a CVD reactor with solution multiplicity, which for the same operating conditions has three different states, two stable and observable experimentally, and one unstable that is not observable experimentally. This solution multiplicity increases the computational cost of the CFD study, especially close to the turning points between the stable/unstable state branches of the solution space, since the convergence of the solver “jumps” between the two different stable states. Thus, the framework was implemented and created an equation-free ROM based on data from both stable solution branches, that can capture the solution multiplicity in the studied solution space with less than 2% error, for any input on the controlled variable, thus confirming that the proposed framework can address complex nonlinear systems too.

Στη παρούσα διδακτορική διατριβή, προτείνεται ένα υπολογιστικό πλαίσιο βασισμένο σε δεδομένα, χωρίς εξισώσεις, για την αποτελεσματική αντιμετώπιση σύνθετων μοντέλων Υπολογιστικής Ρευστοδυναμικής (Computational Fluid Dynamics, CFD) μεγάλης κλίμακας. Οι περιπτωσιολογικές μελέτες που χρησιμοποιούνται για την εφαρμογή πλαισίου αφορούν αντιδραστήρες Χημικής Απόθεσης από Ατμό (Chemical Vapor Deposition, CVD), καθώς τα CFD μοντέλα τους παρουσιάζουν πολλαπλές προκλήσεις, όπως πολύπλοκες γεωμετρίες, ποικιλία ανταγωνιστικών φαινομένων μεταφοράς, πολλαπλές οδούς χημικής αντίδρασης και μη γραμμικότητα. Τα μοντέλα CFD διακριτοποιούνται και επιλύονται με τον εμπορικό κώδικα ANSYS Fluent χρησιμοποιώντας τη Μέθοδο Πεπερασμένων Όγκων (Finite Volume Method, FVM). Η υπολογιστική μελέτη τέτοιων προβλημάτων είναι δαπανηρή λόγω του μεγέθους του μοντέλου CFD υπό μελέτη, το οποίο είναι αποτέλεσμα της χρήσης υπολογιστικών πλεγμάτων υψηλής ποιότητας και των φυσικοχημικών φαινομένων που εμφανίζονται σε έναν αντιδραστήρα CVD. Ως εκ τούτου, ο κύριος σκοπός αυτής της διατριβής είναι η ανάπτυξη και βελτιστοποίηση ενός υπολογιστικού πλαισίου, βασισμένο σε μεθόδους μηχανικής εκμάθησης και δεδομένα, χωρίς γνώση των εξισώσεων, το οποίο χρησιμοποιείται για τη δημιουργία Μοντέλων Μειωμένης Τάξης (Reduced Order Model, ROM) των μοντέλων υψηλής διάστασης των αντιδραστήρων CVD. Τέλος, η υπολογιστική επεξεργασία των ROM είναι σημαντικά φθηνότερη από το αρχικό λεπτομερές μοντέλο του αντιδραστήρα CVD και τελικά παράγει τα ίδια αποτελέσματα υψηλής πιστότητας.Ο πυρήνας του προτεινόμενου υπολογιστικού πλαισίου είναι συγκεκριμένα οι αλγόριθμοι μηχανικής εκμάθησης της Ορθής Ορθογώνιας Αποσύζευξης (Proper Orthogonal Decomposition, POD) και των Τεχνητών Νευρωνικών Δικτύων (Artificial Neural Networks, ANN). Αρχικά, εφόσον και οι δύο αλγόριθμοι βασίζονται σε δεδομένα, πραγματοποιείται η συλλογή αυτών με την επίλυση του μοντέλου CFD αρκετές φορές. Η συλλογή δεδομένων εκτελείται σε CFD μοντέλα με αραιά υπολογιστικά πλέγματα χωρίς χημεία, για να μειωθεί το κόστος της διαδικασίας. Το τελευταίο είναι μια υπόθεση ότι η χημεία δεν επηρεάζει την κατάσταση του αντιδραστήρα, επειδή το μείγμα των αντιδρώντων στις διεργασίες CVD είναι αραιό. Η συλλογή δεδομένων είναι μια διαδικασία βηματικών επιβολών σε μια από τις μεταβλητές ελέγχου της διεργασίας και η καταγραφή της τροχιάς της δυναμικής απόκρισης του συστήματος κατά τη μετάβαση από την αρχική μόνιμη κατάσταση στην τελική. Αυτή η τροχιά διακριτοποιείται σε στιγμιότυπα της κατάστασης του αντιδραστήρα για κάθε χρονική στιγμή. Μετά τη συλλογή δεδομένων, η μέθοδος POD χρησιμοποιείται για τον προσδιορισμό της βέλτιστης ορθοκανονικής βάσης χαμηλής διάστασης που περιέχει τις περισσότερη πληροφορία της χωρικής εξάρτησης και παρέχει την καλύτερη ακρίβεια στην αναδημιουργία τμημάτων του συνόλου δεδομένων. Δεδομένου ότι η POD δεν είναι σε θέση να καταγράψει την χρονική εξάρτηση των δεδομένων, αυτό επιτυγχάνεται με τη χρήση του ίδιου συνόλου δεδομένων και της προκύπτουσας βάσης POD για την εκπαίδευση και προσομοίωση ενός μη γραμμικού νευρωνικού δικτύου με ανατροφοδότηση και εξωγενείς εισόδους (Nonlinear Autoregressive Network with exogenous inputs, NARX) για διαφορετικές τιμές εισόδου της μεταβλητής ελέγχου. Επομένως, αυτό οδηγεί σε ένα τελικό Μοντέλο Μειωμένης Τάξης (Reduced Order Model, ROM) που μπορεί να παράγει γρήγορες προσεγγίσεις των καταστάσεων του συστήματος για οποιαδήποτε δεδομένη τιμής της μεταβλητής εισόδου με εξαιρετικά χαμηλό υπολογιστικό κόστος και μεγάλη ακρίβεια. Τέλος, λαμβάνοντας υπόψη ότι το ROM δημιουργείται με βάση δεδομένα που προέρχονται από υπολογισμούς σε αραιό πλέγμα και χωρίς χημεία, οι προβλέψεις του χρησιμοποιούνται ως αρχικές εκτιμήσεις μετά την παρεμβολή τους, με την παρεμβολή από-πλέγμα-σε-πλέγμα ή πλησιέστερου γείτονα, στο μοντέλο πυκνού πλέγματος που περιλαμβάνει τις χημικές αντιδράσεις. Το τελευταίο στη συνέχεια συγκλίνει σε μικρό αριθμό επαναλήψεων και δίνει την επιθυμητή λύση υψηλής ακρίβειας. Στην παρούσα διατριβή παρουσιάζονται τρία διαφορετικά συστήματα, το πρώτο είναι η CVD αλουμίνιου από την πρόδρομη ένωση DMEAA, το δεύτερο η CVD χαλκού από το copper amidinate και το τελευταίο αποτελεί έναν αντιδραστήρα CVD που παρουσιάζει πολλαπλότητα λύσεων. Στη μελέτη του πρώτου συστήματος, το μοντέλο CFD του αντιδραστήρα συνοδεύεται από σημαντικό υπολογιστικό κόστος, λόγω του μεγέθους του πλέγματος και της πολύπλοκης κινητικής αντιδράσεων. Οπότε, ακολουθώντας το προτεινόμενο πλαίσιο δημιουργείται ένα ROM που, με αμελητέο σφάλμα στις προβλέψεις του, επιταχύνει τις προσομοιώσεις CFD κατά 2.5 φορές σε «ώρες πυρήνα» (ώρες πυρήνα = πραγματικός χρόνος ρολογιού x πυρήνες επεξεργαστή CPU που χρησιμοποιούνται στην παράλληλη επεξεργασία) και 312 φορές όταν δεν εξετάζεται η χημεία. Κατά τη διάρκεια της δεύτερης περιπτωσιολογικής μελέτης της CVD του χαλκού, προτείνεται και εφαρμόζεται ένα νέο δίκτυο χημικών αντιδράσεων πάνω σε υπάρχοντα πειραματικά δεδομένα. Με τη δημιουργία και χρήση ενός ROM επιταχύνεται η διαδικασία προσαρμογής των κινητικών παραμέτρων των αντιδράσεων, μια διαδικασία που φέρει υψηλό υπολογιστικό φορτίο, καθώς ένα μεγάλο μέρος της αποτελεί δοκιμή και σφάλμα. Το δίκτυο αντιδράσεων αποτελείται από δύο ογκομετρικές αντιδράσεις αποσύνθεσης που ενεργοποιούνται σε υψηλές θερμοκρασίες και μία αντίδραση επιφανειακής απόθεσης. Οι πρώτες προτείνονται με σκοπό την εξήγηση και αποτύπωση της μείωσης του ρυθμού απόθεσης σε υψηλές θερμοκρασίες υποστρώματος, η οποία εμφανίζεται στα πειραματικά ευρήματα. Οι δύο αντιδράσεις αποσύνθεσης είναι μια αφαίρεση καρβοδιιμιδίου (carbodiimide deinsertion) και μια αφαίρεση β-υδρογόνου (β-hydrogen abstraction) του copper amidinate και οι κινητικές σταθερές αυτών προσαρμόζονται στα διαθέσιμα πειραματικά δεδομένα. Η χρήση του ROM αποδίδει 4 φορές επιτάχυνση σε πραγματικό χρόνο ρολογιού με ασήμαντα σφάλματα στις προβλέψεις, κάτι που είναι ζωτικής σημασίας για τη διαδικασία προσαρμογής, καθώς το μοντέλο πρέπει να προσομοιωθεί αρκετές φορές. Η τελευταία περιπτωσιολογική μελέτη αφορά έναν αντιδραστήρα CVD με πολλαπλότητα λύσεων, ο οποίος για τις ίδιες συνθήκες λειτουργίας έχει τρεις διαφορετικές καταστάσεις, δύο ευσταθείς και παρατηρήσιμες πειραματικά, και μία ασταθή που δεν είναι παρατηρήσιμη πειραματικά. Η πολλαπλότητα του χώρου λύσεων αυξάνει το υπολογιστικό κόστος της CFD μελέτης, ειδικά κοντά στα σημεία καμπής μεταξύ των ευσταθών/ασταθών κλάδων καταστάσεων του χώρου λύσεων, καθώς η σύγκλιση του επιλυτή «πηδά» μεταξύ των δύο διαφορετικών ευσταθών καταστάσεων. Επομένως, το υπολογιστικό πλαίσιο εφαρμόστηκε για τη δημιουργία ενός ROM με βάση τα δεδομένα από τους δύο ευσταθείς κλάδους λύσεων, άνευ γνώσης των εξισώσεων. Το ROM μπορεί να συλλάβει την πολλαπλότητα στο μελετημένο χώρο λύσεων με σφάλμα λιγότερο από 2%, για οποιαδήποτε τιμή εισόδου της ελεγχόμενης μεταβλητής, επιβεβαιώνοντας έτσι ότι το προτεινόμενο πλαίσιο μπορεί να αντιμετωπίσει και σύνθετα μη γραμμικά συστήματα.