Contextualizing the emergence of engineering ethics: the case of Al ethics

Abstract

In this dissertation, I seek to offer a contextualization of engineering ethics with a focus on AI ethics. My research aimed at making such contextualization part of the formulation of a framework for the reconceptualization and resolution of concrete problems and dilemmas. This framework is deemed necessary for the whole spectrum of engineering practice from the engineering education and research, to the implementation of specific technologies and the designation of short- and long-term engineering policies. The concerns and challenges involved pervade all fields of engineering and the whole range of engineering practice. They are constitutive of ICT engineering, biomedical engineering, and environmental engineering. They are, similarly, ubiquitous in and constitutive of the general education, edification and formation of engineers both as professionals and individuals, of the implementation of specific technological configurations, of the advancement of specific research projects, of the management of both human and material resources, of the designation of long-term engineering policies. Therefore, the outcome of my research will constitute a substantive contribution to all the aforementioned areas and aspects. More specifically, regarding the academic impact, my research hoped to advance the self-consciousness of the field by enabling a deeper and better understanding of engineering practice. This entails the coherence and more efficient integration of the different engineering fields in a unified whole. To that effect, the formulation of a framework for the reconstruction and resolution of dilemmas, problems, and impasses concerning both technological research and implementation is deemed necessary for the educational formation of the engineer and the enlightened designation of research possibilities. The formulation of such a framework designates, at the same time, that the social impact of my research output is equally valuable. First, it seeks to foster a socially and ethically responsible stance of the engineer as a professional and educator. More crucially, my research responds to the great contemporary challenges. Thus, in turn, it enables the informed designation of concrete short- and long-term technological policies in all the aforementioned engineering fields. First, I offer a general introduction related to engineering ethics, technology ethics, and AI ethics. In the second chapter, I begin with a brief introduction to the history of engineering and technology ethics to clarify two key points: first, that engineering is not about some neutral progress of technology; and second, technology ethics is not the same as engineering ethics. Next, I review ethical theories within the context of technology ethics, as these frameworks are commonly applied by ethicists, philosophers, and engineers to interpret the relationship between technology and society in ethical terms. Drawing on Actor Network Theory and the Strong Program, I examine STS perspectives on technology’s non-neutrality and the “black box” concept, which are essential for constructing a comprehensive framework for technology ethics. In the third chapter, I focus on engineering ethics, offering a contextual overview of the key issues, codes of ethics, and relevant cases associated with this field. In the fourth chapter, I argue that a comprehensive approach to AI ethics should encompass the following five elements. First, a critical history of AI that examines the social, economic, and political contexts in which AI is designed, developed, and utilized, rather than focusing solely on technical advancements. Second, a review of commonly discussed AI ethics topics—such as fairness, accountability, and transparency—to highlight gaps in these frameworks. Third, an exploration of AI’s “black box,” not just from a technical viewpoint but also in terms of the political, social, and economic forces that shape and sustain it, uncovering hidden social relations, labor, and the lack of true “intelligence” in these systems. Fourth, a critical analysis of specific AI cases through perspectives that consider capitalism and its interconnected social, political, and economic dynamics, where biases, inequalities, and discriminations are seen not as flaws but as intrinsic aspects of AI. Fifth, an investigation of AI’s hidden labor and the implications for the future of work, critiquing AI’s perceived autonomy while exposing the harsh working conditions of certain laborers. Discussions on the future of work should move beyond simplistic notions of capitalism’s cycle or abstract ideas of ethical AI in the workplace; they should instead address the social, political, and economic foundations of our society and critically assess the current capitalist model. Together, these elements form the basis for an adequate AI ethics study. In the fifth chapter, I start with an introduction to the secondary literature on Institutes, Centers, labs, groups, and initiatives that focus on engineering ethics and AI ethics. Next, I explain the methodology for selecting some of them, contextualizing their activities, and categorizing their research areas and topics. Finally, I conclude the chapter with an evaluation of the primary research findings. In the sixth chapter, I begin with a review of secondary literature on engineering ethics and AI ethics Initiatives. Here, “Initiatives” refers to courses, modules, programs, curricula, resources, and teaching materials. This review is essential for understanding the importance that universities place on engineering ethics and AI ethics, and their efforts to prepare (engineering) students to navigate these ethical challenges. Next, I explain the methodology of my primary research. Third, I present the primary research, focusing on various Initiatives, especially courses and modules. Fourth, I evaluate the primary research, assessing the proportion of universities that have developed such Initiatives, which underscores the significance of addressing challenges in AI and engineering ethics. In the seventh chapter, I begin with an overview of the role of professional engineering societies in promoting engineering ethics, raising various questions about how these societies support engineers. Next, I examine the case of IEEE and its involvement in the development of the ethics of engineers, drawing on both primary and secondary literature.

Στην παρούσα διατριβή, επιδιώκω να προσφέρω μια πλαισίωση της ηθικής της μηχανικής, εστιάζοντας στην ηθική της τεχνητής νοημοσύνης. Η έρευνά μου στόχευσε στο να οδηγήσει να γίνει μία τέτοια πλαισίωση μέρος της διαμόρφωσης ενός πλαισίου για την επαναπροσδιορισμό και την επίλυση συγκεκριμένων προβλημάτων και διλημμάτων. Το πλαίσιο αυτό κρίνεται απαραίτητο για όλο το φάσμα της μηχανικής πρακτικής, από τη μηχανική εκπαίδευση και την έρευνα, μέχρι την εφαρμογή συγκεκριμένων τεχνολογιών και τον καθορισμό βραχυπρόθεσμων και μακροπρόθεσμων πολιτικών μηχανικής. Οι προβληματισμοί και οι προκλήσεις που εμπεριέχονται διαπερνούν όλους τους τομείς της μηχανικής και όλο το φάσμα της μηχανικής πρακτικής. Αποτελούν συστατικό στοιχείο της επιστήμης των υπολογιστών, της βιοϊατρικής μηχανικής και της περιβαλλοντικής μηχανικής. Είναι, ομοίως, πανταχού παρούσες και συνιστούν τη γενική εκπαίδευση, την επιμόρφωση και τη διαμόρφωση των μηχανικών τόσο ως επαγγελματιών όσο και ως ατόμων, την εφαρμογή συγκεκριμένων τεχνολογικών διαμορφώσεων, την προώθηση συγκεκριμένων ερευνητικών έργων, τη διαχείριση ανθρώπινων και υλικών πόρων, τον καθορισμό μακροπρόθεσμων πολιτικών μηχανικής. Ως εκ τούτου, το αποτέλεσμα της έρευνάς μου θα αποτελέσει ουσιαστική συμβολή σε όλους τους προαναφερθέντες τομείς και πτυχές. Πιο συγκεκριμένα, όσον αφορά τον ακαδημαϊκό αντίκτυπο, το ερευνητικό μου αποτέλεσμα ευελπιστώ ότι προωθεί τη βαθύτερη και καλύτερη κατανόηση του ίδιου του πεδίου της μηχανικής πρακτικής. Αυτό συνεπάγεται τη συνοχή και την αποτελεσματικότερη ενσωμάτωση των διαφόρων τομέων της μηχανικής σε ένα ενιαίο σύνολο. Για το σκοπό αυτό, η διαμόρφωση ενός πλαισίου για την ανασυγκρότηση και την επίλυση διλημμάτων, προβλημάτων και αδιεξόδων που αφορούν τόσο την τεχνολογική έρευνα όσο και την εφαρμογή κρίνεται αναγκαία για την εκπαιδευτική διαμόρφωση του μηχανικού. Η διαμόρφωση ενός τέτοιου πλαισίου δηλώνει, ταυτόχρονα, ότι ο κοινωνικός αντίκτυπος των ερευνητικών μου αποτελεσμάτων είναι εξίσου πολύτιμος. Πρώτον, επιδιώκει να προωθήσει μια κοινωνικά και ηθικά υπεύθυνη στάση του μηχανικού ως επαγγελματία και εκπαιδευτικού. Το πιο κρίσιμο είναι ότι η έρευνά μου ανταποκρίνεται στις μεγάλες σύγχρονες προκλήσεις. Έτσι, με τη σειρά της, επιτρέπει τον τεκμηριωμένο προσδιορισμό συγκεκριμένων τόσο βραχυπρόθεσμων όσο και μακροπρόθεσμων τεχνολογικών πολιτικών σε όλους τους προαναφερθέντες τομείς της μηχανικής. Αρχικά, προσφέρω μια γενική εισαγωγή σχετικά με τη μηχανική ηθική, την τεχνολογική ηθική και την ηθική της τεχνητής νοημοσύνης. Στο δεύτερο κεφάλαιο, αρχίζω με μια σύντομη εισαγωγή στην ιστορία της ηθικής της μηχανικής και της τεχνολογίας για να αποσαφηνίσω δύο βασικά σημεία: πρώτον, ότι η μηχανική δεν έχει να κάνει με μία ουδέτερη πρόοδο της τεχνολογίας, και δεύτερον, ότι η ηθικής της τεχνολογίας δεν είναι το ίδιο με την ηθική της μηχανικής. Στη συνέχεια, εξετάζω τις ηθικές θεωρίες στο πλαίσιο της τεχνολογικής ηθικής, καθώς αυτές οι θεωρίες εφαρμόζονται συνήθως από ηθικολόγους, φιλοσόφους και μηχανικούς για να ερμηνεύσουν τη σχέση μεταξύ τεχνολογίας και κοινωνίας με ηθικούς όρους. Βασιζόμενος στις θεωρίες Actor Network Theory και Strong Program, εξετάζω τις προοπτικές του επιστημονικού πεδίου STS σχετικά με τη μη ουδετερότητα της τεχνολογίας και την έννοια του «μαύρου κουτιού» της, οι οποίες είναι απαραίτητες για την κατασκευή ενός ολοκληρωμένου πλαισίου για την τεχνολογική ηθική. Στο τρίτο κεφάλαιο, επικεντρώνομαι στη ηθική της μηχανικής, προσφέροντας μια συνοπτική επισκόπηση των βασικών ζητημάτων, των κωδίκων ηθικής και των περιπτώσεων που σχετίζονται με αυτόν τον τομέα. Στο τέταρτο κεφάλαιο, υποστηρίζω ότι μια ολοκληρωμένη προσέγγιση της ηθικής της τεχνητής νοημοσύνης θα πρέπει να περιλαμβάνει τα ακόλουθα πέντε στοιχεία. Πρώτον, μια κριτική ιστορία της τεχνητής νοημοσύνης που εξετάζει τα κοινωνικά, οικονομικά και πολιτικά πλαίσια στα οποία σχεδιάζεται, αναπτύσσεται και χρησιμοποιείται η τεχνητή νοημοσύνη, αντί να επικεντρώνεται αποκλειστικά στις τεχνικές εξελίξεις της. Δεύτερον, μια ανασκόπηση των κοινώς συζητούμενων θεμάτων ηθικής της τεχνητής νοημοσύνης, όπως η δικαιοσύνη, η λογοδοσία και η διαφάνεια, για να επισημανθούν τα κενά σε αυτά τα πλαίσια. Τρίτον, μια διερεύνηση του «μαύρου κουτιού» της τεχνητής νοημοσύνης, όχι μόνο από τεχνική άποψη, αλλά και από την άποψη των πολιτικών, κοινωνικών και οικονομικών δυνάμεων που τη διαμορφώνουν και τη συντηρούν, αποκαλύπτοντας τις κρυφές κοινωνικές σχέσεις, την εργασία και την έλλειψη πραγματικής «νοημοσύνης» σε αυτά τα συστήματα. Τέταρτον, μια κριτική ανάλυση συγκεκριμένων περιπτώσεων τεχνητής νοημοσύνης μέσα από οπτικές που εξετάζουν τον καπιταλισμό και τις αλληλένδετες κοινωνικές, πολιτικές και οικονομικές δυναμικές του, όπου οι προκαταλήψεις, οι ανισότητες και οι διακρίσεις δεν θεωρούνται ελαττώματα αλλά εγγενείς πτυχές της τεχνητής νοημοσύνης. Πέμπτον, μια διερεύνηση της κρυφής εργασίας που απαιτείται για την τεχνητή νοημοσύνη και των συνεπειών της τεχνητής νοημοσύνης στο μέλλον της εργασίας, ασκώντας κριτική στην αποκαλούμενη «αυτονομία» της τεχνητής νοημοσύνης και αποκαλύπτοντας παράλληλα τις σκληρές συνθήκες εργασίας ορισμένων εργαζομένων. Οι συζητήσεις για το μέλλον της εργασίας θα πρέπει να κινηθούν πέρα από απλοϊκές αντιλήψεις για την κυκλική λειτουργία του καπιταλισμού ή αφηρημένες ιδέες για την ηθική της τεχνητής νοημοσύνης στον εργασιακό χώρο. Θα πρέπει, αντίθετα, να ασχοληθούν με τα κοινωνικά, πολιτικά και οικονομικά θεμέλια της κοινωνίας μας και να αξιολογήσουν κριτικά το σημερινό καπιταλιστικό μοντέλο. Από κοινού, τα στοιχεία αυτά αποτελούν τη βάση για μια επαρκή μελέτη ηθικής της τεχνητής νοημοσύνης. Στο πέμπτο κεφάλαιο, αρχίζω με μια εισαγωγή στη δευτερογενή βιβλιογραφία σχετικά με τα Ινστιτούτα, τα Κέντρα, τα εργαστήρια, τις ομάδες και τις πρωτοβουλίες που επικεντρώνονται στην ηθική της μηχανικής και την ηθική της τεχνητής νοημοσύνης. Στη συνέχεια, εξηγώ τη μεθοδολογία για την επιλογή ορισμένων από αυτά, την πλαισίωση των δραστηριοτήτων τους και την κατηγοριοποίηση των ερευνητικών τους τομέων και θεμάτων. Τέλος, ολοκληρώνω το κεφάλαιο με την αξιολόγηση των ευρημάτων της πρωτογενούς έρευνας. Στο έκτο κεφάλαιο, αρχικά γίνεται μια ανασκόπηση της δευτερογενούς βιβλιογραφίας, σχετική με τις πρωτοβουλίες για την ηθική της μηχανικής και την ηθικής της τεχνητής νοημοσύνης. Εδώ, ο όρος «πρωτοβουλίες» αναφέρεται σε μαθήματα, διδακτικές ενότητες, προγράμματα σπουδών, πόρους και διδακτικό υλικό. Αυτή η ανασκόπηση είναι απαραίτητη για την κατανόηση της σημασίας που αποδίδουν τα πανεπιστήμια στη ηθική της μηχανικής και την ηθική της τεχνητής νοημοσύνης και των προσπαθειών τους να προετοιμάσουν τους φοιτητές (μηχανικούς και μη) για να αντιμετωπίσουν αυτές τις ηθικές προκλήσεις. Δεύτερον, εξηγώ τη μεθοδολογία της πρωτογενούς έρευνάς μου. Τρίτον, παρουσιάζω την πρωτογενή έρευνά μου, εστιάζοντας σε διάφορες πρωτοβουλίες και κυρίως σε μαθήματα. Τέταρτον, αξιολογώ την πρωτογενή έρευνα, εκτιμώντας το ποσοστό των πανεπιστημίων που έχουν αναπτύξει τέτοιες πρωτοβουλίες, γεγονός που υπογραμμίζει τη σημασία της αντιμετώπισης των προκλήσεων στην ηθική της τεχνητής νοημοσύνης και της μηχανικής. Στο έβδομο κεφάλαιο, αρχικά γίνεται μια επισκόπηση του ρόλου των επαγγελματικών κοινοτήτων των μηχανικών στην προώθηση της ηθικής της μηχανικής, θέτοντας διάφορα ερωτήματα σχετικά με τον τρόπο με τον οποίο αυτές οι κοινότητες υποστηρίζουν τους μηχανικούς. Στη συνέχεια, εξετάζω την περίπτωση του ΙΕΕΕ και τη συμμετοχή του στη διαμόρφωση της ηθικής της μηχανικής, βασιζόμενος τόσο σε πρωτογενή όσο και σε δευτερογενή βιβλιογραφία.