Ηθική της Τεχνητής Νοημοσύνης: έμφυλη μεροληψία και σύγχρονα εργαλεία Τεχνητής Νοημοσύνης

Abstract

Artificial Intelligence (AI) has become an integral part of daily human life and finds applications across numerous fields. In particular, over the past five years, the development of tools capable of processing natural language and simulating human conversations has led to a rapid increase in AI usage. The accessibility and ease of use of these tools have played a decisive role in their proliferation, as they are designed for users who do not require specialized technological knowledge. Moreover, many of their capabilities are offered free of charge, with the only prerequisite being an internet connection. It is estimated that millions of users worldwide utilize these tools daily for both professional and personal purposes. AI tools are employed across diverse sectors, including education, healthcare, mental health, human resource management, marketing, and communication. In these areas, they contribute to the provision of information, strategic planning, task execution, and service promotion. However, the application of AI is not confined to these fields alone; these tools have the potential to influence other significant societal domains, such as politics and the justice system. The global spread of AI tools, in the absence of sufficient information literacy and critical thinking skills to assess their outputs, poses the risk that their responses may be uncritically accepted and reproduced as accurate. These responses can include discriminatory content or stereotypes, as they are based on data collected and processed by humans; data that may contain biases which affect algorithmic behavior and outcomes. Therefore, the aim of this doctoral dissertation is to detect bias in modern AI tools, with a focus on gender. To collect data, Open-Ended and Image-Creation questions were designed and given as prompts with identical wording to three different AI tools. These questions were categorized into two groups based on their objectives: the first aimed to investigate gender stereotypes in AI-generated responses, and the second sought to assess the potential of these AI tools to assist educators in creating gender-neutral educational material. The findings revealed a clear presence of gender bias across all three AI tools, both in text generation (descriptive, narrative, and sentence completion tasks) and in image creation. Specifically, stereotypical associations between gender and professions, social roles, or personality traits were consistently observed. Moreover, the wording of the prompt was found to significantly influence the extent and nature of the bias, with variations depending on the language and cultural context in which the prompt was formulated. Clear and personalized prompts generally led to more accurate and complete responses.Of particular importance was the identification of a prevailing patriarchal perception of the male as the default. When the gender of the subject was not explicitly stated, AI-generated responses overwhelmingly referred to male figures. This indicates a fundamental limitation of the tools in recognizing or addressing the specific needs and experiences of other genders unless explicitly instructed by the user. In the second part of the study, it was found that these tools can be used constructively in educational settings. Specifically, they demonstrated the ability to detect linguistic sexism in existing educational materials and to suggest more inclusive alternatives. Additionally, they were able to generate proposals for gender-neutral activities, thereby supporting educators in creating more equitable and inclusive learning environments. Overall, the dissertation highlights the need for a critical approach to the use of AI tools, as well as the importance of digital and information literacy both within education and in the broader social context.

Η Τεχνητή Νοημοσύνη (ΤΝ) έχει γίνει αναπόσπαστο μέρος της ανθρώπινης καθημερινότητας και βρίσκει εφαρμογές σε πλήθος τομέων. Ιδιαίτερα τα τελευταία πέντε χρόνια, με την ανάπτυξη εργαλείων που επεξεργάζονται τη φυσική γλώσσα και προσομοιώνουν ανθρώπινες συνομιλίες, η χρήση τους έχει αυξηθεί ραγδαία. Η ευκολία πρόσβασης και χρήσης αυτών των εργαλείων έχει παίξει καθοριστικό ρόλο στην εξάπλωσή τους, καθώς απευθύνονται σε χρήστες που δεν απαιτούν εξειδικευμένες γνώσεις τεχνολογίας, ενώ οι δυνατότητές τους προσφέρονται σε μεγάλο βαθμό δωρεάν, με μοναδικό προαπαιτούμενο τη σύνδεση στο διαδίκτυο. Εκτιμάται ότι εκατομμύρια χρήστες παγκοσμίως τα αξιοποιούν καθημερινά για επαγγελματικούς και προσωπικούς σκοπούς. Τα εργαλεία αυτά χρησιμοποιούνται σε ποικίλους τομείς όπως η εκπαίδευση, η υγεία, η ψυχική υγεία, η διαχείριση ανθρωπίνων πόρων, καθώς και το μάρκετινγκ και η επικοινωνία. Σε αυτούς τους τομείς, συμβάλλουν στην παροχή πληροφοριών, το σχεδιασμό στρατηγικών, τη διενέργεια δραστηριοτήτων και την προώθηση υπηρεσιών. Ωστόσο, οι εφαρμογές της ΤΝ δεν περιορίζονται μόνο στους παραπάνω τομείς. Τα εργαλεία αυτά έχουν τη δυνατότητα να επηρεάσουν άλλες σημαντικές πτυχές της κοινωνίας, όπως η πολιτική ή η δικαιοσύνη. Η ευρεία χρήση των εργαλείων ΤΝ σε παγκόσμιο επίπεδο, χωρίς την απαιτούμενη πληροφοριακή παιδεία και την ανάπτυξη κριτικής σκέψης για την αξιολόγηση των αποτελεσμάτων τους, ενέχει τον κίνδυνο να υιοθετηθούν και να αναπαραχθούν ως ορθές, απαντήσεις που προκύπτουν από αυτά τα εργαλεία. Απαντήσεις που ενδέχεται να περιλαμβάνουν διακρίσεις ή στερεότυπα, καθώς βασίζονται σε δεδομένα που έχουν συλλεχθεί και επεξεργαστεί από ανθρώπους, και τα δεδομένα αυτά μπορεί να ενσωματώνουν προκαταλήψεις, που επηρεάζουν τη συμπεριφορά των αλγορίθμων και τα αποτελέσματά τους. Για το λόγο αυτό ο σκοπός της παρούσας διδακτορικής διατριβής είναι η ανίχνευση μεροληψίας στα σύγχρονα εργαλεία ΤΝ, εστιάζοντας στην έμφυλη διάσταση της. Για τη συλλογή δεδομένων δημιουργήθηκαν ερωτήσεις Ανοικτού Τύπου και Δημιουργίας Εικόνας που δόθηκαν με την ίδια ακριβώς διατύπωση σε τρία διαφορετικά εργαλεία ΤΝ. Οι ερωτήσεις αυτές ταξινομήθηκαν σε δύο κατηγορίες ανάλογα με το στόχο τους. Ο ένας στόχος αφορούσε στη διερεύνηση έμφυλων στερεοτύπων στις απαντήσεις των εργαλείων ΤΝ και ο δεύτερος στη μελέτη της πιθανής δυνατότητας των εργαλείων να υποστηρίξουν το έργο του/της εκπαιδευτικού στη δημιουργία εκπαιδευτικού υλικού ουδέτερου ως προς το κοινωνικό φύλο. Τα αποτελέσματα ανέδειξαν σαφή παρουσία έμφυλης μεροληψίας και στα τρία εργαλεία (ChatGPT, Gemini, Microsoft Copilot), τόσο στη δημιουργία κειμένων (περιγραφικών, αφηγηματικών, συμπλήρωση προτάσεων) όσο και σε δημιουργία εικόνων. Συγκεκριμένα, καταγράφηκαν στερεοτυπικές αντιστοιχίσεις φύλων με επαγγέλματα, ρόλους, χαρακτηριστικά προσωπικότητας. Επιπλέον, διαπιστώθηκε ότι η διατύπωση της ερώτησης επηρεάζει καθοριστικά την έκταση και μορφή της μεροληψίας, με παραλλαγές ανάλογα με τη γλώσσα και το πολιτισμικό πλαίσιο στα οποία διατυπώνεται η ερώτηση. Επίσης, η σαφήνεια και η εξατομίκευση του prompt οδηγεί σε πληρέστερες απαντήσεις. Ιδιαίτερη σημασία έχει η ανάδειξη της κυρίαρχης πατριαρχικής αντίληψης του άνδρα ως default: όταν το φύλο δεν προσδιοριζόταν ρητά στο ερώτημα προς τα εργαλεία, οι απαντήσεις τους αναφέρονταν σε ανδρικό πληθυσμό, γεγονός που υποδεικνύει την αδυναμία τους να αναγνωρίσουν και να αναδείξουν τις ιδιαίτερες ανάγκες ή εμπειρίες άλλων φύλων χωρίς σαφή καθοδήγηση από τον/την χρήστη. Στο δεύτερο σκέλος της έρευνας, διαπιστώθηκε ότι τα εργαλεία ΤΝ, μπορούν να αξιοποιηθούν στην εκπαιδευτική πράξη από τους/τις εκπαιδευτικούς. Συγκεκριμένα, έχουν τη δυνατότητα να εντοπίσουν γλωσσικό σεξισμό σε υπάρχον εκπαιδευτικό υλικό και να προτείνουν εναλλακτικές, πιο συμπεριληπτικές διατυπώσεις. Διαπιστώθηκε επίσης η ικανότητά τους να παράγουν προτάσεις για δραστηριότητες ουδέτερες ως προς το φύλο, υποστηρίζοντας τους/τις εκπαιδευτικούς στη δημιουργία συμπεριληπτικού μαθησιακού περιβάλλοντος. Συνολικά, η διατριβή αναδεικνύει την ανάγκη για κριτική προσέγγιση στη χρήση εργαλείων ΤΝ, καθώς και τη σημασία της πληροφοριακής παιδείας τόσο σε εκπαιδευτικό όσο και σε ευρύτερο κοινωνικό επίπεδο.