Η εφαρμογή της αρχής της διαφάνειας στην Τεχνητή Νοημοσύνη

Abstract

Τhis PhD thesis has as its primary objective the investigation of the conceptual content and the limits of application of the principle of transparency in the context of artificial intelligence systems, in light of the new regulatory framework, taking into account the technological nature and the inherent obstacles associated with such an application. Specifically, the following key sub-questions are posed: What is the precise content and what are the dimensions of the principle of transparency when applied to machine learning technologies and algorithmic decision-making? How is this principle grounded in the provisions of the GDPR and what is its relationship to other principles and concepts, such as explainability, traceability, and accountability? What is the role of case law in interpreting the relevant provisions and in shaping a right to explanation? How has the concept of transparency been addressed in European, as well as in other international, legal orders to date? How does the notion of transparency differ in the AI Act — in relation to the GDPR — and what is the content of the new obligations? Finally, how has the issue of transparency been treated by existing impact assessment methodologies and models, as tools for oversight and accountability?

Η παρούσα διδακτορική διατριβή έχει ως πρωταρχικό αντικείμενο τη διερεύνηση του εννοιολογικού περιεχομένου και των ορίων εφαρμογής της αρχής της διαφάνειας στο πλαίσιο των συστημάτων τεχνητής νοημοσύνης υπό το φως του νέου κανονιστικού πλαισίου, λαμβάνοντας υπόψη την τεχνολογική φύση και τα εγγενή εμπόδια που συνδέονται με μια τέτοια εφαρμογή. Ειδικότερα, τίθενται τα επιμέρους βασικά ερωτήματα: Ποιο είναι το ακριβές περιεχόμενο και οι διαστάσεις της αρχής της διαφάνειας όταν εφαρμόζεται σε τεχνολογίες μηχανικής μάθησης και αλγοριθμικής λήψης αποφάσεων; Πώς θεμελιώνεται η αρχή αυτή μέσα από τις διατάξεις του ΓΚΠΔ και ποια είναι η σχέση της με άλλες αρχές και έννοιες, όπως η επεξηγησιμότητα, η ιχνηλασιμότητα και η λογοδοσία; Ποιος είναι ο ρόλος της νομολογίας στην ερμηνεία των σχετικών διατάξεων και στη διαμόρφωση ενός δικαιώματος στην επεξήγηση; Πώς έχει αντιμετωπισθεί η έννοια της διαφάνειας στην ευρωπαϊκή, αλλά και σε άλλες διεθνείς έννομες τάξεις μέχρι σήμερα; Πώς διαφοροποιείται η έννοια της διαφάνειας στον ΑΙΑ – σε σχέση με τον ΓΚΠΔ – και ποιο είναι το περιεχόμενο των νέων υποχρεώσεων; Τέλος, πώς έχει αντιμετωπισθεί το ζήτημα της διαφάνειας από τις υφιστάμενες μεθοδολογίες και μοντέλα εκτίμησης αντικτύπου, ως εργαλεία ελέγχου και λογοδοσίας;