The quest for artificial consciousness and agency: a philosophical inquiry

Abstract

This dissertation investigates whether, and under what conditions, artificial systems may be attributed consciousness and agency, and what ethical and governance consequences follow from such attributions. It argues that contemporary debate too often moves directly from behavioural sophistication to claims about consciousness, from consciousness to agency, and from agency to liability. In response, the thesis distinguishes phenomenal consciousness, access-consciousness, and self-consciousness. It uses access-consciousness in Block's technical, functionally specified sense: a content has the relevant access profile when it is available beyond its local processor to multiple decision-relevant functions and is causally capable of altering control. A warranted attribution is therefore a defeasible, truth-directed attribution of this functional organisation, not knowledge of phenomenal experience. The dissertation critically evaluates leading theories of consciousness, including first- and higher-order representationalism, Integrated Information Theory, Global Workspace Theory, Recurrent Processing Theory, and Orch OR. It distinguishes the constitutive functional criterion of global, multi-system availability and counterfactual causal efficacy from supporting architectural indicators, including recurrent integration, temporal maintenance, metacognitive regulation, and principled reportability. Interpretability, reproducibility, system-boundary specification, and intervention or ablation evidence are treated separately as conditions of epistemic warrant rather than as constituents of access-consciousness. The thesis further argues that consciousness does not by itself determine agency. Minimal artificial agency can be attributed where systems exhibit goal-directed control, adaptive revision, and structured action selection. Planning agency may operate under externally supplied ends. Policy-forming agency requires endorsement-control alignment: the system must be able to represent goals as candidate commitments, compare, retain, suspend, revise, or reject them for reasons, and allow that evaluative stance to govern later conduct. Responsibility-grade agency additionally requires critical normative competence: the ability to distinguish applying a norm from justifying it, to recognise reasons that challenge the governing framework, and to revise foundational policies when such reasons are judged sufficient. This competence does not guarantee moral correctness. Nor does it by itself establish that the system is a fitting target of blame, sanction, or legal liability. In this dissertation, “responsibility-grade agency” denotes a demanding threshold of eligibility for those further judgements, which remain relational, institutional, and defeasible. Applied to representative AI families, including classical planners, model-predictive controllers, reinforcement-learning systems, and LLM-based tool agents, the framework suggests that current systems may satisfy conditions for instrumental or planning agency while still falling short of warranted attribution of a robust functional access profile, organisational goal ownership, and critical norm-answerability. The dissertation concludes that governance should remain institutionally mediated: responsibility and liability should not be transferred to artificial systemsmerely on the basis of fluency or performance, but should instead be calibrated through explicit accountability gateways, evidential thresholds, and agency-preserving design constraints.

Η παρούσα διατριβή διερευνά κατά πόσον και υπό ποιες προϋποθέσεις μπορούν να αποδοθούν στα τεχνητά συστήματα συνείδηση και ικανότητα για δράση, καθώς και ποιες συνέπειες συνεπάγονται τέτοιες αποδόσεις για την ηθική και τη διακυβέρνηση. Υποστηρίζει ότι ο σύγχρονος διάλογος μεταβαίνει υπερβολικά συχνά και απευθείας από τη συμπεριφορική πολυπλοκότητα σε ισχυρισμούς περί συνείδησης, από τη συνείδηση στην ικανότητα για δράση και από την ικανότητα για δράση στον νομικό καταλογισμό. Ως απάντηση σε αυτή την τάση, η διατριβή διακρίνει μεταξύ φαινομενικής συνείδησης, συνείδησης πρόσβασης και αυτοσυνείδησης. Η συνείδηση πρόσβασης χρησιμοποιείται με την τεχνική και λειτουργικά προσδιορισμένη έννοια του Block: ένα περιεχόμενο διαθέτει το σχετικό προφίλ πρόσβασης όταν είναι διαθέσιμο, πέραν της τοπικής μονάδας επεξεργασίας του, σε πολλαπλές λειτουργίες συναφείς με τη λήψη αποφάσεων και μπορεί, μέσω της αιτιακής του επίδρασης, να μεταβάλει τον έλεγχο. Επομένως, μια επιστημικά δικαιολογημένη απόδοση συνίσταται σε μια αναθεωρήσιμη και προσανατολισμένη προς την αλήθεια απόδοση αυτής της λειτουργικής οργάνωσης και όχι σε γνώση της φαινομενικής εμπειρίας. Η διατριβή αξιολογεί κριτικά τις κυριότερες θεωρίες της συνείδησης, συμπεριλαμβανομένων των αναπαραστασιακών θεωριών πρώτης και ανώτερης τάξης, της Θεωρίας της Ολοκληρωμένης Πληροφορίας, της Θεωρίας του Καθολικού Χώρου Εργασίας, της Θεωρίας της Αναδρομικής Επεξεργασίας και της θεωρίας της Ενορχηστρωμένης Αντικειμενικής Αναγωγής (Orch OR). Διακρίνει το συγκροτητικό λειτουργικό κριτήριο της καθολικής διαθεσιμότητας σε πολλαπλά συστήματα και της αντιγεγονικής αιτιακής αποτελεσματικότητας από τους επικουρικούς αρχιτεκτονικούς δείκτες, στους οποίους περιλαμβάνονται η αναδρομική ολοκλήρωση, η διατήρηση στον χρόνο, η μεταγνωστική ρύθμιση και η κατ’ αρχήν δυνατότητα αναφοράς. Η ερμηνευσιμότητα, η αναπαραγωγιμότητα, ο προσδιορισμός των ορίων του συστήματος και τα τεκμήρια που προκύπτουν από παρεμβάσεις ή πειράματα επιλεκτικής αφαίρεσης ή απενεργοποίησης επιμέρους στοιχείων (ablation) εξετάζονται χωριστά ως προϋποθέσεις επιστημικής δικαιολόγησης και όχι ως συγκροτητικά στοιχεία της συνείδησης πρόσβασης. Η διατριβή υποστηρίζει, περαιτέρω, ότι η συνείδηση δεν καθορίζει αφ’ εαυτής την ικανότητα για δράση. Μια ελάχιστη μορφή τεχνητής ικανότητας για δράση μπορεί να αποδοθεί σε συστήματα που εμφανίζουν στοχοκατευθυνόμενο έλεγχο, προσαρμοστική αναθεώρηση και δομημένη επιλογή ενεργειών. Η σχεδιαστική ικανότητα για δράση μπορεί να λειτουργεί με σκοπούς που παρέχονται εξωτερικά. Η ικανότητα διαμόρφωσης πολιτικών επιλογής δράσης απαιτεί ευθυγράμμιση αξιολογικής αποδοχής και ελέγχου: το σύστημα πρέπει να είναι σε θέση να αναπαριστά τους στόχους ως υποψήφιες δεσμεύσεις, να τους συγκρίνει, να τους διατηρεί, να τους θέτει σε αναστολή, να τους αναθεωρεί ή να τους απορρίπτει βάσει λόγων, καθώς και να επιτρέπει στην αξιολογική αυτή στάση να διέπει τη μετέπειτα δράση του. Η ικανότητα για δράση βαθμίδας ευθύνης απαιτεί, επιπλέον, κριτική κανονιστική επάρκεια: την ικανότητα του συστήματος να διακρίνει την εφαρμογή ενός κανόνα από τη δικαιολόγησή του, να αναγνωρίζει λόγους που θέτουν υπό αμφισβήτηση το κανονιστικό πλαίσιο που διέπει τη δράση του και να αναθεωρεί θεμελιώδεις πολιτικές επιλογής δράσης, όταν οι λόγοι αυτοί κρίνονται επαρκείς. Η επάρκεια αυτή δεν εγγυάται την ηθική ορθότητα. Ούτε θεμελιώνει αφ’ εαυτής ότι το σύστημα αποτελεί κατάλληλο αντικείμενο επίρριψης μομφής, επιβολής κυρώσεων ή νομικού καταλογισμού. Στην παρούσα διατριβή, ο όρος «ικανότητα για δράση βαθμίδας ευθύνης» δηλώνει ένα απαιτητικό κατώφλι καταλληλότητας του συστήματος ως υποψήφιου αποδέκτη των περαιτέρω αυτών κρίσεων, οι οποίες εξακολουθούν να είναι σχεσιακές, θεσμικά προσδιορισμένες και αναθεωρήσιμες. Όταν εφαρμόζεται σε αντιπροσωπευτικές οικογένειες συστημάτων τεχνητής νοημοσύνης, συμπεριλαμβανομένων των κλασικών συστημάτων σχεδιασμού, των ελεγκτών προβλεπτικού ελέγχου βάσει μοντέλου, των συστημάτων ενισχυτικής μάθησης και των πρακτόρων χρήσης εργαλείων που βασίζονται σε μεγάλα γλωσσικά μοντέλα, το πλαίσιο υποδεικνύει ότι τα σημερινά συστήματα ενδέχεται να πληρούν τις προϋποθέσεις εργαλειακής ή σχεδιαστικής ικανότητας για δράση, χωρίς ωστόσο να δικαιολογείται ακόμη η απόδοση σε αυτά ενός εύρωστου λειτουργικού προφίλ πρόσβασης, οργανωσιακά εδραιωμένης ιδιοποίησης στόχων και κριτικής λογοδοσίας έναντι των κανόνων. Η διατριβή καταλήγει στο συμπέρασμα ότι η διακυβέρνηση πρέπει να παραμείνει θεσμικά διαμεσολαβημένη: η απόδοση ευθύνης και ο νομικός καταλογισμός δεν πρέπει να μεταβιβάζονται σε τεχνητά συστήματα απλώς βάσει της ευχέρειας που επιδεικνύουν ή της απόδοσής τους, αλλά να διαβαθμίζονται με βάση ρητές δικλείδες λογοδοσίας, κατώφλια επάρκειας των τεκμηρίων και σχεδιαστικούς περιορισμούς που διαφυλάσσουν την ικανότητα για δράση.