An “ethics-by-design” AI and relevant technologies, processes and methodologies in health & care

Abstract

This doctoral thesis addresses critical gaps in the ethical implementation of artificial intelligence systems in healthcare by proposing a comprehensive "Do Good" framework that transcends traditional harm-prevention approaches. As AI technologies rapidly transform healthcare delivery, from medical diagnosis and drug discovery to treatment planning and clinical decision-making, current regulatory frameworks struggle to address the unique characteristics of AI systems, including their ability to learn and adapt after deployment, their potential for bias, and their "black box" nature that makes decision-making processes difficult to understand.The central contribution of this research is the development of a "Do Good" approach to AI ethics in healthcare that goes beyond the traditional "Do No Harm" principle to actively promote positive outcomes while maintaining appropriate safeguards. This framework recognizes that AI systems have unique capabilities that can significantly benefit patients and healthcare systems, such as reducing diagnostic errors, identifying treatment options that human clinicians might miss, and providing personalized care recommendations. However, realizing these benefits requires proactive ethical design and implementation practices that integrate principles from bioethics, human rights, and health systems research, emphasizing patient-centered design, transparency and explainability, accountability and responsibility, equity and non-discrimination, and human oversight and control.The thesis employs a multidisciplinary methodology combining comprehensive literature review, regulatory analysis of AI governance frameworks in the European Union and United States, expert consultation with AI developers and healthcare professionals, framework development creating practical tools including questionnaires and assessment protocols, and case studies analyzing real-world AI implementations. This approach enables the creation of practical tools that translate abstract ethical principles into concrete, actionable guidance for healthcare stakeholders.Key research outputs include the development of Ethics Impact Assessment frameworks specifically designed for AI systems in healthcare, helping organizations systematically evaluate ethical implications throughout the AI lifecycle. The research introduces competency-based certification frameworks for AI professionals in healthcare, recognizing that AI systems are only as good as those who program them and the systems in which they operate. Practical implementation tools are provided through comprehensive questionnaires for AI developers and implementers, containing structured guidance across multiple domains from design and development through deployment and monitoring.The research addresses diverse AI system types including embedded AI, centralized AI, generative AI, and AI agents, recognizing that different systems present unique ethical challenges and opportunities. Through comparative analysis of EU and US regulations, the thesis identifies critical gaps in current frameworks, including unclear liability allocation between AI developers and healthcare providers, insufficient guidance for emerging technologies, lack of AI-specific accreditation standards for healthcare institutions, and limited mechanisms for international coordination.The "Do Good" framework represents a paradigm shift that moves healthcare ethics from reactive harm prevention to proactive benefit promotion. By integrating ethical considerations into every stage of AI development and deployment rather than treating ethics as an afterthought, this approach ensures that ethical principles are embedded in the technical architecture of AI systems from the beginning. The framework's practical applications span health technology assessments, public procurement procedures, regulatory compliance, and training initiatives for healthcare professionals.This research makes significant scholarly contributions by providing the first comprehensive framework specifically designed for ethical AI implementation in healthcare that prioritizes patient-centered design, transparency, and accountability. The proposed tools and methodologies address urgent practical needs as healthcare organizations accelerate AI adoption, offering systematic approaches for ensuring responsible deployment while fostering innovation. The emphasis on competency-based certification and continuous assessment reflects an understanding that ethical AI requires ongoing commitment, continuous learning, and adaptive governance structures capable of evolving alongside rapidly advancing technologies. By providing both theoretical frameworks and practical tools, this thesis enables stakeholders across the healthcare AI ecosystem to work toward AI-enabled healthcare that is ethical, equitable, and aligned with human values.

Τα τελευταία χρόνια πολλά έχουν ερευνηθεί και γραφτεί για την τεχνητή νοημοσύνη – ΑΙ και τις συνέπειες της χρήσης της σε πολλές πτυχές της καθημερινής μας ζωής. Η χρήση της AI στον τομέα της υγείας και της περίθαλψης είναι μεγάλη και σημαντική λόγω της σημασίας του σκοπού χρήσης ως αυτός έχει: την σωτηρία και προστασία της ανθρώπινης ζωής. Λόγω της σημασίας του προαναφερθέντος σκοπού, ο τομέας της υγείας και της φροντίδας φαίνεται να είναι ιδανικός. Επιτρέπει μια εμπεριστατωμένη αξιολόγηση των επιπτώσεων που μπορεί να έχει η χρήση των συστημάτων AI και πώς μπορεί να σχεδιαστεί, να προσαρμοστεί και να εφαρμοστεί μια προσέγγιση "ηθικής από το σχεδιασμό". Αλλά πώς είναι δυνατόν να επιτευχθεί ένα AI που περικλείει "ηθική-από-σχεδιασμό" και όχι μόνο από στον ερευνητικό τομέα, αλλά από τη σύλληψή της ιδέας μέχρι την τοποθέτηση της στη διάθεση των χρηστών και στην αγορά ! Πώς μπορεί η ηθική και η τεχνολογία να "παντρευτούν", ώστε να διασφαλίζουν μόνο το AI "Do Good"; Αυτός είναι ο σκοπός του παρόντος διδακτορικού έργου να προσπαθήσει να εξετάσει και να παράσχει λύσεις, βέλτιστες πρακτικές και μεθοδολογία για να επιτύχει μόνο το AI "Do Good". Που σημαίνει ότι επιτρέπουν στους φορείς που είναι υπεύθυνοι για την τεχνολογική σύλληψη και ανάπτυξη να διατηρούν και να αυξάνουν τα οικονομικά οφέλη ενώ οι χρήστες θα διατηρούν και θα αυξάνουν τα οφέλη που προκύπτουν από την ανάπτυξη και τη χρήση τεχνολογιών AI στον τομέα της υγείας και της περίθαλψης. Απαιτείται διαβούλευση και συνεργασία με συναδέλφους από τους κλάδους της τεχνολογικής ανάπτυξης και των χρηστών, προκειμένου να εξεταστούν και να παρασχεθούν πρακτικές και ρεαλιστικές λύσεις, κατευθυντήριες γραμμές ή / και συστάσεις σε περίπτωση που ενσωματωθεί, χωρίς προσωπικές επιρροές και απόψεις, η τεχνολογία "ηθικής από το σχεδιασμό" είναι εφικτή. Όπως ειπώθηκε από κάποιον ειδικό ‘Οι αλγόριθμοι δεν είναι τίποτα άλλο από απόψεις ενσωματωμένες σε κωδικούς’. Σε αυτό το σημείο έγκειται και η μεγαλύτερη πρόκληση, να καταφέρουμε μια ΑΙ που δεν θα ενέχει προσωπικές απόψεις αλλά αντικειμενικές λύσεις.