Recommendations and conversational AI: the impact of trust and persuasive explanations in user adoption

Abstract

Recommender systems have evolved from simple ranking tools into interactive environments that actively shape user decisions. Today, these systems do not only suggest items, but also influence how users interpret information, form preferences, and make choices. As they become more conversational and agent-like, the focus gradually shifts from evaluating the recommended item to evaluating the system itself, raising important questions about trust and user adoption. This dissertation aims to examine how persuasion mechanisms embedded in recommendation environments influence user behavior, and how these mechanisms evolve as systems transition from traditional recommender systems to AI-based recommendation agents. Building on the Elaboration Likelihood Model (ELM), the study adopts a process-oriented perspective, where recommendation cues operate through central and peripheral routes of information processing, shaping both user evaluations and behavioral responses. The dissertation draws on three empirical studies. The first two studies focus on traditional recommender system environments and examine how persuasive explanations, user motivation, and personality traits influence recommendation acceptance. The findings show that persuasive strategies are particularly effective under low motivation conditions, where users rely on peripheral cues, while their impact is limited or even negative under high motivation, where users engage in more deliberate evaluation. In addition, the results reveal that persuasion is not uniform across users, as personality traits significantly shape responsiveness to different influence strategies. The third study extends this perspective to AI-based recommendation systems, where the system itself becomes the main object of evaluation. The findings show that perceived accuracy and perceived explainability influence trust formation, while trust operates as a dual and closely interconnected mechanism. More specifically, Emotional Trust strongly predicts Cognitive Trust, a pattern that is consistent with an affective-first trust formation process. This suggests that emotional reassurance may facilitate users’ cognitive evaluations of the system. However, this relationship does not establish that Emotional Trust develops temporally before Cognitive Trust. Importantly, the dissertation distinguishes between two forms of adoption: the use of systems as Decision Aids and as Delegate Agents. The results show that these forms of adoption involve different psychological processes, with decision-aid use being supported by both Cognitive and Emotional Trust, whereas delegation is driven primarily by Emotional Trust. Overall, the dissertation demonstrates that persuasion alone is not sufficient to explain user behavior in modern recommendation environments. As systems become more interactive and autonomous, the focus shifts from persuasion-driven recommendation acceptance to trust formation toward the system itself, which becomes a key mechanism underlying adoption. The study contributes to theory by integrating the Elaboration Likelihood Model with trust formation in AI environments and by proposing a unified framework that explains how system-related cues are associated with different forms of trust and, ultimately, with distinct modes of adoption. Furthermore, it highlights the strong relationship between Emotional and Cognitive Trust and clarifies how different levels of system autonomy are associated with different trust configurations. From a practical perspective, the findings provide guidance for designing recommendation systems that are not only effective, but also transparent, psychologically aligned with users and capable of supporting both decision-making and delegation.

Τα συστήματα συστάσεων έχουν εξελιχθεί από απλά εργαλεία κατάταξης σε διαδραστικά περιβάλλοντα που επηρεάζουν ενεργά τις αποφάσεις των χρηστών. Σήμερα, τα συστήματα αυτά δεν περιορίζονται στο να προτείνουν αντικείμενα, αλλά επηρεάζουν και τον τρόπο με τον οποίο οι χρήστες ερμηνεύουν πληροφορίες, διαμορφώνουν προτιμήσεις και λαμβάνουν αποφάσεις. Καθώς γίνονται πιο διαλογικά και αποκτούν χαρακτηριστικά «πρακτόρων», η αξιολόγηση μετατοπίζεται σταδιακά από το προτεινόμενο αντικείμενο στο ίδιο το σύστημα, αναδεικνύοντας κρίσιμα ζητήματα εμπιστοσύνης και υιοθέτησης. Η παρούσα διατριβή εξετάζει πώς οι μηχανισμοί πειθούς που ενσωματώνονται στα περιβάλλοντα συστάσεων επηρεάζουν τη συμπεριφορά των χρηστών και πώς οι μηχανισμοί αυτοί εξελίσσονται καθώς τα συστήματα μεταβαίνουν από τα παραδοσιακά συστήματα συστάσεων σε συστήματα βασισμένα στην Τεχνητή Νοημοσύνη. Βασιζόμενη στο Μοντέλο Πιθανολογικής Επεξεργασίας (Elaboration Likelihood Model – ELM), η μελέτη υιοθετεί μια προσέγγιση προσανατολισμένη στη διαδικασία, όπου τα χαρακτηριστικά των συστάσεων λειτουργούν μέσω της κεντρικής και της περιφερειακής οδού επεξεργασίας, επηρεάζοντας τόσο την αξιολόγηση όσο και τη συμπεριφορά των χρηστών. Η διατριβή βασίζεται σε τρεις εμπειρικές μελέτες. Οι δύο πρώτες εστιάζουν σε παραδοσιακά περιβάλλοντα συστημάτων συστάσεων και εξετάζουν πώς οι πειστικές εξηγήσεις, το επίπεδο κινήτρου και τα χαρακτηριστικά προσωπικότητας επηρεάζουν την αποδοχή των συστάσεων. Τα αποτελέσματα δείχνουν ότι οι πειστικές στρατηγικές είναι ιδιαίτερα αποτελεσματικές σε συνθήκες χαμηλού κινήτρου, όπου οι χρήστες βασίζονται σε περιφερειακά στοιχεία, ενώ η επίδρασή τους είναι περιορισμένη ή ακόμη και αρνητική σε συνθήκες υψηλού κινήτρου, όπου οι χρήστες προβαίνουν σε πιο αναλυτική αξιολόγηση. Επιπλέον, τα ευρήματα αναδεικνύουν ότι η πειθώ δεν λειτουργεί με τον ίδιο τρόπο για όλους τους χρήστες καθώς τα χαρακτηριστικά προσωπικότητας επηρεάζουν σημαντικά την ανταπόκριση σε διαφορετικές στρατηγικές επιρροής. Η τρίτη μελέτη επεκτείνει την ανάλυση σε συστήματα συστάσεων βασισμένα στην Τεχνητή Νοημοσύνη, όπου το ίδιο το σύστημα αποτελεί το κύριο αντικείμενο αξιολόγησης. Τα αποτελέσματα δείχνουν ότι η αντιλαμβανόμενη ακρίβεια και η αντιλαμβανόμενη επεξηγησιμότητα επηρεάζουν τη διαμόρφωση της εμπιστοσύνης, η οποία λειτουργεί ως ένας διττός και στενά αλληλένδετος μηχανισμός. Συγκεκριμένα, η Συναισθηματική Εμπιστοσύνη προβλέπει ισχυρά τη Γνωστική Εμπιστοσύνη. Το εύρημα αυτό δείχνει ότι οι δύο διαστάσεις της εμπιστοσύνης συνδέονται στενά, χωρίς όμως να αποδεικνύεται ότι η μία αναπτύσσεται χρονικά πριν από την άλλη. Η διατριβή διακρίνει επίσης δύο μορφές υιοθέτησης: τη χρήση των συστημάτων ως εργαλεία υποστήριξης αποφάσεων (Decision Aids) και ως αυτόνομους εκπροσώπους (Delegate Agents). Τα αποτελέσματα δείχνουν ότι οι δύο μορφές υιοθέτησης συνεπάγονται διαφορετικές ψυχολογικές διαδικασίες. Η χρήση του συστήματος ως εργαλείου υποστήριξης αποφάσεων επηρεάζεται σημαντικά τόσο από τη Γνωστική όσο και από τη Συναισθηματική Εμπιστοσύνη, ενώ η ανάθεση αποφάσεων συνδέεται κυρίως με τη Συναισθηματική Εμπιστοσύνη. Συνολικά, η διατριβή δείχνει ότι η πειθώ από μόνη της δεν επαρκεί για να εξηγήσει τη συμπεριφορά των χρηστών στα σύγχρονα περιβάλλοντα συστάσεων. Καθώς τα συστήματα γίνονται πιο διαδραστικά και αυτόνομα, το επίκεντρο μετατοπίζεται από την πειθώ και την αποδοχή της σύστασης στη διαμόρφωση εμπιστοσύνης προς το ίδιο το σύστημα, η οποία αποτελεί βασικό μηχανισμό της υιοθέτησης. Η μελέτη συμβάλλει θεωρητικά, συνδέοντας το Μοντέλο ELM με τη διαμόρφωση εμπιστοσύνης σε περιβάλλοντα Τεχνητής Νοημοσύνης και προτείνοντας ένα ενιαίο πλαίσιο που εξηγεί πώς τα χαρακτηριστικά των συστημάτων συνδέονται με διαφορετικές μορφές εμπιστοσύνης και, τελικά, με διαφορετικούς τρόπους υιοθέτησης. Παράλληλα, προσφέρει πρακτικές κατευθύνσεις για τον σχεδιασμό συστημάτων συστάσεων που είναι όχι μόνο αποτελεσματικά, αλλά και διαφανή, ευθυγραμμισμένα με την ψυχολογία των χρηστών και ικανά να υποστηρίξουν τόσο τη λήψη αποφάσεων όσο και την ανάθεσή τους.