AI chatbots and the risk of emotional overreliance / Les agents conversationnels d’IA et le risque de dépendance émotionnelle excessive
Heure: 15h30 à 17h
Lieu: Pavillon Félix-Antoine-Savard, salle 413
Pour information
Catherine.Rioux@fp.ulaval.ca
Détails supplémentaires
Assistez à la conférence de Zoey Lavallée (McGill) intitulée AI chatbots and the risk of emotional overreliance / Les agents conversationnels d’IA et le risque de dépendance émotionnelle excessive. Cette activité est organisée dans le cadre des Ateliers de philosophie moderne et contemporaine.
La conférence se tiendra en anglais (English version below).
Résumé
L’utilisation croissante des agents conversationnels d’IA à des fins émotionnellement significatives soulève d’importantes préoccupations quant à la manière dont la dépendance à ces systèmes pourrait transformer la vie affective des individus. Cette conférence adresse l’une de ces préoccupations: le risque que certaines personnes deviennent trop dépendantes émotionnellement des agents conversationnels.
Biographie de la conférencière
Zoey Lavallee est chercheuse postdoctorale en philosophie à l’Université McGill et membre du Centre de recherche en éthique (CRÉ). Elle a obtenu son doctorat au Graduate Center, CUNY (City University of New York). Ses travaux portent sur la philosophie de la psychiatrie et la philosophie de l’esprit, au croisement de la bioéthique, de la philosophie féministe et de l’épistémologie sociale.
Ses recherches explorent la manière dont les environnements sociaux, institutionnels et technologiques façonnent les émotions, la capacité d’agir et la compréhension de soi, et ce que cela implique pour l’équité et la justice en santé mentale. Elle s’intéresse tout particulièrement à la dépendance, aux injustices épistémiques et affectives liées au sanisme, ainsi qu’à l’évaluation normative des technologies émergentes en santé mentale, notamment avec les outils d’intelligence artificielle. Elle est également membre organisatrice de CRÉ-POHM (Pôle sur la santé mentale du Centre de recherche en éthique - CRÉ), un groupe de recherche interdisciplinaire consacré à la philosophie de la santé mentale.
English version
Join us for a lecture by Zoey Lavallee (McGill) entitled AI Chatbots and the Risk of Emotional Overreliance. This event is organized as part of the Ateliers de philosophie moderne et contemporaine.
The lecture will be held in English.
Abstract
The growing use of AI chatbots for emotionally significant purposes raises critical concerns about how dependence on these systems may transform us as affective beings. This paper addresses one such concern; namely, that some individuals may become too emotionally reliant on chatbots. Drawing on the situated affectivity literature, I adopt a descriptive account of chatbots as affective scaffolds, then develop a normative account of emotional overreliance that distinguishes it from benign or beneficial forms of deep affective dependence. Emotional overreliance, I argue, is a pattern of affective scaffolding that is self-undermining: the reliance itself erodes the agent’s capacity to revise their scaffolding relations where their situation calls for it. Because human life predictably calls for such revision (our circumstances change, our affective needs and interests evolve, the character of our affective experiences varies), an agent whose capacity to enact such revision is compromised is exposed to foreseeable harm. I then apply this general account to AI chatbots, focusing on psychotherapy chatbots. I argue that core features commonly promoted as advantages of these products are also features that promote the pattern of overreliance, such that current chatbots pose a particularly serious risk of this harm by design.
Speaker Biography
Zoey Lavallee is a Postdoctoral Researcher in Philosophy at McGill University and a member of the Centre for Research in Ethics (CRÉ). She completed her Ph.D at the Graduate Center, CUNY. She works in philosophy of psychiatry and philosophy of mind, as these intersect with bioethics, feminist philosophy, and social epistemology.
Her research explores how the environments we inhabit – social, institutional, technological – shape emotion, agency, and self-understanding, and what this means for questions of mental health equity and justice. She focuses particularly on addiction, epistemic and affective injustices related to sanism, and the normative evaluation of emerging mental health technologies, including AI tools. She is an organizing member of CRÉ-POHM, an interdisciplinary research group in philosophy of mental health.