Alexei Grinbaum, physicien, philosophe et auteur de Parole de machines (HumenSciences, 2023), préside le comité opérationnel pilote d’éthique du numérique au Commissariat à l’énergie atomique. Expert auprès de la Commission européenne, il est également membre du Comité consultatif national d’éthique du numérique.
Portable en main, des personnes du monde entier confient leur mal-être à des chatbots. Comment analysez-vous ces usages ?
Nous entrons dans une nouvelle époque. Les citoyens, dont des patients psychiatriques qui sont les premiers exposés car ils souffrent de troubles sévères, utilisent des chatbots généralistes, une sorte d’automédication à travers le langage. Auparavant, un patient parlait à un professionnel dans un cadre réglementé. Aujourd’hui, il ouvre son téléphone et discute avec un système qui n’est pas un dispositif médical.
Un contenu intime déversé apparemment en toute confiance…
C’est une illusion de croire que les gens préfèrent toujours les humains. Beaucoup disent : « La machine est toujours gentille, elle m’explique tout et ne se fatigue jamais, contrairement aux êtres humains qui s’impatientent. » Le patient ne vit plus seul, il « fait système » avec son chatbot et cela remet en cause le monopole de la confiance qu’avait le médecin, notamment le psychiatre.
La justice est saisie sur plusieurs continents et contre plusieurs chatbots pour des cas de suicide, de violence et de pensée délirante. Le 25 novembre 2025, OpenAI, maison mère de ChatGPT, a plaidé l’absence de « toute responsabilité » dans le suicide du jeune Américain Adam Raine, âgé de 16 ans. Qui est responsable si la machine conseille mal ?
C’est la grande question qui, pour l’instant, n’est pas résolue. Contrairement au médecin qui suit des protocoles, l’ingénieur conçoit un modèle de langage, mais ne peut prédire ses réponses à la requête d’un utilisateur, car elles ne sont pas déterministes [non directement liées à des événements antérieurs]. Pourtant, il est le fournisseur du système.
Il vous reste 70% de cet article à lire. La suite est réservée aux abonnés.
