Agents conversationnels : enjeux d’éthique

Rapport du CNPEN du 9 novembre 2021 sur les enjeux éthiques des agents conversationnels
Partenaire Comité national pilote d'éthique du numérique
Partager sur email
Email
Partager sur print
Imprimer
l'article
Partager sur linkedin
Partager sur facebook
Partager sur twitter

Rapport du CNPEN (Comité national pilote d’éthique du numérique) du 9 novembre 2021 sur les enjeux éthiques des agents conversationnels.

Les agents conversationnels (aussi appelés « chatbots ») sont des systèmes numériques capables d’interagir avec leurs utilisateurs en langage naturel, à l’écrit comme à l’oral. Aujourd’hui, on en trouve dans de nombreux objets de notre quotidien (smartphones, enceintes connectées, voitures, sites internet) : ils apportent des conseils de santé, facilitent le recrutement, gèrent des services après-vente, forment à distance, aident les personnes vulnérables, etc.

En France comme au niveau européen, les agents conversationnels, parce qu’ils s’appuient sur des données personnelles, commencent à attirer l’attention des autorités, des régulateurs et du public . Au-delà de ces points réglementaires, se posent de nombreuses questions éthiques. Quels comportements et croyances avons-nous par rapport aux agents conversationnels ? Un chatbot peut-il mentir à son utilisateur ? Les erreurs des agents conversationnels seront-elles plus acceptables que celles d’un être humain ? Un chatbot doit-il imiter systématiquement l’être humain ? 

Parmi les différents enjeux d’éthique qu’identifie le comité, les principales tensions concernent le brouillage des frontières entre une machine et un être humain, l’imitation du langage et des émotions par les chatbots, ainsi que la capacité des agents conversationnels à manipuler les interlocuteurs humains. 

Pour accéder au rapport cliquez ici

X