Accueil du site > Colloque Philo’Doctes > Archives > Session d’hiver 2020 > Giada Pistilli > « Les questions morales soulevées (...)

« Les questions morales soulevées par l’intelligence artificielle : le cas du chatbot »

par philo.doctes (21/02/2020)

Résumé de l’intervention de Giada Pistilli (Sorbonne Université, SND), le 3 mars, 2020

Lorsque l’on parle d’intelligence artificielle (IA), beaucoup d’inquiétudes et de questions sont soulevées par l’imaginaire collectif, comme la domination des machines sur les humains sous différentes formes, ou encore les scénarios de science-fiction qui décrivent la fin de l’humanité. Néanmoins, même si la technologie actuelle est loin d’envisager des situations et des risques pareils, cela ne signifie pas que l’utilisation des systèmes d’IA ne comporte pas de risque pour les individus. En effet, selon ses diverses applications, les IA peuvent avoir des bénéfices considérables, mais dans le même temps elle peuvent devenir dangereuses pour la société. Afin d’éclairer ce dernier point, il est important de rappeler que le domaine scientifique de l’intelligence artificielle rassemble des technologies très vastes, comme par exemple le traitement des données, les algorithmes, les réseaux de neurones artificiels ou encore les modalités d’apprentissage automatique ou supervisé.

Loin d’aborder tous les scénarios possibles d’applications des IA et toutes les technologies qui appartiennent à son univers, mon travail de recherche se focalise sur l’utilisation d’un agent conversationnel (chatbot), qui exploite un algorithme de traitement de langage naturel (NLP, Natural Language Processing), entrainé à travers un apprentissage supervisé (Machine Learning). Ce dispositif technologique, objet de mes recherches, a pour vocation d’être exploité par les collectivités territoriales, afin d’améliorer la démocratie et faciliter l’échange entre élus et citoyens, dans le cadre d’un domaine en sciences sociales qui est rattaché à la CivicTech (technologies civiques). Les outils dont je me sers pour effectuer ces études sont de l’ordre de la philosophie politique et de l’éthique appliquée à la technologie.

Une fois clarifié l’objet de notre travail, nous allons procéder aux questions morales qui ont été soulevées tout au long de mes recherches jusqu’à aujourd’hui. En effet, l’éthique vient au secours à partir des toutes premières phases du développement du chatbot ; cela veut dire que, à partir de sa conception, des principes éthiques vont être appliqués. C’est la raison pour laquelle mon travail de recherche empirique essaie de creuser les moments de questionnement moral et trouver des solutions, tout en faisant face aux difficultés d’ordre technique et philosophique.