Jugement éthique dans le processus de décision d’un agent BDI - COINTE, Nicolas; BONNET, Grégory; BOISSIER, Olivier (Revue d'Intelligence Artificielle, 2017)
L’usage croissant des systèmes multi-agents dans divers domaines soulève la nécessité de concevoir des agents capables de prendre des décisions s’appuyant sur des principes éthiques. De plus en plus de travaux proposent de telles approches. Toutefois, ces systèmes considèrent principalement une perspective centrée sur l’agent et mettent de côté le fait que ces agents sont en interaction avec d’autres agents, artiﬁciels ou humains, qui utilisent d’autres concepts éthiques. Dans cet article, nous nous intéressons à ce problème en proposant un modèle de jugement éthique qu’un agent peut utiliser pour juger à la fois des décisions sur son propre comportement et du comportement de celui des autres agents au sein de systèmes multiagents. Ce modèle est basé sur une approche rationaliste et explicite qui distingue théorie du bien et théorie du juste. Une preuve de concept implémentée au sein de la plateforme de programmation orientée multi-agent JaCaMo illustre ces fonctionnalités. The increasing use of multi-agent technologies in various areas raises the necessity of designing agents that are able to take decisions based on ethical principles. More and more works propose such approaches. However, those systems consider mainly an agent-centered perspective, letting aside the fact that agents are in interaction with other artiﬁcial agents or human beings that can use other ethical concepts. In this article, we address this problem and propose a model of ethical judgment an agent can use in order to judge the ethical dimension of both its own behavior and the other agents’ behaviors. This model is based on a rationalist and explicit approach that distinguishes theory of good and theory of right. A proof-of-concept implemented in the multi-agent oriented programming platform JaCaMo and based on a simple scenario is given to illustrate those functionalities.