Résumé
L’utilisation éthique de l’IA dans les organisations pose de nombreux défis qui nécessitent que les parties prenantes débattent et expriment les valeurs relatives à leur position éthique. Ces débats donnent lieu à des tensions entre l’idéal de délibération inclusive issu de l’éthique du discours de Habermas, et la conception bourdieusienne de débats se déroulant dans des champs structurés avec des relations de pouvoir entre des parties prenantes concurrentes et inégales. En analysant 137 documents provenant de 21 pays, nous avons pu cartographier les facteurs influençant la prise en compte des questions d’éthique commerciale qui se posent au cours des deux principales étapes du développement d’un système d’IA, à savoir l’étape de sa conception et l’étape de son utilisation. Ensuite, nous élaborons trois dispositifs techniques pour résoudre les questions éthiques et les discutons à la lumière de la tension entre les conceptions idéales et pratiques des débats requis pour une utilisation éthique de l’IA.
Abstract
AI development and ethical issues: shifting from a static to a dynamic perspective
The ethical use of AI in organizations poses many challenges that require stakeholders to debate and express the values that underlie their ethical position. These debates give rise to tensions between the ideal inclusive deliberation from Habermas’ discourse ethics, and the Bourdieusian conception of debates taking place in structured fields with power relations between competing and unequal stakeholders. By analyzing 137 documents from 21 countries, we were able to map the factors influencing the consideration of ethical business issues which arise during two main stages of AI system development, namely, the AI design stage and AI use stage. Then, we elaborate on three technical devices to solve ethical issues and discuss them in the light of the tension between the ideal and practical conceptions of debates required for an ethical use of AI.