Dans le domaine de l’intelligence artificielle (IA), on s’interroge souvent sur les directives et les lignes directrices éthiques. À quoi pourrait ressembler une utilisation éthique de l’IA ? De quelles directives avons-nous besoin ? Et qu’est-ce qui est éthique et non éthique pour nous ? Ces questions et d’autres similaires nous interpellent dans les médias, lors de nos échanges avec les clients et dans notre environnement privé. Mais nous aussi, et en particulier, nous réfléchissons sans cesse à notre travail et à nos critères. Dès la création de Splitbot GmbH, notre équipe a élaboré ensemble des lignes directrices sur ce thème. Ce faisant, nous avons constaté qu’il n’est pas si simple de définir des principes éthiques. En effet, même si une compréhension commune de la morale et de l’éthique prévaut au niveau de la société, l’interprétation et l’appréciation personnelle de chacun divergent dans certains domaines. Ce qui est clair pour nous, c’est qu’aucun logiciel, qu’il soit doté d’IA ou non, n’a une compréhension de l’éthique de lui-même. Les directives éthiques doivent, dans la mesure du possible, être données par des personnes. Cette approche se reflète également dans la définition de l’éthique. L’éthique est la science de la morale et donc de l’évaluation de l’action humaine. Par conséquent, il s’agit peut-être moins d’ajouter des règles à notre logiciel que de garantir son utilisation éthique.
L’hypothèse selon laquelle l’IA posséderait la capacité de penser par elle-même est tout simplement fausse. L’IA n’est, au fond, rien de plus que des statistiques très, très précises. L’IA détermine des probabilités sur la base de données. Sans données d’apprentissage appropriées, un programme d’IA ne peut pas déterminer de résultats. Ce sont précisément ces données qui sont à l’origine de l’apparence parfois contraire à l’éthique des programmes d’IA. Si une IA destinée à la sélection de candidats n’est entraînée qu’avec des données de candidats masculins, par exemple, elle n’est pas en mesure de prendre en compte les candidates féminines sur un pied d’égalité. Il faut donc, tant lors de la mise à disposition des données que lors de l’évaluation des résultats fournis, une appréciation éthique de l’être humain. Il faut également se demander dans quelle mesure l’utilisation de l’intelligence artificielle pour répondre de manière automatisée à des questions complexes ne va pas à l’encontre de principes éthiques. L’objectif doit donc être de donner des directives éthiques aux personnes qui agissent et non aux programmes eux-mêmes. L’IA n’est qu’un des nombreux outils possibles qui peuvent potentiellement être utilisés de manière abusive. Mais à quoi pourraient ressembler de telles directives ? Ce n’est là qu’une des nombreuses questions auxquelles nous n’avons pas encore trouvé de réponse définitive. Nous sommes d’autant plus reconnaissants de la collaboration avec le Prof. Dr.-Ing. Christian Herzog et les étudiants du cursus d’éthique technique de l’université de Lübeck, que nous avons entamée récemment. Le Prof. Dr. Herzog nous a offert, ainsi qu’à d’autres startups de la région, la possibilité de nous présenter et de présenter nos questions éthiques. Les participants au cursus se pencheront dans les semaines à venir sur les thèmes éthiques les plus divers et présenteront leurs propositions de solutions. Nous nous réjouissons beaucoup de cet échange intense et en particulier de la considération de la thématique sous différents angles. Cela nous permettra de tenir compte d’un maximum d’aspects lors du développement ultérieur de notre produit.
