Nous travaillons sur différents domaines, depuis le lancement d’IA Marketing et naviguons entre stratégie marketing (génération de lead, recommandation et scoring) et la mise à disposition des ressources en santé mentale avec IA Medical. Cela nous oblige à avoir un système solide et à protéger ce qui fait le coeur et la valeur de notre métier : les usagers et leurs données !

Pour cela nous nous sommes tout simplement penchés sur les bases de ce qui définit l’éthique et l’intelligence artificielle. Nous n’avons pas eu besoin de grands comités ou de guideline venant d’une quelconque instance supérieure car dans notre vision des choses cela serait antinomique. Surtout lorsque l’on se penche un peu sur certains sujets. Plutôt que d’attendre nous avons choisi de marcher seul et aujourd’hui l’expérience nous a montré que cela nous avait permis d’éviter certains travers qui, à première vue, nous faciliteraient la vie mais nous feraient renoncer à notre gymnastique éthique !

Bases de l'éthique pour servir l'intelligence artificielle

Une définition de l’éthique

Pour commencer reprenons quelques bases; car en lisant pas mal d’articles et de communication sur Linked’in on se rend vite à l’évidence que certains traits d’écriture ont tordu le concept même de l’éthique.

L’éthique est une branche de la philosophie qui consiste à établir les normes et règles d’action permettant de rendre cette action morale. L’éthique n’est pas figée dans l’histoire et les normes qu’elle définit fluctuent en fonction de l’environnement et de la situation. On peut donc considérer que l’éthique est plurielle et évolutive, ce qui pose la question de la manière dont on doit l’encadrer.

La philosophie ?

Nous venons de le voir la définition de l’éthique, dépendante de celle de philosophie, et quand on évoque la philosophie il est probable que votre idée à ce sujet soit elle aussi assez brumeuse. Eventuellement, quelques souvenirs lointains de terminale vous disent qu’il n’y a pas de définition claire et nette de la philosophie, ou bien que cette définition consiste en un « amour de la sagesse et un plaisir de la pensée ». La première des choses à comprendre à propos de la philosophie est qu’il s’agit d’une démarche. C’est une démarche qui peut prendre n’importe quel thème pour objet. Cette démarche trouve son commencement dans la volonté de comprendre le monde et de la conscience que (justement) il n’y a pas qu’une seule vérité possible. C’est pourquoi la démarche philosophique consiste à tendre vers «la vérité» en construisant le raisonnement le plus solide possible (nous sommes assez loin de l’imagerie traditionnelle du littéraire romantique, mais c’est un autre sujet !). La philosophie s’articule autour de différents systèmes comme autant de constructions proposées par Platon, Kant, Spinoza… et qui représentent autant de points de vue, autant d’interprétations du monde.

L’ère des grands systèmes philosophiques est maintenant révolue. La recherche philosophique actuelle tente toujours de comprendre les choses en élaborant des raisonnements les plus solides possibles, en créant des règles d’action et c’est à quoi se dédie la philosophie dite morale, que l’ont nomme aussi: éthique.

La morale ?

Un autre mot qui porte à confusion, la notion de morale. Il est difficile d’aborder la notion d’éthique sans faire un détour par la définition de morale. Mais au final quelle est la différence entre Morale et Ethique ? Il s’agit dans les deux cas d’une réflexion sur ce qui permet de savoir si une action est « bonne ». Les deux trouvent leur étymologie dans une racine commune. Le terme « morale » vient du latin mores, il est né de la traduction (par Cicéron) du grec èthos, signifiant « mœurs ». La différence s’est faite par évolution de notre langage et il faut bien l’avouer notre histoire judéo-chrétienne, on imagine mal avoir à créer « un comité moral d’entreprise » ! Ainsi ce jeu de langage montre l’aspect dynamique de l’éthique et souligne sa fonction : mettre en place les règles d’une action bonne, et ne surtout pas à appliquer des règles reçues d’une quelconque instance supérieure.

Mais où veux-tu en venir ?

Je vous laisse faire la recherche des mots en gras dans l’article…

 l'éthique aime l'intelligence artificielle

Le point commun de toutes ces définitions est l‘importance de redéfinir nos propres règles et de ne pas appliquer tout simplement ! Voilà pourquoi pour moi l’intelligence artificielle est un superbe compagnon quand on veut avoir une démarche éthique ! Elle n’est en aucun cas « responsable », elle se contente de mettre en exergue les biais que nous avons dans nos datasets et qui sont le fruit d’un manque d’overview ou tout simplement d’une habitude. L’IA et les algorithmes se contentent d’appliquer les règles reçues par une instance supérieure… et cette instance c’est nous ! Je pense que tous les conseils et comités gagneraient à communiquer sur l’importance de mettre en place une gymnastique éthique au sein des équipes. Il est nécessaire de former chaque membre à l’importance de se fixer des règles de la collecte jusqu’au traitement de la donnée. En se cachant derrière l’impression de la boîte noire que peuvent engendrer certains algorithmes, nous jouons le jeu de ceux qui bafouent volontairement l’éthique et qui accusent très volontiers l’IA.

L’Ethique Club

La première règle de l’Ethique Club est :

La seconde règle est …. ( c’est bon je m’arrête là 😊)
En effet, on ne le répètera jamais assez : la base c’est d’étudier et de connaître son dataset… et surtout de faire des tests ! Et oui, parfois on a un dataset totalement biaisé ! Mais ce n’est pas l’IA qui génère ce biais, elle se contente de le mettre en exergue et de nous permettre d’évoluer. Dans une société qui lutte contre la propagation des stéréotypes de genre et pour l’égalité femmes-hommes, il paraît capital de ne pas laisser les machines se nourrir et apprendre des mêmes mauvaises habitudes que celles que l’Homme perpétue depuis des siècles et des siècles.


Si nous prenons un exemple concret, tout ce qui est dit dans cet article est une manière de dédouaner les services RH d’AMAZON, alors que le problème est très simple. Dans la base de données, il y a une sur représentation des hommes aux postes qualifiés, donc naturellement l’IA applique la fameuse règle dictée par une instance supérieure.

Amazon discrimine les femmes avec son algorithme
Article amazon scandale de l'éthique et de l'intelligence artificielle

« Il n’aimait pas les femmes« , même si dans certains cas l’anthropomorphisme peut avoir du bon, ce terme est tout simplement hors contexte et permet à Amazon de se cacher derrière le système. Il serait beaucoup plus utile et vrai d’écrire : L’IA d’Amazon a permis de montrer qu’il y avait une discrimination à l’embauche exercé depuis plusieurs années dans l’entreprise.

Notre gymnastique éthique :

Personnellement, je regarde toujours la finalité du projet. Cela va me permettre de savoir si j’ai besoin de:

  • développer les équipes multidisciplinaires sur les projets d’IA et ne pas se fier qu’aux retours des parties prenantes, je fais toujours un tour dans les services SAV, commerciaux et marketing pour comprendre la mission de l’entreprise et les points de frictions. Bonus : les services clients sont une mise d’or inexplorées en terme de données usagers.
  • évaluer, analyser la donnée et récolter de la nouvelle si un biais est trop impactant : par exemple est-ce que toutes les typologies d’usagers sont représentées et dans quel part ?
  • choisir les données d’entrainement et la typologie d’algorithme pour économiser en temps mais aussi en ressources écologiques et avoir une balance positive : Par exemple est-ce que le genre de la personne est déterminant pour répondre au besoin ? Si ce n’est pas le cas, l’information n’est pas utile dans le set d’entrainement.
  • aider à l’usager à en comprendre les bénéfices qu’il va en tirer via des matrices efforts / effets par exemple
  • auditer et améliorer en continue la chaine de production des IA et leurs résultats
work ethic

Ce dernier point est essentiel, pour moi être éthique c’est aussi utiliser l’intelligence artificielle pour répondre à des besoins. Ces besoins peuvent être internes à la structure ou externes. Mon objectif est de développer un partenariat entre l’Intelligence artificielle et les usagers, car je ne crois pas en une intelligence toute puissante et ce n’est certainement pas mon objectif. Chez IA.M nous développons des outils qui permettent de faciliter le quotidien et qui viennent s’adapter aux besoins terrains. Nous n’avons pas pour prétention d’avoir les algorithmes les plus puissants du moment, mais nous avons à coeur d’avoir des systèmes qui répondent éthiquement à des problématiques terrains. Et non nous ne comptons par sur l’IA pour comprendre le monde et se fixer elle-même les règles qui lui permettront d’agir ! Nous sommes conscients d’être responsables de chaque projet / algorithme qui sort de notre factory et c’est pour cela que nous proposons le sur-mesure plutôt que les solutions de masse.