Éthique et algorithme : une question d’objectif

Qu’est-ce qu’une éthique ? La proposition de se rapprocher d’un objectif de vie, en suivant une certaine voie. Les éthiques antiques par exemple se concentrent souvent sur la recherche du bonheur. Contrairement aux morales qui imposent, les éthiques recommandent : « tu devrais » plutôt que « tu dois ».

Les algorithmes, notamment ceux utilisés pour l’apprentissage machine (machine learning), essaient eux aussi d’atteindre des objectifs. Pour apprendre en effet, il faut connaître ce que l’on recherche afin de savoir vers quoi il faut s’orienter. Un algorithme de reconnaissance faciale a par exemple pour objectif de reconnaître des visages. Pour mesurer s’il remplit correctement sa mission, cet algorithme est testé sur des images qu’il n’a jamais vu pendant sa période d’apprentissage pour vérifier s’il est capable de les reconnaître correctement. « Correctement » peut ici avoir plusieurs significations, selon que nous souhaitions limiter les faux positifs ou les faux négatifs par exemple.

La question principale dans le débat autour de l’éthique et de l’intelligence artificielle peut donc se résumer ainsi : est-ce que les objectifs des algorithmes sont alignés avec les nôtres ?

Imaginons un algorithme chargé d’élaborer les menus d’une cantine scolaire. Son objectif est de s’assurer que les assiettes sont toutes vides à la fin du repas. S’il s’aperçoit pendant sa période d’apprentissage que les aliments très salés et très sucrés remplissent cette mission, il finira sûrement par ne servir que des frites, des nuggets et des glaces.

Le choix de ce genre d’objectif pour les algorithmes prédictifs peut donc générer des effets secondaires indésirables. Pourquoi alors est-ce que ce sont ces objectifs qui sont choisis ? Parce qu’il est facile de mesurer si l’on s’en rapproche, grâce des capteurs physiques ou virtuels. Quantifier ce qu’il reste dans les assiettes d’une cantine est simple : il suffit de peser le poids des poubelles à la fin du service. Mais mesurer si les enfants sont en bonne santé (ce qui devrait finalement être l’objectif de notre algorithme-cuisinier) est excessivement plus complexe, voire intrusif.

Le sujet de la pertinence du pilotage par des indicateurs mesurables est vaste et se rencontre également dans d’autres domaines comme l’administration où le débat fait rage (voir cette discussion passionnante). Mais concernant l’intelligence artificielle (comme disent les marchands), centrer la discussion sur les objectifs permet de faire un pont entre la technique (quel est la fonction objectif de l’algorithme ?) et l’éthique (quel est l’objectif de la vie humaine ?). Et cela permet enfin de s’affranchir de la complexité grandissante des modèles utilisés, pour se recentrer sur une question simple : qu’est-ce que les algorithmes sont censés faire pour nous ?

Article publié à l’origine sur Medium.