L’illusion de neutralité des algorithmes

La phrase est devenue un réflexe. Un prêt refusé : c’est l’algorithme. Un contenu supprimé : c’est l’algorithme. Un CV écarté : c’est l’algorithme. Trois mots qui règlent tout, qui déresponsabilisent tout le monde, et qui clôturent toute discussion avant même qu’elle commence.

C’est la phrase la plus commode du siècle. Elle transforme une décision en fatalité. Elle remplace un choix par un mécanisme. Et elle fonctionne, parce que la plupart des gens n’ont ni les moyens ni le temps de la contester.

Un choix déguisé en calcul

Un algorithme n’est pas une loi de la nature. C’est un programme écrit par des humains, avec des critères choisis par des humains, entraîné sur des données collectées par des humains. Chaque paramètre est une décision. Chaque poids est un choix. Chaque seuil est une frontière tracée par quelqu’un.

Quand un algorithme de recrutement écarte un profil, ce ne sont pas les mathématiques qui parlent. Ce sont les critères qu’on a décidé de privilégier, les données sur lesquelles on l’a entraîné, les biais qu’on a intégrés sans les voir. Le calcul est exact. Le choix qu’il encode ne l’est pas forcément.

Le paravent mathématique

Il y a quelque chose de séduisant dans l’idée qu’un calcul est neutre. Les chiffres ne mentent pas, dit-on. Mais les chiffres ne parlent pas non plus. Ce sont les questions qu’on leur pose et les cadres dans lesquels on les place qui produisent du sens.

On confond calculable et juste. Mesurable et vrai. Un algorithme peut discriminer avec une régularité parfaite, et c’est précisément cette régularité qui rend la discrimination si difficile à détecter. Un humain qui refuse dix fois le même profil finit par éveiller les soupçons. Un algorithme qui fait la même chose passe pour rigoureux.

La responsabilité évaporée

Le plus remarquable dans cette mécanique, c’est la chaîne de déresponsabilisation qu’elle permet. Le concepteur dit qu’il a construit un outil, pas pris de décision. L’entreprise dit qu’elle applique un processus, pas un jugement. L’utilisateur dit qu’il suit la recommandation, pas qu’il choisit. Et au bout de la chaîne, personne n’est responsable de rien.

La vraie neutralité serait de montrer les choix. Qui a défini les critères ? Selon quelles valeurs ? Avec quelles données ? Dans quel but ? Ces questions ne sont pas techniques. Elles sont politiques. Et le fait qu’on les présente comme techniques est déjà, en soi, un choix politique.

Exact et injuste

Je ne suis pas contre les algorithmes. Je suis contre l’idée qu’ils seraient au-dessus du questionnement. Un outil puissant mérite un examen proportionnel à sa puissance. Plus une décision est automatisée, plus on devrait pouvoir en interroger les fondements.

Un calcul peut être exact et injuste en même temps. Et tant qu’on refusera de regarder derrière le calcul, on continuera de confondre précision et vérité. La commode phrase gagnera.