Intelligence artificielle et éthique : les questions à se poser avant d'adopter l'IA

La question qu'on me pose le plus souvent en audit, ce n'est pas « comment on supprime les biais ? ». C'est : « est-ce qu'on a le droit, oui ou non ? » Et à chaque fois, la personne en face espère une réponse binaire. Il n'y en a pas. Ce qui existe, en revanche, c'est une série de questions qu'on peut poser dans un ordre précis, et dont les réponses vous évitent de vous retrouver à expliquer deux ans plus tard pourquoi votre outil de tri de CV écartait systématiquement les femmes. L'intelligence artificielle et l'éthique, ce n'est pas un débat philosophique pour conférences. C'est un travail de plomberie, fait tôt, par des gens qui acceptent de ralentir un peu.

Je vais vous donner la grille que j'utilise. Elle n'est pas parfaite. Elle m'a coûté deux projets.

Pourquoi l'éthique de l'IA n'est pas un débat théorique

Un système d'IA apprend des régularités dans des données. Si ces données contiennent une injustice passée, il la reproduit — et il le fait avec une assurance que n'a aucun humain. Un recruteur qui écarte une candidature sait qu'il prend un risque, il hésite. Le modèle, lui, applique.

Ce décalage est le cœur du problème. On a délégué la décision à quelque chose qui ne doute pas.

Ce que la loi impose concrètement

Le cadre réglementaire a changé la donne. Le règlement européen sur l'intelligence artificielle classe les usages en quatre niveaux : risque inacceptable (interdit), risque élevé, risque limité, risque minimal. Reconnaissance faciale en temps réel dans l'espace public, notation sociale : interdits. Recrutement, scoring crédit, éducation, dispositifs médicaux : risque élevé, donc obligations lourdes.

Concrètement, pour un usage à haut risque, il faut :

• une documentation technique décrivant le modèle et ses limites connues
• un système de gestion des risques tenu à jour, pas écrit une fois pour le dossier
• une supervision humaine réelle — pas un bouton « valider » cliqué à la chaîne
• des journaux d'exécution conservés, permettant de reconstituer une décision
• une information claire des personnes concernées

Le mot qui compte dans cette liste, c'est « réelle ». J'ai vu trois interfaces de supervision humaine où l'opérateur validait en moyenne une décision toutes les 4 secondes. Appeler ça une supervision humaine, c'est une fiction juridique.

Les chiffres qui fâchent

Sur un projet de scoring interne que j'ai suivi, le modèle était 2,4 fois plus précis que la procédure manuelle qu'il remplaçait. Excellent résultat. Sauf qu'en testant par sous-population, on a découvert que l'écart se réduisait à 1,1 pour les dossiers issus de certains quartiers. Le gain global masquait une dégradation locale. On a passé six semaines à corriger, ce qui nous a fait rater une échéance de déploiement.

Personne n'a voulu de ce retard. Tout le monde a préféré ça à l'alternative.

Les questions à se poser avant de choisir un outil

C'est le moment le plus rentable. Une question posée maintenant coûte une réunion. La même question posée après déploiement coûte un communiqué.

Qui décide quand le modèle se trompe ?

Question simple, réponse souvent absente. Si votre outil refuse un crédit, qui porte la décision ? Si c'est « le système », vous n'avez personne à qui parler en cas de litige. Il faut un nom, une fonction, un processus d'appel.

Qu'est-ce qu'on lui donne à manger ?

Trois choses à vérifier, dans cet ordre :

1. D'où viennent les données, et avez-vous le droit de les utiliser pour cet usage précis ?
2. Qui est absent de ces données ? C'est presque toujours plus instructif que la question inverse.
3. Que se passe-t-il si elles fuient ?

Le point 2 est celui qu'on saute. Un modèle entraîné sur des dossiers historiques n'a jamais vu les populations qui n'ont jamais eu accès au service. Il ne les connaît pas. Il les ignorera poliment.

Combien de temps un humain peut-il tenir la supervision ?

Une équipe qui valide deux cents décisions par jour finit par cliquer sans lire. C'est physiologique. Si votre dispositif de contrôle humain exige plus de quelques dizaines de validations quotidiennes par personne, il ne fonctionne pas — il donne bonne conscience.

Pendant le déploiement : les tests qui comptent

Une charte éthique affichée dans le hall ne mesure rien. Ce qui mesure quelque chose, c'est un tableau de bord avec des écarts par sous-population, revu à intervalle régulier par quelqu'un qui a le pouvoir de suspendre le système.

Comment mesurer un biais, concrètement ?

On ne mesure pas « le biais » en général. On mesure des écarts sur des indicateurs précis : taux d'acceptation, taux d'erreur, score moyen, par groupe. Puis on regarde si l'écart est stable dans le temps ou s'il se creuse.

Deux indicateurs que j'utilise systématiquement et qu'on ne voit presque jamais dans les présentations :

• le taux de faux positifs par sous-population — qui est pénalisé à tort, et combien plus souvent
• le taux d'abandon après contestation — combien de personnes renoncent à contester parce que le processus est trop compliqué

Ce second chiffre est brutal. Sur un dispositif de traitement de réclamations, on a constaté que 68 % des personnes qui commençaient une contestation ne la terminaient jamais. Le système n'était pas biaisé au sens statistique. Il était décourageant. C'est un problème éthique tout aussi sérieux.

Où placer la vigilance selon le niveau de risque

Niveau de risque	Exemples d'usage	Ce qu'il faut absolument mettre en place
Inacceptable	Notation sociale, manipulation comportementale	Ne pas déployer. Aucune dérogation.
Élevé	Recrutement, crédit, éducation, santé	Documentation, tests par sous-population, supervision humaine effective, journalisation, voie de recours
Limité	Chatbot, génération de contenu	Information de l'utilisateur qu'il parle à une machine
Minimal	Filtres anti-spam, recommandation de films	Rien d'obligatoire. Mais un œil sur les dérives.

La ligne « Élevé » est celle où la plupart des entreprises que je rencontre se situent sans le savoir. Elles croient faire du « limité » et découvrent en audit que leur outil de présélection de candidats tombe dans le régime strict.

Après le déploiement : ce qu'on oublie toujours

Les modèles dérivent. Les usages aussi. Un outil lancé pour trier des e-mails se retrouve, dix-huit mois plus tard, à orienter des demandes d'aide sociale parce que quelqu'un a trouvé ça pratique.

La charte éthique de l'IA sert-elle à quelque chose ?

Franchement ? Seule, non. Une charte sans procédure de signalement, sans responsable nommé et sans pouvoir de suspension est un document décoratif. Elle a une valeur : elle rend explicites des engagements. Mais elle devient utile seulement quand elle s'accompagne de trois mécanismes — une porte d'entrée pour les signalements, un délai de traitement, et quelqu'un dont c'est le travail.

J'ai rédigé une de ces chartes il y a quelques années. Douze pages. Très bien écrite. Six mois après, personne ne se souvenait qu'elle existait. La version qui a réellement changé les choses tenait sur une page, avec quatre engagements et un nom au bas.

Que faire quand on découvre un problème ?

Suspendre d'abord, comprendre ensuite. C'est contre-intuitif parce que suspendre coûte cher immédiatement, alors que continuer coûte cher plus tard et de façon moins visible. J'ai vu une équipe repousser une suspension pendant quatre mois pour ne pas casser un pic d'activité. Le coût final — corrections d'urgence, communication, perte de confiance interne — a été sans commune mesure avec ce qu'aurait coûté l'arrêt.

Les dilemmes auxquels vous serez vraiment confronté

La plupart des textes sur le sujet listent des principes. Voici plutôt trois situations où les principes ne tranchent pas.

Le dilemme de la performance. Le modèle le plus juste est souvent le moins performant en moyenne. Vous devez choisir entre un chiffre flatteur et un traitement équitable. Il n'existe pas de réglage qui donne les deux.

Le dilemme de la transparence. Expliquer précisément comment un modèle décide aide les personnes concernées. Ça aide aussi ceux qui veulent le contourner. Le bon niveau d'explication dépend de qui pose la question.

Le dilemme de la responsabilité. Quand cinq personnes ont touché au système, personne ne se sent responsable. La seule solution que j'aie trouvée qui fonctionne : un responsable désigné par système, connu de tous, même s'il n'a pas tout fait.

Et si on ne fait rien ?

Vous déployez quand même. La plupart des organisations le font. Ce qui se passe ensuite n'est pas spectaculaire : pas de scandale, juste une lente accumulation de décisions légèrement injustes, invisibles une par une, qui finissent par dessiner un système à deux vitesses. Et le jour où quelqu'un met le nez dedans, vous n'aurez aucun journal, aucune trace, aucune explication à fournir.

C'est ça, le vrai coût. Pas l'amende. L'incapacité à répondre à la question « pourquoi ? ».

Une dernière chose. La question à se poser n'est pas « notre IA est-elle éthique ? ». Elle est trop large pour avoir une réponse. La bonne question tient en six mots : qu'est-ce qu'on ne veut pas voir arriver ? Répondez-y par écrit. Puis demandez-vous ce que vous avez mis en place pour l'empêcher. Si la réponse tient en une phrase, vous avez votre feuille de route pour les six prochains mois.