Pourquoi les entreprises suisses recrutent-elles des philosophes pour surveiller leurs IA ?

Imaginez une offre d’emploi au sein d’une prestigieuse banque genevoise ou d’une assurance zurichoise. Le poste à pourvoir ? « Éthicien de l’IA ». Les compétences requises ? Master en philosophie, pensée critique, connaissance des dilemmes moraux. Surprenant ? À première vue seulement. Ce phénomène, de plus en plus courant en Suisse, marque une prise de conscience profonde : la performance brute d’un algorithme ne suffit plus. Dans un pays où la précision, la confiance et la gestion des risques sont des piliers culturels et économiques, laisser des « boîtes noires » prendre des décisions cruciales est devenu un pari inacceptable.

Bien sûr, les discussions sur les biais de l’intelligence artificielle ne sont pas nouvelles. On sait que les IA peuvent discriminer, qu’elles peuvent se tromper. La réponse habituelle a été purement technique : corriger les données, ajuster les algorithmes, améliorer les modèles. Mais cette approche a montré ses limites. Et si le véritable enjeu n’était pas de « débiaiser » une machine, mais de lui apprendre à raisonner selon un cadre de valeurs que nous avons défini consciemment ? Et si la clé n’était pas dans le code, mais dans la clarté du raisonnement qui le précède ? C’est ici que le philosophe intervient, non pas comme un censeur, mais comme un véritable architecte de la décision algorithmique.

Cet article plonge au cœur de cette nouvelle alliance entre la tech et les sciences humaines. Nous allons décortiquer les dilemmes concrets qui forcent les entreprises suisses à repenser leur approche, explorer comment le philosophe devient un traducteur entre la complexité morale et la logique machine, et esquisser les contours d’une nouvelle ère où l’éthique n’est plus une contrainte, mais un avantage compétitif décisif.

Pour comprendre les enjeux concrets et les solutions qui émergent, cet article est structuré pour vous guider des problèmes les plus courants aux stratégies d’avenir. Le sommaire ci-dessous vous donnera un aperçu clair de notre parcours.

Pourquoi votre algorithme de recrutement rejette-t-il systématiquement les femmes ?

La promesse d’un recrutement par IA était celle de l’objectivité absolue : un système capable de sélectionner les meilleurs profils sans être influencé par les préjugés humains. La réalité s’est avérée bien plus complexe. Le problème fondamental est que l’IA apprend à partir de données historiques. Si une entreprise a, pendant des décennies, majoritairement recruté des hommes pour des postes techniques, l’algorithme en conclura que le genre masculin est un critère de succès. Il ne crée pas le biais, il l’industrialise.

Ce phénomène n’est pas une anecdote lointaine. En Suisse, le problème est tout aussi présent. Les algorithmes peuvent introduire des pénalités invisibles basées sur le genre ou l’origine. Une étude soutenue par le Fonds national suisse a révélé une pénalité de 6,5% pour les candidats d’origine étrangère et une pénalité allant jusqu’à 7% pour les femmes postulant à des métiers masculinisés. Le rôle du philosophe est alors d’interroger les fondements mêmes de la « performance » : quels critères définissent un « bon » candidat ? Ces critères ne sont-ils pas déjà le reflet de biais historiques que l’entreprise souhaite justement corriger ?

Comment justifier un refus de crédit généré par une IA face à un client ?

Le dilemme de la « boîte noire » est peut-être l’un des plus grands défis éthiques et commerciaux posés par l’IA. De nombreux modèles d’apprentissage profond (deep learning) sont si complexes que même leurs créateurs ne peuvent pas expliquer en détail comment une décision spécifique a été prise. Imaginez la scène : un jeune entrepreneur se voit refuser un crédit crucial pour sa PME par un système algorithmique. Face à son conseiller bancaire, il demande une explication. La réponse « l’algorithme a décidé ainsi » est non seulement insatisfaisante, mais elle ouvre la porte à des risques légaux et réputationnels majeurs.

Cette opacité rend la détection et la preuve de discrimination extrêmement difficiles. Comme le souligne Nadja Braun Binder, professeure de droit public à l’Université de Bâle, cette situation crée une véritable insécurité juridique :

L’IA est une sorte de boîte noire. Elle prend des décisions sur des critères que l’on ne connaît pas. Par conséquent, il est très compliqué de prouver qu’on a été victime de discrimination.

– Nadja Braun Binder, Professeure de droit public à l’Université de Bâle

L’enjeu pour une entreprise suisse, dont la confiance est le principal actif, est immense. L’explicabilité (ou XAI – Explainable AI) devient une nécessité. Ici, le philosophe collabore avec les ingénieurs pour définir les niveaux d’explication requis. Il ne s’agit pas de comprendre chaque calcul, mais de pouvoir reconstituer une logique de décision compréhensible et justifiable. Quels sont les trois facteurs principaux qui ont mené au refus ? Le score de crédit est-il basé sur des critères pertinents et non discriminatoires comme l’historique de remboursement, ou sur des corrélations douteuses comme le code postal ? L’éthicien aide à construire des systèmes qui ne sont pas seulement performants, mais aussi transparents et responsables.

Modèle opaque performant ou modèle simple équitable : le dilemme éthique

Les entreprises sont souvent confrontées à un arbitrage douloureux : faut-il privilégier un modèle d’IA de type « boîte noire », extrêmement performant mais opaque, ou opter pour un modèle plus simple (comme un arbre de décision), moins performant mais totalement transparent et explicable ? Ce n’est pas une question purement technique, mais profondément philosophique. Choisir la performance à tout prix peut maximiser les profits à court terme, mais expose l’entreprise à des risques de discrimination systémique et de perte de confiance. Choisir l’équité peut sembler moins « efficace », mais construit une relation durable avec les clients et la société.

C’est précisément dans cet arbitrage que le philosophe apporte sa plus grande valeur. Son rôle n’est pas de donner une réponse toute faite, mais de fournir une méthode pour prendre la décision. Il aide l’entreprise à définir ses propres principes éthiques. Qu’est-ce que « l’équité » signifie pour nous ? Est-ce l’égalité des chances (chaque individu a la même probabilité de départ) ou l’égalité des résultats (le système doit corriger activement les déséquilibres existants) ? Cette « traduction morale » transforme un concept abstrait en un objectif mesurable pour les équipes techniques.

Comme le souligne une analyse de Bpifrance, dès qu’un algorithme prend une décision à impact humain, il devient un acteur moral qu’il faut encadrer. L’éthique n’est pas un supplément d’âme, mais ce qui légitime la technologie. Le philosophe aide à s’assurer que l’IA ne devienne pas un outil de « reproduction des inégalités ». Il questionne les métriques de performance : un algorithme qui augmente le taux d’octroi de crédit est-il un succès s’il le fait en surendettant une population fragile ? La discussion sur la performance doit intégrer des indicateurs d’impact social et éthique.

Le risque des « Dark Patterns » générés par IA pour maximiser l’addiction

Au-delà des biais, l’IA peut être utilisée pour créer des expériences utilisateur volontairement manipulatrices. Les « Dark Patterns » sont des interfaces conçues pour tromper les utilisateurs et les pousser à faire des choses qu’ils ne souhaitent pas, comme s’inscrire à un abonnement caché ou partager plus de données personnelles que prévu. Avec l’IA, ces techniques peuvent être personnalisées et optimisées en temps réel pour exploiter les biais cognitifs de chaque individu, rendant la manipulation encore plus efficace et difficile à détecter.

Une IA pourrait, par exemple, analyser le comportement d’un utilisateur et déterminer le moment exact de faiblesse psychologique pour lui présenter une offre d’achat impulsif, ou complexifier dynamiquement le parcours de désabonnement pour celui qui semble le plus susceptible d’abandonner. Face à ce risque, le rôle du philosophe est de passer d’une éthique de la « correction » à une éthique de l’intentionnalité. Il ne demande pas seulement « l’algorithme est-il juste ? », mais « dans quel but cet algorithme a-t-il été conçu ? ». Il audite le parcours utilisateur pour y déceler non pas des erreurs, mais des intentions manipulatrices.

Le philosophe aide à distinguer un « nudge » éthique (une incitation douce qui aide l’utilisateur à prendre une meilleure décision pour lui-même, comme une alerte pour l’encourager à épargner) d’un Dark Pattern. Le tableau suivant, basé sur les réflexions actuelles en éthique du design, illustre cette différence fondamentale.

En collaborant avec les designers UX et les chefs de produit, l’éthicien s’assure que l’optimisation de l’engagement ne se fait pas au détriment du bien-être et de l’autonomie de l’utilisateur, un principe fondamental pour préserver la confiance, comme l’illustre une analyse des principes éthiques pour l’IA.

Quand se conformer à l’AI Act de l’UE même si vous êtes une PME suisse ?

La Suisse n’est pas membre de l’Union Européenne, mais ignorer l’AI Act, la nouvelle grande régulation européenne sur l’intelligence artificielle, serait une grave erreur stratégique pour n’importe quelle entreprise helvétique. Le règlement a une portée extraterritoriale : si votre entreprise fournit des services basés sur l’IA à des citoyens de l’UE, ou si les résultats de votre IA sont utilisés dans l’UE, vous êtes très probablement concerné. Pour une économie aussi ouverte et intégrée que celle de la Suisse, cela concerne une majorité de PME et toutes les grandes entreprises.

L’AI Act classe les systèmes d’IA en fonction de leur niveau de risque (inacceptable, élevé, limité, minimal) et impose des obligations strictes pour les systèmes à « haut risque », qui incluent le recrutement, l’octroi de crédit, ou encore le diagnostic médical. Ces obligations portent notamment sur la transparence, la supervision humaine et la robustesse. Alors que la Suisse définit encore sa propre voie, avec un examen des approches de régulation par le Conseil fédéral attendu pour la fin 2024, s’aligner préventivement sur l’AI Act est une démarche de gestion des risques proactive. Le rôle du philosophe et de l’éthicien est central dans cette mise en conformité. Ils aident à traduire les exigences légales en processus internes concrets.

Pour une PME suisse qui utilise ou développe des outils d’IA, anticiper cette vague réglementaire est essentiel. Voici les premières étapes pour évaluer votre situation.

Comment décider qui a accès à vos données psychiatriques ou sensibles ?

La question de la gouvernance des données atteint son paroxysme lorsqu’il s’agit d’informations extrêmement personnelles, comme des dossiers psychiatriques, des données génétiques ou des opinions politiques. L’IA peut analyser ces données pour détecter des tendances, prédire des risques de santé ou personnaliser des traitements. Les bénéfices potentiels sont immenses, mais les risques d’abus, de fuites ou de stigmatisation le sont tout autant. Qui doit avoir accès à ces données ? Sous quelles conditions ? Et comment s’assurer que l’IA ne tire pas de conclusions qui pourraient nuire à l’individu ?

Face à de tels enjeux, la réponse ne peut être purement technique ou légale. Elle est fondamentalement éthique et nécessite une délibération humaine. L’idée de vouloir « automatiser le raisonnement moral » est un écueil dangereux. Chaque situation est unique et requiert un jugement nuancé. C’est le cœur de l’argument pour une collaboration étroite entre les disciplines.

Face aux interrogations légitimes des informaticiennes et informaticiens sur la manière d’appliquer les principes, une seule réponse est possible : il faut réfléchir en situation et se garder de vouloir automatiser le raisonnement moral. C’est exactement dans ce cadre que l’interdisciplinarité est essentielle.

– Groupe Philia, L’éthique au cœur de l’IA

En Suisse, des structures comme les comités d’éthique de la donnée se développent au sein des hôpitaux, des universités et des entreprises. Composés de médecins, de juristes, de data scientists et de philosophes, ces comités examinent les projets d’IA impliquant des données sensibles. Le rôle du philosophe est de cadrer la discussion : il aide à appliquer des cadres de pensée éthique (comme l’utilitarisme, la déontologie) pour évaluer les compromis entre le bénéfice collectif (recherche médicale) et le droit individuel (vie privée). Il s’assure que le consentement de l’individu est éclairé et que des garde-fous robustes sont en place pour prévenir toute utilisation abusive des résultats.

Le risque éthique de laisser une IA trier les CV sans supervision humaine

Le tri automatisé des CV, comme nous l’avons vu, est un champ de mines éthique. Même avec des intentions louables, le risque de discrimination est omniprésent. Laisser une IA opérer sans supervision humaine revient à déléguer une décision à fort impact social à un système dont on ne maîtrise pas entièrement la logique. C’est un risque qu’aucune entreprise soucieuse de sa réputation et de sa responsabilité sociale ne devrait prendre. La supervision humaine n’est pas une simple « vérification » en fin de processus ; elle doit être intégrée à chaque étape.

Le problème s’est même complexifié avec l’avènement de l’IA générative. Des outils comme Stable Diffusion ou Midjourney, entraînés sur des milliards d’images issues d’Internet, reproduisent et exacerbent les stéréotypes de genre liés aux professions. Une analyse de Bloomberg a révélé que pour des métiers comme « avocat » ou « ingénieur », l’IA génère une écrasante majorité d’images d’hommes. À l’inverse, pour « aide à domicile », les images sont presque exclusivement féminines. Ces outils, utilisés pour créer du contenu marketing ou des illustrations internes, renforcent subtilement les biais que les entreprises tentent par ailleurs de combattre.

Cela démontre que la supervision ne peut se limiter au résultat final (le CV sélectionné). Elle doit porter sur les outils eux-mêmes et sur les données qui les nourrissent. Une étude a ainsi montré que l’IA générative produit trois fois plus d’images d’hommes que de femmes pour représenter des postes de pouvoir. Le philosophe, en collaboration avec le sociologue, aide à identifier ces biais culturels et représentationnels en amont, pour que l’entreprise puisse les corriger activement plutôt que de les subir passivement.

Comment l’IA générative va-t-elle transformer les bureaux suisses d’ici 5 ans ?

L’arrivée de l’IA générative dans les outils bureautiques quotidiens n’est pas une vague lointaine, c’est un tsunami qui redéfinit déjà les compétences requises. D’ici cinq ans, les bureaux suisses ne seront plus divisés entre ceux qui utilisent l’IA et ceux qui ne l’utilisent pas, mais entre ceux qui l’utilisent de manière critique et créative et ceux qui la subissent passivement. La valeur ajoutée humaine se déplacera de l’exécution des tâches vers la définition des objectifs, la formulation des bonnes questions et l’évaluation éthique des résultats proposés par la machine.

Cette transformation exige de nouvelles compétences hybrides. La maîtrise du « prompt-crafting » – l’art de poser la bonne question à une IA – deviendra aussi fondamentale que savoir écrire un e-mail. Mais il ne s’agira pas seulement d’une compétence technique. Un bon prompt est avant tout une question bien pensée, qui intègre les contraintes, les objectifs et les garde-fous éthiques. C’est une compétence fondamentalement philosophique. Des formations, comme celle proposée par l’Université de Genève, intègrent déjà des modules sur l’éthique des vertus, le déontologisme ou l’utilitarisme appliqués à l’IA, préparant les professionnels à identifier et arbitrer les enjeux moraux dès la conception d’un projet.

La future collaboration homme-machine sera une danse subtile entre la puissance de calcul de l’IA et le jugement, la créativité et la conscience morale de l’humain.

Comme le symbolise cette image, le futur du travail ne réside pas dans la fusion de l’homme et de la machine, mais dans une interface de collaboration où chaque partie apporte sa force unique. Le professionnel de demain ne sera pas remplacé par l’IA ; il sera celui qui saura la guider avec sagesse, pensée critique et responsabilité. Le philosophe, loin d’être un anachronisme, devient ainsi le précurseur de ce nouveau profil.

L’intégration de l’éthique dans l’IA n’est donc plus une option, mais le fondement d’une innovation durable et digne de confiance. Pour votre entreprise, commencer à évaluer vos pratiques actuelles et à former vos équipes est la première étape vers la construction de cet avantage compétitif responsable.