Comment placer l'humain au centre de l'IA ?

SECTION 1

Introduction

Le battage médiatique autour de l'IA, générative, agentique ou autre, est tel qu'il est facile de perdre de vue l'objectif fondamental de cette technologie : aider les gens. En réalité, c'est là le but de toute technologie, améliorer la vie des gens.

C'est un point que l'expert Tiankai Feng, Directeur mondial de la Stratégie Data et IA, tient à souligner auprès du monde des affaires et des entreprises. En juillet 2024, il a publié son premier ouvrage Humanizing Data Strategy, qui explore comment aborder et exploiter les données en mettant l'humain en premier plan.

Un peu plus d'un an après, il a écrit une suite : Humanizing AI Strategy, consacrée à la manière de concevoir et mettre en œuvre une stratégie d'IA durable, efficace et fondamentalement humaine. Nous avons repris les grandes lignes de son propos pour en tirer une grille de lecture opérationnelle, directement applicable aux organisations qui pilotent aujourd'hui des programmes d'IA générative et agentique.

SECTION 2

Pourquoi humaniser la stratégie d'IA : une question de priorité, pas de technologie

### Ce que recouvre une IA « non humanisée »

Une stratégie d'IA humanisée, selon Tiankai Feng, implique d'insister sur la priorité des valeurs et des besoins humains, par contraste avec une approche qui ne considère que les avancées technologiques. Une IA non humanisée est celle qui ne tient pas compte des implications relatives à la façon dont les employés interagiront avec les outils d'IA, de la manière dont l'IA devrait ou non être utilisée pour les interactions clients, et des impacts potentiels, positifs comme négatifs, qu'elle pourrait avoir sur la société. Ignorer ces questions, c'est risquer de causer des dommages qu'il sera très difficile de réparer une fois le système déployé à grande échelle.

### Les leçons du premier livre, Humanizing Data Strategy

En continuité avec Humanizing Data Strategy, Tiankai Feng défend l'apprentissage à partir des erreurs et expériences passées en matière de gestion des données, et la mise en place de principes et de garde-fous de façon proactive, avant qu'un incident ne les rende indispensables. Concernant l'IA, il souhaite que tous les acteurs travaillant sur des initiatives IA au sein des organisations ne posent pas uniquement la question « pouvons-nous le faire ? », mais aussi « devrions-nous le faire ? » et « comment pouvons-nous le faire correctement ? ». Cette triple question, simple en apparence, structure en réalité l'ensemble de sa méthode.

SECTION 3

Pourquoi les projets d'IA échouent : la vitesse contre la diligence

Les échecs de projets d'IA analysés par Tiankai Feng partagent tous un point commun : ils ont privilégié la vitesse au détriment de la diligence et des garde-fous. Il identifie trois points de départ pour éviter d'autres défaillances.

### Le bon humain au bon moment

Il s'agit d'intégrer le concept du « bon humain au bon moment » : être rigoureux dans la mise en place de points d'activation et de nœuds de décision pour déterminer quand l'implication d'un humain dans la boucle est obligatoire, en particulier concernant les risques réglementaires, éthiques et commerciaux. À l'ère des agents autonomes capables d'enchaîner plusieurs actions sans supervision directe, ce principe devient un prérequis d'architecture plutôt qu'une simple bonne pratique.

### Expertise multidisciplinaire dès la conception

Les experts en IA n'ont pas une connaissance exhaustive de tous les risques entourant les applications d'IA. Faire intervenir des experts du domaine juridique, de la diversité et de l'inclusion, de la cybersécurité et d'autres fonctions pertinentes dès le début du processus de développement permet d'identifier ces risques rapidement, avant qu'ils ne soient coûteux à corriger, et de concevoir des garde-fous adaptés dès la phase de cadrage plutôt qu'en réaction à un incident.

### Des tests aussi rigoureux qu'un pentest

Tout comme les tests de pénétration en cybersécurité, des tests plus rigoureux pour détecter les intentions malveillantes et les comportements dérivants dans une application d'IA aident à identifier les vulnérabilités et à prévenir les défaillances réelles avant qu'il ne soit trop tard. Pour les systèmes agentiques mis en production en 2026, cela signifie des campagnes de red teaming régulières, des jeux d'essais adversariaux et des scénarios de simulation d'incident, au même titre qu'un audit de sécurité applicatif classique.

@cite:les-sept-peches-capitaux-de-la-transformation-ia-lecons

SECTION 4

Le framework des 5C : ancrer la stratégie dans les besoins humains

Le cœur de l'approche de Tiankai Feng pour une stratégie d'IA humanisée est le framework des 5C, tous ancrés dans les besoins et les traits humains : compétence, collaboration, communication, créativité et conscience. La compétence renvoie à la capacité des équipes à comprendre réellement ce que fait un système d'IA, au-delà de son interface. La collaboration désigne la manière dont humains et agents IA se répartissent les tâches sans que l'un n'efface l'apport de l'autre. La communication couvre la transparence sur les décisions automatisées et leurs limites, envers les collaborateurs comme envers les citoyens ou les clients finaux. La créativité rappelle que l'IA doit élargir l'espace des solutions possibles plutôt que le standardiser à l'excès. La conscience, enfin, désigne la capacité collective à anticiper les conséquences d'un déploiement avant qu'elles ne se matérialisent.

Si une organisation se concentre sur ces cinq aspects tout au long du cycle de vie d'une application d'IA, cadrage, conception, déploiement, exploitation, retrait, elle peut espérer devenir plus centrée sur l'humain de manière intuitive et durable, plutôt qu'au prix d'un effort de gouvernance permanent et coûteux.

SECTION 5

Garder le cap sans perdre en agilité : une stratégie directionnelle, pas instructionnelle

### Vision de la direction, autonomie sur le terrain

Pour Tiankai Feng, toute stratégie liée à la technologie doit être directionnelle et non instructionnelle : une image cible claire en matière de moteurs commerciaux, de modèle opérationnel, d'architectures et de processus doit être fournie, mais avec suffisamment de flexibilité intégrée pour s'adapter aux changements technologiques, sectoriels ou sociétaux. Cela dépend aussi d'un élément culturel où chaque décision détaillée n'a pas besoin d'être prise de haut en bas : le leadership fournit la vision et la direction, tandis que les équipes de terrain, qui connaissent le mieux les réalités opérationnelles, l'opérationnalisent en prenant des décisions autonomes dans le cadre défini.

Cette logique rejoint directement les enjeux de scaling que rencontrent aujourd'hui les organisations qui passent d'un usage exploratoire de l'IA à des déploiements à l'échelle de l'entreprise, où le nombre de cas d'usage, d'équipes et d'agents impliqués rend impossible tout pilotage centralisé au niveau du détail.

@cite:naviguer-le-scaling-de-l-ia

SECTION 6

L'argument du « pas d'IA du tout » : reconnaître les risques sans renoncer aux bénéfices

Certains soutiennent que la seule stratégie d'IA véritablement humanisée serait l'absence d'IA : l'impact sur l'emploi, sur la créativité et sur l'environnement rendrait la technologie contraire aux intérêts humains. Tiankai Feng répond que, comme pour toute avancée technologique, il faut entretenir une relation saine et équilibrée avec elle. Malgré les risques réels pour l'emploi, la propriété intellectuelle ou l'empreinte énergétique des grands modèles, il faut aussi reconnaître les bénéfices que l'IA peut apporter : des avancées accrues en recherche médicale, une éducation plus personnalisée et impactante, ou la réduction des tâches répétitives manuelles. L'avenir qu'il envisage est celui où humains et IA coexistent et collaborent, chacun renforçant les capacités de l'autre plutôt que se substituant purement à lui.

SECTION 7

Écrire avec l'IA : ce que l'expérience de Tiankai Feng révèle sur la collaboration humain-IA

Un détail éclaire particulièrement bien la thèse du livre. Tiankai Feng a écrit son premier ouvrage entièrement sans assistance IA, mais a décidé d'utiliser l'IA générative pour l'aider à rédiger le second, en modélisant, selon ses propres mots, une bonne collaboration avec l'IA. L'outil l'a aidé à structurer ses pensées, à examiner son contenu de façon critique et à surmonter certains blocages d'écriture, sans jamais se substituer à sa voix ni à son jugement éditorial final.

Cette expérience personnelle illustre concrètement le framework des 5C : la compétence de savoir quand solliciter l'outil, la collaboration entre auteur et assistant, la communication d'un résultat resté fidèle à sa pensée, la créativité préservée plutôt que standardisée, et la conscience des limites de ce que l'IA pouvait raisonnablement contribuer. Il en tire une conclusion simple : la clarté de sa pensée et son style d'écriture se sont améliorés par rapport au premier livre, et l'apprentissage, souligne-t-il, reste l'un des meilleurs traits humains.

SECTION 8

Conclusion : ce que ça change concrètement pour les organisations

Humanizing AI Strategy s'adresse à quiconque travaille avec l'IA ou s'intéresse à y travailler. Les décideurs y trouveront des repères actionnables pour cadrer leurs programmes ; les équipes qui travaillent avec l'IA au quotidien y trouveront de quoi faire des choix conscients sur la façon de collaborer avec elle, et de quoi nourrir un retour utile vers celles et ceux qui conçoivent les applications d'IA.

Pour une organisation qui structure aujourd'hui sa gouvernance IA, la traduction opérationnelle de ces principes tient en quelques réflexes simples : documenter explicitement les points de décision où un humain doit rester dans la boucle, associer les fonctions juridique, sécurité et métier dès le cadrage plutôt qu'en validation finale, tester les systèmes agentiques comme on teste une surface d'attaque, et mesurer régulièrement les cinq dimensions du framework 5C plutôt que le seul taux d'adoption.

@cite:s-organiser-pour-l-ia-de-l-experimentation

Merci à Tiankai Feng d'avoir pris le temps de partager sa réflexion. Découvrez-en plus sur Humanizing AI Strategy.

Avertissement : les déclarations et opinions exprimées dans cet article sont celles de l'auteur (des auteurs) et ne reflètent pas nécessairement les positions d'Adservio.

FAQ

Questions fréquentes