Lectures: 3
Résumé – Dès la phase de conception, 70 % des projets IA échouent faute de compréhension des besoins métiers, de silos entre data scientists, ingénieurs et opérationnels et d’un manque de gouvernance MLOps. Ces échecs technocentrés soulignent la nécessité d’ateliers d’empathie, de tests d’utilisabilité en conditions réelles, d’une architecture modulaire CI/CD (versioning, TDD) et d’une gouvernance éthique pour maîtriser biais, qualité de données et adoption.
Solution : implémenter un cadre Design-Driven MLOps structuré en phases (empathie, prototypage, tests rapides, itérations continues et supervision opérationnelle) pour aligner stratégie, usages et discipline technique, assurer robustesse, conformité et retour sur investissement.
Selon plusieurs études, près de 70 % des projets d’intelligence artificielle sont abandonnés avant leur mise en production, non pas en raison d’algorithmes défaillants, mais à cause d’une méconnaissance des besoins réels des utilisateurs et d’un manque de structuration. Des expériences menées dans des entreprises helvétiques montrent qu’un alignement insuffisant entre data scientists, ingénieurs et parties prenantes métiers conduit à des prototypes prometteurs qui ne trouvent jamais leur marché.
Dans cet environnement, l’adoption d’un cadre centré sur l’humain devient primordiale pour transformer des concepts d’IA en solutions tangibles et durables. Le Design-Driven MLOps apparaît comme une réponse structurée pour allier design thinking et rigueur opérationnelle.
Les écueils fréquents des projets d’IA centrés sur la technologie
De nombreux projets d’IA échouent parce qu’ils privilégient la sophistication algorithmique au détriment de la valeur utilisateur. Ils manquent aussi souvent de discipline opérationnelle, ce qui freine leur passage à l’échelle.
Inadéquation avec les besoins utilisateurs
Le point de départ d’une solution d’IA doit être la compréhension profonde des besoins métiers et des usages finaux. Sans cette empathie, même le modèle le plus performant génère des résultats peu exploitables sur le terrain. Les data scientists risquent alors de travailler sur des variables inutiles ou de produire des prédictions trop abstraites pour les équipes opérationnelles. Cette situation engendre frustration et désengagement, tant chez les utilisateurs que chez les sponsors du projet.
Par exemple, une PME suisse du secteur de la logistique avait investi massivement dans un modèle de prévision de la demande sans consulter les responsables des entrepôts. Le prototype générait des prévisions jugées “trop imprécises” par les équipes terrain. Cet exemple montre qu’un déficit de communication initial peut faire échouer une initiative de bout en bout et générer un gaspillage de ressources.
Pour éviter cette dérive, il est essentiel d’inclure des ateliers d’exploration avec les utilisateurs dès la phase d’empathie. Des interviews, des observations in situ et des tests de prototypes permettent de capter des signaux faibles et de prioriser les fonctionnalités à forte valeur ajoutée, illustrés dans notre article sur tests d’utilisabilité. Ces pratiques garantissent l’alignement entre la vision stratégique et les contraintes opérationnelles.
Manque de discipline opérationnelle et de gouvernance
Au-delà de la qualité des données et des modèles, la robustesse d’un produit d’IA repose sur des processus MLOps rigoureux. L’absence de pipelines automatisés de versioning, de testing (test-driven development (TDD)) et de déploiement induit des pertes de temps liées aux rewinds manuels et aux ajustements de dernière minute. Les équipes découvrent des bugs en production, ce qui, dans le pire des cas, détourne la confiance des utilisateurs.
Les organismes qui n’adoptent pas un cadre clair de gouvernance de l’IA se heurtent aussi à des risques réglementaires et éthiques. Par exemple, sans audit transparent des modèles, l’entreprise peut produire des résultats biaisés ou non conformes aux exigences légales, entraînant des sanctions et un retentissement négatif sur la réputation.
Pour une discipline opérationnelle efficace, il convient de définir des métriques de performance claires, de mettre en place des tests automatisés de régression et d’organiser des revues de code croisées entre data scientists et ingénieurs. Ces pratiques offrent un socle de confiance pour les parties prenantes et assurent une montée en charge progressive et maîtrisée.
Isolement des équipes et silos fonctionnels
Lorsque les data scientists, les designers et les responsables métiers opèrent dans des sphères étanches, les échanges d’informations clés sont limités. Les uns ignorent les impératifs de mise en production, les autres méconnaissent les capacités techniques réelle des modèles. Ce cloisonnement aboutit à des solutions dont l’adoption reste marginale, faute d’adhésion et de compréhension des enjeux.
Un acteur du secteur public avait développé un chatbot d’assistance interne en vase clos. Les retours des agents n’ayant jamais été sollicités, le chatbot proposait des réponses mal alignées sur les processus existants, ce qui a conduit à son rejet dès la phase pilote. Cette expérience illustre l’importance de la collaboration interfonctionnelle pour assurer la pertinence des livrables.
En organisant des rituels de synchronisation hebdomadaires et des ateliers de co-design, on favorise le partage de connaissances et la co-responsabilité. Cela permet d’anticiper les points de friction, de valider les choix techniques et de concevoir des solutions qui répondent réellement aux attentes métiers.
Principes du Design-Driven MLOps pour un cadre humain-centré
Le Design-Driven MLOps combine la puissance du design thinking avec la rigueur des pratiques MLOps pour créer des produits d’IA à haute valeur utilisateur. Il structure chaque étape, de l’empathie initiale à l’exploitation continue, en assurant une boucle de feedback permanente.
Phase 1 : Empathie et compréhension
La première étape consiste à identifier et à comprendre les acteurs clés, leurs besoins explicites et latents, ainsi que le contexte organisationnel. On réalise des entretiens approfondis, des observations terrain et des ateliers collaboratifs pour capturer des pain points et des opportunités. Cette phase nourrit la feuille de route du projet et oriente le choix des jeux de données et des modèles à développer.
Sur le plan MLOps, on commence à définir les indicateurs de succès métier et les KPIs techniques à surveiller. On identifie également les sources de données critiques et les contraintes de qualité à respecter. Ainsi, on prépare les pipelines de collecte et de validation des données, garantissant un socle robuste pour l’entraînement des modèles.
Cette approche centrée sur l’humain crée une vision partagée entre les équipes et suscite l’adhésion des parties prenantes. Elle évite de distraire les data scientists avec des hypothèses mal fondées et permet aux ingénieurs de planifier une architecture modulable, adaptée aux volumes et aux services métiers.
Phase 2 : Définition et prototypage
À partir des insights collectés, on formalise des user stories et on dessine des maquettes fonctionnelles. Ces prototypes peuvent être réalisés sous forme d’interfaces légères ou de notebooks interactifs démontrant la pertinence des prédictions. L’objectif est de valider rapidement les hypothèses de valeur avant de déployer une preuve de concept lourde.
En parallèle, on met en place un environnement d’expérimentation MLOps intégrant des conteneurs et des micro-services. Cette composition modulaire facilite l’orchestration des tâches, le suivi des versions de modèles et la reproductibilité des résultats, comme expliqué dans notre guide pour structurer et piloter son externalisation. On définit également les workflows CI/CD pour automatiser l’entraînement, la validation et la mise en production.
Un établissement de services financiers suisse a ainsi pu tester en deux semaines un prototype de scoring client directement avec ses chargés de relation. Cette phase a démontré que le modèle pouvait réduire de 30 % le temps de traitement des demandes, validant le choix technique et engageant les équipes métier dans la suite du projet.
Phase 3 : Tests utilisateurs rapides
Avant tout déploiement à grande échelle, il est indispensable de confronter le prototype à un panel de vrais utilisateurs. Des sessions de tests structurées permettent de mesurer l’utilisabilité, la compréhension des résultats et la satisfaction par rapport aux gains attendus. Les retours qualitatifs et quantitatifs orientent les itérations suivantes.
Du côté MLOps, on met en place des métriques de quality gate et on configure des tableaux de bord pour suivre la précision, la couverture et les biais éventuels. Les pipelines CI/CD déclenchent automatiquement des tests de performance et de non-régression à chaque modification du modèle ou de l’interface.
Cette boucle de validation rapide aligne les équipes sur des objectifs concrets et garantit que le produit final répond aux exigences métiers et aux standards de qualité. Elle prévient aussi la dérive de scope et le développement de fonctionnalités hors sujet.
Edana : partenaire digital stratégique en Suisse
Nous accompagnons les entreprises et les organisations dans leur transformation digitale
Six phases design thinking en MLOps
Chaque phase du design thinking trouve sa place dans le cycle MLOps, assurant une évolution fluide du concept à la plateforme d’IA en production. L’enchaînement rigoureux des étapes optimise la pertinence et la robustesse des systèmes.
Phase d’idéation et d’architecture modulable
Après l’empathie et la définition, l’idéation vise à générer un large spectre de solutions possibles, sans contrainte technique initiale. Les équipes se réunissent lors d’ateliers créatifs pour imaginer des cas d’usage variés et identifier les leviers de valeur les plus prometteurs. Cette diversité d’angles évite de se enfermer dans une solution unique.
Sur la base des pistes retenues, on esquisse une architecture modulaire qui décompose le système en briques micro-services : ingestion, prétraitement, entraînement, scoring, interface utilisateur. Cette structure garantit l’évolutivité, la maintenabilité et la possibilité de faire évoluer indépendamment chaque composant.
La promesse est d’obtenir un prototype rapide à assembler, capable d’itérations successives sans réécrire l’ensemble. L’approche hybride, mêlant briques open source et développements sur mesure, minimise le vendor-lock-in tout en offrant une base sécurisée et évolutive.
Itération et retour utilisateur continu
Après le prototypage, les retours des utilisateurs alimentent un backlog de priorités. Chaque sprint inclut des phases d’entraînement de modèle, de tests de non-régression et de sessions de feedback. Cette cadence permet d’affiner les algorithmes et l’interface en parallèle, garantissant une montée en maturité progressive.
Du point de vue MLOps, on utilise des outils de monitoring pour détecter en temps réel les dérives de performance (data drift, concept drift). Des alertes automatisées préviennent les équipes en cas de dégradation, déclenchant un nouveau cycle de collecte de données et de réentraînement.
Une institution publique suisse ayant déployé un système de recommandation de services en ligne illustre l’efficacité de cette démarche : en six mois, le taux d’acceptation des suggestions est passé de 15 % à 45 % grâce à trois itérations majeures, toutes guidées par des retours terrain.
Surveillance et évolutivité opérationnelle
La phase finale vise à stabiliser et à faire évoluer la solution en production. Les opérations MLOps incluent la gestion des versions de modèles, la redondance des services et l’optimisation continue des ressources cloud. Les tests de charge et de fiabilité sont automatisés pour garantir la disponibilité et la performance.
La gouvernance de l’IA s’appuie sur un registre de modèles documenté, des processus d’audit et des comités de revue réunissant data scientists, ingénieurs et responsables métier. Cette transparence crée la confiance et assure la conformité aux normes éthiques et réglementaires.
La combinaison du design thinking et des meilleures pratiques MLOps offre ainsi un cadre pérenne, capable de s’adapter aux évolutions des besoins et de l’environnement technologique.
Défis et bonnes pratiques pour réussir un cadre humain-centré
Mettre en place un cadre centré sur l’humain exige une coordination étroite entre compétences variées et une gouvernance claire. Les bonnes pratiques reposent sur la collaboration, l’éthique et l’alignement stratégique.
Collaboration interfonctionnelle et brise-silos
L’un des défis majeurs est de faire travailler ensemble des profils très différents : designers, data scientists, ingénieurs logiciels, chefs de projet et parties prenantes métier. Chacun apporte son expertise, mais sans une dynamique collaborative, la complémentarité reste limitée.
Pour faciliter cette co-création, il est recommandé d’instaurer des rituels agiles, tels que les revues de sprint partagées et les démonstrations de prototypes. Ces moments d’échange favorisent la compréhension mutuelle et l’engagement des équipes.
Mettre en place un espace de travail commun (physique ou virtuel) permet de partager en continu les documents, les résultats d’expérimentations et les indicateurs de succès. Cette transparence aligne les priorités et accélère la prise de décision collective.
Gouvernance éthique et transparence
La confiance dans les produits d’IA repose sur la traçabilité des données, la gestion des biais et la conformité aux régulations. Les organisations doivent définir des politiques claires sur la collecte et le traitement des données personnelles, ainsi que sur l’usage responsable des algorithmes.
Un comité éthique pluridisciplinaire peut superviser les choix de design et valider la mise en production des modèles, en s’appuyant sur un registre de décisions et des rapports d’audit. Cette structure assure la transparence et anticipe les risques réputationnels.
En documentant chaque étape du cycle de vie, de l’exploration des besoins à la mise à jour en production, on instaure un référentiel fiable pour toutes les parties prenantes. Cela devient un atout pour répondre aux exigences réglementaires et pour valoriser la démarche auprès des conseils d’administration.
Alignement stratégique et ROI
Enfin, un projet d’IA centré sur l’humain ne peut se déployer sans justification claire de la valeur générée. Les indicateurs de succès doivent être définis dès la phase d’empathie et revus à chaque itération.
Les gains peuvent être répartis en deux catégories : les bénéfices tangibles (réduction des coûts, gains de productivité) et les bénéfices intangibles (satisfaction utilisateur, amélioration de l’image). La restitution régulière de ces métriques auprès de la direction génère de la confiance et favorise l’extension de l’initiative à d’autres domaines.
Un alignement étroit avec la feuille de route stratégique de l’entreprise, illustré par le rôle d’un architecte solution, garantit que les ressources sont mobilisées sur des cas d’usage prioritaires, maximisant ainsi le retour sur investissement et la pérennité du programme d’IA.
Adoptez un cadre Design-Driven MLOps à l’épreuve de l’humain
Le succès des produits d’IA ne dépend pas uniquement de la performance algorithmique, mais de la capacité à répondre aux besoins réels des utilisateurs dans un cadre opérationnel solide. Le Design-Driven MLOps offre une approche structurée, alliant empathie, prototypage rapide, feedback continu et discipline MLOps. Cette combinaison garantit la pertinence, la robustesse et l’évolutivité des solutions.
Que vous soyez CIO, DSI, responsable de la transformation digitale ou dirigeant, intégrer un cadre humain-centré dès la conception est désormais un facteur différenciant pour vos projets d’IA. Nos experts sont à votre disposition pour vous accompagner dans la mise en place de cette méthodologie et pour transformer vos concepts en produits concrets, éthiques et performants.
