Naveen Zutshi (Databricks) : Pourquoi tant de projets d’IA échouent et comment obtenir des résultats concrets

La plupart des transformations IA échouent avant même d’atteindre la mise en production; non pas parce que la technologie ne fonctionne pas, mais parce que les organisations ne disposent pas des fondations nécessaires pour la soutenir.

Naveen Zutshi a consacré sa carrière à bâtir précisément ces fondations.

En tant que DSI de Databricks, Naveen pilote la transformation IT de l’une des entreprises data et IA les plus influentes au monde, en accompagnant des groupes du Fortune 500 qui traitent chaque jour des millions de jeux de données. Avant Databricks, il a dirigé la stratégie technologique chez Palo Alto Networks et Gap, avec un objectif constant : aider les organisations à passer de l’expérimentation à la mise en production à grande échelle.

Dans cet échange avec la co-CEO de Pigment, Eléonore Crespo, Naveen explique pourquoi la maturité des données est un meilleur indicateur du succès de l’IA que le secteur d’activité, pourquoi les DSI doivent privilégier la clarté plutôt que le contrôle, et pourquoi l’IA totalement autonome relève encore davantage du discours que de la réalité.

Pourquoi près de la moitié des projets d’IA n’atteignent jamais la mise en production

Lorsqu’il parle de transformation par l’IA, Naveen commence par un chiffre qui devrait interpeller tous les dirigeants : 46 % des preuves de concept en IA sont abandonnées avant d’atteindre la mise en production.

La cause principale n’est ni la sophistication technique ni la qualité des modèles. Le problème vient des données. Les organisations envoient des données vers des modèles sans gouvernance unifiée, en s’appuyant souvent sur des jeux de données insuffisamment propres pour produire des résultats fiables. Résultat : des échecs à grande échelle, qui se répètent quel que soit le secteur ou le cas d’usage.

Le deuxième facteur critique concerne l’évaluation. Les équipes doivent savoir précisément ce qu’elles cherchent à atteindre avec rigueur, et non par simple intention. Cela implique de définir les tests en amont, à partir des résultats attendus, et non des processus envisagés pour y parvenir.

Cette approche inverse le cycle de développement classique. Plutôt que de construire d’abord et d’évaluer ensuite, les organisations doivent définir les critères de succès avant même d’écrire la moindre ligne de code. Lorsque l’évaluation est claire et que les données sont propres, les projets d’IA cessent d’être des expérimentations pour devenir des déploiements en production.

La maturité des données compte davantage que le secteur d’activité

Lorsqu’on lui demande quels secteurs adoptent l’IA le plus rapidement, la réponse de Naveen surprend souvent. Ce n’est pas une question d’industrie, mais de maturité des données.

Il cite trois entreprises en exemple, toutes issues de secteurs fortement réglementés, que l’on pourrait pourtant imaginer plus lents à adopter l’IA.

• D’abord Mastercard, qui utilise Databricks pour traiter les demandes de cartes de crédit et l’onboarding client. Ces processus sont désormais largement génératifs, tout en restant encadrés par une supervision humaine et une gouvernance stricte, ce qui permet de gérer des volumes de transactions massifs tout en respectant les exigences de conformité.
• Ensuite Rolls-Royce, qui combine les données IoT issues des moteurs d’avion avec des données environnementales afin d’anticiper et de prévenir les interruptions de maintenance. Le bénéfice va bien au-delà de l’efficacité opérationnelle : ce sont des millions de tonnes d’émissions carbone évitées.
• Enfin Walgreens, qui optimise la distribution de médicaments dans plus de 9 000 pharmacies grâce à une combinaison d’IA agentique et de data science plus traditionnelle. L’entreprise traite désormais 825 millions d’ordonnances par an, avec un gain de productivité de 20 % et 160 millions de dollars de valeur additionnelle créée.

Le point commun entre ces entreprises n’est pas leur activité, mais leur rapport à la donnée. Elles s’appuient sur des jeux de données propriétaires bien gouvernés, des cas d’usage clairement définis et portés par les métiers, ainsi que des cadres d’évaluation robustes. C’est cette base qui permet à l’IA de produire des résultats mesurables, plutôt que de s’enliser dans des pilotes abandonnés.

Privilégier la clarté plutôt que le contrôle

Le modèle traditionnel du DSI met l’accent sur le contrôle : prise de décision centralisée, supervision étroite et processus standardisés. Pour Naveen, cette approche montre rapidement ses limites dès lors qu’il s’agit de déployer l’IA à l’échelle de l’entreprise.

« Quelqu’un m’a dit un jour quelque chose que j’ai trouvé très juste : un DSI doit se concentrer sur la clarté, pas sur le contrôle », explique-t-il.

La clarté consiste à définir une vision claire de la stratégie IA et à permettre à chaque collaborateur de s’inscrire dans cette trajectoire. Chez Databricks, les équipes de Naveen travaillent avec des profils extrêmement qualifiés, qui génèrent en permanence de nouvelles idées. Quelques minutes avant notre échange, un collaborateur lui présentait un moteur d’intelligence conçu pour analyser des conversations clients autour des cas d’usage. L’idée était excellente, et l’équipe souhaitait la déployer à l’échelle de l’entreprise.

Ce type d’innovation ascendante ne fonctionne que s’il existe un cadre clair pour évaluer les idées, les faire monter en charge et les intégrer à la plateforme globale. Sans clarté, les organisations voient apparaître une « IA fantôme » : des outils et des processus non validés, qui génèrent des fuites de données, des risques de sécurité et des effets de bord imprévus.

Pour maintenir cette clarté tout en favorisant l’innovation, Naveen recommande trois pratiques clés :

1. Mettre en place un cadre de sécurité IA. Travailler étroitement avec les équipes juridiques, privacy et sécurité pour définir quelles solutions peuvent être utilisées, dans quelles conditions, et ce qui est strictement interdit. Le paysage évoluant très vite, ce cadre doit rester adaptable.
2. Formaliser une stratégie IA interne conciliant centralisation et innovation locale. Certains agents et capacités doivent être développés de manière centralisée, mais les équipes doivent aussi pouvoir innover « en périphérie », dans un environnement gouverné. Des plateformes comme Agent Bricks de Databricks rendent cela possible en apportant une gouvernance au niveau des données et des agents, via des cadres unifiés comme Unity Catalog.‍
3. Investir dans une gouvernance complète. Détection des biais, traçabilité, suivi de la lignée des données, auditabilité : lorsque des agents se trompent, et cela arrivera, il est essentiel de pouvoir comprendre ce qui s’est produit, pourquoi, et corriger le système sans perdre la confiance des utilisateurs.‍

Sortir des outils spécialisés et isolés pour construire une plateforme IA

L’une des convictions les plus fortes de Naveen est que les organisations doivent adopter une logique plateforme, plutôt qu’un assemblage hétérogène de solutions spécialisées.

« Quelle est votre plateforme de référence pour l’IA ? », interroge-t-il. « Au début des années 2000, les développeurs avaient la stack LAMP. Quel en est l’équivalent aujourd’hui pour l’IA ? »

La plupart des organisations abordent encore l’IA par l’addition d’outils spécialisés, chacun répondant à un cas d’usage précis : un fournisseur pour le traitement du langage naturel, un autre pour la vision par ordinateur, un troisième pour la préparation des données. Cette approche conduit rapidement à une duplication des données entre systèmes, à une gouvernance incohérente et à une complexité d’intégration croissante.

Une approche plateforme permet d’éviter ces écueils. Elle maintient les modèles au plus près des données, offre aux équipes la liberté de choisir le modèle le plus adapté à chaque cas d’usage, et centralise la gouvernance au niveau de la plateforme plutôt que projet par projet.

Chez Databricks, cette philosophie se reflète directement dans l’architecture. Le Lakehouse réunit dans un environnement unique ce qui était auparavant séparé : les data warehouses pour les données structurées et les data lakes pour les données non structurées. Les équipes ne déplacent plus les données d’un système à l’autre. Elles travaillent sur un jeu de données unique, avec une gouvernance cohérente, qu’il s’agisse d’exécuter des requêtes SQL ou d’entraîner des modèles de machine learning.

Le même principe s’applique au choix des modèles. De nombreuses organisations s’engagent avec un seul fournisseur, avant de réaliser que des cas d’usage différents exigent des capacités différentes. Une approche plateforme redonne de la flexibilité : les équipes peuvent tester plusieurs modèles sur un même jeu de données, comparer leurs performances et arbitrer entre qualité et coûts, sans reconstruire toute l’infrastructure.

Une plateforme capable de supporter ce type d’optimisation continue, plutôt que d’enfermer les équipes dans des architectures figées, crée les conditions d’une innovation durable, tout en préservant l’efficacité opérationnelle.

Donner plus d’autonomie aux équipes sans perdre la gouvernance

Trouver le bon équilibre entre innovation et gouvernance est l’un des défis les plus complexes auxquels les DSI sont confrontés aujourd’hui. Trop de liberté, et l’« IA fantôme » s’installe. Trop de contrôle, et l’innovation s’essouffle.

L’approche de Naveen repose sur une gouvernance pensée au niveau de la plateforme, qui permet l’innovation locale « à la périphérie » tout en s’inscrivant dans un cadre clair et maîtrisé.

Par exemple, Agent Bricks permet aux équipes de concevoir des agents conversationnels, de traiter des documents ou de classifier des contrats sans nécessiter d’expertise approfondie en architecture d’agents. La complexité technique est abstraite, mais la gouvernance reste pleinement intégrée grâce à des contrôles d’accès basés sur les rôles, au suivi de la lignée des données et à l’auditabilité native de la plateforme.

Le principe est simple : rendre l’innovation facile, et le risque difficile. Les équipes peuvent expérimenter et construire rapidement, mais elles ne peuvent pas contourner les règles. L’accès aux données est contrôlé. Le comportement des modèles est tracé. Chaque action est auditée et explicable.

Naveen est très clair sur les limites de l’expérimentation. Les agents capables d’agir directement sur les systèmes sources, Salesforce, systèmes financiers, plateformes RH, ne sont pas autorisés en périphérie. Et même lorsqu’ils sont développés de manière centralisée, ils nécessitent une supervision humaine.

Les humains ne sortiront pas de la boucle de sitôt

La promesse d’agents d’IA entièrement autonomes est séduisante, mais Naveen se montre sceptique quant à la possibilité de les voir opérer sans intervention humaine à l’échelle de l’entreprise dans un avenir proche.

La raison tient essentiellement à la fiabilité et à la gestion du risque. Avec les grands modèles de langage (LLM), une même entrée peut produire des sorties différentes. De petites erreurs peuvent rapidement se cumuler dans des workflows multi-étapes. Dans des environnements d’entreprise, où les données sont hétérogènes et où chaque action doit être vérifiée, le coût de l’erreur est tout simplement trop élevé.

Cela ne signifie pas pour autant que l’IA ne puisse pas automatiser une partie du travail. Chez Databricks, deux tickets de support IT sur trois sont désormais résolus avant même d’atteindre un humain. Les équipes commerciales reçoivent des recommandations de “next best action” directement intégrées à leurs outils. Ce sont de vrais gains de productivité mais des gains assistés par l’IA, avec une supervision humaine intégrée.

Ce que Naveen estime encore sous-évalué, c’est l’approche fondée sur des appels de fonctions gouvernés, appuyés sur un contexte structuré. Plutôt que de s’en remettre à des prompts non structurés, cette méthode consiste à donner aux modèles des fonctions explicites qu’ils peuvent appeler. C’est moins flexible que la génération libre, mais infiniment plus cohérent et auditable, exactement ce dont les entreprises ont besoin pour passer à l’échelle.

Lorsqu’un agent utilise une fonction définie, il devient possible de tracer précisément ce qu’il a fait, pourquoi il l’a fait et à quelles données il a accédé. Ces fonctions peuvent être testées indépendamment et leur comportement validé avant la mise en production. Pour les DSI confrontés à des enjeux de risque et de conformité, la vraie question n’est donc pas de savoir si l’IA peut agir, mais si elle peut exécuter une tâche de manière fiable, jour après jour, avec des résultats explicables aux auditeurs et aux régulateurs.

Les enseignements tirés de la transformation IA de Databricks

Naveen n’accompagne pas seulement d’autres organisations dans la définition de leur stratégie IA : il en fait aussi l’expérience au quotidien chez Databricks, où l’entreprise s’appuie sur sa propre plateforme pour piloter ses opérations à grande échelle.

Un exemple emblématique est Genie, un outil de text-to-SQL développé par Databricks, qui transforme des questions formulées en langage naturel en requêtes de données. Là où les équipes devaient auparavant soumettre des demandes aux analystes et attendre plusieurs semaines la création de tableaux de bord, les équipes marketing, finance ou commerciales peuvent désormais poser leurs questions en anglais courant et obtenir immédiatement des réponses structurées. L’impact est visible jusque dans les effectifs : ce qui nécessitait autrefois une équipe d’analystes importante fonctionne aujourd’hui avec seulement deux personnes.

Databricks utilise également sa propre plateforme pour la gestion des événements et informations de sécurité (SIEM), en traitant des volumes massifs de logs et d’alertes afin de détecter les menaces en temps réel. Cette même architecture alimente par ailleurs les plateformes de données clients et d’autres applications utilisées par les clients de Databricks.

La philosophie qui sous-tend ces projets est constante : partir d’un cas d’usage clairement défini, s’assurer que les données sont propres et gouvernées, définir les critères de succès avant même de construire la solution, et maintenir l’humain dans la boucle pour toutes les décisions à forts enjeux.

Naveen insiste également sur un point clé : l’implication des métiers. L’excellence technique est nécessaire, mais elle ne suffit pas. Les projets IA qui réussissent sont ceux qui bénéficient, dès le départ, d’une forte appropriation par les équipes business. Les équipes techniques ne peuvent pas porter seules la transformation. Les dirigeants métiers doivent s’engager, définir clairement les résultats attendus et rester impliqués tout au long du déploiement.

La décision data que Naveen regrette

Lorsqu’on lui demande de revenir sur une décision dont il n’est pas fier, Naveen remonte à 2005, à l’époque où il évaluait des plateformes CRM chez Cisco.

L’équipe devait alors choisir entre Siebel On Demand et une entreprise encore relativement jeune appelée Salesforce. Les analyses étaient solides, les données étudiées en détail, la recommandation claire : Siebel. Sur le papier, c’était le choix le plus sûr, le plus rationnel.

« Avec le recul, c’était évidemment une très mauvaise décision », reconnaît Naveen.

Heureusement, le métier a tranché autrement et a choisi Salesforce, un choix qui s’est révélé être l’une des meilleures décisions technologiques prises par l’entreprise.

La leçon n’est pas que les décisions fondées sur la donnée sont erronées. C’est que la donnée n’est qu’un des éléments de la décision. La vision, l’appétence au risque et la capacité à anticiper les ruptures comptent tout autant. Les meilleures décisions combinent une analyse rigoureuse avec une intuition stratégique  et l’humilité d’accepter que l’on puisse se tromper.

À l’inverse, Naveen cite une décision dont il est particulièrement fier : le passage à une architecture Lakehouse. Ce choix a permis d’accélérer significativement la prise de décision et le développement de solutions, en éliminant les silos de données et en réduisant la complexité liée à la gestion de multiples systèmes de stockage.

Ce qui nourrit l’optimisme de Naveen

Lorsque la conversation se tourne vers l’avenir, l’optimisme de Naveen quant aux possibilités offertes par l’IA s’ancre dans des exemples très concrets. Il cite notamment AlphaFold, la percée de Google DeepMind dans la prédiction du repliement des protéines, comme une illustration de ce que l’IA peut rendre possible.

« Il existe une opportunité immense d’utiliser l’IA pour transformer en profondeur et résoudre certains des plus grands défis auxquels l’humanité est confrontée », explique-t-il.

Pour autant, Naveen reste lucide face aux risques. L’IA peut être détournée à des fins de vol, de fraude, voire de menaces plus graves. Les scénarios catastrophes ne relèvent pas de la pure fiction et exigent une attention sérieuse de la part des équipes de sécurité, des décideurs publics et des entreprises qui conçoivent ces technologies.

À un niveau plus opérationnel, au quotidien, Naveen voit surtout l’IA comme un moyen de réduire la charge cognitive qui pèse sur les collaborateurs dans les organisations modernes. Trop de temps est encore consacré à naviguer entre des systèmes, à recoller des informations issues d’outils disparates ou à attendre des validations. L’IA peut considérablement simplifier ces tâches, libérant du temps pour réfléchir, créer et résoudre des problèmes.

Conseil aux dirigeants : dire oui plus souvent

Naveen partage un conseil qui dépasse largement le cadre de la stratégie IA : dire oui plus souvent.

Ce conseil s’applique pleinement à l’adoption de l’IA. Les leaders qui privilégient systématiquement la prudence, en attendant une clarté parfaite, un ROI totalement démontré ou un risque nul, passent souvent à côté du moment où l’expérimentation devient un avantage compétitif. Les entreprises qui réussissent sont celles qui disent oui aux pilotes, oui aux partenariats, et oui à l’apprentissage par la pratique.

Cela ne signifie pas encourager une expérimentation irréfléchie. Il s’agit de créer des cadres dans lesquels dire oui est sécurisé : une gouvernance claire, des critères d’évaluation solides, et des plateformes qui rendent l’innovation possible sans générer de désordre.

Conclusion

La transformation par l’IA réussit lorsque les organisations se concentrent sur les fondamentaux — qualité des données, critères d’évaluation clairs, gouvernance unifiée et logique plateforme plutôt que de courir après le dernier modèle ou la technique la plus récente.

Les entreprises qui parviennent à passer du pilote à la mise en production sont celles qui disposent de données propres, d’une forte appropriation par les métiers, et de la discipline nécessaire pour partir des résultats attendus plutôt que des outils qu’elles souhaitent tester.

Pour les DSI et les dirigeants métiers engagés dans l’adoption de l’IA, le message est clair et actionnable : investir dans la maturité des données, définir sa plateforme, privilégier la clarté plutôt que le contrôle, et reconnaître que les agents entièrement autonomes, aussi prometteurs soient-ils, restent encore largement aspiratoires pour la majorité des cas d’usage en entreprise.

L’opportunité est immense, mais elle exige de la patience, de la rigueur et la capacité à construire des fondations solides avant d’accélérer vers la mise en production.