Adopter l’IA sans en devenir dépendant

Je suis pour l’IA. Vraiment. Ces outils permettent de prototyper vite, d’automatiser des trucs pénibles, de sortir des idées qu’on n’aurait jamais eues seuls. Je m’en sers, je les recommande.

Sauf que voilà le truc : l’IA doit rester un outil, pas devenir le cerveau de la boîte. Derrière chaque résultat, il faut un humain qui comprend, qui vérifie, qui peut reprendre la main. C’est ce qu’on appelle garder le HITL (human in the loop). Sans ça, on construit sur du sable.

Le scénario classique

Une boîte décide de faire développer ses outils internes avec GPT ou Claude. Une personne connaît le métier par cœur, sait poser les bonnes questions au LLM, et basta. En quelques jours, le premier outil tourne. Puis le deuxième. Jusqu’au jour où tout le monde s’appuie dessus.

Le hic, c’est que souvent personne d’autre ne comprend vraiment comment ça marche. Le code est là, mais la logique, elle est dans la tête de celui qui a causé avec le modèle, ou enfouie dans des conversations qu’on ne retrouve plus.

Et si cette personne part ? Si elle est malade ? Si le fournisseur change ses règles du jour au lendemain ? La boîte se retrouve avec des outils qu’elle ne sait plus maintenir, et une facture API qui grimpe sans qu’on sache trop pourquoi.

Deux pièges à ne pas confondre

Un outil développé avec un LLM peut très bien fonctionner sans lui ensuite. Là, le risque, c’est la maintenance : si personne ne sait lire le code, chaque correction passe par le modèle. On a délégué la compréhension.

Mais si l’outil appelle une API d’IA pour tourner, là on ajoute une vraie dépendance externe. Disponibilité, tarifs, quotas : tout dépend du fournisseur. Deux risques différents, deux façons de se faire avoir.

IA : des géants aux pieds d’argile

On n’a pas besoin de prédire une faillite pour voir le problème. Les grands fournisseurs dépensent des sommes folles en calcul, et tous n’ont pas les mêmes réserves financières derrière. Certains dépendent beaucoup des investisseurs, d’autres sont adossés à des géants comme Google.

Ça veut dire quoi concrètement ? Que les conditions d’aujourd’hui (tarifs, accès, modèles disponibles) ne sont pas gravées dans le marbre. Les prix peuvent monter, les quotas baisser, le marché peut se concentrer entre quelques mains. Bref, ne pariez pas votre activité entière sur la stabilité d’un seul acteur.

Avant de lâcher les rênes

Quand un outil commence à compter vraiment, quelques réflexes simples :

• Faire relire par des pros ce qui est produit, selon les enjeux du projet
• Garder les sources chez soi, versionnées, avec les données et la config
• Savoir déployer soi-même sur une infra qu’on contrôle, et repérer ce qui dépend d’un service externe
• Documenter le fonctionnement, les choix, les procédures de backup
• Transmettre à plusieurs personnes, pour ne pas dépendre d’un seul
• Prévoir un plan B pour les fonctions critiques, et suivre les coûts des API

Rien de bien sorcier. Juste de quoi pouvoir dormir tranquille.

Parce qu’au fond, l’IA permet de construire vite. C’est précieux. Encore faut-il que quelqu’un sache entretenir ce qu’on a construit, une fois la conversation terminée.