Pourquoi l’IA accélère le développement logiciel plus vite que notre capacité à le comprendre
Ces derniers jours, j’ai écouté un podcast qui revenait sur une idée que Dario Amodei, PDG d’Anthropic, répète depuis longtemps.
Une idée qui paraît simple, mais qui change complètement la manière dont nous devrions envisager l’intelligence artificielle :
les êtres humains raisonnent de façon linéaire, tandis que le progrès technologique évolue de manière exponentielle.
C’est également un thème central de son essai The Adolescence of Technology.
C’est la raison pour laquelle nous avons tendance à sous-estimer ce qui se produit dans les premières phases d’une courbe exponentielle.
Tant que les changements semblent progressifs, notre cerveau les interprète comme une continuité.
Puis, soudainement, tout s’accélère en même temps :
- les capacités
- l’automatisation
- l’adoption
- l’impact économique
Le point de bascule dans le développement logiciel
Dans le monde du développement logiciel, ce phénomène est déjà visible.
Grâce aux outils de codage assisté par IA, un développeur peut aujourd’hui produire en quelques heures une quantité de code qui, il y a encore peu de temps, aurait nécessité plusieurs jours, voire plusieurs semaines.
Mais c’est là qu’apparaît un problème mis en évidence par Martin Fowler, l’une des références mondiales en architecture logicielle et en ingénierie logicielle moderne, dans son récent article The VibeSec Reckoning :
la vitesse de génération dépasse désormais la capacité humaine de compréhension et de révision.
Pendant des années, nous avons considéré la revue de code humaine comme le principal mécanisme de sécurité.
Cela fonctionnait parce que le rythme de développement restait compatible avec les capacités cognitives des équipes.
Mais dans le contexte du « vibe coding », cet équilibre se rompt.
L’IA génère :
- du code
- des configurations cloud
- des pipelines
- des autorisations d’infrastructure
à une vitesse qui rend impossible le recours exclusif à une supervision manuelle.
Le message central de l’analyse de Fowler est sans ambiguïté : les prompts ne sont pas des contrôles de sécurité.
Demander à un modèle :
« écris du code sécurisé »
ne garantit en rien un résultat fiable.
Les modèles d’IA optimisent la probabilité statistique de la réponse, et non la conformité à :
- des politiques d’entreprise
- des principes de moindre privilège (least privilege)
- des règles de sécurité des infrastructures
Du côté des plateformes
Ce n’est pas un hasard si Anthropic a récemment introduit un module de security guidance pour Claude Code :
https://code.claude.com/docs/fr/security-guidance
L’objectif est clair : ajouter des garde-fous déterministes à des systèmes qui sont, par nature, probabilistes.
Il s’agit d’un changement culturel majeur.
La sécurité ne peut plus être déléguée exclusivement aux développeurs ou à la revue finale du code.
Elle doit devenir une composante intrinsèque de l’infrastructure :
- scanners automatiques
- application des politiques de sécurité (policy enforcement)
- validations continues
- environnements isolés (sandboxes)
- contrôles à l’exécution (runtime controls)
La nouvelle réalité du secteur
L’industrie commence à accepter une réalité inconfortable :
si la production logicielle croît de manière exponentielle, la sécurité doit elle aussi devenir automatique et exponentielle.
Car le véritable risque n’est pas que l’IA écrive du code.
C’est qu’elle le fasse beaucoup plus rapidement que les êtres humains ne sont capables de le comprendre.
