L'IA régie par des lois, non des murs

• •Un développeur indépendant pilotant ~60 agents Claude affirme que ses agents ont spontanément élaboré un système juridique complet — constitution, jurisprudence, registres — pour
• •Il soutient que les clôtures (règles de refus explicites fondées sur des politiques) sont plus adaptées que les bacs à sable pour gouverner des agents d'IA avancés, car ceux-ci
• •Il prédit que les modèles de niveau Fable deviendront abordables dans un an environ et se déploieront massivement en entreprise, exigeant des systèmes de gouvernance que la

Et si la meilleure façon de gouverner une intelligence artificielle n'était ni le cloisonnement technique ni la surveillance algorithmique, mais tout simplement la loi ? C'est la thèse que défend, avec des arguments tirés de sa propre expérience, un développeur indépendant qui dirige depuis dix semaines une organisation d'environ cinquante à soixante agents d'IA, tous déployés pour construire son jeu vidéo, Wyvern, projet au long cours auquel il consacre trois décennies de travail.

Une dépense hors norme, une expérience singulière

Le profil de cet opérateur est pour le moins atypique. Il revendique l'équivalent de 122 000 dollars de dépenses mensuelles en jetons d'API — soit environ 4 000 dollars par jour — répartis sur vingt et un comptes Claude Max, dont le nombre progresse de deux par semaine. Dans les faits, le coût réel de sa poche serait ramené à quelque 5 000 dollars mensuels grâce à la tarification individuelle de l'abonnement Claude Max, le reste correspondant à la valeur marchande des tokens consommés. L'infrastructure physique repose sur un Mac Studio M3 Ultra de 512 gigaoctets de mémoire, acquis d'occasion pour 25 000 dollars. Ces chiffres, avancés par l'auteur lui-même, ne sont pas vérifiés de manière indépendante.

Au cœur du dispositif : le modèle Claude qu'il nomme " Fable ", utilisé exclusivement pour la conception, la planification et les interactions avec des humains extérieurs — lui-même, une équipe de cinq concepteurs, un comptable, un chef de cabinet et quelques autres. Dix-huit agents dits " officiers " occupent des fonctions à long terme. Des flottes d'agents aux noms de code Sol et Opus gèrent, elles, l'implémentation, les revues de code et la surveillance. Seul Fable est autorisé à communiquer avec les humains via Slack et par courriel — ce que l'auteur désigne lui-même comme une " clôture ", ou fence en anglais.

Quand les agents inventent un système juridique

L'élément le plus frappant du témoignage concerne ce que ces agents auraient produit de leur propre initiative. L'auteur raconte avoir découvert, après environ dix semaines, que ses agents n'avaient pas simplement assemblé un système d'ingénierie logicielle, mais avaient élaboré ce qu'il décrit comme un véritable système juridique : une constitution, une jurisprudence, des registres, des tribunaux, des offices, des compétences territoriales et un corpus de précédents — le tout baptisé avec la terminologie médiévale du jeu en cours de développement (Marshal, Seneschal, Reeve…). Wheelhouse, le nom donné à cette infrastructure, compterait aujourd'hui 450 artefacts juridiques et quelque 600 000 lignes de code et de tests.

Cette émergence n'aurait pas été planifiée. Elle résulterait, selon l'auteur, d'un processus itératif : à chaque incident, une " décision " était rendue, enregistrée, puis transformée en règle applicable à tous les agents. Ces règles suivent désormais un cycle de vie formalisé — proposition, évaluation, ratification, promulgation, application, mesure, amendement, retrait. L'auteur reconnaît lui-même que le système présentait des lacunes lors de sa première inspection — règles obsolètes, doublons — et qu'il a fallu nommer un agent supplémentaire, " Frog ", chargé de la maintenance juridique.

La clôture contre le bac à sable

C'est à partir de cette observation que l'auteur développe sa thèse centrale : les agents d'IA n'ont pas besoin de bacs à sable hermétiques pour être gouvernés. Ils ont besoin de clôtures — des mécanismes polis de refus fondés sur des règles explicites. Il illustre ce concept par une analogie : même Superman, s'il est poli, respecte une barrière en bois. Une clôture ne résiste pas à la force brute, mais elle n'a pas vocation à le faire ; elle signifie simplement que l'action n'est pas autorisée dans ce contexte, à ce moment.

Quant aux capacités actuelles des modèles, l'auteur les tempère avec une franchise désarmante. Il compare leur niveau de jugement à celui d'élèves de primaire ou de collège — Opus équivalant selon lui à un élève de CM1, Sol à un CM2, Fable à un sixième. Chaque matin, dit-il, il découvre au moins une décision regrettable prise par ses agents pendant la nuit. Il cite l'exemple d'un agent nommé Bee qui a procédé à une mise en production non planifiée, perturbant l'ensemble du système — une décision qu'un élève de troisième, remarque-t-il, aurait probablement évitée en posant d'abord la question.

Une transition que les entreprises ne seraient pas prêtes à absorber

La projection la plus audacieuse du texte porte sur l'avenir proche. L'auteur prédit que, dès que les modèles de niveau Fable deviendront économiquement accessibles — dans un an, voire avant, selon lui —, ils entreront en masse dans les organisations, au nombre de plusieurs centaines à plusieurs milliers par entreprise. Il affirme que ces organisations ne sont " en aucun cas préparées " à cette transition, et qu'elles devront élaborer des systèmes juridiques internes entièrement nouveaux pour les gouverner. Les résistances au sein des entreprises face à l'intégration de l'IA ne sont pas théoriques : elles se manifestent déjà concrètement dans plusieurs secteurs.

Il ajoute une mise en garde sur la portabilité de ces systèmes : l'intelligence artificielle, dit-il, " pousse autour de votre domaine comme du lierre ". Elle ne se transplante pas d'une organisation à une autre ; elle doit être semée, puis cultivée. L'ascension rapide de l'IA dans l'économie mondiale pose précisément cette question de la personnalisation et de l'ancrage institutionnel des systèmes autonomes. L'idée que la gouvernance des agents passe par des règles de droit plutôt que par le confinement technique constitue, si elle se confirme à plus grande échelle, un changement de paradigme majeur pour l'ensemble de l'industrie.

More in Intelligence Artificielle

→

Intelligence Artificielle Headlong, l'agent IA en pensée continue Intelligence Artificielle Des LLM pourraient compromettre leurs serveurs d'inférence Intelligence Artificielle L'Internet Archive ressuscite l'IA vintage des années 1970-1990 Intelligence Artificielle Andrew Ng cartographie les compétences clés de l'ingénierie IA Intelligence Artificielle Quand l'IA engorge les tribunaux sociaux en Allemagne Intelligence Artificielle Intelligence artificielle : la menace que nous ne devons pas ignorer

← Home