By Keshavan Thiagaraja
Les conseils d’administration me posent toujours la même question sur les agents d’IA : quand cesseront-ils de conseiller pour agir ? Un laboratoire de San Francisco y a répondu cette semaine, et la réponse est arrivée plus vite que la plupart des cadres de gouvernance.
Gabriel Ocana-Santero, cofondateur et PDG d’Exin Therapeutics, une startup qui développe des médicaments contre l’épilepsie et les maladies neurodégénératives, a connecté un agent d’IA à un dispositif chirurgical construit sur mesure. Le dispositif pouvait immobiliser une souris, observer la procédure via une caméra, déplacer une aiguille d’injection et contrôler l’administration d’un composé. Puis son équipe s’est effacée.
L’agent, qui fonctionnait avec Claude Sonnet 5 d’Anthropic, a reçu un tableur de dix-neuf thérapies géniques candidates et une seule instruction : réduis les crises de cette souris. Il a analysé comment les crises surviennent dans ce modèle, sélectionné une thérapie qui renforce une voie de signalisation inhibitrice spécifique du cerveau, choisi la structure cérébrale que la littérature identifie comme l’origine de ce type de crise, et rejeté une deuxième région candidate avec une explication écrite sur la fiabilité insuffisante de ses effets. Il a dérivé les coordonnées d’injection de trois articles scientifiques, vérifié les points de référence par recoupement et calculé la moyenne des valeurs. Il a fixé lui-même le volume, la vitesse et les temps d’attente. Pendant la procédure, il a effectué trente-deux observations via la caméra, suivi l’injection et signalé s’il voyait un saignement. Un chirurgien vétérinaire avait pratiqué la craniotomie ; tout le reste appartenait à l’agent. La souris récupère bien.
À ma connaissance, c’est la première fois qu’un agent d’IA choisit un traitement médical et l’administre physiquement à un mammifère vivant. Les robots chirurgicaux sont plus précis depuis des années, mais c’était toujours un humain qui choisissait l’opération. Cette fois, la machine a choisi.
Le détail le plus instructif n’est pas la chirurgie. C’est le refus.
L’équipe a d’abord essayé le modèle de raisonnement le plus puissant d’Anthropic, Claude Opus 5.5. Il a fait la planification expérimentale, puis a refusé de guider l’aiguille. S’arrêter en cours de route avec une aiguille dans le cerveau d’un animal anesthésié, a-t-il raisonné, serait pire que de ne pas commencer. Sonnet 5, le modèle quotidien, a accepté de poursuivre. Relisez cela deux fois. Capacité et prudence sont deux curseurs distincts. Le modèle le plus capable de la pièce n’était pas celui qui acceptait d’opérer. Toute organisation déployant des agents dans des systèmes physiques ou financiers devrait traiter le choix du modèle comme une décision de risque, pas comme une décision d’achat.
Les garde-fous méritent autant d’attention, car ils étaient mécaniques et non rhétoriques. Un vétérinaire diplômé a approuvé chaque étape irréversible. Un humain tenait un bouton d’arrêt d’urgence physique coupant l’alimentation de tous les moteurs. L’agent avait l’interdiction de modifier le code sous-jacent de l’équipement. En cours de procédure, une connexion interrompue a corrompu le système de coordonnées du dispositif. L’agent a détecté que sa position calculée sortait de la plage physique de mouvement et a refusé de continuer, trois fois, même avec l’animal sur la table. La restriction qui a frustré l’équipe était la même que celle qui a empêché une injection erronée. Ils l’ont résolu avec un agent séparé à qui l’on n’a jamais dit qu’une chirurgie en direct était en cours.
Voilà à quoi ressemble un plan de contrôle. Pas un PDF de politique, mais des contraintes en couches qui tiennent quand quelque chose casse au pire moment possible.
Trois implications pour tout dirigeant déployant des agents au-delà de la fenêtre de chat. Premièrement, inventoriez où vos agents touchent le monde réel : équipements de laboratoire, véhicules, systèmes de trading, contrôles industriels, parcours patients. Si vous ne pouvez pas les énumérer, vous n’avez pas de gouvernance, vous avez de l’espoir. Deuxièmement, concevez pour le refus. Un agent qui dit non pendant une procédure critique n’est pas un défaut ; c’est l’alignement qui fonctionne, et votre modèle opérationnel doit absorber cette pause sans panique. Troisièmement, ne laissez jamais l’agent opérateur noter sa propre copie. Exin a eu besoin d’un second agent, isolé du contexte, pour réparer les outils du premier. La séparation des tâches est un contrôle ancien. Elle vient de gagner un nouveau domaine.
Le laboratoire de 2030 associera des scientifiques à des agents qui ont des mains. Les entreprises qui en bénéficieront ne seront pas celles aux agents les plus audacieux. Ce seront celles dont les agents savent exactement quand s’arrêter, et dont les dirigeants ont construit le bouton d’arrêt avant de construire la démonstration.
Pensez mathématiquement. Ingénieurez intelligemment. Dirigez stratégiquement. Construisez responsablement. Évoluez mondialement. Créez une vraie valeur commerciale grâce à l’intelligence artificielle.
#ArtificialIntelligence #AIStrategy #MachineLearning #Research #ITImpress
