Les agents IA contrôlent votre ordi. Que faire ?

Cette semaine, Anthropic a livré la fonctionnalité « computer use » pour Claude — une fonction qui permet à l'IA d'ouvrir des applications, de naviguer sur le web, de remplir des tableurs et de soumettre des pull requests sur votre Mac. Vous envoyez un message à Claude depuis votre téléphone, et il effectue le travail sur votre ordinateur pendant votre absence. La fonctionnalité a été lancée en aperçu de recherche pour les abonnés Pro et Max, et s'associe à Dispatch, un outil mobile permettant d'assigner des tâches à distance.

Cela s'inscrit dans une course plus large. OpenClaw, le framework d'agents open source, a fait le buzz plus tôt dans l'année et a suscité suffisamment d'intérêt pour que son créateur soit recruté ailleurs. Plusieurs laboratoires se livrent désormais une course effrénée pour déployer des agents qui vont au-delà de la simple conversation et commencent à agir. Comme l'a formulé un PDG la semaine dernière, ces agents sont « le prochain ChatGPT ».

Voici le fond du problème : nous sommes en train d'assister à un changement de catégorie en temps réel, et la plupart des équipes de développement ne l'abordent pas sous le bon angle.

Le vrai problème, ce n'est pas l'IA. C'est l'accès.

Lorsque nous menons des tests d'intrusion pour des studios de jeux vidéo et des clients entreprises, les découvertes les plus inquiétantes sont rarement des failles exotiques. Ce sont des problèmes de permissions. Des comptes de service avec trop d'accès. Des outils d'administration laissés grands ouverts. Des identifiants stockés là où ils ne devraient pas être.

Imaginez maintenant que vous donnez à un agent IA la capacité de cliquer, de taper et de naviguer sur votre bureau. Anthropic affirme que Claude demandera une autorisation avant d'accéder à de nouvelles applications, et que les utilisateurs peuvent l'arrêter à tout moment. C'est un point de départ raisonnable. Mais « point de départ raisonnable » et « prêt pour la production dans des équipes manipulant des données sensibles » sont deux choses très différentes.

L'utilisation de l'ordinateur par Claude fonctionne actuellement uniquement sous macOS. Elle est basée sur des captures d'écran : il lit les pixels de votre écran pour déterminer la prochaine action à effectuer. Si un gestionnaire de mots de passe remplit automatiquement un champ pendant que Claude regarde, il le voit. Si un fil Slack contenant des données personnelles de clients défile à l'écran, il le voit aussi. Anthropic a d'ailleurs reconnu que la fonctionnalité « est encore précoce comparée aux capacités de Claude en matière de code ou d'interaction avec du texte » et a averti que « Claude peut faire des erreurs ».

Cette honnêteté est appréciable. Mais je pense que les équipes vont adopter cet outil plus vite qu'elles ne construiront des garde-fous autour de lui.

Ce que cela implique pour les développeurs

L'aspect orienté développeurs est intéressant. Anthropic indique que Claude peut apporter des modifications dans un IDE, soumettre des pull requests et exécuter des tests. Si vous êtes un développeur solo qui fait avancer un projet personnel, cela peut genuinement faire gagner du temps.

Pour les équipes, en revanche ? Nous développons des applications web et des API pour des clients entreprises soumis à des exigences de conformité, souvent dans des secteurs réglementés à travers l'Europe. L'idée d'un agent IA soumettant des PR et exécutant des tests de manière autonome soulève des questions qui vont bien au-delà de « le code est-il correct ? ». Qui l'a relu ? À quelles données l'agent a-t-il accédé pour l'écrire ? Existe-t-il une piste d'audit ?

Une étude récente menée auprès de 700 ingénieurs a révélé que 69 % des développeurs utilisant très fréquemment des outils de codage IA rencontrent des problèmes de déploiement « toujours, presque toujours ou fréquemment » lorsque du code généré par l'IA est impliqué. Le code est écrit plus vite, mais les infrastructures de test, de sécurité et de déploiement n'ont pas suivi. Ajouter un agent capable de cliquer des boutons dans votre IDE ne comble pas cet écart. Il l'élargit.

À travers nos travaux PHP et Docker sur des applications cloud-native, nous avons appris à nos dépens que la vitesse sans garde-fous signifie simplement que l'on casse les choses plus tôt. Les équipes qui déploient de manière fiable ne sont pas celles qui écrivent le code le plus vite. Ce sont celles dont les pipelines CI/CD, les processus de revue de code et les contrôles de sécurité sont suffisamment solides pour absorber la vélocité.

Les équipes mobile doivent aussi y prêter attention

Cela peut sembler être une histoire de bureau, mais ce n'est pas le cas. La fonctionnalité Dispatch fait spécifiquement le pont entre téléphone et ordinateur. Vous lancez une tâche depuis votre iPhone et Claude l'exécute sur votre Mac. C'est un modèle de flux de travail multi-appareils que nous allons voir se multiplier.

Dans nos projets natifs iOS et Android, notamment dans les secteurs de la santé et de l'IoT, nous gérons depuis des années les casse-tête liés à la coordination d'actions entre appareils. La partie difficile n'a jamais été la couche de communication. C'était les frontières de confiance. Quel appareil fait autorité ? Que se passe-t-il lorsqu'une action à distance échoue silencieusement ? Comment informer les utilisateurs qui ne regardent pas l'écran où l'action s'est produite ?

Les flux de travail pilotés par des agents entre téléphone et bureau vont se heurter exactement aux mêmes problèmes — sauf que désormais, « l'utilisateur » dans la boucle est une IA qui ne peut pas vous dire qu'elle est perdue. Elle continue simplement de cliquer.

Ce qu'il faut faire dès maintenant

Voici ce que votre équipe peut faire cette semaine, avant que quelqu'un installe un agent de contrôle d'ordinateur sur une machine de travail :

Auditez ce qui est affiché à l'écran. Si vos développeurs ont des données clients, des identifiants ou des tableaux de bord internes visibles sur leur bureau, un agent capable de prendre des captures d'écran peut tout voir. C'est la même surface d'attaque que nous testons lors des audits de sécurité, à la différence près qu'elle est déclenchée par un outil que vous avez vous-même invité.
Définissez une politique avant que l'outil n'arrive. Décidez dès maintenant si les agents capables de contrôler des ordinateurs sont autorisés dans votre organisation, pour quels cas d'usage et sur quelles machines. Adapter une politique après l'adoption est pénible.
Ne négligez pas les bases. Si votre pipeline CI/CD, votre couverture de tests et votre processus de revue de code ne sont pas assez solides pour détecter du mauvais code humain, ils ne détecteront certainement pas du mauvais code généré par une IA poussé par un agent autonome. Consolidez votre processus de développement en premier.
Surveillez les permissions, pas les démos. Les démos spectaculaires montrent Claude exporter un PDF. Le risque, c'est ce à quoi il peut accéder par ailleurs en le faisant. Traitez l'accès d'un agent comme vous traiteriez le premier jour d'un nouveau prestataire : privilèges minimaux, accès limité, supervision jusqu'à ce que la confiance soit établie.

La vue d'ensemble

Je reviens sans cesse à un schéma que nous observons dans nos travaux avec des clients entreprises : les nouvelles fonctionnalités sont adoptées plus vite que la maturité en matière de sécurité et de processus nécessaire pour les soutenir. C'est arrivé avec la migration vers le cloud, avec la conteneurisation, et cela se passe maintenant avec les agents IA.

La technologie est genuinement impressionnante. Voir une IA naviguer sur votre bureau pour accomplir une tâche est un vrai moment « oh, on y est vraiment ». Mais impressionnant et prêt pour la production ne sont pas synonymes, et je préfère que nos clients soient en retard de six mois sur la vague du battage médiatique avec leurs données intactes, plutôt qu'à la pointe avec un rapport d'incident.

Anthropic, à leur crédit, ne survend pas la chose. Ils l'ont appelé un aperçu de recherche, ont signalé les limitations et ont indiqué que les menaces évoluent constamment. C'est la bonne posture. Je voudrais simplement que chaque équipe évaluant ces outils les aborde avec la même prudence.

Si vous cherchez à comprendre où les agents IA s'intègrent — ou ne s'intègrent pas — dans votre processus de développement, parlons-en.