Agents IA : que déléguer sans perdre le contrôle ?

Ce que ça veut dire

Un agent IA peut proposer une suite d’actions et utiliser des outils pour avancer vers un objectif. Le modèle interprète la situation, choisit une étape, observe le résultat puis poursuit éventuellement. Le mot « agent » ne garantit aucun degré particulier d’autonomie : il faut examiner ce que le service permet réellement.

Un connecteur relie l’assistant à un autre service, comme un espace documentaire. Une API est une interface par laquelle des logiciels échangent des demandes et des résultats. Ces liens peuvent donner accès à la lecture, à la modification ou à l’envoi. Leurs conséquences dépendent des permissions accordées au compte et à l’application.

Une automatisation classique suit des règles prévues à l’avance. Un agent peut choisir certains moyens en cours de route. Cette souplesse exige de définir ce qui reste fixe : services autorisés, types de données utilisables, actions interdites et situations qui imposent un retour vers une personne. Le contrôle doit exister autour du modèle, pas seulement dans sa consigne.

Un exemple concret

Imaginons une association qui souhaite préparer des réponses aux demandes de réservation. L’agent lit un dossier autorisé, relève les disponibilités et prépare un brouillon. Une personne vérifie ensuite le destinataire, le créneau et les conditions avant d’envoyer le message depuis le service habituel.

Le scénario devient beaucoup plus risqué si l’agent peut modifier l’agenda, confirmer la réservation et envoyer des pièces jointes sans validation. Une mauvaise interprétation peut alors produire des engagements contradictoires. Vous devez donc distinguer les étapes de lecture, de préparation et d’exécution, même si une démonstration commerciale les présente comme une seule tâche fluide.

Dessinez ces étapes sur papier. Pour chacune, inscrivez la condition d’entrée, l’action autorisée, le résultat attendu et la personne qui peut arrêter la suite. Si le dossier ne contient pas la disponibilité, le chemin doit revenir vers une vérification humaine. L’absence d’information ne doit pas être transformée en accord implicite.

Les permissions minimales rendent les limites concrètes

Préférez un dossier de test séparé et des données fictives pour les premiers essais. Accordez la lecture uniquement si la tâche consiste à résumer. Si une modification est nécessaire, réduisez-la au dossier et au type d’opération concernés lorsque le service le permet. N’utilisez pas un compte administrateur par simple commodité.

La fiche pour partager un document Google Docs en lecture seule illustre cette séparation entre consulter et modifier. Elle ne remplace pas le contrôle des accès d’un connecteur : vérifiez aussi ce que l’application reçoit réellement. Un document limité ne protège pas les autres fichiers si la connexion donne accès à tout l’espace.

Prévoyez une supervision humaine avant l’action qui engage : envoi, publication, suppression ou modification d’un dossier réel. La personne doit voir la destination, le contenu et les pièces concernées. Un bouton de validation sans ces informations encourage une approbation mécanique et ne permet pas de comprendre les effets attendus.

Tester l’arrêt autant que la réussite

L’évaluation d’une IA doit porter sur les chemins d’échec. Que se passe-t-il si un document manque, si le service répond mal ou si la demande est ambiguë ? Prévoyez un arrêt, un état visible et une reprise contrôlée. Une nouvelle tentative ne doit pas déclencher un second envoi lorsque le premier a déjà abouti.

Conservez une trace compréhensible des actions proposées, autorisées et réellement effectuées. Vérifiez comment suspendre les tâches en attente et retirer la connexion. La fiche pour révoquer une application connectée à son assistant IA accompagne ce dernier geste. Révoquer un accès ne retire pas un message déjà envoyé ; prévoyez aussi comment corriger une action passée.

Enfin, un document lu par l’agent peut contenir une injection de consignes, c’est-à-dire une instruction qui cherche à détourner la tâche. Limiter les outils réduit les conséquences possibles de cette manipulation. La documentation de sécurité d’Anthropic pour son assistant de navigateur présente ce risque pour les actions réalisées sur le Web.

Pour aller plus loin

Vous pouvez maintenant décrire ce qu’un agent a le droit de faire et où une personne intervient. La leçon suivante apprend à reconnaître une instruction étrangère cachée dans un contenu que cet agent doit seulement lire.