Un agent IA au guichet : et si les citoyens et les employeurs confiaient leurs démarches administratives à l’IA ?

Nederlandstalige versie

Aujourd’hui, les citoyens et les employeurs accomplissent la plupart de leurs démarches administratives via des applications web, qu’il s’agisse de rechercher des informations, de s’authentifier, de remplir des formulaires ou de télécharger des documents. Ce modèle part du principe qu’il y a une personne derrière l’écran qui lit, interprète et clique.

Mais les choses commencent peu à peu à changer. Depuis quelques mois, les agents IA personnels se généralisent et gagnent rapidement en popularité. Il ne s’agit pas de chatbots qui se contentent de donner des réponses, mais de systèmes qui utilisent des outils et effectuent des tâches de manière autonome. À titre d’exemple de ce type d’agent, nous pouvons citer OpenClaw, un agent open source capable d’exécuter des commandes shell, de lire et d’écrire des fichiers, d’effectuer des recherches sur le Web, d’envoyer des e-mails et de gérer des agendas, et qui est contrôlé via des services de messagerie tels que WhatsApp ou Signal. Un autre exemple est Hermes Agent de Nous Research, qui s’exécute sur un serveur cloud loué à bas prix, conserve une mémoire persistante et crée lui-même de nouveau skills au fil de son fonctionnement : des ensembles d’instructions prêts à l’emploi et du code permettant d’accomplir des tâches spécifiques. Ces deux outils sont gratuits et open source. Par ailleurs, les assistants d’IA généraux, tels que Claude et ChatGPT, disposent désormais eux aussi de fonctionnalités d’agent leur permettant de fonctionner de manière autonome dans un navigateur, et peuvent donc tout aussi bien être utilisés pour gérer (en partie) des démarches administratives.

Si vous associez un tel agent à votre boîte mail, à votre agenda et à votre dossier de documents, il n’y a qu’un pas à franchir pour lui dire “occupe-toi de ça pour moi”. Cela nous amène à la question centrale de cet article de blog : qu’est-ce qui change lorsque les citoyens et les employeurs confient de plus en plus souvent leurs tâches administratives à un agent, et dans quelle mesure les pouvoirs publics peuvent-ils ou doivent-ils s’y préparer ?

Employeurs : l’idée d’un intermédiaire n’est pas nouvelle

Pour les employeurs, l’idée d’un intermédiaire n’est pas nouvelle. La majeure partie de l’administration sociale n’est plus traitée manuellement depuis longtemps : les secrétariats sociaux transmettent automatiquement les déclarations via des services web et des canaux de traitement par lots. Ce fonctionnement s’appuie sur un modèle structuré associant des prestataires de services agréés, un système de mandats, des spécifications techniques et un cadre de responsabilité.

Ce qui change, c’est la nature de l’intermédiaire. En effet, un secrétariat social est une entité identifiable, agréée et liée par un contrat, ce qui n’est pas le cas d’un agent. De plus, celui-ci ne se substitue généralement pas au secrétariat social, mais vient s’y ajouter : pour préparer des données, procéder à une deuxième lecture (ne manque-t-il pas une réduction groupe-cible ?) ou répondre rapidement à une question. C’est surtout pour les petits employeurs sans secrétariat que l’agent pourrait devenir un substitut. Le modèle actuel suppose que derrière chaque conseil se cache une partie à laquelle on peut s’adresser. Dans le cas d’un agent, cette partie fait défaut, même lorsqu’il travaille simplement en complément du secrétariat social.

Citoyens : sans intermédiaire

Chez les citoyens, ce modèle est pour ainsi dire absent. Il existe des procurations, et certaines personnes confient leurs démarches administratives à un comptable ou à un membre de leur famille. Mais la norme consiste en un contact direct : on se connecte à mypension, MyMinfin, à l’eBox ou à un portail, en s’authentifiant via CSAM.

Il est utile d’examiner précisément les étapes de ce processus qu’un agent peut ou ne peut pas traiter.

C’est dans le travail préparatoire que l’agent est le plus efficace. Il repère les notifications dans la boîte mail, comme l’alerte d’un nouveau message dans l’eBox, identifie les délais, recherche la réglementation, rassemble des documents dans un dossier et prépare une demande ou un formulaire. C’est exactement le travail pour lequel ces agents ont été conçus.

C’est au niveau de l’authentification qu’un agent rencontre des difficultés. Les moyens d’authentification tels que MyGov.be et itsme sont volontairement liés à la personne, et il n’existe aucun mécanisme permettant d’accorder à un agent un accès limité et temporaire à une opération spécifique. Il existe alors trois possibilités. Soit l’agent s’arrête et le citoyen s’en charge lui-même. Dans ce cas, le gain de confort disparaît en grande partie. Soit le citoyen se connecte lui-même et laisse l’agent continuer à travailler dans la session ouverte, à l’aide d’un navigateur piloté par l’agent (ce qu’on appelle computer use). Soit il partage ses identifiants, ses codes ou l’accès à son canal d’authentification.

Les scénarios 2 et 3 se déroulent entièrement hors du champ de vision des autorités. Pour l’application, il s’agit simplement d’un citoyen authentifié. Il n’y a aucune différence technique visible entre les clics d’un humain et ceux d’un agent.

Possibilités et risques pour l’utilisateur

Les possibilités sont bien réelles. La charge administrative diminue, les délais sont mieux respectés et une réglementation complexe devient accessible à ceux qui, aujourd’hui, ne parviennent pas à s’y retrouver. L’effet le plus sous-estimé est peut-être la lutte contre le non-recours aux droits, c’est-à-dire lorsque des gens ne demandent pas des droits, des primes ou des allocations parce qu’ils ignorent leur existence. Un agent peut, de manière proactive, déterminer pour son utilisateur ce à quoi il a droit.

Mais le recours à des agents comporte également des risques :

• Informations erronées. Un agent qui s’appuie sur des sources obsolètes ou non officielles donne une réponse fluide et convaincante, mais qui peut être erronée. Or, l’utilisateur lambda peut difficilement juger de l’exactitude de la réponse. C’est pourquoi la GEO (generative engine optimisation) gagne également en importance. Les pouvoirs publics doivent veiller à ce que les agents trouvent les informations officielles de l’administration et les utilisent effectivement comme sources faisant autorité.
• Perte de compréhension. Une personne qui fait remplir sa déclaration par quelqu’un d’autre ne sait pas nécessairement ce qu’elle déclare, mais en reste néanmoins responsable.
• Sécurité. Un agent ayant accès aux e-mails, aux documents et aux portails administratifs constitue une cible de choix. En effet, les agents qui lisent les e-mails peuvent être piratés via des instructions cachées dans les messages entrants (indirect prompt injection) et quiconque laisse son agent lire les codes de vérification reçus par e-mail ou SMS sape de fait la vérification en deux étapes. Les environnements d’exécution d’agents auto-hébergés peuvent être considérés comme des environnements qui acceptent du texte non fiable, téléchargent et exécutent du code externe, et agissent avec les droits qui leur ont été accordés. Dans ce scénario, un e-mail de phishing usurpant l’identité d’un service public ne vise plus directement le citoyen, mais son agent.
• Écosystème. Les agents peuvent être enrichis de compétences. Ces compétences proviennent souvent de tiers, via des places de marché ouvertes où tout le monde peut publier du contenu. Une compétence (par exemple pour votre déclaration d’impôt) peut donc tout aussi bien être malveillante, et des recherches menées sur ces places de marché en ont déjà recensé des centaines.
• Une fracture numérique en pleine évolution. La question n’est plus de savoir si l’on sait utiliser un site web, mais si l’on dispose d’un agent bien configuré et si l’on est capable d’évaluer si ce qu’il fait est correct. Ceux qui n’en sont pas capables risquent de prendre encore plus de retard : soit ils passent à côté des avantages que d’autres tirent de leur agent, soit ils font aveuglément confiance à un agent sans en voir les erreurs.

Quelles conséquences pour les pouvoirs publics ?

Jusqu’ici, nous nous sommes principalement placés du point de vue des utilisateurs. Cependant, chacun de ces choix a également des répercussions pour les pouvoirs publics.

Canal : conçu pour les humains

Les applications web sont conçues pour les humains, avec des explications, des étapes et des contrôles visuels. Un agent a d’autres besoins : des interfaces stables, des règles lisibles par machine, des codes d’erreur clairs et des étapes de confirmation explicites. Cela s’inscrit dans la réflexion sur l’expérience des agents (agent experience ou AX) parallèlement à l’expérience utilisateur (user experience ou UX). Si les pouvoirs publics ne proposent pas d’interface dédiée aux agents, ceux-ci se contentent de naviguer dans l’application web destinée au grand public (screen scraping). Cette approche est fragile, manque de transparence et s’avère moins efficace pour tout le monde.

Identité et mandat

À l’heure actuelle, il n’existe pas de mandat sur mesure pour les agents. La question est donc de savoir comment conférer à un agent un mandat bien délimité, contrôlable et révocable. C’est là qu’interviennent l’identité et la délégation : l’agent exécute des tâches au nom de l’utilisateur. Tant que cela n’est pas possible, les utilisateurs cherchent eux-mêmes un moyen de donner à leur agent l’accès à leur identité. Ils se connectent eux-mêmes et laissent l’agent poursuivre son travail dans la session authentifiée, voire lui donnent directement accès à leurs identifiants, tels que les mots de passe et tokens.

Information : qui définit les règles ?

Un premier aspect concerne le caractère officiel de l’information. Les informations officielles des pouvoirs publics existent bel et bien, mais elles ne sont pas toujours suffisamment visibles pour les agents ou ne sont pas reconnues comme la source authentique faisant autorité. Les agents ont alors recours à des sources non officielles, plus faciles à trouver (voir la problématique GEO évoquée plus haut). Les pouvoirs publics perdent alors le contrôle de leur propre communication : ce n’est plus eux, mais l’agent et les sources qu’il trouve par hasard qui déterminent ce que le citoyen ou l’employeur va entendre.

Un deuxième aspect concerne la lisibilité par machine. Même un texte officiel rédigé en langage humain laisse une marge d’interprétation, et c’est l’agent qui comble lui-même cette marge. Plus les règles, les conditions et les calculs sont disponibles sous une forme lisible par machine, moins l’agent a besoin d’interpréter et plus le risque d’erreurs est faible. La mise à disposition de la réglementation dans un format lisible par machine est toutefois loin d’être une évidence (voir les articles de blog “Rules as Code, un parcours semé d’embûches ?” et “Rules as Code : leçons tirées d’une expérience“).

Contrôle : qui a fait quoi ?

Si les logs ne font pas la distinction entre l’humain et l’agent, il n’est plus possible de reconstituer ce qui s’est passé. Cela pose problème lorsqu’il faut ensuite établir les faits, notamment en cas de litige ou d’enquête pour fraude.

Échelle et recours aux droits

Dès lors que les agents sont déployés à grande échelle, la charge pesant sur les systèmes et les centres de contact évolue. En outre, lorsque les agents informent les citoyens et les employeurs des droits et avantages auxquels ils peuvent prétendre, le recours à ces droits augmente. C’est une bonne nouvelle pour les citoyens, mais cela a également un impact budgétaire.

Responsabilité

Tant que la responsabilité n’est pas clarifiée, c’est formellement le déclarant qui demeure responsable, même s’il ne comprend plus le contenu de sa propre déclaration.

Questions ouvertes

Il subsiste trois questions pour lesquelles il n’existe pas encore de réponse toute faite, mais qui pourraient s’avérer plus importantes que les aspects techniques.

Souveraineté. Le débat sur la souveraineté des données porte généralement sur le type d’IA utilisé par les pouvoirs publics et sur le lieu où celle-ci est exploitée. Ici, c’est l’inverse qui se produit : le citoyen envoie de sa propre initiative ses données sociales et fiscales à un modèle hébergé chez un fournisseur étranger. Les pouvoirs publics n’ont aucun contrôle sur ce processus, mais il s’agit bien de données qu’ils traitent eux-mêmes sous des conditions strictes. Les pouvoirs publics ont-ils un rôle à jouer à cet égard, par exemple en informant les citoyens ou en proposant une alternative souveraine, ou s’agit-il exclusivement d’un choix qui revient au citoyen ?

Distinction entre les agents. Il est concevable qu’un agent répondant à certaines conditions bénéficie d’un accès différent de celui d’un agent lambda. Mais qui en juge, sur quelle base, et qu’est-ce que cela implique pour la liberté de choix du citoyen ? Par exemple, une personne qui utilise elle-même un agent open source se verrait alors offrir moins de possibilités que celle qui opte pour un fournisseur agréé.

Des agents des deux côtés. Les services publics développent eux-mêmes des agents pour préparer des dossiers. À terme, il y aura des agents de part et d’autre d’une interaction. C’est efficace, mais cela remet également en cause le principe selon lequel l’IA prépare le dossier et l’humain prend la décision. Le risque existe que, d’un côté comme de l’autre, personne n’ait réellement lu le dossier.

Conclusion

Les agents chargés de gérer l’administration publique ne relèvent plus vraiment d’un scénario d’avenir. Leur utilisation ne peut être ni imposée ni empêchée. La question est plutôt de savoir par quel canal cela passe : un canal visible ou invisible.

Dans un monde qui ne s’y est pas préparé, le citoyen ou l’employeur reçoit une réponse qui est peut-être correcte, mais qui repose sur une source que personne ne peut identifier. L’utilisateur se connecte lui-même et transmet la session à son agent, ou bien il abandonne. Ces deux actions sont consignées dans les logs comme si elles avaient été l’œuvre d’un humain. Si quelque chose tourne mal, il n’y a ensuite aucune trace de ce qui s’est réellement passé.

Dans un monde préparé à cette évolution, en revanche, le canal est visible, l’accès est délimité et révocable, l’information provient de la source officielle et le dossier indique qui, ou quoi, a réalisé l’action. La différence entre ces deux modèles suppose en partie de nouvelles technologies, telles que des mécanismes de mandat et des interfaces adaptées aux agents. Mais il s’agit tout autant d’une série de choix de conception concernant le canal, l’identité et le mandat, l’information officielle, le logging et la responsabilité, des choix opérés aujourd’hui, ou non… Les pouvoirs publics ont d’abord conçu leurs services pour les guichets, puis pour les sites web, puis pour des intermédiaires proposant des services en ligne. Le prochain utilisateur se profile déjà à l’horizon. Et ce n’est pas un être humain.