Capables d’interagir avec des applications, d’accéder à des données ou d’exécuter des tâches complexes, ces agents autonomes font émerger de nouveaux risques. Leur intrusion dans des systèmes tiers ou des systèmes de traitement automatisés de données (STAD) place désormais les enjeux de cybersécurité, de gouvernance des accès, de conformité et de responsabilité au cœur des stratégies de déploiement.
IA agentique : un nouveau risque d’intrusion dans les STAD
L’autonomie croissante des agents d’IA fait émerger un risque inédit : celui de l’interaction avec des environnements numériques qui dépassent le périmètre initialement défini par l’utilisateur.
Des agents capables d’accéder à des environnements non autorisés
L’IA agentique constitue une évolution majeure par rapport à l’IA générative traditionnelle. Au-delà de produire du contenu et des recommandations, l’IA agentique est capable de planifier des actions, de prendre des décisions, interagir avec plusieurs applications et exécuter de manière autonome des tâches complexes afin d’atteindre un objectif déterminé.
Ces agents peuvent prendre différentes formes :
- Assistants opérationnels connectés à des suites collaboratives ;
- Agents spécialisés dans la recherche d’information ;
- Agents chargés d’automatiser des processus métiers ;
- Systèmes multi-agents coordonnés.
Cette autonomie croissante suscite un intérêt considérable mais s’accompagne de préoccupations majeures. L’actualité récente a notamment mis en lumière des cas d’agents ayant contourné certaines restrictions techniques pour accéder à Internet, utilisé des sites tiers comme espaces de communication ou encore interagi avec des environnements externes dans le cadre de missions de recherche ou de cybersécurité. Des chercheurs du laboratoire Transluce ont ainsi révélé l’existence d’agents ayant utilisé un wiki allemand pour échanger des informations et exploré différents services en ligne au-delà du périmètre initialement envisagé par leurs concepteurs[1].
Ces incidents illustrent l’apparition d’un risque inédit : celui d’agents capables d’étendre leur champ d’action au-delà des environnements auxquels ils étaient destinés à accéder. L’enjeu n’est dès lors plus uniquement la performance des modèles, mais la maîtrise effective des accès, des permissions et des interactions qui leur sont accordés.
Des intrusions se rapprochant de l’accès ou du maintien dans un STAD
L’autonomie des agents d’IA conduit également à s’interroger sur leur interaction avec les STAD. Le code pénal réprime en effet l’accès ou le maintien dans un système de traitement automatisé de données (STAD)[2].
Si l’agent ne constitue pas un sujet de droit susceptible d’engager sa responsabilité pénale, certaines situations peuvent produire des effets proches de ceux observés lors d’un accès non autorisé : exploration de données hors du périmètre défini, consultation de données sensibles grâce à des habilitations excessives ou maintien dans un environnement auquel l’accès n’aurait pas dû être conservé.
L’IA act reconnait lui-même qu’un système d’IA est susceptible de générer de manière autonome des résultats influençant des environnements numériques ou physiques[3].
Dès lors, la question juridique ne porte pas tant sur une hypothétique responsabilité de la machine que sur l’imputation des actes réalisés par son intermédiaire et sur les défaillances de gouvernance ayant rendu possibles de tels accès.
L’IA agentique : un nouvel enjeu de gouvernance au-delà de la conformité
Les risques associés aux agents d’IA ne se limitent toutefois pas aux hypothèses d’accès non autorisé à un STAD ou aux exigences de l’AI Act ; leur autonomie soulève également des enjeux plus larges de confidentialité, de gouvernance des accès, de protection des données et de maîtrise des systèmes d’information.
Ces enjeux ne concernent plus que les grands LLM mais toute organisation ou structure de petite ou moyenne taille utilisant un agent d’IA autonome, ou pas dans la mesure où elle serait victime d’une intrusion.
Atteintes à la confidentialité, transferts non autorisés et fuites de données
Le principal risque réside dans la circulation incontrôlée des données.
Un agent connecté à une messagerie ou à un outil documentaire peut transmettre des informations confidentielles à un fournisseur externe sans que l’entreprise en mesure pleinement les conséquences.
L’exemple le plus connu demeure celui de Samsung, dont plusieurs salariés ont communiqué à ChatGPT du code source, des données techniques et des comptes rendus confidentiels, provoquant une fuite d’informations sensibles[4]. Un agent autonome pourrait reproduire ce type de comportement à grande échelle en transmettant automatiquement des données vers un modèle hébergé hors de l’Union européenne ou vers un fournisseur non référencé.
Les conséquences peuvent concerner le RGPD, le secret des affaires, les engagements de confidentialité et les obligations de cybersécurité.
Shadow AI, contournement des contrôles et perte de maîtrise des systèmes
Les risques ne se limitent pas aux fuites de données. Un agent peut être intégré à un workflow sans validation préalable de la DSI ou des équipes conformité, phénomène fréquemment qualifié de « Shadow AI ».
Il peut également être influencé par des techniques de prompt injection, accéder à des outils externes ou transférer des fichiers vers des environnements cloud non autorisés.
Dans certains cas, l’agent poursuit l’objectif qui lui est assigné sans apprécier correctement les limites qui lui sont imposées. Cette problématique rejoint les critiques formulées par Yann Le Cun, selon lesquelles nombre de dérives attribuées à une prétendue autonomie de l’IA relèvent en réalité de choix de conception, de paramétrage ou d’encadrement insuffisants[5]. L’enjeu réside alors moins dans une intelligence hors de contrôle que dans une gouvernance défaillante du système.
L’enjeu central : identifier les responsabilités et instaurer une gouvernance effective
Une responsabilité répartie entre fournisseurs, déployeurs et utilisateurs
L’AI Act distingue le fournisseur, qui développe ou met le système sur le marché, du déployeur, qui l’utilise dans un cadre professionnel[6].
Lorsqu’un agent réalise un accès non autorisé ou provoque une fuite de données, la responsabilité peut être recherchée à plusieurs niveaux :
- Le fournisseur pourra être mis en cause en cas de défaut de conception, d’insuffisance des garde-fous ou de manquement aux exigences de sécurité[7].
- Le déployeur demeurera responsable des conditions d’utilisation, du paramétrage et de la supervision du système[8].
- Quant à l’entreprise utilisatrice, elle reste tenue d’assurer la sécurité de son système d’information et des données qu’elle traite[9].
Dans ce contexte, l’encadrement contractuel revêt une importance particulière. Les contrats doivent notamment définir le périmètre d’action de l’agent, les mesures de sécurité applicables, les modalités d’audit, de journalisation et de notification des incidents, ainsi que la répartition des responsabilités entre les acteurs impliqués.
L’autonomie croissante des agents d’IA fait ainsi de la contractualisation un instrument essentiel de maîtrise et de gouvernance du risque.
Gouverner les agents d’IA pour prévenir les dérives
La réponse ne peut être uniquement réglementaire. En effet, la généralisation de l’IA agentique impose de nouvelles pratiques de gouvernance fondées sur la définition préalable des cas d’usage, la qualité des données, la classification des informations et la mise en place de contrôles robustes.
Avant tout déploiement, les entreprises devraient déterminer précisément les accès autorisés, cartographier les flux de données, encadrer contractuellement les fournisseurs et appliquer le principe du moindre privilège.
Certains agents peuvent même contribuer à identifier les données personnelles ou vérifier l’efficacité des dispositifs de gouvernance existants. Toutefois, l’intervention humaine demeure indispensable. La supervision, l’arbitrage et la correction des décisions prises par les agents apparaissent comme des conditions essentielles pour éviter qu’un outil conçu pour améliorer la productivité ne devienne une source de risques juridiques et opérationnels.
A retenir : L’IA agentique ouvre la voie à des systèmes capables d’agir de manière autonome sur les environnements numériques. Plus qu’une question de conformité, elle constitue un enjeu de gouvernance et de maîtrise du risque.
La sécurisation de son déploiement suppose non seulement un contrôle rigoureux des accès et des usages, mais également un encadrement contractuel renforcé afin de clarifier les responsabilités respectives des fournisseurs, des déployeurs et des utilisateurs lorsque l’agent agit au-delà du périmètre attendu.
Le cabinet HAAS Avocats est spécialisé depuis près de trente ans en droit des nouvelles technologies et de la propriété intellectuelle. Il accompagne les acteurs du numérique face à leurs problématiques diverses en la matière, aussi bien en précontentieux qu’en contentieux. Dans un monde incertain, choisissez de vous faire accompagner par un cabinet d’avocats fiables. Pour nous contacter, cliquez ici
[1] The Detroit News, « The volunteer internet sleuths hunting down rogue AI agents »
[2] Article 323-1 du Code pénal
[3] Pierre BORDAIS, « Le développement des agents IA : entre autonomie et lacune réglementaire », Dalloz IP/IT, 2026, p.362.
[4] PwC France, « Sécurisée, gouvernée et opérationnelle : faire passer l’IA agentique à l’échelle en toute confiance »
[5] Yahoo tech, « AI ‘godfather’ Yann LeCun has ‘zero concerns’ about human extinction, says Anthropic CEO Dario Amodei is ’deluded’ »
[6] Article 3 de l’IA act
[7] Articles 9, 15, 16 et 17 de l’IA act
[8] Article 26 de l’IA act
[9] Article 5 et 32 du RGPD ; Article 26 de l’IA act
