Cette sanction, fondée sur l’article 22 du RGPD, rappelle l’exigence d’une intervention humaine effective, dans le cadre d’une prise de décision automatisée.
Des decisions automatisees de desactivation de comptes : origine de la sanction d’uber
L’amende de 824,99 millions d’euros infligée à Uber constitue l’aboutissement d’une procédure ouverte à son encontre depuis 2020, à la suite d’une plainte collective de chauffeurs. L’analyse des faits révèle comment des mécanismes de désactivation automatisée ont conduit les autorités européennes à mobiliser l’article 22 du RGPD.
Une plainte collective à l’origine de plusieurs années d’enquêtes
La sanction remonte à une plainte déposée en 2020 auprès de la CNIL par la Ligue des droits de l’Homme, agissant pour le compte de plus de 170 chauffeurs Uber. Les plaignants dénonçaient notamment des mécanismes automatisés de suspension et de désactivation de comptes chauffeurs. La décision rendue s’inscrit dans une procédure plus large engagée à l’encontre du groupe. Uber avait déjà été sanctionnée à hauteur de 10 millions d’euros en décembre 2023 pour des manquements à l’information des chauffeurs, puis à hauteur de 290 millions d’euros en juillet 2024 pour des transferts de données hors de l’Union européenne.
Cette affaire illustre également le fonctionnement du guichet unique européen : le siège européen d’Uber étant situé aux Pays-Bas, l’Autorité néerlandaise a conduit l’instruction en coopération étroite avec la CNIL.
Des décisions automatisées produisant des effets immédiats sur les chauffeurs
Entre 2018 et 2022, Uber utilisait des systèmes automatisés pour surveiller le comportement de ses chauffeurs et exploiter les évaluations laissées par les clients. Lorsqu’une suspicion de fraude était détectée ou lorsqu’un chauffeur obtenait une notation jugée insuffisante, son compte pouvait être suspendu ou désactivé automatiquement, sans intervention humaine effective. Les conséquences de ces mesures étaient immédiates : le chauffeur concerné ne pouvait plus accéder à la plateforme, accepter de courses ni percevoir de revenus par l’intermédiaire d’Uber.
Les autorités ont considéré que ces décisions affectaient directement la situation économique et professionnelle des personnes concernées et produisaient donc des effets significatifs. Cette analyse a conduit à l’application de l’article 22 du RGPD[1], qui protège toute personne contre les décisions fondées exclusivement sur un traitement automatisé lorsqu’elles produisent des effets juridiques ou l’affectent de manière significative.
L’exigence d’un veritable controle humain requis par l’article 22 du RGPD
Cette décision ne se limite pas à sanctionner un manquement au RGPD. Elle précise les conditions dans lesquelles une intervention humaine est qualifiée d’effective et met en lumière les risques liés à un contrôle humain purement apparent des systèmes automatisés.
Une intervention humaine réelle et non théorique
L’un des principaux enseignements concerne la place du contrôle humain dans la prise de décision automatisée. Les autorités[2] ont retenu que les désactivations de comptes constituaient des décisions automatisées en raison de « l’absence totale d’intervention humaine dans le processus de décision ». Elles ont également rappelé qu’un ordinateur ne devrait pas prendre seul des décisions aux conséquences aussi importantes pour les personnes concernées. Cette analyse confirme qu’une intervention humaine ne peut être purement formelle. Pour satisfaire aux exigences de l’article 22 du RGPD, l’humain doit être en mesure d’examiner la situation, de prendre en compte les circonstances particulières et, le cas échéant, de modifier la décision envisagée.
Le risque du « contrôle humain de façade »
L’intérêt de cette décision dépasse le modèle même d’Uber. Les mêmes problématiques peuvent apparaître face à l’avènement de nombreuses solutions permettant la sélection de candidatures, l’évaluation du risque de fraude, la gestion d’accès ou encore la notation de clients et de collaborateurs. Or, dans le contexte actuel de développement des outils d’intelligence artificielle, ces solutions sont censées prévoir, par principe, une intervention humaine. Cette affaire rappelle toutefois qu’une validation purement formelle ne suffit pas à satisfaire aux exigences du RGPD : lorsqu’un opérateur se contente de confirmer systématiquement les résultats proposés par un algorithme sans véritable analyse critique, la question de la réalité du contrôle humain peut légitimement se poser.
Les risques juridiques émergent dès lors qu’un système automatisé participe à une décision susceptible :
- D’écarter une candidature ;
- De suspendre un compte ;
- De bloquer un accès ;
- D’attribuer un niveau de risque ;
- Ou d’affecter directement la situation économique d’une personne.
Trois questions que les entreprises devraient se poser
Le RGPD ne s’intéresse pas uniquement aux données collectées, mais également aux décisions prises sur leur fondement.
Pour les organisations souhaitant développer ou déployer ces solutions, l’enjeu n’est donc plus uniquement de documenter l’existence d’une intervention humaine, mais de démontrer que celle-ci dispose d’une marge d’appréciation effective.
À cet égard, toute organisation utilisant un outil d’aide à la décision ou d’intelligence artificielle devrait s’interroger sur trois questions essentielles :
- Le système formule-t-il une simple recommandation ou prend-il lui-même une décision ?
- Cette décision est-elle susceptible de produire des effets importants pour la personne concernée ?
- Un humain dispose-t-il d’un véritable pouvoir de réexamen et de remise en cause du résultat généré ?
Le cabinet HAAS Avocats est spécialisé depuis trente ans en droit des nouvelles technologies et de la propriété intellectuelle. Il accompagne les acteurs du numérique face à leurs problématiques diverses en la matière, aussi bien en précontentieux qu’en contentieux. Dans un monde incertain, choisissez de vous faire accompagner par un cabinet d’avocats fiables. Pour nous contacter, cliquez ici

