feat: conformité AI Act — divulgation IA, consentement, rétention, arrêt urgence
- Léa se présente comme "assistante basée sur l'intelligence artificielle" - Dialog consentement avant enregistrement (capture écran/clavier) - Rétention logs 180 jours (Article 12 + 26(6)) - Bouton ARRÊT D'URGENCE toujours visible (Article 14) - Transparence mode autonome explicite (Article 50) - Rapport conformité AI Act en français (docs/CONFORMITE_AI_ACT.md) Co-Authored-By: Claude Opus 4.6 (1M context) <noreply@anthropic.com>
This commit is contained in:
Dom
266
docs/CONFORMITE_AI_ACT.md
Normal file
266
docs/CONFORMITE_AI_ACT.md
Normal file
@@ -0,0 +1,266 @@
|
||||
# Conformite Reglement IA (AI Act) -- RPA Vision V3
|
||||
|
||||
**Date** : 18 mars 2026
|
||||
**Version** : 1.0
|
||||
**Auteur** : Equipe RPA Vision V3
|
||||
**Echeance reglementaire** : 2 aout 2026
|
||||
|
||||
---
|
||||
|
||||
## 1. Classification du systeme
|
||||
|
||||
### 1.1 Classification
|
||||
|
||||
RPA Vision V3 est classifie comme **systeme d'IA a haut risque** au titre de l'Annexe III, point 4(b) du Reglement (UE) 2024/1689 (AI Act).
|
||||
|
||||
Cette classification s'applique car le systeme est utilise dans un contexte d'emploi et de gestion des travailleurs : il observe les actions des utilisateurs sur leur poste de travail pour apprendre des taches repetitives, puis les reproduit de maniere autonome.
|
||||
|
||||
### 1.2 Justification
|
||||
|
||||
- Le systeme capture l'ecran, les clics et les frappes clavier d'un utilisateur
|
||||
- Il fonctionne dans un environnement professionnel (postes de travail hospitaliers)
|
||||
- Les captures d'ecran peuvent contenir des donnees de patients (DPI - Dossier Patient Informatise)
|
||||
- Le systeme prend des decisions autonomes en mode replay (execution de taches sans intervention humaine)
|
||||
|
||||
### 1.3 Facteurs attenuants
|
||||
|
||||
- **L'enregistrement est volontaire** : c'est l'utilisateur qui decide explicitement de demarrer une session d'apprentissage. Le systeme ne realise aucune surveillance passive ou permanente.
|
||||
- **L'utilisateur controle le replay** : l'execution autonome n'est lancee que sur demande explicite de l'utilisateur.
|
||||
- **Architecture locale** : les donnees restent sur l'infrastructure locale (aucun transfert vers le cloud).
|
||||
|
||||
---
|
||||
|
||||
## 2. Mesures techniques implementees
|
||||
|
||||
### 2.1 Divulgation IA (Article 50)
|
||||
|
||||
**Exigence** : Les utilisateurs doivent etre informes qu'ils interagissent avec un systeme d'intelligence artificielle.
|
||||
|
||||
**Implementation** :
|
||||
- Le message d'accueil de Lea (l'assistante) indique explicitement :
|
||||
*"Je suis Lea, une assistante basee sur l'intelligence artificielle."*
|
||||
- La notification de demarrage (toast systeme) contient la meme mention.
|
||||
- Cette divulgation est affichee automatiquement a chaque lancement de l'agent, sans possibilite de la masquer.
|
||||
|
||||
**Fichiers concernes** :
|
||||
- `agent_v0/agent_v1/ui/chat_window.py` (message d'accueil)
|
||||
- `agent_v0/agent_v1/ui/notifications.py` (notification de bienvenue)
|
||||
|
||||
### 2.2 Notification avant enregistrement (Articles 13 et 14)
|
||||
|
||||
**Exigence** : L'utilisateur doit etre clairement informe de la nature et de l'etendue des donnees collectees avant le debut de l'enregistrement.
|
||||
|
||||
**Implementation** :
|
||||
- Avant chaque session d'enregistrement, une boite de dialogue explicite apparait :
|
||||
*"L'enregistrement va capturer votre ecran, vos clics et vos frappes clavier pour apprendre cette tache. Les donnees sensibles seront automatiquement floutees. Voulez-vous continuer ?"*
|
||||
- L'utilisateur doit cliquer explicitement sur "Oui" pour demarrer.
|
||||
- Un clic sur "Non" annule l'enregistrement sans consequence.
|
||||
- Ce consentement est demande a chaque session, que l'enregistrement soit lance depuis le chat ou depuis le menu de la barre des taches.
|
||||
|
||||
**Fichiers concernes** :
|
||||
- `agent_v0/agent_v1/ui/chat_window.py` (dialogue depuis le chat)
|
||||
- `agent_v0/agent_v1/ui/smart_tray.py` (dialogue depuis la barre des taches)
|
||||
|
||||
### 2.3 Floutage automatique des donnees sensibles
|
||||
|
||||
**Exigence** : Protection des donnees personnelles et sensibles (RGPD + AI Act Article 10).
|
||||
|
||||
**Implementation** :
|
||||
- Le module `blur_sensitive.py` floute automatiquement les champs de saisie dans les captures d'ecran **avant** tout stockage ou envoi au serveur.
|
||||
- Ce traitement est actif par defaut (`BLUR_SENSITIVE=true` dans la configuration).
|
||||
- Desactivable uniquement via variable d'environnement pour les phases de developpement et de test (`RPA_BLUR_SENSITIVE=false`).
|
||||
|
||||
**Fichiers concernes** :
|
||||
- `agent_v0/agent_v1/config.py` (parametre de configuration)
|
||||
- `agent_v0/agent_v1/vision/blur_sensitive.py` (algorithme de floutage)
|
||||
|
||||
### 2.4 Retention des logs (Article 12 + Article 26(6))
|
||||
|
||||
**Exigence** : Les journaux automatiques du systeme doivent etre conserves pendant une duree minimale de 6 mois.
|
||||
|
||||
**Implementation** :
|
||||
- La duree de retention par defaut est fixee a **180 jours** (6 mois), conformement a l'Article 12 (journalisation automatique) et a l'Article 26(6) (conservation par les deploiements).
|
||||
- L'ancienne valeur par defaut etait de 1 jour, insuffisante pour la conformite.
|
||||
- La duree est configurable via la variable d'environnement `RPA_LOG_RETENTION_DAYS` pour s'adapter aux exigences specifiques.
|
||||
- Le nettoyage automatique respecte cette duree minimale avant toute suppression.
|
||||
|
||||
**Fichiers concernes** :
|
||||
- `agent_v0/agent_v1/config.py` (`LOG_RETENTION_DAYS = 180`)
|
||||
- `agent_v0/agent_v1/session/storage.py` (retention par defaut a 180 jours)
|
||||
- `agent_v0/agent_v1/main.py` (passage du parametre a SessionStorage)
|
||||
|
||||
### 2.5 Arret d'urgence (Article 14)
|
||||
|
||||
**Exigence** : Un mecanisme de controle humain doit permettre d'interrompre immediatement le fonctionnement du systeme.
|
||||
|
||||
**Implementation** :
|
||||
- Un bouton **"ARRET D'URGENCE"** est toujours visible dans le menu de la barre des taches, quel que soit l'etat de l'agent (enregistrement, replay, veille).
|
||||
- En un seul clic, il arrete immediatement :
|
||||
- L'enregistrement en cours (si actif)
|
||||
- Le replay autonome en cours (si actif)
|
||||
- Le heartbeat (captures d'ecran periodiques)
|
||||
- Une notification confirme l'arret : *"Toutes les activites ont ete arretees."*
|
||||
- Ce mecanisme est independant de l'etat de connexion au serveur.
|
||||
|
||||
**Fichiers concernes** :
|
||||
- `agent_v0/agent_v1/ui/smart_tray.py` (item de menu + methode d'arret)
|
||||
|
||||
### 2.6 Transparence en mode autonome (Article 50)
|
||||
|
||||
**Exigence** : Lorsque le systeme d'IA agit de maniere autonome, l'utilisateur doit en etre informe de maniere claire.
|
||||
|
||||
**Implementation** :
|
||||
- Lorsque le replay (execution autonome) demarre, la notification indique explicitement :
|
||||
*"Le systeme d'intelligence artificielle execute la tache 'X' sur votre ecran."*
|
||||
- L'ancienne formulation ("Je m'en occupe") etait trop informelle et ne mentionnait pas la nature IA du systeme.
|
||||
- L'icone de la barre des taches change de couleur (bleu) pendant un replay pour un repere visuel supplementaire.
|
||||
|
||||
**Fichiers concernes** :
|
||||
- `agent_v0/agent_v1/ui/notifications.py` (notification de replay)
|
||||
- `agent_v0/agent_v1/ui/smart_tray.py` (notifications inline de replay)
|
||||
|
||||
### 2.7 Architecture locale (RGPD)
|
||||
|
||||
**Mise en oeuvre existante** (non modifiee dans cette mise a jour) :
|
||||
- Le serveur de traitement tourne en local (meme reseau que le poste client).
|
||||
- Les modeles d'IA sont executes localement via Ollama (aucun appel vers des API cloud).
|
||||
- Les donnees de session (captures, evenements, workflows) restent sur l'infrastructure locale.
|
||||
- Aucune donnee patient ne transite par Internet.
|
||||
|
||||
---
|
||||
|
||||
## 3. Actions restantes avant aout 2026
|
||||
|
||||
### 3.1 Documentation technique (Annexe IV)
|
||||
|
||||
**Statut** : A realiser
|
||||
|
||||
Le dossier technique prevu par l'Annexe IV du Reglement doit etre constitue et maintenu a jour. Il doit contenir :
|
||||
- Description generale du systeme et de son objectif
|
||||
- Conception detaillee et architecture logicielle
|
||||
- Description des donnees d'entrainement (sessions enregistrees)
|
||||
- Description des metriques de performance et de leurs limites
|
||||
- Description des mesures de cybersecurite
|
||||
- Instructions d'utilisation claires
|
||||
|
||||
**Priorite** : Haute
|
||||
**Echeance suggeree** : Mai 2026
|
||||
|
||||
### 3.2 Systeme de gestion des risques (Article 9)
|
||||
|
||||
**Statut** : A realiser
|
||||
|
||||
Un systeme de gestion des risques doit etre mis en place tout au long du cycle de vie du produit. Il doit :
|
||||
- Identifier et analyser les risques connus et previsibles
|
||||
- Estimer et evaluer les risques lors d'une utilisation conforme et d'un mauvais usage raisonnablement previsible
|
||||
- Evaluer les risques residuels apres la mise en oeuvre des mesures d'attenuation
|
||||
- Etre mis a jour regulierement
|
||||
|
||||
**Risques identifies a ce stade** :
|
||||
- Replay incorrect si l'interface a change (boutons deplaces, menus modifies)
|
||||
- Capture accidentelle de donnees sensibles non detectees par le floutage
|
||||
- Utilisation sur un poste partage sans consentement de tous les utilisateurs
|
||||
|
||||
**Priorite** : Haute
|
||||
**Echeance suggeree** : Avril 2026
|
||||
|
||||
### 3.3 Systeme de gestion de la qualite (Article 17)
|
||||
|
||||
**Statut** : A realiser
|
||||
|
||||
Un systeme qualite docummente doit couvrir :
|
||||
- La strategie de conformite reglementaire
|
||||
- Les techniques et procedures de conception et developpement
|
||||
- Les procedures d'examen, de test et de validation (plus de 300 tests automatises existent deja)
|
||||
- Les procedures de gestion des donnees
|
||||
- Les procedures de traitement des plaintes et incidents
|
||||
|
||||
**Priorite** : Moyenne
|
||||
**Echeance suggeree** : Juin 2026
|
||||
|
||||
### 3.4 Analyse d'impact (DPIA - RGPD Article 35)
|
||||
|
||||
**Statut** : A realiser
|
||||
|
||||
Une analyse d'impact relative a la protection des donnees (DPIA) est obligatoire car le systeme traite des donnees de sante (captures d'ecran du DPI). Cette analyse doit :
|
||||
- Decrire les operations de traitement envisagees
|
||||
- Evaluer la necessite et la proportionnalite du traitement
|
||||
- Evaluer les risques pour les droits et libertes des personnes concernees (patients, utilisateurs)
|
||||
- Decrire les mesures prevues pour faire face aux risques
|
||||
|
||||
**Priorite** : Haute
|
||||
**Echeance suggeree** : Avril 2026
|
||||
|
||||
### 3.5 Declaration de conformite UE (Article 47)
|
||||
|
||||
**Statut** : A realiser apres les etapes precedentes
|
||||
|
||||
Le fournisseur doit etablir une declaration ecrite de conformite UE attestant que le systeme respecte les exigences du Reglement. Cette declaration doit etre mise a jour en permanence et conservee pendant 10 ans.
|
||||
|
||||
**Priorite** : Moyenne (depend des etapes 3.1 a 3.4)
|
||||
**Echeance suggeree** : Juillet 2026
|
||||
|
||||
### 3.6 Enregistrement dans la base de donnees de l'UE (Article 49)
|
||||
|
||||
**Statut** : A evaluer
|
||||
|
||||
Les systemes d'IA a haut risque doivent etre enregistres dans la base de donnees de l'UE avant leur mise sur le marche. Les informations a fournir incluent le nom du systeme, le fournisseur, la classification, et un resume des fonctionnalites.
|
||||
|
||||
**Note** : Si le systeme est utilise exclusivement en interne (sans mise sur le marche commerciale), les obligations d'enregistrement peuvent etre allegees. A verifier avec un conseiller juridique.
|
||||
|
||||
**Priorite** : Basse (a clarifier)
|
||||
**Echeance suggeree** : Juillet 2026
|
||||
|
||||
### 3.7 Plan de surveillance post-mise sur le marche (Article 72)
|
||||
|
||||
**Statut** : A realiser
|
||||
|
||||
Un plan de surveillance apres la mise en service doit etre etabli pour :
|
||||
- Collecter et analyser les retours d'experience des utilisateurs
|
||||
- Detecter les incidents ou dysfonctionnements
|
||||
- Evaluer en continu la conformite du systeme
|
||||
- Declencher des actions correctives si necessaire
|
||||
|
||||
Les logs de session (conserves 6 mois) peuvent servir de base a cette surveillance.
|
||||
|
||||
**Priorite** : Moyenne
|
||||
**Echeance suggeree** : Juillet 2026
|
||||
|
||||
---
|
||||
|
||||
## 4. Calendrier de mise en conformite
|
||||
|
||||
| Echeance | Action | Statut |
|
||||
|----------------|--------------------------------------------------|-----------------|
|
||||
| Mars 2026 | Divulgation IA (Article 50) | Fait |
|
||||
| Mars 2026 | Notification avant enregistrement (Articles 13/14)| Fait |
|
||||
| Mars 2026 | Floutage donnees sensibles | Fait |
|
||||
| Mars 2026 | Retention logs 6 mois (Article 12) | Fait |
|
||||
| Mars 2026 | Arret d'urgence (Article 14) | Fait |
|
||||
| Mars 2026 | Transparence mode autonome (Article 50) | Fait |
|
||||
| Avril 2026 | Systeme de gestion des risques (Article 9) | A faire |
|
||||
| Avril 2026 | DPIA (RGPD Article 35) | A faire |
|
||||
| Mai 2026 | Documentation technique (Annexe IV) | A faire |
|
||||
| Juin 2026 | Systeme qualite (Article 17) | A faire |
|
||||
| Juillet 2026 | Declaration de conformite UE (Article 47) | A faire |
|
||||
| Juillet 2026 | Enregistrement base UE (Article 49) | A evaluer |
|
||||
| Juillet 2026 | Surveillance post-marche (Article 72) | A faire |
|
||||
| **2 aout 2026**| **Echeance reglementaire** | --- |
|
||||
|
||||
---
|
||||
|
||||
## 5. Recommandations
|
||||
|
||||
1. **Consulter un juriste specialise en IA** pour valider la classification du systeme et confirmer les obligations exactes, en particulier concernant l'enregistrement dans la base de donnees de l'UE (Article 49) et le statut du systeme (usage interne vs. mise sur le marche).
|
||||
|
||||
2. **Nommer un referent AI Act** au sein de l'equipe, charge de coordonner les travaux de mise en conformite et d'assurer le suivi du calendrier.
|
||||
|
||||
3. **Impliquer le DPO** (Delegue a la Protection des Donnees) le plus tot possible pour la DPIA, car les captures d'ecran du DPI constituent des donnees de sante soumises a un regime de protection renforce.
|
||||
|
||||
4. **Documenter les sessions de test** existantes (plus de 300 tests automatises, dont 20 end-to-end) comme element de preuve du systeme qualite.
|
||||
|
||||
5. **Prevoir un audit interne** en juin 2026, avant l'echeance, pour identifier les eventuelles lacunes restantes et laisser le temps de les combler.
|
||||
|
||||
6. **Surveiller les actes delegues et lignes directrices** de la Commission europeenne et des autorites nationales, qui pourraient preciser certaines obligations d'ici aout 2026.
|
||||
|
||||
7. **Former les utilisateurs** : au-dela des mesures techniques, s'assurer que les utilisateurs comprennent le fonctionnement du systeme, leurs droits, et les procedures d'arret d'urgence.
|
||||
Reference in New Issue
Block a user