Dom/anonymisation
1
0
Fork 0
Code Issues Pull Requests Actions Packages Projects Releases Wiki Activity

feat(phase2): Extraction layout-aware multi-colonnes — 322 fuites → 0, -103 FP

Browse Source 
Phase 2 de l'amélioration qualité anonymisation :

1. Extraction multi-colonnes (PyMuPDF layout-aware) :
   - Nouvelle fonction _extract_page_layout_aware() détecte les layouts
     sidebar+corps (typiques des CRH/CRO hospitaliers)
   - Remplace pdfplumber comme extraction primaire (PyMuPDF blocks)
   - Élimine l'entrelacement de texte entre sidebar et corps médical
   - pdfplumber conservé pour les tables et comme fallback

2. Masquage FINESS multiline :
   - Détection "N° Finess\n[...]\n640000162" (label et numéro séparés)
   - Propagation globale du numéro FINESS sur toutes les pages
   - Gestion du format *640000162* (avec astérisques Trackare)

3. Masquage URLs hospitalières (www.ch-xxx.fr)

4. Nettoyage crochets doubles [[PLACEHOLDER]] → [PLACEHOLDER]

Résultats non-régression (30 fichiers audit) :
- Fuites : 322 → 0 (-100%)
- Faux positifs : 113 → 10 (-91%)
- 0 régression fonctionnelle
- OGC 1-59 : 0 fuite soignant, 0 FINESS, 0 lieu de naissance

Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
This commit is contained in:
Domi31tls
2026-03-06 18:19:08 +01:00
parent bc2fe667a0
commit e967a67052
55 changed files with 38506 additions and 18343 deletions
Download Patch File Download Diff File Expand all files Collapse all files

12
regression_tests/baseline/LETTRE DE SORTIE 23070126.pseudonymise.txt
View File

@@ -1,7 +1,7 @@
Courrier Epi - [NOM], [NOM] [NOM]
____________________________________________________________________________________________________________________________________________
Courrier [NOM] - [NOM], [NOM] [NOM]
___________________________________________________________________________________________________________________________
Courriers médicaux
>>>A Lettre de sortie 10/04/23 14 : 19 (mod. le 13/04/23 15:58 par [NOM] [NOM], statut : complet)
>>>A Lettre de sortie 10/04/23 14 : 19 (mod. le 13/04/23 15:58 par [NOM] [NOM], statut : complet)
Ref : RBG/FL
Bayonne, le 12 Avril 2023
Dr [NOM]
@@ -32,5 +32,7 @@ Je vous remercie de votre confiance et reste à votre disposition.
Mes respects.
Docteur [NOM]
Courrier lu et validé par le médecin
____________________________________________________________________________________________________________________________________________
Information patient Page 1 08/04/2025 10 : 29:37
___________________________________________________________________________________________________________________________
Information patient
Page 1
08/04/2025 10 : 29:37