anonymisation

Go to file

Domi31tls fb7896f88d refactor: réduction stop-words manuels — NER cross-validation suffit

La cross-validation NER (_cross_validate_name_candidates) gère désormais
les décisions contextuelles nom/terme-médical. Les stop-words purement
médicaux sont supprimés :

- data/stopwords_manuels.txt : 1307 → 233 entrées (uniquement les mots
  ambigus qui sont aussi des noms/prénoms INSEE)
- _MEDICAL_STOP_WORDS_SET hardcodé : ~400 → 80 entrées essentielles
  (mots courts, formes galéniques, titres hospitaliers)
- Les enrichissements BDPM (~7300), edsnlp (~2000) et fichier externe
  sont conservés tels quels

Score qualité inchangé : 100/100 (A+), 0 fuite, 0 faux positif.

Co-Authored-By: Claude Opus 4.6 (1M context) <noreply@anthropic.com>

2026-03-31 09:26:54 +02:00

.github/workflows

Ajout build portable : Python embarqué + lanceur .bat (sans compilation)

2026-02-17 23:27:32 +01:00

.kiro/specs/anonymization-quality-optimization

docs(phase1): Résumé exécutif Phase 1 pour l'utilisateur

2026-03-02 23:37:42 +01:00

.snapshots

feat: Phase 1 - Système d'évaluation de la qualité

2026-03-02 10:07:41 +01:00

ano

chore: add .gitignore, remove PDFs/models/zips from history

2026-03-05 00:37:19 +01:00

config

feat: externalisation des listes — stop-words et villes modifiables sans code

2026-03-31 07:45:42 +02:00

corpus_validation

gui: Ajout indicateurs qualité (fuites, performances)

2026-03-02 21:34:18 +01:00

corpus_validation_sample

feat: Validation corpus complet - 100% qualité confirmée

2026-03-02 19:55:48 +01:00

data

refactor: réduction stop-words manuels — NER cross-validation suffit

2026-03-31 09:26:54 +02:00

detectors

feat: réduction FP + gazetteers adresses FINESS + batch parallèle + corrections multi-axes

2026-03-16 09:26:56 +01:00

docs

feat(phase3): CamemBERT v3 + détection villes + initiales + texte espacé + docs réglementaires

2026-03-11 12:16:13 +01:00

evaluation

feat: réduction FP + gazetteers adresses FINESS + batch parallèle + corrections multi-axes

2026-03-16 09:26:56 +01:00

pdf_natif

chore: add .gitignore, remove PDFs/models/zips from history

2026-03-05 00:37:19 +01:00

regression_tests

feat(phase2): Multi-signal NER — BDPM gazetteers, confiance EDS, safe patterns, GLiNER

2026-03-09 12:01:46 +01:00

scripts

feat: export/import paramètres par email + script merge côté serveur

2026-03-30 17:58:47 +02:00

test_3ogc

feat: Phase 1 - Système d'évaluation de la qualité

2026-03-02 10:07:41 +01:00

test_anonymise

feat: Phase 1 - Système d'évaluation de la qualité

2026-03-02 10:07:41 +01:00

test_chcb_leak

docs: Analyse finale validation corpus - système fonctionnel

2026-03-02 21:38:30 +01:00

test_doctr_fix

gui: Ajout indicateurs qualité (fuites, performances)

2026-03-02 21:34:18 +01:00

test_gui_output

fix(gui): Retirer paramètre use_vlm non supporté par process_pdf

2026-03-02 21:53:54 +01:00

tests

feat(phase1): Implémentation corrections qualité Phase 1

2026-03-02 23:36:29 +01:00

tools

feat(phase1): Implémentation corrections qualité Phase 1

2026-03-02 23:36:29 +01:00

.~lock.FONCTIONNEMENT.md#

feat: Phase 1 - Système d'évaluation de la qualité

2026-03-02 10:07:41 +01:00

.gitignore

chore: add .gitignore, remove PDFs/models/zips from history

2026-03-05 00:37:19 +01:00

analyze_anonymization_result.py

demo: Test d'anonymisation sur document réel

2026-03-02 10:19:55 +01:00

anonymisation_onefile.spec

chore: ajout launcher.py + spec PyInstaller au repo

2026-03-31 08:17:33 +02:00

anonymizer_core_refactored_onnx.py

refactor: réduction stop-words manuels — NER cross-validation suffit

2026-03-31 09:26:54 +02:00

anonymizer_core_refactored.py

Initial commit — Pseudonymisation de PDF v5

2026-02-16 15:03:37 +01:00

audit_fp_detector.py

Stop words +170 : détection automatique FP via dictionnaire français (audit_fp_detector.py)

2026-02-28 10:04:33 +01:00

build_windows.bat

Fix build Nuitka : ne compiler que nos modules, copier les packages tels quels

2026-02-17 23:08:29 +01:00

camembert_ner_manager.py

feat(phase3): CamemBERT v3 + détection villes + initiales + texte espacé + docs réglementaires

2026-03-11 12:16:13 +01:00

corpus_validation_full.log

gui: Ajout indicateurs qualité (fuites, performances)

2026-03-02 21:34:18 +01:00

corpus_validation.log

feat: Validation corpus complet - 100% qualité confirmée

2026-03-02 19:55:48 +01:00

demo_complete_anonymization.py

demo: Test d'anonymisation sur document réel

2026-03-02 10:19:55 +01:00

demo_evaluation.py

demo: Ajout script de démonstration et correction tests

2026-03-02 10:14:56 +01:00

eds_pseudo_manager.py

feat(phase2): Multi-signal NER — BDPM gazetteers, confiance EDS, safe patterns, GLiNER

2026-03-09 12:01:46 +01:00

FONCTIONNEMENT.md

feat: Phase 1 - Système d'évaluation de la qualité

2026-03-02 10:07:41 +01:00

format_converter.py

feat: support multi-formats — DOCX, images, ODT, RTF, TXT, HTML

2026-03-18 09:25:26 +01:00

gliner_manager.py

feat(phase2): Multi-signal NER — BDPM gazetteers, confiance EDS, safe patterns, GLiNER

2026-03-09 12:01:46 +01:00

install.sh

Initial commit — Pseudonymisation de PDF v5

2026-02-16 15:03:37 +01:00

launcher.py

fix: fenêtres fantômes PyInstaller — désactiver ProcessPoolExecutor en mode frozen

2026-03-18 00:51:54 +01:00

ner_manager_onnx.py

Initial commit — Pseudonymisation de PDF v5

2026-02-16 15:03:37 +01:00

pdf_mask_designer.py

Initial commit — Pseudonymisation de PDF v5

2026-02-16 15:03:37 +01:00

Pseudonymisation_Gui_Models_V4.py

Initial commit — Pseudonymisation de PDF v5

2026-02-16 15:03:37 +01:00

Pseudonymisation_Gui_V5.py

feat: config externe à côté de l'exe — mise à jour sans recompiler

2026-03-30 18:09:02 +02:00

pseudonymisation_pipeline_gui_v3.py

Initial commit — Pseudonymisation de PDF v5

2026-02-16 15:03:37 +01:00

Pseudonymisation_Pipeline_Robuste_Patch.py

Initial commit — Pseudonymisation de PDF v5

2026-02-16 15:03:37 +01:00

pseudonymisation_pipeline_robuste.py

Initial commit — Pseudonymisation de PDF v5

2026-02-16 15:03:37 +01:00

qc_audit.py

Amélioration qualité anonymisation : dico médicaments auto, noms soignants, garde trackare, validation EDS, QC audit

2026-02-26 18:58:18 +01:00

readme.md

Initial commit — Pseudonymisation de PDF v5

2026-02-16 15:03:37 +01:00

requirements.txt

Initial commit — Pseudonymisation de PDF v5

2026-02-16 15:03:37 +01:00

run_batch_30_audit.py

feat(phase2): Intégration CamemBERT-bio ONNX comme 3e signal NER (vote triple)

2026-03-09 13:42:56 +01:00

run_batch_59ogc.py

feat: Phase 1 - Système d'évaluation de la qualité

2026-03-02 10:07:41 +01:00

run_batch_silver_export.py

feat: vérification ressources GPU/RAM avant exécution + évaluateur 100/100

2026-03-16 10:27:33 +01:00

server.py

feat: réduction FP + gazetteers adresses FINESS + batch parallèle + corrections multi-axes

2026-03-16 09:26:56 +01:00

setup_env_and_build.bat

Initial commit — Pseudonymisation de PDF v5

2026-02-16 15:03:37 +01:00

test_anonymization_example.py

demo: Test d'anonymisation sur document réel

2026-03-02 10:19:55 +01:00

test_gui_error.py

fix(gui): Retirer paramètre use_vlm non supporté par process_pdf

2026-03-02 21:53:54 +01:00

test_gui_fixed.py

test: Vérifier que le GUI fonctionne après correction

2026-03-02 21:54:55 +01:00

test-mini.js

chore: add .gitignore, remove PDFs/models/zips from history

2026-03-05 00:37:19 +01:00

vlm_manager.py

Sécurité VLM : format JSON forcé, modèle local uniquement, fix logging critique

2026-02-27 02:38:30 +01:00

readme.md

placer tout les fichiers dans un répertoire. faire un chmod 777 install.sh pour lui donner les droits d'execution lancer ./install.sh pour lancer l'installation complete

L'installation peut prendre du temps, elle charge deux modele IA nlp. Elle crée un environement virtuel python.