Dom/rpa_vision_v3
1
0
Fork 0
Code Issues Pull Requests Actions Packages Projects Releases Wiki Activity

feat: chat unifié, GestureCatalog, Copilot, Léa UI, extraction données, vérification replay

Browse Source 
Refonte majeure du système Agent Chat et ajout de nombreux modules :

- Chat unifié : suppression du dual Workflows/Agent Libre, tout passe par /api/chat
  avec résolution en 3 niveaux (workflow → geste → "montre-moi")
- GestureCatalog : 38 raccourcis clavier universels Windows avec matching sémantique,
  substitution automatique dans les replays, et endpoint /api/gestures
- Mode Copilot : exécution pas-à-pas des workflows avec validation humaine via WebSocket
  (approve/skip/abort) avant chaque action
- Léa UI (agent_v0/lea_ui/) : interface PyQt5 pour Windows avec overlay transparent
  pour feedback visuel pendant le replay
- Data Extraction (core/extraction/) : moteur d'extraction visuelle de données
  (OCR + VLM → SQLite), avec schémas YAML et export CSV/Excel
- ReplayVerifier (agent_v0/server_v1/) : vérification post-action par comparaison
  de screenshots, avec logique de retry (max 3)
- IntentParser durci : meilleur fallback regex, type GREETING, patterns améliorés
- Dashboard : nouvelles pages gestures, streaming, extractions
- Tests : 63 tests GestureCatalog, 47 tests extraction, corrections tests existants
- Dépréciation : /api/agent/plan et /api/agent/execute retournent HTTP 410,
  suppression du code hardcodé _plan_to_replay_actions

Co-Authored-By: Claude Opus 4.6 <noreply@anthropic.com>
This commit is contained in:
Dom
2026-03-15 10:02:09 +01:00
parent 74a1cb4e03
commit cf495dd82f
93 changed files with 12463 additions and 1080 deletions
Download Patch File Download Diff File Expand all files Collapse all files

4
tests/unit/test_gpu_resource_manager.py
View File

@@ -351,6 +351,7 @@ async def test_clip_produces_valid_embeddings_after_migration(gpu_manager, mock_
# Validates: Requirements 1.1
# =============================================================================
@pytest.mark.slow
@pytest.mark.asyncio
async def test_autopilot_mode_unloads_vlm(gpu_manager, mock_ollama_manager):
"""
@@ -379,6 +380,7 @@ async def test_autopilot_mode_unloads_vlm(gpu_manager, mock_ollama_manager):
# Validates: Requirements 1.2
# =============================================================================
@pytest.mark.slow
@pytest.mark.asyncio
async def test_recording_mode_loads_vlm(gpu_manager, mock_ollama_manager, mock_clip_manager):
"""
@@ -408,6 +410,7 @@ async def test_recording_mode_loads_vlm(gpu_manager, mock_ollama_manager, mock_c
# Validates: Requirements 1.3, 3.1
# =============================================================================
@pytest.mark.slow
@pytest.mark.asyncio
async def test_clip_migrates_to_gpu_in_autopilot(gpu_manager, mock_ollama_manager, mock_clip_manager, mock_vram_monitor):
"""
@@ -444,6 +447,7 @@ async def test_clip_migrates_to_gpu_in_autopilot(gpu_manager, mock_ollama_manage
# Validates: Requirements 3.2
# =============================================================================
@pytest.mark.slow
@pytest.mark.asyncio
async def test_clip_migrates_to_cpu_before_vlm_loads(gpu_manager, mock_ollama_manager, mock_clip_manager):
"""