Request Lifecycle // Pipeline Souverain
● Input Guard
● Task Router
● Memory Injection
● Model Pool Execution
● Output Guard
● Signed Audit
A. Cognitive Runtime Core
Kernel bas-niveau. Gère l'allocation GPU/CPU, le scheduling et le cache KV.
- model-loader (GGUF/Safetensors)
- device-scheduler (CPU/GPU/VRAM monitor)
- quant-profile-manager (Q4_K_M, Q8_0...)
- context-manager (Window sliding)
Backends: llama.cpp • vLLM • MLX • ONNX • TensorRT-LLM
B. Intelligent Task Router
Cerveau décisionnel. Classe la tâche et orchextre le pool de modèles.
// Logique de routage exemple
if (task.complexity > 0.8) {
usePool(['deepseek-r1', 'guard-contra']);
} else if (task.type == 'code') {
usePool(['qwen-coder', 'security-validator']);
}
C. Guardrail Fabric
Sas de sécurité à trois niveaux: Entrée (Input), Action (Gate), Sortie (Output).
Input Guard
Prompt Injection • PII • Classification
Action Gate
Sandbox • Permissions • Timeout
Output Guard
Hallucination • Confiance • Signature
D. Memory Governance Fabric
4 niveaux de mémoire avec règles d'oubli et validation.
1. SESSION
Volatile • Contexte instantané
2. CASE
SQLite Chiffré • Par projet/enquête
3. SEMANTIC
Qdrant Local • Embeddings MXBAI
4. TRUSTED
Append-only signé • Faits validés
E. Secure Tool Sandbox
Exécution outils dans périmètre borné (Firejail/Docker rootless).
file-reader [bounded]
python-sandbox [ram:512mb]
shell [read-only|timeout:30s]
pdf-ocr [local]
F. Secure Control Plane
Gouvernance locale offline: utilisateurs, rôles, politiques, logs d'audit signés.
Rôles Métier
- • Admin Souverain
- • Analyste Investigation
- • Opérateur Conformité
- • Auditeur (lecture seule)
Capacités
- • ACL sur dossiers
- • Offline Telemetry
- • Signed Updates
- • Forensic Mode
Arborescence Souveraine
hts-sovereign-cognitive/
core/
// Runtime Rust + bindings Python
runtime/ (llama.cpp, vLLM abstraction)
scheduler/ (Device GPU/CPU monitor)
registry/ (Model versions, checksums)
router/
// Or
classifier/ (Petit modèle fast classifier)
policy-router/ (Rules engine)
fallback-engine/ (Circuit breaker)
security/
// Guardrails
input-guard/ (Prompt injection, PII)
action-gate/ (Tool permissions)
audit-log/ (Append-only signé)
memory/
tools/
// Sandboxed agents
ui/
// Tauri + React