v1.1: Warme agent — directe Python import i.p.v. subprocess

- Vervang subprocess calls naar hermes chat -q door directe Python import
- Nieuwe hermes_client.py met warme AIAgent (eenmalig init, hergebruik per query)
- Initializing agent overhead: 3-5s per query -> 0.48s eenmalig
- Queries na eerste zijn ~5s (alleen LLM API tijd)
- Auxiliary vision provider leeggezet (geen DNS lookup naar Nous)
This commit is contained in:
2026-06-03 04:53:42 +02:00
parent 5f83c410be
commit 1bac8db3c5
2 changed files with 177 additions and 68 deletions
+131
View File
@@ -0,0 +1,131 @@
"""
Hermes Client — directe Python import (geen subprocess overhead).
Warme agent: eenmalig initialiseren, daarna hergebruiken voor elke query.
Dit bespaart de subprocess + Python startup overhead van 2-5 seconden per query.
"""
import io
import os
import sys
import time
import logging
from contextlib import redirect_stdout, redirect_stderr
logger = logging.getLogger(__name__)
# ── Eenmalige Hermes imports (bij module laden) ──────────────────────
_HERMES_LOADED = False
_cli = None
def _ensure_hermes_loaded():
"""Laad Hermes eenmalig bij eerste gebruik — dit is het zware werk."""
global _HERMES_LOADED, _cli
if _HERMES_LOADED:
return
start = time.time()
# Zorg dat Hermes in de Python path zit
hermes_path = '/usr/local/lib/hermes-agent/venv/lib/python3.11/site-packages'
if hermes_path not in sys.path:
sys.path.insert(0, hermes_path)
# Force UTF-8
os.environ.setdefault('PYTHONIOENCODING', 'utf-8')
# Laad .env via Hermes' eigen loader
from hermes_cli.env_loader import load_hermes_dotenv
from hermes_constants import get_hermes_home
_hermes_home = get_hermes_home()
_project_env = os.path.join(os.path.dirname(hermes_path), '.env')
load_hermes_dotenv(hermes_home=_hermes_home, project_env=_project_env)
# Load config
from hermes_cli.config import load_config
config = load_config()
# Resolve toolsets (zelfde als 'cli' platform)
from hermes_cli.tools_config import _get_platform_tools
toolsets = sorted(_get_platform_tools(config, 'cli'))
# YOLO mode + interactive mode
os.environ['HERMES_YOLO_MODE'] = '1'
os.environ['HERMES_INTERACTIVE'] = '1'
os.environ['HERMES_SESSION_SOURCE'] = 'relay'
# Import HermesCLI
from cli import HermesCLI
# Maak CLI instantie (nog géén agent init — dat gebeurt pas bij eerste query)
_cli = HermesCLI(
model=config.get('model', {}).get('default', ''),
toolsets=toolsets,
)
# Onderdruk banner/status output
_cli.tool_progress_mode = 'off'
elapsed = time.time() - start
logger.info(
f"Hermes loaded in {elapsed:.2f}s "
f"(toolsets: {toolsets})"
)
_HERMES_LOADED = True
def call_hermes(prompt: str) -> str:
"""
Roep Hermes aan — hergebruikt een warme agent.
De agent wordt één keer geïnitialiseerd (bij eerste query) en daarna
hergebruikt. Na elke query wordt de conversation history gereset,
zodat elke query een frisse start krijgt.
"""
_ensure_hermes_loaded()
# Prefix (zoals /fast)
prefix = os.environ.get('HERMES_RELAY_PREFIX', '/fast')
full_prompt = f"{prefix} {prompt}".strip() if prefix else prompt
start = time.time()
# ── Agent initialiseren (eenmalig, cached) ──
turn_route = _cli._resolve_turn_agent_config(full_prompt)
if turn_route['signature'] != _cli._active_agent_route_signature:
_cli.agent = None
init_ok = _cli._init_agent(
model_override=turn_route['model'],
runtime_override=turn_route['runtime'],
request_overrides=turn_route.get('request_overrides'),
)
if not init_ok:
return "⚠️ Kon Hermes agent niet initialiseren."
# Stil modus
_cli.agent.quiet_mode = True
_cli.agent.suppress_status_output = True
_cli.agent.stream_delta_callback = None
_cli.agent.tool_gen_callback = None
# ── Query uitvoeren ──
# Capture alles wat naar stdout/stderr gaat (session_id, banner, etc.)
stdout_capture = io.StringIO()
stderr_capture = io.StringIO()
try:
with redirect_stdout(stdout_capture), redirect_stderr(stderr_capture):
# conversation_history wissen voor frisse start
_cli.agent.messages = []
result = _cli.agent.chat(full_prompt)
except SystemExit:
# Hermes roept sys.exit() aan in sommige error paths
logger.warning("Hermes riep sys.exit() aan tijdens query")
result = stdout_capture.getvalue().strip()
except Exception as e:
logger.error(f"Hermes error: {e}", exc_info=True)
return f"⚠️ Hermes error: {e}"
elapsed = time.time() - start
logger.info(f"Hermes responded in {elapsed:.1f}s ({len(result)} chars)")
return result