Definición de agente

Un agente declara su provider, modelo, configuración de compute, memoria y validación. Las tasks van dentro del bloque del agente.

axon

    
CampoTipoDescripción
providerkeywordProvider LLM: ollama (Phase 5: openai, anthropic, cohere)
modelstringNombre del modelo: llama3.2, mistral, etc.
transportstringrest (default) · grpc
endpointstringURL del servidor: "localhost:11434"
temperaturenumber0.0 (determinístico) → 2.0 (creativo)
max_tokensnumberTokens máximos a generar
num_ctxnumberVentana de contexto en tokens
delaynumberSegundos de espera después de ejecutar
timeoutnumberSegundos máximos para este agente

Tasks

Cada task es una unidad de trabajo del agente. Tienen su propio input, prompt, delay y timeout.

axon

    
Cross-task input: input = Agent->TaskName lee el output cacheado de otra task sin re-ejecutarla.

Llamar agentes — 3 formas

axon

    
FormaDescripción
Agent(input)Corre todas las tasks en orden de declaración
Agent->Task(input)Corre solo una task específica
input >> A >> B >> CPipeline secuencial entre agentes
Agent.TaskNameAccede al output cacheado de una task (sin re-ejecutar)

task_graph

Control total del flujo entre tasks. Sin task_graph, las tasks corren en orden de declaración.

axon

    

Parallel Execution

Ejecuta múltiples agentes simultáneamente en cores reales. El runtime C++17 usa un thread pool nativo — sin GIL, sin event loop.

axon

    
Sin GIL: A diferencia de Python, cada actor dentro de parallel {} corre en un thread real del sistema operativo.

Pipeline Operator >>

axon

    

Compute / GPU

axon

    
CampoValoresDescripción
computeauto · gpu · cpuauto: intenta GPU, fallback a CPU si falla
gpu_fallbacktrue / falseReintenta en CPU si la GPU hace crash (HTTP 500)
num_gpu-1 / 0 / N-1=todo GPU, 0=solo CPU, N=N capas en GPU
num_threadnumberThreads CPU (0=auto)
main_gpunumberGPU principal en configuraciones multi-GPU
num_batchnumberTamaño del batch de procesamiento
f16_kvtrue / falseKV cache en float16 — menor VRAM
low_vramtrue / falseModo VRAM baja