La IA que corre en tu clúster

Tus equipos ya despliegan agentes y modelos en Kubernetes. Casi nadie puede decir hoy cuáles corren, con qué permisos y por qué uno va lento.

En diseño · sin fecha

Qué agentes de IA corren y con qué permisos

Un inventario de los agentes de tu clúster: su postura de aislamiento, sus ejecuciones y a qué llaman. Cómo funciona

Un inventario de los agentes de IA de tu clúster: los declarados (kagent, agents.x-k8s.io) y los que nadie declaró. De cada uno, qué modelo usa y qué herramientas MCP llama, y una postura de aislamiento del 0 al 10 (permisos, red de salida y aprobación humana) con la evidencia de cada control. Guarda sus ejecuciones aunque el pod ya no exista y dibuja a qué llama cada uno. No necesita instalar nada más.

Los agentes que corren en tu clúster, declarados o no, con su postura de aislamiento del 0 al 10.

Agents75 declared · 2 undeclared
Open agent insights11 1 critical · 5 high
Models in use3+2 direct calls to providers
MCP tool servers6 1 unavailable

AgentSourceModelRuntimePostureStatus

invoice-readerfinance Undeclared api.openai.comdirect runc 3/10 Running

helm-agentkagent kagent · Declarative claude-haikugateway runc 4/10 Not ready

code-reviewerplatform kagent · Sandbox claude-sonnetgateway gVisor 9/10 Ready

critical · helm-agent

ServiceAccount kagent/helm-agent is bound to cluster-admin.

support-rag · kagent · BYO · llama-3.1-8b in-cluster · tools: search-kb, get-order, create-ticket

7/10

Container

  • Isolated runtimeruntimeClassName not set → runc
  • User namespaceshostUsers not set
  • Pod Securitynamespace support · enforce=restricted
  • Hardened containerrunAsNonRoot · drop ALL · seccomp RuntimeDefault

Harness

  • ServiceAccount permissionsRole support/support-rag · get, list configmaps
  • Restricted egressno NetworkPolicy selects app=support-rag
  • Human approvalcreate-ticket requires approval

Coexistence

  • Bounded resourceslimits 500m / 1Gi · PriorityClass agents-low

RunStartedDurationResult

invoice-reader-29384511cronjob · finance 14:00 38 s Completed

code-reviewer-pr-1284sandbox · platform 13:52 2 min 10 s Completed

invoice-reader-29384451exit 1 · last log: 429 from api.openai.com 13:00 12 s Failed

incident-triage-7f2cjob · ops-agents 12:41 51 s Completed

14 runs kept in the last 24 h · their pods are gone

Agents

Models and tools

Backends

incident-triage agent · kagent
support-rag agent · kagent BYO
invoice-reader cronjob · undeclared
agentgateway gateway
vllm-llama inference
kb-mcp MCP server
api.anthropic.com external · 443
postgres-kb statefulset
api.openai.com external · 443
direct · no gateway

Agent → models and tools → backends

  • incident-triageagent · kagent

    • agentgatewaygateway

      • api.anthropic.comexternal · 443

  • support-ragagent · kagent BYO

    • vllm-llamainference

    • kb-mcpMCP server

      • postgres-kbstatefulset

  • invoice-readercronjob · undeclared

    • api.openai.comexternal · 443 · direct · no gateway

  • support-ragvllm-llama · kb-mcp → postgres-kb
  • incident-triageagentgateway → api.anthropic.com
  • invoice-readerapi.openai.com · direct, no gateway

observeddirect to a provider

¿Te sirve?

Ver sin instrumentar

Latencia, errores y dependencias de cada servicio sin tocar el código, y la historia del clúster más allá de la hora que guarda Kubernetes.

En diseño · sin fecha

Latencia y errores por servicio, sin tocar código

Cada servicio con su tasa, sus errores, su latencia y de quién depende, medidos con eBPF. Cómo funciona

Tasa, errores y latencia (p50, p95 y p99) de cada servicio y cada ruta, medidos con eBPF desde el nodo: sin SDK y sin cambiar una línea. Cada servicio con sus dependencias, bases de datos de fuera del clúster incluidas, y reglas que comparan antes y después de cada despliegue. Kobi lo lee al investigar, y lo activas desde el asistente cuando quieras. Más adelante, la traza de una petición lenta, span a span.

Tasa, errores y latencia de cada ruta, antes y después del despliegue.

orders-api · 3 replicas · rev 42 deployed 14:02

Requests42.1req/ssteady vs the window before
5xx5.8%was 0.2% before rev 42
p951.42swas 180 ms · p99 2.9 s
Dependencies41 slow · 0 failing
Routesserver side

Routereq/s5xxp95before

POST/api/checkout 6.2 14.1% 1.42 s 180 ms

GET/api/orders/:id 21.4 0.3% 64 ms 61 ms

POST/api/orders 4.7 0.9% 210 ms 190 ms

p95 by routelast hour

/api/checkout/api/orders/api/orders/:id

rev 42 · 14:02 500 ms

13:1013:4014:10

orders-api · outbound calls, measured in its pods

Dependenciesp95
  • orders-db postgresqlSELECT order_items · 18.6/s 1.18 swas 22 ms
  • payments-api http6.2 calls/s · 0.1% errors 140 msp95
  • catalog-api http11.9 calls/s · 0.0% errors 35 msp95
  • cart-cache redis40.3 calls/s · 0.0% errors 2 msp95
dependency slow · warning

orders-db explains 83% of the p95 of POST /api/checkout since 14:02.

Kobi · diagnosis

  1. p95 of POST /api/checkout went from 180 ms to 1.42 s right after rev 42.
  2. The time is in SELECT order_items on orders-db. Pods are healthy: no restarts, CPU at 31% of limit.
  3. Proposed: roll back to rev 41. Needs approval.

Review rollback planOpen in chat

prod-eu-1 · every service, measured from the node

5xx1.9%all routes · last hour
p95412ms2.3× the window before
Throughput186req/ssteady
Coverage34of 384 services without signals
Latency · all routesp50 · p95 · p99
deploy · orders-api rev 42

13:3014:0014:30

p50p95p99

Service5xxp95vs before

orders-api 5.8% 1.42 s ×7.9

shop-web 1.2% 1.61 s ×4.1

payments-api 0.1% 140 ms ×1.0

catalog-api 0.0% 35 ms ×1.0

POST /checkout

1.61 s8 spans · 4 services
  • shop-web POST /checkout
    1.61 s
  • orders-api POST /api/checkout
    1.52 s
  • orders-db SELECT orders
    12 ms
  • orders-db SELECT order_items
    1.18 s
  • payments-api POST /api/payments
    140 ms
  • catalog-api GET /api/catalog/:sku
    35 ms
orders-db · SELECT order_items73% of the trace

measured inorders-api pod, client side

inside orders-dbnot visible from the cluster

query textnot captured (off)

Kobi

The slow span started with rev 42. The previous revision ran this route at 180 ms p95.

¿Te sirve?

Kobi donde ya trabajas

En el canal del incidente, en tu asistente de IA y en un espacio propio donde decides qué puede hacer solo.

En diseño · sin fecha

Kobi en Slack: menciónalo y investiga en el hilo

Kobi investiga, avisa y pide aprobación dentro de tu canal de Slack. Cómo funciona

Escribes @Kobi en el hilo del incidente y Kobi investiga ahí mismo: ves sus pasos y la respuesta llega con la causa y la evidencia. Las alertas llegan con un botón para investigarlas, y cada canal solo ve los clústeres que le vinculas. Empieza en solo lectura; después llegan las acciones propuestas, que se revisan y se ejecutan con el rol de quien pulsa. Primero en Cloud y después en open source.

Mencionas a Kobi y responde con la causa, la evidencia y una acción propuesta.

# prod-incidentsEste canal está vinculado a prod-eu-west

MR

Marta Ruiz14:14

@Kobi ¿por qué reinicia checkout-api?

KobiAPP14:15

5 pasos, 38 s

Causa. checkout-api tiene OOMKilled porque la revisión 42, desplegada a las 14:02, bajó el límite de memoria de 512Mi a 256Mi. Con tráfico normal usa hasta 310Mi.

Evidencia

  • 14 reinicios desde las 14:03, todos OOMKilled. La revisión 41 corrió 9 días con 512Mi sin ninguno.

Proposed actionMedium risk · reversible

Roll back checkout-api to revision 41

rollback_deployment · payments/checkout-api

Review and runOpen in KubeBolt

Runs with the KubeBolt role of whoever clicks. Editor or admin required.

KobiAPP14:03

Critical · insightfirst seen 14:03

Container OOMKilled

payments/checkout-api · prod-eu-west

Investigate with KobiSilence 1 hOpen in KubeBolt

MR

Marta Ruiz14:04

Investigate with Kobi · 5 pasos, 38 s

La alerta llega como un mensaje con el que puedes hacer algo, no como un webhook.

Kobi AutopilotAPP14:18

Autopilot · approval neededMedium risk · reversible

Roll back checkout-api to revision 41

rollback_deployment · Deployment/payments/checkout-api

Pods return to revision 41 with the 512Mi memory limit. One rolling restart of 3 replicas.

ApproveRejectView incident

Editors and admins of this cluster's team can decide. Your click is checked against your KubeBolt role.

Kobi AutopilotAPP14:20

Aprobado por Diego Paredes, admin en KubeBolt. Volviendo checkout-api a la revisión 41.

  • checkout-api restartingtoday
  • What happened overnight?yesterday
  • Over-provisioned namespacesMonday

Kobi

Kubernetes SRE agent by KubeBolt. Investigates incidents, explains what changed and proposes fixes you approve.

  • What is unhealthy right now?
  • What happened overnight?
  • Where are we over-provisioned?
  • Any critical security findings?

En un mensaje directo con Kobi, fuera de cualquier canal.

¿Te sirve?

Del diagnóstico al cambio

Planes que puedes revisar, arreglos que llegan a tu repo, lo que sobra en la factura y las causas que están en tu nube.

Etapa 03 · Business · Q4 2026 – Q1 2027

Planes de rightsizing que revisas y exportas

De la recomendación al cambio: Kobi arma el plan, tú lo exportas y después comprueba que se cumplió. Cómo funciona

Kobi convierte las recomendaciones de rightsizing en un plan ordenado por riesgo, con su diff, su vuelta atrás y el motivo de lo que deja fuera. Ninguna cifra la escribe el modelo: vienen del motor, con datos medidos. Lo exportas como comandos o como diff de YAML, y después Kobi comprueba que el clúster quedó como decía el plan.

Pasos ordenados por riesgo, con su diff y lo que deja fuera. Las cifras salen del motor, no del modelo.

Estimated saving€312/ moof €418 detected
Steps31 prerequisite · 1 left out
Max riskMediumstep 3 needs approval
Sources2rightsizing · insights
  1. 1

    Add a PodDisruptionBudget to payments-apiLow risk

    Prerequisite: without it, step 3 could restart all 3 replicas at once.

  2. 2

    Lower requests of checkout-workerLow risk€146 / mo

    Stateless, 7 days of stable history.

    -     cpu: 1000m
    +     cpu: 300m       # p95 210m
    -     memory: 2Gi
    +     memory: 768Mi   # p95 512Mi
  3. 3

    Lower CPU of payments-apiMedium risk · needs approval€166 / mo

    Payments path: CPU only, memory stays.

¿Cómo va el plan de payments?

Kobiprod-eu-west

Los pasos 1 y 2 cumplen en el clúster. El 3 ya no vale tal cual: alguien cambió la imagen de payments-api el martes. Lo reevalúo cuando tenga 7 días de métricas.

Plan · payments · v2verified 2 of 3
  • 1 · PodDisruptionBudget payments-apidisruptionsAllowed=1 · 3/3 Ready
  • 2 · checkout-worker requests0 OOMKilled · throttling 1.8% · p95 +2.1% · 48 h
  • !3 · payments-api CPU · expiredspec changed · new image · 2 days of metrics

Saving · estimated vs observed€146 → €139 / mo

¿Te sirve?

Vistas de diseño con datos de ejemplo: pueden cambiar antes de salir. La app, por ahora, está en inglés.

¿Te avisamos cuando llegue?

Novedades

Una nota por release, sin ruido.

Ver el roadmap por etapas ¿Falta algo? Cuéntanoslo