RightNow Inference, que opera en runinfra.ai, es un proveedor de inferencia respaldado por Y Combinator centrado en la economía de las cargas de trabajo agénticas. Los agentes tienden a reenviar el mismo contexto en cada turno, lo que convierte los tokens de entrada en el coste dominante. RightNow Inference lo aborda con enrutamiento consciente de la sesión: las llamadas repetidas de una misma sesión prefieren la réplica de GPU que ya contiene el caché KV relevante, de modo que la entrada en caché se factura a una fracción de la tarifa de lista.
La plataforma sirve una biblioteca curada de modelos de pesos abiertos —incluidos modelos de las familias DeepSeek, GLM, Qwen y Step— mediante endpoints compatibles con los SDK de OpenAI y Anthropic, por lo que el código de agente existente requiere cambios mínimos. La empresa publica la velocidad de salida, las tasas de acierto de caché y el precio de entrada efectivo por modelo, y documenta públicamente su metodología de medición de caché.
Además del uso medido de la API, RightNow Inference ofrece planes de programación desde 10 USD al mes pensados para herramientas como Claude Code y opencode, con uso que se reinicia en ventanas móviles de cinco horas y semanales, y una opción gratuita de espera al alcanzar el límite. El servicio se dirige a equipos que quieren costes controlables sin renunciar a la calidad de los modelos abiertos.
