A RightNow Inference, que opera em runinfra.ai, é um provedor de inferência apoiado pela Y Combinator focado na economia das cargas agênticas. Agentes tendem a reenviar o mesmo contexto a cada turno, o que torna os tokens de entrada o custo dominante. A RightNow Inference resolve isso com roteamento ciente da sessão: chamadas repetidas de uma sessão preferem a réplica de GPU que já contém o cache KV relevante, então a entrada em cache é cobrada a uma fração da tarifa de tabela.
A plataforma serve uma biblioteca curada de modelos de pesos abertos — incluindo modelos das famílias DeepSeek, GLM, Qwen e Step — por endpoints compatíveis com os SDKs da OpenAI e da Anthropic, então o código de agente existente exige mudanças mínimas. A empresa publica velocidade de saída, taxas de acerto de cache e preço efetivo de entrada por modelo, e documenta publicamente sua metodologia de medição de cache.
Além do uso medido da API, a RightNow Inference oferece planos de programação a partir de US$ 10 por mês voltados a ferramentas como Claude Code e opencode, com uso que reinicia em janelas móveis de cinco horas e semanais e uma opção gratuita de espera ao atingir o limite. O serviço é direcionado a equipes que querem custos controláveis sem abrir mão da qualidade dos modelos abertos.
