
에이전트를 위한 빠른 오픈 모델 추론과 웜 캐시 라우팅
월간 웹사이트 방문 수 추정치
이 도메인의 Similarweb 추정치이며 활성 사용자 수가 아닙니다. 관측 데이터가 있는 월만 표시하며 수집일과 집계 월을 구분합니다.
수집일 2026. 11. 11.

에디터가 매긴 5점 만점 평가이며, 사용자 평점의 평균이 아닙니다. 이 페이지의 관점들은 제품 정보를 바탕으로 AI가 정리한 것이며, 실제 사용자 후기가 아닙니다.
2026-11-11에 검증된 OpenAITools.app 텔레메트리에 따르면, RightNow Inference(RunInfra)(runinfra.ai)은(는) AI 개발자 도구에 색인된 AI 플랫폼으로 월 1.81만회 방문을 기록 중이며, 전월 대비 트래픽 변화량은 -5.28천(-22.6%)입니다. 주요 지리적 시장은 인도(트래픽 점유율 48.4%)이며, 무료 체험, 유료, 가격 문의 가격 모델로 운영됩니다. 월간 트래픽 기준 주요 경쟁 대안으로는 Groq (월 398.79만회 방문), Together AI (월 164.59만회 방문), DeepSeek (월 3.73억회 방문) 등이 있습니다.
캐시 라우팅 덕분에 에이전트 토큰 비용이 반으로 줄었습니다. 대박이네요.
OpenAI SDK 호환성 최고입니다.
실제 사이트 점검, 요금 구조, 동일 카테고리 기준을 바탕으로 AI가 재구성한 참고 관점이며 개별 실사용자의 후기가 아닙니다.
동일 에이전트 세션의 반복 호출을 컨텍스트를 보유한 복제본으로 자동 유지해 보고 기준 약 99% 캐시 적중률을 달성하고 실효 입력 비용을 절감합니다.
하나의 API 키가 OpenAI와 Anthropic SDK 모두에서 작동해 기존 에이전트 코드를 최소 변경으로 전환할 수 있습니다.
가격을 공개한 오픈 모델을 제공하며 도구 호출, JSON 모드, 스트리밍, 이미지 입력을 지원하고 실시간 출력 속도와 캐시 지표를 공개합니다.
캐시 적중은 사용량에 표시되고 캐시 요율로 과금되며, 측정 방법과 모델별 실효 입력 가격도 공개됩니다.
Claude Code, opencode 등 20개 이상 에이전트를 위한 정액 플랜으로 사용량 윈도와 한도 도달 시 무료 대기를 제공합니다.
runinfra.ai에서 운영되는 RightNow Inference는 Y Combinator의 지원을 받는 추론 제공업체로, 에이전트형 워크로드의 경제성에 집중합니다. 에이전트는 매 턴마다 같은 컨텍스트를 다시 보내는 경향이 있어 입력 토큰이 주요 비용이 됩니다. RightNow Inference는 세션 인식 라우팅으로 이를 해결합니다. 동일 세션의 반복 호출은 관련 KV 캐시를 이미 보유한 GPU 복제본으로 우선 라우팅되어 캐시 입력이 정가보다 훨씬 저렴하게 과금됩니다.
이 플랫폼은 OpenAI와 Anthropic SDK에 호환되는 엔드포인트를 통해 DeepSeek, GLM, Qwen, Step 계열 등을 포함한 엄선된 오픈 모델 라이브러리를 제공하므로 기존 에이전트 코드는 최소한의 변경만 필요합니다. 모델별 출력 속도, 캐시 적중률, 실효 입력 가격을 공개하고 캐시 측정 방법도 문서화합니다.
종량제 API 외에도 Claude Code, opencode 등 도구를 위한 월 10달러부터의 코딩 플랜을 제공하며, 포함 사용량은 5시간 및 주간 롤링 윈도로 초기화되고 한도 도달 시 크레딧 또는 무료 대기를 선택할 수 있습니다. 오픈 모델 품질을 포기하지 않고 비용을 관리하려는 팀을 겨냥합니다.
턴 사이에 컨텍스트를 따뜻하게 유지해 반복 입력을 캐시 요율로 과금합니다. 큰 프롬프트를 반복 전송하는 다단계 에이전트에 특히 중요합니다.
OpenAI·Anthropic 호환 엔드포인트를 사용해 SDK 통합을 다시 작성하지 않고 기존 스택에 오픈 모델을 추가합니다.
예측 가능한 월 요금과 롤링 사용량 윈도로 개발자에게 주요 에이전트 도구의 코딩 플랜 접근을 제공합니다.
공개된 출력 속도, 캐시 적중, 실효 입력 데이터로 동일 기준에서 제공업체를 비교합니다.
동일한 주요 카테고리에 속한 경쟁 AI 도구의 나란히 보는 텔레메트리 비교
| 순위 | AI 도구 | 월간 방문 수 | 전월 대비 성장률 | 직접 유입 비중 | 가격 | 일대일 비교 |
|---|---|---|---|---|---|---|
| ● | RightNow Inference(RunInfra) | 1.81만 | -22.6% | 직접 유입 43% | 무료 체험, 유료, 가격 문의 | 현재 도구 |
| 1 | Groq | 398.79만 | +10% | 직접 유입 43% | 유료 | vs Groq |
| 2 | Together AI | 164.59만 | +64.9% | 직접 유입 54% | 무료+유료, 유료 | vs Together AI |
| 3 | DeepSeek | 3.73억 | +4.3% | 직접 유입 78% | 무료+유료 | vs DeepSeek |
| 4 | DeepInfra | 45.78만 | -8.9% | 직접 유입 52% | 유료 | vs DeepInfra |
| 5 | Chutes | 25.02만 | -15.2% | 직접 유입 75% | 유료 | vs Chutes |
| 6 | OrcaRouter | 97.53만 | -5.2% | 직접 유입 26% | 무료+유료 | vs OrcaRouter |

Together AI is the AI Native Cloud — a full-stack platform for running, fine-tuning and training open-source models. It spans serverless inference APIs, dedicated endpoints, GPU clusters, post-training and storage, all backed by in-house systems research.
Together AI is the AI Native Cloud — a full-stack platform for running, fine-tuning and training open-source models. It spans serverless inference APIs, dedicated endpoints, GPU clusters, post-training and storage, all backed by in-house systems research.
무료 / 오픈소스DeepSeek-V4와 R1으로 구동되는, 극히 낮은 토큰 비용의 고효율 오픈웨이트·호스팅 추론 AI.
OrcaRouter is an OpenAI-compatible AI gateway that grades every prompt and routes it to the best-value model, then layers on failover, guardrails, an agent firewall, and compliance tooling for production AI.
OrcaRouter is an OpenAI-compatible AI gateway that grades every prompt and routes it to the best-value model, then layers on failover, guardrails, an agent firewall, and compliance tooling for production AI.
지연 시간 기반 요금제의 고처리량 오픈 웨이트 추론
무료 / 오픈소스오픈 AI 모델을 로컬과 클라우드에서 실행하고 구축하세요

하나의 API로 LLM과 멀티모달 모델을 빠르고 예측 가능한 비용으로 추론
하나의 API로 LLM과 멀티모달 모델을 빠르고 예측 가능한 비용으로 추론