
エージェント向けに高速提供するオープンモデル推論とウォームキャッシュルーティング
月間サイト訪問数の推計
このドメインの Similarweb 推計値であり、アクティブユーザー数ではありません。観測データのある月のみ表示し、取得日と対象月を区別しています。
取得日 2026/11/11

編集部による 5 点満点の評価です。ユーザー評価の平均ではありません。 このページの各視点は、製品情報をもとに AI がまとめたものです。実際の利用者のレビューではありません。
OpenAITools.app のテレメトリ(2026-11-11 検証)によると、RightNow Inference(RunInfra)(runinfra.ai)は AI開発者ツールに分類される AI プラットフォームで、月間 1.81万の訪問を生み出し、前月比のトラフィック増減は -5280(-22.6%)です。主要な地域市場はインド(トラフィックシェア 48.4%)で、無料トライアル、有料、料金は要問い合わせの料金モデルで運営されています。月間ボリューム別の主な競合代替ツールには Groq(月間 398.79万訪問)、Together AI(月間 164.59万訪問)、DeepSeek(月間 3.73億訪問)が含まれます。
セッション認識キャッシュルーティングのおかげでトークン代が劇的に安くなった。
OpenAI SDK互換で移行がスムーズ。
サイト検証・料金体系・同カテゴリ比較に基づき AI が多角的な論点を要約した参考視点であり、実在ユーザーの個別投稿ではありません。
同一エージェントセッションの繰り返し呼び出しを、コンテキストを保持するレプリカへ自動的に維持し、報告ベースで約 99% のキャッシュヒット率を達成して実効入力コストを削減します。
1 つの API キーが OpenAI と Anthropic の両 SDK で機能し、既存のエージェントコードを最小限の変更で移行できます。
価格を公開したオープンモデルを提供し、ツール呼び出し、JSON モード、ストリーミング、画像入力に対応。出力速度とキャッシュ指標も公開します。
キャッシュヒットは使用量に表示されキャッシュ料金で課金され、測定方法とモデルごとの実効入力価格も公表されています。
Claude Code、opencode など 20 以上のエージェント向けの定額プランで、利用量ウィンドウと上限到達時の無料スタンバイを備えます。
runinfra.ai で運営される RightNow Inference は、Y Combinator の支援を受ける推論プロバイダーで、エージェント型ワークロードの経済性に焦点を当てています。エージェントは毎ターン同じコンテキストを再送しがちで、入力トークンが主要なコストになります。RightNow Inference はセッション認識ルーティングでこれに対応し、同一セッションの繰り返し呼び出しを関連する KV キャッシュを保持する GPU レプリカへ優先的に送ることで、キャッシュ入力をリスト価格より大幅に安く課金します。
同プラットフォームは、OpenAI と Anthropic の SDK に互換のエンドポイントを通じて、DeepSeek、GLM、Qwen、Step 系などを含む厳選されたオープンモデル群を提供するため、既存のエージェントコードは最小限の変更で済みます。モデルごとの出力速度、キャッシュヒット率、実効入力価格を公開し、キャッシュ測定方法も公表しています。
従量制 API のほか、Claude Code や opencode などのツール向けに月額 10 ドルからのコーディングプランを用意し、利用量は 5 時間ごとと週次のローリングウィンドウでリセットされ、上限到達時にはクレジットまたは無料スタンバイを選べます。オープンモデルの品質を犠牲にせずコストを管理したいチーム向けです。
ターンをまたいでコンテキストを温かく保ち、繰り返し入力をキャッシュ料金で課金。大量プロンプトを再送する多段エージェントで特に有効です。
OpenAI/Anthropic 互換エンドポイントを使い、SDK 統合を書き直さずに既存スタックへオープンモデルを追加します。
予測可能な月額とローリング利用枠で、開発者に主要エージェントツールへのコーディングプランを提供します。
公開された出力速度、キャッシュヒット、実効入力データを使い、同一条件でプロバイダーを比較します。
同じ主要カテゴリの競合 AI ツールをテレメトリで並列比較
| 順位 | AI ツール | 月間訪問数 | 前月比成長率 | 直接流入の割合 | 料金 | 直接比較 |
|---|---|---|---|---|---|---|
| ● | RightNow Inference(RunInfra) | 1.81万 | -22.6% | 直接流入 43% | 無料トライアル、有料、料金は要問い合わせ | 表示中 |
| 1 | Groq | 398.79万 | +10% | 直接流入 43% | 有料 | vs Groq |
| 2 | Together AI | 164.59万 | +64.9% | 直接流入 54% | フリーミアム、有料 | vs Together AI |
| 3 | DeepSeek | 3.73億 | +4.3% | 直接流入 78% | フリーミアム | vs DeepSeek |
| 4 | DeepInfra | 45.78万 | -8.9% | 直接流入 52% | 有料 | vs DeepInfra |
| 5 | Chutes | 25.02万 | -15.2% | 直接流入 75% | 有料 | vs Chutes |
| 6 | OrcaRouter | 97.53万 | -5.2% | 直接流入 26% | フリーミアム | vs OrcaRouter |

Together AI is the AI Native Cloud — a full-stack platform for running, fine-tuning and training open-source models. It spans serverless inference APIs, dedicated endpoints, GPU clusters, post-training and storage, all backed by in-house systems research.
Together AI is the AI Native Cloud — a full-stack platform for running, fine-tuning and training open-source models. It spans serverless inference APIs, dedicated endpoints, GPU clusters, post-training and storage, all backed by in-house systems research.
無料・オープンソースDeepSeek-V4 と R1 を中核とし、極めて低いトークンコストで提供される高効率なオープンウェイト/ホスト型推論 AI。
OrcaRouter is an OpenAI-compatible AI gateway that grades every prompt and routes it to the best-value model, then layers on failover, guardrails, an agent firewall, and compliance tooling for production AI.
OrcaRouter is an OpenAI-compatible AI gateway that grades every prompt and routes it to the best-value model, then layers on failover, guardrails, an agent firewall, and compliance tooling for production AI.
レイテンシ別料金で提供する高スループットなオープンウェイト推論
無料・オープンソースオープン AI モデルをローカルでもクラウドでも実行・構築

LLMとマルチモーダルモデルを、ひとつのAPIで高速かつコスト予測可能に推論