OrcaRouter

OrcaRouter's 概要

OrcaRouter(オルカルーター)は、OpenAI互換のルーティングプラットフォームとして動くAIゲートウェイです。各プロンプトを瞬時に評価し、200以上のモデルの中から最適なLLMへ自動でルーティングします。アダプティブLLMルーティング、自動フェイルオーバー、ガードレール、オブザーバビリティ、ガバナンス、プロンプトのバージョン管理、キャッシュ、エージェントファイアウォールを1つのエンドポイントにまとめています。トークンへの上乗せ料金はゼロで、プロバイダーの価格を直接支払う仕組みです。既存のSDKを使い、URLを1行変えるだけで素早く導入でき、高い可用性とAI推論コストの削減を目指しています。

OrcaRouter's 特徴

• OpenAI互換の単一エンドポイント

• 200以上のモデルに対応したアダプティブLLMルーティング

• 正常なプロバイダー間での自動フェイルオーバー

• トークンマークアップゼロとプロバイダー直接課金

• リクエスト単位のオブザーバビリティと構造化ログ

• A/Bテストとロールバックに対応したプロンプトのバージョン管理

• PII Shieldやコンテンツポリシーを含むガードレール

• ALLOW・REVIEW・BLOCKを制御できるエージェントファイアウォール

OrcaRouter's Q&A

OrcaRouter's 価格

Hackerプランは永久無料で、全トークンのマークアップがゼロ、200以上のモデル、自動フェイルオーバー、基本ダッシュボード、プロンプトのバージョン管理、APIキー3つが含まれます。Teamプランは月額499ドルで、Hackerの全機能に加えて最大10シート、コンプライアンスレポート、無制限のAPIキー、優先サポートが付きます。Enterpriseは個別見積もりで、SLA保証、プライベート／オンプレミス展開、専用インフラ、専任サポートに対応します。OrcaRouterによると、ルーティング自体は無料で、収益は任意のチーム向け機能から得ているとのことです。