tiershift

iamvatsalpatel

YAML ポリシーに基づいて Jev が約 180ms でリクエストを判定し、要件を満たす最も安価なモデル層へ振り分けるルーティング基盤です。

Jev が判断する箇所

事前学習データ不要で、プレーンな YAML 基準を Jev に評価させてリクエストの複雑度に応じた振り分けを実行します。

TypeScript と Python の双方に対応し、最小限の判定遅延で推論コストの最適化を実現します。

固定コミットのソースを確認済み。実験ベンチマークと両言語のコードを確認。実環境での遅延は接続状況に依存します。

jev-codex-router
0xNatoshi · モデルルーティング
Codex の各ターンを Jev が分類し、ローカルルールでモデル、推論の深さ、速度を選ぶ。
jev-research
sherajdev · モデルルーティング
Jev と Herdr の連携ガイドと、タスクを各 Agent に振り分ける試作ルーター。
jev-demo
minghanminghan · モデルルーティング
Jev にルート判断をまとめて問い、分類結果に沿って処理するカスタマーサービスのデモ。
jev-router-playground
hugo-alves · モデルルーティング
Jev が候補モデルを選び、利用者が各回答を比較するルーティング実験画面。