litellm

Jev が判断する箇所

設定済みの複雑度へ分類し、その結果からバックエンドを振り分ける。

このプロジェクトの用途

振り分けの基になる複雑度判断を確認できる。

ソースと実装

• BerriAI/litellm/blob/56116079c8022da0e8f7ff9ccb017ad5aca5aed2/litellm/router_strategy/complexity_router/jev_classifier.py
• BerriAI/litellm/blob/56116079c8022da0e8f7ff9ccb017ad5aca5aed2/README.md
• BerriAI/litellm/blob/56116079c8022da0e8f7ff9ccb017ad5aca5aed2/tests/README.MD
• BerriAI/litellm/blob/56116079c8022da0e8f7ff9ccb017ad5aca5aed2/LICENSE

同じカテゴリのプロジェクト

• jev-codex-router

  0xNatoshi · モデルルーティング

  Codex の各ターンを Jev が分類し、ローカルルールでモデル、推論の深さ、速度を選ぶ。

• jev-research

  sherajdev · モデルルーティング

  Jev と Herdr の連携ガイドと、タスクを各 Agent に振り分ける試作ルーター。

• jev-demo

  minghanminghan · モデルルーティング

  Jev にルート判断をまとめて問い、分類結果に沿って処理するカスタマーサービスのデモ。

• jev-router-playground

  hugo-alves · モデルルーティング

  Jev が候補モデルを選び、利用者が各回答を比較するルーティング実験画面。