awesome jevDIRECTORY赞助合作Star on GitHub

jev-routing-experiment

TokenTrim

该仓库把 Jev 用作 LLM 路由器,在 RouterArena 和 LLMRouterBench 查询上为每个查询选择模型并用各自官方评分方法计分。

GitHub 仓库 ↗搜索与筛选
许可证
Apache-2.0
GitHub Stars
3
源码核查日期
—

Jev 在哪一步做判断

Jev 对输入查询按冻结难度量表进行 Score 评分,以决定将其路由到哪个候选大模型并权衡准确率与成本。

这个项目的用途

按任务分配模型资源;具体成本收益需看项目测试。

核查范围

根据仓库简介与 README 自动提炼;决策机制为规则归类,待人工复核,未独立测试性能。

源码与说明

同类项目