jev-routing-experiment
TokenTrim
该仓库把 Jev 用作 LLM 路由器,在 RouterArena 和 LLMRouterBench 查询上为每个查询选择模型并用各自官方评分方法计分。
- 许可证
- Apache-2.0
- GitHub Stars
- 3
- 源码核查日期
- —
Jev 在哪一步做判断
Jev 对输入查询按冻结难度量表进行 Score 评分,以决定将其路由到哪个候选大模型并权衡准确率与成本。
这个项目的用途
按任务分配模型资源;具体成本收益需看项目测试。
核查范围
根据仓库简介与 README 自动提炼;决策机制为规则归类,待人工复核,未独立测试性能。
源码与说明
同类项目
jev-codex-router
0xNatoshi · 模型路由与降本
每轮先让 Jev 判断任务类型与难度,再由本地策略为 Codex 选模型、思考深度和速度档。
jev-research
sherajdev · 模型路由与降本
一份 Jev 与 Herdr 协作指南,附有把任务分给不同 Agent 的路由原型。
jev-demo
minghanminghan · 模型路由与降本
Jev 客服分流演示:先批量回答路由问题,再沿分类结果处理用户请求。
jev-router-playground
hugo-alves · 模型路由与降本
模型路由实验页:让 Jev 从候选模型中选择,再由你比较各模型的实际回答。