jev-router
prismhq
基于 LiteLLM 与 Jev 构建的开源模型路由器:根据输入任务复杂度与上下文自动选择性价比最高的大模型。
- 许可证
- MIT
- GitHub Stars
- 3
- 源码核查日期
- —
Jev 在哪一步做判断
通过 System-1 单次前向推理对输入 Prompt 评定推理需求档位,再由本地 LiteLLM 路由分发请求。
这个项目的用途
无需复杂的启发式正则即可实现高吞吐的任务分级与模型降本调度。
核查范围
经由公共仓库代码审查确认真实 Jev 可执行集成证据;决策机制提取自实际源码,未经本站性能跑分测试。
源码与说明
- prismhq/jev-router/blob/583f0a1d1e0534cda3b6bbfa4b19aa1ec25d73a7/README.md
- prismhq/jev-router/blob/583f0a1d1e0534cda3b6bbfa4b19aa1ec25d73a7/jev_router/__init__.py
- prismhq/jev-router/blob/583f0a1d1e0534cda3b6bbfa4b19aa1ec25d73a7/jev_router/config.py
- prismhq/jev-router/blob/583f0a1d1e0534cda3b6bbfa4b19aa1ec25d73a7/jev_router/deciders.py
同类项目
jev-codex-router
0xNatoshi · 模型路由与降本
每轮先让 Jev 判断任务类型与难度,再由本地策略为 Codex 选模型、思考深度和速度档。
jev-research
sherajdev · 模型路由与降本
一份 Jev 与 Herdr 协作指南,附有把任务分给不同 Agent 的路由原型。
jev-demo
minghanminghan · 模型路由与降本
Jev 客服分流演示:先批量回答路由问题,再沿分类结果处理用户请求。
jev-router-playground
hugo-alves · 模型路由与降本
模型路由实验页:让 Jev 从候选模型中选择,再由你比较各模型的实际回答。