awesome jevDIRECTORY赞助合作Star on GitHub

jev-router

prismhq

基于 LiteLLM 与 Jev 构建的开源模型路由器:根据输入任务复杂度与上下文自动选择性价比最高的大模型。

GitHub 仓库 ↗搜索与筛选
许可证
MIT
GitHub Stars
3
源码核查日期

Jev 在哪一步做判断

通过 System-1 单次前向推理对输入 Prompt 评定推理需求档位,再由本地 LiteLLM 路由分发请求。

这个项目的用途

无需复杂的启发式正则即可实现高吞吐的任务分级与模型降本调度。

核查范围

经由公共仓库代码审查确认真实 Jev 可执行集成证据;决策机制提取自实际源码,未经本站性能跑分测试。

源码与说明

同类项目