agentgateway

Jev 在哪一步做判断

Jev 对越狱、有害内容和秘密泄露评分，示例按阈值或评估错误拒绝请求。

这个项目的用途

展示网关接入方式；模型评分不能保证阻挡全部攻击。

源码与说明

• agentgateway/agentgateway/blob/6b0270efd25b5255932943e48b5ca47583d3ad28/README.md
• agentgateway/agentgateway/blob/6b0270efd25b5255932943e48b5ca47583d3ad28/examples/llm-guardrail-jev/README.md
• agentgateway/agentgateway/blob/6b0270efd25b5255932943e48b5ca47583d3ad28/examples/llm-guardrail-jev/guardrail.ts
• agentgateway/agentgateway/blob/6b0270efd25b5255932943e48b5ca47583d3ad28/examples/llm-guardrail-jev/config.yaml

同类项目

• safer-with-jev

  andrelandgraf · 安全与内容审核

  给 HTTP 请求装一道内容门禁。Jev 先检查注入指令或不安全内容，通过了再转发到指定地址。

• pi-jev

  y0usaf · 安全与内容审核

  Pi 编码 Agent 扩展：执行前提示工具风险，执行后检查秘密泄露与失败类型。

• pi-jev-auto-mode

  jomatsu · 安全与内容审核

  给 Pi 的命令和文件操作增加规则检查，再由 Jev 评估需要进一步判断的操作。

• jev-judgment

  HyunjunJeon · 安全与内容审核

  给编程 Agent 增加授权、操作风险和失败原因的判断检查。