awesome jevDIRECTORYスポンサーStar on GitHub

jev-model-tokengate

Thanh-Mathieu95

An OpenAI-compatible proxy that sits between your LLM and your users. It evaluates each sliding window of tokens **while the response is still streaming** and cuts the stream **before** a violating token can reach the screen.

GitHub リポジトリ ↗検索・絞り込み
ライセンス
MIT
GitHub Stars
4
ソース確認日

Jev が判断する箇所

Jev returns a structured decision for the local program; consult the source for the exact decision policy.

このプロジェクトの用途

Adds structured choices or scores to the workflow; performance and cost benefits have not been independently verified.

確認の範囲

公開ソースと連携ロジックを確認済み。

ソースと実装

同じカテゴリのプロジェクト