awesome jevDIRECTORYスポンサーStar on GitHub

GPTCache

zilliztech

Semantic cache with a Jev evaluator that uses Noul judgments to check whether a cached response can serve an incoming request.

GitHub リポジトリ ↗検索・絞り込み
ライセンス
MIT
GitHub Stars
8201
ソース確認日

Jev が判断する箇所

Jev returns a structured decision for the local program; consult the source for the exact decision policy.

このプロジェクトの用途

Adds structured choices or scores to the workflow; performance and cost benefits have not been independently verified.

確認の範囲

公開ソースと連携ロジックを確認済み。

ソースと実装

同じカテゴリのプロジェクト