4 hours ago 有没有带安全审计的 llm gateway?🌐 链接: https://linux.do/t/topic/2236542🔍 关键词: #api🏷️ 分组: LinuxDo论坛🕒 时间: 2026-05-24 16:05:01 LINUX DO 有没有带安全审计的 llm gateway? 需要一个可信的 LLM 网关 ,在每个中转站返回结果后,立即调用便宜的像 DeepSeek API 做 LLM-as-a-Judge。 搜了下grok,貌似目前没有一个完全现成的 “Octopus + DeepSeek 输出审计” 开源项目。 当前最现实的路径优先级(考虑你对 LiteLLM 投毒事件的顾虑): Portkey AI Gateway —— Guardrails 功能最成熟,支持自定义 LLM Judge,最接近开箱即用。 极简自建 FastAPI 薄代理(推荐给你,目前最可控、攻击面最小)——…