AirGremlin:用 AirLLM 跑本地模型,再接 REA
Why it matters
将 Gremlin agent 的推理后端换成 AirLLM,可使用 Hugging Face 模型,并只暴露部分 REA 工具以减少提示词开销;目前仅演示到连接 REA,完整分析流程仍在开发。
Summary
将 Gremlin agent 的推理后端换成 AirLLM,可使用 Hugging Face 模型,并只暴露部分 REA 工具以减少提示词开销;目前仅演示到连接 REA,完整分析流程仍在开发。
Key points
- 将 Gremlin agent 的推理后端换成 AirLLM,可使用 Hugging Face 模型,并只暴露部分 REA 工具以减少提示词开销
- 目前仅演示到连接 REA,完整分析流程仍在开发
Comments
Comments coming soon.