本地模型 · tag · 6 stories in last 30 days · front page
- 1.规模 40B MoE / ~2.5B 激活许可 Apache-2.0内存 48GB M4 Pro / M5claimed面向本地编程的 40B MoE（约 2.5B 激活），可在 48GB 的 M4 Pro / M5 Mac 上运行。
- 2.Stars 373许可 Apache-2.0吞吐 69 → 161 tok/sclaimed面向 Apple Silicon 的本地推理引擎，标题给出同机吞吐对比数字。
- 3.Stars 3在 24GB 显卡上本地运行 Qwen-27B + Hermes + REA 的配置与提示集；示例提示中包含存档改金币、生成 license key 等内容，作者称仅针对自带的演示二进制。
- 4.将 Gremlin agent 的推理后端换成 AirLLM，可使用 Hugging Face 模型，并只暴露部分 REA 工具以减少提示词开销；目前仅演示到连接 REA，完整分析流程仍在开发。
- 5.单文件 Python 版 REA：通过 stdio 走 MCP，可驱动 headless Ghidra，支持本地 LLM，优先使用免费工具与免费 API。
Briefs (1)
- discussionQwen3.8-27B 量化到 24GB，自称 EAR 98–99%(x.com) · X 热议日报 · discuss有人将 Qwen3.8-27B 量化到 24GB，并自称 EAR 98–99%（自报）。