当日重点整理
慢速本地LLM下的编程工作流分享
社区分享在<10 tk/s的慢速本地LLM下如何高效编程,包括使用Cursor、Copilot等工具辅助,对资源受限用户有参考价值。 From ↗
在4B模型上本地运行Pi,实现无API密钥web搜索
在4B模型上完全本地运行Pi,无需任何API密钥即可实现Web搜索功能,展示本地AI代理能力。 From ↗
Anthropic已训练完成更强Mythos模型
据未经证实的消息,Anthropic已完成更强Mythos模型训练。若属实,或为下一代旗舰模型,目前尚未公布具体细节。 From ↗
ik_llama.cpp新增NUMA mirror模式,优化多路CPU推理性能
开发者fork了ik_llama.cpp并添加NUMA mirror模式,旨在最大化多路CPU系统上的推理性能。已开源并寻求社区测试。 From ↗
社区呼吁建立量化模型性能排行榜
Reddit用户反映当前缺乏量化模型排行榜,难以对比各量化版本(如GGUF、GPTQ、AWQ)的性能差异,希望有类似artificial analysis的资源。 From ↗
本地文生图模型全面对比:192个提示词评估文字、人脸等能力
用户选取192个提示词对本地文本到图像模型进行全面评估,涵盖文字渲染、人脸、人体解剖、空间构图等能力。 From ↗
Gemma-4-12B-coder无审查模型登顶Hugging Face
基于Gemma-4-12B-coder的无审查模型发布,仅9/100次拒绝,KLD 0.0467,在Hugging Face上排名第一,提供Safetensors和GGUF格式。 From ↗
Qwen 3.6 27B Abliterated模型发布,对齐拒绝率降至7.6%
社区发布Qwen 3.6 27B Apostate模型,通过Abliteration技术将安全对齐拒绝率从92%降至7.6%,KL散度仅0.12,能力影响极小。 From ↗
完整本地LLM推理优化指南发布
一年经验总结的实用llama.cpp优化指南,涵盖VRAM适配、KV缓存、MoE部署等主题,帮助开发者最大化本地推理性能。 From ↗
用户实测对比DeepSeek官方API与OpenCode Go套餐
用户分享DeepSeek官方API月耗约38元,对比OpenCode Go套餐:首月5刀(~36元)划算,次月10刀不如官方。提醒注意价格差异。 From ↗