Main Brief

当日重点整理

01 开发工具

慢速本地LLM下的编程工作流分享

社区分享在<10 tk/s的慢速本地LLM下如何高效编程,包括使用Cursor、Copilot等工具辅助,对资源受限用户有参考价值。 From ↗

02 模型动态

在4B模型上本地运行Pi,实现无API密钥web搜索

在4B模型上完全本地运行Pi,无需任何API密钥即可实现Web搜索功能,展示本地AI代理能力。 From ↗

03 模型动态

Anthropic已训练完成更强Mythos模型

据未经证实的消息,Anthropic已完成更强Mythos模型训练。若属实,或为下一代旗舰模型,目前尚未公布具体细节。 From ↗

04 模型动态

ik_llama.cpp新增NUMA mirror模式,优化多路CPU推理性能

开发者fork了ik_llama.cpp并添加NUMA mirror模式,旨在最大化多路CPU系统上的推理性能。已开源并寻求社区测试。 From ↗

05 模型动态

社区呼吁建立量化模型性能排行榜

Reddit用户反映当前缺乏量化模型排行榜,难以对比各量化版本(如GGUF、GPTQ、AWQ)的性能差异,希望有类似artificial analysis的资源。 From ↗

06 模型动态

本地文生图模型全面对比:192个提示词评估文字、人脸等能力

用户选取192个提示词对本地文本到图像模型进行全面评估,涵盖文字渲染、人脸、人体解剖、空间构图等能力。 From ↗

07 模型动态

Gemma-4-12B-coder无审查模型登顶Hugging Face

基于Gemma-4-12B-coder的无审查模型发布,仅9/100次拒绝,KLD 0.0467,在Hugging Face上排名第一,提供Safetensors和GGUF格式。 From ↗

08 模型动态

Qwen 3.6 27B Abliterated模型发布,对齐拒绝率降至7.6%

社区发布Qwen 3.6 27B Apostate模型,通过Abliteration技术将安全对齐拒绝率从92%降至7.6%,KL散度仅0.12,能力影响极小。 From ↗

09 模型动态

完整本地LLM推理优化指南发布

一年经验总结的实用llama.cpp优化指南,涵盖VRAM适配、KV缓存、MoE部署等主题,帮助开发者最大化本地推理性能。 From ↗

10 行业资讯

用户实测对比DeepSeek官方API与OpenCode Go套餐

用户分享DeepSeek官方API月耗约38元,对比OpenCode Go套餐:首月5刀(~36元)划算,次月10刀不如官方。提醒注意价格差异。 From ↗