LM Studio 速度慢怎么办：Mac 实测首字等 39 秒的真正原因是 prompt 预填充，不是 GPU 没开满
在 24GB M4 Mac mini 上用 LM Studio 跑 gemma-4-e4b（Q4_K_M）实测：生成速度约 29.5 tok/s，GPU offload 从全开调到全关只慢 11%；真正让人觉得慢的是长 prompt 的预填充——1.3 万 token 的 prompt 要等 39.4 秒才出第一个字（约 330 token/s），全 CPU 时还要再慢 3.4~3.7 倍。相同前缀的第二次请求首字只要 0.1 秒（前缀缓存）。--parallel 4 时同时来 4 个请求，每个只剩 9.7 tok/s。
Ollama 显存不足怎么办：24GB Mac 实测 num_ctx、并发、KV 量化各吃多少内存，以及它不会拦你的那个坑
24GB 的 M4 Mac mini，Ollama 0.19 只认到 17.8 GiB 显存，默认上下文只给 4096。实测 qwen3:4b：上下文从 4k 开到 32k，占用从 3.73GB 涨到 9.89GB；OLLAMA_NUM_PARALLEL=4 时 8k 上下文占用等于单路 32k，但 ollama ps 只显示 8192；开 Flash Attention + q4_0 KV 量化后 32k 只要 4.31GB、64k 只要 5.77GB，速度不变。上下文开到远超内存时 Ollama 不会提前拒绝，而是直接开始分配，16 秒内系统可用内存掉到 23%。全部挪到 CPU 只慢 25%。
24GB Mac mini 能跑多大的本地大模型？内存账、实测速度与提速方案汇总
一台 24GB 统一内存的 Mac mini 到底能跑什么模型？答案是：27B 的 4-bit 量化就是天花板，且我们真的把 Qwen3.8-27B 在 M4 丐版上完整跑通了——峰值内存 19.4GB，投机解码后 11.7-12.2 tok/s。本文汇总这台机器上的全部实测：各参数量级的内存账、速度预期、三条提速路线的真实效果（DFlash 2 / 原生 MTP / MLX vs llama.cpp），以及量化档位怎么选。
24G Mac mini 实测 Qwen3.8 原生 MTP：内存省了 3GB，速度反而降了 24%——与 DFlash 2 同机对照
上一篇 DFlash 2 实测结尾预告过的路线：Qwen3.8 自带训练好的 MTP 多 token 预测头，llama.cpp 已支持直接挂载，不需要额外 2B 草稿模型。这次在同一台 24G Mac mini M4 上把它跑通并与 DFlash 2 正面对照：内存确实更省（峰值 16.0GB vs 19.4GB），但速度是净减速——散文 6.0 → 4.5 tok/s（-24%），代码也没赚。同机 DFlash 2 是 1.8–1.9x 加速。差距不在草稿质量（接受率 59–85% 很健康），在 Metal 后端：batch 8 解码摊薄实测只有 1.13x，验证 3 行草稿的代价≈3 次完整前向，草稿再准也赚不回来。
把家里的 Mac mini 变成 24 小时在线的 Claude Code 工作站：claudecodeui + SSH 反向隧道，手机浏览器随时接管
家里的 Mac mini 常年开机跑 Claude Code，人在外面怎么用浏览器接管会话？这是一套上线一周、每天在用的真实方案：claudecodeui 做 Web 界面（选型对比了官方 Web 版、ttyd、code-server），SSH 反向隧道把它推到 VPS，nginx 加 TLS 和登录限流反代成一个普通网址。附完整配置、真实运行数据（隧道五天零掉线、内存 170MB）、上线一周就踩到并自己修掉的 <synthetic> 占位符 bug，以及「为什么不用 Tailscale」的正反论证。
24G Mac mini 跑 Qwen3.8-27B + DFlash 2：实测 1.8x，以及为什么到不了官方的 3x
DFlash 2 发布一周后，我在一台 24G 的 Mac mini M4 上把 Qwen3.8-27B 加投机解码完整跑通：4-bit 量化下从 6.5 tok/s 提到 11.7–12.2 tok/s，稳定 1.8–1.9 倍。这篇记录完整部署命令、三轮对照实测数据、24GB 的内存账，以及官方 2.7–3.4x 数字在消费级 Mac 上打折的三个具体原因。8-29 复测追加 block-size 与草稿精度扫描：block-size 8 崩到 1.11x 坐实官方悬崖警告，block-size 3 反超默认值，8-bit 草稿不如 4-bit。