码农早餐 · 2026-08-12

早安。今天最值得留神的是那条关于专有LLM API推理轨迹被窃的新闻——OpenAI们该急了，这直接关系到你手头接口调用的安全性。另外Mojo 1.0正式发布，兼容Python但非超集，想尝鲜的得先看清边界。

专有LLM API可被窃取推理轨迹，OpenAI们该急了

一个叫「stolen-thoughts」的安全研究项目放出了实锤：攻击者能从专有LLM API的响应里，逆向提取出模型内部生成的完整推理轨迹。这不是猜的，是实际可复现的攻击演示，目标直指那些把思维链当商业机密藏起来的闭源模型厂商。

对写代码的人来说，这事有两层意义。第一层是安全：如果你在用GPT-4o、Claude这类API做产品，攻击者可能绕过你的应用层，直接从API响应里挖出模型「怎么想」的过程——这中间可能夹着你的业务逻辑、敏感数据的处理路径。第二层是行业潜规则被撕开了：厂商们嘴上说「我们不暴露思维链是为了安全」，实际更多是怕推理过程被扒走后，别人能低成本复现模型能力。

这次攻击等于把「闭源模型的推理过程」从黑盒变成了半透明的玻璃盒。 还记得2023年GPT-4刚出时，有人用「越狱」提示词诱导它吐出内部系统提示词吗？那次只是漏了设定，这次漏的是完整思考过程，信息量不在一个量级。而且攻击成本极低，不需要高端硬件，普通API调用就能完成。

闭源模型的护城河，正在被「推理轨迹泄露」这个侧门一点点抽干。 对开发者最直接的冲击是：如果你依赖某个闭源API做核心功能，它的推理链一旦被扒，你的产品差异化和数据保护边界都得重新评估。别急着换供应商，先去看看自己调用的API版本和响应参数，有没有暴露额外字段的可能。

来源：

• hackernews · quantumgarbage

Mojo 1.0正式发布，兼容Python但非超集

Mojo 1.0来了，Modular公司把这款号称比Python快数千倍的AI编程语言推到了稳定版。它确实兼容Python语法，但别被「兼容」二字误导——Mojo不是Python的超集，而是从Python生态里挑着兼容，比如NumPy这类库的支持还在路上。对写AI代码的人来说，值得关注的是Mojo在GPU和TPU上的性能优势，但如果你指望无缝迁移现有Python项目，先查清楚依赖库的兼容性再动手。

💡 主厨说：想尝鲜的话，拿个小模型推理脚本试试Mojo，别一上来就搬整个项目。

来源：

• Modular官方公告：Mojo 1.0

OpenSSH 10.5 发布，密钥管理新增两把「锁」

OpenSSH 10.5/10.5p1 正式发布，这次更新对跑生产环境的人值得留意。新版本强化了密钥管理：默认禁止再使用旧版 SSH 协议，并收紧了对 RSA/SHA-1 签名算法的兼容开关，意味着老客户端或旧脚本可能直接连不上。如果你维护的服务器还挂着几年前的自动化任务，升级前最好先扫一遍依赖 ssh 的脚本，确认没有走弱算法。另外，新版本也修了一批安全漏洞，具体清单在官方 release notes 里列得很清楚，建议对照自己用的发行版补丁状态决定是否立即跟进。

💡 主厨说：升级前先跑一遍 ssh -G 检查客户端默认算法，别等线上报错再回头翻日志。

来源：

• hackernews · voxadam

苹果芯片跑大模型，两条新路子同时冒头

antirez（Redis 作者）开源了 H3-metal，一个为 Apple Silicon 原生编译的 MiniMax-H3 推理方案，专治 M 系列芯片上跑大模型的内存和速度痛点。另一边，trycua 团队在 macOS 虚拟机里给 llama.cpp 打通了 GPU 直通，让虚拟机和宿主机共享 GPU 算力。两条路都指向同一个方向：苹果芯片跑 LLM 不再是「能跑就行」，而是开始拼效率和资源利用率。如果你手头有 M 系列 Mac，想本地跑 70B 以上大模型，H3-metal 值得试试；如果已经在用虚拟机跑推理，GPU 直通能省下不少等待时间。

💡 主厨说：拿你的 M 芯片 Mac 跑一次 H3-metal 的 benchmark，跟 llama.cpp 对比下速度和显存占用，数据比感觉靠谱。

来源：

• hackernews · swyx
• hackernews · frabonacci

Nvidia发Nemotron 3.5 Lightning，30B模型跑在RTX上

Nvidia今天放出Nemotron 3.5 Lightning，主打轻量推理：30B参数但激活仅3B（A3B架构），配合NVFP4量化，官方称能在RTX工作站和DGX上本地跑。同场还发布了NeMo Switchyard，一套模型切换和路由工具。Hacker News上讨论热度不低，但注意别被“Lightning”带偏——它强在低延迟和显存占用，不是通用benchmark全面碾压。写推理服务或做私有化部署的可以看看，尤其NVFP4精度下效果衰减多少值得实测。

💡 主厨说：拿你自己的业务prompt跑一遍NVFP4量化版，对比FP16的答案质量再决定要不要上生产。

来源：

• Nvidia官方博客
• HuggingFace模型页

250美元FPGA跑微型LLM，速度冲到21k tok/s

一位开发者用AMD的KV260 FPGA开发板跑了个微型语言模型，吞吐量达到每秒21000个token，整块板子成本约250美元。这数字比多数消费级GPU跑同规模模型快不少，但注意是“微型”模型，参数量很小，跟跑Llama 3那种级别不是一回事。对写代码的人而言，这更像是个硬件实验信号：FPGA做推理加速的性价比正在被重新验证，尤其适合边缘设备或低功耗场景。想尝鲜可以看看作者的live demo，但别指望它能替代你手头的GPU。

💡 主厨说：想试FPGA推理，先查你用的模型能不能量化到8bit以下，不然这速度跟你没关系。

来源：

• Show HN: A tiny LLM running at 21,000 tok/s on a $250 FPGA

---

挑一条最贴你手头活的试试，比如给OpenSSH加把新锁，或者用Nvidia那个30B模型跑个demo。明早见。

本期从过去 24h 的 X / Hacker News / GitHub Trending 共 66 条信息中挑出 6 条。内容由 LLM 辅助生成，每条均附原始来源链接，重要决策请交叉验证。