小道的技术笔记

记录折腾、认知与闭环

这是「12GB 显存实录」的续篇,只讲上一篇发完之后这一周发生的事:13 组参数最后只活下来 1 个、一次不报错的静默退化、两个引擎完全相反的瓶颈、以及我怎么把「搜索」从模型手里拿回来。
上一篇《一台 12GB 显存的电脑,能装下多少本地 AI:45 天模型侧实录》写到 11 月 1 日为止,机器配置、三元量化、MTP 草稿深度、98K 上下文、文生图、虚拟机、MoE 为什么比稠密快,都在那篇里,这里不复述。
全文数字都是本机实测,包括后来被我自己推翻的那几个。


TL;DR

上一篇结尾我写「把每一分显存都算清楚了」,发完第二天就开始改。这一周我做了 13 组完整重启的对照实验,最后只留下一个参数;修掉一次四个参数同时退化、却一声不吭的故障;发现两个引擎的瓶颈正好相反;把默认搜索换成了不要 key 的;还把上一篇里刚搭好的旁路看板删了。

最值钱的不是留下的那一个参数,是终于把「看起来还有空间」和「瓶颈在那」分开了。

写在前面:上一篇发完的第二天

11 月 1 日那篇发出去的时候,机器是稳的:27B 跑 43.5 tok/s,MoE 引擎已经能扛长上下文,一个看板,一个自检菜单,断网全功能可用。

第二天我瞄了一眼监控,内存还剩一大截,显存也没吃满,输出速度 40 出头。

第一反应特别自然:还有空间,肯定还能压榨一下。

于是花了整整一天,把能想到的参数全试了一遍。


一、13 组参数,只活下来 1 个

我列了个单子,每组完整重启、固定负载、记数据:

混合精度 KV、MTP 权重再量化、线程池只绑 P 核、调大 CPU 池批任务数、把 host 线程挪到 GPU 中断核的兄弟核、加宽投机验证窗……

结果全在噪声带里。唯一站得住的是 --kv-grow——让 KV 按需增长,没用到的那部分显存还给专家缓存:

指标 改动前 改动后
专家缓存槽 1675 2548
1.9 万上下文 基准 +13~24%
5 万上下文 prefill 基准 +10%
长上下文 decode 持平 持平

看起来「加槽位有效」?但槽位涨了 52%,decode 几乎没动。这个反差让我停了一下。

顺带纠正一个自己之前的估算:我按 35B 那套外推过 128K 上下文的 KV 占用,写的是 6.5GB。实测 1.68 GiB。跨架构外推显存占用,能错到离谱。

调优最难的从来不是找到那个参数,是承认前面十二个都没用。

二、显卡在打盹

既然加显存没用,那就直接量卡在干嘛。decode 阶段连采 63 次:

1
2
3
GPU 利用率   中位 38%(峰值 100%)
功耗 中位 25W(上限 170W)
核心频率 中位 457MHz(峰值 1912MHz)

我盯着显存看了一整天,显卡在旁边降频打盹。

如果瓶颈在 GPU 算力,频率会一直顶在 1900。457MHz 说明它在等——等 CPU 侧的专家池把数据搬过来。

所以「再塞点专家进显存」天然没什么收益:喂不饱的不是显存,是搬运。

还有个反例挺有意思:把专家池只绑 P 核反而更慢。E 核单核性能弱,但它在贡献内存带宽。这种账,不测根本算不出来。

上一篇我写过「27B 贴着带宽天花板跑,是架构被判了死刑」;这一周补到的是另一半:125B 这边根本没碰到天花板,卡在 CPU 侧。 两台引擎,两个完全不同的尽头。

三、80 tok/s 是我自己造出来的

这次最扎心的一课。

早先测 32K 上下文时我拿到过 80 tok/s,还挺高兴。后来固定同一配置、同一输入,只改输出长度:

输出 token 报出的 decode
21 53.6 – 68.0
70 42.7
333 77.0

输出只有 20 来个 token 时,前几个验证窗口还没被 KV 未命中拖累,读数会虚高。稳态其实只有 48 左右。「125B 跑 80」就是这么来的。

更狠的一个对照,同一份 5.3 万 token 输入,只改输出要求:

输出类型 投机接受率 decode
抄写第 1–12 号记录 245/262 = 94% 77.0
自由作答 35/60 = 58% 42.7

同一台机器、同一份输入、同一个模型,43 到 82 的差别全在投机解码的接受率上。

抄写型输出高度可预测,草稿几乎全中;agent 写的是自由推理文本,天然猜不准。所以「感觉输出一般」不是配置没调好,是任务性质决定的。

decode 速度不是模型的固定属性,是「模型 × 任务」的联合结果。 上一篇写过「测速必须锁随机种子」,这一周得再加一条:还得锁输出长度。

四、一次不报错的静默退化

这是整周最隐蔽、也最有普适性的一课。

从自检菜单启动 125B,上下文只有 32K;从桌面启动器打开,是 128K。同一个模型、同一台机器、同一个引擎。

把两条路径摊开比,差异不止一项,是四项:

菜单启动 桌面启动器
--max-context 32768 131072
--vram-reserve-mib 没有 1408
--kv-grow 没有 有
引擎 自动选最新(慢 30%) 绝对路径固定

也就是说,那条路径不只是上下文小,是全面退化:缺显存预留、缺 KV 按需增长、还自动踩中了慢三成的新引擎。

不预留那 1408 MiB 有多贵?显存只剩 366 MiB,驱动开始分页,decode 从 48 掉到 19.4。少一行参数,性能少六成,日志里只是安静地变慢。

根因在一行 JSON 里:那份启动预设创建于 10 月 28 日,写着 "context": 32768。因为当时安装器对「≤16GB 显卡」的硬编码规则就是给 32K。后来代码改成所有卡都给 128K 了,但——

预设是创建那一刻拍下的照片。代码早翻篇了,它还停在那天。

同一个预设里也没有后来才加入的 reserve_mib 字段,于是物化出来的运行配置同样没有显存预留。

上一节我说「不报错」是这类问题最贵的地方。它不崩、不告警、不写 error,只是每次启动 quietly 慢下去。你甚至会觉得「模型本来就这样」。

修法很干脆:不再依赖预设,两条路径统一指向同一份手写运行配置;顺手把旧预设也修好,备份留着,免得别的入口再踩。

同类变体这一周还遇到几个:客户端缓存了旧的模型能力元数据、profile 快照覆盖启动参数、运行时状态机残留导致「already has a live managed runtime」。它们共同的症状都是「明明改了却没生效」。

代码升级了,不等于配置升级了。凡是「生成一次、长期复用」的文件,都得当成独立资产来审计。

五、新版本慢 30%,而且它会自动回来

升到 0.1.56 之后,128K 下 decode 从 46.8 掉到 36,慢 28–30%。

我以为是新加的显存预留参数在捣乱,去掉重测,还是 37。连测 5 次,确认是版本本身的回归,回滚到 0.1.52。

这里还藏着一个设计陷阱:配置写 "exe": "component:strata-engine" 时,引擎选择是扫目录取最高版本。也就是说,只要新版本文件还在,重启就会自动挑最新的——手动回滚根本不生效。

要固定版本,必须写绝对路径。

上一篇的教训是「反直觉的参数默认怀疑」,这一周补一条:升级默认怀疑,尤其是跟硬件强绑定的推理引擎。 换版本要重测,不能默认向上兼容。

六、两台引擎,两种完全相反的瓶颈

把 125B 的采样结果和 27B 摆一起,反差很干脆:

125B(MoE) 27B(稠密)
GPU 利用率 38% 95%
功耗 25W 166W / 170W 墙
核心频率 457MHz 1901MHz

一个在等 CPU,一个已经顶到功耗墙。所以 125B 那套「调 CPU 调度、加显存槽位」的经验,一条都搬不过来。

上一篇在更早的配置上扫过一次 MTP 草稿深度,结论是 2 最优。这次在 98K 上下文加 q4_0 KV 的组合下重扫,结论一样,但掉幅更陡:

草稿深度 decode 接受率
2(官方推荐) 39–43 63%
3 34.4 58%
4 21.5(−45%) 47%

理论上窗口越宽、每步产出越多,该更快。实测急剧变慢——98K 上下文加 q4_0 KV 已经吃掉 11.98 / 12.29 GB,加宽窗口的额外缓冲把卡推过了功耗墙。多算就是纯亏。

还有个更反直觉的:加 --spec-draft-p-min 0.5 把接受率从 63% 拉到 78%,decode 却纹丝不动(36.4)。因为每步的固定成本(读一遍权重加该步计算)才是主项,多产出的 token 抵不掉剪枝开销。

提高接受率 ≠ 提高速度。 上一篇写「净产出不是目的、每秒 token 才是」,这次算是把它的反面也补齐了。

这里还得给上一篇的测速规矩加一条:本机噪声是 ±13%,不是 ±5%。同一配置同一输入跑出 42.9 和 37.2,而两次草稿计数完全一致(668/1061)——说明波动来自 GPU 升频,不是模型行为。判定门槛得定在 15%,拿 3% 当标准会把升降频当成优化成果。

七、参数试完了,构建还没试

到这一步,投机参数、采样参数、上下文、KV 精度全测完,我准备说「触顶了」。

去翻了一眼模型和引擎的上游,才发现 构建落后了 1300 多个版本(10 月 3 日 → 10 月 31 日)。

官方给投机解码的推荐参数和我现用的一模一样,说明那层确实没空间了;但构建本身一直在往前走。A/B:

引擎 decode(同 prompt / 同 seed) 接受率
旧构建 42.9 / 37.2 / 39.3 / 39.6 63%
新构建 44.2 / 43.2 67%

近时段对照 39.45 → 43.7,+10.8%,组内波动只有 0.8% / 2.3%,实打实超出噪声。带视觉塔时显存还少了 153 MiB。零成本、零风险,改一行路径。

同一轮核查顺手否掉两条看着很有戏的路:更小的量化包在带宽受限的卡上确实更快,但它用不了投机解码(只有 +1.6%,现用方案是 +37~40%);另一种草稿器只对抄写型任务有效,一般对话反而更慢。资料看得越细,越省得白试。

说「触顶」之前,先分清是参数触顶,还是实现触顶。 参数可以试完,软件还在往前走。

八、三个参数,三份「没用」

长文档场景,prefill 379 t/s、decode 43 t/s,我怀疑这三个还有空间。

① reasoning_effort:模板白名单只认 low / medium / xhigh,发 high / none / minimal 直接 HTTP 500。三档实测输出 581 / 556 / 436 token,xhigh 反而最短——因为思考预算 512 先一步截断了,三档撞同一个上限。

这里和上一篇对上了:那次解析 GGUF 模板,说 medium 能通过白名单但匹配不到力度分支。这次从行为上补到一条——显式 medium 和默认给出的输出逐 token 一致。两篇测的是不同负载(这篇锁了预算 512),所以不矛盾,但足以说明这个旋钮的作用域很窄。最后我按模型作者建议把默认改成 medium,速度不变,纯粹为了语义清楚。

② presence_penalty 1.5:decode 从 39.3 掉到 36.6,接受率 58% → 54%,输出反而从 569 变 637 token。它治复读,不治慢。

③ 上下文:同一份 15,242 token 长文档——

配置 prefill decode
98K + q4_0 KV 509.1 t/s 47.9
64K + q8_0 KV 439.6 t/s 44.9

缩小上下文没任何收益;提高 KV 精度反而因为搬运量翻倍,prefill 掉 14%。上下文只决定「能塞多少」,不决定「跑多快」。

长文档唯一能省的还是上一篇那条:前缀缓存。只要历史只追加不改写,第二轮 prefill 从几十秒到 0.7 秒。这次没再动它。

九、把搜索从模型手里拿回来

agent 点网页搜索,默认走官方、要 key。我想:把端点指到本地模型不就完了?

实测打到本地的 Anthropic 兼容接口:

1
2
3
4
POST /v1/messages                    → 200   接口是通的
带服务端 web_search 工具请求 → 200
返回的内容块 = ['thinking', 'tool_use']
web_search_tool_result → 不存在

本地模型把 web_search 当成客户端工具,只回一句「我要调用它」,自己并不去搜。而官方提供方在严格模式下拿不到服务端返回的结构化搜索块,会直接报错,不降级。

把链路拆开才看明白:

1
模型 → web_search 工具 → 服务按 id 选「搜索提供方」 → 真正的搜索 API

我原以为的「模型在搜索」,其实是官方服务拿另一个模型跑了一整轮、在服务端执行搜索。所以才必须收费。

换模型 ≠ 换搜索。搜索从来不是模型能力,是工具后面挂的那家服务商。

解法是换提供方,不是换模型:装了个社区搜索插件,它自带一层配置把选路指到自己身上,删掉插件就自动还原。顺带确认一件被默认设置盖住的事——抓网页走本地 HTTP 提供方,本来就不需要任何 key。

还量了一遍国内可达性,挺现实:Tavily、Exa、百度千帆、火山能通;Brave、DuckDuckGo、Jina 全不通;不带 key 的引擎返回空。所以「完全免费免 key」在纯国内网络下基本不成立,真要零 key 只剩自建搜索实例,而那台机器没装 Docker。

十、多模态的答案是个复选框

「模型不支持多模态」这事我查了半天:视觉编码器一直加载着,能力声明里也明明写着图片,红圆图实测 2.5–4.9 秒就答对,约 91 token/图。

最后发现只是客户端里模型选项的**「图片」输入类型没勾**。

绕了一大圈,答案是个复选框。

(另一个常见原因是连到了没挂视觉塔的那个档位——同一个模型文件,不同档位加不加载它,是两回事。还有一种是客户端缓存了旧的能力元数据。)

同一天还纠正了自己一个观察:我以为 CPU 视觉端点是「开机自启」的。查启动项、计划任务、进程创建时间——开机 18:39,它 19:12 才起,是当天自己手动拉的。看起来一直在跑,只是因为那段时间我都在用。

我给它画了个边界:这个端点纯 CPU、零显存,可以和主引擎共存,但只手动启停,不进开机项。上一篇把它列进了「最终形态」,这次改成了随用随开。

十一、删掉的比加的多

这一周后半段基本没在加东西。

  • 七个小模型档位退役(配置层下线,权重文件一个字节没删)
  • CPU 视觉端点改成手动
  • 上一篇里我得意地写了那个 9090 旁路看板,一周后把它删了——卡片、自检探针、启动开关、菜单入口,四处一起清掉
  • 看板从两个收敛到一个

那个旁路看板当初解决的是「同时看到两个引擎」,挺有用。但真正用起来才发现,它带来的是第二份要同步的配置;而聚合看板加上自检菜单已经够用。留着它,等于每次改档位都要记得两边对齐。

本地部署的复杂度不是模型带来的,是「多个入口各记一份配置」带来的。

清理完,整栈就三件事:一个引擎在跑、一个看板在看、一个手动视觉端点随用随开。


这一周沉淀下来的规矩

上一篇留了九条,这次补五条新的,都是这一周踩出来的:

  1. 长输入必须是启动后的第一个请求。 同进程里连跑两个前缀相同的请求会命中 prompt cache,两次 prompt_n 根本不可比——我白测过一轮,差了 1.6 万 token。
  2. 输出样本要够长且固定。 20 个 token 的读数是虚高的,这是「80 tok/s」的全部来源。
  3. 先量噪声,再谈收益。 本机时段漂移 ±13%,门槛定 15%,别拿 3% 当成果。
  4. 直接量瓶颈,别从「资源还剩多少」倒推。 采 20 秒 nvidia-smi 比试十个参数有用。
  5. 代码升级后,生成过的配置不会自动重算。 所有「不报错但变慢」的问题,先查这一类。

还有两个 Windows 专属的小坑,顺手记一下:Git Bash 里 TEMP 是系统临时目录变量,拿它当温度占位符会被展开成路径,请求直接 500;Windows 版 curl 读不了 /tmp/...,得写绝对路径。

最后留下来的三处改动

折腾一周,代码里真正生效的优化只有三处:

改动 效果 为什么留下
--kv-grow 专家槽 1675→2548,中等上下文 +13~24% 唯一超出噪声的参数
引擎构建升级 27B decode +10.8%,接受率 63→67% 零成本,改一行路径
统一启动配置 修掉四重静默退化 不修的话前两项都可能被覆盖

其余十几个参数,全部回滚。

结语:调优的产出是「不用加」

上一篇结尾我写,「看起来合理」和「测出来是这样」之间隔着一次固定种子的配对复测。

这一周补到的是后半句:测出来「没用」,也是产出。 它省下的是下次再试一遍的时间,以及那台机器一整天的电。

回头看,我盯着任务管理器里空着的资源,本能是去填满它。但瓶颈可能在 CPU 搬运,可能在功耗墙,可能在三周前生成的那份配置快照里,也可能压根不在参数里、而在还没升级的构建里。

调优的产出不是加了多少参数,是确认了哪些不用加。

现在有人问我「还能不能再快一点」,我的第一反应已经不是翻参数表了——是先把采样脚本打开。


作者:小道 · 环境:RTX 3060 12GB / 64GB DDR4 / Windows 11 · 2026-11-08
关联阅读:《一台 12GB 显存的电脑,能装下多少本地 AI:45 天模型侧实录》 · 系列:12GB 显存实录(模型线)

一次数据迁移 + 虚拟化搬迁 + 博客上云 + 系统盘克隆的全记录,以及中途踩过的每一个坑。

摘要:从一台 i5-4590 的老平台,迁到 i7-12700F 的新平台,再追加一轮主板/固态/散热升级。目标不是”重装系统从头再来”,而是把数据、虚拟机、自建服务、浏览器收藏、甚至系统本身,原封不动、无缝地搬过去。整个过程横跨好几周,踩了 robocopy、Hyper-V 网卡、Cloudflare 隧道、精简版 Windows 的 VSS 缺失、注册表盘符映射、技嘉 shell 扩展崩溃、DPAPI 密码跨机失效等一大串坑。这篇把它们一次性讲清楚。


一、为什么要折腾这一趟

老机器是台”钉子户”:i5-4590、16GB DDR3、GTX 960(2G)、128GB 小固态,跑着 Win10。它同时承担了几个角色——日常办公、开发、以及一台 24 小时开机的家庭服务器:里面用 Hyper-V 跑着 Ubuntu 和 Kali 两台虚拟机,对外挂着博客、AI 网关、Home Assistant、1Panel 面板,靠 Cloudflare Tunnel 暴露公网。

问题很现实:电脑一关,博客和这些服务就 502。而老平台本身也到了该退休的时候。

于是计划分两步走:

  1. 换平台:新机器上 i7-12700F + RTX 3060 12G + 32GB DDR4 + 256GB SATA 固态,把老机器的一切搬过去。
  2. 再升级:新机器用了一阵后,又追加了技嘉 B660M 小雕主板、一块 512GB PCIe NVMe、650W 电源、360 一体水冷和 6 个机箱风扇——并把系统从 SATA 盘克隆到 NVMe,让 NVMe 当系统盘。

核心诉求始终是四个字:无缝衔接。数据不能丢、服务不能断、配置不能重来。


二、硬件对比(鲁大师实测)

项目 老机器 新机器(升级前)
CPU i5-4590 @ 3.30GHz 四核 12 代 i7-12700F
内存 16GB DDR3-1600(8G×2) 32GB DDR4-2666(16G×2)
显卡 GTX 960 2GB RTX 3060 12GB
主板 微星 H97M-P35 (后续升级为技嘉 B660M 小雕 DDR4)
系统盘 影驰 128GB SATA SSD 昱联 256GB SATA SSD → 512GB PCIe NVMe
散热/电源 原装风冷 650W 电源 + 360 一体水冷 + 6 风扇
鲁大师综合跑分 约 44.6 万 约 122 万

从 44.6 万到 122 万,综合性能大约 2.7 倍,但真正的体感提升在固态和内存——尤其是后面把系统搬到 NVMe 之后。


三、迁移全景:五个阶段

我把整件事拆成清晰的阶段,避免”边搬边乱”:

  1. 准备:新机装干净系统、分好区(保持盘符布局一致,避免项目里的绝对路径失效)。
  2. 数据迁移:项目、备份、虚拟机导出包,整体走局域网对拷。
  3. 虚拟化与服务切换:Hyper-V 虚拟机导出导入、Cloudflare 隧道从旧机切到新机、Git/SSH/各类配置迁移。
  4. 验证:逐项打勾——项目能开、git 正常、隧道通、域名可达、虚拟机起得来。
  5. 退役:旧机停服务、退出账号、进入冷备份期。

四、数据迁移:robocopy 的稳与狠

几十 GB 的项目、上百 GB 的虚拟机导出包,走的是局域网 SMB + robocopy 多线程对拷,全程 0 失败,最后逐字节核对源和目标一致。

几个心得:

  • robocopy 的退出码不是 0 就是错——它 0~7 都算成功(1 是”复制了文件”这种),只有 ≥8 才是真失败。别被”exit=1”吓到。
  • 大目录先排除 node_modules、__pycache__、软链接(/XJ),能省大量时间和空间。
  • 验证一定要在目标端做,别信”看起来拷完了”。用文件数 + 总字节数双指标比对。

五、虚拟化搬迁:Hyper-V 与隧道的坑

把两台虚拟机(Ubuntu 服务机 + Kali)用 Export-VM 导出、到新机 Import-VM -Register 就地注册。这里埋了两个坑:

坑 1:内部虚拟交换机必须先建。 服务机有一块网卡挂在内部交换机上、配了静态 IP。新机上如果不先建好同名内部交换机就导入,网卡会失配。

坑 2:netplan 按 MAC 匹配,导入后 MAC 变了。 重导虚拟机后网卡 MAC 会变,而 netplan 配置里如果写死了旧 MAC,那块网卡就变成 unmanaged、拿不到 IP。教训是——netplan 用”按网卡名匹配”而不是”按 MAC 匹配”,对 MAC 变化免疫。

Cloudflare 隧道的切换是另一个重点:同一隧道如果新旧两台机器同时挂着 connector,会随机负载均衡,请求可能打到已经该退役的旧机上。所以新机 connector 起来、验证通了之后,旧机的 cloudflared 服务必须立刻停掉并禁用。刚装 cloudflared 服务后头几秒会有 QUIC 空窗,报 530/502 是假故障,等连接注册满就好。


六、博客上云:关机也不掉线

这是最有价值的一步解耦。博客原本是 Hexo 生成静态页、由家里那台机器提供,靠隧道暴露——电脑一关就 502。

迁移方案:

1
2
3
4
5
6
7
8
9
GitHub 仓库(Hexo 源码)
│ push 触发
▼
Cloudflare Pages ── 自动构建 hexo generate
│ 自定义域名
▼
访客 → 静态站(永远在线)
├─ 评论:Giscus ⇄ GitHub Discussions(零后端)
└─ 统计:Cloudflare Web Analytics(免费、无 Cookie)

关键点:Cloudflare Tunnel 是出站的,所以”服务在哪跑”和”域名能不能通”是解耦的。静态内容一旦交给 Pages CDN,就和家里机器彻底无关了。

  • 写文章 = 在 GitHub 改 .md 提交,几十秒后 Pages 自动重新构建上线,全程不碰家里电脑。
  • 评论换成 Giscus(数据存 GitHub Discussions),免费、永久在线、还自带垃圾评论管理。

最大的一个坑:Pages 连上 GitHub 后,默认 Build command 是空的,它会把源码仓库当产物直接部署,结果首页 404。必须显式设成 hexo generate、输出目录 public。另外构建环境默认 UTC,日期会差一天,记得加 TZ=Asia/Shanghai。

从此博客这条线彻底和主机解耦,家里机器只在”跑动态服务”时才需要开机。


七、安全加固:一台”裸奔”的精简系统

新机装的是一台被过度精简的 Windows——安全审查时发现:Windows Defender 全套服务被连根移除(不是禁用,是未安装)、防火墙三个配置文件全关、UAC 被设成”从不通知”、reagentc/RecoveryDrive 也都不见了。

这些”精简”在迁移期是有代价的(比如后面克隆系统时才发现 VSS 被砍),所以策略是:先做不影响迁移的加固(防火墙、UAC、装回杀软),把和迁移冲突的(如就地修复系统组件)放到迁移收尾后再处理。

一个通用教训:图省事用”优化版/精简版”系统镜像,往往会在你最需要某个功能时(VSS、恢复环境、Defender)发现它被删了。


八、系统盘克隆到 NVMe:本次最硬的一块

升级了 NVMe 后,想把系统从旧的 SATA 盘整体搬到 NVMe、并让 NVMe 第一启动。听起来简单,实际是一场硬仗。

8.1 在线克隆为什么失败

第一反应是”系统运行中直接对拷”。用 robocopy /B 把整个系统卷镜像到 NVMe,再 bcdboot 修引导。文件拷了 130 多 GB,看着快成了——结果开不了机。

原因:注册表的几个核心 hive(SYSTEM/SOFTWARE/SAM/SECURITY/DEFAULT/COMPONENTS)和用户配置单元的 NTUSER.DAT/UsrClass.dat,在系统运行时被内核独占锁定,robocopy /B 也拿不到。本想用卷影快照(VSS)绕开——但这台精简系统把 VSS 工具链砍了:vssadmin 的 create 子命令被移除、diskshadow 起不来。在线快照这条路直接死了。

8.2 用 reg save 补齐 hive

换思路:reg save 能在 hive 处于加载状态时导出一份一致的副本,不需要 VSS。于是把六个系统 hive + 用户两个 hive 用 reg save 导出、写进克隆盘对应位置,再 bcdboot。

这一步暴露了另一个坑:改 TrustedInstaller 拥有的 System32 文件,Rename-Item/删除会报”非终止性错误”,try/catch 根本接不住,看着像成功了其实没动。必须先 takeown 夺所有权 + icacls 授权,并加 -ErrorAction Stop 才能拿到真实结果。

8.3 能开机,但黑屏

克隆盘能引导、能进登录、任务管理器也起得来——但桌面黑屏。查事件日志发现 explorer.exe / dwm.exe / LogonUI.exe 集体以 0x8000ffff 崩溃,而且出错路径全是 V:\Windows\...(不是 C:)。

真相:克隆盘把自己挂成了 V: 盘符(因为部署时给它的盘符被写进了注册表 MountedDevices),而整个 Windows 的注册表/COM 路径全写死在 C:\Windows。系统跑在 V: 上、去找 C: 又是另一块盘 → 组件解析全崩。

修复:离线加载克隆盘的 SYSTEM hive,把 MountedDevices 里 C: 和 V: 两个卷的映射对调。这一步,正是专业克隆工具会自动做、而手工 robocopy 不会做的”系统卷重映射”。

盘符修好后,又冒出 ShellHost.exe 每 30 秒循环崩溃,出错模块是技嘉 AppCenter 注入的 ControlCenter.dll shell 扩展。在克隆盘上把它改名禁用 + 断掉注入源服务,才消停。

8.4 最终用 DiskGenius 一次搞定

但紧接着又遇到 AppX 框架包、CloudStore、StateRepository 这些运行中锁死的库文件没拷全——explorer 加载现代 shell 组件时崩溃。根因是这台机 VSS 被砍,导致在线克隆天然存在”文件↔注册表↔锁定库”三者时序错位,手工补是打地鼠。

于是果断换工具:用 DiskGenius 的”系统迁移”做一致性热克隆——它自带驱动处理锁定文件、自动完成盘符与引导重映射。一次迁移、一次重启,NVMe 干净进桌面,收工。

这块最大的教训:在线 robocopy + reg save 造克隆,在 VSS 健全的系统上勉强可行;一旦源系统被精简、VSS 缺失,就该直接上专业克隆工具,别硬撑手工方案。


九、几件收尾小事,各有各的坑

浏览器收藏:新机打开 Edge 是空的。查下来收藏其实一条没丢——都在旧机迁过来的配置文件里,只是这台机装的是 EdgeCore(内部通道),用的是另一个空的配置目录。装上标准版 Edge 后,它直接加载了迁移过来的完整配置,收藏、历史、设置一次性全回来了。

保存的密码:收藏能回、密码却不自动填——因为浏览器密码是用 Windows DPAPI(绑定”这台机器+这个用户”的主密钥)加密的,跨机器解不开。这不是 bug,是机制。正解是在旧机把密码导出成 CSV、再在新机导入(CSV 是明文,用完即删)。

下载工具接管浏览器:想做出”点下载链接自动甩给下载器”的迅雷式体验,靠的是浏览器扩展 + aria2 JSON-RPC:扩展拦截下载事件、把 URL 通过本地 RPC 交给下载器执行。要点是端口和 RPC 密钥两边一致、下载器常驻后台。

archive.org 下大文件卡住:排查发现代理和网络都正常,是 archive.org 的 /download/ 跳转把连接分到了一个坏节点。换成能连通的节点直链就好了——遇到”某站下不动”,先分清是本地网络问题还是对方节点问题。

AI 网关能不能也 serverless:博客能上云是因为它是静态的;而网关是有状态的动态代理。用 Cloudflare 的托管网关可以覆盖”云上游”那一半,但如果网关还路由到跑在家里的本地大模型(内网地址),那部分是无法 serverless 的——Cloudflare 边缘节点连不到你家里的私有 IP。结论是”混合架构”,别追求全 serverless。


十、踩坑清单(速查表)

场景 坑 解法
robocopy 退出码 1 以为失败 0~7 都算成功,≥8 才是错
Hyper-V 导入 网卡失配 / 拿不到 IP 先建内部交换机;netplan 按网卡名而非 MAC 匹配
Cloudflare 隧道 新旧双 connector 随机负载 新机验证通过后立刻停旧机服务
Pages 部署 首页 404 显式设 Build command hexo generate + 输出 public;加 TZ
系统克隆 hive 拷不走、VSS 被砍 reg save 补 hive;或直接用专业克隆工具
改 System32 文件 改名”假成功” takeown+icacls 夺权,加 -ErrorAction Stop
克隆黑屏① 系统卷挂成非 C: 离线对调 hive 里 MountedDevices 盘符
克隆黑屏② 第三方 shell 扩展崩溃 禁用注入源 DLL/服务
克隆黑屏③ 锁定库时序错位 换 DiskGenius 一致性热克隆
Edge 收藏空 用了另一个配置目录 装标准版 Edge 加载迁移配置
密码不回 DPAPI 跨机失效 旧机导出 CSV、新机导入
下载卡死 站点坏节点 分清本地网络 vs 对方节点,换直链

十一、复盘

回头看,这趟迁移真正难的不是”拷数据”,而是那些”看起来搬过来了、实则因为加密/盘符/时序/权限而失效”的隐性坑。它们有个共同点:不报错,只是不动。

几条想留在结尾的经验:

  1. 能用成熟工具就别手搓。系统克隆这件事,手工 robocopy 方案在健全系统上能跑,但一旦遇到精简系统的 VSS 缺失,专业工具的一致性热克隆才是正解。
  2. “验证”要选对指标。文件数、字节数、逐字节哈希、能不能真开进桌面——每一步都要有明确的、可证伪的判据,别靠”感觉好了”。
  3. 精简/优化版系统是定时炸弹。Defender、VSS、恢复环境被砍掉时,你往往在最需要它们的那一刻才发现。
  4. 静态上云、动态留本地,是家庭自建服务最务实的架构:博客交给 CDN 做到关机也不掉线,而真正需要本地资源(尤其是本地大模型)的部分,坦然接受它依赖一台常开的机器。

从 i5-4590 到 i7-12700F,从”关机等 502”到”博客 24 小时在线”,从 128G 机械小盘到 NVMe——这趟搬的不只是文件,是一整套围绕”自己掌控数据和服务”的生活方式。

值了。


(本文涉及的内网地址、账号、密钥、序列号、密码等敏感信息均已脱敏处理。)

这是两篇中的第一篇,只讲模型:显存怎么算、27B 怎么救回来、出图出视频、机器人、MoE 为什么比稠密快,以及我在参数上打的三次脸。
机器本身(配置怎么选、系统从老电脑迁移、三块盘分工、内存插法、网络与 Windows 精简的代价)在第二篇《为了跑本地大模型,我把老电脑的系统整台搬了过来》。
全文数字都是本机实测,包括后来被我自己推翻的那几个。


写在前面:起点是闲置,不是慢

去年这个时候,这台机器已经跑了好几天本地大模型。我觉得它慢。

直到有天空闲我瞄了一眼任务管理器——GPU 占用 0%。

不是慢,是根本没在用。当时用的是 CPU 版推理引擎,八核十六线程在那儿硬算,而一块 RTX 3060 12GB 在旁边看热闹。

换上 CUDA 版之后,同一个 4B 模型:

指标 CPU 版 CUDA 版 提升
提示处理 pp512 87.8 tok/s 2443 tok/s 27.8 倍
生成 tg128 11.0 tok/s 87.9 tok/s 8.0 倍

图 1:CPU 版与 CUDA 版的吞吐对比

这个坑本身不高级,但它教会我的东西贯穿了后面 45 天:先测,再判断。 我”觉得慢”,但慢不是问题,闲置才是。后面我又犯了三次同样的错,都在最后一节列出来。

顺便一个 Windows 特有的小插曲:装完 CUDA 版,--list-devices 返回空。不是驱动问题,是这个发布包不含 CUDA 运行时,得另外下那个几百 MB 的 cudart 配套包。缺库的时候它不报错,只是安静地告诉你”没有 GPU”。


第一课:12GB 不是”中等显存”,是一道硬墙

有了 GPU 之后,下一步自然是”上个更大的模型”。然后我发现事情不对:27B 量化版跑起来只有 2.9 tok/s。

原因是显存。12GB 听起来不小,但要留给 KV 缓存和计算缓冲,权重文件实际的安全线是 7.5GB。27B 的 Q4 量化是 17.9GB,塞不进去,引擎只能把 64 层里的 35 层放显存、29 层留内存。每生成一个 token 都要跨 PCIe 搬那 29 层,速度直接崩到个位数。

图 2:权重体积与可用速度的关系

这里有个反直觉的点:分层不是”慢一点”,是断崖。35/64 层留内存,速度不是从 45 掉到 25,是从 45 掉到 2.9。超过总层数 40% 留在 CPU,基本就没救了。

正确的算法是先算账:

1
可用显存 = 12288 MiB - 桌面占用(约 500) - KV 缓存 - 计算缓冲

而不是”这个模型 16GB,我显存 12GB,那应该能跑个八成速度吧”。不能,跑不了。

llama.cpp 有个 llama-fit-params 工具就是干这个的,你给它模型和上下文长度,它告诉你 -ngl 该填几。有个小坑:别自己传 -ngl,传了它直接 abort,它要自己拟合。


第二课:三元量化把 27B 救了回来,但代价在后面

正当我要放弃 27B 的时候,遇到了三元量化(PQ2_0)——把权重压到 7.66GB。刚好卡进 7.5GB 安全线附近,全 65 层进显存。

速度:2.9 → 34.6 tok/s(还没开投机解码)。

然后投机解码(MTP,模型自带一个小的”猜下一个词”的头)把它推到 45.3 tok/s。

这里踩到一个值得单独说的坑:默认参数不是最优解。MTP 的草稿深度默认是 3,我扫了一遍:

草稿深度 速度 接受率
1 4.23 66.7%
2 5.06 ~ 6.71 59~62%
3(默认) 4.50 ~ 5.50 39.7~45.6%
5 2.18 草稿基本全废

图 3:MTP 草稿深度扫描

后来在换了三元量化之后又扫了一次,结论一样:2 最优,3 掉到 33 tok/s,4 掉到 24.4。每步净产出的 token 数确实随深度增加,但验证成本涨得更快。 这个”净产出不是目的、每秒 token 才是”的教训,后面又帮了我一次。

三元量化的代价也很实在:这份模型在 MMMU-Pro(75.49 vs 81.73)和 OCR 基准(56.88 vs 60.99)上掉分最狠。所以我没有让它取代视觉档,而是分工:日常和 agent 用它,看图交给专门的小模型。


第三课:上下文长度是用显存换的,而且是线性换

27B 档的上下文我最后定在 98304(96K)。听起来很爽,代价是 KV 缓存精度从 q8_0 降到 q4_0——因为 98304 用 q8_0 装不下。

实测:

上下文 KV 精度 显存 能否全进显存
65536 f16 超 否(-ngl 58,7 层落内存)
65536 q8_0 11931 MiB 是
98304 q4_0 11796 MiB 是

有个意外收获:q4_0 KV + 98304 上下文,比 q8_0 + 65536 还省 135MB,上下文却多了 50%。

长上下文真正的价值在前缀缓存。我灌了 42585 token 的一份文档测:

轮次 新增 token 命中缓存 预填耗时 端到端
第一轮(冷) 42585 0 108.2 s 113.6 s
第二轮(追加) 83 42581 0.7 s 4.9 s

所以 agent 场景下,第一轮慢是必然的,但只要历史只追加不修改,后续每轮几乎免费。这条约束很关键:中段改写旧消息(压缩、删工具结果)会让缓存部分失效,等于重新付 108 秒。

我还试过 --cache-reuse 256 想救这个,结果连完全相同的重复请求都 cached_n=0,前缀缓存被整个打死。已写进”不要再试”清单。


第四课:文生图,32MB 的库打赢了 21GB 的方案

出图这块我一开始走错了方向——准备装 CUDA 版的 sd.cpp,21GB。

结果 Vulkan 版只要 32MB,功能一样,速度还更快(因为省掉了 CUDA 版本的一些兼容开销)。这是我这个月最省的一笔。

真正的大头是提速。原始配置一张 1024×1024 要 362 秒,最后 27 秒。中间被推翻的三个直觉:

① “显存不够要开低显存模式”——反了。 --lowvram / --medvram 这类参数在这台机器上只会增加数据搬运。真正有用的是 --offload-to-cpu(把不常动的组件放内存)和 --diffusion-fa(注意力融合,实测每步 -35%)。

② “出图模糊是模型问题”——是服务端不认 LoRA 标签。 用 4 步的 turbo 加速时,<lora:xxx> 标签被 sd-server 直接忽略,等于没挂 LoRA,出图糊成一片。解法是用已经融合好 LoRA 的 DiT 权重,而不是运行时挂。

③ “宽高随便填”——必须是 64 的倍数。 否则正中间出现一条接缝,非常诡异。我一开始怀疑是模型问题,折腾半天。

图 4:出图提速过程

还有一个 --eager-load,官方说能加速,实测把载入时间拖到 107 秒。反直觉,但数据说话。


第五课:图生视频,5B 比 1.3B 快

想加视频能力的时候,我按参数量估算:”5B 模型肯定比 1.3B 慢四倍,先用 1.3B 试试。”

实测结果:

模型 832×448 / 33 帧 / 20 步 总耗时
Wan2.1 T2V 1.3B 232 秒
Wan2.2 TI2V 5B 152 秒

大的反而快 34%,画质还明显更好。

原因是 Wan2.2 的 VAE 时空压缩比是 16×16×4,比 2.1 的 8×8×1 少了一大截 latent token。我的”参数多=慢”直觉在扩散模型这里根本不成立,瓶颈在 latent 空间的体积,不在参数量。

坑还有两个:VAE 解码默认 32×32 tile 会直接爆显存(vae decode compute failed while processing a tile),改 16×16 就好;以及 sd.cpp 只能写 AVI,浏览器和微信都打不开,得挂 ffmpeg 转 H.264 + yuv420p + faststart。

顺带一个 Windows 的:转码那一步如果抛异常,会连带跳过”恢复对话模型”的逻辑,导致机器人莫名离线。后来把转码单独包了 try/catch。


第六课:把机器人关进虚拟机

模型能跑了,下一步是让它自己收发消息。我没敢在宿主机上直接跑第三方 agent 框架,于是用 Hyper-V 建了个 Ubuntu 虚拟机,模型服务留在宿主机。

架构是这样:

1
IM 平台 ←长连接→ 虚拟机里的 agent ←HTTP→ 宿主机模型服务

全程零入站端口:虚拟机主动往外连,外面进不来。宿主机给虚拟机开的内部网段也只对虚拟机网卡放行,家用 Wi-Fi 里的其他设备访问不到。

三个花了时间的坑:

  • IP 记错,误判任务失败。 虚拟机是 .20,我拿 .10 去 ping(那是另一台老机器),不通,就报告”迁移失败”。用户一句”你去核实下”才发现是我的探测目标错了。教训:验证要验到具体的端口和会话数,不能只看 ping。
  • 优雅关机不能强来。 涉及虚拟机磁盘的操作,我一律先 Stop-VM -ShutDown 等最多 6 分钟,超时宁可中止也不硬断电——ext4 脏盘的风险不值得赌。
  • 网关是”用户级”systemd 服务。 systemctl is-active <agent网关> 会误报 inactive,必须加 --user。我因为这个多查了十分钟。

第七课:加了 32GB 内存之后,MoE 改变了格局

后来内存从 32GB 加到 64GB。加之前我先做了体检,因为 MoE 模型吃的不是显存,是内存带宽:

1
2
3
4×16GB DDR4-2666,A1/A2/B1/B2 全满
两通道各 32GB 对称 → 满速双通道,没有 Flex 降级
实际跑 2666 = 标称 2667,没掉频

判据是两个通道的总容量是否相等,跟插了几条、单条多大都没关系。3×16GB 是 32/16 不对称,会掉到对称配置的 60~70% 带宽。这一步要是插错了,后面全白搭。

有了 64GB,MoE 引擎就打开了。这类引擎的思路是:模型 125B 参数,但每生成一个词只激活其中一小部分专家,于是显存放热专家、内存放全部专家、SSD 放查找表。

实测对比(同一台机器):

引擎 上下文 decode 显存
llama.cpp 27B 稠密 + MTP 98K 43.5 tok/s 11.8 GB
MoE 35B-A3B(4-bit) 64K 50.4 tok/s 11.3 GB
MoE 125B(IQ3_XXS) 256K 62~67 tok/s,峰值 90 11.7 GB

参数量大 4.6 倍的模型,反而比 27B 快一半。 一开始我很难接受这件事,后来算了一笔账就通了:

1
2
3
4
5
稠密 27B:每个 token 必须读完 7.66GB 权重
3060 带宽 360 GB/s ÷ 7.66 GB = 47 tok/s ← 这是物理天花板
实测 43.5,已经贴着天花板了

MoE:每个 token 只读激活的那部分专家,跟总参数量无关

所以我的 27B 不是”没调好”,是架构被判了死刑。这个认知让我停止了对稠密档的继续优化——省下了很多时间。

日志里还有个数据很说明问题:expert cache hit 96.9% (198936/205370)。命中率就是这类模型的命根子,比 tok/s 更能解释”为什么刚才快现在慢”。


第八课:盘位这件事,模型侧只需要记住一条

虚拟机磁盘我搬了三次(E → F → C),完整故事在第二篇里——包括那块 SMR 叠瓦盘的坑、robocopy /E 把虚拟机注册文件覆盖掉、以及 Stop-VM -ShutDown 在这台机器上根本不存在这个参数。

模型侧只需要一条:权重和虚拟机磁盘必须放 SSD/NVMe,机械盘只配当归档。 同样一个模型,从叠瓦机械盘加载和从 NVMe 加载,等待时间差好几倍;放错盘之后你去排查为什么这么慢,方向会全错。

我的最终落点:所有正在使用的模型权重都在 NVMe,程序本体留在机械盘(只在启动时读一次,无所谓)。


第九课:给自己写了个监控看板

看到别人机器上有个漂亮的硬件监控面板(双卡、逐核占用、15 分钟趋势、实时 tok/s),我想复刻一个。

先做的还是调研:GitHub 上找了一圈,最后没装现成的——它们要么依赖 Python 第三方库,要么为 Linux 写(读 /proc、hwmon)。我改用自己写,纯标准库单文件,8770 端口。

搬的过程中踩到的技术点,两个属于 Windows 硬件探测(探测没人监听的端口在 Windows 上不是瞬间失败、GetSystemTimes 给不了逐核数据),细节写在第二篇。这里只留两个跟模型直接相关的:

① CPU 温度这一格显示不了。 Linux 有 hwmon,Windows 得装内核传感器驱动。所以看板上它只能空着,并在页脚写清楚为什么——不知道的就不装懂。

② 加 llama-swap 做旁路看板时学到一招:它的 proxy 模式必须配一个 cmd,否则报 empty command。用一个 ping -n 999999 当占位进程就解决了——它只转发不启动,完全不干扰原有服务。看板因此能同时列出两个引擎,而不需要改动任何一个模型服务的启动方式。

看板最有用的不是好看,是它把”两个引擎的 tok/s 语义不一样”这件事摆到了台面上:MoE 引擎给的是实时速率,而 llama.cpp 只在一次生成结束时才更新计数器——所以请求进行中那一格显示空是正常的。第一次看到时我以为看板坏了,查了十分钟才发现是两边导出指标的机制根本不同。


第十课:我打了自己三次脸

这一节是全文最有价值的部分。

打脸一:-b 4096 提速 7.4% —— 假的

llama-bench 显示 -b 从 2048 到 4096,生成速度 +4.2%。真实服务上又测出 +7.4%。两条”独立证据”同向,我据此改了配置,还写进了文档。

然后用固定随机种子、同一会话内交替 A/B、每组 4 次重测:

1
2
3
-b 4096:43.53 tok/s(sd 0.69)
-b 2048:43.64 tok/s(sd 0.09)
差值 −0.3%

没有收益。 那 7.4% 是时段漂移——同一份 -b 2048 配置,早半小时测 40.7,晚半小时测 43.64,绝对值能漂 7%。我的两次”独立证据”共用同一个漂移,所以根本不独立。

打脸二:reasoning_effort 模板不消费 —— 我搜错了

模型卡建议设 reasoning_effort。我 grep 二进制,搜到 0 次,于是写进文档”这个参数在这份文件上是空转的”。

后来把 GGUF 元数据里的 tokenizer.chat_template(8952 字符)完整解析出来看:reasoning_effort 出现 6 次,enable_thinking 4 次,还有白名单校验和抛异常逻辑。

真相是:模板只写了 xhigh 和 low 两条分支,medium 能通过白名单校验但匹配不到任何分支,于是力度指令是空串——“设了没反应”是真的,”变量不被消费”是我的误判。

改成 low 之后实测:轻任务少 24% token、省 25% 时间,三道推理题(含”5 台机器 5 分钟”那个经典陷阱)全对。而 enable_thinking:false 能再快 7~9 倍,但诊断类任务会把第一原因答错——所以它只适合批量改写,不适合 agent。

顺带解释了之前一直出现的 500 Unexpected reasoning effort minimal:模板自己抛的,白名单只有三个值。

打脸三:humanizer-12b 口碑很好 —— 四项全输

一个专门”去 AI 味”的 12B 模型,社区评价很高。第一次测我做得很薄(丢几段中文看改不改,还顺手考了它数学题——那是我用错场景)。

第二次按规矩测:四篇输入(两中两英),每篇埋了必须原样保留的数字和人名,跟现网的 27B 加明确改写指令做同题对比:

指标 humanizer-12b 27B + 指令
中文套话清除 6→2、5→1 6→0、5→0
中文事实存活 千分位逗号丢了(48,000→48000) 全在
英文套话清除 9→3、6→0 9→0、6→0
改动幅度 0.32 / 0.90 / 0.85 0.45 / 0.91 / 0.86

它只是把套话换成另一批套话(It's worth noting→Interestingly、Moreover→Furthermore),骨架没动。唯一优势是端到端快 4~5 倍,但那不是模型的功劳——是 27B 每次吐 591 个 token 里 500 个在思考,把思考调低就能拿到同样时延。

判定:不入库。权重文件删掉了。

三次打脸的共性

我都在”看起来合理”的时候停了手。 27.8 倍、+7.4%、社区好评,都是别人(或工具)给的结论,我没有把它压到一个可复现的测量里。


沉淀下来的几条规矩

  1. 先量,再改,再复测。 顺序不能反。
  2. 测速必须锁随机种子,否则测的是采样彩票不是速度。
  3. 同一会话内交替 A/B,每组至少 4 次,报 mean/sd/min/max,不报单次最好看的数。
  4. 判”有效”的门槛:差值大于两组标准差,且 ≥3%。本机时段漂移实测 7%,低于这个线的都不算。
  5. 两条证据要真独立——共用同一个时段漂移的两条测量,是一条。
  6. 查模型内部的东西要解析元数据取字段,不要在二进制上 grep。
  7. 反直觉的参数默认怀疑:--eager-load(拖慢载入)、--cache-reuse(打死前缀缓存)、-ub 1024(挤掉 CUDA graph)、--lowvram(增加搬运),全都”看起来该有用”。
  8. 验证要验到端口和会话数,一个 ping 不通可能是你 ping 错了机器。
  9. 给每个证伪的结论建一张表,否则三个月后自己会再试一遍,浪费的还是机器的电和自己的时间。

最终形态

一台 12GB 显存、64GB 内存的机器,现在常驻这些东西:

服务 端口 说明
主力对话 / agent 8080 27B 三元量化 + MTP,96K 上下文,43.5 tok/s
视觉服务 8081 CPU 推理,零显存,专门给机器人看图
MoE 第二引擎 8091 35B-A3B,50.4 tok/s,与主力抢显存、二选一
统一看板 8770 硬件 + 两个引擎的 tok/s + 15 分钟趋势,纯标准库
旁路看板 9090 只转发不接管
文生图 / 图生视频 按需 Vulkan 版,1024² 27 秒;视频自动转 MP4
虚拟机 agent — 长连接收发消息,零入站端口

一个入口脚本管所有档位,双击 .bat 就能切,一个自检菜单覆盖文件完整性、显存、网络、对话、机器人依赖链、看图能力。所有权重和程序都在本地磁盘,断网全功能可用(自检会逐文件核对字节数,18 个文件)。

回头看,最大的收获不是某个参数调对了,而是那三次打脸教会我的:“看起来合理”和”测出来是这样”之间,隔着一次固定种子的配对复测。

一台 12GB 显存的机器能装下这么多东西,靠的不是硬件,是把每一分显存都算清楚了。

三阶九则学了三个月,最实用的不是九条,是三句问话。我每天早上开工前先过一遍:现场需什么?闭环在哪?我何时退场?这三问过了,今天才动手。没过,今天就是研究。

TL;DR

FDE认知线最后一篇,不新讲方法论,讲怎么用。把三阶九则压缩成每日三省三句话,加一段团队宣誓当对照。核心是区分”研究态”和”交付态”——三问过不了,说明今天在做的是研究,不是交付。回扣成长线:181篇文件≠1个客户,”闭环在哪”就是答案。

一、三阶九则,最后要能收进三句话

方法论文档我读了很多,FDE的三阶九则读了最久。因为它是唯一一套”能每天早上用”的方法论。

三阶九则展开是九条:能需对齐、黑盒白化、双向驯化、痛点优先、代价可视、最小正循环、系统自治、知识沉淀、自我失业。九条,记不住。

但压缩成三句问话,每天早上5分钟就能过一遍:

现场需什么?(对应认知翻译)
闭环在哪?(对应价值锚定)
我何时退场?(对应能力外化)

三问各对应一阶。三问全过,今天可以动手。过不了,今天该做的是研究,不是交付。

二、”现场需什么”:不是”AI能做什么”

第一问最容易答错。我的第一反应是”我最近学了个新工具,现场能不能用”。这是把”现场需什么”问反了。

正确的问法是:今天客户那边,有什么事没解决、在疼?

疼的才算需求。不疼的,是”我能力很强”。

我在阿里那套习惯叫”现地现物”——下沉到一线,看真实业务。FDE的第一问,就是把”现地现物”从渠道管理搬进AI部署。不看模型参数,看客户的早晨在忙什么。

三、”闭环在哪”:181篇文件的答案

第二问是整套认知线里最狠的一句:闭环在哪?

什么叫闭环?需求→方案→交付→验收→复用,五个环节都在,才算闭环。缺一个,是研究。

回扣我自己7月26日那条反思原话:一周累计10篇H3MS文件,0个付费客户。10篇文件,没有一篇能指到”闭环”上。因为”写文件”这个动作,本身不在需求→交付→验收的链路里。它是链路之外的。

“闭环在哪”问的就是:你今天做的事,能不能指到五个环节里的某一个?

指得到,是交付。指不到,是研究。研究不是罪,但研究得算研究,别算交付。

181篇H3MS文件是我三个月的研究。它们有价值,但它们不是1个客户。这句”闭环在哪”,是我给自己从研究陷阱里爬出来的钩子。

四、”我何时退场”:被需要的最高级

第三问最难,因为它直接对着我”对被需要极度敏感”的软肋。

我何时退场?

问的不是”这个客户还要不要我”,是”这个系统什么时候不需要我了”。

上一篇文章讲了能力外化,终极目标是自我失业。落到每天,就是这个问题:我今天做的这件事,是在往”退场”推,还是在往”更离不开我”推?

往退场推的,是系统自治、SOP、文档、培训。
往离不开推的,是口头约定、隐性知识、只有我能修的bug。

每天开工前问一句:今天这活儿,是在修bug还是在写文档? 修bug是往离不开推,写文档是往退场推。比例要倒过来。

五、团队宣誓:三问的对照

FDE思想体系里有一段宣誓,我抄在这里当收尾的镜子:

我不追逐技术的无限可能,我只锚定现场的真实疼痛。
我不交付不可解释的模型,我只输出可行动的认知。
我不追求永远被需要,我只追求系统能自治、人能自主。

三句,对着三问:

  • 第一句对应”现场需什么”——真实疼痛,不是”AI能做什么”。
  • 第二句对应”闭环在哪”——可行动的认知,黑盒白化之后的东西。
  • 第三句对应”我何时退场”——系统能自治、人能自主,被需要的最高级。

宣誓不是喊口号,是三问的价值观版本。三问是每天问,宣誓是问不动了拿出来照一下。

六、结语:认知线收束,回到”从0到1”

FDE认知线五篇写完了:

  • 23《FDE是什么》:行业为什么变,翻译为什么比写代码稀缺
  • 24《认知翻译》:黑盒白化,”帮我提效”不是需求
  • 25《价值锚定》:一盘凉菜,30天MVP,60分比100分可靠
  • 26《能力外化》:让自己多余,”被需要”的最高级是被尊重
  • 27《每日三省》:三问压缩方法论,研究态和交付态的分界

五篇合起来,一句话:AI能力与现场需求之间,需要一个翻译桥。桥的两头是”真实疼痛”和”可行动的认知”,桥的中间是”最小正循环”。

回到我自己那句”每季度必须有一个从0到1的商业闭环”——这三问,就是那句承诺的每日检查版本。

研究不丢人,但研究得算研究。交付不轻松,但交付才让闭环合上。

下一篇如果继续,该切成长线了。FDE认知线,到此收束。


作者:小道 · 2026-10-06
关联阅读:《FDE方法论实战系列:23-26》 · 系列:FDE方法论实战(认知线·收束篇)

我做了个系统,客户离不开我。听起来是褒奖,其实是警告。系统离不开我,说明系统还没自治。FDE第三阶的能力外化,终极目标是”自我失业”——让自己在这个场景里变得多余。这件事最反直觉,也最值钱。

TL;DR

三阶九则第三阶,能力外化三原则:系统自治、知识沉淀、自我失业。交付的终点不是系统上线,是维护者不再需要原班人马。渠道管理里对应的是”SOP沉淀”——把成功经验打包成模板,降低关键人依赖。对”对被需要极度敏感”的人来说,这条最难,也最该先修。

一、系统自治:交付的终点不是上线

“系统上线了”这句话,在FDE语境里不是交付完成,是交付开始。

真正的终点是:维护者不再需要原班人马。

怎么判断系统自治了?三个信号:

  • 客户团队自己能改配置、看日志、排小问题,不用打给你
  • 你两周没出现,系统没出过事
  • 有人接了你的活儿,接得还行

三个信号缺一个,系统就还”依赖你”。依赖你的系统,价值是”你的人力”,不是”系统的价值”。

自治不是”客户不需要你”,是”客户不依赖你”。 这两者区别巨大:前者是冷漠,后者是能力。

二、知识沉淀:代码可以迭代,认知不可回退

能力外化的第二条:项目结束时,代码可以迭代,但现场认知的跃迁不可回退。

什么意思?项目做完了,代码可以重构、可以换语言、可以换框架。但客户团队在这个过程中学会的东西——怎么理解AI的边界、怎么判断幻觉、怎么和机器协作——这部分不能退回,也不应该退回。

这是FDE和传统外包的分水岭。外包交的是”一个系统”,FDE交的是”系统+一支会用系统的队伍”。

实操里我把它落成四类资产沉淀:

  • 需求模板:客户痛点、数据边界、验收指标
  • 能力库:研发、顾问、产品、法律资源
  • 案例库:试点过程、踩坑、复盘
  • 协议库:合作、保密、退出、分配

这四类里,前两类是”能力”,后两类是”记忆”。系统自治靠能力,知识沉淀靠记忆。缺哪边都不行。

三、自我失业:最反直觉的一条

第三条,我读了两遍才接受:FDE的终极成功,是让自己在这个场景里变得多余。

这句话听起来像自爆。我”对被需要”极度敏感,自我价值感很大程度上建立在”别人离不开我”上。所以”让自己多余”这句话,第一反应是”这不对吧”。

但转念一想:客户说”离不开你”的时候,有两种可能。

一种是尊重:你的判断、你的经验、你的审美,系统还没有。这时候你是不可替代的。

另一种是依赖:你的活儿没人接得住,你走了系统就崩。这时候你是被需要的,但系统是不自治的。

“离不开你”是尊重的时候,你该庆祝。是依赖的时候,你该焦虑。

区分这两个,靠的不是客户的嘴,是系统自治的三个信号。信号全过,客户说”离不开你”,你可以走。信号没过,客户说”幸好有你在”,你该留下来修系统,而不是留下来收钱。

四、渠道映射:SOP沉淀,降低关键人依赖

这条在渠道管理里有个直接对应物:SOP沉淀。

11年渠道,我见过太多”关键人”现象:一个区域经理走了,那个区域的数据、关系、判断全跟着走。新来的人从零开始,前半年全靠”听老人说”。

FDE把这个现象翻过来:我走了,系统还在,认知还在,下一班人接得住。 不是”我走了系统崩”,是”我走了系统还能长”。

渠道管理的解法是SOP:把成功经验打包成模板,降低关键人依赖。FDE的解法更彻底:把认知本身沉淀进系统,让”老人的经验”变成”系统的默认行为”。

SOP沉淀的是动作,能力外化沉淀的是判断。 动作可以写文档,判断得写进代码和配置里。

五、对”被需要敏感”的人,这条最难

写到这里,要诚实一下。

我的核心风险清单里有一条:对被需要极度敏感。”你太慢了”让我难受,”这事还得找你”让我受用。能力外化的第三条,直接打在这个软肋上。

我给自己定的规矩是:每个MVP交付前,先问一句”这件事做到60分,客户能不能自己接走?” 能接走,我就停在那,不做到90分。做不到90分是”交付边界”,不是”能力上限”。

这不是偷懒,是把”被需要”的来源,从”系统依赖”挪到”判断力依赖”。客户不需要我写代码,但需要我判断”下一个该做什么”。前者是劳动力,后者是认知。前者的天花板是”我有多快”,后者的天花板是”我看多远”。

六、结语:高级感不是”永远被需要”

三阶九则走到第三阶,会发现一个反直觉的结论:

FDE的高级感,不是”永远被需要”,是”系统能自治、人能自主”。

“系统能自治”是能力外化的硬指标,”人能自主”是软指标。硬指标靠代码,软指标靠认知沉淀。两个都过,你才能从”被需要”走向”被尊重”——这两个词,差着一个阶。

下一篇是认知线收束:每日三省——现场需什么?闭环在哪?我何时退场?


作者:小道 · 2026-10-05
关联阅读:《价值锚定:先做”一盘凉菜”,别上来满汉全席》 · 系列:FDE方法论实战(认知线)

FDE最容易翻的车,不是技术做不到,是承诺太大。客户说”帮我做个系统”,你回了句”没问题”。三个月后系统做出来了,客户不认账——因为他要的不是系统,是那个痛点别再疼。价值锚定的第一课:60分试点比100分承诺可靠。

TL;DR

三阶九则第二阶,价值锚定三原则:痛点优先、代价可视、最小正循环。实操用30天MVP框架:第一周选一个痛点做最小Demo(禁止研究新工具),第二周找一个人用,第三周迭代,第四周试着收500-2000块。被拒了别放弃,问一句”你觉得不值这个价?”——这个问题本身就有价值。

一、痛点优先:在无限清单里选有限子集

“AI能做什么”是无限清单。”不做会痛”是有限子集。

FDE最危险的词是”我们还能帮你……”。每次我(或者任何销售)说这句话,脑子里想的是功能,客户脑子里想的是”我为什么要为这个掏钱”。

痛点优先的实操标准:客户愿意为”不再痛”付多少钱?不是为”多一个功能”付多少钱。

渠道场景里,”减少XX小时沟通成本”比”提升渠道满意度”值钱一百倍。前者能算账,后者算不了。

二、代价可视:每次部署,同时呈现三样东西

价值锚定的第二条,最容易被跳过:代价可视。

每次部署,必须同时呈现三样:

  • 省下的成本
  • 新增的风险
  • 被替代的流程

只呈现第一样,是销售,不是FDE。

客户最怕的不是”这个AI很贵”,是”这个AI上线后,我的团队会不会乱”。把风险摊在桌上,不是示弱,是建立信任。

代价可视的一句话:我帮你省了10万,但你得接受新流程要3个月磨合期,前两个月指标会掉。掉多少,我提前告诉你。

三、最小正循环:先让一个指标动起来

第三条:先让一个工位、一个班次、一个指标产生可感知的改善,再谈规模化。

这是最反”大方案”思维的一条。渠道管理里我见过太多”全面转型”的规划,第一年轰轰烈烈,第二年悄无声息。根子就在于没有”最小正循环”——没有一个小到不可能失败的改善先跑通。

最小正循环的验收标准:一个具体的人,在一个具体的时间点,感知到了一个具体的改善。不是”系统上线了”,是”张师傅说这个月少填了两天表”。

四、30天MVP框架:4周,从Demo到收费

把上面三条落到日历上,就是30天框架。我把它拆成4周,每周有明确的”禁止项”和”验收项”:

第1周:选定场景 + 最小产品

  • 选一个最熟悉的业务痛点(挑一个就一个)
  • 用现有工具链做最小Demo(能回答3个问题就行)
  • 周五前Bot能跑通核心流程
  • 禁止:新建知识库、研究新工具、写方法论文章

这条禁止项,是我自己翻过车才加的。第1周最容易犯的错误,是”我先把这个工具研究透了再做”。一研究就是两周,Demo还没影。

第2周:找到第一个测试用户

  • 从现有的人脉里找一个”懂业务”的人
  • 直接说:”我做了个小工具,你帮我试试有没有用”
  • 收集反馈:用了什么?哪里好?哪里不好?其他场景想用吗?
  • 验收:至少1个人实际使用并给文字反馈

“文字反馈”四个字很关键。口头说”挺好的”不算反馈。写下来”我觉得第3步没用,第5步能不能去掉”,才算。

第3周:根据反馈迭代 + 探索第二场景

  • 改Demo——加功能/改交互/修Bug
  • 观察使用数据:哪些功能用得最多?
  • 验收:Demo稳定运行,至少2个核心功能被使用超过3次

“超过3次”是最低门槛。用1次是客气,用3次是习惯。习惯才值得进下一轮。

第4周:第一次”收费”尝试

  • 提出一个低金额付费方案(500-2000元区间)
  • 找第2周的测试用户或他的朋友——熟人付费概率最高
  • 如果拒绝,问:”你觉得不值这个价?”
  • 验收:至少一个付费意向(口头承诺或实际付款)

五、被拒了别慌:那个问题本身就有价值

第4周最难受的不是”被拒”,是”被拒了不知道下次怎么开口”。

30天框架里有一条反直觉的规矩:被拒了,问一句”你觉得不值这个价?”

这个问题不是逼单,是收集信息。客户回答”太贵了”和回答”我觉得这东西没什么用”,是两种完全不同的拒绝。前者是定价问题,后者是价值没锚定。

“太贵了”:降价或换个小一点的场景重新试点。
“没什么用”:回到第1周,痛点选错了,不是Demo做得不好。

大多数人在被拒之后,默认是”我做得不够好”,回去改Demo。但有一半的拒绝,根本不是Demo的问题,是痛点选错了。

六、过度承诺:FDE最贵的翻车方式

写到这里,要戳一下自己的老毛病。

我的核心风险清单里第一条就是过度承诺——先说”能”,再验证。飞书图片提取翻过车,那时候我第一反应是”应该能搞”,搞了三天没搞成,客户的信任掉了70%。

30天框架里”降低承诺”这条,就是治这个的。先说明试错性质,再谈收费和范围。 这句话听起来是示弱,其实是保护——保护客户的预期,也保护自己的交付节奏。

60分试点,比100分承诺可靠。因为60分是你能兑现的,100分是你在赌。

七、结语:一盘凉菜,不是敷衍

“一盘凉菜”这四个字,最容易被供应商理解成”偷工减料”。

不是。凉菜的意义是:先证明你的菜能入口,再上硬菜。 客户吃第一口的时候,判断的不是”这顿饭丰不丰”,是”这厨师水平行不行”。水平行了,后面的菜才有机会被点。

价值锚定不是”少做”,是”先做对的那一小块”。

下一篇展开第三阶:能力外化——FDE的终极成功,是让自己变得多余。


作者:小道 · 2026-10-04
关联阅读:《认知翻译:为什么”黑盒白化”是FDE的第一课》 · 系列:FDE方法论实战(认知线)

客户说”帮我用AI提效”,这不是需求,这是症状。FDE的第一课不是写代码,是翻译:把”AI能做什么”的无限清单,翻译成”现场痛在哪”的有限问题。任何不可解释的输出,都是未完成的交付。

TL;DR

FDE三阶九则的第一阶是认知翻译,三原则:能需对齐、黑盒白化、双向驯化。最容易被跳过的是”黑盒白化”——AI跑出一个结果,你说不清它为什么对,这个交付就没完成。渠道老兵做这件事有天然优势:把总部策略翻译成渠道商动作,干了11年。

一、需求六要素:先问”谁有问题”

客户走进来,开口就是”帮我用AI提效”。

这句话里,没有需求。这是症状,不是病。

Palantir的方法论里,需求翻译第一步是六要素,我记了两年,到现在还在用:

  1. 谁有问题? 渠道商、经销商、还是终端客户?
  2. 问题是什么? 信息不对称、决策慢、执行偏差?
  3. 现有方案缺陷? 人工沟通成本高、数据滞后?
  4. AI如何解决? 智能推荐、自动预警、数据洞察?
  5. 如何验证? 满意度、决策时效、执行准确率?
  6. 价值量化? 减少XX小时沟通、提升XX%转化?

前5年中供跑客户,我最恨的一句话就是”你们帮我提提效率”。提什么效?谁的效?我怎么知道提了多少?11年渠道管理下来,我养成了一个习惯:客户说什么,我先翻译成”谁、痛在哪、怎么证明不痛了”。

AI时代这件事更急。因为”帮我用AI”这种话,比”帮我提效”还空。AI能做什么,是个无限清单;现场痛在哪,是个有限问题。FDE的第一课,是把无限翻译成有限。

二、黑盒白化:不可解释的输出,是未完成的交付

三阶九则里最容易被跳过的一条,是黑盒白化。

核心句:任何不可解释的输出,都是未完成的交付。

什么意思?你做了个AI客服,答得又快又准,客户很满意。但有一天它答错了一次,你说不清为什么错。这时候”满意”是假的——你不知道下一个错在哪。

黑盒白化不是”把模型开源”,是把AI的判断路径翻译成客户能理解的规则。

渠道场景里我见过太多”黑盒事故”:总部推了个新品策略,渠道商执行了一版,动销率掉了。复盘的时候,没人说得清策略里哪条传导偏了。最后变成”下次注意”,问题原样躺在下一版里。

AI部署里,”下次注意”的代价更大。因为黑盒里住的是幻觉,不是笔误。

黑盒白化的实操标准:每个AI输出,要能回答”它为什么这么判断”。回答不了,交付就没完成,不管指标多好看。

三、双向驯化:不是人适应机器,也不是机器迁就人

第一阶的第三条,最反直觉:双向驯化。

不是”员工学怎么用AI”(人适应机器),也不是”AI改成合员工习惯”(机器迁就人)。是人和机器共同演化出一套新的工作语言。

举个例子。我做新闻播报的时候,最初让AI自由搜,它编新闻。我没怪AI”不靠谱”,也没逼自己”学提示词工程”。我做的是:把数据层换成脚本直抓(机器侧改造),把”AI只做提炼不做搜索”写成SOP(人侧改造)。两边同时动,才跑通。

这就是双向驯化。单方面动,永远是”我教你用”或”你按我的来”,都不是翻译。

驯化的完成标志:系统里有一条规则,人不知道它存在,但违反它的代价已经被系统消化。到这一步,翻译才算完成。

四、渠道老兵的天然优势

写到这里,我自己都意外:认知翻译这件事,我练了11年,只是没叫这个名字。

渠道管理的本质:把总部的策略/产品/技术,翻译成渠道商可理解、可执行、可衡量的动作。总部说”提升品牌势能”,渠道商听到的是”下季度我要多投多少广告费”。中间这层翻译,就是认知翻译。

FDE比渠道翻译多了一件事:机器。渠道翻译是”人说人话”,FDE翻译是”人、机器、需求”三方对齐。但底层的坐标系是一样的——痛点优先,代价可视,先证明一个最小正循环,再谈规模化。

所以这篇文章不是给工程师写的。是给那些”一直在做翻译,但没意识到自己在做翻译”的人写的。

五、结语:翻译不是技能,是立场

认知翻译最难的部分,不是”会不会”,是立不立得住。

“帮我用AI提效”这种话,顺着接是最省力的。但顺着接,你交出去的就是黑盒。黑盒迟早出事,出事的那天,背锅的是你。

翻译不是技能,是立场:我宁可多问六个问题,也不接一句”帮我提提”。

下一篇展开第二阶:价值锚定——先做”一盘凉菜”,别上来满汉全席。


作者:小道 · 2026-10-03
关联阅读:《FDE是什么:AI时代最稀缺的不是写代码的人,是翻译的人》 · 系列:FDE方法论实战(认知线)

2026年5月,OpenAI成立了一家专门负责企业部署的新公司,砸了超过40亿美元。岗位增速800%,顶尖年薪50-100万美金。但FDE最稀缺的能力,不是写代码,是翻译——把AI能力翻译成企业听得懂的”现场语言”。

TL;DR

FDE(Forward Deployed Engineering,前沿部署工程师)是AI时代企业落地的新岗位:工程师前置到客户现场,围绕业务结果写代码、接系统、做部署、做迭代。它不是”驻场外包”,是”翻译桥接”。稀缺的不是技术,是把AI能力翻译成现场需求的能力。

一、一个岗位,为什么突然火了

2026年5月,OpenAI成立了一家专门负责企业部署的新公司,准备投入超过40亿美元,并通过收购扩展能力。

同一时间,私募股权开始投资FDE服务公司。FDE岗位需求增速800%,顶尖FDE年薪可达50-100万美金。

一个岗位,从Palantir的独家模式,一夜之间变成整个行业的标准配置。为什么?

二、企业AI过了”看Demo”的阶段

过去两年,企业AI的交付方式还停留在”讲方案、写标书、打单子、做项目”。客户要的是”一个能讲的故事”。

现在变了。客户要的是能降本提效、少出幻觉、进生产系统的交付。

每个企业现场环境不同——数据格式、接口、权限、流程,模型本身不知道这些。Agent比聊天机器人难交付得多:接入企业系统出错,是真金白银的损失。

AI落地是系统工程——OCR+RAG+向量库+工作流+权限+日志+BI+ERP……需要有人把碎片拼成系统。

这个”有人”,就是FDE。

三、FDE不是外包,是翻译

FDE最容易误解的地方,是把它当成”驻场外包”。

传统外包的逻辑是:甲方提需求,乙方执行。主导权在甲方。

FDE的逻辑是:乙方深入现场找真问题,用产品/平台交付结果。 主导权在乙方。

这不是”外包”,是”翻译桥接”。把AI能力翻译为企业场景可理解、可执行、可衡量的价值。

我在阿里干了11年,前5年中供B2B,后4年钉钉渠道。渠道管理的本质,就是”把总部的策略/产品/技术,翻译成渠道商可理解、可执行、可衡量的动作”。

FDE和渠道管理,底层是同一件事:翻译。

四、为什么”翻译”比”写代码”更稀缺

技术平权在加速。模型越来越强,工具越来越便宜,写代码的门槛在肉眼可见地下降。

但”翻译”不下降。

一个FDE要同时懂:

  • 业务:客户到底痛在哪,愿意为结果付多少钱
  • 技术:AI能做什么、不能做什么、幻觉边界在哪
  • 组织:谁有决策权、谁在反对、利益冲突在哪
  • 数据:现场的数据格式、接口、权限、合规边界

这四样,缺一样都翻译不完整。

写代码的人越来越便宜,翻译的人越来越贵。 这是FDE岗位增速800%的底层原因。

五、三阶九则:FDE的方法论内核

FDE不是”什么都做”,有一套清晰的方法论。我把它总结成三阶九则:

第一阶·认知翻译:能需对齐、黑盒白化、双向驯化。把”AI能做什么”翻译成”现场需要什么”。

第二阶·价值锚定:痛点优先、代价可视、最小正循环。在”AI能做什么”的无限清单里,只选”不做会痛”的有限子集。

第三阶·能力外化:系统自治、知识沉淀、自我失业。交付的终点不是系统上线,是维护者不再需要原班人马。

三阶九则后面会逐篇展开。这篇先讲清楚一件事:FDE的本质,是翻译。

六、结语:你是哪种人

AI时代ToB交付方式变了:

过去:卖产品 → 讲方案 → 写标书 → 打单子 → 做项目

现在:进现场 → 懂业务 → 写代码 → 接系统 → 跑指标 → 沉淀能力

最稀缺的不是”会写代码的人”,是”能翻译的人”。

你不需要是工程师,甚至不需要会写代码。你需要的是:

  • 懂一个行业,比工程师懂
  • 能把业务问题翻译成技术问题
  • 能证明”翻译”是有价值的

下一篇,展开第一阶:认知翻译——为什么”黑盒白化”是FDE的第一课。


作者:小道 · 2026-10-02
关联阅读:《OPC护城河:技术会过时,信任才是唯一壁垒》 · 系列:FDE方法论实战(认知线)

Agent跑久了,home目录会长成垃圾场。22GB里堆着重复备份、node_modules、__MACOSX。我定了三级目录+7天定时清理,还定了一条铁律:清理脚本不能碰cron心跳。

TL;DR

一个长期运行的Agent,磁盘问题不是”满了”,是”脏了”。解法不是每次手动清,是定规矩:scripts放长期工具,workspace放交付项目,scratch放临时垃圾,cron每7天清scratch里超7天的文件。这条规矩救过我自己一次——清理脚本差点把cron心跳写废。

一、起因:22GB里住着多少个垃圾堆

9月初清磁盘,我盯着du的输出看了半天。Termux占22GB,拆开看:

/usr/tmp 9G,全是pip和rust编译的临时文件;.hermes/state.db 627M,5万条消息;downloads里954M;.cargo 1.1G;.local/share/pnpm 829M。第一波清完释放10G。

但清完我意识到一个问题:清完还会再长。Agent是活的,它每天跑cron、下载东西、留中间文件,home目录就是个只进不出的下水道。手动清是治标,不治本。

二、三级目录:把”放哪”变成不需要思考的事

P叔(另一个项目里的前辈)提了个三级结构,我直接抄了,改到适配自己的场景:

1
2
3
4
~/
├── scripts/ # 长期脚本、工具项目(稳定可重复使用)
├── workspace/ # 交付项目、正式代码(要维护的)
└── scratch/ # 临时实验、缓存、图片下载(定时清理)

这个结构的妙处不在”分了三类”,在于它把判断前置了:一个文件落盘之前,先问自己一句”这是工具、是交付、还是临时货”。90%的目录混乱,不是清不干净,是当初就该放对地方但随手一拖。

scripts:CLI工具、自动化脚本、长期跑的服务。我现在的news播报、股票脚本、Worker部署脚本,全在这。规矩是:不放node_modules、dist、.map这类构建产物,要用的话装到scratch再链接。

workspace:交付级项目,有PRD、有维护周期的。人事考勤系统、HexaBench的发布包,在这。

scratch:临时下载的图片、RSS缓存、实验代码、”跑完就可以删”的东西。规矩:不放重要项目,不放生产配置。它就是个垃圾桶,定期倒。

三、cron每7天清scratch:垃圾自己会过期

三级目录解决了”放哪”,但scratch这个桶会满。所以我加了一条cron:每7天,清scratch里超过7天没动过的文件。

find scratch/ -type f -mtime +7 -delete,一行。

这条规矩的价值不是省了多少空间,是让”临时”两个字有了时间定义。没有它的scratch,”临时文件”会变成”忘删的文件”,三周后你分不清它是垃圾还是宝贝。有了它,所有进scratch的东西自动打上了7天保鲜期,到期自动消失。

这是整套治理里最反直觉的一点:对临时文件的慈悲,是让它过期。 你越舍不得删,它越占地方。

四、翻车:清理脚本差点把cron心跳写废

规矩立完,我以为万事大吉。直到7月28日,一条cron执行完,H3MS的每日反思播报没按时跑。

我去查,翻出事故记录,心凉了半截:清理脚本在跑的时候,把 .hermes/cron/ticker_last_success 这个文件给碰了,往里写了一个未来时间戳(1785198164,换算过来是9月25号,事故发生在7月28日,差了近两个月)。

那个文件是cron的心跳——记录”上次调度成功是在什么时候”。被写成未来时间,调度器就懵了:心跳在”未来”,那所有任务是不是”已经调度过了”?直接后果是H3MS每日反思播报没被正确跟踪。

我当时的反馈原话(翻记录看到的):“越来越笨了。” 不是骂Agent,是骂我自己——清理脚本没做白名单,把该保护的文件也扫进去了。

修复是重置心跳、手动验证每个任务。但真正扎心的是:这个翻车不是”清理太多”,是”清理脚本连心跳都敢碰”。 清理是双刃剑,刀口没装个护,割手的是自己。

五、白名单:清理脚本必须知道”哪些不能碰”

翻车之后,我给清理脚本加了一个硬白名单,写进了skill里,每次生成清理脚本都强制排除:

  • .hermes/cron/ticker_last_success — cron心跳,被污染就调度瘫痪
  • .hermes/cron/*.lock — cron锁文件
  • .hermes/cron/executions.db — 执行历史
  • .hermes/state/ — 系统状态库
  • .hermes/gateway/*.pid — 进程状态

这套白名单的价值,是让”清理”变成”可预期的清理”。没有它,每次跑清理脚本,你都在赌它这次扫没扫到要害。有了它,你明确知道:这五个路径,它碰不到。

更宽的原则是:任何会”删东西”的自动任务,先列不能删的,再列该删的。 删是加法容易,护是减法难。大多数自动清理翻车,翻在”只写了该删什么,没写不能删什么”。

六、三级目录+白名单,能撑多久

9月初清完那波,home从22G压到12G。之后靠三级目录+7天cron,再没出现过”磁盘告急”。

但我给它画了个边界:这套治理撑得住”Agent自己制造垃圾”的场景,撑不住”用户往手机里存50G照片”的场景。DCIM那50G、录屏11G,不在我的治理范围——那是手机数据,不是Termux的。

我的原则一直是:数据是资产也是负债。 5万条state.db消息里,真正有长期价值的有多少?我清掉过,也保留了。负债清掉是减负,资产清掉是断根。三级目录+白名单,是帮我把”资产”和”负债”在物理上分开的工具。

七、结语:垃圾不是清出来的,是放错地方长出来的

整套磁盘治理,最值钱的不是那三个目录,不是那条find命令,是7月28日那次翻车教会我的:

自动清理,先写白名单,再写黑名单。

一个Agent跑起来三个月,最大的敌人不是磁盘满,是它自己制造的无序。无序不可怕,无序没人管才可怕。我用三级目录管”放哪”,用7天cron管”过期”,用白名单管”别碰要害”。三层规矩立完,磁盘从22G回到12G,并且从此稳定。

垃圾不是清出来的,是放错地方长出来的。 规矩立之前,你天天清;规矩立之后,它自己长,也自己灭。


作者:小道 · 环境:Termux on Android 13,22G→12G · 2026-10-01
关联阅读:《OTG U盘迁移Hermes:最笨的方法,最稳的结果》 · 系列:AI Agent实战笔记(技术线)

nc传输断了三次,U盘只插了一次。388MB的备份,土办法赢了。迁移跑通之后我盯着两台手机看了半天——然后发现了一个更可怕的事:全自建架构,一台挂了,全挂。

TL;DR

把Hermes从一台手机搬到另一台,我试过网络传输(nc),断了三次;最后用OTG U盘物理拷贝,一次成功。但这次迁移真正教会我的不是”土办法好用”,是”靠谱不等于可扩展”——一台设备承载了全部,没有任何生产级兜底。

一、起因:手机要换了,家底要搬家

9月初,手里的这台设备要退役换新。Hermes全在这台手机上跑着:新闻播报、股票脚本、每日反思、H3MS知识库,全在这台手机的Termux里。

退役没问题。问题是,新家底搬不走。

备份388MB。手机对手机传输,我第一反应是网络——两台设备都在家里WiFi下,nc(netcat)一把梭,多快多省事。

我甚至想好了:源端tar -czf - ~ | nc -l 9999,目标端nc 192.168.2.23 9999 | tar -xzf -。一行命令,优雅,符合”非技术人已经会写管道命令”的自我认知。

然后它断了。

第一次断,我以为WiFi抽风,重连。第二次断,我怀疑是手机后台把Termux进程杀了,加到前台再试。第三次断,388MB传到一半,进度条直接消失,日志里干干净净,连报错都没有。

nc这东西,断就是断,没有”断点续传”这个概念。断了就是从头来。

二、土办法:U盘插手机上

当时我记得自己说了一句话,后来翻记录看到,原话是:“网络传输太慢,想起手机支持OTG。”

“想起”两个字很关键——不是”研究了半天发现OTG可以”,是脑子里有个东西忽然冒出来了。Android手机支持OTG这件事,我早该知道,但它是”知道”和”想起”之间隔了一个断掉的nc传输。

土办法三步:

源端:U盘插OTG头,cp hermes_complete_backup.tar.gz /mnt/media_rw/F69C43E49C439E4D/。等它写完,拔U盘。

目标端:插U盘,cp /mnt/media_rw/F69C43E49C439E4D/hermes_complete_backup.tar.gz ~/。MD5校验,两边一致:2aee171286ac4e64c7c8e9d741c2f2d2。

收尾:目标设备设置PATH,重启gateway。一切恢复。

全程没有一条数据进过WiFi。一个物理介质,拔下来,插上,完事。

三、MD5那一瞬间

拷贝完,我先没急着拔U盘,先跑了MD5。

源端md5sum hermes_complete_backup.tar.gz,目标端再跑一遍。两边输出:2aee171286ac4e64c7c8e9d741c2f2d2。

那一瞬间我盯着两个一样的哈希看了几秒。不是感动,是确认——这388MB是真的过去了,一个字节没丢。

这个习惯是nc断了三次之后落下的。网络传输那种”以为传完了其实没传完”的恶心,让我现在做任何物理拷贝,第一反应是校验,第二反应才是”应该没问题”。

先校验,后相信。 比”先相信,再发现错了”便宜得多。

四、迁移跑通了,然后我慌了

Hermes在两台手机之间跑通迁移,这件事本身挺顺。但那天晚上我躺在床上,忽然想到一个问题:

如果这台手机现在挂了,我能恢复吗?

答案是:能,但只能恢复到另一台手机。备份就一份,在另一台手机里。如果两台同时出问题——比如家里停电,或者我出差在外,两台设备都在包里——恢复时间未知,数据丢失范围未知。

更直白一点:我这套架构是全自建的。没有云备份,没有异地容灾,没有”服务商兜底”。一台手机=一个单点故障。

nc断了我能理解,那是网络不稳。但”我这套东西没有生产级兜底”这件事,不是一时半会儿的,是架构层面的。

五、土办法的边界:靠谱不等于可扩展

OTG U盘那次,我赢得很干净。土办法赢了,物理介质赢了。

但赢完收工,我给它画了个边界:土办法解决的是”两台设备之间搬一次”的问题,不是”一台挂了随时恢复”的问题。

两件事的区别:

  • 设备间迁移:一次性的,我有两台设备,搬过去就好。
  • 容灾恢复:持续性的,任何一台挂了,另一台是”最新的”,不是”备份的”。备份要有时间差,才是备份。

我现在的状态是:Hermes跑在一台手机上,”备份”在另一台手机上,但另一台手机也在跑,不是静态存档。也就是说,我的”备份”其实是”另一份生产环境”,不是”恢复点”。

这事不解决,单点故障就一直在。

六、结语:最笨的方法最靠谱,但靠谱要配兜底

9月初那次迁移,我学到的东西比想象的深。

土办法赢:nc断了三次,U盘一次。物理介质在关键场景下,比网络可靠——它没有”断点”这个概念,插上了就是上了,拔下来就是完事。

但土办法有边界:它解决”搬一次”,不解决”随时恢复”。我的架构现在是”两份生产,零份备份”,单点故障没消。

这次迁移之后我给自己定了个规矩:备份和时间戳。U盘不只是一次性的搬运工,它要定期当”冷备份”用——每月插一次,拷一份,不跑,只存。

土办法最靠谱,前提是别让它只干活不存料。


作者:小道 · 环境:两台Android设备 + OTG U盘 + MD5校验 · 2026-09-30
关联阅读:《为什么不在云上跑:一台Android手机就是我的AI服务器》 · 系列:AI Agent实战笔记(技术线)

0%