我干活离不开 AI（我用的叫 Hermes Agent，一个跑在自己电脑上的开源助手）。写东西、查资料、跑脚本、处理文件，它都干得不错。
但有一类活我一直不敢全交给它：判断。
不是"问它一件事怎么办"，而是"给一段原文，让它下一个结论"——这单要不要退款、这条消息算不算安全告警、这封邮件该转给谁。这类活自己干也不难，就是碎、重复，一天几十上百次。
交给大模型？它每次都能答，而且答得挺像样。问题是：它答的时候，不知道自己在猜。
一、我要的不是"会写"，是"不编"
大模型的本职是"接着往下写"。它吐出来的每个字都是概率挑出来的，所以它天生不爱说"我不知道"——它宁可编一个通顺的。
判断类的活偏偏卡在这：我要的不是一段话，是一个答案加一个把握。而且这个答案一旦歪了，后面跟着的一串动作全跟着歪。
所以我一直在找一个东西：能读懂原文、回答我定的几个问题、给出把握度，而且它不会编——因为答案是算出来的，不是"写"出来的。
二、Laya 就是这么个东西
Laya 是个开源的"决策模型"（Apache 2.0，Convai Innovations 出品）。它跟聊天大模型不是一类东西：
- 它不生成文字。 你把原文和几个问题给它，它一次计算返回结构化答案和概率。
- 它很小。 我装的中文版 3.22 亿参数、几百兆，纯 CPU 就能跑，不用显卡。
- 它很快。 模型加载完之后，每次判断 0.2~0.3 秒。
- 它适合分类、路由（该走哪条流程）、打分、是非判定这些"要个准话"的场景。
接进我的助手之后多了 8 个工具，常用的就两个：一个回答我定的问题，一个一次判一批。
三、装的过程，卡了三处
这一段是实录，不是教程。
第一处：教程里的路径，跟我这台机器不一样。
文档让我去 ~/.hermes/hermes-agent 里找工具。我去一看，压根没有这个目录——我这台实际是 ~/hermes-agent-main。照抄命令第一步就报错。
这事怪不了谁，每台机器装法不一样。但照着教程干活，第一步应该是核对路径，而不是先敲命令。顺序反了，后面全是白折腾。
第二处：装依赖装了 40 分钟。
包本身不小，总共下了 227 个包、1.5G。前半段的慢是下载慢，后半段更磨人：它在解压一类"文件特别多"的包，一个包里几千个文件，往磁盘里一个个写。
中间我一度以为它死了。所以去看进程状态和磁盘的写入活动——确认它只是在慢，不是在死，就没动它。
第三处：模型下载"等锁"，等了 19 分钟。
这个坑最有意思。日志里一直重复刷同一句话：
Still waiting to acquire lock on .../models--.../....lock
翻译成人话：已经有一个进程在下载同一个模型，我在等它放锁。
事后才搞清，是我前面挂的一个自动脚本没停干净。
同一件事还暴露了我另一个毛病：我写了个"自动接力"的脚本，让它等安装结束就自动开始下模型。结果它自己卡在"判断安装有没有结束"那一步上，压根没往下走。自动化最怕的不是失败，是它安安静静地没干活。最后是我发现、手动接管，才把它推下去。
顺手记一个同类的教训：这天我还在处理一批证件材料，其中有一张图很糊。我的读图工具看完，给我列了一份"经营范围"，写得有模有样。换成高清件再读一遍——上面那一条根本不存在，是它编的。
看明白了吗？同一个毛病：拿不准的时候不吭声，直接编。大模型如此，读图的工具也如此。所以规矩又得多一条：凡是结论要拿去办事的材料，必须用清晰原件复核一遍。
四、装完什么样（实测）
拿一句测试用的话去试：
客户说账单被重复收费，要求今天退款。
它先自己判语种（认出是中文，切到中文模型），然后一次算出：
| 判断项 | 结果 |
|---|---|
| 意图 | 退款（把握 1.000） |
| 是否要求退款 | 0.969 |
| 是否紧急 | 0.002 |
| 愤怒程度 | 1.65 |
| 流失风险 | 0.015 |
全程 10 秒，其中大部分是第一次加载模型；之后每次判断只要 0.2~0.3 秒。
留神最后那个数：它判"不紧急"。因为它只算字面意思——"今天退款"是个时间要求，不是情绪。它不像聊天模型那样，替你脑补出一句"客户很生气快炸了"。
这就是我要的东西：该给数字的地方给数字，不给我加戏。
五、我由此立的规矩
- 能算的，别让它猜。 分类、打分、是非判定、该走哪条流程——交给这种只算不写的小模型。
- 大模型管"说人话"，小模型管"下结论"。 一个负责把事讲明白，一个负责给个数。
- 卡住先看日志，别猜。 今天三处卡点，两处是靠看日志、看进程状态定位的。
- 结论要拿去办事，原件必须清楚。 模糊的、低清的、二手转述的材料，宁可重来一遍。
我干这些事的核心就一句：不是让 AI 更会说，是让它该算的时候算、该闭嘴的时候闭嘴。
下一篇
我给这台机器划过一条线：有些话能跟 AI 说，有些话永远不说。下一篇讲这条线怎么划的，以及我在哪儿踩过坑。