§08当工程师,不只是按下启动键

Stay the Engineer

同一个循环,两个人造,结果可以截然相反。

同样的循环,相反的结局

原文:Two people can build the exact same loop and get completely opposite results. One uses it to move faster on work they understand deeply. The other uses it to avoid understanding the work at all.The loop doesn't know the difference. You do.

两个人造出一模一样的循环,得到的结果可以完全相反。一个人用它,在自己吃透的活上跑得更快;另一个人用它,好让自己压根不用去理解这份活。循环分不出这两种人,你分得出。

一个人用循环,是为了在自己已经吃透的事情上跑得更快。代码他读得懂,方向他拿得准,循环只是替他把手动的活包了。循环帮他扩大的,是他本来就有的判断。

另一个人用同样的循环,是为了不必再去理解。看不懂没关系,循环会写;判断不了没关系,循环会合。他用循环把理解这件麻烦事整个绕过去了。

不稀缺的和稀缺的

循环让一件事变得极其便宜:生成。代码、方案、PR、修复,都能批量造出来,几乎不要钱、不要等。AI写代码已经很便宜了。

那什么还稀缺?

判断力。知道哪个方案是对的、哪行代码该拦下来、哪个产出虽然能跑但根上错了。

循环能生成一百个选项,也可以替你选,但它选的依据是看起来合理。它把所有不需要判断的活都拿走了,剩下的全是判断。

过去你判断失误,顶多自己手写错一段代码,影响有限,还来得及发现。现在你判断失误,循环会批量地、不知疲倦地把这个错误执行一百遍,它不会停下来问你「这真的对吗」。

循环不懂你为什么造它

还有一层,关于谁来设计这个循环。

循环会忠实地执行你给的逻辑。但它不懂你当初为什么要造它,不懂你真正想要的是什么,不懂哪些地方你其实是想自己把关的。

循环的边界在哪、哪里该留一个人工的卡点、哪里该让它自己跑,这些决定没人能从循环里读出来。它们只活在造它的人的脑子里,得被事先想清楚、再一条条写进去。漏掉的那部分,循环不会替你补,它会照着你写的跑,连同你忘了写的那些缺口一起跑。

如果你抱着赶紧把自己解放出去的心态造它,你会把检查都省掉,因为检查碍事。如果你还打算在这儿当工程师,你会主动给它留几道你能说不的关口,哪怕那意味着它慢一点。

内循环交给agent,外循环归你

7月9日,Addy在X上发了一篇长文,标题叫《Own the Outer Loop》,截至10月20日有130万浏览,接着Loop Engineering那篇往下讲。

他的分法是:agent跑内循环,调查、实现、验证、再来一遍;工程师守外循环,也就是对这套系统负责。为了把负责说具体,他用了三个词:

词他的意思
Quality(质量)放系统出去之前装上的所有检查。检查会产出证据
Verdict(裁决)工作进入下游系统之前那个最终决定:放行、拦下、改道、收窄范围、加护栏,还是直接
拒绝
Answerability(可解释)有人问起时,你能说清楚为什么

裁决那一条,他的原话是:

原文:The model may write the line, but the Verdict is mine.

代码可以是模型写的,但放不放行,是我的决定。

这篇长文里他也列了三项隐性成本:认知投降、认知债(cognitive debt),还有一项新的,他叫编排税(orchestration tax):现在开一堆agent很容易,但你的注意力没法跟着并行。认知债和§07的理解债不是同一个词:理解债说的是代码和你的理解之间的差距,认知债说的是你自己怎么解决问题的理解和记忆在流失。

他在文末写了一句:

原文:An agent can write it. But before it reaches users, someone must explain why it should exist, why it's safe enough to be part of production, and what they will do when it is wrong.

agent可以把它写出来。但在它到达用户之前,得有一个人说得清:它为什么该存在,为什么它安全到可以上线,以及它出错时你打算怎么办。

造循环,但要像一个打算留下来的人

Addy在Loop Engineering那篇里,写两个人那段之前,先给自己降了降温:去搭你的循环吧,但直接prompt你的agent也照样有效,关键是找到平衡(prompting your agents directly is also effective. It's all about finding the right balance)。

文章结在这一句:

原文:Build the loop. But build it like someone who intends to stay the engineer, not just the person who presses go.

造那个循环。但要像一个打算继续当工程师的人去造它,而不是一个只负责按下启动键的人。