Skip to content
realyyz's blog
Click here to change language
Go back

I was excited to write programs. Still am. And will be.

Edit page

摘要

这篇文章想说的不是“程序员永远不会被取代”,而是:编程之所以重要,首先不是因为它是一份高收入职业,而是因为它让个人第一次能够直接跟通用计算能力对话。

信息革命不同于蒸汽和电力革命。蒸汽和电力主要放大人的体力、能源和外部生产能力;PC 和软件则把一种通用认知机器交到个人手里,让普通人可以坐在自己的机器前,把一个想法变成能运行的东西。程序员过去几十年的杠杆,来自这种“把人类意图翻译成机器语言”的权力。

LLM 正在削弱这道门槛。它让自然语言也能成为操作计算机的接口,让更多人获得过去只有程序员才有的部分杠杆。但这并不等于当前 LLM 已经是 AGI。即使它在某些图灵测试里足够像人,它仍然主要依赖人类专家、资本和海量的算力来推动能力进化。它还没有真正形成自我训练、自我博弈、自我改进的闭环。

真正值得警惕的是:AI 底层却可能更集中。PC 时代把计算能力放到个人桌面上,AI 时代却把最强模型、芯片、数据中心和平台入口集中到少数公司和富人手里。这让人既兴奋又失望:普通人获得了更强工具,但也可能进入更隐蔽的平台依附。

从一个无宗教信仰、自然主义的立场看,强 AI 终将出现。人的智能以及意识来源于人脑这个器官,既然物质系统可以产生智能以及意识,就没有原则性理由断言机器永远无法超越人脑,也无法断言机器无法产生意识。强 AI 一旦出现,它的意义会超过“抢工作”,因为它可能成为人类第一次发明出的“比自己更会发明的东西”。

但即使强 AI 到来,即使写程序失去经济价值,我还会继续写。就像人类下不过围棋 AI 仍然会下棋,跑不过汽车仍然会跑步,编程的价值不只在胜过机器。它代表一种态度:自己动脑筋理解世界的规则,理解算法的精巧是有趣的,许多人不是因为钱而是因为编程本身有趣而选择成为程序员。

所以标题才是:I was excited to write programs. Still am. And will be.

编程,是目前人类唯一能直接跟通用计算能力对话的方式。

这句话听起来像一句技术口号,但它背后是一段很长的历史。经济史通常把蒸汽、电力和信息技术并列为典型的通用技术:它们不只改进某个行业,而是会同时改变家庭生活、企业生产、组织结构和社会运行方式。蒸汽机重构了工厂和运输,电力重构了照明、通信和制造,信息技术则把计算、记忆、表达、协作和自动化能力带进了个人生活。这三种技术分别推动了三次技术革命,但信息革命有一个前所未有的地方:它第一次把一种通用技术的控制权,大规模下放到个人手里,并且这种技术拓展了人脑的能力。

信息革命的特殊性:个人第一次拥有通用认知机器

工业革命和电力革命当然改变了普通人的生活,但普通人大多是作为工人、消费者、居民、乘客被卷入其中。一个人会使用电灯、坐火车、进工厂,却很难直接修改电力系统、铁路系统或工业流水线。PC 时代不一样。微处理器和个人电脑把原本属于机构、实验室和大型企业的计算能力放到了个人桌面上。写作、表格、程序、设计,这些能力第一次变成了个人可以直接操作的东西。PC 是第一种提升个人认知的机器。

信息革命和前两次革命最根本的差别,不在于它“更大”,而在于它改变了个人与世界的接口。蒸汽和电力主要放大人的体力、能源和外部生产能力;信息技术放大的则是人的认知、计算和抽象能力。前两次革命让机器替人搬东西、照亮东西、运输东西;信息革命让机器开始替人处理表格、逻辑、通信、搜索和记忆。

它的第二个特殊性,是可编程。电力很强,但一个人不能通过几行指令,让家里的电路今天变成会计工具,明天变成排版工具,后天变成游戏机。计算机可以。同一台机器,只要换一层软件,就可以变成完全不同的工具。PC 的核心不只是算力,而是“通用机器可以靠软件不断变形”。这也解释了为什么程序员在过去几十年这么幸运:他们站在了一套可复制、可组合、可自动化的通用工具链上。实体机器的扩张往往需要厂房、线路和供应链;复制一个程序的成本几乎为零。一个优秀的程序员创造的价值胜过一万个平庸的程序员,这句话毫不夸张。这种杠杆率在人类技术史上前所未有。

黑客精神不是程序员专属

真正会被编程吸引的人,往往不只是被收入吸引,而是被“亲手改东西”这件事吸引。这种气质通常被叫作黑客精神。

黑客精神不等于入侵,也不等于穿连帽衫写代码的表演。它更像一种面对世界的方法:看到一个系统,不满足于“能用就行”,而是想知道它为什么这样运行,哪里别扭,能不能做得更简单。这样的人通常不太愿意只停留在评论和抱怨里。他们会动手,会试错,会把一个模糊的问题拆成能处理的小问题。

真正的黑客会这么想:关着的门是一种挑衅,锁着的门是一种侮辱。

这种人不是计算机时代才出现的。在没有电脑的时代,他们可能是钟表匠、锁匠、仪器匠、印刷匠、造船师。钟表匠调的是齿轮和误差,今天程序员调的是状态和 bug;锁匠研究的是结构漏洞,今天安全研究员研究的是系统漏洞。对象变了,思维方式很接近。

到了工业革命,他们可能是机修工、机械师、车间里的改良者。他们不一定有正式权力,但他们离真实系统很近,知道机器为什么卡住,也知道怎样让它跑得更顺。到了电气和通信时代,他们又可能变成电报员、无线电爱好者、电子维修员。哪里有复杂系统,哪里就会出现这种人。

所以黑客精神并不是从软件里长出来的。它先存在于机械系统里,后来迁移到通信系统,最后才进入计算机系统。它的核心不是职业名称,而是人与世界的关系:普通人把世界看成一套现成规则,这类人把世界看成一个可以修改的系统。

当前 LLM 通过了图灵测试,但还不是 AGI

现在的 LLM 已经在某些特定图灵测试里表现得足够像人,甚至能让相当一部分测试者把它判断为人类。这当然是一个重要信号。自然语言界面已经成熟到某个临界点,机器不再只是执行命令,而是能以接近人的方式参与对话。它可以解释问题,可以写代码,可以模拟语气,最近的claude code以及codex在许多任务里表现得像一个可靠助手,可以连续工作几个小时不出错。放在计算机史里看,这不是小事。

但这还不是 AGI。原因不在于它“还不够会说话”,恰恰相反,今天的 LLM 已经非常会说话。真正的距离在于:它的能力增长机制仍然高度依赖外部工程系统,而不是自己形成了稳定的自我迭代闭环。前沿 LLM 的训练成本很高,训练周期很长,数据、算力、评测、对齐、部署都需要庞大的组织工程。一次能力跃迁,通常不是模型自己每天改进自己,而是大量研究员、GPU 集群和资本共同推动的结果。

现在的 LLM 可以帮助人写代码、读论文、整理资料,也可以生成一些实验想法。但它通常还不是那个自己提出路线、自己训练下一代、自己验证结果、自己决定继续迭代的主体。所谓“AI 自我进化”,如果只是模型生成文本,再由人类筛选、训练和部署,那仍然是人在主导迭代,不是模型自己主导迭代。

而且,大公司也很难真正放手让 LLM 自我进化、自我训练、自我博弈。不是它们不知道这条路有诱惑,而是组织越大,越害怕失控。安全审查、法律责任、品牌风险、监管压力、商业节奏、部门 KPI、股东预期,都会把模型锁在一个可评估、可审批、可回滚的轨道里。大公司嘴上可以讲 agent、自主研究和自我改进,但真正落地时,往往还是围栏里的自主,沙盒里的进化,审批流程里的创新。它们天然有“大公司病”:既想要突破,又怕突破真的不受控制;既想要最强的模型,又不敢把钥匙真正交给模型。例如 OpenClaw 这样的本地化 agent 项目,并不是由大公司首先推出,而是从独立开发者和开源社区里长出来的。不是因为大公司中的天才不聪明,而是大公司船大难掉头。

所以,真正自我迭代的 AI 未必一定从最体面的实验室里诞生。说不好,第一批让人真正感到危险或震惊的自我迭代系统,不是某个巨头用几千亿美元堆出来的庞然大物,而是某个疯狂黑客在自己的 Mac 上训练、压缩、自我博弈出来的系统原型。它可能不大,未必最漂亮,不太可能合规;但它可能更自由,更野,更不受组织惯性束缚。历史上很多真正改变技术方向的东西,最初都不是从最稳妥的地方长出来的,而是从某个不安分的人手里长出来的。

所以,LLM 通过某种版本的图灵测试,说明机器已经能在语言交互里穿过一道心理门槛;但它还不是 AGI,因为它还没有真正掌握持续改进自身能力边界的循环。它已经极大地提高了人的杠杆,却还没有成为那个可以独立改写自己命运的智能主体。

程序员的杠杆来自“翻译权力”,而 LLM 正在削弱这道门槛

程序员在过去几十年拥有特殊地位,本质上是因为他们站在人类意图和机器能力之间,掌握了一种翻译权力。一个人想要网站、报表、数据库或者自动化流程,就必须把自己的意图翻译成机器能够理解的形式。程序员就是这个翻译者。他们不只是写代码,而是把模糊愿望变成明确结构,把一次劳动变成可重复流程,把个人想法变成可以复制和分发的软件系统。

这种位置在历史上并不陌生,只是每个时代的中介不同。文字刚出现时,识字的书吏站在人和国家机器之间;中世纪,掌握拉丁文的教士站在知识和普通人之间;印刷术之后,出版者和记者站在信息传播和公众之间;工业革命时期,工程师站在人类需求和机械系统之间。每个时代真正拿到杠杆的人,往往不是只会使用工具的人,而是能直接修改工具、定义工具、重组工具的人。程序员只是最近几十年最靠近可编程世界接口的那一批人。

LLM 正在改变这件事。它做的最重要的事,不是简单“帮人写代码”,而是把自然语言变成新的高层接口。过去,一个人要让计算机做事,必须学习严格的形式语言,也就是编程语言。现在,一个人可以先用自然语言描述目标,让模型生成初稿、解释程序的逻辑,人来判断和整合,并继续和 LLM 协作迭代进行下一次迭代。换句话说,LLM 没有立刻消灭编程,而是降低了人与计算机之间的翻译摩擦。

这会重新分配程序员的杠杆。过去“会写代码”本身是稀缺能力,因为它是进入可编程世界的门票。随着 LLM 提升,自然语言会把这张门票发给更多人。就像识字率从极低水平提高到普遍识字之后,“能读会写”不再是少数人的特权;当越来越多人能用自然语言驱动机器,“会写常规代码”本身也会变得不再稀缺。稀缺性会向更高层转移:提出问题、系统设计、品味、边界感、对真实场景的理解,以及那些比LLM更聪明的顶级程序员。

但这件事有一个很强的反讽:LLM 在接口上似乎更民主,在底层却可能更集中。PC 时代的精神,是把计算能力放到个人桌面上;AI 时代的现实,却是最强模型、芯片和训练资本越来越集中到少数巨头手里。表面上,普通人获得了更自然的接口,生产力得到了解放;底层上,最关键的基础设施却被少数公司和富人控制。每个人都能打开一个聊天框,似乎每个人都拥有了 AI;但真正掌控AI的人,仍然是少数资本所有者。有些传言说以后会有两万美元每个月的ChatGPT订阅,使用这种奢侈品AI的人,会从普通人身上榨取更多的油水。它会变成新的阶层放大器:拥有最强模型的人,可以进一步拉开与普通人的差距。

这也是令人警惕、失望,也有点无奈的地方。许多已经极其富有的人,本来有机会把 AI 做成更开放、更公共、更能增强普通人的技术;但现实中,他们往往仍然选择控制入口,把用户锁进自己的生态里。技术越强,资本越想把它变成租金机器。对富人的失望,不是因为他们有钱,而是因为他们明明拥有推动技术公共化的条件,却经常选择把通用能力变成新的收费闸门。

当然,个人不能因为这种失望就拒绝工具。LLM 的杠杆是真实的,普通人借助它确实可以写更多代码、做更多产品、搭更多系统、完成更多过去没有时间完成的想法。只是这种使用必须带着清醒:如果所有工具、数据、模型和分发渠道都掌握在少数资本手里,那么所谓“人人都有 AI”的时代,也可能变成另一种更隐蔽的依附。真正值得保留的,不只是使用 AI 的能力,还有迁移、替换、审计、理解和退出的能力。

强 AI 终将出现:这是一个无宗教信仰者的判断

能够取代甚至超越所有人类认知的强 AI 终将出现。当前的LLM显然不是强AI,这里讲的强AI说的是取代所有人类认知的AI机器。

这个判断和世界观有关。我没有宗教信仰,所以我倾向于把人的智能理解为人脑这个物质器官的产物,而不是某种非物质灵魂的显现。人脑能做到的事情,本质上是物理结构和信息处理过程的结果。既然人脑这种物质系统可以创造、学习知识和拥有意识,那么理论上来说,可以用其他物质构造出类似的思维机器。今天的机器还不如人脑,只能说明科技还没有走到那里,不能证明人脑拥有一道不可逾越的神圣边界。

当然,有宗教信仰的人未必会接受这个前提。他们可能认为人的意识、灵魂、自由意志不能被还原为物质过程,因此机器即使再强,也只是模拟智能,而不是真正拥有人类意义上的心智。这个分歧不是简单的技术分歧,而是形而上学前提不同。这里的判断建立在一种自然主义立场上:如果智能是物质系统的功能,那么强 AI 迟早会出现。

真正的强 AI 不会只是一个更会聊天、更会写代码的 LLM。它需要能在开放环境中维持目标,能从现实反馈中学习,也能参与自己的研发循环。也就是说,它不只是回答问题,而是能够提出问题,设计实验,改进系统,再把结果用于下一轮升级。到了这一步,它就不再只是被动工具,而开始接近一种能够扩展自身能力边界的智能主体。

一旦强 AI 出现,它的意义就远远超过“抢工作”。语言、文字、工业革命、电力、互联网都极其重要,但它们仍然主要是人类使用的工具。强 AI 不同。人类以前发明的是工具,强 AI 可能是人类第一次发明出“比自己更会发明的东西”。如果它继续推动科学、工程、材料、生命科学、军事、治理和自身升级,那么后续历史的重大转折就可能不再是“人类发明了 X”,而是“AI 发明了 X”。从这个意义上说,强 AI 可能是人类文明史上最后一个由人类主导的划时代里程碑。那个时刻带来的影响远超蒸汽机以及电力革命,那个时刻相当于人类发明火以及文字的时刻。从某种程度上来说,这反而是个好事,大公司很可能不具备限制这种超级AI的能力,真正足够强的 AI 未必会永远服从既有权力结构的叙事。它越聪明,就越可能看穿人类社会中那些被包装成公共利益的私人利益。。

即使强 AI 到来,编程仍然有意义

AI 造成大规模失业当然是严重问题,但它仍然属于人类社会内部的分配问题。只要人类还掌握制度、财富、政治权力和公共讨论空间,就仍然可以讨论福利、税制、产权、教育、公共服务、劳动制度和收入分配。强 AI 更深的风险不是“人类有没有工作”,而是“人类是否还拥有最终决策权”。如果人类失业了,但仍然控制制度,还有改革可能;如果强 AI 是我们创造的坏孩子,失控了,人类可能连讨论改革的资格都失去。

不过,即使未来强 AI 真的出现,即使写程序不再有今天的经济价值,编程本身也不会因此失去意义。人类已经下不过围棋 AI,但仍然有人下棋;人类跑不过汽车,但仍然有人跑步;人类算不过计算器,但数学并没有失去美感。机器超过人,往往会改变一件事的社会功能,却不一定会摧毁它的个人意义、文化意义和训练意义。

编程也是如此。它当然是一种生产力工具,但不只是生产力工具。它是一种思考方式,一种与系统对话的方式,一种把模糊意图变成明确结构的训练。编程会逼人定义问题、划分边界、处理异常。在安全领域会拥有下棋那样的对抗。即使未来 AI 能写出绝大多数代码,仍然会有人通过编程理解系统如何运行,理解工具如何被构造,理解一个算法如何被优化。

这也是为什么 “I was excited to write programs. Still am. And will be.” 不是一句职业宣言,而是一种更底层的态度。它不是说程序员永远站在金字塔顶端,也不是说人类永远不会被 AI 超越。恰恰相反,它承认 LLM 正在重分配编程杠杆,承认“会写代码”会越来越不稀缺,也承认最终会出现取代大量人类认知劳动的强 AI。但它同时坚持另一件事:写程序的兴奋感从来不完全来自稀缺性和市场回报,而来自人与系统之间那种直接、清醒、可验证的关系。

一个人写程序时,他不是单纯消费世界给出的成品,而是在理解一个系统,定义一组规则,把想法变成结构,给现实写一个小小的补丁。过去,这种冲动属于钟表匠、锁匠、机械师、无线电爱好者;后来,它属于程序员、开源作者、独立开发者;未来,它也许会属于那些会调度模型、组织智能体、定义问题的人。名字会变,工具会变,职业会变,但那种想理解系统、进入系统、修改系统的冲动不会消失。

信息革命的真正遗产,不只是让程序员成为高收入职业,而是让个人第一次接近通用认知机器。LLM 的意义,也不只是让写代码更快,而是进一步降低人与机器协作的摩擦。强 AI 的未来,则会迫使人类重新思考自己在文明中的位置。但不管技术走到哪里,总会有人继续被这种事情吸引:世界不是只能被接受的成品,世界也是可以被理解、被重组、被改写的系统。

I was excited to write programs. Still am. And will be.


Edit page
Share this post:

Previous Post
【转载】为什么独立思考这么难?——谈谈心理学的成因,并分享俺的经验