~1m1:40:55Jonathan Blow — If AI Solved Coding, Why Is My Software Still the Same?
2026年11月13日
Read: ~1m · You save: 100 min
Jonathan Blow:如果AI真的解决了编程,为什么我的软件还是老样子?
游戏开发者Jonathan Blow深度剖析软件为何越来越复杂、越来越不可靠,以及AI编程真正的能力边界与泡沫争议。
背景
乔纳森·布洛是程序员和电子游戏开发者,代表作包括《Braid》、《The Witness》和《Order of the Singing Star》。在访谈中,他阐述了对软件工程现状的看法,以及对人工智能编程能力的评估。他在 2019 年发表过一篇关于软件复杂性与可靠性的演讲,引发了广泛讨论。
软件工程缺乏职业责任体系
布洛认为,软件工程的核心问题在于缺乏与传统工程相当的责任机制。
- 传统工程的约束: 工程师必须理解现实约束,并设计出达到预期效果的系统。桥梁工程师需要对结构安全负责,历史上工程师甚至需要在桥下生活,若桥梁坍塌则面临法律后果。这种责任形成了行业的谦逊与审慎文化。
- 软件行业的现状: 数据泄露和性能问题频繁出现,用户已习以为常。商业软件长期处于“无法无天”的状态。航空航天领域的软件曾建立相应规范,但这些规范没有延伸到商业软件。
- 原因分析: 布洛表示难以确定单一原因。他认为这是多因素造成的,包括行业缺乏法律后果与监管体系,以及早期从业者的经验问题。
复杂性增长与经验积累的断层
布洛指出,早期软件的复杂度远低于今天,因此从业者能够掌握整个系统。
- 早期软件: 20 世纪 70 年代,系统结构简单,硬件也较为简单。新员工通常只需用一两个月熟悉已有软件。流程图曾被视为合理的程序设计工具。
- 当今软件: 高端软件的复杂度显著提高。布洛认为,电子游戏是他所知最复杂的软件类型。他还提出一个观点:游戏越有趣,就越容易与软件工程的既有规范相冲突。
- 从业人员的经验结构: 软件行业长期快速增长,新入行者数量不断增加。布洛以翻倍增长为例说明:若每年新增人数翻倍,则一半从业者经验为零,四分之一为一年,八分之一为两年,平均经验约为一年。
- 掌握系统所需时间: 布洛在加州大学伯克利分校学习计算机科学,自认为是优秀学生,但毕业后发现自己对大多数复杂技术并不熟悉。他估计,大约需要五至六年经验才能真正理解系统全貌。
- 知识流失: 在公司内部,只有少数工作多年的员工了解系统的设计原因。大量从业者缺乏历史背景,因此重复相同错误,或在缺乏依据的情况下争论技术路线。
操作系统的历史与技术债
布洛以 Unix 为例,说明软件体系如何在历史中逐步固化。
- 设计初衷: Unix 的设计目标是简单、快速、易用。其核心理念之一是将系统资源视为文件进行读写。
- 分时机制: 早期计算机只有一个 CPU,多个程序通过分时共享。现代操作系统仍采用这一机制,只是时间粒度更细。
- 安全问题: 布洛引用一则关于政府系统密码验证被破解的早期案例,攻击者利用内存页边界与逐字符比较的时间差推断密码。此后,密码比较算法改为不逐字符提前返回的方式,密码也改为加密存储。
- 并行架构的挑战: 当前计算机普遍为多核并行架构,且 CPU 缓存等共享资源引发了新的安全问题,例如 Heartbleed 漏洞和缓存冲突问题。布洛认为,若要根本解决这些问题,需要重新设计内核架构,例如将操作系统运行在独立的 CPU 上,但这种改动成本极高,行业缺乏推动动力。
- 层级堆叠: 一旦某种设计被采用,改变成本便非常高。新的改进往往以添加新层级的方式实现,最终形成多层叠加的复杂结构。布洛将其比喻为“垃圾填埋场”,新垃圾不断覆盖旧垃圾,挖掘到底部十分困难。
- 修改难度增加: 系统越大,依赖关系越多,修改任一部分就越可能影响其他部分。软件工程理论主张解耦,但在大型系统中难以完全实现。
文件系统与基础软件的演变
- 文件系统: 早期文件系统在非正常关机时容易丢失数据。现代文件系统已显著改善,断电后通常能恢复大部分数据,但启动恢复过程可能需要约 15 分钟。
- Linux 的变化: Linux 最初是一个小巧灵活的操作系统,修改底层设计相对容易。随着规模扩大,如今对其进行基础性改动几乎不可能。
行业中的平台策略
布洛认为,大型科技公司普遍采用平台策略,使其 API 与竞争对手不同,以增加开发者迁移成本。他以 iOS 与 Android 为例,指出开发者需要投入大量精力适配特定平台。他还提到,Linux 也存在类似的新功能开发模式,例如 /proc 文件系统,其设计与其他系统不同,导致可移植性下降。
布洛以 systemd 为例说明系统复杂度的增长。早期 Unix 的启动脚本通常只有五到十行,而 systemd 的代码量已超过 150 万行,并承担登录、消息传递等多种功能。
开源生态中的重复工作
布洛指出,Linux 发行版的分叉历史中存在大量重复工作。许多发行版在短期内消亡,产生了大量冗余开发。他承认,分叉在理论上可以带来有价值的创新,但实际上浪费了大量资源。
他认为,开源社区中的一个主要问题是缺少对既有知识的保存。他建议设立类似“僧侣”的角色,负责记录系统设计的原因,使后来的开发者理解历史决策。
技术债与代码质量
布洛认为,技术债在一定程度上是可以接受的。在项目早期,快速推进功能有助于获得反馈并做出更好的判断。但当技术债积累到一定程度时,团队需要停下来偿还。布洛表示,他在自己的项目中经常这样做,但在团队中执行此类工作的频率较低。
他认为,优秀程序员的重要能力之一是保持系统清晰、易于理解和维护。他观察到,即使学校强调这一点,毕业生在工作后往往仍会大量增加代码。
布洛认为,小幅的表面性改动往往比真正改进技术的工作更容易完成,因此行业容易将大量精力投入其中。
对 AI 编程能力的评估
AI 在编写代码方面的表现
布洛认为,当前的大型语言模型在编写高质量代码方面表现欠佳。
- 代码质量: 他观察到 AI 输出的代码通常较为混乱。若以正常人类的速度与成本产出同样的代码,大多数情况下不会被雇用。AI 的优势在于速度快、成本低。
- 适用场景: 布洛举例,他使用 AI 生成一段约 30 行的 Visual Basic 代码,用于为电子表格单元格设置格式。他认为,这类定义清晰、规模小、之后会被丢弃的任务适合使用 AI。他估计,完成该任务若从零开始,需要约 5 小时,而借助 AI 仅需约 1 小时。
- 非专业用户的价值: 对于不熟悉编程的用户,AI 能显著降低使用门槛,这是真实的能力提升。
AI 的推理能力
布洛认为,AI 的推理仅是一种表面上的推理。
- 判断与权衡: AI 能够给出看似合理的推理过程,但输出结果显示,其做出的技术权衡往往并不恰当。
- 预测示例: 布洛曾让 AI 预测一款游戏的销量。AI 能够给出结构完整的推理,但当他指出遗漏的因素时,模型会立即改变结论,表明其推理缺乏稳定性。
- 数学证明: AI 生成的数学证明可能很长,缺乏洞察力,但其中许多证明是正确的。布洛认为,在定义明确、可自我验证的问题上,模型的表现更好。但即便如此,其效率仍然低于人类数学家。
- 大规模系统: 随着程序规模增大,程序员需要理解各组成部分之间的约束与影响,并在脑中建立映射。布洛认为,目前的 AI 缺乏完成这一任务所需的可靠推理能力,只能依靠近似的“感觉”进行工作。
生产力与软件进步
布洛认为,AI 编程带来的生产力提升缺乏可见证据。
- 产出证据: 若生产力提升 10 倍,并且从三年前开始,那么相当于三十年的软件进步。布洛表示,他没有看到这种进步。他认为,AI 本身是重要的技术进步,但在软件生产领域,他作为外部观察者没有看到明显的改善。
- 用户体验: 软件仍然存在大量缺陷,新功能也不多。布洛认为,消费者端并未感受到生产力的显著提升。
- 代码增长: 布洛估计,AI 生成的代码量通常远超人类程序员,例如数学证明可能比人类完成的版本长 10 至 100 倍。这些额外代码会成为下一轮迭代中的技术债。
- 错误率: 随着规模增大,每行代码的错误率会上升,最终使 AI 无法完成任务。布洛认为,纯粹依赖“氛围编程”的项目会较快达到这一阈值,但某些简单程序尚未触及该阈值。
AI 在安全与质量工具中的作用
布洛认为,AI 在发现漏洞方面是有用的工具,类似于模糊测试和静态分析工具。他承认,这些工具也可能被恶意使用,攻击者可能比修复者更快地利用漏洞。他提到,近期部分软件的披露流程很差,攻击者在更新发布前已经开始利用漏洞。
泡沫与行业趋势
布洛认为,当前的 AI 热潮很可能包含泡沫。
- 历史泡沫: 他曾经历过两次软件行业泡沫,即互联网泡沫和 2010 年至 2017 年的创业加速器热潮。在泡沫中,许多公司质量低下,但泡沫破裂后仍会留下有价值的企业。
- 当前的软件创业: 布洛观察到,许多围绕 AI 的软件公司仅仅是调用智能体完成简单任务,缺乏实质创新。他认为,即便这些公司形成了规模,也依赖于大型 AI 平台的基础服务,因此商业上并不稳固。
- 企业质量: 他估计,许多 AI 公司的产品技术含量较低,但难以提前判断哪些公司会成功。
布洛认为,AI 领域中的部分技术是真实的,部分会在未来产生价值,但当前热潮中存在大量缺乏实际产出的企业,这部分必然是泡沫。
结论
布洛认为,软件行业缺乏责任机制和知识保存体系,导致复杂性持续增长,系统难以改进。他认为,当前的大型语言模型不是编写高质量、可长期维护代码的合适工具,其生产力收益也缺乏可见证据。他同时承认,AI 在特定任务和安全工具领域具有实际价值。
软件工程的责任缺失
Blow指出软件行业长期缺乏真正的工程纪律,与传统工程责任制形成鲜明对比,问题根源在于领域快速增长和经验积累不足。
- Blow提到其2019年的一次演讲引发广泛讨论,许多人认同软件日益复杂、越来越不可靠的观点
- 软件工程界几十年来对面向对象、函数式编程等范式表现出自负,但并未真正解决可靠性问题
- 真正的工程师需理解现实约束并承担责任,而软件业缺少桥梁式的责任追究和行业行会传统
- 航空航天软件有一定规范,但这些标准没有传播到商业软件领域,商业软件长期处于“西部荒野”状态
经验流失与行业扩张
软件行业快速扩张导致大量新人缺乏经验,同时系统本身变得更加庞杂,知识随人员流动而流失。
- 若行业每年翻倍增长,大多数从业者经验不足,平均经验约为一年
- Blow本人在伯克利修读四五年计算机科学,毕业后才意识到自己许多知识不足,约五六年后才真正积累经验
- 在企业内部,关键设计决策的理由常依赖少数记得历史的老员工
- 早期Unix各厂商变体众多,BSD与Linux等项目长期分裂,形成混乱的生态
Unix的历史与设计锁定
Unix的设计初衷是简单快速,但随着时间推移,其复杂度严重膨胀,许多早期设计被锁定,难以更改。
- Unix的核心理念包括把系统资源当作文件处理,这一理念在Linux中被进一步扩展
- 时分共享的设计源于单CPU时代,如今多核并行环境下,这种架构带来大量安全问题,例如Heartbleed
- Blow提到一个经典案例:政府系统的密码检查通过页边界探测逐字符猜解密码,促使后来密码比较算法改进
- 软件一旦成型,修改成本极高,依赖关系越多越难改动,系统逐渐变得僵化
AI编程的能力边界
Blow认为AI编程在速度和成本上有优势,但代码质量低,难以处理复杂系统的内部约束与权衡判断。
- Blow认为大语言模型不擅长编写高质量代码,输出往往混乱,且常生成比人类多数倍的代码
- AI更像是能够高速搜索的算法,擅长明确定义的任务,但缺乏创造力与判断力
- 在电子表格案例中,AI用约30行Visual Basic完成了任务,对非程序员非常有价值,但这种场景属于一次性使用
- 大型程序需要程序员维持大量节点间的约束关系,这是当前AI难以可靠完成的推理工作
- Blow指出AI生成的推理解释常显得合理,但输出结果显示权衡判断并不正确
生产力与泡沫争议
尽管AI被广泛宣传能显著提升生产力,但从软件的实际进步来看,Blow并未看到相应的增长,他认为当前可能处于泡沫阶段。
- Blow提出,若AI使生产力提升10倍且持续三年,软件应当已经有相当于30年的进步,但他认为几乎看不到这种进步
- 操作系统界面在1990年至2026年间几乎没有根本性变化,主要改进来自硬件
- Linux中的新增功能有限,大量新增代码反而具有负面效用
- 开源社区存在大量重复分叉项目,造成大量冗余工作
- Blow认为当前AI热潮有泡沫迹象,许多AI公司缺乏实质创新,多数只是低门槛的应用