Karpathy 论 AI 编程拐点:从辅助补全到自主工程
Karpathy 在分享里说,作为程序员,他从来没有像现在这样感觉自己落后了,但这不是沮丧,而是既兴奋又有点不安。2025 年 12 月是个重要转折点,在那之前,Claude、Cursor 这些 AI 工具虽然能帮忙写代码,但还是经常需要手动修改;在那之后,AI 生成的内容明显更大、更连贯,也更可靠,他几乎完全信任 agent 去完成大段工作,不再频繁插手。
从那时候开始,编程的基本单位变了:不再是一行一行写代码,而是把比较大的任务直接委托给 agent,比如实现某个功能、重构子系统、研究某个库、搭服务、写测试并修复 bug、对比不同方案等等。程序员的角色也从单纯写代码的人,变成了 agent 的协调者和指挥者。这让他一下子做了很多 side project,代码文件夹里塞满了新东西。
他用 Software 1.0、2.0、3.0 来描述这个变化。1.0 是人类自己写明确的 if-else 规则代码;2.0 是人类准备数据集、定目标和架构,然后训练神经网络,让权重本身成为程序;3.0 则是提示加上上下文就是程序,LLM 就像解释器,在数字世界里执行计算。编程方式不再是精确描述每一步,而是给出指令,让 agent 自己去适应环境、调试和执行。比如安装 OpenClaw,以前要写复杂的跨平台 bash 脚本,很容易出问题,现在只需要给 agent 一段 prompt,它自己看环境、适应调试,就能顺利完成,更强大也更灵活。
他举了 MenuGen 项目作为软件“消失”的典型例子。传统做法是上传菜单照片、做 OCR 识别菜名、生成菜品图片、再做 UI、部署到 Vercel、加上支付等,搭一个完整的全栈 App,他用 vibe coding 很快就做出来了。但在 Software 3.0 模式下,直接把菜单照片丢给多模态模型(比如 Gemini + Nano Banana),它就能在像素层面直接渲染出对应的菜品图片,整个传统 App 的技术栈都变得多余了。他感慨说,自己做的整个 MenuGen 其实是多余的,那个 App 本来就不该存在。AI 不只是把旧流程加速,有些软件应该彻底消失,我们要多想想真正新的可能性,而不是只在老路上优化。
这个变化的影响不只限于编程,还带来了新的信息处理方式。LLM 能自动化以前很难用代码实现的信息转换,比如构建 LLM Wiki,不是简单的 RAG,而是让 agent 一步步把文档整理成结构化的知识库,包括摘要、实体页面、概念关联、矛盾点、链接和演化总结,以前用传统代码很难自然做到。
Karpathy 特别讲了 Jagged Intelligence(参差不齐的智能)和 Verifiability(可验证性)。AI 的能力很不均匀,有些领域特别强,有些特别弱,核心原因就是可验证性。传统软件擅长自动化那些“能明确指定”的任务,而 LLM 加 RL 擅长自动化“能验证”的任务(有明确反馈,比如测试通过失败、运行结果、benchmark 分数)。编程、数学、棋类进步快,就是因为能轻松建出密集的 RL 环境,提供精准信号。能力的提升大致取决于 Verifiability × 实验室关注度 × 数据覆盖度 × 经济价值。模型本质上是实验室激励和偏好的产物,所以创始人要问问自己的领域是不是在模型的主轨道上,如果不在,就得自己建 evals、fine-tuning 和 RL 环境来抓住机会。
他还区分了 Vibe Coding 和 Agentic Engineering。Vibe Coding 大幅降低了门槛,几乎谁能描述需求就能做出软件,适合快速原型和个人小工具;Agentic Engineering 则是提升上限的严肃专业活,需要协调容易出错的 agent,同时保证正确性、安全性、品味和可维护性。人类的主要工作是写高质量的 Spec(规格和顶层设计)、监督执行计划、审查代码差异、设计测试和评估循环、管理权限和安全加固。比如 MenuGen 的支付环节,agent 可能简单用 email 匹配,但实际 Stripe 和 Google email 可能不一样,人类就要用产品判断坚持用持久的用户 ID。具体的 API 细节可以不用死记,但底层原理比如内存、视图、边界、安全这些必须懂。招聘方式也该变了,别再考 LeetCode,让候选人用 agent 做一个能扛住攻击的大项目,真正考察任务分解、Spec 写作、质量把关和安全意识。“10x 工程师”已经过时了,顶尖的人远远超过这个倍数。
人类的价值还是不可替代的,尤其是审美、判断力、理解能力和顶层设计。LLM 不是有生物驱动力和好奇心的“动物”,而更像是统计意义上的“幽灵”——人类数据的模拟产物,受训练数据、RL 和激励塑造。我们要避免过度拟人化,要通过实际使用去熟悉它们的特点,并加上必要的 guardrails。未来 agent 自主行动的世界里,软件要设计成 agent-native,支持 Markdown、API、结构化日志、可复制指令、无头流程等,要多考虑 sensors(感知状态)和 actuators(改变世界)。文档还是要为人写的,这是 Karpathy 自己的痛点,agent 需要机器可读的格式,但人也要能看懂。
最后他说,你可以外包思考,但外包不了理解。即使 agent 做了大部分工作,人类还是要知道什么值得做、什么地方可疑、tradeoff 该怎么取舍。教育方面,建议大家动手做一些小而精的项目,比如 microGPT,人类提供品味,agent 帮忙交互解释。大趋势是 AI 成为数字工作的新操作系统层,稀缺的东西从代码生成转向了理解、品味、安全、协调和领域专属的反馈。
给创始人的建议是:去找那些有价值、可验证,但实验室还没重点投入的领域,自己建 RL 环境来蹭红利;把 workflow 围绕 agent 重新设计,而不是围绕人手动操作;始终把人类判断留在循环里;有些老软件该淘汰了,有些新的机会才刚刚出现。
.0
关联工程母题系统与实测说明:
本篇「Karpathy 论 AI 编程拐点:从辅助补全到自主工程」由 qilai 整理收录于 qilaidav 工程知识库,围绕 电报运营与高度拟人中枢 的生产环境架构设计、链路排障与确定性验证展开沉淀。完整系统模块、部署边界与技术规格请查阅方案主页:→ 查看 电报运营与高度拟人中枢 详情(架构诊断与定制交流:Telegram @BD8888 · hello@qilaidav.com · GitHub @qilaidev)。
免责声明与评测方法:本文所涉开源工具、模型基准与工程配置均基于实测环境与公开技术资料整理,仅供系统架构研发参考,不构成任何商业背书或投资建议。
— qilai · 摘自 Telegram 频道 @AIKB8