企业官网建设流程全解析

模型负责理解与生成，Controller负责计划与调度，工具连接真实环境，测试与日志提供反馈，运行时管理权限与隔离，Trace保存完整过程。

“大语言模型本身能不能通向AGI？答案很明确，不能。”

人工智能之父尤尔根·施密德胡伯（Jürgen Schmidhuber）在Big Technology Podcast最新一期访谈里，面对主持人的问题回答得斩钉截铁。这个“不能”，与开发者正在经历的AI编程热潮有直接关系。

Schmidhuber研究神经网络与通用智能数十年。他在访谈里给出解释：LLM负责预测，Controller负责行动，外部反馈告诉系统哪条路能走、哪条路应该避开。

这套结构几乎可以直接搬到Coding Agent上。

模型生成代码只是第一层。任务规划、工具调用、权限、测试、失败恢复和执行轨迹，才决定Agent能不能从演示走进真实项目。

访谈还谈到Physical AI的硬件瓶颈、AI算力投资可能出现的巨额损失、本地模型，以及“AI是否真的会疼”。

这些看起来离写代码很远，落到工程现场，谈的仍是同一个问题：一个会说话的模型，怎样变成一个可以交付任务的系统。

以下为访谈内容，我们进行了翻译与整理。

“只靠LLM走不到AGI”，施密德胡伯先否了这条路线

“The answer is a clear no.”

施密德胡伯：答案很明确，不能。

Alex Kantrowitz：只使用GPT模型，有机会抵达AGI吗？还是说，放弃World Model路线会成为一个根本错误？

施密德胡伯：OpenAI有很多聪明人，他们很清楚单独的LLM做不到这一点。基础模型可以充当World Model，用来预测另一个决策系统采取行动后，环境会发生什么变化。

他用婴儿学习来解释这种差别。

婴儿不会先下载整个互联网。它抬手、转头、触摸物体，通过自己发起的实验制造数据。

内部的World Model逐渐学会预测：发出某种动作信号后，手会移动到哪里，眼前的画面会怎样变化。

放到Coding Agent里，仓库内容相当于已经读过的世界。Agent开始工作后，还会不断制造新数据：命令输出、测试结果、编译错误、页面截图和人工修改。

如果这些结果没有返回下一轮决策，模型读再多代码，也只是完成了一次看起来合理的续写。

Schmidhuber回答只靠LLM能否通向AGI

基础模型负责预测，Controller决定下一步做什么

“A prediction machine.”

施密德胡伯：基础模型是一台预测机器。

他把完整系统拆成两个核心部分。

第一个是World Model。它观察已经发生的内容，预测下一段文本、下一个状态，以及一串动作可能带来的后果。

第二个是Controller。它调用World Model做规划，在多条候选路径中选择动作，争取更高的奖励，同时避开预计会带来惩罚的结果。

施密德胡伯：基础模型单独拿出来，还算不上完整的AI。系统需要另一个部分，利用World Model中的信息制定更好的计划。

Schmidhuber解释预测模型与Controller的分工

现在看Claude Code或Codex，分工就很具体了。

LLM读取仓库、理解需求、生成代码；Controller维护任务状态，安排代码搜索、终端和浏览器等工具，记录失败次数，决定继续、重试还是回滚；测试、日志和人工审查再把结果送回来。

一条Prompt可以启动任务，却无法单独保证任务结束。

长任务能否跑完，更多取决于Controller有没有停止条件、重试上限和失败后的备用路径。

模型偶尔写错一行并不可怕。Controller把错误当成进展，连续改掉几十个文件，才是Agent进入真实项目后更难处理的故障。

Agent越改越错，是因为失败没有进入下一轮决策

Alex Kantrowitz：机器人为什么需要疼痛和情绪？

施密德胡伯：疼痛与情绪是学习过程里的重要组成部分。机器人要知道哪些结果对自己有利，哪些结果应该避开。疼痛信号承担的就是这个作用。

Schmidhuber解释疼痛信号如何参与机器人学习

开发者每天使用的测试，就是Coding Agent最直接的“疼痛信号”。

单元测试失败、进程返回非零退出码、类型检查报错、页面截图与基线不一致，都在告诉Controller，当前路径没有走通。

只有把这些结果送回决策循环，Agent才有机会调整方案。

比如让Agent修复登录跳转异常，只给一句“把这个Bug修好”，模型很可能改出一份能够自圆其说的代码。

若任务同时包含复现步骤、失败用例、允许修改的目录和验收命令，Agent每改一次都能重新运行测试。

测试不通过就继续排查，连续失败则回到前一个状态。

没有测试和可观察结果，模型只能根据代码表面判断自己是否完成任务。它说“已经修好”，与它真的修好，是两件不同的事。

模型已经跑得很快，工具链却还拖着后腿

“The main obstacle is progress in the hardware.”

施密德胡伯：主要障碍在于硬件方面的进展。

Alex Kantrowitz：距离机器人通过简单的演示，就能学会组装手机、制作衣服，还有多远？

施密德胡伯：我们已经越来越接近，但机器人硬件的进步速度远远落后于计算机。计算成本不断下降，今天的机器人却没有比几十年前的机器人强上百万倍。

Schmidhuber谈Physical AI的硬件瓶颈

软件Agent也有自己的“身体”。

代码搜索是否准确，沙箱能不能稳定启动，依赖能否复现，测试需要跑多久，日志有没有结构化输出，都会限制Agent能做多少工作。

同一个模型放进两个代码库，结果可能完全不同。

一个仓库有清晰的README、固定的测试入口和可回滚的环境，Agent可以连续推进任务；另一个仓库连本地启动命令都已经失效，模型只能边猜边试。

团队准备采购更强模型时，也该检查一下模型周围的工程环境。很多Agent故障发生在工具不可用、权限不明确和验收条件缺失这些地方。

9000亿美元可能打水漂，模型绑定会越来越危险

话题转向AI公司对GPU、数据中心和能源的巨额投资时，Schmidhuber给出了整场访谈里最激进的判断。

施密德胡伯：如果今天向GPU数据中心投入1万亿美元，而计算成本仍保持每五年下降到十分之一，那么五年后可能有人要损失其中的9000亿美元。几个月前领先的模型，很快就会出现相近的开源版本，价格会持续承压。

Schmidhuber谈AI投资与计算成本下降

他提到的技术变化已经进入开发者的日常：模型更新更快，价格频繁调整，额度和可用区域也会变化。

应用层最好不要依赖某个模型独有的输出习惯。

模型调用、工具协议、业务规则和评测需要分层；版本要能固定，也要准备切换路径；关键任务建立回归评测，高成本模型处理规划与疑难问题，常规执行交给更便宜的模型。

API变价、限额或下线时，业务能否继续运行，考验的是这层工程隔离。

AI不会永远住在云端，代码也不必全部发出去

施密德胡伯：AI很快不会只留在云端。它会运行在本地的小型计算机上，拥有今天云端系统的能力，也不必连接互联网。

Alex Kantrowitz：在这轮AI投资中，普通人最终能得到什么？

施密德胡伯：普通人会受益于计算成本下降。过去只有富人买得起的技术，后来进入了每个人的手机。AI也会经历类似过程，人们最终可以拥有自己的软件AI和Physical AI。

Schmidhuber预测AI将从云端走向本地

对开发工具而言，本地推理多了一层现实价值。

私有代码可以留在机器上，离线环境仍能工作，代码搜索、摘要和轻量审查也不必全部请求云端模型。

更复杂的规划交给云端，本地模型负责高频、低延迟和敏感数据任务，会形成一套更容易控制成本与权限的混合架构。

开发者现在要准备的，是把模型调用设计成可以替换的能力层，避免把全部工作流写死在一次云端请求里。

AI有意识？先看看它读过什么

Alex Kantrowitz：很多人把LLM称为随机鹦鹉或统计机器，因此认为它们没有意识。你为什么持有不同看法？

施密德胡伯：今天大家使用的LLM主要根据已有文本预测下一个Token。它们太简单，还缺少发展自我意识的内部动机。

它们之所以显得有意识，是因为读过几乎所有关于意识的内容，也读过人类关于爱、痛苦和冲突的作品。

Schmidhuber谈LLM为何显得有意识

模型可以生成一套很像亲身体验的自我叙述。但并没有证明ChatGPT已经拥有人的感受。

同样的判断也适用于Coding Agent。

Agent说“我已经检查了全部测试”，不能直接算作验收；系统需要留下测试命令、退出码和报告。Agent说“这次修改很安全”，也不能替代权限策略、diff审查和回滚方案。

语言可以把一件事说得很完整，工程系统还要拿出外部证据。

Prompt之外，Agent还要补齐一整套运行栈

施密德胡伯讨论的是AGI、机器人和意识，落到开发者手中，可以整理成一套清晰的Coding Agent架构。

模型负责理解与生成，Controller负责计划与调度，工具连接真实环境，测试与日志提供反馈，运行时管理权限与隔离，Trace保存完整过程。

团队的实施顺序也可以从这里排出来。

先挑选一批真实任务，建立能够重复执行的评测；随后接入工具和Controller，让失败结果回到下一轮决策；再补沙箱、身份、日志、人工接管和回滚；运行稳定以后，再讨论模型路由与成本优化。

Prompt仍然重要，但它只负责把任务交出去。Agent能否进入生产环境，最终要看模型外面的工程系统能不能接住它。