👋 大家我是乔坤,今天拆解萨顿在德瓦尔凯什播客的观点

🎙️ 访谈主题:萨顿直言“大语言模型是死路一条”,探讨智能本质与AGI使命

⚠️ 三大缺陷:

🌍 缺乏真正的世界模型,只会模仿语言而不理解因果

❌ 没有 ground truth,缺少对错反馈无法自我改进

🧊 无法从经验学习,不会因现实偏差调整认知

🎯 智能本质:关键在于目标与实现目标的能力,没有目标就不算智能

🔄 经验学习范式:智能来自感知 → 行动 → 奖励的循环,而非人类文本

👶 学习方式:婴儿与松鼠都通过试错和直接经验学习,而非模仿或监督

🧩 四大核心组件:

📜 策略(policy):决定在某状态下的行动

📊 价值函数(value function):评估长期收益

👁️ 感知(perception):构建有意义的状态表示

🔮 世界转换模型:理解行动的因果与未来预测

📖 《苦涩的教训》澄清:可扩展的路径是依赖计算与通用方法,而不是人类知识

🚧 大语言模型局限:依赖人类文本,容易陷入局部最优,缺乏真正的可扩展性

🔄 泛化问题:

💥 灾难性遗忘:学新忘旧

📉 缺乏自动泛化机制:梯度下降只能记忆而非真正总结规律

➕ 真正泛化:能根据不同情况选择多种解法,而不是只套训练数据中的套路

⏳ 持续学习:世界太大,无法靠人类教完,智能体必须通过与世界互动不断积累知识