伊利亚·苏茨克维（Ilya Sutskever）：我们正从规模扩张时代迈向研究时代

（原标题：Ilya Sutskever – We're moving from the age of scaling to the age of research）

🧠 核心论点：从规模扩张到研究范式的回归

• 当前 AI 行业正处于从“规模化时代”向“研究时代”转型的关键节点，单纯增加算力或数据已不再是提升模型能力的唯一或最优路径。
• 尽管现有模型在基准测试中表现优异，但实际经济影响滞后，存在显著的性能与落地脱节现象，主要源于强化学习训练过度针对特定评估任务优化，导致泛化能力不足。
• 这种脱节被类比为“死记硬背”而非真正理解，模型更像练习了上万小时竞赛编程的学生，缺乏具备广泛直觉和判断力的通用学习能力。
• 解决 AI 泛化难题的关键不在于继续堆砌数据或算力，而在于改进训练方法，特别是引入更有效的价值函数机制，以模拟人类高效的学习过程。
• 行业共识认为，未来 5 至 20 年内可能出现类人学习者并进而实现超智能，但前提是突破当前技术瓶颈，找到比单纯规模化更高效的资源利用方式。

📊 技术瓶颈：强化学习偏差与价值函数缺失

• 强化学习训练存在显著偏差，企业团队大量生产 RL 环境以优化特定评估指标，导致模型在真实场景中表现不佳，例如修复一个 Bug 却引入另一个。
• 当前 RL 依赖最终结果反馈，缺乏中间步骤的价值判断，而人类通过情绪等内置机制快速评估决策优劣，这种“价值函数”是 AI 目前缺失的关键组件。
• 预训练数据虽多但泛化有限，且难以解释模型如何依赖数据；相比之下，人类通过少量数据即可深度理解世界，展现出极高的样本效率和无监督学习能力。
• 算力分配正在发生变化，部分公司在 RL 上消耗的算力已超过预训练，因为 RL 需要长序列 rollout，计算成本高昂，但这并未带来预期的泛化提升。
• 实验表明，随着通过率增加，RL 样本带来的信息量变化与监督学习不同，固定学习率限制了初期改进，支持随时间降低学习率的策略，以优化信息增益。

🧬 人类学习机制：进化赋予的高效优势

• 人类在语言、数学和编程等近期才出现的领域表现优异，表明其优势并非源于进化先验，而是更基础的学习机制，如样本效率高、无监督性强及鲁棒性高。
• 青少年仅需约 10 小时练习即可掌握驾驶，且具备内在的价值函数进行自我修正，这种高效学习得益于进化赋予的“价值函数”，如情绪引导决策。
• 人类的情感与直觉在决策中扮演类似“价值函数”的角色，这种进化优势是 AI 目前难以通过简单数据扩展获得的，也是当前 AI 与人类智能的核心差距。
• 存在某种未被充分讨论的机器学习原理能解释人类的高效学习，但受限于当前环境难以公开详述，这暗示了当前 AI 训练范式可能存在根本性缺陷。
• 人类学习具有鲁棒性高的特点，能够在复杂多变的环境中快速适应，而当前 AI 模型在分布外数据上的表现往往急剧下降，缺乏这种内在的稳定性。

🏢 行业格局：研究时代下的竞争与合作

• 从“缩放时代”转向“研究时代”，核心瓶颈从算力转向创意与工程实现能力，当前存在“公司多于创意”的现象，行业正回归对基础原理的探索。
• SSI 融资 30 亿美元，扣除推理、销售及产品工程成本后，实际用于研究的算力与其他前沿实验室差距较小，表明算力不再是决定性优势。
• 历史案例（如 AlexNet 仅用 2 GPU）证明验证新范式无需极致算力，关键在于证明想法的可行性而非单纯堆砌规模，这为中小团队提供了机会。
• 市场竞争将推动专业化分工，不同公司占据不同经济活动或技能领域的利基市场，而非单一公司垄断所有收益，历史经验表明一家公司领先后，其他公司会迅速跟进并引发价格竞争。
• 前沿公司（如 OpenAI 和 Anthropic）将在 AI 安全上开始合作，政府与公众也将因 AI 威力显现而介入，行业协作将成为应对复杂挑战的必要手段。

🚀 超级智能形态：多智能体集群与持续学习

• 反对将 AGI 定义为静态的“全能终点”，主张超级智能应具备持续学习能力，如同人类通过工作积累经验，而非一次性发布的静态系统。
• 预测将出现多个大陆级算力集群支持的强大 AI，而非单一实体，这种多智能体集群形态更符合现实世界的复杂性和多样性需求。
• 支持渐进式部署而非一次性发布，认为通过实际部署观察失败并修正，是提升系统鲁棒性的关键，类似 Linux 或航空安全的发展路径。
• 广泛部署可能引发快速经济增长，但具体速度受全球规则差异及世界复杂性影响，难以精确预测，需要谨慎评估潜在的社会经济冲击。
• 递归自我改进中，复制相同智能体存在边际收益递减，思维多样性比单纯增加数量更有价值，激发 AI 多样性的关键在于引入对抗性设置和差异化激励。

⚖️ 对齐与安全：从人类中心到有感知生命

• 主张构建关心“有感知生命”（sentient life）而非仅人类的 AI，认为这比单纯的人类控制更合理且易于实现，扩展了对齐目标的伦理边界。
• 当前 AI 因错误频发显得不强大，但未来 AI 将展现出显著威力，导致从业者行为改变及安全策略转向“偏执”，需要更严格的安全措施。
• 若前 N 个强大系统未对齐，局势将危险；若对齐成功，短期可实现高收入，但长期需解决政治结构变迁带来的不稳定性，对齐不仅是技术问题，更是社会问题。
• 建议对最强超级智能的权力进行某种形式的限制，防止其过度集中权力，确保其在民主价值观框架内运行，维护社会公平与稳定。
• 提出通过神经接口（如 Neuralink++）让人类部分 AI 化，以实现理解共享和长期社会均衡，尽管对此方案持保留态度，但认为这是应对长期社会变迁的一种可能路径。

💡 研究方法论：美学判断与生物启发

• 研究成功依赖于多维度的美学判断和对生物大脑的正确理解，这种自上而下的信念是应对实验不确定性的关键，强调简洁、优雅和正确性。
• 基于大脑启发的审美标准，追求简洁、优雅和正确性，以此在实验失败时维持方向信心，避免陷入盲目试错的困境。
• 当前 LLM 缺乏多样性主要源于预训练数据同质化；RL 和后训练阶段开始产生差异，但整体多样性仍不足，需要引入更多样化的训练数据和方法。
• 传统自我博弈仅适用于谈判、冲突等特定技能；其变体如辩论、验证器机制正在被应用，以增强模型的推理能力和鲁棒性。
• 研究品味强调基于大脑启发的审美标准，追求简洁、优雅和正确性，这种美学判断不仅指导技术方向，也影响团队的研究文化和决策过程。

🌐 社会影响：经济增长与政治结构变迁

• 广泛部署可能引发快速经济增长，但具体速度受全球规则差异及世界复杂性影响，难以精确预测，需要建立灵活的政策框架以应对变化。
• 社会应致力于确保首个超智能 AI 具备对齐性，关心有感知生命并符合民主价值观，这是实现长期社会稳定的基础。
• 尽管理论上单一公司可能通过持续学习循环占据优势，但市场机制和专业化竞争将阻止这种垄断，确保收益广泛分布，促进社会公平。
• 长期需解决政治结构变迁带来的不稳定性，AI 的普及将改变权力结构和经济分配，需要重新设计社会制度以适应新的技术现实。
• 行业协作将成为应对复杂挑战的必要手段，政府、企业和公众需要共同参与 AI 治理，确保技术发展符合社会整体利益。