AI不确定性的数学

外来客 • 2026-08-26 09:04:52

声明：本文为对公开视频内容的摘要整理，未经本站独立核实，可能与原视频存在出入，不代表本站立场、观点或建议；观点与版权归原作者及原平台所有。如涉及版权问题，请联系我们，核实后立即删除。 [ 免责声明 ]

（原标题：The mathematics of AI uncertainty）

🧠 核心观点

智能系统的本质在于决策，而高质量的决策必须建立在对不确定性的准确表征、动态更新与有效利用之上。
当前主流AI系统普遍缺乏“自我怀疑”能力，常表现出过度自信（Overconfidence），导致错误答案被坚定输出，这是其核心缺陷之一。
真正的智能需要严格区分“随机性不确定性”（Aleatoric）与“认知不确定性”（Epistemic）：前者源于物理世界的随机本质，需接受其存在；后者源于知识缺失，需通过收集信息来减少。
人类在潜意识层面通过概率推理处理感知与学习，但在显式概率估算上表现较差；AI应比人类更理性地处理概率，具备谦逊与诚实，在无法确定时明确表达“不知道”。
基于数据训练的AI存在“伪推理”风险，缺乏对世界真实逻辑的深度推理能力，难以处理长尾罕见事件，需引入贝叶斯思维以构建更准确的校准预测。

📊 关键事实与论据

对抗样本风险：仅需修改图像中几个不可感知的像素，神经网络即可将“校车”以99%的高置信度误判为“猎豹”，证明仅关注正确性而忽视置信度是极其危险的。
贝叶斯规则应用：通过“先验信念”乘以“似然”并归一化得到“后验信念”，这是感知、学习及信息获取（定义为不确定性减少）的数学基础。
LLM局限性：大语言模型本质是下一词元预测，虽隐含概率分布，但缺乏显式的概率表征机制。当用户质疑时，模型常因缺乏稳固的信念基础而随意翻转答案，而非基于证据辩护。
语义熵（Semantic Entropy）：通过计算模型内部下一词元概率分布的熵值来推断置信度。低熵（分布尖锐）代表高确定性（如“埃菲尔铁塔”对应“巴黎”），高熵（分布分散）代表高不确定性。
计算瓶颈与突破：15-20年前因概率分布计算不可行（需超级计算机且耗时极长），业界转向纯数据训练；如今算力提升（如口袋手机快于当年超算），可重新审视贝叶斯方法。
气象预测案例：Google DeepMind的GenCast模型利用扩散模型生成预报集合，8分钟内完成15天预测，通过贝叶斯更新机制随新数据修正飓风轨迹概率，优于单次确定性预测。
AlphaFold应用：蛋白质折叠预测通过颜色编码展示模型置信度，反映物理摆动及模型预测的不确定性，体现了不确定性在科学发现中的价值。
持续学习优势：贝叶斯更新机制理论上可避免灾难性遗忘，实现类似人类的持续学习，而当前大模型训练存在数据低效问题。
能效对比：人脑功耗约20瓦，而大模型训练能耗高出数个数量级，提示需探索更高效的架构以解决能效问题。