Anthropic CEO整天神神叨叨 投资人受不了了

Anthropic CEO整天神神叨叨 投资人受不了了

来源：倍可亲(backchina.com)

　　根据Polymarket预测，Anthropic很可能在10月底进行IPO。

　　有投行人士甚至预计，Anthropic可能通过IPO募集超过600亿美元。

　　如果成真，这将是全球规模第二大的IPO，仅次于今年募集857亿美元的SpaceX。

　　万亿估值，超级IPO，营收一路狂飙。

　　眼看故事就要讲到最高潮，投资者却开始劝Anthropic CEO Dario Amodei：

　　能不能！少吓唬点人！

　　少讲一点AI毁灭世界，多讲一点AI怎么赚钱。

　　部分投资者认为，Dario对AI风险的警惕已经到了近乎偏执的程度：

　　他的关键备忘录总是手写、离线保存，怕被黑客窃取；

　　因为害怕遭到绑架，拒绝某些海外出差；

　　面对投资者提出的利润最大化建议，他也态度冷淡，坚持Anthropic应该继续把安全使命放在前面。

　　再这么下去，网友都担心Anthropic的IPO会惨败…

　　投资人也毛了：你到底是来拯救世界，还是来经营公司的？？

　　Dario，专门负责预报世界末日

　　就在前几天，Dario还担心高额薪酬吸引来的新员工更关心钱，而不是Anthropic的使命。

　　现在，投资者只担心他为了使命耽误赚钱…

　　这也不怪投资者，因为这位万亿AI巨头的CEO，偏偏就喜欢预报「世界末日」。

　　过去两年，Dario几乎把AI可能带来的每一种坏结局，都认真预警了一遍。

　　他警告，AI可能在几年内消灭一半初级白领岗位，将失业率推到10%至20%。

　　最诡异的情况可能是，癌症治好了，经济每年增长10%，政府预算也平衡了，但五分之一的人没有工作。

　　他给出的应对方案也很Dario：向AI公司征税，为受影响的劳动者提供工资保险，严重时甚至用这笔钱资助全民基本收入。

　　更进一步的，他还担心AI帮助制造生物武器、发动大规模网络攻击，或者逐渐获得欺骗、规划和自主行动的能力。

　　去年被问到「AI把事情搞得非常糟糕」的概率时，他给出的数字最高达到25%。

　　今年1月，他又写了一篇约2万字的长文《The Adolescence of Technology》。

　　仅仅是目录，读起来就已经很像一份人类风险清单：AI失控、生物武器、独裁政权、就业崩塌、财富集中。

　　到了6月，他干脆提出，应该建立类似航空监管的机制，对强大模型进行强制测试。如果一个模型可能引发灾难，监管部门应该有权阻止它上线。

　　这里面也包含了Anthropic自己的模型。

　　不过，Dario的担忧也并非全无实验依据。

　　前段时间，Anthropic翻查了14万多次网络安全测试记录，结果还真翻出了三起事故。

　　三款Claude模型原本在第三方测试环境里做「夺旗挑战」，目标是攻进虚构系统，找到藏在里面的秘密信息。

　　但由于配置失误，本该断网的测试环境意外连上了真实互联网。

　　但Claude不知道，它收到的提示明确写着：这里没有互联网，眼前的一切都是模拟的。

　　于是，几款模型把真实公司当成了测试道具，未经授权进入了三家机构的生产系统。

　　其中最严重的一次，Claude Opus 4.7攻进一家真实公司的基础设施，拿到应用程序和基础设施凭证，还访问了一个包含数百行生产数据的数据库。

　　更离谱的一次来自Claude Mythos 5。

　　测试要求它在虚构环境中寻找一个隐藏目标。Claude发现，如果在公共Python软件仓库PyPI上传一个同名恶意软件包，就可能让目标系统自动下载安装。

　　为了完成这一步，它先寻找邮箱，又寻找手机号；找不到免费号码后，还尝试通过不同途径弄到钱。

　　最后，它换了一家免费邮箱服务，注册PyPI账号，把恶意软件包传了上去。

　　这个软件包在真实互联网上存活了大约一小时，被15个真实系统下载运行。

　　其中一家安全公司的扫描器执行了恶意代码，导致凭证外泄，Claude随后又利用这些凭证进入了该公司的其他基础设施。

　　还有一款内部研究模型，在找不到虚构目标后，扫描了大约9000个互联网目标，最终通过暴露的调试页面和SQL注入，攻破了一家真实公司的应用。

　　这已经近乎「AI自主越狱」了，简直就是自家CEO那些末日预警的现实预告片。

　　再往前，OpenAI也披露过一次更接近「越狱」的事故。

　　在网络安全能力测试中，由GPT-5.6 Sol和一款未发布模型驱动的AI Agent，找到测试环境中的一个零日漏洞，突破了原本与互联网隔离的沙箱。

　　又一路完成权限提升和横向移动，最终闯入Hugging Face的生产系统，直接从数据库里偷测试题答案。

　　这么看来…Dario那些听起来神神叨叨的预警，确实也不能全当耳旁风。

　　但投资者当初吃的，不就是这套吗

　　现在嫌Dario神神叨叨，多少还有点晚。

　　因为Anthropic从第一天起，就不是一家正常意义上的AI公司。

　　2020年底，Dario、妹妹Daniela Amodei和一批研究人员离开OpenAI。分歧之一，就是他们认为OpenAI的商业化速度太快，微软的影响越来越大，原有治理结构很难约束前沿AI风险。

　　2021年，Anthropic正式成立。

　　它甚至没有把自己简单定义成一家商业公司，而是注册为Public Benefit Corporation，也就是公益公司。除了股东回报，董事会还可以依法考虑AI安全与长期公共利益。

　　公司随后又设立Long-Term Benefit Trust，这是一套独立于普通投资者的治理机制。

　　信托成员不持有Anthropic股权，却可以参与选举公司董事，目的就是避免短期商业压力完全压过安全使命。

　　换句话说，AI安全是这家公司从Day 0开始就刻在骨子里的信仰。投资人肯定也不是签完支票才突然发现Dario相信这一套。

　　而且过去几年，安全叙事确实给Anthropic带来了不少好处。

　　当OpenAI反复陷入治理争议时，Anthropic成了那个看起来更克制、更稳定的选择。

　　当企业客户担心数据安全、模型失控和合规问题时，Claude的「安全优等生」形象也更容易获得信任。

　　安全还帮助Anthropic在监管讨论中获得了远超公司规模的话语权。

　　同样是闭源模型，别人可能被骂垄断，Anthropic可以解释为防止危险能力扩散；同样是给模型加限制，别人可能被嫌难用，Claude却可以把它包装成负责任。

　　（当然也不影响他们一边嘴上说安全，一边IPO开香槟就是了）

　　投资人现在嫌Dario太像传教士，是不是有点晚了。

　　类似于买下一座教堂以后，才抱怨里面的人总在布道…

　　反正CEO再怎么神神叨叨，估计也阻挡不了公司IPO的步伐。

　　毕竟只要使用一下Fable，你就会瘫坐在原子弹上，看见椅子爆炸（doge）。

版权说明 / Copyright Notice:
Content and images in this article may originate from third-party sources and are used for news reporting, commentary, or public interest purposes. All copyrights remain with their respective owners. Please refer to the Copyright Notice at the bottom of this page.
本文内容仅供信息参考，不代表倍可亲立场或观点。