Dario Amodei认为，“放缓AI”不是说我们今天需要恐慌，也不是说要把一切都关掉。但我们需要确保我们的安全防护、理解能力和控制能力，能够跟上技术发展的速度。此外，关闭AI模型的想法不是唯一的解决方案。如果一个AI模型足够强大，它可能关都关不掉。
就在全球AI三大巨头罕见联手呼吁“放缓AI研发”的同一个周末，Anthropic CEO Dario Amodei坐到了CBS的镜头前，说出了AI可能对人类带来的风险。
9月13日，Amodei接受了CBS《周日早间》的专访。访谈一开始，主持人Jo Ling Kent直接抛出问题：AI真的可能在不远的将来杀死我们所有人吗？
Amodei表示，已有人尝试利用AI研发生物武器、增强病毒传染性，这是他每天醒来都要面对的事情。
就在两天前，我们发布了一份报告，内容是关于有人滥用AI模型来研发生物武器。我每天早上醒来都会读到这类威胁报告——有人试图用我们的模型来研发生物武器。我当然不想为此负责。
他还提到，Anthropic的生物学安全防护之严格，以至于“几乎每天都有人在社交媒体上嘲笑我，生物学专业的学生抱怨说模型没法用”。他的回应是：“我宁愿被嘲笑，也不愿某天醒来发现有人用Claude杀了一群人。”
不过，他反对关闭AI模型这种“一刀切”的方式放缓AI。如果一个AI模型足够强大，它可能关都关不掉。他说道，“不是说我们今天需要恐慌，也不是说要把一切都关掉。但我们需要确保我们的安全防护、理解能力和控制能力，能够跟上技术发展的速度。”
此次访谈发生在一个特殊节点。同一个周末，Amodei发表的一篇博文《我们必须为前沿AI踩刹车》（We Must Pace the Frontier）引发轩然大波，并随即获得马斯克、Altman相继公开支持。社区热议称，AI高速前进之际“踩刹车”将重挫“AI交易”。
0
评论 (0)