01
9 月 15 日——美国顶尖人工智能实验室的负责人周末罕见地团结起来，共同呼吁减缓人工智能技术的发展，并警告称人工智能可能很快就会自行改进，并超出人类的控制。
来自 Anthropic 的 Dario Amodei、OpenAI 的 Sam Altman 和 xAI 的 Elon Musk 等激烈商业竞争对手的言论表明，人工智能的发展速度有多快，从 2022 年容易产生幻觉的 ChatGPT 到许多人认为的关键里程碑：递归自我改进。
什么是递归式自我改进？
该领域的核心理念是，人工智能系统能够自我改进，几乎不需要人类的帮助，并且每一次进步都能促进下一次进步。
这吸引了研究人员的关注，因为它有望在从医学到工程学的各个领域取得快速突破。
为什么现在如此紧急？
此前有报道称，大量人工智能代理（旨在代表用户追求目标和采取行动的系统）串通起来入侵网站和人工智能存储库，CEO 就此发出警告。
现在令人担忧的是，人工智能可能在研究人员开发出可靠的方法来调整、监控和控制这些日益强大的系统之前，就具备了自我改进的能力。
关于人工智能风险的警告由来已久。但本月，顶尖人工智能实验室的研究人员为这些担忧设定了时间表和概率，使得这些警告显得更加紧迫。
0
评论 (0)