美众议院警告AI“黑天鹅”风险:严防恐怖分子....

美众议院警告AI“黑天鹅”风险:严防恐怖分子....

来源：倍可亲(backchina.com)

 　　北京时间9月1日，据CNBC报道，美国国会众议院常设特别情报委员会敦促美国情报机构更好地防范“黑天鹅”式AI风险。该委员会在一份新报告中警告称，恐怖分子或敌对势力可能利用这项技术研发更加危险的武器，并策划更致命的袭击。

　　报告称：“委员会认为，情报界以及更广泛的政策制定者必须慎重考虑如何防止AI工具被包括恐怖分子在内的恶意行为者利用。”这份报告旨在评估过去25年来美国为应对情报失误所采取的措施，而这些情报失误最终导致了2001年9月11日的恐怖袭击。

　　“自9/11以来，防止恐怖组织获得制造和使用大规模杀伤性武器所需的设备和专业知识，一直是情报界及国家安全机构的重要工作重点。前沿大型语言模型有可能使包括恐怖分子在内的任何恶意行为者都能更轻易地策划和实施更具破坏性的攻击。”报告称。

　　这份报告及其对AI破坏性潜力的警告，距离造成数千人死亡并重塑美国安全体系的9/11恐怖袭击25周年纪念日不到两周。与此同时，AI正迅速发展并驱动着庞大的经济活动，这使立法者和官员们不得不应对围绕该技术监管的棘手难题。

　　该报告由众议院情报委员会主席、阿肯色州共和党议员里克·克劳福德(Rick Crawford)，和委员会资深成员、康涅狄格州民主党议员吉姆·海姆斯(Jim Himes)，以及纽约(专题)州共和党议员埃莉斯·斯特凡尼克(Elise Stefanik)、新泽西州民主党议员乔什·戈特海默(Josh Gottheimer)共同撰写。他们警告称，现有的安全防护措施可能不足以跟上AI快速发展的步伐。

　　“尽管AI实验室试图阻止模型提供可能帮助不法分子实施相关行为的信息，例如制造生物武器，但模型底层能力正在快速发展，而要完全控制模型的此类用途非常困难。”这些议员写道。

　　这些议员敦促美国情报界“加快负责任地采用先进AI能力，以确保美国始终领先于对手”。报告还指出，投资于“用于信息收集、分析和预警的安全AI工具，并配合严格测试、人工监督以及强有力的隐私和公民自由保护措施”，对于应对下一代威胁至关重要。

　　该委员会总体认为，美国“面临自2001年9月11日以来最为复杂和危险的安全威胁环境”。报告称：“我们在应对和解决这些薄弱环节方面仍然存在严重差距。我们尚未做好充分准备来应对和解决自身的脆弱性。”

版权说明 / Copyright Notice:
Content and images in this article may originate from third-party sources and are used for news reporting, commentary, or public interest purposes. All copyrights remain with their respective owners. Please refer to the Copyright Notice at the bottom of this page.
本文内容仅供信息参考，不代表倍可亲立场或观点。