（中央社華盛頓16日綜合外電報導）政治新聞網站Politico今天引述3名消息人士報導，人工智慧（AI）新創公司Anthropic代表近日私下向美國國會議員推介1項法案草案，旨在規範前沿AI模型的安全防護措施。
路透社報導，草案規定，只有在AI模型構成可預見且迫在眉睫的風險、可能造成超過10億美元損失，或導致50人以上死亡或重傷時，政府才能阻止該模型發布或使用。
此外，相關風險必須源自生物武器的製造或釋出、AI模型規避開發者的控制措施，或是網路攻擊。
Anthropic發言人告訴路透社，這項法案反映出Anthropic今年稍早公布的「先進AI框架」（Advanced AI Framework）所提出的建議。
發言人表示，法案將賦予政府「阻止或遏制最強大模型危險部署的能力」，並要求開發者測試前沿AI模型、公開測試結果，並接受獨立評估。
根據報導，法案將要求獨立評估機構向商務部登記，並定期評估AI實驗室及其開發的前沿模型。AI實驗室可以支付費用給這些評估機構，但報酬不得與評估結果掛鉤。
如果評估機構認定某家公司開發的前沿模型存在法案所列的迫切風險，必須在完成評估後的72小時內向商務部通報。
商務部認定模型存在風險後，可向法官聲請下令暫停該模型；法案也明文禁止美國其他政府部門、機關或官員下令暫停相關模型的開發、部署或內部使用。
Politico報導，哥倫比亞特區聯邦地方法院法官可下令暫停相關AI模型。（編譯：施施）1151017
评论 (0)