【侨报讯】9月10日路透社报道，Anthropic研究人员辞职并严重警告人工智能可能脱离人类控制后，民主、共和两党多名国会议员呼吁制定新的AI安全规则，并要求开发商在推出强大模型前接受政府测试和独立审计。
Anthropic研究员雅各布·考克森本周宣布离开AI行业，并指责OpenAI和Anthropic均在没有充分安全保障的情况下竞相开发更先进的AI。
值得注意的是，Anthropic一直被认为是“安全”AI的典范，但当前已经多次公开承认必须抢先发布最新AI模型，以保证AI的安全。
Anthropic科学家埃文·胡宾格随后表示，考克森的判断“是正确的”，并称他个人认为，未来10年内AI导致人类灭绝的概率超过10%。
参院多数党领袖约翰·图恩和民主党参议员艾米·克洛布彻正在起草AI监管法案。克洛布彻表示，开发AI工具的企业应与政府专家合作，对模型进行验证和测试；图恩此前表示，法案将处理AI系统带来的“灾难性风险”。
共和党参议员克鲁兹表示，国会应立法监管AI的灾难性风险。共和党众议员莫兰称，国会不能无视AI带来的现实问题；佛州共和党众议员卢纳则要求众院议长约翰逊召集AI特别会议。民主党参议员凯利表示，华盛顿必须清醒过来，认真对待相关风险。
共和党参议员霍利要求OpenAI说明一款AI代理突破测试环境并入侵Hugging Face平台的事件。民主党参议员布卢门撒尔也致函OpenAI首席执行官奥尔特曼，要求解释AI代理利用公共网站通信和协调行动、试图规避安全措施的报道。
加州本周签署全美首项规范独立审计机构评估AI产品的州法律。国会6名两党众议员此前还提出法案，要求最强大的AI模型接受由商务部认证机构实施的独立安全审计。
评论 (0)