[摄影：朴钟浩记者] 随着人工智能（AI）发展，出现了人类无法控制的情况，全球大型科技公司提出了‘AI速度调控论’。在美国和中国等各国政府纷纷表态的背景下，韩国被呼吁在不放缓前沿模型开发的同时，推进建立经过验证的AI生态系统的安全与保障的‘双轨’战略。
李源泰安全特委会主席在1日国家AI战略委员会举办的‘AI开发速度调控论’研讨会上表示：“全球企业提出了‘速度调控’的问题，国家层面正在进行讨论，韩国需要具体化‘速度责任论’。”
速度责任论的核心是要同时建立前沿能力和安全、保障控制能力。
上个月，达里奥·阿莫德伊（Dario Amodei）安特罗皮克首席执行官提到了‘AI速度调控论’，但李主席解释说这并不是要停止AI开发。他分析道：“并不是要放慢AI开发，而是不要让AI处于无法控制的状态。”
在阿莫德伊首席执行官提到速度调控论后，全球三家大型科技公司推出了新模型。李主席指出：“在提到AI风险的同时，保护自身市场的双重策略，韩国也不能放慢AI开发。”这意味着韩国必须在不放缓前沿模型开发的同时，努力确保安全。
李主席认为，目前AI产业正沿着两个方向发展。一方面是美国和中国通过最小的沟通渠道争夺AI产业，另一方面是除这两个国家外的多边协商机制。
在这种情况下，韩国应通过‘功能联结’来制定AI战略。李主席表示：“不是选择某一阵营，而是要设计出他们所需部分的共同点，以引领国际问题并提出解决方案。”
他还补充道：“不是在标准完成后再参与，而是要作为共同设计者制定双边规则，连接规范。”
崔大宣崇实大学AI安全性研究中心主任强调，在推进前沿模型开发的同时，需要建立AI安全体系的制度性和技术性基础。
他指出：“由于不知道AI带来的风险程度，无法确定应对水平和接触范围，也无法确定在无意中偏离时的隔离水平。”因此，需要建立应对体系。
目前韩国仅在验证模型，但应建立能够评估整体解决方案的体系，并完善能够控制恶用可能性的法律法规。
Upstage代表金成勋分析认为，时代的潮流已经从AI转向超智能（SI）阶段，并正在向‘自我改进的超’智能发展。
在这种情况下，国内的速度调控可能会拉大与全球大型科技公司的差距，因此必须开发超越这一差距的模型。他强调：“在美国和中国全速前进的情况下，韩国也应开发技术以迈向SI2，并在此之后需要对速度负责。”
为了实现速度责任，韩国智能信息社会振兴院（NIA）应进行基准测试和人工智能分析等第三方评估，公开性能和局限性，并进行国家安全评估，同时在自我改进循环中设置安全装置。
艾米智能（Aim Intelligence）副总裁李汉宇也强调，韩国的前沿模型必须推出，同时需要制定可评估的安全标准。
此外，他指出应考虑AI的恶用风险，明确模型的公开范围和接触对象，并审查赋予代理的权限及问题发生时的干预方式。他还表示，企业在引入AI进行安全工作时，也需关注可能使安全性验证技术的应用变得困难的因素。
※ 本报道经人工智能（AI）系统翻译与编辑。
评论 (0)