数码发展及新闻部长杨莉明表示，随着人工智能系统的能力越来越强，人工智能公司目前采取的防护措施，仍不足以应对相关风险，我国因此需要采取多层防御措施。
杨莉明今天（2日）在Facebook发文指出，恶意用户可能利用日益强大的人工智能寻找电脑系统的漏洞、编写恶意代码、自动执行部分网络攻击，以及让诈骗手法更具欺骗性。
杨莉明也补充：“随着人工智能越来越能够代替人类执行任务，风险并不只来自恶意滥用。人工智能系统也可能误解指令、受到恶意信息误导，或采取用户或开发者没有预期的行动。”
加强网络防御和人工监督
杨莉明说，我国需要采取多层次的防护措施，包括加强网络防御、明确限制人工智能能够执行的操作、保留适当的人为监督，并持续测试、监测和了解人工智能技术的发展。
她举例：“一个协助用户网上购物的AI代理，可能受到网站上的恶意指令误导，作出非预期购买，甚至泄露个人资料。”
除了加强防御，我国也将进一步了解越来越先进的人工智能模型具备哪些能力，以及存在哪些风险。
如果测试发现更严重的风险或更强的能力，就应相应加强安全措施，包括更严格限制有关能力的部署方式和范围。
新加坡人工智能安全研究所正同国际伙伴和第三方测试机构合作，加强评估先进人工智能系统的技术能力。
评论 (0)