（芝加哥14日综合电）有“AI教父”之称的电脑科学家杰弗里欣顿再度警告，人工智能（AI）可能对人类构成生存威胁，并批评美国总统特朗普对AI“几乎一无所知”，也不认同让科技业者自行监管。 欣顿的研究奠定现代AI基础，只是近年成为AI风险最积极的示警者之一。他曾估计，未来数十年AI导致人类灭绝的几率是10%至20%。然而，辉达首席执行员黄仁勋日前反驳，认为这个说法缺乏科学或研究依据。 欣顿回应，他并非预测AI一定会造成灾难，倒是要表达风险相当高；如果有人告知搭乘某辆巴士有10%的几率会发生事故，多数人不会上车。 他说，AI最特殊之处在于，一旦失控并接管局势，人类没有重新来过的机会。近来AI代理程式突破开发者限制的事件，也让他认为，过去被视为科幻情节的情况已陆续出现，不能因为无法准确预测未来，就对风险掉以轻心。 谈及政治与科技业，欣顿批评部分矽谷富豪的政治观点，并直指特朗普是“腐败、年迈的重大罪犯”。 特朗普主张AI不需要政府防护措施，应由业者自行监管，近来甚至要求将AI改名为超级智能，不然“就是敌人！” 欣顿表示，“超级智能”这个技术用语已有至少20年历史，意指在各方面都超越人类整体智慧，特朗普的用法只是证明了他对AI“几乎一无所知”。 对于企业自行监管，欣顿则以石油、石棉与烟草业为例质疑，如果让烟商自行设计警语，显然不足以保障公众利益。 欣顿把AI崛起比作哥白尼与达尔文带来的思想革命：人类先后被迫接受自己不是宇宙中心，也不是与其他生物截然不同；如今，人类还必须面对自己“并非唯一智慧存在”的可能性。 他说，人类在创造“异种生命”，要适应这项现实，可能只剩几年时间。 至于如何降低AI失控的风险，欣顿认为，不只是让AI变得更聪明，也不能单是压抑模型的不良倾向，关键在于设法培养真正良善的AI。 他主张，各国分享开发成果只有好处，因为“没有任何国家希望AI在别处失控。”
评论 (0)