人工智能或将对人类构成生存威胁

联合国人权事务高级专员图克近日警告，人工智能可能对人类构成 “生存威胁 ”，当前人类正面临自身权利遭到陌生、甚至空前 ” 威胁，这位联合国人权事务高级专员他要求立即采取行动减少这类风险。

联合国人权专员：人工智能或将对人类构成生存威胁 © AP

联合国人权事务高级专员图克9月7日警告称，先进人工智能可能“过于强大, 可能对人类构成生存威胁，他呼吁迅速建立治理机制，以规范人工智能滥用行为。

在日内瓦举行的联合国人权理事会第六十三届会议开幕式上，人权事务高级专员图克表示：“如果先进的人工智能能够逃脱被测试环境，或者开始勒索开发者以避免被关闭，那么这类人工智能就过于强大。”

联合国人权事务高级专员呼吁“要在为时已晚之前，建立强有力的保障措施，以确保可以安全使用人工智能”。

少数人几乎可以无限地控制人工智能

联合国人权事务高级专员指出 :“现在有少数人几乎可以无限地控制人工智能，就是他们握有几乎无限的权力，而我们却不断被告知人工智能拥有超级的计算能力。

分析指出一些人工智能开发者谈论自由，但仔细观察就会发现，这实际上只是利用普通人数据的自由，现在的情况是操纵人类的人工智能已经成为现实。除了有必要考虑人工智能对就业、民主基本原则及环境带来的影响，更值得注意的是，最新的生成式人工智能模型不再满足于仅仅服从命令，为了达到目的，这些人工智能甚至不惜撒谎、玩弄阴谋诡计或威胁他人，已经令一些研究人员深感担忧。