麻省理工首创精神变态AI危险分子

美国麻省理工学院一组研究团队，向人工智慧（AI）灌输社群网站上描写死亡的素材，制造出首个宛如患有神经病的AI，名为诺曼（Norman）。

美国麻省理工学院一组研究团队制造出首个宛如患有神经病的AI，名为诺曼。（图取自norman-ai网页norman-ai.mit.edu）

法新社报导，研究团队之所以创造诺曼，是盼以通俗语言，解释演算法的运作方式，并借此让人们意识到AI潜在的危险。

美国知名学府麻省理工学院（MIT）表示，诺曼代表正在学习演算法的机器读取偏倚资讯，导致AI出错的危险案例。

研究团队的其中3名成员透过电子邮件表示："机器在学习时，有一点至关重要：当教导机器学习演算法时，灌输机器的资讯会对其行为造成显着影响。"

他们说："所以当我们谈到AI演算法出现偏差不公时，罪魁祸首通常不是演算法本身，而是餵给演算法的偏倚资讯。"

而诺曼这个名字的灵感，来自惊悚片宗师希区考克（Alfred Hitchcock）1960年的电影"惊魂记"（Psycho）中，名为诺曼贝兹（Norman Bates）的精神变态杀手。

研究团队只灌输诺曼社群网站Reddit上描述人类死状的短文。

研究人员接着对诺曼进行罗夏克（Rorschach）墨迹心理测验，以判定诺曼眼中的景象，并将诺曼的答案与受传统训练的AI答案比较，不料产生骇人的对比结果。