Geoffrey Hinton获得2018年的图灵奖

2019年3月27日，美国计算机协会（ACM）宣布把2018年的图灵奖（Turing Award）颁给深度学习的三位先驱Geoffrey Hinton、Yoshua Bengio和Yann LeCun，以表彰他们为当前人工智能的发展所做出的贡献。

神经网络是最古老的人工智能方法之一，大概于20世纪50年代建立，但由于受限于当时技术与算力的瓶颈，神经网络并未得到学术界和工程界足够的重视。经过数十年的潜心研究，他们将这种近乎边缘化的想法，变成了计算机科学中最热门的想法。他们所倡导的技术，已经成为谷歌、微软、苹果、百度、阿里、腾讯等每个大型科技公司未来战略的核心。

在ACM的公告中（见ACM官网），Geoffrey Hinton之所以得奖主要源自他1986年发明的反向传播算法和1983年的玻尔兹曼机。

Geoffrey Hinton

从去年开始，笔者一直关注学习Geoffrey Hinton的工作，特别是玻尔兹曼机（见：“自指”玻尔兹曼机：纪念迟来的应用）。总的来说，反向传播算法是一种调参算法，但玻尔兹曼机的意义却不限于算法，其中或许隐藏着巨大的宝藏。一般的玻尔兹曼机很难进行具体的现实计算，主要原因在于收敛速度太慢。因此目前主要使用玻尔兹曼机的简化版——受限玻尔兹曼机。类似于生物的感知反馈系统，受限玻尔兹曼机由可见神经元构成的可见层（感知系统）与隐神经元构成的隐含层（反馈系统）所组成，见图1。将多个这种类生物的结构进行重叠就形成了深度神经网络的雏形。

图1：受限玻尔兹曼机

受限玻尔兹曼机可以用“对比散度算法”进行近似计算，收敛速度很快，因此效果非常不错。国内有很多受限玻尔兹曼机的算法介绍（例如：一起读懂传说中的经典：受限玻尔兹曼机），但是附上的程序无一例外（就笔者目前所见）都是直接复制粘贴其它（国外）网站上的，很多的细节非常不清楚，最关键的是还运行不了。

后来，笔者不得不亲自动手编写受限玻尔兹曼机的程序（请原谅我不是计算机专业），主要是进行样式识别。今天是Geoffrey Hinton因为玻尔兹曼机得图灵奖的特殊日子，因此分享一个之前编的受限玻尔兹曼机程序出来，算是庆贺玻尔兹曼机得奖。