近日，智慧金融研究院科学顾问Athanassios G. Siapas教授发表了题为“基于脑神经学的机器学习方向”的专题演讲。
Siapas教授是加州理工学院（California Institute of Technology）计算与神经网络（Computation and Neural Systems）教授和系主任，主要研究领域为脑科学。
他是研究基于大规模神经元的信息处理和计算的世界级领军人物。曾获得McKnight Scholar，Afred P. Sloan Fellow，Bren Scholar，NIH Director’s Pioneer Award等一系列荣誉。Siapas教授拥有麻省理工学院（Massachusetts Institute of Technology）的本科、硕士和博士学位。
智慧金融研究院特别全文刊载Siapas教授演说内容以飨读者，以下是演讲原文。
我们今天从脑神经学的角度谈谈怎么样提高机器学习的水平。
我们主要的研究问题是大脑如何收集和储藏信息的。我告诉大家，这是一个非常复杂的过程，需要很多脑区域的协调。为什么？大脑不光只是存储信息，像硬盘存储文件一样。大脑更需要活跃地整合新的信息和以前的信息，比如说当我们想起什么的时候，这些新信息马上会和以前的信息进行融合，需要做非常复杂的计算工作。
大脑是怎么运作的我们还不知道，但是现在我们有非常强大的实验工具，可以更好地了解大脑的机制是什么样的，涉及哪些原理。这里介绍一下我们的机会和挑战，我们使用神经科学推动机器学习的时候，面对什么样的机会和挑战。
可能有不同的生产出智能的解决方案，彼此各不相同，大脑只是其中一个解决方案，也可能大脑就是一个特殊的解决方案，其他的解决方案都是特殊解决方案的拓展。
不管怎么样，如果需要了解AI的生理基础，我们最好了解一下大脑的原理，这样我们就可以开发出更好的、新的解决方案。最成功的方法就是使用深度神经网络，这里的每个节点都模拟我们的神经元，一层一层、一个一个直接联系的网络，实际是一个多层网络，可以生成神经信号。
循环神经网络
我们利用神经信号来提高脑回路的质量，用网络来训练机器学习，可以说网络使很多行业获益不少。
此外，现在有很多应用都是使用神经网络原理。比如说LSTM，这里有隐藏式的层级，特点是善于学习顺序。我们看到不同的方式来探索不同的架构、不同的设计，这些都是基于这种网络的。但是这仍旧与人的神经网络不同。
首先，神经元之间是用脉冲进行沟通。人工智能也用一种简单的方式来学习大脑的脉冲式沟通方式，这就是间波，单个神经元的脉冲间波。
另外一个特点就是脑回路的学习回路对脉冲之间的时间延迟非常敏感。这非常重要，我们可以探讨一下。有两个神经元相互连接，A先活动，B再活动，它们的链接就会加强；如果神经元是先有结果再有输入的话，它们的链接就会减弱。这说明脉冲的时间顺序非常重要，也非常敏感。这就是脉冲时间相关的可塑性，我们通过LTP和LTD来推动机器学习，这个探索机会非常好。
此外，卷积神经网络之父LeCun讲过，之前很多都是关于监督学习的，但实际上大脑很多学习是没有监督的。如果智能是一个蛋糕，强化学习将会成为蛋糕上的樱桃，有监督学习是上面的奶油，而无监督学习会是整个蛋糕。
多数大脑的学习是没有监督的，也就是说在没有意识到的过程中逐步学会。另外一个和大脑单元不一样的，当中有很多细胞类型和微电路等。
老鼠的视觉神经系统中有一些微电路，观察它们做什么，就可以把人工的神经元植入进去，可以做一些更精密的研究。最后，还有一个补充性学习回路和大脑状态等，稍候再对此进行介绍。
我特别想要向大家介绍海马体，就是人脑中的海马体，看起来很像海马，所以叫海马体。海马体对记忆形成有着重要作用。一个临床上有名的例子，病人代号HM，得了癫痫症，为了治疗，医生切除了部分海马体。手术后，病人小时候的记忆都在，但却失去了记住新东西的能力。
我们想大脑怎么获得新信息，存储新信息，大家发现海马体非常重要。而不同的生命体非常不一样。大家可以看到，我们分析老鼠，之后分析灵长类动物，比如猴子以及人的海马体。与人类的海马体一样，老鼠或猴子的海马体也能够记住以前发生的事，他们能记的非常清楚。一旦海马体出现损伤，那就可能发生记忆障碍，记忆就不能存留了。
不同物种的海马体
这里有一个假说，海马体是用来储存长期记忆的。老鼠通过海马体的活动，大脑皮层回路就可以建立一些记忆，里面有一些刺激就会使它激活，记忆就被存储下来。这是一个两阶段的模型。这是两种不同的阶段和状态，经过两种不同的切换，我们可以存储记忆。
在清醒状态下刺激海马体的某些部分，存储一些内容，然后在睡眠时逐渐把这些信息发散存储在大脑皮层。其实这方面的机制我们可以吸收放在机器学习里面。这里有一只老鼠，老鼠穿过这样的一条路并触碰某处，在大脑里便有一些脉冲，找到正确的地点。我们看到老鼠在动的时候，大脑回路开始震荡，神经元开始激发。
睡眠的时候，大脑活动规律会完全不一样，你可以听到里面有一些非常不规律的声音。在眼球快速移动周期时，可以看到海马体细胞的脉冲，你仔细分析数百个脉冲就会找到一些规律，这是眼球快速动眼睡眠的状态（深度睡眠状态）。
在深度睡眠的时候，大脑还是非常活跃的。在这里有一个震荡时钟，过一会儿你会觉得里面会有同步的激发或者说同步的刺激，但再仔细研究和分析时，通过一些拓扑采样方式，会发现里面的刺激不是同步的，实际上海马体的震荡是行波。
在分析大脑回路时，我们发现海马体计算的基本单元是一个片段一个轨迹，尤其是你要存储这些轨迹段的时候，这个系列也可以作为片段进行存储。这是来自于行波的，这个过程中会发现独特且不重复的模式。
我们看到人工的神经网络，必须要建立最基本的轨迹模型，很难把这个进行拓展。我们必须要进行3D的脑数据获取，我们为此开发了很多技术进行3D记录，我们现在可以在很小的空间里记录密集的信息，之后才可能知道里面的运行规则。
我们再讲一下睡眠。动物睡觉时是很脆弱的，很容易受到侵袭，所以花很多时间睡眠是有必要的。
我们睡觉的时候，中短期记忆从海马体被输送存储到大脑皮层。一般来说，大脑在睡眠时仍旧非常活跃。在深度睡眠状态下，海马体里内有非常多且非常短的（差不多100毫秒）大量神经元一起发生脉冲。这些脉冲有选择性地激发大脑皮层里的一部分。通过这种方式，每个100毫秒可以当作一个信息包被送到大脑皮层。
大量神经元同时发生脉冲，对于海马体也会产生影响。由于脉冲时间相关的可塑性，两个连接在一起的神经元，他们一般来说各自激发后他们才会收到对方的输入。基于我刚才讲的理论，神经元的激发效果是正好相反的，它们的链接会减弱，这些记忆被存储在大脑皮层的同时，会从海马体里被“抹去”。
我们对神经元进行标识，并且分析网络如何活动。比如刚才解释了神经元间互动，一般来说激发和抑制之间有很好的平衡。我们也可以用类似的方法进行更详细的分析，比如说大脑皮层是如何受海马体影响。海马体的神经元通常会受到研究者的密切关注，这样我们就可以用前提假设来对海马体做一些分析。
我们研究大脑皮层和海马体互动的时候发生什么?比如海马体对于皮质层影响小的时候，就可以对输入输出进行分析；比如时间延迟或者是否受到了时间的影响，假以时日我们希望能用数据来推动机器学习。
通过遗传学的颜色标识，我们用可视化的方式来分析神经元，这样我们就可以对一些神经元进行标识。用不同颜色标识，一些神经元被光激发，接着就可以看到哪种细胞类型受到激发，并且如何互动，这能帮助我们进行机器学习。
最新研究显示，神经网络研究的梯度下降，受到一些限制，大脑有时必须加入另一个考量，就是反馈校准。有时候进行随机预测是可以的，我们纳入一些学习规则，再对数据集进行相应训练，然后开展进一步实验。
