|
|
译者前言
这是译者目前找到的公开发表的computational neuroscience一词的出处，该文在1986年发表于Behavioral and Brain Sciences期刊第9卷 [1,2]，是作为Dana H. Ballard的论文 [2] 的一篇评论发表的（严格来说文献[1]是[2]的一部分，不应分开引用）。当然，如译者在“认知计算神经科学 及 计算认知神经科学 名词溯源”一文中所考证到的，computational neuroscience一词首次出现应该是1985年7月，是Eric L. Schwartz为举办一个学科交叉性的脑科学会议提出的 [3,4]，或可能在当年的邀请函中找到相关资料。对于这段历史相关的一些详细背景，亦可参考文献 [4]。
Sejnowski 讨论和阐述的一些观点，现在仍然不过时，例如神经网络模型简化和细节（计算层与实现层）、与真实生物物理学实验比较等问题。也能看到，在那波AI的连接主义浪潮中已经察觉到的一些神经网络的关键问题，现在仍然未被解决，例如绑定问题（the binding problem）。在所引文献中可以看到因深度学习而获图灵奖的Geoffrey Hinton的文章，他于1998年在伦敦大学学院盖茨比计算神经科学中心担任首任创始董事。
[1] Sejnowski, T. J. (1986) Computational neuroscience.Behavioral and Brain Sciences,9(1), 104-105.
[2] Ballard D. H. (1986) Cortical connections and parallel processing: Structure and function. Behavioral and Brain Sciences,9(1), 67-120.
[3] Eric L. Schwartz. editor. (1990) Computational Neuroscience. MIT Press.
[4] Aicardi, C. (2014) Of the Helmholtz Club, South-Californian seedbed for visual and cognitive neuroscience, and its patron Francis Crick. Studies in History and Philosophy of Biological and Biomedical Sciences 45, 1–11.
正文
人们普遍认为，神经元之间的连接对大脑皮层的计算能力很重要；Ballard试图认真对待人们如何使用皮层连接来执行视觉计算的细节。我想建议这种对计算可实现性的关注——即对计算问题及其网络实现的关注——代表了一个有希望的新研究方向，可以为神经科学贡献一个新的计算分支。
Marr（1982）在强调计算分析，在思考神经系统如何解决视觉难题方面的重要性方面颇具影响力。然而，他主张计算层和实现层的独立性，这鼓励了这样一种信念，即不必过于认真地对待神经电路的细节：实现特定算法可能有多种方法，而细节上它是如何在大脑中实现的可能并不是特别具有启发性。Ballard 认为，相反地，大脑皮层中的硬件可能揭示了很多关于皮层计算方式的信息，并且有兴趣了解如何解决同样困难问题的认知科学家和计算机科学家应该认真对待神经科学。
表现出非平凡计算能力的简单并行模型的出现，可能对神经科学的未来研究非常重要，因为它们为神经科学家提供了少数几种方法之一，可以测试关于神经元群体中信息表征和处理的定性想法。假设一个区域中单个神经元的反应对可能对计算很重要的特征很敏感，比如光流。知道计算的目标，可以设计一种并行算法来实现计算，然后用广泛的输入来测试它。指定和测试算法的过程，通常会揭示未经检验的假设并提炼模型的原始动机。如果找到了一个成功的算法，则加强了原始提案的计算可行性；测试算法的某些形式是否真的在皮质中有实现则要困难得多；最终，算法的性能必须与心理物理测试进行比较。
模型被以多种不同的方式使用，我们应该明确所讨论模型的类型。连接主义模型不是重建分子和细胞细节意义上的模型。相反，连接主义模型是真实神经网络的简化、精简版本，类似于物理学模型，例如用与最近的邻居相互作用自旋晶格代替铁原子的铁磁性模型。如果这种模型属于与物理系统相同的等价类，则该模型是成功的；也就是说，如果真实系统和模型系统的定性现象（例如相变）相同（Ma 1976）。
在计算神经科学中取得哪怕是适度的进步，所需要的是在对生物约束的持续认识与对特定计算问题的关注之间取得平衡。这种方法应用于皮层下水平问题的一个很好的例子是，最近提出的动眼神经系统积分器的神经网络模型（Canon, Robinson & Shamma 1983），它基于经典的鲎视网膜的侧抑制模型（Ratliff 1974）。至少，网络模型不应与已知的生物学事实不一致（Crick & Asanuma 1986）；另一方面，排除尚无证据的可能机制可能为时过早（Sejnowski 1986）。
一些神经科学家可能会感到不舒服，因为连接主义模型似乎没有考虑到神经元的许多已知细胞特性，例如已发现的各种膜通道。如果大脑皮层的处理能力主要依赖于这些特性中的一些呢？在这种情况下，可能无法获得过度简化的模型神经元的网络来解决困难的计算问题，并且可能需要为模型神经元添加新属性。增加的功能将有助于更好地理解这些神经元属性在处理信息中所扮演的角色，并且可能会出现对尚未观察到的有用属性的建议（Shepherd, Brayton, Miller, Segev, Rinzel & Rall 1985）。从某种意义上说，目前的模型是思考神经网络计算能力和为未来模型设定标准的基准。
在研究一类具有循环侧枝（recurrent collaterals）的简单非线性网络中，一个已经出现的关键见解是，在网络的大量可能状态中，只有相对较少的这些状态（称为吸引子）是稳定的（Anderson 1983；Cohen & Grossberg 1983; Hinton & Sejnowski 1983; Hogg & Huberman 1984; Hopfield 1982; Hop-field & Tank 1985; Sejnowski 1976; Wilson & Cowan 1972)。稳定吸引子的存在是能够泛化到更复杂网络的一个特征。物体和它们之间的关系可以由这些吸引子内禀地表征，通过网络的动力学（dynamics）来寻找世界和内部表征之间的最佳匹配，要比以前的模板匹配程序要强大得多。这开拓了大量研究问题，其中一些在 Ballard 的文章中进行了讨论，例如局部与分布式表征的问题和绑定问题。在简单的网络模型中研究这些问题，将极大地帮助我们理解设计大脑皮层的原理。
文献
（按文中出现顺序）
Marr, D. (1982) Vision. W. H. Freeman. [tarDHB, CK, TJS]
Ma, S.-K. (1976) Modern theory of critical phenomena. Benjamin Co. [TJS]
Canon, S. C., Robinson, D. A. & Shamma, S. (1983) A proposed neural network for the integrator of the oculomotor system.Biological Cybernetics 49:127-36. [TJS]
Ratlift, F., ed.(1974) Studies on excitation and inhibition in the retina. Rockefeller University Press. [TJS]
Crick, F. H. C. & Asanuma, C. (1986) Certain aspects of the anatomy and physiology of the cerebral cortex, in: Parallel distributed processing: Explorations in the microstructure of cognition, ed. J. McClelland & D. Rumelhart. MIT Press. In press. [TJS]
Sejnowski,T.J. (1976) On global properties of neuronal interaction. Biological Cybernetics 22:85-95. [TJS](1986) What is the style of computation in cerebral cortex? In: Parallel distributed processing: Explorations in the microstructure of cognition, ed. J.McClelland & D.Rumelhart. In press. [TJS]
Shepherd, G. M., Brayton, R. K., Miller, J. P., Segev, I., Rinzel, J. & Rall, W. (1985) Signal enhancement in distal cortical dendrites by means of interactions between active dendritic spines. Proceedings of the National Academy of Sciences of the United States of America 82:2192-95. [tarDHB, TJS]
Anderson, J. A. (1983) Cognitive and psychological computation with neural models. IEEE Transactions on Systems, Man, and Cybernetics 13:799-815. [TJS]
Cohen, M. A. & Grossberg, S. (1983) Absolute stability of global pattern formation and parallel memory storage by competitive neural networks. IEEE Transactions on Systems, Man, and Cybernetics 13:815-25.[TJS]
Hinton, G. E. & Sejnowski, T. J. (1983) Optimal perceptual inference. In: Proceedings IEEE Computer Vision and Pattern Recognition Conference, IEEE. [taDHB, EH, TJS]
Hopfield, J. J. (1982) Neural networks and physical systems with emergent collective computational abilities. Proceedings of the National Academy of Sciences of the United States of America 79:2554-58. [tarDHB, EH, TJS]
Hopfield, J .J. & Tank, D. W. (1985) Neural computation in optimization problems. Biological Cybernetics. In press. [rDHB, CK, TJS]
Wilson,H.R.&Cowan,J. D. (1972) Excitatory and inhibitory interactions in localized populations of model neurons. Biophysical Journal 12:1-24. [TJS] |
|
发表于 2022-11-27 19:49:46