好意思国科学家John Hopfield因“为讹诈东说念主工神经网罗进行机器学习作念出的基础性发现和发明”与英国裔加拿大科学家Geoffrey E. Hinton共同取得2024年诺贝尔物理学奖fss 露出。图源：https://election.princeton.edu/articles/john-hopfield-wins-nobel-prize-in-physics/
导读：
现年91岁的约翰·霍普菲尔德 （John Hopfield） ，是毫无疑问的隆起物理学家。
他的责任，一方面鼓吹了物理学的多个分支；另一方面带动了不同学科的互动和学科从业者之间的一样，使得他在物理学、生物学、神经科学和筹画机科学都得到芜俚的尊重。尤其是他在1980年代暴虐的霍普菲尔德网罗，带动神经网罗的筹办从隆冬走向复苏，受到永久被压抑的神经网罗筹办者的宽宥。
2019一本大道香蕉大在线动漫2024年诺贝尔物理学奖，他实至名归。
尼克| 撰文
约翰·霍普菲尔德（John Hopfield）生于1933年，他的父母均来自波兰，自后在好意思国收受栽种均成为有建立的物理学家。他的父亲原姓切米诺夫斯基（Chmielewski），外侨好意思国后改为Hopfield。小霍普菲尔德1954年在费城郊区的顶级文理学院斯沃茨莫尔（Swarthmore）得到本科学位，1958年在康奈尔大学获物理学博士，之后的20年大部分技艺都在贝尔本质室和普林斯顿大学责任。他在1970年之前还是是最隆起的凝合态物理学家之一，1969年取得好意思国物理学会颁发的巴克利奖（Oliver E. Buckley Prize），这是凝合态物理的最高奖之一，华东说念主学者崔琦、张首晟、文小刚、薛其坤等都得过此奖。他1973年入选好意思国科学院，年方40。
2024年诺贝尔物理学奖揭晓后，许多东说念主感到战抖，“物理学不存在了”。本色上，机器学习的表面基础与物理关系密切。
1970年代之后，霍普菲尔德和他的偏向生物学的学生特里·谢诺夫斯基（Terry Sejnowski）运行讹诈物理学用具探索分子生物学中的表面问题。他受邀插足波士顿神经科学筹办野心（NRP）的一个会议时，意志到他的筹办也不错应用于大脑结构，便运行想考简便神经网罗的能源学。当大批神经元集体活动时，会有浮现的特征，但这些特征在把网罗算作单独组件看待时并不彰着。1980年，霍普菲尔德离开普林斯顿大学，赶赴位于南加州的加州理工学院担任生物物理教悔。何处有大物理学家费曼和集成电路大佬米德（Carver Mead），他们很快成为合作家。
费曼在1980年代初受奇才弗雷德金（Edward Fredkin）的启发，运行筹办筹画表面和表面物理的关系，相等是量子筹画。费曼以为学习一个新边界最佳的主张即是开个课，他遂于1983年至1985年间，在加州理工学院开了一门“筹画机的后劲和戒指”的私有课程。在这门课上，费曼我方讲了“筹画表面”“可逆筹画”“量子筹画机”和“筹画的物理问题”等题目。他还请了霍普菲尔德和米德等助阵，区分呈文筹画与生物物理，以及筹画与电路终了的关系。偶尔到南加州开会的明斯基也会被拉来客串。这门课录了音，自后由听过课的两位英国博士后整理成翰墨出书，书名《费曼筹画机科学教材》（Feynman Lectures on Computation），书中包罗了费曼的授课内容。可惜费曼没比及书面世就病逝了。在1980年代筹办筹画和物理的关系还不是显学，即使今天许多作念量子筹画的其实也还不太懂筹画表面的精髓。这本书现时莫得《费曼物理学教材》那么着名，但我深信在不远的将来它会成为一部被芜俚阅读的进攻文件。费曼课堂中外助助阵的那部分材料一直没契机被系统化地整理，其中包括霍普菲尔德讲的“筹画与神经系统”，这些教材诱骗了芜俚阻难，费曼和米德都撑抓霍普菲尔德在加州理工学院创立“筹画与神经系统”的交叉学科博士野心（PhD Program in Computation and Neural Systems），这个野心成为神经网罗筹办的进攻基地。
1969年明斯基和佩珀特在《感知机》一书中数学地说明单层神经网罗无法治理一些简便的逻辑问题，举例，白俄罗斯美女15p撸网异或（XOR），这个效力导致神经网罗所有这个词这个词边界的集体衰败。
1980年代，神经网罗恢复，主要归功于霍普菲尔德。
1982年，霍普菲尔德暴虐了一种新的神经网罗，不错治理一大类盼愿存储（associative memory）和模式识别问题，这篇文章发表在《好意思国科学院院刊》上，题目即使今天看来仍然应景：“具有浮现集体筹画智商的神经网罗和物理系统”（Neural Networks and Physical Systems with Emergent Collective Computational Abilities）。这种神经网罗模子自后被称为霍普菲尔德网罗。这是一种非线性网罗，所有这个词这个词网罗不错用一个能量函数描摹，但霍普菲尔德说明它是管理的，即当所有这个词这个词网罗达到“吸序言”时，能量方程达到局部最小化。霍普菲尔德网罗的一种应用是按照内容寻址的顾忌（content-addressable memory），工程师们很快找到在图像识别中的应用，而神经生物学家则暴虐东说念主的海马体很像霍普菲尔德网罗中的吸序言的笔据。最小化的值即是顾忌的内容。
费曼及霍普菲尔德和米德都以为筹画和物理之间的关系是最紧要的筹办课题，神经网罗是这个大课题底下的子学科。其时，神经网罗筹办很难恳求到经费，成建制的筹办在加州理工和斯坦福大学区分被米德和威德洛（Bernard Widrow）以集成电路的格式连续进行。1984年，霍普菲尔德用模拟集成电路终明显我方暴虐的模子。
1985年，霍普菲尔德和其时在贝尔本质室的永久合作家、生物物理学家唐克（David Tank）共同暴虐霍普菲尔德网罗的连续版块，即神经元不错在0和1之间取连续值。连续霍普菲尔德网罗被说明不错很低的本钱肖似地治理了旅行商问题（Traveling Sales Problem）。旅行商问题是被说明为NP皆备的优化问题，一般以为这类问题不存在高效算法。霍普菲尔德和唐克的主张不旨在求出最优解，而是力争在很短的技艺内找到高质地的肖似解。这个轨范激起了许多筹画机科学家用霍普菲尔德网罗求解多样很广宽的优化问题的肖似解的兴味；同期又启发了物理学家探索特定的物理风光和筹画效力的关系。
霍普菲尔德模子在不同边界的应用后劲立志了其时荒原的神经网罗共同体。神经网罗的此次恢复和生物学没啥凯旋关系，它既不是来自生物学的启发，也莫得给生物学送去任何慰藉。因为它开端于物理学家，倒引起了物理学家们更多的存眷。尤其一批对复杂系统感兴味的物理学家，他们在我方的主场物理系一度不被待见，此次总算找到了新的焦点，在交叉学科杂志Physica D上接二连三地发文章，好不淆乱。霍普菲尔德网罗和许多物理办法有密切的关系，如统计物理中的“伊辛模子”（Ising model）。永久被打压的神经网罗筹办者格罗斯伯格（Stephen Grossberg）指出，我方1981年暴虐的Cohen-Grossberg模子要比1982年暴虐的霍普菲尔德网罗更早且更通用，他很失望即使在神经网罗筹办渡过难关之后，东说念主们也莫得买账。从影响力看，霍普菲尔德模子在很短的技艺内被许多东说念主收受，不单是是东说念主工智能学者看到新的应用，更多照旧依仗物理学家为神经网罗找到了表面和本质的基础。
1980年代，在加州大学圣地亚哥分校由领路热情学家卢默尔哈特（David Rumelhart）和麦克利兰德（James McClelland）指令的PDP小组，配合了其时被主流东说念主工智能摒除的一大票神经网罗筹办者。其中就有和霍普菲尔德同期得到2024年诺贝尔物理奖的筹画机科学家辛顿（Hinton）。他们很快认霍普菲尔德为同说念。
霍普菲尔德培养了一批后发先至，包括当今生物学重镇Salk筹办所担任筹画神经生物学本质室主任的谢诺夫斯基。值得指出的是，谢诺夫斯基是辛顿的永久合作家，他们在1986年暴虐“玻尔兹曼机”，谢诺夫斯基称之为校正版的霍普菲尔德网路。他们讹诈玻尔兹曼机在模式识别上取得惊东说念主的发达。辛顿自后回忆他的学术生计时说：玻尔兹曼机是他除了深度学习除外第二进攻的孝敬，然则当今看起来其时他和谢诺夫斯基在上头花的技艺太多了。1997年，已到退休年齿的霍普菲尔德又回到普林斯顿大学担任分子生物学教悔，为与他永久合作的唐克（Tank）新设立的神经科学筹办所站台。
霍普菲尔德
1980至1990年代，霍普菲尔德据传被屡次提名诺贝尔物理奖。他的责任，一方面，鼓吹了物理学的多个分支；另一方面，其自己就具备交叉学科的特点，带动了不同学科的互动和学科从业者之间的一样，使得他在物理学、生物学、神经科学和筹画机科学都得到芜俚的尊重，尤其得到永久被压抑的神经网罗筹办者的宽宥。
2024年的诺贝尔物理奖和化学奖将是里程碑式的，它们买通了东说念主工智能和科学。近来东说念主工智能从业者有个说法：AI4Science，即把科学算作主说念主工智能的客户，这几许还有点自卖自重之嫌。但2024年的诺奖盖印证据了这少量，其中化学奖名副其实是AI4Science：DeepMind的AhphaFold为化学和生物学提供了高效的用具；而物理奖算是Science4AI，霍普菲尔德网罗在东说念主工智能低潮期为神经网罗筹办提供了物理学的基础。东说念主工智能在智商进一步大幅擢升之前，在可预料的将来，会是科学的同说念。我少量也不惊叹，某一天数学的菲尔茨奖会发给东说念主工智能相干的筹办。发明东说念主工智能用具的东说念主，和使用东说念主工智能用具的东说念主从未如斯接近。
当今，仍然有东说念主在不同边界试探多样校正的霍普菲尔德网罗，其中包括谎言语模子。对于东说念主工智能对当年的影响，霍普菲尔德获奖后收受诺贝尔奖官方网站的采访时说，他甘愿辛顿对东说念主工智能对东说念主类潜在危害的担忧：你无法阻抑一个你无法壮健但同期又跳跃神速的东西。
本文写稿得到洪涛、马少善良赵伟等师友的饱读舞和匡助，特此致谢。
作家简介：
尼克，乌镇智库理事长。曾获吴文俊东说念主工智能科技跳跃奖。汉文文章包括《东说念主工智能简史》《壮健图灵》《UNIX内核领会》和《玄学评书》等。
参考文件：（荆棘滑动可浏览）
[1]尼克，《东说念主工智能简史》，第二版，2021
[2]尼克，《壮健图灵》，2024
[3]Feynman， R.， Feynman Lectures on Computation， 1996
[4]Hopfield， J.， Tank D W， 1985. “Neural” Computation of Decisions in Optimization Problems. Biological Cybernetics， 52(3):141-152.
[5]Hopfield， J.， 1982. Neural Networks and Physical Systems with Emergent Collective Computational Abilities. Proceedings of the National Academy of Sciences， 79(8) :2554-2558.
[6]Sejnowski， T.， Deep Learning Revolution， 2018（有中译本）
本文转载自《赛先生》微信公众号
《物理》50年精选文章
