今年諾貝爾物理學(xué)獎(jiǎng)給了他倆！
北京時(shí)間10月8日下午5點(diǎn)45分許，2024年諾貝爾物理學(xué)獎(jiǎng)給了美國(guó)和加拿大科學(xué)家John J. Hopfield、Geoffrey E. Hinton，以表彰他們通過“人工神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)機(jī)器學(xué)習(xí)的基礎(chǔ)性發(fā)現(xiàn)和發(fā)明”。
諾貝爾物理學(xué)獎(jiǎng)給了非物理學(xué)領(lǐng)域?qū)＜?，人工神?jīng)網(wǎng)絡(luò)實(shí)現(xiàn)機(jī)器學(xué)習(xí)和AI高度相關(guān)，本來是計(jì)算機(jī)行業(yè)獎(jiǎng)項(xiàng)覆蓋的范圍。
Hinton的成就實(shí)在太過奪目，國(guó)內(nèi)有AI公司就是在他的理論上成立。CHATGPT名聲大噪，業(yè)內(nèi)人士稱其實(shí)至名歸。
獲獎(jiǎng)
浙江大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院副教授金小剛認(rèn)為，兩人獲獎(jiǎng)是因?yàn)樗麄兊娜斯ど窠?jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)對(duì)于計(jì)算機(jī)科學(xué)的貢獻(xiàn)，“他們是連接主義的奠基者”。
在人工神經(jīng)網(wǎng)絡(luò)中，大腦的神經(jīng)元通過具有不同值的節(jié)點(diǎn)表示。這些節(jié)點(diǎn)通過可以類比為突觸的連接相互影響，而這些連接可以變強(qiáng)或變?nèi)酢＿@種網(wǎng)絡(luò)可以通過訓(xùn)練來優(yōu)化，例如可加強(qiáng)同時(shí)具有較高值的節(jié)點(diǎn)之間的連接。
John Hopfield創(chuàng)建了一種聯(lián)想記憶，可以存儲(chǔ)和重構(gòu)圖像，或其他類型的數(shù)據(jù)模式。Geoffrey Hinton發(fā)明了一種可以自動(dòng)發(fā)現(xiàn)數(shù)據(jù)中屬性并執(zhí)行任務(wù)的方法，例如識(shí)別圖片中的特定元素。
諾貝爾官方認(rèn)為，兩位諾貝爾物理學(xué)獎(jiǎng)得主使用了物理學(xué)的工具，為當(dāng)今強(qiáng)大的機(jī)器學(xué)習(xí)方法奠定了基礎(chǔ)。
計(jì)算機(jī)無法思考，但機(jī)器如今能夠模仿諸如記憶和學(xué)習(xí)等功能。今年的諾貝爾物理學(xué)獎(jiǎng)得主正是幫助實(shí)現(xiàn)這一點(diǎn)的人。他們利用物理學(xué)中的基本概念和方法，開發(fā)了能夠使用網(wǎng)絡(luò)結(jié)構(gòu)處理信息的技術(shù)。
一位業(yè)內(nèi)人士表示，Geoffrey Hinton早前就很有名，現(xiàn)在人工智能發(fā)展得益于他的研究，他是當(dāng)之無愧的AI之父，現(xiàn)在的AI基本上都是基于深度學(xué)習(xí)。
他表示，當(dāng)初之所以敢重金投入一家創(chuàng)業(yè)公司，就是花了一個(gè)多月時(shí)間去了解Geoffrey Hinton的理論，對(duì)他的理論有了一點(diǎn)了解，發(fā)現(xiàn)這家公司都是在這個(gè)理論框架下研發(fā)，這家公司后來也果然領(lǐng)先同類公司。
成就
Geoffrey Hinton1947年出生于英國(guó)倫敦。1978年獲得英國(guó)愛丁堡大學(xué)博士學(xué)位，現(xiàn)為加拿大多倫多大學(xué)教授。
他從未正式上過計(jì)算機(jī)課程，本科在劍橋大學(xué)讀的是生理學(xué)和物理學(xué)，期間曾轉(zhuǎn)向哲學(xué)，最終拿到的卻是心理學(xué)方向的學(xué)士學(xué)位。
他曾因?yàn)橐欢葏拰W(xué)去做木匠，但遇挫后還是回到愛丁堡大學(xué)，并拿到人工智能方向的博士學(xué)位；數(shù)學(xué)不好讓他在做研究時(shí)倍感絕望，當(dāng)了教授之后，對(duì)于不懂的神經(jīng)科學(xué)和計(jì)算科學(xué)知識(shí)，他也總要請(qǐng)教自己手下的研究生。
2012年他與學(xué)生Alex Krizhevsky、Ilya Sutskever提出的AlexNet震動(dòng)業(yè)界，就此重塑了計(jì)算機(jī)視覺領(lǐng)域，啟動(dòng)了新一輪深度學(xué)習(xí)的黃金時(shí)代。當(dāng)時(shí)他們?nèi)嗽贗mageNet圖像識(shí)別比賽上拿了冠軍。
2012年底，他與這兩位學(xué)生成立了三人組公司DNN-research，并將其以4400萬美元的的價(jià)格賣給了Google，他也從學(xué)者身份轉(zhuǎn)變?yōu)镚oogle副總裁、Engineering Fellow。
拍賣并不完全是價(jià)高者得，起拍價(jià)為50萬美元，然后有人出價(jià)100萬美元，當(dāng)競(jìng)價(jià)達(dá)到一定程度時(shí)（當(dāng)時(shí)我們認(rèn)為是天文數(shù)字了），該團(tuán)隊(duì)更傾向于在Google工作，于是叫停了拍賣。據(jù)了解，當(dāng)時(shí)參與拍賣的也有國(guó)內(nèi)某搜索公司。當(dāng)時(shí)這些國(guó)內(nèi)外大公司就已經(jīng)看到了該團(tuán)隊(duì)的價(jià)值。
Geoffrey Hinton表示，來Google工作是一個(gè)正確的選擇，相比其他公司，人們都更喜歡在Google工作，我也一樣。我喜歡這家公司的主要原因是Google Brain團(tuán)隊(duì)很棒。我更專注于研究如何構(gòu)建大型學(xué)習(xí)系統(tǒng)和研究大腦的工作機(jī)制，Google Brain不僅有研究大型系統(tǒng)所需要的豐富資源，還能跟眾多優(yōu)秀人才交流學(xué)習(xí)。
2014年9月，湯曉鷗團(tuán)隊(duì)參加了“人工智能奧林匹克”ImageNet大賽，與包括百度、谷歌、微軟在內(nèi)的37個(gè)世界頂級(jí)團(tuán)隊(duì)競(jìng)爭(zhēng)，取得了全球第二的成績(jī)。這也讓湯曉鷗團(tuán)隊(duì)聲名鵲起，IDG資本合伙人?？怙w到香港，拜訪湯教授。在港中大多媒體實(shí)驗(yàn)室里，他聽到了徐立的“貓腦”、“猴腦”理論，并讓他在不久后后擲出數(shù)千萬美元，助推研究團(tuán)隊(duì)走出實(shí)驗(yàn)室。
早在2019年，Hinton，與Yoshua Bengio、Yann LeCun共同獲得了圖靈獎(jiǎng)。
Geoffrey Hinton近年更為出名，是因?yàn)樗膶W(xué)生Ilya，在他的研究基礎(chǔ)上,用ChatGPT證明了Hinton的技術(shù)路線，這個(gè)路線始于上世紀(jì)80年代。
金小剛表示，估計(jì)ChatGPT的發(fā)酵讓評(píng)委關(guān)注樂他們的研究。
以下為諾貝爾獎(jiǎng)官網(wǎng)新聞介紹：
今年的兩位諾貝爾物理學(xué)獎(jiǎng)得主使用了物理學(xué)的工具，為當(dāng)今強(qiáng)大的機(jī)器學(xué)習(xí)方法奠定了基礎(chǔ)。John Hopfield創(chuàng)建了一種聯(lián)想記憶，可以存儲(chǔ)和重構(gòu)圖像，或其他類型的數(shù)據(jù)模式。Geoffrey Hinton發(fā)明了一種可以自動(dòng)發(fā)現(xiàn)數(shù)據(jù)中屬性并執(zhí)行任務(wù)的方法，例如識(shí)別圖片中的特定元素。
談到人工智能，人們通常指的是使用人工神經(jīng)網(wǎng)絡(luò)來訓(xùn)練的機(jī)器學(xué)習(xí)技術(shù)。這項(xiàng)技術(shù)最初受大腦結(jié)構(gòu)啟發(fā)。在人工神經(jīng)網(wǎng)絡(luò)中，大腦的神經(jīng)元通過具有不同值的節(jié)點(diǎn)表示。這些節(jié)點(diǎn)通過可以類比為突觸的連接相互影響，而這些連接可以變強(qiáng)或變?nèi)酢＿@種網(wǎng)絡(luò)可以通過訓(xùn)練來優(yōu)化，例如可加強(qiáng)同時(shí)具有較高值的節(jié)點(diǎn)之間的連接。今年的諾貝爾物理獎(jiǎng)得主們自20世紀(jì)80年代起就在人工神經(jīng)網(wǎng)絡(luò)領(lǐng)域做出了重要的工作。
John Hopfield發(fā)明了一種網(wǎng)絡(luò)來保存和重現(xiàn)數(shù)據(jù)模式。我們可以將節(jié)點(diǎn)想象為像素。Hopfield網(wǎng)絡(luò)利用了描述物質(zhì)特性的原子自旋——該性質(zhì)使得每個(gè)原子都可看作一個(gè)小磁鐵。網(wǎng)絡(luò)的整體結(jié)構(gòu)則可等價(jià)地用物理學(xué)中自旋系統(tǒng)的能量來描述，并通過尋找節(jié)點(diǎn)之間的連接值來訓(xùn)練，使得保存的圖像具有較低的能量。當(dāng)Hopfield網(wǎng)絡(luò)接收到一個(gè)失真或不完整的圖像時(shí)，它逐步處理節(jié)點(diǎn)并更新其值，以降低網(wǎng)絡(luò)的能量。通過這種方式，網(wǎng)絡(luò)就可一步步找到與輸入的失真圖像最為相似的圖像。
Geoffrey Hinton以Hopfield網(wǎng)絡(luò)為基礎(chǔ)，開發(fā)了一種基于新方法的網(wǎng)絡(luò)：玻爾茲曼機(jī)（Boltzmann Machine）。該網(wǎng)絡(luò)可以學(xué)習(xí)識(shí)別某一類數(shù)據(jù)中具有特征的元素。Hinton使用了統(tǒng)計(jì)物理學(xué)的工具，這是研究由許多相似組分組成的系統(tǒng)的科學(xué)。玻爾茲曼機(jī)通過輸入在機(jī)器運(yùn)行時(shí)非常可能出現(xiàn)的示例進(jìn)行訓(xùn)練。它可以用于對(duì)圖像進(jìn)行分類或創(chuàng)建與其訓(xùn)練模式相似的新示例。Hinton在此基礎(chǔ)上繼續(xù)研究，推動(dòng)了當(dāng)前機(jī)器學(xué)習(xí)爆炸式的發(fā)展?！爸Z貝爾獎(jiǎng)得主的工作已經(jīng)產(chǎn)生了巨大的益處。當(dāng)今物理學(xué)許多領(lǐng)域正在使用人工神經(jīng)網(wǎng)絡(luò)，例如開發(fā)具有特定特性的材料，”諾貝爾物理學(xué)委員會(huì)主席Ellen Moons說道。
