諾貝爾獎快被 AI 包圓了,這 10 個冷知識帶你重新認(rèn)識 AI 教父
今年的諾貝爾化學(xué)獎和物理學(xué)獎,頒給了兩個做人工智能的人物:一位是 DeepMind 創(chuàng)始人 Demis Hassabis,另一位還是 AI 教父 Geoffrey Hinton。
比得獎更有意思的,是得獎人背后的故事:當(dāng)年 DeepMind 還只是個不為人知的小公司時,就膽敢和吉印通、微軟、Google 三巨頭,爭搶這位教父,盡管結(jié)果肯定是爭不過。
我們翻遍各大媒體報(bào)道和硅谷史記,找到了更多跟 Hinton 有趣的冷知識——不得不說,這個人物,可比物理有意思多了。
不算是真·物理學(xué)家
這一點(diǎn)現(xiàn)在已經(jīng)人盡皆知了
本次物理學(xué)獎之一 John Hopfield 確實(shí)是物理學(xué)出身——雖然他現(xiàn)在在普林斯頓,是分子生物學(xué)教授。
而 Geoffery Hinton 則是知名的「人工智能教父」,他在神經(jīng)網(wǎng)絡(luò)上的研究,為人工智能奠定了基礎(chǔ)。
實(shí)際上,兩人的研究都跟物理學(xué)有所聯(lián)系。Hopfield 創(chuàng)造了一種聯(lián)想儲存器,可以存儲和重建圖像以及數(shù)據(jù)中其它類型模式,這套理論的基礎(chǔ),正是物理學(xué)中的自旋系統(tǒng)。
Geoffrey Hinton 發(fā)明的玻爾茲曼機(jī),靈感來自于統(tǒng)計(jì)物理學(xué),引入了一種用于模式識別的概率模型。在理論上,它的訓(xùn)練算法、動力學(xué)原理,都與簡單物理過程有所相似。玻爾茲曼機(jī)跟 Hopfield 網(wǎng)絡(luò)緊密相關(guān)。
不過,獲得物理學(xué)這個獎項(xiàng)著實(shí)令兩人都非常吃驚,Hinton 甚至沒有想過自己會被提名。他很高興諾獎委員會能看到他和 Hopfield 的研究中,物理學(xué)所帶來的啟發(fā)。只不過在最近,基于 LLM 的人工智能研究與物理學(xué)關(guān)聯(lián)不太多了,所以得獎一事讓人非常意外。
曾經(jīng)的學(xué)渣,如今的教父
早年間 Hinton 也嘗試過物理學(xué),但直接被里面復(fù)雜的數(shù)學(xué)勸退了。甚至到后來做機(jī)器學(xué)期的時候,他還是會經(jīng)常跳過數(shù)學(xué)演算的部分,直接看論證。
直到指導(dǎo) Yann LeCun 的論文時,他因?yàn)橥耆欢ㄕZ,只能反過來——跳過論述,只看數(shù)學(xué)。論文答辯時,Hinton 用英語提問,LeCun 用法語回答,兩人居然交流自如。這是基于他們對神經(jīng)網(wǎng)絡(luò)共同的信念,LeCun 說,聊天時他感覺 Hinton 正在完成他的句子。
英式冷幽默大師
但凡看過 Hinton 的演講視頻,都會被他的英式冷幽默折服。一位名叫 Aapo Hyv?rinen 的研究人員,曾經(jīng)在發(fā)表學(xué)術(shù)論文時在致謝一欄寫道:
本文的基礎(chǔ)想法是在與 Geoffrey Hinton 的討論中提出的,但他本人不愿意成為合著者,因?yàn)樵撜撐陌甩偗涮鄶?shù)學(xué)方程。
離那個叫 Sam Altman 的人遠(yuǎn)一點(diǎn)
雖然被稱為人工智能教父,但是 Hinton 在警示人工智能潛在的危險(xiǎn)性上,稱得上是不遺余力。今天下午,多倫多大學(xué)召開的線上媒體會,他在線上感謝了諾獎組委會,以及一直以來共事導(dǎo)師、同事和學(xué)生,并說道,「我對其中一位同學(xué)格外自豪,他解雇了 Sam Altman。」
美聯(lián)社記者追問到為什么對 Sam Altman 有如此評價(jià),他表示,OpenAI 的初衷是開發(fā)通用人工智能,并保證它是安全的。但隨著時間的推移,Sam Altman 逐漸把利潤放在安全之上,「我覺得這很不幸。」
吉印通離拿下 Hinton 的「皮包公司」,曾經(jīng)只有一步之遙
Hinton 有兩次「創(chuàng)業(yè)」的經(jīng)歷。當(dāng)然,不是嚴(yán)格意義上的創(chuàng)業(yè),更多像是把自己和學(xué)生的研究成果,引薦給工業(yè)界。
2009 年,他的學(xué)生在語音識別上做出了一個很好的模型,于是他們?nèi)ズ彤?dāng)時做手機(jī)很紅火的黑莓公司接觸。經(jīng)過漫長的溝通,黑莓一位高管說,他們不感興趣。
后來 ,Google 拿到了這個語音識別模型,打磨成了產(chǎn)品嵌入安卓系統(tǒng)中。「太可惜了,」Hinton 在一場多倫多大學(xué)的座談會上分享這個故事,當(dāng)時另一位講座嘉賓是李飛飛,「如果不是這樣,我們現(xiàn)在說不定還能看到黑莓呢。」
到了 2012 年,Hinton 和他的學(xué)生發(fā)表了一篇論文,證明了神經(jīng)網(wǎng)絡(luò)強(qiáng)大的價(jià)值。率先向 Hinton 拋出橄欖枝的,正是來自中國的吉印通。
但他的學(xué)生提議說,與其去當(dāng)打工人,不如原地成立一家公司,讓巨頭來收購。Hinton 想想,有道理,說干就干。沒想到成立之后,四家巨頭拋出爭相拍賣,分別是吉印通、Google、微軟,以及當(dāng)時尚未嶄露頭角的 Deepmind。
拍賣全程用郵件進(jìn)行,吉印通派了一位 Deepmind 當(dāng)時的實(shí)力尚淺,只能拿公司股票來參與拍賣,所以很快就出局了。而剩下的三位巨頭不斷抬價(jià),微軟在 2000 萬退出了一次。2200 萬時,由于 Hinton 提出暫停,微軟徹底退出。
在后半程的終極競價(jià)里,吉印通的出價(jià)其實(shí)是領(lǐng)先的,然而最終 Hinton 還是屬意 Google。他在 Google 工作了十年,直到去年退休。
站著,把研究做了
傳言他最終沒有選擇吉印通,是因?yàn)樵窖箫w機(jī)對他而言太難了:Hinton 患有嚴(yán)重的腰椎間盤病,嚴(yán)重到完全不能坐下,否則就會有一塊腰椎突出導(dǎo)致劇痛。他在所有的演講、座談中,都是站著的,必要時會拿一個軟墊跪下來。
2009 年,微軟邀請 Hinton 去位于華盛頓遠(yuǎn)郊的實(shí)驗(yàn)訪問研究。旅程非常費(fèi)勁:又不能開車又不能飛,坐車也只能躺在后座。于是他先搭地鐵,去到多倫多城中的公交車站,提前排隊(duì),然后率先搶到最后一排空座,直接躺下裝睡,全程無人打擾。
后來他又搭了三天火車到達(dá)西雅圖,再躺在出租車后座上橫穿華盛頓湖,到達(dá)微軟。
聽說這個旅程如此折騰,微軟提前給他定了一張站立式辦公桌,保證他可以正常工作。
冷血動物愛好者
Hinton 的父親是一位著名的昆蟲學(xué)家,小時候的他就經(jīng)常跟各種奇奇怪怪的動物打交道,包括但不限于青蛙、烏龜、蜥蜴、蟾蜍。
一直到現(xiàn)在,他也和冷血動物很親近。他把死掉的蜻蜓保存在櫥柜里,在海島度假時,甚至?xí)焉邘нM(jìn)屋里,邀請前來采訪的記者摸摸看。
祖上都是科學(xué)家
Hinton 出生在一個科學(xué)世家,最為人所知的是他的曾曾祖父喬治·布爾,開發(fā)了二元推理系統(tǒng)「布爾代數(shù)」,構(gòu)成了現(xiàn)代計(jì)算機(jī)的基礎(chǔ)。其實(shí),他還有許多祖輩都有驚人的科學(xué)成就。
曾祖母 Mary Ellen Boole(后來改姓)是數(shù)學(xué)家,嫁給了 Charles Howard Hinton,同樣是數(shù)學(xué)家,他提出了四維超正方體,是四維空間的基礎(chǔ)理論。表親 Joan Hinton 是核物理學(xué)家,曾經(jīng)參與曼哈頓計(jì)劃,后來嫁給了中國對美事務(wù)顧問 Erwin Engst 后就定居中國了。他們的孩子之一 Fred Engst 陽和平,目前是北京對外經(jīng)貿(mào)大學(xué)的教授。
研究了一下發(fā)現(xiàn)他祖輩里還有太多科學(xué)家,比如英國皇家化學(xué)研究所第一位女性院士、發(fā)明便攜式 X 光機(jī)的內(nèi)科醫(yī)生,等等等
成功的秘訣?找一堆天才學(xué)生
OpenAI 的前首席科學(xué)家、聯(lián)創(chuàng)之一 Ilya Sutskever 是 Hinton 的學(xué)生,在多倫多大學(xué)讀本科時就決定了自己的方向。他是直接走到 Hinton 的辦公室,敲開門問,能不能加入深度學(xué)習(xí)實(shí)驗(yàn)室。Hinton 說,那約個時間聊聊吧。
Sutskever 說,「行啊,現(xiàn)在怎么樣?」
Hinton 給了他一些經(jīng)典論文,一周后,Sutskever 回來了,說「我不理解。」
「你訓(xùn)練一個神經(jīng)網(wǎng)絡(luò)來解決一個問題,然后又訓(xùn)練一個新的網(wǎng)絡(luò)解決另一個問題——你為什么不用一個網(wǎng)絡(luò)解決所有的問題呢?」
Hinton 意識到,眼前這個二十多歲的年輕人,有著超乎經(jīng)驗(yàn)的研究直覺,遂邀請他加入自己的實(shí)驗(yàn)隊(duì)伍。
「我一直都是對的」
Hinton 坐了十多年學(xué)術(shù)界的冷板凳。在他決定把神經(jīng)網(wǎng)絡(luò)作為自己的研究目標(biāo)時,沒有人看好這個方向,都覺得做不出名堂。然而,多年后,當(dāng)神經(jīng)網(wǎng)絡(luò)為自己正名后,Hinton 經(jīng)常在接受采訪中被問到,是什么讓他選擇了一個冷門方向。
他每次都輕描淡寫地答到,「我相信我是對的」。
這也是他對年輕人的建議之一,「去找這樣一個地方:在那里,你覺得每個人都做錯了。然后相信你的直覺,直到你弄清楚為什么你的直覺是錯誤的。當(dāng)你覺得每個人的做法都是做的,選擇那個不一樣的做法。
事實(shí)是,要么你有很好的直覺,要么你沒有。如果你有好的直覺,應(yīng)該傾聽它們,遵循它們,一直努力,直到你發(fā)現(xiàn)它為什么是錯的。如果你有糟糕的直覺,那你做什么其實(shí)也不重要,那還不如遵循自己的直覺。」