AI教父談谷歌的人工智能：AlphaGo有了直覺

　　隨著人工智能化的普及，在應(yīng)用或者覺得有存在隱患的可能性，大家都非常的熱衷于去討論。而最為典型也讓人驚嘆的就是：谷歌的AlphaGo戰(zhàn)勝了人類頂級棋手。

　　即使是在科技大佬之間，觀點也存在截然相反的情況。馬斯克就曾表示 “我們會在智力上遠(yuǎn)遠(yuǎn)落后于AI，以至于最終成為AI的寵物。”在另外一方面，Alphabet董事長施密特則表示：“如果你擔(dān)心人工智能在智商上超越人類、然后消滅人類，那你科幻電影一定是看多了。”

　　在日前，福布斯記者彼得·海伊（Peter海伊）對人工智能教父杰弗里·辛頓（Geoff 辛頓）進行了專訪，他談到了很多關(guān)于人工智能的看法。在他看來，神經(jīng)網(wǎng)絡(luò)正在向大腦靠近，AI的火爆不是因為其技術(shù)和原理，所謂的隱患更只是一個科技界的政治問題。他更是透露，AlphaGo擁有了直覺。

　　辛頓早在1970年代初期就開始從事人工智能科研工作，是名副其實的AI先驅(qū)。曾先后供職于薩塞克斯大學(xué)（位于英國）、加利福尼亞大學(xué)圣地亞哥分校、劍橋大學(xué)、卡內(nèi)基梅隆大學(xué)、以及倫敦大學(xué)學(xué)院，現(xiàn)任多倫多大學(xué)榮譽教授。他曾獲得過機器學(xué)習(xí)領(lǐng)域的加拿大國家研究大獎，該獎項為聯(lián)邦政府給予科學(xué)研究的最高榮譽及財務(wù)資助。2013年3月，辛頓的公司被谷歌收購，其也隨之加入谷歌。

　　以下為主要內(nèi)容：

　　神經(jīng)網(wǎng)絡(luò)正向大腦靠攏

　　海伊： 多倫多大學(xué)的資料上顯示，您一直致力于探尋一個高效的深度學(xué)習(xí)算法，像人類習(xí)得知識一樣，能夠從一個龐大且多維的數(shù)據(jù)集合中梳理其復(fù)雜的結(jié)構(gòu)。我想請您就這方面談?wù)勀�的看法，還有您在多倫多大學(xué)和在谷歌的日常工作方面。

　　辛頓： 我們的大腦，毋庸置疑，非常擅于處理并理解多維的數(shù)據(jù)，例如從視覺神經(jīng)傳來的信息是百萬級權(quán)重的并且隨著時間極速變化的。我們每看到一個場景，大腦就能幫我們正確的解讀。如果我們看到的是一頭大象，那么大腦不會把它解讀成一條狗。但是在實驗室中，我們的神經(jīng)網(wǎng)絡(luò)系統(tǒng)偶爾會理解出錯。雖然如此，在絕大多數(shù)情況下，我們的技術(shù)還是能夠準(zhǔn)確的理解某個多維的輸入代表的意思。隨著該神經(jīng)網(wǎng)絡(luò)進行的學(xué)習(xí)次數(shù)的增加，正確率也會提高，這是傳統(tǒng)計算機所不能達(dá)到的，我們在向人類的大腦靠攏。這和單純的對低維度、少量訓(xùn)練數(shù)據(jù)、參數(shù)不多的簡單模型從統(tǒng)計學(xué)角度進行數(shù)據(jù)挖掘是有本質(zhì)上的不同的。

　　大腦令我著迷的地方在于它所擁有的參數(shù)遠(yuǎn)多于訓(xùn)練數(shù)據(jù)，所以現(xiàn)階段的人工智能網(wǎng)絡(luò)還不能說非常成功�，F(xiàn)階段我們能做到的是，我們的神經(jīng)網(wǎng)絡(luò)系統(tǒng)可以很好地處理百萬級權(quán)重以及百萬級訓(xùn)練數(shù)據(jù)。有的時候，十億級也可以處理很好。但是我們的參數(shù)數(shù)量并不能像人類大腦那樣，遠(yuǎn)遠(yuǎn)超過訓(xùn)練數(shù)據(jù)數(shù)量。對于每一秒的輸入，人類大腦大概有一萬個參數(shù)來處理。對于人腦這樣龐大的系統(tǒng)是如何工作的，以及它是怎樣分析數(shù)據(jù)的，我們目前所知還甚少。

　　海伊： 宏觀的看，在人工智能的發(fā)展歷程中，您覺得我們已經(jīng)到達(dá)了什么階段？

　　辛頓： 我覺得我們已經(jīng)跨過了一個很重要的門檻。就在不久之前，AI領(lǐng)域的大部分從業(yè)者還在通過邏輯來處理AI技術(shù)。這種人工智能還是基于邏輯推理的層面，對內(nèi)部含義的表示采用的還是符號結(jié)構(gòu)�，F(xiàn)在我們擁有了這個龐大的神經(jīng)網(wǎng)絡(luò)，一切都改變了。我們現(xiàn)在的策略是，用巨大的矢量來表示內(nèi)部含義，而且也不再采用邏輯推理的方法。我們是讓這個巨大的神經(jīng)網(wǎng)絡(luò)自己學(xué)習(xí)，不再需要編程的介入。此前，人們覺得這簡直是天方夜譚。

　　舉個例子，拿一串英文字符及其對應(yīng)的法文字符組成一對字符串對，如果有足夠的字符串對的話，神經(jīng)網(wǎng)絡(luò)系統(tǒng)就能夠自動習(xí)得這兩種語言，如果你給它一個英文句子，它能基本無誤的將這句英文轉(zhuǎn)化為法文�，F(xiàn)在這項技術(shù)還不是很成熟，但是目前神經(jīng)網(wǎng)絡(luò)系統(tǒng)已經(jīng)能夠掌握該方法的核心，只是在速度方面還有待改進，我相信很快該技術(shù)就能夠付諸實際應(yīng)用了。20、30年以前的人會覺得這個想法太可笑了，要讓一個機器學(xué)習(xí)一門語言，你當(dāng)然需要將大量的語義學(xué)，世界常識等信息進行編程。如果僅憑一些數(shù)據(jù)，但這些數(shù)據(jù)并沒有包含該語言的實際知識，來讓機器完全憑空、傻瓜似的、自動地學(xué)習(xí)，這在當(dāng)時聽起來有點可笑�，F(xiàn)在，模仿神經(jīng)網(wǎng)絡(luò)這個概念被引進了，這個想法聽起來就沒有那么可笑了，因為大腦就是這樣工作的。所以我說，我們已經(jīng)跨過了一個很重要的門檻�，F(xiàn)在大部分AI界的人，特別是年輕人，都相信如果你想讓一個系統(tǒng)獲得以百萬比特為計量單位的知識的話，最好的辦法就是讓它自己學(xué)，靠手動輸入是完成不了的。

　　海伊：所以說把邏輯推理的方式淘汰掉是因為你已經(jīng)從這個瘋狂幻想的邊緣走到了技術(shù)的核心，而且這項技術(shù)也在發(fā)展且越來越規(guī)范。

　　辛頓：是的，在此之前我們之中的很多人都相信，如果有足夠的計算能力以及數(shù)據(jù)，那么我們的設(shè)想就能實現(xiàn)，現(xiàn)在也確實實現(xiàn)了�，F(xiàn)在我們的技術(shù)越來越成熟，如果能夠獲得更強的算力、更大的數(shù)據(jù)集合，那么我們的模型也就能被不斷優(yōu)化。這在一切都需要編程的時代是做不到的，所以神經(jīng)網(wǎng)絡(luò)系統(tǒng)比之前所有的AI算法都更高級。

　　堅信人工智能源于對大腦工作機理的信念

　　海伊：我覺得很神奇，你從1970年代就開始研究人工智能了。你在1978年獲得了愛丁堡大學(xué)人工智能方面的博士學(xué)位，并且由于當(dāng)時計算機發(fā)展水平的限制，你的研究也受到了阻礙。這期間你也沒有對那些反對者多加解釋，哪怕他們可能會變成你的同事、投資人、或者可能會從其他方面幫助你。不知道現(xiàn)在這些研究人工智能的20多歲的年輕人是否意識到，自己是站在巨人的肩膀上，而正是這些巨人才是真正有遠(yuǎn)見卓識的人、排除掉這條路上所有阻礙的人。能不能談一下是什么激勵著你，讓你拿到人工智能的博士學(xué)位之后依然將這項研究作為你未來的職業(yè)發(fā)展方向，畢竟在當(dāng)時，如果你從事人工智能行業(yè)的話，成功的可能性并沒有現(xiàn)在這么大。

　　辛頓： 我覺得原因是這樣的，大腦肯定有其工作的機理。大腦是怎么學(xué)習(xí)東西的？它是怎樣利用那些簡單的神經(jīng)元來運算極其復(fù)雜的事情的？我主要的動力來自于，我相信，大腦的運行機制和當(dāng)時數(shù)字計算機的運行機制肯定是不一樣的，因為沒有人在給你的腦子編程。

　　我記得在1973年，當(dāng)時有人跟我解釋，神經(jīng)網(wǎng)絡(luò)系統(tǒng)是永遠(yuǎn)不會實現(xiàn)的。他們說：“神經(jīng)網(wǎng)絡(luò)沒法運行遞歸算法。”那個時候，遞歸算法被當(dāng)作是智能的本質(zhì)�？雌饋砦抑荒苎菔窘o他們看。所以我開始給他們展示，神經(jīng)網(wǎng)絡(luò)是如何進行真正的遞歸運算的。這里真正的遞歸我指如何利用節(jié)點之間的連接強度來做一些事情。比如我們想要對這句話進行理解：John did not like Bill because he was rude to Mary. 要理解這里面的從句部分“he was rude to Mary”，我們會用到將“He was rude to Mary. ”這句話作為獨立的句子理解時所用到的神經(jīng)節(jié)點及連接。所以說我需要做的就是存儲當(dāng)前進行到的位置，離開主句開始理解從句，然后再回來。我要對此進行展示，那么我就要有這個神經(jīng)網(wǎng)絡(luò)系統(tǒng)，沒有它就做不成。所以我開始搭建這個可以做真正的遞歸的神經(jīng)網(wǎng)絡(luò)系統(tǒng)，通過在神經(jīng)節(jié)點之前設(shè)立臨時權(quán)重來記錄節(jié)點信息。我記得當(dāng)時我跟我所在的科研小組提及過這個想法，但是他們不理解我為什么要做這個事情。有趣的是，我當(dāng)時想要攻破的難題，現(xiàn)如今變成了非常流行的技術(shù)。幾年之前，因為我們要探尋到底人類為什么可以自主學(xué)習(xí)，這個問題就流行起來了。所以說人類花了四十年的時間才意識到，神經(jīng)網(wǎng)絡(luò)才是我們要攻克的難題。

　　多領(lǐng)域?qū)＜覍崿F(xiàn)深度神經(jīng)網(wǎng)絡(luò)成果

　　海伊： 你在2004年成立了神經(jīng)計算與自適應(yīng)感知（NCAP）項目，將計算機科學(xué)家、生物學(xué)家、電子工程師、神經(jīng)系統(tǒng)科學(xué)家、物理學(xué)家和心理學(xué)家聚集到一起，復(fù)制人腦的運行機制。這件事需要很多學(xué)科的知識作為支撐。您能講講找到這些學(xué)科的世界級大師并且成立這個組織的故事嗎？

　　辛頓： 沒有人有必要是所有這些領(lǐng)域的專家，那太難了。你需要的是找到某個領(lǐng)域的專家，然后告訴他這個項目是什么。這樣你就可以問他問題，省去了你翻閱資料的時間。例如你找到了一個神經(jīng)系統(tǒng)科學(xué)家，你就可以問他諸如：“從一個點到另一個點有一個前向投影及其逆投影，那么有多少個神經(jīng)元參與了這個回環(huán)？信息要從多少個神經(jīng)突觸間傳遞才能走完這個回路回到初始點？”要想自己搞明白類似這種問題，那你需要很多的時間來查文獻，而且你不知道你正在查閱的文獻是否可信。如果你有一個專家?guī)兔Φ脑�，直接問他，他就會給你答案。所以團隊中有各個領(lǐng)域的專家是很必要的，能節(jié)省時間而且能少走彎路。

　　海伊： NCAP項目是邀請制的，所以說可能只有您和少數(shù)各學(xué)科的骨干成員才知道，就像你剛才說的，你們都知道成立這個組織的好處，可以節(jié)省時間又可以和不同學(xué)科的人工作。您能談?wù)劷�立起這個組織的過程嗎，您是如何兼顧在多倫多大學(xué)的教授工作以及在NCAP的研究的？

　　辛頓： 首先，我在建立NCAP的時候沒有想那么多，我只是想到把我認(rèn)識的所有能夠交流協(xié)作的人聚集到一起來做這個事情。選人的標(biāo)準(zhǔn)有三個：聰明、懂得交流協(xié)作、對神經(jīng)系統(tǒng)是如何工作的這件事情感興趣。因為我已經(jīng)從事這項研究很多年了，在這方面積累了不少人脈，當(dāng)我們聚集到一起然后我們發(fā)現(xiàn)，哎，合作還很不錯。

　　海伊： 從2004年以來，計算機的的運算能力不斷增加，這肯定對您的研究有很大的幫助。那么您覺得，當(dāng)前NCAP的研究成果是什么呢？

　　辛頓： NCAP目前已經(jīng)有很多科研成果，不僅僅是神經(jīng)網(wǎng)絡(luò)方面，我們在共有的知覺與肌動控制領(lǐng)域也有研究。其中最具影響力的研究成果還屬深度神經(jīng)網(wǎng)絡(luò)。在2004年左右那個時候，業(yè)界普遍認(rèn)為要訓(xùn)練包含多層變量的神經(jīng)網(wǎng)絡(luò)是非常困難的，NCAP的大多數(shù)人也認(rèn)為通過純粹的監(jiān)督訓(xùn)練是沒有辦法構(gòu)建神經(jīng)網(wǎng)絡(luò)的。所以說接下來歷史的發(fā)展其實有一些偶然性，我們開始將著眼點放在非監(jiān)督訓(xùn)練上：如何在不知道整個網(wǎng)絡(luò)應(yīng)該輸出的正確結(jié)果的前提下，逐層進行訓(xùn)練。每一層都在試圖為其下面一層的結(jié)構(gòu)和數(shù)據(jù)建模，我們稱之為pre-training。這是一個能讓深度學(xué)習(xí)繼續(xù)發(fā)展下去的重要突破，有了這種技術(shù)，接下來深度神經(jīng)網(wǎng)絡(luò)的研究就容易多了。

　　后來人們就發(fā)現(xiàn)，如果有足夠的算力和數(shù)據(jù)支撐的話，深度神經(jīng)網(wǎng)絡(luò)的研究可以擺脫上述方式。很多時候你有很多數(shù)據(jù)，例如大段講話或者視覺數(shù)據(jù)，你就不需要pre-training了。但是pre-training確實是促使深度神經(jīng)網(wǎng)絡(luò)技術(shù)繼續(xù)發(fā)展的原因。我們是首先知道了通過pre-training可以解決瓶頸，然后再去尋求擺脫pre-training的方式。我覺得，是因為由NCAP最先提出來的pre-training引發(fā)了很多其他研究人員將其作為突破目標(biāo)。

　　人工智能火不是因為它的原理和技術(shù)

　　海伊： 采訪了這么多期人工智能領(lǐng)域的領(lǐng)先人物，我發(fā)現(xiàn)讓我驚喜的是很多相對新的組織都將目光放得很長遠(yuǎn)，制定戰(zhàn)略也都是基于長期的考慮，他們更傾向于選擇不期待短期回報的投資者。有很多組織將自己定位成非盈利機構(gòu)，這樣能夠讓他們將技術(shù)的研發(fā)作為首要任務(wù)。這真的很少見，也很幸運，這么多的頂尖人才紛紛將目標(biāo)定在歷史發(fā)展而非短期盈利上。對此您是怎么看的呢？

　　辛頓： 是的我有幾點想說。首先，不光有技術(shù)，還要有應(yīng)用�，F(xiàn)在神經(jīng)網(wǎng)絡(luò)這么火不是因為它的原理，而是因為它真的可以做事情。像語音識別、物體識別、機器翻譯等這些應(yīng)用都很震撼，人們也更樂意朝這方面投錢，來支持這方面的基礎(chǔ)研究。

　　我覺得，“以營利為目的”比“非營利”更加復(fù)雜，舉個例子，谷歌給大學(xué)投錢用來做基礎(chǔ)研究，這很好，對于大公司來說這非常重要。因為大學(xué)培養(yǎng)出來的高質(zhì)量的畢業(yè)生可以為他們所用，所以大公司樂意投錢給大學(xué)做基礎(chǔ)研究，公司也能從其中受益，所以說其中的關(guān)系是很微妙的。

　　在大學(xué)里面，有很多政治方面的壓力，在英國、美國、加拿大都有，這些政治壓力讓研究更偏向于應(yīng)用。這樣政客花這筆錢有很好的理由：“我們投這筆錢是因為在五年之后就能回本，就能為社會提供工作機會，或者說五年之后就能盈利。”這不是做基礎(chǔ)研究的正常的路線。真正有價值的研究一定是出自于對未知的好奇。所以說給大學(xué)投錢做應(yīng)用型研究在我看來是一個錯誤。我覺得大學(xué)就應(yīng)該做基礎(chǔ)研究，應(yīng)用方面應(yīng)該由公司做。讓大學(xué)研究更傾向于應(yīng)用的，這在自然科學(xué)領(lǐng)域是說不通的，是不對的。這只是對政客或者一些科學(xué)界的管理者來說是有利的，因為賣相好。

　　談谷歌的人工智能，AlphaGo有了直覺

　　海伊： 現(xiàn)在您在學(xué)術(shù)界和應(yīng)用界之間架起了橋梁，在您工作了多倫多大學(xué)任教的同時也加入了谷歌。我了解到你在多倫多大學(xué)的時間大概是從早上9:30到下午1:30，在谷歌辦公室的時間是2:00-6:00。兩邊都兼顧到了。能說說這兩份事業(yè)之間的聯(lián)系與不同嗎？

　　辛頓： 我在谷歌的位置很特殊，我不再從事我之前從事的研究工作了。我在神經(jīng)網(wǎng)絡(luò)領(lǐng)域工作了很多年，所以我經(jīng)歷了很多想法的產(chǎn)生與被否定。當(dāng)時有很多想法被否定是因為計算機還不夠強大。我現(xiàn)在的工作是給谷歌神經(jīng)網(wǎng)絡(luò)團隊提供有可能會給他們現(xiàn)在的工作帶來啟發(fā)的舊的想法，用我多年以來形成的對于正確解決方法的靈敏的嗅覺來幫助他們做事情�，F(xiàn)在我在做的是，為谷歌提供對于基礎(chǔ)研究具體可行的應(yīng)用模式。這和大多數(shù)谷歌員工所從事的對于某一個應(yīng)用的具體開發(fā)工作是不一樣的。在DeepMind部門（就是做出AlphaGo的那個部門），有很多員工做的事情就是發(fā)現(xiàn)新方法。在神經(jīng)網(wǎng)絡(luò)團隊，會有人專注于基礎(chǔ)科學(xué)的研究以及神經(jīng)網(wǎng)絡(luò)的新算法的研發(fā)工作。

　　海伊： 您提到了DeepMind部門，在此前AlphaGo和李世石的圍棋對戰(zhàn)中被廣泛討論。您覺得這場對決的重要性在哪里？標(biāo)志了現(xiàn)有的科研成果？吸引更多的人從事人工智能研究或者開設(shè)公司？能談?wù)勀鷮�這個問題的看法嗎？

　　辛頓： AlphaGo很有意思的事情是，它擁有一種普通計算機所沒有的東西，那就是直覺：觀察棋盤，然后選擇一個正確的地方落子。為什么選擇這里？因為感覺這里對。這是神經(jīng)系統(tǒng)和之前的以邏輯運算為基礎(chǔ)的人工智能的不同之處，之前的人工智能都太理性了。事實上，我們現(xiàn)在要做的是，逐步的將神經(jīng)網(wǎng)絡(luò)覆蓋到以前邏輯運算AI的應(yīng)用范圍中去，因為我們現(xiàn)在已經(jīng)擁有了有直覺的計算機。

　　人工智能隱患的真正所在

　　海伊： 太棒了！很多投資人的投資引發(fā)了人們對人工智能的安全問題的擔(dān)憂。人們想要確認(rèn)隨著這一領(lǐng)域的發(fā)展，人工智能帶來的隱患是否可以控制。您對于人工智能為我們帶來的機遇和同時產(chǎn)生的隱患怎么看？

　　辛頓：我來拿挖掘機來做一個比喻，挖掘機在路上挖洞的速率遠(yuǎn)比人工挖洞要快，與此同時，挖掘機也可以敲爆你的頭。很顯然，當(dāng)人們設(shè)計挖掘機的時候就已經(jīng)考慮到如何能夠控制它，不致于敲爆路人的頭。我覺得這在計算機領(lǐng)域也都是一樣的。我們在研發(fā)人工智能的時候會考慮到什么情況會發(fā)生意外，把所有會被居心叵測之人利用或者被誤用的可能性都考慮到。

　　很顯然所有的高科技都有可能被誤用，然而會不會被誤用，這取決于政策法規(guī)的限制。其實你害怕的是政客用人工智能作為武器，所以我覺得這不是科技本身的問題。無論如何人工智能行業(yè)都會繼續(xù)發(fā)展，會不會被用在對人類有利的地方，這取決于政策。就像自動應(yīng)答機一樣，當(dāng)時自動應(yīng)答機出現(xiàn)的時候，很多銀行的員工因此丟了工作，他們當(dāng)時肯定有怨言。但是現(xiàn)在再回頭看這件事，沒有人會說：“我們不該啟用自動應(yīng)答機。”因為它的出現(xiàn)更方便，而且替代了簡單的重復(fù)工作。當(dāng)時被替換掉的很多人也都找到了更有意思的工作。我覺得這和現(xiàn)在的情況是一樣的。

　　注：阿爾法圍棋（AlphaGo）是一款圍棋人工智能程序。這個程序利用“價值網(wǎng)絡(luò)”去計算局面，用“策略網(wǎng)絡(luò)”去選擇下子。