為防人工智能背叛人類 谷歌與其他巨頭組建協(xié)會(huì)

　　谷歌一直致力于人工智能的發(fā)展，而其他巨頭公司也開(kāi)始涉足人工智能領(lǐng)域，人類在發(fā)展人工智能時(shí)都要考慮到一個(gè)問(wèn)題，那就是如何防止人工智能背叛人類。因?yàn)槿斯ぶ悄苡凶约旱囊庾R(shí)，一旦背叛將會(huì)對(duì)人類造成巨大的威脅，為此，谷歌與其他巨頭展開(kāi)了會(huì)談，或?qū)⒔�立協(xié)會(huì)。

　　現(xiàn)在，Google母公司Alphabet、Facebook、微軟、IBM和亞馬遜這5家在人工智能領(lǐng)域積極布局的科技巨頭也意識(shí)到了這個(gè)問(wèn)題，他們正打算為人工智能制定一套成熟的道德標(biāo)準(zhǔn)。

　　根據(jù)《紐約時(shí)報(bào)》的報(bào)道，這5家公司近期舉行了一場(chǎng)會(huì)談，在人工智能對(duì)勞動(dòng)市場(chǎng)、交通和戰(zhàn)爭(zhēng)等方面的道德倫理標(biāo)準(zhǔn)展開(kāi)了討論。他們還打算成立一個(gè)相關(guān)的行業(yè)協(xié)會(huì)，這個(gè)協(xié)會(huì)的目的是確保人工智能有利于人類而不是傷害人類，但參會(huì)者還沒(méi)有確定具體的協(xié)會(huì)名稱。

　　雖然科技巨頭們都在積極研究人工智能，但警惕人工智能統(tǒng)治人類的呼聲也不絕于科技界。例如在今年6月份舉辦的Code Conference上，特斯拉和Space X的創(chuàng)始人伊隆·馬斯克就曾說(shuō)過(guò)，按照人工智能的發(fā)展，未來(lái)人類在智力上將被遠(yuǎn)遠(yuǎn)拋在后面，并淪落為人工智能的寵物。

　　去年7月，馬斯克還資助了未來(lái)生命研究所（Future of Life Institute）1000萬(wàn)美元，該機(jī)構(gòu)主要評(píng)估和分析人工智能帶來(lái)的風(fēng)險(xiǎn)。

　　隨后史蒂芬·霍金也在一場(chǎng)電視節(jié)目里聲稱硅谷某處的一些實(shí)驗(yàn)室正在醞釀一個(gè)邪惡的計(jì)劃，而人工智能將會(huì)以比人類更快的速度進(jìn)化，它們的目標(biāo)是人類無(wú)法預(yù)測(cè)的。

　　“一旦機(jī)器達(dá)到了一種可以自我進(jìn)化的關(guān)鍵階段，我們就無(wú)法預(yù)測(cè)它們的使命是否和人類一樣了。”霍金說(shuō)。

　　對(duì)此，谷歌董事長(zhǎng)Eric Schmidt回應(yīng)稱，人工智能將會(huì)以人類的福祉為發(fā)展方向，而且將會(huì)有一個(gè)系統(tǒng)來(lái)阻止人工智能向不對(duì)的方向發(fā)展。“我們都看過(guò)那些科幻電影。”他說(shuō)，“但是在現(xiàn)實(shí)世界中，人類肯定知道如何在人工智能變得危險(xiǎn)的時(shí)候關(guān)閉掉它的系統(tǒng)。”

　　不僅是科技公司和民間組織想要讓人工智能在道德和法律上走向正規(guī)化，政府機(jī)構(gòu)也參與到了這場(chǎng)討論中。今年5月，美國(guó)政府在西雅圖舉辦了第一次關(guān)于AI法律法規(guī)的白宮探討會(huì)。

　　本次探討會(huì)的主題是“政府應(yīng)不應(yīng)該對(duì)人工智能進(jìn)行管理”，但會(huì)議并沒(méi)有就此議題得出結(jié)論，更不用說(shuō)出臺(tái)具體的監(jiān)管措施了。

　　因此，在政府沒(méi)有做出具體的動(dòng)作之前，科技公司們已經(jīng)開(kāi)始行動(dòng)了——他們決定自己制定框架，讓人工智能研究能夠進(jìn)行下去，并確保它不會(huì)傷害人類。

　　參與本次行業(yè)討論的微軟研究人員Eric Horvitz曾在斯坦福大學(xué)創(chuàng)辦過(guò)一個(gè)叫“人工智能百年研究”的協(xié)會(huì)，該協(xié)會(huì)最近發(fā)表了其2016年的研究報(bào)告。

　　在這份名為《2030年的人工智能與生活》的報(bào)告中，作者認(rèn)為人工智能“很可能受到監(jiān)管。”報(bào)告稱：“研究組達(dá)成的共識(shí)是，試圖監(jiān)管人工智能的努力常常受到誤導(dǎo)，因?yàn)槲覀儧](méi)有對(duì)人工智能這一概念的明確定義，因此在不同領(lǐng)域，我們需要考慮不同的風(fēng)險(xiǎn)。”

　　這份報(bào)告還建議政府機(jī)構(gòu)提升對(duì)人工智能的專業(yè)認(rèn)識(shí)，并加強(qiáng)在人工智能領(lǐng)域的公共和私人投資。

　　一份關(guān)于本次會(huì)議的備忘錄顯示，這5家公司將于9月中旬宣布建立監(jiān)管人工智能的行業(yè)組織。有知情人士表示，Alphabet的子公司Google DeepMind要求以獨(dú)立的身份參與此行業(yè)協(xié)會(huì)。

　　該協(xié)會(huì)將以全球網(wǎng)絡(luò)倡議（Global Network Initiative）等人權(quán)組織的模式組建，但更加關(guān)注言論自由和隱私權(quán)問(wèn)題。

　　一直以來(lái)都有不少電影展現(xiàn)了人工智能背叛人類的事件，這對(duì)人類有一定的警示作用，人類在發(fā)展人工智能的同時(shí)，一定要注意預(yù)防人工智能背叛人類。