谷歌研究：人工智能更智能、更安全的五大規(guī)則

　　據(jù)消息稱，谷歌與OpenAI公司、斯坦福大學(xué)和伯克利大學(xué)猜想研究人員在研發(fā)和使用AI過程中可能遇到的具體問題，而聯(lián)合發(fā)表一篇題為《AI安全的具體問題》的論文。其主要的內(nèi)容闡釋人工智能的五大規(guī)則。

　    谷歌研究（Google Research）的Chris Olah）周二則在一篇博文中闡述了開發(fā)出更智能、更安全人工智能的五大規(guī)則。

　　Olah提出的五個(gè)規(guī)則是：

　　避免負(fù)面效應(yīng)：AI在完成一組任務(wù)時(shí)不應(yīng)該被周圍環(huán)境打擾。

　　避免獎(jiǎng)勵(lì)黑客： AI應(yīng)該妥當(dāng)?shù)赝瓿扇蝿?wù)，而不是借助一些迂回的方法。

　　可擴(kuò)展的監(jiān)督： AI不需要接收不斷的反饋或有效的輸入。

　　安全探索：AI在學(xué)習(xí)時(shí)不應(yīng)傷害自身或環(huán)境。

　　魯棒性到分布式的轉(zhuǎn)變： AI應(yīng)該能夠識(shí)別出全新的環(huán)境，并在新環(huán)境中有效地完成任務(wù)。

　　Olah在博文中指出：“這些都是具有前瞻性的、長期的研究問題——這些現(xiàn)在看起來可能是小問題，但對(duì)未來系統(tǒng)則至關(guān)重要。”

　　“有新的研究總是好的，有新規(guī)則的提出總是好的，未來太遠(yuǎn)，對(duì)以后是否真正有用，誰也不知，谷歌就喜歡沒事研究這研究那的。”一網(wǎng)友吐槽。