機器人也犯錯？ 谷歌在機器人的道路上并非一帆風(fēng)順

　　人工智能、機器人等這些高科技的東西也會犯錯，你知道嗎？據(jù)悉，最近谷歌的研究人員發(fā)表了一篇名為“人工智能安全問題具體分析”的報告，讓我們看到了機器人們在適應(yīng)性、協(xié)調(diào)性上出現(xiàn)的問題。

　　該報告表示比如清潔機器人應(yīng)該擁有更好的避害性能，而不應(yīng)該用一個潮濕的拖把來擦拭有插座的地面。

　　機器人需要通過智能算法來學(xué)習(xí)，并且不斷更新和向前探索，而與軟件不同的是，不斷嘗試新事物的機器人甚至有可能成為一名殺人犯。因此谷歌的研究人員想出了下面的這五個問題：

　　避免負面影響：我們?nèi)绾尾拍艽_保一個AI系統(tǒng)不會為了達到目的而對環(huán)境造成負面影響，比如清潔機器人為了更快的完成清潔任務(wù)而撞倒一個花瓶；

　　避免被黑客控制：我們都希望機器人不要被目的不純的黑客控制，比如清潔機器人不管任何材質(zhì)而一味的清理，造成對環(huán)境的破壞；

　　彈性監(jiān)督：我們?nèi)绾尾拍苡行У拇_保在各個方面對AI系統(tǒng)進行客觀的評估？比如當人們要求機器人總是反復(fù)執(zhí)行同一項任務(wù)，機器人是否會感到厭倦？

　　安全的探索：如何確保一個AI系統(tǒng)在探索的同時不會帶來消極的影響。比如清潔機器人應(yīng)該知道避害，而不應(yīng)該用一個潮濕的拖把來擦拭有插座的地面。

　　適應(yīng)性：我們?nèi)绾未_保一個AI系統(tǒng)擁有更高效的識別能力，在非常規(guī)的環(huán)境下也能擁有適應(yīng)能力？

　　研究者擔(dān)心的并非是機器人引發(fā)的革命，而是由于草率的設(shè)計而帶來的現(xiàn)實問題。過多的事故容易讓人們喪失對合理自動化系統(tǒng)的信任感。

　　細節(jié)決定成敗。機器人的時代尚未真正到來，但是，如何針對機器人能夠強化其主動化系統(tǒng)的安全性是研究人員需要關(guān)注的問題。