網易科技訊 5月12日消息：據國外媒體報道，經過幾十年發展，人工智能已經從科幻小說裏的一個概念，變成了當今科技發展的主流。蘋果的語音控制系統Siri、亞馬遜的智能助手Alexa、IBM的沃森超級電腦、穀歌大腦...能夠理解這個世界並且給出高效反饋的智能機器似乎就在眼前。

　　強大的互聯網接入和學習運算法則讓機器在理解人類語音、視頻信息的方面取得了飛躍性的進步，也逐漸向狹義上真正的人工智能邁進。AI(Artificial Intelligence),可實現自動響應的人工智能產品距離我們還遠嗎?如何讓他們保持不斷自我更新升級但是依然在人類可控范圍內?

　　這個問題給人們帶來普遍的擔心和焦慮。“我認為人工智能的發展最終會導致人類族群的滅絕，”物理學家斯蒂芬·霍金接受BBC的采訪給出了這樣的觀點。特斯拉的創始人埃隆·馬斯克把AI成為“人類最大的潛在威脅”。微軟前總裁比爾·蓋茨也表示過類似的擔憂。

　　有多少擔憂是必要的?問題有多緊迫?我們聚集了多位工業、科研研究、政策決策領域的專家，一起評估人工智能的發展風險。參加此次話題討論的包括Skype創始人之一、人類未來發展潛在風險研究院的智庫成員——Jaan Tallinn，IBM的沃森超級電腦研究院負責電腦認知研究的專家——Guruduth S. Banavar，帕多瓦大學計算機系教授、哈佛大學拉德克利夫高級研究所研究院和狙擊最多AI研究者的國際人工智能研究協會主席——Francesca Ross。

　　以下是經過編輯整理的專家談話內容。

　　危險究竟是什么?

　　記者：人工智能會對人類造成哪些威脅?

　　Banavar：受科幻小說、電影的影響，人工智能帶來的威脅主要是人類與機器之間的矛盾沖突，這個觀點其實是錯誤的。人工智能在某些領域能夠比人類更出色地解決問題，比如大數據篩選。然而，某些人類擅長的領域離，機器的表現非常糟糕。比如常識推理、提出精彩的問題以及“跳出來”想問題。人類和機器的結合體，即我們研究的計算機認知能力的基礎，是對解決各個領域的複雜問題的革命性的設想。

　　人工智能為基礎的系統已經在很多方面為我們的生活提供了便利：股票自動交易系統、自動飛行控制系統、工業流水作業機器、錯誤檢測和搜索引擎...在過去的5-10年間，機器學習運算法則和先進的計算機架構讓我們實現了很多新應用。

　　然而，需要認識到，計算機運算法則已經被運用到極致。要實現更大的進步，則需要引入更多複雜的符號系統——這是個很高的要求。今天我們的神經科學和認知科學研究，對於人類智能的研究還只是抓到皮毛。

　　我個人的觀點是，能夠達到人類水平進行一般感知、推測的人工智能機器還只是個娛樂話題。

　　TALLINN：今天的人工智能不可能對人類構成威脅。如果我們要討論人工智能的長遠影響，(也就是人工智能能夠比人類更好地完成策略、科學、人工智能研究的時候。)我們就要涉及到控制超級智能的問題。

　　記者：什么是超級智能控制問題?

　　TALLINN：現在最先進的機器人也存在一個能夠讓人類實現完全控制的“關機鍵”。然而，“關機鍵”發揮作用的前提是它在機器人的工作領域之外。舉個例子，一個會下棋的電腦工作領域僅限於與人對弈，它並不會覺察到它的人類對手可以拔掉它的電源終止遊戲。

　　然而，超級智能機器，經過有意或者無意的程序設定，能夠全面的了解周圍世界並且對於有人可以動他們的“關機鍵”的後果作出預測，人類就很難再控制它。

　　記者：這個問題有多嚴重?

　　TALLINN: 目前這還只是理論上的推測。但是需要謹慎的認識到，超級智能機器可能會僅僅受控於物理學定律和人們給早期智能機器人設定的程序。

　　早期的程序是基於我們十分有限的物理學知識設計的。想象一下，如果面對一個智能機器人，我們給出的指令是“為人類創建更偉大的未來”，我們最好能夠十分確定它們會做出怎樣的反應。

　　ROSSI：在很多具體的領域，人工智能的表現已經超越人類，其中就包括一些涉及精確判斷的領域。目前，人工智能並未威脅到人類，但是人類已經受到機器判斷的影響，如線上自動交易系統，健康檢查系統以及很快就將普及的無人駕駛汽車和無人操控武器。

　　我們需要明確了解分析人工智能在具體領域內存在的潛在威脅，既讓它們發揮作用，又要確保它們能夠安全、友好、按照人類價值觀運轉。這並不是個簡單的課題，因為即使是人類，在大多數時間裏都無法遵照自己設定的原則行動。

　　給日常生活帶來的影響

　　記者：人工智在具體領域會給人類帶來怎樣的威脅?

　　ROSSI: 比如自動交易系統，機器給出的一個錯誤的決策會給很多人帶來決經濟損失。無人駕駛汽車的失誤也會給人來帶來生命安全的威脅。

　　記者：應該怎么看待這些風險?

　　BANAVAR: 任何風險都有兩面性：做這件事的風險和不做這件事的風險。我們已經有很多基於信息不完全、專業人士的不專業做出的錯誤決定，造成數千人死亡，上百萬美金損失以及在諸如醫療等核心領域緩慢的發展狀況。基於IBM沃森超級電腦在很多領域的應用經驗，我認為，在具體領域上，人工智能能夠有效的降低風險。

　　然而對於全面人工智能領域，我持有謹慎的觀點。我認為我們一直低估了這個問題的複雜性。我們有太多未知未知了。

　　記者：IBM采取哪些措施來降低人工智能技術風險?

　　BANAVAR: IBM的計算機認知系統，和其他現代計算機系統一樣，是基於雲計算結構，運算法則和大量數據構建的。這些系統的運轉是可以被記錄、追蹤和審查，防止出現違反安全政策的現象。這些認知系統不是自主運轉的，所以他們的指令、數據、結構需要我們采取一定保護措施來防止外部攻擊。任何接入、更新我們系統的人都是可控的。

　　我們主要通過複雜的加密和數字簽名來保護數據，通過漏洞掃描和其他技術手段保護運算代碼，通過隔離等手段保護計算機結構。

　　這些支持人工智能安全運行的政策是基於對風險的深度分析設計的。這些政策需要經過安全和交易委任, 管理銷售和公共安全提供的委員會(SEC)、食品及藥物管理局(FDA)以及美國國家標准技術研究院(NIST)這些各自領域內負責設定安全標准的機構審查。