經濟觀察丨如何給人工智能發展勒好繩?-香港商报
首页 > 新闻专题 > 财经 > 财经

經濟觀察丨如何給人工智能發展勒好繩?

2024-03-25
来源:中新社

 當前,人工智能成為各國發展重點,如何與人工智能共存,並在保證其安全可控的前提下更好造福人類社會,成為全球共同挑戰。

 24日,政界、學界、企業界人士齊聚中國發展高層論壇「人工智能發展與治理專題研討會」,共商人工智能安全治理。

 北京智源研究院創始人、創始理事長張宏江用「震撼」一詞形容Sora。

 他表示,Sora可以根據文字提供一段現實世界無法拍攝出來的逼真場景,多模態大模型還可以通過「櫻花和雪天無法同時出現」以及雪片的均勻程度判斷視頻是否由人工生成,甚至可以思考、推理而非以往機械式地執行命令。

 「人類做出的最偉大的發明就是人工智能,毋庸置疑,它也是最具風險和最危險的創新。」福特斯克金屬集團執行董事長安德魯·福瑞斯特表示,人類的DNA幾十年甚至幾百年才能有一些改善,但是AI卻能以光速不斷完善。

 「AI的學習能力超過人類的平均學習能力」,張宏江同樣表示,人類的學習能力是一條平緩的直線,但是機器的學習能力是一條指數曲線,兩線相交後人類的學習能力將落後於機器。更可怕的是,當系統本身有能力自我改善時,可能會帶來全球性的災難後果,他提醒。

 香港中文大學(深圳)前海國際事務研究院院長、廣州粵港澳大灣區研究院理事長鄭永年則拿原子彈進行類比,稱原子彈是人類掌握的第一個自我毀滅的工具,「我們現在又多了一樣」,「如果人工智能和核武器結合起來會更糟糕」。

 如何避免這種災難性後果,給人工智能發展勒好繩?這個問題顯得比以往任何時候都更為重要。

 Verimag實驗室創始人、2007年圖靈獎得主約瑟夫·希發基思直言,一些國際會議正在討論建立全球監管框架的問題,但達成全球人工智能監管框架的機會比較渺茫。

 然而近期達成的《北京 AI安全國際共識》在人工智能監管方面仍取得了可喜突破。張宏江強調,最重要的是劃出了安全紅線:人工智能不能自主複製或改進,不能尋求權力,不能協助不良行為,尤其是大規模殺傷性武器、生化武器和製造大規模網絡災難,不能欺騙人類,這些紅線不可逾越。

 清華大學智能產業研究院院長、中國工程院院士張亞勤的建議則更趨具體,他建議將機器人與其背後的人或公司關聯,以便追溯實體責任,同時建立監管分級體制,根據風險大小確定不同程度的監管標準。

 持續深化人工智能安全治理,合作的重要性被反覆提及。

 鄭永年稱,美國和中國的人工智能發展各有比較優勢,在治理方面需要兩個國家進行合作。

 中國科學技術部副部長吳朝暉也在發言中指出,世界各國應攜手一道,以高度負責任的態度推動人工智能的發展,堅持智能向善、智能向上,確保人工智能始終處於人類的控制之下,從而實現安全、可靠、可控。(王夢瑤)

[责任编辑:程向明]