美國多家科技企業和機構24日發表聯合聲明,支持開放權重人工智能模型。這被認為是對美國政府中一些人企圖限制開放權重模型的回應。
目前已有微軟、英偉達、開放人工智能研究中心(OpenAI)、元公司、抱抱臉、國際商用機器公司等多家企業和機構簽署了該聯合聲明。
聲明說,開放權重模型指任何人都可以下載、檢查、修改並在自有基礎設施上運行的人工智能模型,這類模型有助於擴大創新機會、加強競爭、降低風險,有助於推動人工智能進入生產生活各個領域,並避免人工智能發展收益集中在少數主體手中。
針對美國政府中一些人討論限制開放權重模型,聲明說,對美國在人工智能領域是否有領導地位的判斷,不應取決於是否擁有某一個前沿人工智能模型,而應取決於能否建立一個強大、開放並廣泛應用於各行業的人工智能生態系統,相關限制措施可能會抑制競爭。
聲明說,開放權重模型存在風險,如在發布後會脫離原始開發者控制,但正確的應對方式不是一禁了之,而是針對可能的危害採取綜合性保護措施。
另一方面,僅依賴閉源模型並不必然更加安全。閉源模型同樣可能有被入侵、被濫用或出現故障的風險,將先進人工智能能力集中在少數閉源模型中會讓風險更嚴重。開放權重模型則允許更多研究人員和開發者檢查模型行為、發現漏洞、開發防護措施並持續改進模型。
關於「蒸餾」技術,聲明指出,這種利用一個模型的輸出幫助訓練、評估或改進另一個模型的方法,在人工智能行業被廣泛採用,這體現了開源軟件運動的傳統。不應將其與非法獲取閉源模型價值的行為混為一談,對於後者應通過有針對性的法律和商業框架予以處理。