白宮擬擴大 AI 安全審查:達前沿能力的開源模型也可能納入 30 天檢測

白宮正準備擴大一套尚未公開的人工智慧安全審查框架,未來除了 Anthropic、OpenAI 等公司推出的閉源前沿模型,達到相同能力門檻的開源模型也可能被納入發布前測試。根據 WIRED 引述知情人士的報導,川普政府已於今年 8 月向多家大型 AI 公司簡報相關機制,內容包括模型公開前接受最多 30 天的聯邦安全審查。

審查對象可能不再限於閉源模型

目前這套機制主要針對被視為具備最先進能力、且可能帶來國家安全風險的閉源模型。不過,白宮官員透露,未來幾個月內,開源模型也可能被納入審查,只要其能力達到與 Anthropic 前沿模型或 OpenAI 最新前沿模型相當的程度。

知情人士表示,政府擔心若官方審查與背書只適用於閉源模型,可能讓開源模型在市場聲譽上處於不利位置,甚至削弱美國企業發布開源模型的意願。這項政策調整顯示,審查框架的設計不僅考量模型本身的風險,也涉及不同開發模式在產業競爭中的公平性。

中國開源模型發展加劇產業壓力

相關討論正值美國 AI 產業重新關注開源模型之際。近來中國 AI 實驗室推出多款新模型,引發外界對中國開源模型是否逐步追上美國領先閉源產品的討論。

其中,Moonshot 於今年 7 月發布的 Kimi K3,被視為價格較低、但效能可與 Anthropic、OpenAI 及 Google 最新產品抗衡的模型。這類產品的出現,使開源模型在成本、可取得性與技術競爭力方面受到更多關注,也讓美國政府面臨如何兼顧安全審查與產業發展的政策取捨。

科技業對開源模型限制看法分歧

業界並未一致支持對開源模型施加更嚴格限制。Meta、微軟(Microsoft)與 Palantir 等公司已聯名呼籲白宮避免限制開源模型。輝達(NVIDIA)執行長黃仁勳也曾公開表示,開源模型有助於安全、資安、創新擴散與技術自主,全球需要同時擁有前沿閉源模型與前沿開源模型。

Anthropic 未加入上述聯名聲明,因此成為開源陣營批評的焦點。外界認為,若政策進一步朝更嚴格方向發展,可能間接有利於閉源模型供應商。不過,Anthropic 執行長達里歐·阿莫戴(Dario Amodei)已否認相關指控。

政策仍處於研議階段

目前白宮的 AI 安全審查框架尚未公開,開源模型是否正式納入、具體能力門檻如何訂定,以及審查結果是否影響模型發布,仍有待後續政策說明。已知方向是,政府可能以模型能力與潛在國安風險,而非單純依據其是否開源或閉源,作為判斷是否進入審查程序的依據。

整體而言,擴大審查範圍反映川普政府試圖在國家安全疑慮、開源與閉源模型的產業競爭,以及維持美國 AI 領導地位之間尋找平衡。若開源模型最終納入最多 30 天的發布前審查,相關規則將可能對模型發布速度、企業研發策略與美國 AI 生態系造成影響。

Related Articles

Stay Connected

0FansLike
0FollowersFollow
22,800SubscribersSubscribe
spot_img

Latest Articles