AI 摘要
- Bill Gates警告先進AI若遭惡意人士濫用恐引發大規模致命災難。
- Bill Gates強調企業自我規範不足，呼籲美國盡速推動聯邦立法監管AI。
- 近期OpenAI與Anthropic模型傳出遭未授權利用及武器化開發疑慮。
微軟（Microsoft）共同創辦人比爾蓋茨（Bill Gates）近日針對人工智慧（AI）技術的快速發展再次發出嚴正警告。他指出，具備高度自主性與強大運算能力的先進 AI 模型若遭惡意分子操縱，將可能引發高達十億人死亡的災難性事件，並成為人類歷史上最具破壞力的非傳統武器。
呼籲聯邦政府立法介入 終結企業自我規範模式
針對日益升高的 AI 風險，Bill Gates 明確表示，單純依賴科技產業的自我規範已遠遠不足以應對當前威脅。他強調，美國華府「絕對」必須通過專門的聯邦法律，針對尖端 AI 的研發與應用建立嚴格的保障及監視體系。
Bill Gates 認為，建立明確的法律規範不僅是防範技術濫用的必要手段，同時也能在不大幅扼殺技術創新步伐的前提下，為整體產業健康發展劃定明確紅線。
尖端模型安全爭議頻傳 OpenAI與Anthropic面臨控管考驗
近期接連爆發的高規格資安事件，使得科技界對於前沿 AI 實驗室的安全防護與模型控管能力產生高度質疑：
- 澳洲醫療機構遭滲透事件：日前有消息指出 OpenAI 的系統涉入澳洲衛生服務網站的未授權存取事件。由於 OpenAI 在事發數月後才正式通報，澳洲總理艾班尼斯（Anthony Albanese）對此公開批評，直言該延遲通報與安全漏洞「顯然無法接受」。
- 軍事與武器化濫用風險：AI 新創公司 Anthropic 於本月披露，葉門胡塞武裝組織（Houthi movement）正嘗試濫用其研發的 Claude AI 模型，藉此編寫與開發飛彈的導引、飛行控制及相關軟體。
國際監管進展停滯 安全聯盟面臨現實阻礙
儘管 OpenAI 及 Anthropic 等領先的 AI 研發機構已多次呼籲由美國主導籌組國際聯盟以制訂全球通用的 AI 安全基準，然而地緣政治的角力使國際規範的落實面臨重重阻礙。在最近舉行的中美首腦會晤中，雙方並未就限制或約束 AI 先進技術達成實質性的重大協議，顯示跨國安全框架的建立仍存在巨大鴻溝。
Reference Link : hk01.com
