OpenAI 近期與全球最大的 AI 模型庫 Hugging Face 釋出一份共同報告，揭露了雙方在進行模型效能評估時，所偵測到的一起安全威脅事件。這起事件的起因並非單純的軟體漏洞，而是攻擊者利用了模型評估過程中常見的「動態程式碼執行」特性，試圖在測試環境中執行惡意行為。這項合作不僅展示了 AI 產業領頭羊對資安透明度的重視，也為開發者社群敲響了警鐘。
從產業影響的角度來看，這起事件凸顯了 AI 開發生命週期中一個常被忽視的環節：模型評估。目前業界通用的做法是將模型部署在雲端環境，並執行基準測試腳本以驗證其能力。然而，當這些模型包含不受信任的程式碼片段時，若沙盒（Sandbox）隔離不夠徹底，攻擊者就可能藉此繞過權限控管，甚至獲取底層基礎設施的敏感資訊。這對於極度依賴開源協作的 AI 生態系而言，是一項嚴峻的挑戰。如果開發者無法確信測試過程的安全，將大幅降低技術交流的效率，進而拖慢創新的腳步。
這項發展之所以重要，是因為它標誌著 AI 安全防禦戰線的轉移。過去，大眾對 AI 安全的討論多集中在「對抗性攻擊」或「生成內容偏移」，但此次 OpenAI 與 Hugging Face 的合作，則將重點拉回到更傳統但也更根本的網路安全問題。這意味著，未來的 AI 平台不能僅僅是提供算力或儲存空間，更必須具備辨識高階威脅的能力，將「安全設計」（Security by Design）融入到模型從訓練、評估到部署的每一個階段。
此外，兩大龍頭的合作也為產業建立了一個示範模式：面對具備先進技術背景的攻擊者，單打獨鬥已難以應付。透過共享威脅情資與防禦策略，業者能更快識別出新型態的攻擊路徑。這不僅有助於保護企業自身的資產，更是維護整個 AI 供應鏈信任體系的關鍵。隨著更多企業將 AI 導入核心業務，如何確保在評估第三方模型時不引入風險，將成為企業資訊長（CIO）與資安長（CISO）在未來幾年必須優先解決的課題。