輝達 Palantir 等開始設限 OpenAI / Anthropic 使用範圍,微軟趁機推銷自家 AI 方案

by · TechNews 科技新報

大型科技與政府服務企業正因資料隱私與智慧財產保護疑慮,重新檢視尖端 AI 模型的依賴度。外媒《The Information》報導,輝達、Palantir Technologies 與 Booz Allen Hamilton 等公司,已開始限制或縮減 Anthropic 與 OpenAI 模型部分業務使用,並要求更明確的資料處理保證。

爭議焦點之一,是 Anthropic 今年 6 月調整旗下模型的資料留存政策,改為可保留客戶使用紀錄 30 天,以防範複雜攻擊。雖然 Anthropic 表示,企業合約預設不會拿客戶資料訓練模型,且收集使用資訊屬彙整與匿名化的中繼資料,但部分客戶仍擔心,敏感業務內容可能不夠透明下納入蒐集範圍。

Palantir 已要求 Anthropic 提供不可撤銷的零資料留存保證,相關條件未明朗前,暫停模型使用。輝達則限縮外部模型處理較不敏感的工作,核心任務改用自家模型;博思艾倫漢密爾頓也禁止員工涉及專有資安軟體的工作使用外部模型。另有一家美國大型公用事業公司,因 Anthropic 未同意不可撤銷的 ZDR 條款,取消以模型測試核心電網基礎設施的計畫。

OpenAI 同樣面臨企業客戶追問資料使用方式。雖然 OpenAI 與 Anthropic 都強調不會有簽企業合約時預設使用客戶資料訓練模型,但兩家公司仍會蒐集部分中繼資料,且外界對內容與用途仍感到不安。C Spire 等企業已要求更清楚的說明,避免技術使用紀錄、應用連結資訊,甚至模型推理過程的資料遭不當處理。

微軟就趁這次風波積極搶攻市場,向企業客戶推銷隔離式雲端環境與私有 AI 方案,主打資料不會送往外部 AI 公司。部分企業也轉向更保守的做法,包括自家氣隙伺服器部署開源模型,或限制模型只能處理公開資料與低敏感度任務。企業資料主權要求升高,AI 供應商與大型客戶之間的信任感拉鋸,也改寫企業導入 AI 的方式。

(首圖來源:Unsplash