Anthropic 與對齊
Length: • 2 mins
Annotated by Jimmy Su
就算你對政治不感興趣,也不代表政治不會找上你。
― Pericles
這篇文章並非要探討美國對伊朗發動的軍事行動,但這是一個既實用又及時的比喻。關於國際法(International Law)的概念以及究竟是誰在違法,始終存在著無止盡的爭論。有些人會主張美國發動攻擊違反了法律,另一些人則會指出,在我有生之年,伊朗無論是公開行動或資助恐怖網絡,都一直在連番踐踏國際法。
有一點至關重要,那就是這場辯論終究毫無意義:所謂「國際法」的概念根本是虛構的。這並非因為相關法規或協議不存在,而是因為法律的效力終究取決於強制執行力。延伸來看,這代表必須存在一個具備對等實力的實體來執行這些規範,但現實中這樣的實體根本不存在。
沒錯,雖然有聯合國,但這個組織的運作完全仰賴成員國的共識,以及各國是否願意臣服於其法令,甚至投入資源來執行其指令。換句話說,唯一真正發揮作用的行為者只有主權國家本身,而這些國家的相對實力並非取決於律師或法官,而是取決於他們展現武力與脅迫他人的能力。
換個方式說,如果在這個週末過後,你還想死守著國際法這種概念,那你最好認清現實:這場辯論已經有了定論。伊朗就是違法,因為他們的軍隊剛被美國徹底修理了一頓,這意味著誰對誰錯,由美國說了算。
Anthropic 對決戰爭部(Department of War)
當美國多數民眾,乃至於全世界都正屏息關注伊朗局勢的發展時,科技圈內另一場激烈的辯論也正打得火熱。這場爭議的一方同樣是美國政府,而另一方則是私人企業 Anthropic。根據 Wall Street Journal 的報導:
聯邦政府將停止與 Anthropic 合作,並將這間 AI 公司列為供應鏈風險名單。這標誌著政府與該公司之間,針對五角大廈如何使用其技術的衝突已急劇升溫。就在 Anthropic 與政府的關係跌至冰點之際,競爭對手 OpenAI 於週五晚間宣布,已與國防部達成協議,獲准在機密環境中使用其模型;而這項待遇在不久前仍是 Anthropic 獨佔的特權。這兩間矽谷寵兒與五角大廈在週五接連發生的進展,將決定聯邦政府,特別是國防部,未來如何運用頂尖 AI 工具的格局。
Anthropic 在本週稍早,透過 Dario Amadei 針對與戰爭部討論過程發表的聲明 ,明確表達了其立場:
在少數特定情況下,我們認為 AI 可能會破壞而非捍衛民主價值。此外,某些用途也純粹超出了當今技術所能安全且可靠執行的範疇。有兩類應用案例從未被納入我們與戰爭部的合約中,我們認為現在也不應將其納入:
- 大規模國內監控 。我們支持將 AI 用於合法的國外情報與反情報任務,但利用這些系統進行大規模國內監控,與民主價值背道而馳。AI 驅動的大規模監控對我們的基本自由構成了嚴重且前所未見的風險。這類監控目前之所以合法,純粹是因為法律尚未跟上 AI 飛速發展的能力。舉例來說,根據現行法律,政府無需取得搜索票,即可從公開管道購買美國人行蹤、網路瀏覽紀錄及社交關係的詳細資料;情報體系(Intelligence Community)已承認此舉引發隱私疑慮,國會兩黨也對此表示反對。強大的 AI 讓自動化且大規模地整合這些零散、單看並無大礙的數據成為可能,進而拼湊出任何個人生活的完整全貌。
- 全自動武器 。目前在烏克蘭使用的半自動武器,對於捍衛民主至關重要。甚至連全自動武器(即完全排除人類介入,自動選擇並攻擊目標的武器)也可能對我們的國防具有關鍵意義。然而,目前的尖端 AI 系統穩定性不足,尚無法支撐全自動武器的運作。我們不會在明知風險的情況下,提供會讓美國官兵與平民陷入危險的產品。我們曾提議與戰爭部(Department of War)直接進行研發合作,以提升這些系統的可靠性,但對方並未接受。此外,若缺乏適當監督,全自動武器無法像受過高度訓練的專業部隊那樣,在日常任務中展現關鍵的判斷力。這些武器需要適當的防護機制才能部署,而這些機制目前並不存在。
就我們所知,這兩項例外情況至今並未阻礙我國武裝部隊加速採用與使用我們的模型。
戰爭部聲稱,他們只會與同意「任何合法用途」並移除上述防護機制的 AI 公司簽約。他們威脅,若我們堅持保留這些防護機制,就要將我們從其系統中剔除;他們甚至威脅要將我們列為「供應鏈風險」(supply chain risk),這個標籤向來只針對美國的敵對勢力,從未套用在美國公司身上。此外,他們還威脅要動用《國防生產法》(Defense Production Act)強行移除防護機制。後兩項威脅在本質上自相矛盾:一個將我們標記為安全風險,另一個卻將 Claude 視為國家安全不可或缺的關鍵。
無論如何,這些威脅都不會改變我們的立場:基於良知,我們無法答應他們的要求。
在這一集之前,我其實沒意識到 National Security Agency 隸屬於國防部(Department of War);這確實為監控議題提供了很有參考價值的背景。而且正如我們十年前從 Snowden 揭密事件中所見,National Security Agency 在解讀監控合法性時,手段既強硬又充滿「創意」。人們或許曾寄望電信公司能像 Anthropic 這樣挺身而出,堅持立場。
但與此同時,如果不以民選國會通過的法律為準,那該用什麼標準來決定哪些行為被允許、哪些不被允許?Anthropic 的立場是,應該由 Amodei(我在此將他視為 Anthropic 管理階層與董事會的代表)來決定其模型的用途,儘管 Amodei 並非民選產生,也無需對公眾負責。
關於第二點,究竟該由誰來決定美國軍事力量的使用時機與方式?這本該是國防部的職責,而國防部最終須向同樣由民選產生的總統負責。然而,Anthropic 的立場再次顯示,無需向大眾負責的 Amodei 竟然可以單方面限制其模型的用途。
值得注意的是,有報導指出 Anthropic 的顧慮可能不只是針對全自動武器。根據 Semafor 的報導:
Anthropic 是少數可供美國政府用於機密用途的「前沿」(frontier)大型語言模型之一,因為它能透過 Amazon 的最高機密雲端服務(Top Secret Cloud)以及 Palantir 的人工智慧平台(Artificial Intelligence Platform)取得。這也正是為什麼當官員們在監控查封時任委內瑞拉總統 Nicolás Maduro 的行動時,Claude 聊天機器人會出現在他們的螢幕上。
在針對 Maduro 的突襲行動後不久,Palantir 與 Anthropic 進行例行會晤。席間一名 Anthropic 官員與 Palantir 的高階主管討論了該次行動,而該名主管從對話中察覺,這家 AI 新創公司似乎並不認同其技術被用於此類目的。一位國防部高級官員表示,該名 Palantir 主管對 Anthropic 的詢問感到憂心,認為這暗示該公司可能會抵制其技術參與美國的軍事行動,隨後便將此對話內容回報給五角大廈。
雖然 Anthropic 否認曾對 Claude 參與 Maduro 突襲行動表達異議,但考量到某些科技圈存在著抵制參與任何軍事行動的趨勢,Semafor 的報導確實引起了共鳴。就此而言,有人可能會認為這場僵局正朝著必然的結果發展:Anthropic 及其模型將從國防部的技術架構中被剔除,並由其他替代方案取而代之。
北韓與核子武器
Amodei 對於 AI 與國家安全的其他面向向來直言不諱,以下引自一月號的 Bloomberg:
Anthropic 執行長 Dario Amodei 表示,在美國正準備允許 Nvidia 將其 H200 處理器銷往北京之際,向中國出售先進 AI 晶片是一個會產生「驚人國安影響」的重大失誤。Amodei 在瑞士達沃斯舉行的世界經濟論壇上,接受 Bloomberg 總編輯 John Micklethwait 採訪時指出:「運送這些晶片將會是一個大錯。我覺得這簡直瘋了,這有點像是把核子武器賣給北韓一樣。」
這番話大幅拉高了一項混亂採購決策的利害關係:試想一下,如果我們照字面意思去理解 Amodei 的這套類比,其背後隱含的意義將非同小可。
先從 Iran 談起:除了 Iran 必須為中東乃至全球各地數千名美國人的死亡負責之外,美國介入該地區的理由之一,在於 Iran 持續追求核武開發能力。North Korea 的現狀正好說明了原因:North Korea 不需要購買核武,因為他們早就擁有了,而這無疑讓任何針對他們的潛在軍事行動變得極其複雜。核武能讓你成為一名強而有力的律師,在那個(並不存在的)(1)
)國際法法庭!
簡言之,核武確實大幅扭轉了權力平衡;而 AI 的重要性若能與之並駕齊驅,那麼美國政府感興趣的程度,將遠不只是 Anthropic 允許政府拿模型來做什麼,更在於 Anthropic 究竟被允許做什麼,這才是美國最在意的核心利益。
我認為,這為 Anthropic 被列為供應鏈風險提供了重要的背景資訊。戰爭部長 Pete Hegseth 在 X 上表示:
配合總統要求聯邦政府全面停用 Anthropic 技術的指令,我現正指示戰爭部(Department of War)將 Anthropic 列為國家安全供應鏈風險對象。即刻起,任何與美國軍方有業務往來的承包商、供應商或合作夥伴,均不得與 Anthropic 進行任何商業活動。
這項舉措將對 Anthropic 造成毀滅性打擊。該公司極度仰賴 AWS、Microsoft 與 Google 提供的雲端代管服務,而這些科技巨頭全都與戰爭部簽有合約;我推測 Nvidia 的情況應該也大同小異。對 Anthropic 來說,不幸中的大幸是 Hegseth 的聲明似乎與 法律規範 脫節,因為法律限制了 Hegseth 的職權範圍僅限於美國政府合約涵蓋的工作。換句話說,只要 AWS 不在提供給美國政府的服務中使用 Anthropic 模型,他們依然可以繼續為 Anthropic 提供模型代管服務。
無論如何,這是一項極端手段,引發了近乎全民的一致反彈,甚至連那些認同私人企業不應對美國軍方擁有否決權的人也感到震驚。美國政府究竟為什麼要自斷經脈,重創自家 AI 領域的領頭羊?
事實上,Amodei 早就給出了答案:如果核武是由私人企業研發,且該企業試圖向美國軍方頤指氣使、開條件,美國絕對有動機去摧毀那間公司。箇中原因,終究得回歸到國際法、北韓以及其他種種地緣政治問題。
- 國際法終究是權力運作的產物,實力即是正義。
- 有些層級的武力,例如核子武器,其威力強大到足以從根本上影響美國的行動自由。我們可以轟炸伊朗,但對北韓就沒辦法這麼做。
- 如果 AI 的層級等同於核武,甚至更勝一籌,那麼 Amodei 和 Anthropic 正在打造的權力基礎,潛在規模將足以與美國軍方匹敵。
Anthropic 經常大談對齊(alignment),然而這種試圖掌控美國軍方的堅持,本質上與現實完全脫節。目前的 AI 模型顯然還沒強大到能與美國軍方抗衡,但如果未來的發展軌跡確實朝那個方向前進,而且 Amodei 本人正是這種論調最激進的倡導者,那麼在我看來,美國面臨的選擇其實非常簡單,非黑即白:
- 第一種選項是 Anthropic 接受相對於美國政府的從屬地位,不再尋求保留模型用途的最終決策權,轉而將這項權力交由國會與總統發落。
- 第二種選項則是美國政府乾脆毀掉 Anthropic,或是直接拔掉 Amodei 的職位。
請注意,我這裡並非在複述 Anduril 創辦人 Palmer Luckey 針對民主監督重要性所提出的精闢論點;Luckey 在 X 上寫道 :
這觸及了問題的核心,比任何針對特定條款的辯論都更關鍵。你相信民主嗎?我們的軍隊應該受民選領袖監管,還是聽命於企業高層?
即便這場辯論的核心是 AI,也無法改變底層的邏輯推演。同樣的問題也存在於那些充滿倫理爭議卻至關重要的技術定義與應用中,例如監控系統或自動化武器。人們很容易隨口說出:「但他們會保留人工介入的機制,讓自動化系統僅限於防禦用途!」但你馬上就會陷入同樣甚至更多的泥淖:什麼才叫自動化?什麼才叫防禦?在發動攻擊時保衛資產算不算防禦?或者將航母戰鬥群停在一個視美國為侵略者的國家外海,這又該如何界定?
說到底,你必須相信美國這場民主實驗仍在進行,相信人民有權選舉或撤換做出這些決策的掌權者,相信我們這個雖不完美但仍運作中的憲政共和國,依舊足以治理國家,而不需要將真正的權力槓桿外包給億萬富豪、大企業及其影子顧問。我依然抱持這份信念。這就是為什麼那種「兄弟,你就同意 AI 不會參與自動化武器或大規模監控就好,為什麼不能同意?這很簡單,拜託了兄弟」的說法根本站不住腳,美國絕對不可能接受這種立場。
再強調一次,我認為這是一個很有力的論點;然而,我提出的觀點更為純粹且殘酷,與是否相信美國這場民主實驗無關(儘管在這一點上我與 Luckey 站在一起):美國絕不能容忍一個獨立權力結構的發展,而這正是 AI 有潛力去支撐的架構,尤其是當這個結構正明確地試圖脫離美國的掌控。
複雜系統(Complex Systems)
鄭重聲明,我並不希望 Anthropic 毀於一旦,我反而期盼他們能成為美國 AI 領域的領頭羊。但同樣要聲明的是,無論是針對國家安全還是 AI 安全,我都不信任 Amodei 的判斷力。
關於國家安全, 我先前已經在 X 上針對 Amodei 在達沃斯論壇(Davos)的言論發表過評論 :
Every time
去年我在《AI Promise and Chip Precariousness》一文中曾闡述過,若從系統性視角審視美中競爭,在涉及晶片與中國議題時,勢必得做出一些痛苦的權衡:
與本文相關的核心重點在於,無論在哪種情境下,台灣都是衝突的引爆點。轉向亞洲(Pivot to Asia)策略是為了防範中國可能的侵略或封鎖,進而武裝並捍衛台灣;而退守美洲(Retrenchment to the Americas)則可能意味著默許或承認中國作為亞洲霸權,這將不可避免地導致台灣被中國併吞。
不用說,這是一個我必須謹慎處理的話題,尤其我斷斷續續在台北住了超過二十年。當然,這其中還牽涉到道德層面:台灣是一個充滿活力的民主國家,其人民對與中國統一毫無興趣。就此而言,現狀雖然荒謬,卻出奇地維持了下來:台灣在各方面幾乎都是個獨立國家,擁有自己的國界、軍隊、貨幣、護照,以及對科技產業至關重要的經濟體系,且日益由 TSMC 主導;與此同時,台灣並未宣布獨立,而美國的官方立場則是承認中國認為台灣是其領土的一部分,但既不背書該主張,也不支持台灣獨立。
根據我的經驗,華人與台灣人處理這種模糊地帶的能力確實比美國人強得多;儘管如此,灰色地帶終究有其極限。同樣重要的還有現實主義因素,例如軍事力量(過去傾向台灣,現在則明顯倒向中國)、經濟聯繫(台灣與中國、中國與美國之間皆極其深厚),以及發動戰爭的可信度。在此,烏克蘭衝突以及隨之而來的俄中關係顯得舉足輕重,這歸功於雙方在軍事技術上的共享,以及石油與糧食陸路供應鏈的形成,即便美國在此過程中已消耗殆盡。延伸來看,這觸及了另一個正在改變的因素:在「羅馬式美利堅和平」(Pax Americana)下,美國製造業的空洞化與中國在製造業——這項最核心的戰爭能力——的霸權地位直接相關。
儘管如此,仍有一個可能讓中國猶豫不決的關鍵因素,或者該說「曾經」存在:那就是 TSMC 的重要性。晶片支撐著現代經濟的方方面面;AI 的興起以及隨之而來的巨大收益前景,只會讓這種需求變得更加迫切。只要中國還需要 TSMC 的晶片,他們就有強大的動機不去動台灣。
必須考慮的關鍵點在於相反的情況:切斷中國獲取先進晶片的管道,不僅降低了中國企業依賴美國生態系的機率,也降低了摧毀 TSMC 的代價。更甚者,如果 AI 變得像 Amodei 所說的那樣強大——相當於甚至超越核武的等級——那麼對中國來說,採取毀滅行動反而成了賽局理論下的最佳選擇:如果中國得不到 AI,那麼在目前的狀況下,確保誰也得不到 AI 其實相對容易。
正如前文引述所言,Amodei 確實意識到中國是個普遍的威脅;但令我擔憂的是,他始終不願承認,他針對晶片管制所建議的行動方案,其隱含的代價極可能是毀掉所有人的 AI 發展。
話說回來,Amodei 本來就不是「人人有 AI」的擁護者:他和 Anthropic 一直以來都大聲疾呼反對開源模型,更是推動那份我認為極其誤導的拜登 AI 行政命令的主要推手。就像處理台灣問題的態度一樣,我認為這些立場都顯示出他缺乏系統性思考的能力:
- 首先,如果世界上只剩下封閉式的 AI 系統,那麼難以想像的巨大權力將會集中在這些系統的擁有者手中;看來 Amodei 認為這股權力應該由他來掌握(至少對我來說,我寧可這股權力是由美國政府掌控)。
- 其次,那種認為 AI 安全只能靠少數「負責任的管理者」來把關的想法,完全忽視了開發其他模型的巨大誘因。這點在幾年前只有少數幾家公司在研發 AI 模型時就已經很清楚了,而至今現實世界的發展也早已證實了這一點。
- 第三,在 AI 遍地開花的時代,對抗 AI 的最佳防禦手段就是 AI 本身。這意味著 AI 越普及反而比受限的 AI 更安全,也因此開源(open source)最終會是更安全的選擇。
這些觀點當然有討論空間,但最讓我對 Amodei 和 Anthropic 感到不安的,是他們始終展現出一種執著於成為掌握所有權力的唯一贏家,卻鮮少考慮到其他人會對這種局面作何反應。或者說得更直白一點,現實世界中還有其他人存在,而他們手裡握有槍砲、飛彈,甚至核武。強權即公理,而我個人實在不願意將人類的未來,託付給一個似乎總是忘記這項事實的人或公司。
該信任誰
我認為 Ramez Naam 在 X 上的這則貼文 ,為這週末的爭論提供了一個最樂觀的思考框架:
Coming back to this. No AI company can stop DOD from misusing AI, because it's simply too easy to pick up or buy a different model. But by making the issue public, Dario has called the attention of voters, the press, and Congress to the potential misuse of AI. That's the win.
The most important thing Dario did is get this issue in the news. At the end of the day, xAI will build a good enough model. Or Palantir can build a frontier model for a few hundred million. There are no technical moats here.
The important thing is that the public and Congress are paying attention and exercising control.
我對 AI 的監控能力感到極度不安。過去我們自以為擁有的許多保障,其實大多只是因為克服這些障礙的成本太高、阻力太大。AI 比起電腦和網路,更像是一種「摩擦力溶劑」(friction solvent),能輕易化解這些阻礙。我完全能理解為什麼 Anthropic 在這一點上的堅持會引發如此廣泛的共鳴。
然而,面對這個新現實的正確做法,應該是透過制定新法律並強化負責任的監督機制。如果我們只是在一旁叫好,甚至要求那些未經民選的企業高層來決定如何以及在哪裡使用這些強大技術,那無異於通往更加專制未來的捷徑。
與此同時,我們的對手肯定會開發自主作戰能力。沒錯,我承認我對晶片政策的建議可能會加速這一天的到來,但現實中的取捨總是艱難的。如果美國想要繼續維持國際法最終仲裁者的地位,就必須朝這個方向邁進。我所說的美國,是指由民主選舉產生的總統和國會,而不是某個舊金山的企業執行長。我不希望看到那種局面,更現實地說,那些手裡握有武裝力量的人也不會容忍這種事。Anthropic 必須認清並順應這個現實。
- 沒錯,海牙國際法院確實存在,但它面臨的局限性與聯合國如出一轍 [find in text]