在這篇文章中：
- 創投家如何影響軍事人工智慧的發展？
- 矽谷在選舉幹預中扮演什麼角色？
- 為什麼「快速行動，打破常規」是一個危險的防守口號？
- 不受控制的人工智慧發展會威脅民主本身嗎？
- 戰爭技術創投存在哪些道德風險？
矽谷要快速行動並突破防禦？
作者：艾爾克‧施瓦茨
我是一名宣傳員，我會歪曲事實，如果我認為這會宣傳人們相信我需要他們相信的東西，我只會提出我的版本。
這並不是熱門電視節目《廣告狂人》中某個特別熱情洋溢的時刻的原聲片段。這些話是 發出 作者：Palmer Luckey，矽谷最熱門軍事科技新創公司的執行長。 Luckey 的公司 Anduril Industries 專注於人工智慧系統，包括自主武器系統。 Anduril 估值達 14 億美元，是其中之一 親愛的 國防新創公司及其新興的創投（VC）生態系統的概況，其中大承諾、大賭注和宣傳傾向是成功的必要條件。
將人工智慧（AI）融入國防計劃，更不用說武器系統，仍然存在爭議。英國武器系統人工智慧委員會 敦促謹慎 然而，正如矽谷產品經常出現的情況一樣，人工智慧防禦專案的開發、採購和推出近年來急劇加速。
Anduril 成立於 2017 年，已獲得多項價值數百萬美元的合同 美國國防部 （國防部），以及 英國國防部 （國防部）。在俄羅斯-烏克蘭戰爭持續不斷、加薩戰爭以及全球緊張局勢升級的背景下，這似乎並不令人意外。
In 我的最新研究 在軍事人工智慧方面，我發現，自動無人機和其他人工智慧系統等軍事新創產品加速採購的關鍵驅動因素之一是大量創投資金和影響力的湧入。這些創投公司需要國防組織採用科技業的速度和規模精神以及創投界對風險和革命的胃口。這使得這些公司不僅是金融參與者，也是政治參與者。
我的研究， 刊登於《金融與社會》表明，在創投利益的推動下，這種以矽谷形象塑造國防的趨勢可能會變得更加明顯和廣泛。考慮到這一點，當創投關註生死攸關的問題時，值得更仔細地觀察其中的動態。
新興的軍事金融化
軍事人工智慧產業和全球國防支出都在蓬勃發展。目前 估計預計到13.3年，全球軍事人工智慧市場價值將達到2024億美元，預計未來35年將成長至12億美元。這些數字根據所諮詢的市場數據服務的不同而有所不同，但在過去 24 個月中定期向上修正。在過去 XNUMX 個月持續衝突和普遍轉向軍事化的背景下，全球國防預算也激增。
全球防禦 花費 2 年將達到創紀錄的 2023 兆美元以上。 佔 到 40 年，將佔全球國防開支的近 2023%。 北約聯盟 到 1.47 年，國防支出將達到 2024 兆美元。
曼徹斯特 見解部分 致力於高品質 長篇新聞。我們的編輯與來自不同背景的學者合作，以應對廣泛的社會和科學挑戰。
同時，國防組織開始在尖端技術上投入更多資金，不可避免地包括人工智慧。 2024 年布魯金斯學會 報告 研究發現，1200 年 12 月至 2022 年 2023 月的 XNUMX 個月內，人工智慧相關技術的國防合約價值增加了近 XNUMX%。
對於大多數新的人工智慧產品，無論是民用還是其他，通常都會涉及某種形式的風險投資融資，特別是如果相關人工智慧企業可能被證明風險太大而無法透過銀行貸款或其他金融工具融資的話。創投願意押注於其他資助者不願或無法押注的創新。
在過去的二十年中，此類資金主要集中在民用市場的矽谷產品上，這些產品的動態為投資者帶來了非凡的收益。但隨著國防市場的成長，以及商業領域獲得非凡創投回報的機會的減少，那些擁有大量資本進行投資的人看到了在國防領域獲得巨大收益的新機會。
因此，在過去五年中，國防技術領域的創投投資激增也就不足為奇了。 2019年至2022年，美國對軍事科技新創企業的創投 翻倍，自2021年以來，國防技術領域出現了 注射 130 億美元的創投資金。
歐洲國防部門的創投支出也處於歷史最高水準；私人創投是 預計 達到創紀錄的 1 億美元，主要由美國創投公司推動。關於創投支持的努力的可能性以及重塑國防格局的可能性，空氣中瀰漫著明顯的嗡嗡聲。
創投-軍事-矽谷的聯繫
創投一直以某種方式與軍事部門聯繫在一起。事實上，當前創投防禦投資的繁榮可以被視為回到了早期。創投的起源是 通常可以追溯到 美國研究與發展公司 (ARDC) 成立於 1946 年，第二次世界大戰剛結束，美國在戰爭中至少部分依靠尖端技術取得了勝利。
ARDC 是首批系統性地從機構投資者籌集資金的公司之一，為具有高潛力但銀行貸款風險太大的新創公司提供資金。透過這種方法，ARDC 成為第一家創建投資組合的創投機構，這些投資組合通常依賴一兩個非凡的成功，以抵消大多數僅獲得極低迴報甚至虧損的公司。這樣，ARDC就是第一家所謂的「獨角獸」公司。
獨角獸是指估值達到 1 億美元或以上的年輕公司（直到最近，這對於新創公司來說還是極其罕見的，也是每個投資者都在其投資組合中覬覦的）。這是創投投資的核心：它是具有潛在非常高回報的創投。
尤其是在早期，即第二次世界大戰剛結束時，許多投資都用於支持那些從事以下業務的新創公司： 軍事創新和技術。這帶來了各種分析儀器、高壓發生器、輻射探測技術以及早期的小型電腦公司，如數位設備公司。
正如我們今天所知，數位景觀的根源在於軍事。通訊理論的創新旨在 1950 世紀 XNUMX 年代的軍事飛彈技術，人工智慧的鼻祖幾乎都致力於本世紀中葉的軍事項目，甚至網路本身也誕生於 XNUMX 世紀 XNUMX 年代。 一個軍事項目，然後命名為阿帕網。
幾十年來，許多矽谷公司仍然與軍事部門糾纏在一起，正如人類學家羅伯托·岡薩雷斯 (Roberto Gonzales) 所說 書面幾乎「當今所有的科技巨頭都帶有一些來自國防工業的DNA，並且與五角大廈有著悠久的合作歷史」。因此，創投的 DNA 就融入了這種關係中。
但值得強調的是，傳統上，軍事組織和政府的需求在很大程度上決定了技術創新的速度、結構和過程。
現在，軍事技術和創新的步伐和重點越來越多地由日益活躍和強大的技術初創企業及其資助者決定，他們釋放了一系列“愛國之都” 倡議，例如 美國活力;的 特別競爭性研究項目, 重啟民主軍火庫 以及 美國前沿基金。這些企業是由新國防技術領域的少數知名公司和個人構思的，旨在製定國防和軍事優先事項，並在此過程中獲得良好的回報。在大量創投的支持下，國防領域的獨角獸公司數量激增，其中包括新的軍事技術獨角獸公司，如 安杜里爾工業公司, 盾牌人工智能, 天音, 規模AI 以及 palantir （自 2020 年上市以來，Palantir 從技術上講不再是一家新創公司，但它仍然是新軍事技術群體的一部分）。
這是最近的進展。從 90 年代中期到 2014 年的二十年裡，創投產業將其精力集中在蓬勃發展的民用技術領域，Google、微軟、Facebook 和 PayPal 等科技新創公司的回報可謂無限。
相較之下，國防市場被認為是成熟和整合的，具有嚴格的收購規則和規定，獲得巨額投資回報的機會太少。政府合約往往需要很多年才能實現。國防領域也由少數主要產業參與者主導，即所謂的主要參與者，包括洛克希德·馬丁公司、RTX公司、諾斯羅普·格魯曼公司、波音公司、通用動力公司和BAE系統公司。
這些主要企業瓜分了國防市場的大部分份額，如果不付出巨大努力，科技新創公司似乎幾乎沒有機會涉足這個市場。例如，Space X 和 Palantir 等公司分別於 2014 年起訴美國空軍和美國陸軍，以獲得競標某些合約的機會。此後，利用法律打破軍事新創企業的開放式防禦已變得更加普遍。
除了國防領域創投的這些結構性障礙之外，從戰爭中牟取暴利的想法也帶來了更大的名義道德成本。由於創投通常是捐贈基金、基金會、保險公司、大學和退休基金，因此人們表面上不願意被視為投資「國防投資組合」——或者換句話說，投資死亡工具。 歐洲創投投資者 都特別謹慎。
然而，這些擔憂似乎在不到十年的時間內消退的速度是驚人的，這表明支持創投公司的投資者要么 來自不同的背景 當談到從戰爭中獲益時，他們可能會更少猶豫，或者說，這始終主要只是一個數學問題，而不是道德問題。
獨角獸和高速增長
如今，每個人都想投資獨角獸，因為它有估值飆升的潛力。
但為了推出未經證實的產品或概念，一些新創公司可能會被激勵對其產品的革命性、變革性做出重大、大膽的宣稱。即使公司獲得了資金，為了保持高速成長的成功，過度承諾的風氣往往仍然存在。
在最壞的情況下，過度承諾的規模足以構成刑事欺詐，就像臭名昭著的血液檢測新創公司Theranos 的情況一樣，該公司從最令人興奮的醫療保健新創公司之一變成了價值10 億美元的醫療保健新創公司2015年達到頂峰，短短四年內就徹底崩潰。
在 Theranos 案例中，該公司富有魅力的創始人過度誇大了該技術的功能，聲稱該技術可以透過一小滴血來完成一系列測試。這項突破性技術“可以徹底改變醫學並拯救全世界的生命“。
這是一個面向未來的承諾——該技術還無法實現承諾的目標——儘管如此，該公司聲稱已經擁有一個正常運作的測試設備，但事實證明這是一個謊言。 Theranos 於 2018 年倒閉，富有魅力的創始人伊麗莎白·霍姆斯 (Elizabeth Holmes) 入獄。
販賣幻想
還有許多其他不那麼戲劇性的故事，也以類似的方式上演，儘管不是欺詐性的： 承諾的公司 用突破性的技術徹底改變我們做平凡事情的方式，這些技術最終被證明是不可持續的、不可行的，或者只是失敗。
但結果是投資者蒙受損失，更重要的是，那些依賴該技術承諾的人也受到了傷害。
在國防領域，新軍事技術的承諾圍繞著銷售 強大的威懾力，， 保護民主，能夠全面、準確、 即時知識，一個 完全透明的地球儀，並且，首先也是最重要的是乾淨， 迅速而決定性的勝利 具有流暢、輕鬆的連接性。
在最壞的情況下，這可能會助長一種無所不知、無所不在的幻想，而在最好的情況下，它會激起人們對戰爭中一場不可能的革命的渴望，這種革命太有吸引力，無法抗拒，並最終吸引越來越多的觀眾加入其中。這些敘述常常被一種普遍的炒作所支撐，即人工智慧的未來是不可避免的。這構成了一個強大的故事情節，神話化並評價了一項可能永遠無法實現承諾的技術。這是一種強而有力的組合，往往會抗拒更清醒的聲音 敦促謹慎.
國防獨角獸提出的主張通常看起來似乎有道理，但它們通常是無法驗證的，因為它們面向的是未來。通常，這個未來反映了由以下因素塑造的願景： 小說 以及 科幻小說，這總是在某種程度上遠離現實的社會和政治挑戰。
這種過度承諾的誘惑和對可能技術的神話化正在塑造致力於快速實現全球透明度和全球影響力的計劃。聯合全域指揮與控制（JADC2）計畫就是五角大廈發起的此類努力之一。它的目標是將所有領域——陸地、空中、海洋、太空和網絡——連接成一個單一的網絡，以實現“預測分析」和「高速戰鬥“。
為了使該計劃能夠被國會接受，JADC2 通常被比作 拼車 Uber 平台，承諾系統和平台之間的無縫交互，以實現快速介入。這重新將注意力集中在人工智慧作為所有軍事資產和平台的基礎設施必需品上。如果不擴大軍事人工智慧，這個願景將是不可能實現的。這正是軍事新創企業的機會所在。
兩家著名的軍事科技公司是 JADC2 的承包商 – 安杜里爾 以及 palantir。兩家公司都毫不掩飾自己的野心，即擾亂國防部門、取代當前的領導者並在市場上佔據壟斷地位，以確保不斷增加的收益。
帕蘭提爾有 定睛 關於「成為美國所有國防項目的中央操作系統」；安杜里爾（Anduril）宣布，它將繼續“在[國防部]清單上的所有內容之後”，從而在該領域佔據主導地位。對兩家公司來說，這就是一場戰鬥——成長之戰。
正如 Anduril 的 Luckey 所說：“你必須在多個領域中戰鬥並取得勝利」。 （他指的是企業戰略，而不是實際戰場）。同樣，Palantir 執行長兼聯合創始人 Alex Karp 承認，為了突破開放市場的防禦，他很自豪“又拖又踢又哄又羞辱」 各立法者、政策制定者和政府幫助進一步實現這一目標。快速行動並打破常規。
打造獨角獸需要那些在這個領域獲得最大經濟利益的人的共同努力和積極進取的姿態。這最好是與志同道合的其他人結盟來完成。在當前的國防創投領域，創辦人和資助者關係密切。
例如，Peter Thiel 是 Palantir 的共同創辦人，他還經營 Founders Fund VC 機構，該機構投資了 Space X、Anduril 和 Scale AI 等公司。創投公司 Andreessen Horowitz 也投資了 SpaceX、Anduril、Shield AI 和 Skydio。這些創投公司的管理者彼此之間有著長期的連結。同樣，公司之間也存在交錯。例如，Anduril 是由前 Palantir 員工創立的，他們從 Palentir 汲取經驗並將其應用到 Anduril。前 Oculus Rift 員工 Palmer Luckey 被任命為魅力十足且直言不諱的執行長。
Peter Thiel 和 Eric Schmidt（Google前執行長、美國國家人工智慧安全委員會主席） 投資 美國前沿基金等等。有一個由金融家和新創公司組成的緊密且聯繫緊密的網絡，他們都在努力傳達關鍵的驅動訊息：國防部門需要顛覆，而我們是改變現狀的人。
在最近的小組討論中 提供證據 出席美國軍事委員會的有五家軍事新創公司的代表。這五家公司要么是由風險投資公司 Andreessen Horowitz 資助的，要么是與該公司有關的。
在美國軍事委員會聽證會上，Palantir 首席技術長 Shyam Sankar 表示 提供證據 主張在軍事採購過程中“更瘋狂”、“放亂”，透過部門間的競爭，激發創新的必要動力。
他認為，監管限制“限制了你的監督”，他“如果這意味著我們取得了更多災難性的成功，他會很樂意接受更多的失敗”。這可能會取得什麼樣的成功，或者失敗會產生什麼影響，仍然沒有得到解決，但很明顯，Palantir 的首席技術官在講話時考慮了風險投資邏輯。而且，根據美國最近的一份報告 國防創新委員會報告看來，政府已經準備好承擔更多風險，並為這些「特立獨行者」提供頂層掩護。
「危機」敘事
除了培育具有高潛力的新創企業外，還有多種方法可以使國防部門滿足矽谷承包商及其創投支持者的需求。敘事的力量在這裡也大有幫助。創投經理及其新創公司經常撰寫備受矚目的專欄文章，其中 （美國）國防狀況不佳令人遺憾，其中需要 加速創新 強調美國「很可能」捲入「中俄伊三線戰爭」的可能性 召喚出來的。 簡而言之，編造了一個緊迫的故事，這有助於增強那些被視為能夠解決迫在眉睫的危機的公司的價值。
國防結構改革的第二個支柱是僱用一個由前政府員工組成的複雜網絡，他們要麼擔任遊說者，要麼擔任與政府關係密切的顧問。
前共和黨國會議員 麥克·加拉格爾例如，於 2024 年 XNUMX 月成為 Palantir 的國防營運主管，並擔任前國家安全顧問 HR麥克馬斯特 現任神盾資本資深顧問。這樣的「旋轉門」 可信的專家向新創公司提供權威的時刻。軍事科技新創公司與大多數矽谷創意一樣，擁有一定的聲譽，而且資金也很有吸引力。
安杜里爾 (Anduril) 向帕蘭提爾 (Palantir) 學習後，在該領域聘請了大量遊說者。 第一周，花更多的錢在“律師和遊說者多於工程師正如拉基在最近接受《經濟學人》採訪時所指出的。
為此，安杜里爾採用了一種相對傳統的方式來塑造國防格局，主要國防承包商也採用了這種方式，正如安杜里爾在一份報告中所承認的那樣 2022博客文章，這是一種「在律師和遊說團隊上投入巨資，以根據公司現有技術制定計劃要求」的激勵措施。
Anduril 及其支持者現在也在做同樣的事情，根據自己的技術套件量身定制。律師通常不僅受聘監督合併、收購和合夥企業，還利用法律作為強制改革的工具。
我之前提到的SpaceX 和Palantir 針對美國陸軍和空軍的訴訟的主要目標不一定是贏得勝利（Space X 的訴訟沒有成功，Palantir 的訴訟成功），而是為收購改革打開空間，這兩起訴訟都達到了這一目的。
營造緊迫感、加倍與遊說者合作並為國防改革創造結構性可能性的策略目前正在順利進行中。需要明確的是，我並不是說國防部門不會從現代化或重組中受益。我也不認為所有軍事新創產品都是無關緊要或不可持續的。我也不想讓優質股與新的創投動態及其對成長的關注相抗衡。
但我認為值得研究的是這些新公司的動態及其隱含的優先事項和利益，因為它們將塑造實踐和優先事項。當顛覆發生時，一定程度的破壞是可以預料的。在生與死的問題上，這呈現出不同的調性。
幹擾碎片
國防部門的顛覆正在順利進行，近年來，以矽谷形象塑造國防部門的努力已取得成果，並取得了一些具體成果。前面提到的 JADC2 程式就是其中之一。其他的在美國國防部等項目也都很明顯 複製計劃，其中包含了矽谷軍事新創公司所能提供的目標、時間表和產品。
高水平 國防官員 正在重複創投產業和各種收購計畫的話題 已調整以適應 所需的速度和規模。這些公司擁有 政策制定者的耳朵 以及對準精神“國防改革」正在尋找越來越多的觀眾。
那麼可能的後果是什麼呢？
當 Uber 顛覆私人交通產業時，它留下了大量的 侵蝕勞動法、工人權利和駕駛員醫療保健規定。當 AirBnB 震撼了住宿行業時，它導致了 租金價格上漲 在熱門的旅遊目的地。當你試圖創造壟斷時，總是會產生社會和政治後果。這些後果通常是可以預見的，有時則不然。
擾亂國防採購流程至少會以加強對採購流程的監督為代價。科技業並不以重視監管邊界而聞名。恰恰相反。新軍事初創領域的一些最著名的資助者是 最強烈反對的 對任何 監管類型.
例如，創投重量級人物馬克安德森 (Marc Andreessen) 就曾寫過著名的文章 技術樂觀主義宣言 他在其中將風險管理、信任和安全措施以及預防原則稱為「敵人」。
更少的監管意味著更少的監督和問責，不僅在支出方面，而且在某些技術的使用方式、地點以及效果方面。這一點是顯而易見的。
但隨著戰爭軍事技術的加速取得和推廣，我們可能會預見許多其他非常合理的後果。一是重新關注風險和實驗。
目前的軍事新創技術，如人工智慧無人機和人工智慧決策支援系統，正在現場和持續的衝突中進行測試和改進，例如在俄羅斯烏克蘭戰爭中，而且在加薩。這是一種形式 原型 這個問題日益突出，需要一個活躍的戰場來對技術進行有效的測試、迭代和最佳化。
這也意味著可能會部署不適合用途的技術，只是為了測試它們並在不斷改進的過程中進行改進。它使有缺陷且可能不充分的人工智慧產品的推出和銷售正常化（如果不是促進的話），這將不可避免地對陷入衝突十字準線的無辜平民造成傷害。
我們現在可以透過科技公司推動向軍事組織出售其大型語言模型來觀察到這一點。例如，Scale AI 與 Meta 合作銷售 LLM 產品， 防禦駱駝，用於防禦目的。該公司表示，人類的參與對於該系統「絕對必要」。
但鑑於 眾所周知的事實 由於法學碩士很容易出現所謂的幻覺，因此對於戰爭這樣複雜和動態的環境來說，此類技術完全按照宣傳的方式發揮作用的機會很小。這可能會對那些正在進行實驗、微調和即時測試的人造成傷害。一個關鍵問題是，該技術可能不適合應對戰爭中不可預測或不可預見的意外情況。這包括潛在的新出現的恐怖威脅或那些通常被認為是非理性的國家的舉動；例如朝鮮。
Anduril 執行長 Luckey 在我開始接受的訪談中也承認了這一點。他承認，他的武器的製造邏輯與潛在的敵人分崩離析，這些敵人避開了遊戲的理論方法，而防禦的人工智慧邏輯大部分都依賴於遊戲的理論方法：「與追求非遊戲性的人進行博弈論是非常困難的”理論上的最優策略……這就像與一個打算退出並將所有錢都給別人的人玩壟斷遊戲。”對於像戰爭這樣充滿機會的事物來說，這是一個嚴重的限制。
這種向創投邏輯的轉變也產生了二階和三階效應。透過想像迫在眉睫的威脅，更廣泛的全球風險和安全格局可能會改變；如果優先考慮武器技術，則可能會減少對其他解決衝突方式的資金投入；如果將越來越多的資金投入到未經檢驗且可能無法持久的技術上，則可能會浪費大量本來可以更好地分配到其他地方的資金。
但這是一片充滿幻想和獨角獸的土地，在這裡，這些考慮就像大肆宣傳的人工智慧武器作為民主捍衛者的承諾一樣具有投機性。
在矽谷，「快速行動，打破常規」的座右銘意味著，在技術推出過程中出現的問題總是可以在以後解決。在國防和戰爭的世界裡，這種冒險行為所造成的傷害並不是那麼容易就消除的。
對話將本文中提出的觀點提到了科技和創投公司。他們沒有回應我們的置評請求。
埃爾克·施瓦茨，政治理論讀者， 倫敦大學瑪麗皇后學院
相關書籍：
論暴政：二十世紀的二十個教訓
通過蒂莫西·斯奈德
這本書提供了維護和捍衛民主的歷史教訓，包括制度的重要性、公民個人的作用以及威權主義的危險。
我們的時代就是現在：力量、目標和為公平美國而戰
通過斯泰西艾布拉姆斯
作者是一名政治家和活動家，分享了她對更具包容性和公正的民主的願景，並提供了政治參與和選民動員的實用策略。
民主如何消亡
史蒂文·萊維茨基和丹尼爾·齊布拉特
這本書研究了民主崩潰的警告信號和原因，借鑒了來自世界各地的案例研究，以提供有關如何維護民主的見解。
人民，不：反民粹主義簡史
托馬斯·弗蘭克
作者提供了美國民粹主義運動的歷史，並批評了他認為扼殺了民主改革和進步的“反民粹主義”意識形態。
一本書或更少的民主：它是如何運作的，為什麼它不起作用，以及為什麼修復它比你想像的要容易
通過大衛利特
這本書概述了民主，包括它的長處和短處，並提出了改革建議，使該制度更具響應性和問責制。
文章回顧：
矽谷的創投家正在推動軍事人工智慧創新，同時將其顛覆性精神擴展到民主進程。長期以來拒絕變革的國防工業現在受到創投支持的新創公司的擺佈，這些新創公司承諾提高效率，但冒著混亂的風險。同樣的破壞動力加劇了選舉幹預，利用薄弱的監管監督並將利潤置於公共利益之上。隨著軍事系統越來越受到未經考驗的人工智慧的影響，民主也受到企業野心的破壞，風險從未如此之高。
主題標籤：
#SiliconValley #ElectionInterference #MilitaryAI #TechRisks #DemocracyUnderThreat
