原文標題：《My techno-optimism》
原文作者：vitalik
原文編譯：Luccy，BlockBeats
編按：科技進步對未來會產生什麼樣的影響已是老生常談。上個月，Marc Andreessen 發表的「技術樂觀主義宣言」明確反對害怕技術進步的狀態，加上本月OpenAI 引發爭端，該話題又再次引發熱議。
Vitalik Buterin 反對「優先考慮保持世界現如今狀態」的心態，同時指出，科技發展不僅需要注重力度，也要注重方向。他在最新的文章中深刻探討了人工智慧和區塊鏈的交會點，並提出了「d/acc」（decentralized acceleration）的概念。他認為，隨著科技的加速發展，人工智慧的出現可能成為人類面臨的最大挑戰之一，但也提出了更人性化、更去中心化的發展道路。
文章涉及的主題涵蓋了資訊防禦、社會技術、人機合作等多個層面，突顯了對技術發展方向進行積極引導的重要性。在不同的哲學背景下，Vitalik 推崇一種既積極又慎重的態度，呼籲開發者在建構科技的同時更注重選擇和意圖，以確保科技的發展符合人類的價值觀和長遠利益。
特別感謝Morgan Beller、Juan Benet、Eli Dourado、Sriram Krishnan、Nate Soares、Jaan Tallinn、Vincent Weisser、Balvi 志工等人提供的回饋和審查。
上個月，Marc Andreessen 發表了他的「技術樂觀主義(techno-optimist) 宣言」，呼籲重新對技術保持熱情，同時主張透過市場和資本主義的手段來建構技術，推動人類走向更光明的未來。該宣言明確反對所謂的停滯思想，即害怕技術進步，並優先考慮保持今天世界的狀態。這份宣言受到了廣泛關注，包括Noah Smith、Robin Hanson、Joshua Gans（持正面態度）、Dave Karpf、Luca Ropek、Ezra Klein（更消極態度）等人發文回應。雖然與該宣言無直接關係，但類似的話題還有James Pethokoukis 的“保守主義未來派”和Palladium 的“是時候為善建設了”。本月，透過OpenAI 爭端，我們也看到了類似的辯論，許多討論集中在超級人工智慧的危險和OpenAI 也許進展過快的可能性上。
我對技術樂觀主義的感覺是溫暖而充滿細膩的差異。我相信未來會因為徹底改變的技術而變得比現在更光明，我同時也相信人類和人性。我反對那種認為我們應該努力保持世界基本上與今天相同，只需要減少貪婪，增加公共醫療的心態。但在此基礎上，我認為不僅程度重要，方向也至關重要。某些類型的技術能直接使世界變得更好，而有些技術類型如果發展，可能會減輕其他技術類型的負面影響。目前，世界在某些技術發展方向上過度投入，在其他方向上則不足。我們需要有意識地選擇我們想要的方向，因為「最大化利潤」的公式不會自動導向這些方向。
在這篇文章中，我將探討技術樂觀主義對我的意義。這包括激發我在某些類型的區塊鏈和密碼學應用、社會技術以及我有興趣的其他科學領域上的工作的更廣泛的世界觀。但對於這個問題的不同看法也對人工智慧以及許多其他領域有著重要的影響。我們在技術上的快速進步很可能會成為21 世紀最重要的社會議題，因此認真思考這個議題有重要意義。
科技令人驚嘆，而延後其發展可能會付出極高的代價。
在某些領域，人們普遍低估科技的益處，將其主要視為烏托邦和潛在風險的來源。過去半個世紀，這種看法往往源自於環境問題，或擔心科技的好處只會流向富人，進而鞏固他們對窮人的權力。最近，我還注意到一些自由主義者對某些技術感到擔憂，擔心這些技術會導致權力的集中。本月，我進行了一些調查，問了以下問題：如果某項技術因為太危險而需要受到限制，他們會更希望它被壟斷還是推遲十年？令我驚訝的是，在三個平台和三個關於壟斷者身分的選項中，人們一致而強烈地選擇了延遲。
因此，我有時擔心我們可能已經過度糾正，很多人忽略了辯論的另一方面：科技的好處確實巨大，在我們能夠衡量的領域中，正面效應遠遠超過負面效應，而即使是推遲十年的成本也是難以估量的。
舉一個具體的例子，讓我們來看一張壽命預期圖：
我們看到了什麼？在過去的一個世紀裡，取得了真正巨大的進步。這一點適用於整個世界，無論是歷史上富有和主導的地區，還是貧窮和被剝削的地區。
有些人將科技歸咎於創造或加劇災難，例如極權主義和戰爭。實際上，我們可以從圖表上看到戰爭造成的死亡：一戰時期（1910 年代）和二戰時期（1940 年代）。仔細觀察，還可以看到西班牙流感、大躍進等非軍事災難。但圖表清楚地表明了一件事：即使像那些令人恐懼的災難一樣，它們都被那個世紀裡在食物、衛生、醫學和基礎設施方面取得的不斷改進的巨大規模所淹沒。
這與我們日常生活的顯著改善一致。多虧了互聯網，全球大多數人現在能夠輕鬆獲得二十年前難以獲得的資訊。由於國際支付和金融的改進，全球經濟變得更加可訪問。全球貧窮正在迅速減少。借助線上地圖，我們再也不必擔心在城市中迷路，而且如果需要迅速回家，我們現在有更簡單的方式叫車。我們的財產變得數位化，實體變得更加廉價，這意味著我們不再過於擔憂實體盜竊。線上購物已經減少了全球大城市與世界其他地區之間對商品取得的不平等。在各個方面，自動化為我們帶來了那種被永遠低估的好處，即簡單地讓我們的生活更加便利。
這些改進，無論是可以量化的還是不可量化的，都是巨大的。而在21 世紀，更大的改進有很大的可能很快就會到來。今天，終結老化和疾病似乎還是烏托邦的概念。但從1945 年電腦的角度來看，將晶片幾乎嵌入一切的現代時代也曾經是烏托邦的：即便是科幻電影中的電腦通常也是房間大小的。如果生物技術在未來75 年內的進展如同電腦在過去75 年內的進展一樣巨大，那麼未來可能會比幾乎任何人的期望都更令人印象深刻。
同時，一些對進步表示懷疑的論調往往走向了黑暗的方向。甚至連醫學教科書，例如這本在上世紀90 年代的書（感謝Emma Szewczak 找到），有時也提出一些極端的主張，否認了兩個世紀醫學科學的價值，甚至辯稱挽救人類生命並不是一件好事：
「成長的極限」論是在1970 年代提出的一個觀點，認為不斷增長的人口和工業最終會耗盡地球有限的資源，結果導致了中國的獨生子女政策和印度大規模的強制絕育。在早期，對人口過剩的擔憂曾被用來為大規模屠殺辯護。而這些自1798 年以來一直被提出的觀點在很長一段時間裡都被證明是錯誤的。
正是因為這些原因，作為一個起點，我對減緩技術或人類進步的論點感到非常不安。考慮到各個領域之間的緊密聯繫，即使是領域性的減速也是危險的。因此，當我寫下像我將在這篇文章後面說的那些東西時，遠離了對進步無論形式如何都持開放態度的立場，這是我懷著沉重的心情發表的言論- 然而，21 世紀是如此不同和獨特，以至於這些細微之處是值得考慮的。
話雖如此，就更廣泛的問題而言，特別是當我們超越“技術整體上是好的”並轉向“哪些具體技術是好的？”這個主題時，有一個重要的細微差別需要指出：環境。
環境和協調意願的重要性
過去一百年裡，幾乎所有方面都在取得進步，唯一的例外是氣候變遷：
即使對於正在上升的溫度的悲觀情景，也遠遠不會導致人類的實際滅絕。但這樣的情景可能導致的死亡人數可能比重大戰爭更多，並可能嚴重損害那些已經最困擾的地區的人們的健康和生計。瑞士再保險研究所的一項研究表明，最糟糕的氣候變遷情境可能會使世界上最貧窮國家的國內生產毛額下降高達25%。這項研究還指出，印度農村的預期壽命可能會比原本的預期低十年，而類似這項研究和這項研究表明，氣候變遷可能導致本世紀末多出一億的死亡人數。
這些問題是非常嚴重的。我為什麼對我們克服這些挑戰的能力感到樂觀的答案有兩面。首先，在經過幾十年的誇大和一廂情願的思考之後，太陽能終於迎來了轉機，而像電池這樣的支持技術也在取得類似的進展。其次，我們可以看一下人類在解決先前的環境問題方面的記錄。以空氣污染為例。見過去的反烏托邦：1952 年倫敦的倫敦大霧。
自那時以來發生了什麼事？我們再次向Our World In Data 詢問：
事實證明，1952 年甚至不是空氣污染的高峰：在19 世紀晚期，甚至存在更高濃度的空氣污染物，被認為是正常且可接受的。從那時以來，我們見證了一個世紀的持續而迅速的下降。我親身經歷了這個過程，2014 年訪問中國時，空氣中高濃度的煙霧，估計將壽命縮短五年以上，是正常的，但到了2020 年，空氣往往看起來和許多西方城市一樣清潔。這並不是我們唯一的成功故事。在世界許多地方，森林面積正在增加。酸雨危機正在改善。臭氧層幾十年來一直在恢復。
對我來說，這個故事告訴我們的是，通常情況下，我們文明技術的第N 版確實會造成問題，而第N+1 版會解決它。然而，這並不是自動發生的，需要有意識的人類努力。臭氧層正在恢復，是因為透過國際協議如蒙特婁議定書，我們使其恢復。空氣污染正在改善，是因為我們使其改善。同樣，太陽能電池板之所以取得了巨大的進步，並不是因為這是能源技術樹上註定的一部分；太陽能電池板之所以取得了巨大的進步，是因為幾十年來對解決氣候變遷的重要性的認識激發了工程師致力於解決這個問題，並且公司和政府資助了他們的研究。解決這些問題是有意識的行動，透過公共討論和文化塑造政府、科學家、慈善家和企業的觀點，而不是不可阻擋的「技術資本機器」所取得的。
人工智慧與其他技術有根本的不同，需要特別小心
我看到的許多對人工智慧的不屑一顧觀點來自這樣的角度，即它只是「另一種技術」：與社交媒體、加密、避孕、電話、飛機、槍支、印刷術和輪子等相同類型的事物。這些事物顯然在社會上有重大影響。它們不僅僅是對個體幸福的孤立改善：它們從根本上改變了文化，改變了權力平衡，並傷害了那些嚴重依賴先前秩序的人。許多人反對它們。總的來說，悲觀主義者無一例外地被證明是錯誤的。
但有一種不同的看待人工智慧的方式：它是一種正在迅速提高智力水平的新型思維，它有嚴重的機會超越人類的智力能力，並成為地球上的新型頂級物種。在那個類別中的事物要少得多：我們可能合理地包括人類超越猴子、多細胞生物超越單細胞生物、生命本身的起源，也許還有工業革命，在這個過程中機械設備在體力上超過了人類。突然之間，感覺就像我們正走在一個遠不那麼熟悉的領域。
重要的是存在風險
AI 出現問題可能使世界變得更糟的一種方式是（幾乎是）最糟糕的方式：它可能真的導致人類滅絕。這是一個極端的說法：儘管氣候變遷、人工大流行或核戰的最壞情況可能會造成很大的傷害，但仍有許多文明的「島嶼」將保持完好，以拾起殘骸。但是，如果一個超級智慧的AI 決定反對我們，很可能不會留下任何倖存者，從而永久終結人類。甚至連火星都可能不安全。
一個令人擔憂的原因集中在工具收斂性：對於一個超級智慧實體可能擁有的非常廣泛的目標類別，AI 為更好地實現這些目標可能採取的兩個非常自然的中間步驟是（i）消耗資源和（ii）確保自身的安全。地球包含大量資源，而人類對這樣一個實體的安全構成可預測的威脅。我們可以嘗試給AI 一個明確的目標，即熱愛和保護人類，但我們不知道如何以一種方式實現這一目標，即在AI 遇到意外情況時不會完全崩潰。因此，我們面臨一個問題。
FVcWHxjVIAA2Pyl
MIRI 研究員Rob Bensinger 試圖透過圖示來說明不同人對人工智慧要么殺死所有人要么做一些幾乎同樣糟糕的事情的機率估計。許多立場是基於人們的公開聲明的粗略近似，但還有許多其他人已經公開給出了他們的精確估計；相當多的人對「毀滅的機率」超過25%。
2022 年對機器學習研究人員的調查顯示，研究人員平均認為人工智慧會真的殺死我們所有人的機率在5-10% 之間，大致與你死於非生物原因（如受傷）的統計預期機會相當。
這只是一個推測性的假設，我們都應該對牽涉到複雜多步驟故事的推測性假設保持警惕。然而，這些論點已經經歷了十多年的審查，因此，似乎值得至少略微擔憂。但即使你不擔心真正的滅絕，還有其他一些令人害怕的原因。
即使我們倖存下來，超級智慧人工智慧的未來是否是我們想要生活的世界？
許多現代科幻小說都描繪了反烏托邦的場景，並將人工智慧描繪得很糟糕。即使是非科幻作品試圖探討可能的人工智慧未來，答案通常也相當令人不滿。因此，我四處打聽了一個問題：有關包含超級智慧人工智慧的未來的描繪，無論是科幻小說還是其他形式，我們是否願意生活在其中。遠遠最常見的答案是伊恩·班克斯的《文明系列》。
《文明系列》描繪了一個遙遠的星際文明，主要由兩個角色組成：普通人類和被稱為「心靈」的超級智慧人工智慧。人類經過輕微改良：儘管醫學技術理論上允許人類無限壽命，但大多數選擇只活約400 年，似乎是因為在那時他們對生活感到無聊。
從表面上看，作為人類的生活似乎不錯：舒適，健康問題得到解決，有豐富的娛樂選擇，並且人類與“心靈”之間存在積極且協同的關係。然而，深入觀察發現一個問題：似乎「心靈」完全掌控，而人類在故事中的唯一角色就是充當「心靈」的棋子，代表它們執行任務。
引用加文·利奇的《反對文明》中的內容：
即使書中似乎有人類主人公，他們做著重大而嚴肅的事情，但人類並不是故事的主角，實際上他們是人工智慧的代理人。 （Zakalwe 是僅有的例外之一，因為他能做那些Minds 不願意做的不道德之事。）「文明系列中的Minds 並不需要人類，但人類卻需要被需要。」（我認為只有少數人類需要被需要，或者說只有其中少數人足夠需要，以放棄許多舒適。大多數人類生活不在這個層次上。這仍然是一個很好的批評。）
人類承擔的專案存在不真實的風險。幾乎任何事情，機器都能做得更好。你能做什麼呢？你可以命令Mind 在你從攀爬懸崖時不要抓住你；你可以刪除大腦備份，使自己真正面臨風險。你也可以離開文明並加入一些老式、不自由的「強烈評價」的文明。另一個選擇是透過加入Contact 來宣揚自由。
我認為即使在文明系列中賦予人類的「有意義」角色也是一種牽強附會；我問過ChatGPT（還能問誰？）為什麼人類被賦予他們所扮演的角色，而不是Minds 完全自己做所有事情，我個人覺得它的回答相當令人失望。在一個由「友善」的超級智慧人工智慧主導的世界中，似乎很難讓人類成為除了寵物以外的任何角色。
我不想看到的世界。
許多其他科幻系列描繪了一個存在超級智慧人工智慧的世界，但這些人工智慧卻聽從（未經強化的）生物人類主人的命令。 《星際爭霸戰》就是一個很好的例子，展示了星艦與其AI“電腦”（以及Data）與人類操作員機組成員之間的和諧願景。然而，這種平衡似乎是非常不穩定的。 《星際爭霸戰》中的世界在當下看起來是宜人的，但很難想像其對人工智慧與人類關係的願景只不過是在星艦完全由電腦控制、不再費心設計大廳、人工重力和氣候控制的十年過渡階段。
在這樣的情境下，一個人類向超級智慧機器下達命令，將使這個人類遠不及機器聰明，並且擁有更少的資訊。在任何程度上存在競爭的宇宙中，那些人類居於次要地位的文明將優於那些人類固執地堅持控制的文明。此外，電腦本身可能奪取控制權。為了理解其中的原因，想像你在法律上是個八歲兒童的文字奴隸。如果你能與孩子長時間交談，你認為你能說服孩子簽一張紙讓你獲得自由嗎？我雖然沒有進行過這個實驗，但我的直覺答案是肯定的。因此整體而言，人類成為寵物似乎是一個非常難以逃脫的吸引子，不用再費心設計大廳、人工重力和氣候控制。
天近皇帝遠
中國諺語“天高皇帝遠”表達了政治集中化的局限性的基本事實。即使在名義上龐大而專制的帝國中——實際上，尤其是專制的帝國越大，領導層的影響力和關注都有實際的極限，領導層需要委託地方代理人來執行其意願，這削弱了其執行意圖的能力，因此總是會存在一定程度的實際自由。有時，這可能帶來不利的影響：遠離權力的缺席可能會為地方霸主竊取和壓迫創造空間。但如果中央權力走向不好，注意力和距離的實際限制可能會對其走向的惡化程度產生實際限制。
在人工智慧時代，不再如此。在20 世紀，現代交通技術使得距離的限制對中央權力的影響變得比以前更弱；1940 年代的大規模極權帝國在某種程度上就是這種情況的結果。在21 世紀，可擴展的資訊收集和自動化可能意味著注意力也將不再是一個約束。政府存在的自然限製完全消失可能會帶來可怕的後果。 1940 年代的大規模極權帝國在某種程度上就是這種情況的結果。
數位專制主義已經崛起了十年，監控技術已經為威權政府提供了強大的新策略，以打壓反對派：允許抗議活動發生，然後在事後檢測並悄悄對參與者採取行動。更一般地說，我基本上擔心與OpenAI 相同類型的管理技術，使其能夠以500 名員工為超過一億客戶提供服務，也將使一個由500 人的政治精英，甚至是一個5 人的董事會，對整個國家保持鐵腕統治。有了現代監視技術來收集訊息，再加上現代人工智慧來解釋它，也許再也沒有藏身之處了。
當我們考慮人工智慧在戰爭中的後果時，情況變得更糟。翻譯了一篇2019 年搜狐半著名文章的內容。有了現代監視技術來收集訊息，再加上現代人工智慧來解釋它，也許再也沒有藏身之處了。
「不需要政治和意識形態工作以及戰時動員"主要意味著戰爭的最高指揮官只需要考慮戰爭本身的情況，就像下棋一樣，而不需要擔心棋盤上的『騎士』和『戰車』目前在想什麼。戰爭變成了純粹的技術競賽。
在更深層次上，"政治和意識形態工作以及戰時動員"要求任何發動戰爭的人都必須有一個正當的理由。擁有正當理由的重要性，這個概念已經幾千年來制約人類社會中戰爭的合法性，不應被低估。任何想要發動戰爭的人都必須找到至少一個看似合理的理由或藉口。你可能會說這種約束是薄弱的，因為在歷史上，它經常只是一種藉口。例如，十字軍東徵背後的真正動機是搶劫和領土擴張，然而，它們是以上帝的名義進行的，即使目標是君士坦丁堡的虔誠者。然而，即使是最薄弱的約束仍然是一種約束！這個純粹的藉口實際上阻止了好戰者完全放開他們的目標而不受約束。即使是像希特勒這樣邪惡的人也不能毫不保留地發動戰爭；他不得不花費多年的時間說服德國人民，認為貴族雅利安種族有必要為他們的生存空間而戰。
今天，「人在循環」作為對獨裁者發動戰爭或在國內壓迫公民權力的重要限制。在循環中的人們阻止了核戰爭，使柏林圍牆開放，並在大屠殺等暴行期間拯救了生命。如果軍隊由機器人組成，這個限制將完全消失。一個獨裁者可能在晚上10 點喝醉，11 點因為有人在Twitter 上對他們不友好而發火，然後在午夜前，機器人入侵艦隊可能越過邊境對鄰國的平民和基礎設施進行毀滅性打擊。
與以前的時代不同，以前總有一些遙遠的角落，天高皇帝遠，在那裡，一個政權的反對者可以重新組織、隱藏，並最終找到改善事物的方法。但是，隨著21 世紀人工智慧的發展，一個極權主義政權可能透過對世界的足夠監控和控製而保持足夠的「封鎖」，永遠不會改變。
d/acc：防禦（或分散，或差異）加速主義
在過去的幾個月裡，「e/acc」（“effective accelerationist”，有效加速主義者）運動取得了巨大的進展。由“Beff Jezos”在這裡總結，e/acc 基本上是對技術進步帶來的真正巨大好處的認可，以及加速這一趨勢以更早獲得這些好處的願望。
在許多情境中，我發現自己對e/acc 的觀點表示同情。有許多證據表明FDA 在延遲或阻止藥物批准方面過於保守，而生物倫理學總體上似乎經常遵循這樣一個原則：「實驗中20 人死於錯誤，是一場悲劇，但因延遲導致20 萬人死於拯救生命的治療措施，那隻是一則統計數據。」批准COVID 測試和疫苗，以及瘧疾疫苗的延誤似乎進一步證實了這一點。然而，可能過於推崇這一觀點。
除了我對AI 相關的擔憂外，我對e/acc 對軍事技術的熱情感到特別矛盾。在當前2023 年的情境中，這項技術是由美國製造並立即應用於保衛烏克蘭，很容易看出它可以是善的力量。然而，從更廣泛的視角來看，對現代軍事技術的熱情似乎要求相信主導技術力量將在大多數衝突中始終是好人，無論是現在還是將來：軍事技術是好的，因為軍事技術是由美國建造和控制的，而美國是好的。是e/acc 就要成為美國至上主義者嗎？要將所有籌碼押在政府現在和未來的道德以及國家未來的成功上嗎？
另一方面，我看到了需要思考如何降低這些風險的新方法。 OpenAI 的治理結構就是一個很好的例子：它似乎是一個出於善意的努力，旨在平衡為了滿足提供初始資本的投資者而需要盈利的需求，同時又希望透過設立一種制衡機制來抵制那些可能使OpenAI 毀滅世界的舉動。然而，在實踐中，他們最近試圖解僱Sam Altman 的嘗試使這個結構看起來像是一個徹底的失敗：它將權力集中在一個不民主、不負責任的五人董事會中，他們基於秘密信息做出關鍵決定，並拒絕在受到威脅之前提供有關推理的任何詳細資訊。不知何故，非營利董事會表現得如此糟糕，以至於公司的員工創建了一個即興的事實上的工會支持億萬富翁CEO 而不是他們。
在各方面，我看到了太多拯救世界的計劃都涉及賦予極少數人極端且不透明的權力，並希望他們能明智地使用這種權力。因此，我發現自己傾向於一種不同的哲學，這種哲學對如何處理風險有著詳細的想法，但它尋求創建和維護一個更民主的世界，並試圖避免將權力集中化作為解決問題的首選方案。這種哲學也涉及的領域遠不止AI，我會用d/acc 這個名字來指稱這種哲學。
dacc3
這裡的「d」可以代表許多事物，尤其是防禦、去中心化、民主和差異。首先，將其視為防禦，然後我們可以看看這與其他解釋的關係。
有利於健康和民主治理茁壯成長的防禦性世界
思考科技宏觀後果的一種方式是看防禦與進攻的平衡。有些技術會讓攻擊他人變得更容易，廣義來說：做一些違背他們利益、讓他們覺得需要做出反應的事情。而其他技術則使防禦更容易，甚至無需依賴大型中央化的行為者。
一個偏向防禦的世界是一個更好的世界，原因有很多。首先當然是安全的直接好處：死亡人數減少，經濟價值損失減少，衝突上浪費的時間減少。然而，較不重視的是，一個偏向防禦的世界使更健康、更開放、更尊重自由的治理形式更容易茁壯成長。
其中一個明顯的例子就是瑞士。瑞士常被認為是現實世界中最接近古典自由治理烏托邦的國家。大量權力下放到省份（稱為“州”），重大決策由全民公投決定，許多當地人甚至不知道總統是誰。這樣一個國家如何在極具挑戰性的政治壓力下生存？一部分是因為出色的政治策略，但另一部分是因為其山脈地形形成的非常偏向防禦的地理條件。
國旗是一個很大的優點，但山也是如此。
在詹姆斯·C·斯科特的新書《不被統治的藝術》中，被廣泛關注的Zomia 的無政府社會是另一個例子：他們在很大程度上保持了自己的自由和獨立，主要得益於多山的地形。同時，歐亞大草原則是治理烏托邦的反例。莎拉·佩恩關於海上大國與大陸大國的論述也提到了類似的觀點，儘管她更注重將水視為一種防禦屏障，而不是山脈。事實上，易於自願貿易和難以強迫入侵的結合，在瑞士和島國都很常見，似乎是人類繁榮的理想條件。
當我在以太坊生態系統內為Gitcoin Grants 資金輪提供建議時，我發現了一個相關的現象。在第4 輪中，一場小丑鬧劇爆發了，因為一些最賺錢的受益者是Twitter 影響者，他們的貢獻被一些人認為是積極的，而被其他人認為是消極的。我對這現象的解讀是存在一種不平衡：二次資金允許你表明你認為某事是公共利益，但它沒有提供一種表明某事是公共害的方式。在極端情況下，一個完全中立的二次資金系統會資助戰爭的雙方。因此，在第5 輪中，我提議Gitcoin 應包含負面的捐款：你支付1 美元來減少某個項目收到的資金金額（並隱式地將其重新分配給所有其他項目），結果很多人對此感到不滿。
第五輪之後流傳的眾多meme 之一。
這對我而言好像是一個更大模式的微觀體現：為了因應負面外部性而創造去中心化治理機制在社會上是一個非常艱難的問題。去中心化治理走錯的經典例子通常是群眾司法。有關人類心理有一些東西，使得應對負面問題更加棘手，也更有可能出現嚴重問題，而不是應對正面的事物。這也是為什麼即使在其他方面高度民主的組織中，決定如何應對負面問題的權力通常留給了一個中央委員會的原因。
在許多情況下，這個困境是「自由」概念如此有價值的深層原因之一。如果有人說了令你不悅的話，或者過上了你認為令人討厭的生活方式，你感到的痛苦和厭惡是真實的，甚至你可能覺得被人動手打擊也不如暴露在這些事物面前糟糕。但試圖就社會上可行的冒犯和討厭的行為達成一致可能會帶來更多的成本和危險，而不如提醒自己，某些怪人和混蛋是我們生活在一個自由社會的代價。
然而，在其他時候，「忍氣吞聲」的方法是不切實際的。在這種情況下，有時值得考慮的另一個答案是防禦性技術。網路越安全，我們就越不需要侵犯人們的隱私，採取不正當的國際外交手段來對付每個單一的駭客。我們越能夠建立個人化的工具，用於阻止Twitter 上的人，瀏覽器內用於檢測詐欺的工具以及用於區分謠言和真相的集體工具，我們就越不必爭論言論審查。我們疫苗生產速度越快，就越不必對付超級傳播者。這些解決方案並非在所有領域都適用- 我們當然不希望看到每個人都不得不穿著真正的防彈衣的世界- 但在我們可以利用技術使世界更加偏向防禦的領域，這樣做具有巨大的價值。
這個核心思想，即一些技術對防禦有利，值得推廣，而其他技術對進攻有利，應該被抑制，有其根源於以不同名稱出現的有效利他主義文獻：差異技術發展。 2022 年，牛津大學的研究人員對這項原則做了很好的闡述：
圖1：差異化技術發展減少負面社會影響的機制。
在將技術分類為進攻、防禦或中立時，不可避免地會存在不完美之處。就像「自由」一樣，人們可以辯論社會民主政府政策是否透過徵收重稅和強迫雇主降低了自由，還是透過減少普通人對許多種風險的擔憂來增加了自由，就像「自由」一樣，「防禦」也有一些技術可能在譜系的兩端。核武有利於進攻，但核能有益於人類繁榮，而且在進攻和防禦之間是中立的。不同的技術可能在不同的時間範圍內發揮不同的作用。但就像「自由」（或「平等」或「法治」）一樣，邊緣的模糊之處不是反對原則的論點，而是更好地理解其微妙之處的機會。
現在，讓我們看看如何將這項原則應用到更全面的世界觀中。我們可以將防禦技術視為其他技術一樣，分為兩個領域：原子世界和位元世界。原子世界又可以分為微觀（即生物學，後來是奈米技術）和宏觀（即我們傳統上認為的「防禦」，但也包括有彈性的物理基礎設施）。我將比特世界分割在不同的軸上：原則上很容易達成共識，攻擊者是誰？有時很容易；我稱之為網路防禦。在其他時候，這更加困難；我稱之為資訊防禦。
宏觀物理防禦
在宏觀領域中最被低估的防禦技術甚至不是鐵穹（包括烏克蘭的新系統）和其他反技術和反飛彈軍事硬件，而是具有彈性的物理基礎設施。核戰中的大多數死亡可能來自供應鏈中斷，而不是最初的輻射和衝擊，而像星鏈這樣的低基礎設施的互聯網解決方案在過去一年半中對維護烏克蘭的連接至關重要。
建造幫助人們在長時間國際供應鏈的獨立或半獨立生存甚至舒適生活的工具似乎是一種有價值的防禦技術，並且對於用於進攻的風險較低。
努力使人類成為多行星文明的任務也可以從d/acc 的角度來看：至少有一些人能夠在其他行星上自給自足地生活，可以增加我們對地球上發生可怕事件的韌性。即使完整的願景目前看來不可行，為實現這一計畫而需要開發的自給自足的生活形式很可能也可以用來幫助提高我們在地球上的文明韌性。
微觀物理防禦（又稱生物防禦）
特別是由於其長期健康影響，Covid 仍然是一個令人擔憂的問題。但Covid 遠非我們將面臨的最後一次大流行；現代世界的許多方面使更多的大流行很可能即將到來：
更高的人口密度使空氣傳播的病毒和其他病原體傳播變得更加容易。流行性疾病在人類歷史上相對較新，大多數始於數千年前的城市化。正在進行的快速城市化意味著在未來半個世紀內人口密度將進一步增加。
航空旅行的增加意味著空氣傳播的病原體會在全球迅速傳播。人們迅速變得更富有意味著空中旅行可能在未來半個世紀內會大幅增加；複雜建模表明，即使是小幅增加也可能產生嚴重影響。氣候變遷可能會進一步增加此風險。
動物馴化和工廠養殖是主要的危險因子。麻疹可能是不到3000 年前由牛病毒演化而來的。現今的工廠養殖也正在培養新的流感病毒株（以及助長抗生素抗藥性，對人類先天免疫系統產生影響）。
現代生物工程使得創造新的、更具毒性的病原體變得更容易。 Covid 可能是從進行有意的「功能增強」研究的實驗室洩漏出來的，也可能不是。無論如何，實驗室洩漏時有發生，而且工具正在迅速改進，使有意創造極其致命的病毒，甚至是朊病毒（殭屍蛋白質），變得更容易。人工瘟疫特別令人擔憂，部分原因是與核武不同，它們是不可歸因的：你可以釋放一個病毒，而沒有人能夠判斷是誰創造的。現在有可能設計一個基因序列，送到濕實驗室進行合成，並在五天內將其寄送到您手中。
這是CryptoRelief 和Balvi 兩個組織在2021 年因Shiba Inu 幣的大筆意外財富而成立和資助的領域之一。 CryptoRelief 最初專注於應對眼前的危機，最近一直在印度建立一個長期的醫學研究生態系統，而Balvi 一直專注於改善我們檢測、預防和治療Covid 和其他空氣傳播疾病的能力的超前項目。 ++Balvi 堅持由其資助的專案必須採用開源方式++。它汲取了19 世紀水利工程運動的靈感，該運動戰勝了霍亂和其他水傳播的病原體，它資助了整個技術領域的項目，這些項目可以使世界在默認情況下更加抵禦空氣傳播的病原體，包括：
· Far-UVC 輻射研發
· 在印度、斯里蘭卡、美國等地的空氣過濾和品質監測，以及空氣品質監測
· 便宜且有效的分散式空氣品質測試設備
· 長期Covid 病因和潛在治療選擇的研究（主要原因可能很簡單，但澄清機制並找到治療方案更加困難）
· 疫苗（例如RaDVaC、PopVax）和疫苗傷害研究
· 一套全新的非侵入性醫療工具
· 利用開源資料分析進行流行病的早期檢測（例如EPIWATCH）
· 測試，包括非常便宜的分子快速測試
· 在其他方法失敗時適用的生物安全口罩
其他有希望的研究領域包括對病原體進行廢水監測，改善建築物的過濾和通風，並更好地了解和緩解空氣污染引起的風險。
有機會建立一個在預設情況下更加抵禦自然和人工空氣傳播流行病的世界。這個世界將具有一個經過高度優化的流程，我們可以從流行病爆發開始，自動檢測到，全球人民可以在一個月內獲得定向、可在本地製造和可驗證的開源疫苗或其他預防措施，透過霧化或鼻噴給藥（即：需要時可自行給藥，無需注射）。同時，更好的空氣品質將大幅減少傳播速率，並防止許多流行病在發生初期就被扼殺。
設想一種未來，不必求助於社會強制的鐵槌——沒有mandates 和更糟糕的情況，也沒有風險較大的、設計和實施不善的mandates，這可能會使情況變得更糟——因為公共衛生基礎設施已融入文明的結構中。這樣的世界是可能的，透過對生物防禦的適度投資，它就可以實現。如果這些發展是開源的、免費提供給用戶並作為公共物品受到保護，工作將更加順利。
網路防禦、區塊鏈和密碼學
安全專業人員普遍認為，目前的電腦安全狀況相當糟糕。儘管如此，很容易低估已經取得的進展。數百億美元的加密貨幣可以被任何能夠侵入用戶錢包的人匿名竊取，雖然失竊或被盜的比例遠遠超出我所願，但事實上，大部分加密貨幣在過去十多年裡一直沒有被盜。最近有了一些改進：
設備內建受信任的硬體晶片，實際上在用戶的手機內創建一個更小的高安全性作業系統，即使手機的其餘部分被駭客攻擊也能保持安全。這些晶片越來越被探討為創建更安全的加密錢包的一種方式，是許多用例中的一部分。
瀏覽器作為事實上的作業系統。在過去的十年裡，從可下載應用程式到基於瀏覽器的應用程式發生了悄無聲息的轉變。這在很大程度上得益於WebAssembly（WASM）。即使是長期以來被認為是許多人因為其必要性和與Linux 不相容而無法實際使用Linux 的主要原因之一的Adobe Photoshop，現在也因為嵌入瀏覽器而對Linux 友好。這也是一大安全優勢：雖然瀏覽器確實存在缺陷，但總體上它們提供了比安裝應用程式更多的沙箱化：應用程式無法存取電腦上的任意檔案。
強化操作系統。行動端的GrapheneOS 存在，並且非常可用。桌面端的QubesOS 也存在；根據我的經驗，目前它的可用性比Graphene 稍差，但它正在改進。
嘗試超越密碼。密碼很難保護，因為它們難以記憶，而且容易被竊聽。最近，有一個越來越大的運動，減少對密碼的依賴，並使基於硬體的多因素身份驗證真正起作用。
然而，其他領域缺乏網路防禦也導致了重大挫折。保護免受垃圾郵件的需求導致電子郵件在實踐中變得非常寡頭化，很難自行託管或建立新的電子郵件提供者。許多線上應用程序，包括Twitter，要求用戶登入才能存取內容，並阻止使用VPN 的IP 位址，使以保護隱私的方式存取互聯網變得更加困難。軟體的集中化也存在風險，因為存在「武器化的相互依賴」：現代技術傾向於透過集中化的瓶頸傳輸，這些瓶頸的運營者利用這一權力收集資訊、操縱結果或排除特定行為者，這種策略甚至似乎正在被用於針對區塊鏈產業本身。
這些趨勢令人擔憂，因為它威脅到了歷史上我對未來自由和隱私前景的一個重大希望。在他的書《未來的不完美》中，大衛·弗里德曼預測我們可能會迎來一個折衷的未來：現實中的世界將越來越受到監視，但透過密碼學，線上世界將保留甚至改善其隱私。不幸的是，正如我們所見，這樣的反向趨勢遠非確定無疑。
這就是我對密碼學技術的強調，例如區塊鏈和零知識證明。區塊鏈使我們能夠創建具有「共享硬碟」的經濟和社會結構，而無需依賴集中的行為者。加密貨幣使個人能夠儲存和進行財務交易，就像在互聯網之前使用現金一樣，而無需依賴可能隨意更改規則的可信任第三方。它們還可以充當備用的反Sybil 機制，使攻擊和垃圾郵件對那些沒有或不想透露其實體身分的用戶變得昂貴。帳戶抽象化，尤其是社交恢復錢包，可以保護我們的加密資產，以及未來可能的其他資產，而不過度依賴中心化的中介機構。
零知識證明可以用於隱私，允許用戶在不透露私人資訊的情況下證明有關自己的事實。例如，將數位護照簽名包裝在ZK-SNARK 中，證明您是某個國家的唯一公民，而不洩露您是哪個公民。類似的技術可以讓我們保持隱私和匿名性的好處- 這些特性被廣泛認為是應用程式（如投票）所必需的- 同時仍然獲得安全性保證並對抗垃圾郵件和不良行為者。
ZK 社群媒體系統的建議設計，可以進行審核操作並且可以對使用者進行懲罰，而所有這些都不需要知道任何人的身分。
Zupass 是Zuzalu 孵化的一個實踐的優秀例子。這是一個應用程序，已經被Zuzalu 的數百人使用，最近被成千上萬的人用於Devconnect 的票務，允許您持有門票、會員資格、（不可轉讓的）數字收藏品和其他證明，並在不洩露隱私的情況下證明與它們相關的所有事項。例如，您可以證明自己是Zuzalu 的唯一註冊居民，或者是Devconnect 的票務持有者，而無需透露關於您是誰的其他資訊。這些證明可以透過QR 碼以面對面的方式或數位方式展示，以登錄到諸如Zupoll 之類的應用程序，這是一個僅對Zuzalu 居民開放的匿名投票系統。
這些技術是d/acc 原則的優秀示例：它們允許用戶和社區在不洩露隱私的情況下驗證可信度，並在不依賴中心化的窒息點的情況下保護其安全性，這些窒息點強加了其自己關於誰是好人和壞人的定義。它們透過創造比今天常用的歧視整個被視為不可信任的國家更好、更公正的方式來保護用戶或服務的安全性，從而提高了全球可訪問性。這些是非常強大的基元，如果我們希望在進入21 世紀時保留資訊安全的去中心化願景，那麼可能是必要的。更廣泛地致力於網路空間的防禦性技術可以在未來以非常重要的方式使網路更加開放、安全和自由。
資訊防禦
資訊防禦（Info-defense）是我所描述的網路防禦，處理的是在合理的人類之間很容易就攻擊者身分達成共識的情況。如果有人試圖入侵你的錢包，大家都容易認定駭客是壞人。如果有人試圖對網站進行DoS 攻擊，大家都容易認為他們是惡意的，並且在道德上與試圖閱讀網站內容的普通用戶不同。還有其他一些情況，界線更加模糊。我把在這些情況下改進我們的防禦的工具稱為「資訊防禦」。
以事實查核（又稱防止「錯誤訊息」）為例。我非常喜歡Community Notes，它在幫助用戶識別其他用戶推文中的真實和虛假方面做出了很多貢獻。 Community Notes 使用一種新的演算法，不是顯示最受歡迎的筆記，而是顯示在政治光譜上得到最多用戶認可的筆記。
社區註釋的實際應用。
我也是預測市場的粉絲，它可以在事態尚未明朗、尚未就事態的發展方向達成共識之前實時揭示事件的重要性。例如，關於Sam Altman 的Polymarket 在逐小時的事件揭示和談判中提供了非常有用的摘要，為那些只看到單一新聞項目而不了解每個項目的重要性的人提供了非常必要的背景。
預測市場經常有缺陷，但那些願意自信地表達他們認為在未來一年內會發生的事情的Twitter 意見領袖通常會更有缺陷。預測市場仍有很大的進步空間。例如，預測市場在除了最高知名事件外的其他事件上的交易量普遍較低；解決這個問題的自然方向是推出由人工智慧參與的預測市場。
在區塊鏈領域，我認為我們需要更多一種特定類型的資訊防禦。也就是說，錢包應該在幫助用戶確定他們簽署的事物的含義，並保護他們免受欺詐和詐騙方面更具見解和主動性。這是一個中間案例：什麼是騙局和什麼不是騙局比起對有爭議的社會事件的觀點更不主觀，但比起區分合法用戶和DoS 攻擊者或駭客更主觀。 Metamask 已經有一個詐騙資料庫，並自動阻止使用者存取詐騙網站。
像Fire 這樣的應用是更深入的方式的一個例子。然而，安全軟體不應該是需要明確安裝的東西；它應該是加密錢包，甚至是瀏覽器的預設。
由於資訊防禦的主觀性更強，它在本質上比網絡防禦更加集體：您需要以某種方式連接到一個龐大而復雜的人群，以確定可能是真實還是虛假的信息，以及什麼樣的應用程序是一種詐騙的龐氏騙局。開發人員有機會在開發有效的資訊防禦方面取得更大進展，並加強現有形式的資訊防禦。像Community Notes 這樣的東西可以包含在瀏覽器中，涵蓋的不僅是社群媒體平台，還包括整個網路。
超越「防禦」框架的社會技術
在某種程度上，我可能被指責過於強調，將一些資訊科技描述為「防禦」。畢竟，防禦是關於幫助善意的行為者免受惡意的行為者（或在某些情況下，免受自然）的保護。然而，其中一些社會技術是幫助善意的行為者形成共識的。
這其中的一個很好的例子是pol.is，它使用類似於Community Notes 的演算法（並且早於Community Notes）來幫助社群確定不同子群體之間的共識點，而這些子群體在許多方面存在分歧。 Viewpoints.xyz 受到了pol.is 的啟發，有著類似的精神：
類似這樣的技術可以用來實現在有爭議的決定上更為分散的治理。再次強調，區塊鏈社群是這方面的良好實踐場地，已經展現出這些演算法的價值。一般來說，對以太坊協議進行哪些改進（“EIPs”）的決定是由一個相當小的團體在稱為“All Core Devs calls”的會議中做出的。對於技術性較強、大多數社群成員沒有強烈感覺的決定，這樣做相當有效。對於更重要的決定，涉及協議經濟、或更基本的價值，例如不可變性和防審查抵抗性，這通常是不夠的。回顧2016-17 年，在實施DAO 硬分叉、減少發行量以及（不）解凍Parity 錢包等一系列有爭議的決定時，工具如Carbonvote 以及社交媒體投票有助於社區和開發者了解社區輿論的方向。
DAO 分叉上的碳投票。
Carbonvote 存在其缺陷：它依賴ETH 持有量來確定誰是以太坊社區的成員，使結果被少數富裕的ETH 持有者（「鯨魚」）所主導。然而，借助現代工具，我們可以製作一個更好的Carbonvote，利用多個訊號，如POAPs、Zupass stamps、Gitcoin passports、Protocol Guild memberships，以及ETH（甚至是單獨質押的ETH）持有量來衡量社區成員資格。
這樣的工具可以被任何社群用於做出更高品質的決策，找到共同點，協調（實體或數位）遷移，或在不依賴不透明的中央領導的情況下執行其他操作。這不是防禦加速本身，但它可以被稱為民主加速。這樣的工具甚至可以用於改善和民主化在人工智慧領域工作的關鍵行為者和機構的治理。
那麼超級智慧的前進道路是什麼呢？
現在，這一切看起來都很好，可能使這個世界在未來一個世紀變得更加和諧、更安全、更自由。然而，這還沒有解決房間裡的大象問題：超智慧人工智慧。
許多擔心人工智慧的人默認提出的前進道路實質上導致了一個最小化的人工智慧世界政府。近期版本包括提議成立一個「跨國AGI 聯盟」（"MAGIC」）。如果這樣一個聯盟成立並成功實現其創建超智慧人工智慧的目標，它將自然而然地成為一個事實上的最小化世界政府。長期而言，還有「關鍵行動」理論的想法：我們創造一個執行一次的單一行動的人工智慧，將世界重新組織成一個從那時起人類仍然掌握控制權，但遊戲板某種程度上更有利於防禦和人類繁榮的局面。
目前我看到的主要實際問題是，人們似乎並不真正信任任何特定的治理機制擁有建造這樣一個東西的權力。當你看到我最近在Twitter 上的投票結果時，人們被問及是否希望看到人工智慧被一個提前十年起步的單一實體壟斷，還是讓所有人的人工智慧延遲十年，這一事實變得非常明顯：
每次投票的規模雖然較小，但在廣泛的資訊來源和選項中，這些投票的一致性結果彌補了規模的不足。在九次投票中，九次中的九次，大多數人寧願看到高度先進的人工智慧被直接推遲十年，而不是被單一團體壟斷，無論是公司、政府還是跨國機構。在九次中的七次中，延遲勝出的比例至少為兩比一。這似乎是任何追求人工智慧監管的人都應該理解的重要事實。目前的方法一直在致力於創建許可方案和監管要求，試圖將人工智慧的發展限制在較少的人手中，但由於人們不希望看到任何人壟斷如此強大的東西，這些方法受到了普遍的反對。即使這樣的自上而下的監管提案減少了滅絕的風險，它們也增加了永久陷入集中式極權主義的機會。矛盾的是，完全禁止極其先進的人工智慧研究的協議（也許對生物醫學人工智慧有例外），再加上採取強制開源的措施，對於那些未被禁止的模型，作為一種減少利潤動機同時進一步提高訪問平等性的方式，會更受歡迎嗎？
對於「讓一個全球性機構來處理人工智慧並確保其治理非常好」這一途徑的反對者首選的主要方法是多神論人工智慧：有意確保有許多人和公司開發大量的人工智慧，以便其中沒有一個變得比其他人更強大。這樣，理論認為，即使人工智慧變得超級智能，我們仍然可以保持權力的平衡。
這種哲學很有趣，但我在嘗試確保以太坊生態系統內的「多神論」時的經驗讓我擔心這是一個本質上不穩定的均衡。在以太坊中，我們有意試圖確保在許多方面去中心化：確保沒有一個代碼庫控制超過半數的權益證明網絡，試圖抵制大型權益池的主導地位，改善地理去中心化等。基本上，以太坊實際上正在嘗試執行一個基於市場的社會的舊自由主義夢想，該社會使用社會壓力而不是政府作為反壟斷監管機構。在某種程度上，這已經取得了成效：Prysm 客戶端的主導地位從70% 以上下降到45% 以下。但這並不是某種自動的市場過程：這是人類意願和協調行動的結果。
我在以太坊的經驗與整個世界的學習經驗一致，在那裡許多市場已被證明是自然壟斷。隨著超級智慧人工智慧獨立於人類行動，情況變得更加不穩定。由於遞歸自我改進，最強大的人工智慧可能會迅速領先，一旦人工智慧比人類更強大，就沒有力量可以使事物重新平衡。
此外，即使我們確實建立了一個穩定的超級智慧人工智慧的多神論世界，我們仍然面臨另一個問題：我們得到了一個人類成為寵物的宇宙。
一個幸福的路徑：與人工智慧合併？
最近我聽說的另一個選擇是更少地將人工智慧視為與人類分離的東西，而更多地將重點放在增強人類認知而非取代它的工具上。
一個近期的例子是AI 繪圖工具。如今，製作AI 生成影像最突出的工具只有一個步驟需要人類提供輸入，之後AI 完全接管。另一種選擇是更專注於像Photoshop 的AI 版本：藝術家或AI 可能製作圖片的早期草稿，然後兩者合作透過即時回饋的過程來改進它。
資料來源，2023 年Photoshop 產生AI 填充。我體驗了一下，需要時間來適應，但實際上效果很好！
在類似的精神中另一個方向是開放機構架構，該架構提議將AI“思維”的不同部分（例如製定計劃、執行計劃、解釋外部世界的信息）分成單獨的組件，並在這些部分之間引入多樣化的人類回饋。
到目前為止，這聽起來很平凡，幾乎每個人都可以同意這將是一件好事。經濟學家達龍·阿塞莫格魯的工作遠非這種類型的AI 未來主義，但他的新書《權力與進步》暗示著希望看到更多這些類型的人工智慧。
但是，如果我們想要將人工智慧與人類的合作思想進一步推廣，我們就會得出更激進的結論。除非我們創建一個足夠強大的世界政府來檢測並制止每個使用筆記型電腦上的個別GPU 進行黑客攻擊的小團體，否則最終會有人創造出超級智能人工智能- 一個可以思考比我們快一千倍的AI - 而任何一組使用手中工具的人都無法與之抗衡。因此，我們需要更深入、更遠地思考這種人機合作的概念。
第一個自然的步驟是腦-電腦介面。腦-電腦介面可以使人類更直接地存取越來越強大的計算和認知形式，將人與機器之間的雙向通訊循環從幾秒鐘縮短到毫秒。這也將大大降低取得電腦幫助你收集事實、提供建議或執行計畫的「思維努力」成本。
這一路線圖的後期階段確實變得奇怪。除了腦-電腦介面，還有透過生物學創新直接改進我們的大腦的各種途徑。融合這兩條路線的最終步驟可能涉及將我們的思維上傳到電腦上直接運行。這也將成為對實體安全的最終解決方案：保護自己免受傷害將不再是保護不可避免的柔軟人體的複雜問題，而是一個更簡單的問題，即製作資料備份。
這樣的方向有時會引起擔憂，部分原因在於它們是不可逆的，部分原因在於它們可能使強大的人比我們其他人更具優勢。尤其是腦機介面存在危險——畢竟，我們談論的是直接讀取和書寫人們的思想。正是出於這些擔憂，我認為最好由一個以安全為重點的開源運動在這條路徑上扮演主導角色，而不是由封閉的專有公司和創投基金扮演。此外，所有這些問題在獨立於人類運作的超智慧AI 方面比與人類密切聯繫的增強部分更為嚴重。由於ChatGPT 的使用限制，今天已經存在「增強」和「非增強」之間的分歧。
如果我們想要一個既超智慧又「人性化」的未來，一個人類不僅是寵物而且實際保留對世界有意義的代理權的未來，那麼像這樣的選擇似乎是最自然的。還有很多支持這種方法的理由：透過在決策過程的每個步驟都涉及人類回饋，我們減少了將高層規劃責任轉嫁給AI 本身的動機，從而減少了AI 獨立於人類價值觀執行某些完全不符合的可能性。
支持這一方向的另一個論點是，與其僅僅大聲呼喊“暫停AI”，不如提供一個相應的提供替代前進道路的信息。這將需要從當前的心態中進行哲學上的轉變，即觸及人類的技術進步是危險的，但與人類無關的進步基本上是安全的。但它有一個巨大的對抗性好處：它給了開發者一些事情要做。今天，AI 安全運動對AI 開發者的主要訊息似乎是「你應該停下來」。可以進行對齊研究，但今天這缺乏經濟誘因。與此相比，普遍的e/acc 訊息「你已經是一位英雄，就如你現在的樣子」顯然非常吸引人。一個d/acc 訊息，即「你應該構建，並構建有利於你和人類繁榮的東西，但在確保你構建的東西有助於繁榮時，要更加選擇和有意識」，可能是一個勝利者。
d/acc 與你現有的理念相符呢？
如果你是e/acc，那麼d/acc 就是e/acc 的亞種，只是更具選擇性和有意識。
如果你是一位有效利他主義者，那麼d/acc 就是有效利他主義思想的一次重新包裝，儘管更強調自由和民主價值。
如果你是自由主義者，那麼d/acc 就是技術自由主義的亞種，儘管更加務實，對「技術資本機器」更加批判，並且願意接受政府的干預，至少在今天（至少，如果文化幹預無效的話），以防止更糟的非自由未來。
如果你是多元主義者，按照格倫·韋爾的定義，那麼d/acc 是一個框架，可以輕鬆包容多元主義強調的更好的民主協調技術。
如果你是公共衛生倡導者，那麼d/acc 的思想可以為更廣泛的長期願景提供靈感，並為你提供與你可能在其他方面不一致的「科技人員」找到共同點的機會。
如果你是區塊鏈倡導者，那麼d/acc 是一個比十五年前強調通貨膨脹和銀行的更現代、更廣泛敘述，將區塊鏈放入一個具體策略的背景中，以朝著更光明的未來發展。
如果你是太陽龐克，那麼d/acc 是太陽龐克的一個亞種，並且包含著類似的強調有意識和集體行動。
如果你是月球朋克，那麼你會欣賞d/acc 對資訊防禦的強調，透過保持隱私和自由。
我們是最明亮的星星
我熱愛技術，因為科技擴展了人類的潛力。一萬年前，我們只能製作一些簡單的手工工具，改變一小片土地上的植物生長，建造基本的房屋。而今天，我們可以建造高800 公尺的塔樓，在手中的設備中儲存著人類知識的全部內容，可以即時在全球範圍內通訊，延長我們的壽命，過著幸福充實的生活，不再擔心我們最好的朋友會因疾病而經常死去。
我們從底層開始，現在我們在這裡。
我相信這些事物是非常有益的，而且進一步將人類的影響擴展到行星和星球上也是非常有益的，因為我相信人類是非常善良的。在某些圈子裡，對此持懷疑態度是時髦的：主張自願人類滅絕的運動認為，地球沒有人類存在會更好，還有許多人希望未來幾個世紀內人類的數量能更少。人們常常爭論說，人類是壞的，因為我們欺騙和偷竊，進行殖民主義和戰爭，虐待和滅絕其他物種。我對這種思考方式的回應是一個簡單的問題：與什麼相比呢？
是的，人類經常表現得很刻薄，但我們更常表現出善良和仁慈，為了我們共同的利益而共同努力。即使在戰爭期間，我們通常也會小心保護平民——當然還遠遠不夠，但也比2000 年前更多。下個世紀可能會有廣泛可用的非動物基礎的肉類，消除了今天人類可以被正當指責的最大道德災難。非人類動物不會這樣。沒有一種情況是貓會採取拒絕吃老鼠作為倫理原則的整個生活方式。太陽每年都在變得更明亮，大約在十億年後，預計這將使地球變得太熱無法維持生命。太陽會考慮一下它即將引起的種族滅絕嗎？
因此，我堅信，在我們所知道和見過的宇宙中，我們，人類，是最明亮的星星。我們是唯一我們知道的事物，即使不完美，有時也會真誠努力關心“善”，並調整我們的行為以更好地為之服務。兩十億年後，如果地球或宇宙的任何部分仍然擁有地球生命的美麗，那將是人類的藝術品，如太空旅行和地球工程，使其成為可能。
我們需要建設和加速。但有一個非常現實的問題要問：我們正在加速邁向什麼？ 21 世紀很可能是人類的關鍵世紀，決定我們未來幾千年的命運。我們是陷入無法擺脫的陷阱之一，還是找到一條保留自由和代理權的未來之路？這是一個具有挑戰性的問題。但我期待著觀察並參與我們物種為找到答案而進行的宏偉集體努力。
