頂尖風投大佬：AI 最大的風險是不以最大努力追求它

作者：吳昕

最近，馬克·安德森在公司網站公开了一篇战鬥檄文 why AI will save the world ，大膽質疑當前對 AI 監管呼籲的合理性，系統批評了這些呼聲賴以成立的論據。

本文結合作者過往的採訪、文章甚至推崇的經濟學家、政治家觀點，分五個部分對其核心內容做了更爲深入的分析和解讀，幫助讀者了解爲什么他會認爲樂觀總是最安全的選擇，同時看到悲觀主義、懷疑論所蕴含的風險。
在很多人看來，這些觀點或許有些瘋狂，以這樣的方式去思考也很困難。但就像馬克·安德森說的，通過與人論战，你可以大致建立一個關於別人的思維方式的模型，可以站在他們的角度想問題，你的思考方式會因此變得更加客觀和中立。

悲觀主義幾乎在每一個社會中都很流行。
ChatGPT 席卷全球，  Open AI CEO Sam Altman 現身美國國會聽證會，呼籲監管AI。

隨後，他與 Stuart Russell、Geoffrey Hinton、Yoshua Bengio等人籤署了一份風險聲明。

不久，馬斯克也出現在籤署千人聯名信中，呼籲 AI 實驗室立即暫停研究。
每當這個時候，全球頂級風投公司 a16z 掌舵者馬克·安德森總會站出來，成爲那個「唱反調」的啦啦隊長。

美國文化的核心存在一個悖論：理論上，我們喜歡變化，當變化真正實現並呈現出來時，它又會受到大量的反作用力。
我非常樂觀，尤其是在針對新想法時。馬克·安德森認爲，自己可能是所認識人當中最樂觀的一個。「至少過去 20 年开始，如果押注樂觀主義者一邊，一般來說，你是對的。」

他絕對有理由這么認爲。1994年，馬克·安德森第一次來到硅谷，創立網景並在最短時間裏完成上市。

赤腳坐在王座上的安德森後來登上了《時代周刊》的封面，成爲科技財富神話的硅谷範本，吸引無數後來者。
某種程度上，他是點燃硅谷火種的人，也是美國量子物理學家戴維·多伊奇（David Deutsch）在《無窮的开始》裏描述的那種樂觀主義者，期望通過創造知識來實現進步，包括這些進步所帶來的不可預見的後果。
悲觀主義則不同。他們會因爲他們的孩子遵守適當的行爲模式而感到自豪，並對每一個真實或想象的新奇事物發出悲嘆。它盡力避免一切未經確認安全的東西。

極少有文明能夠靠着對創新持更謹慎的態度來幸存下去。戴維·多伊奇在《無窮的开始》寫道，事實上，大多數被毀滅的文明都熱情地實施了預防性原則（避免一切未經確認安全的東西來避免災難。）
過去一百年裏一切都穩定而沒有改變，這似乎從未真正發生過。懷疑論者總是錯的。馬克·安德森也說過。

01、AI 監管：誰獲益？誰受損？

馬克·安德森自稱  「AI 加速主義者(AI accelerationist)」。
一個希望加速 AI 相關社會進程以對抗阻力，產生巨大社會變革的信徒，自然會對監管呼聲充滿疑慮。
「有一種觀點認爲，政府監管是善意、良性的，並且實施得當。這就是神話。」馬克·安德森很早就認爲，美國制度弊病之一就是監管，政府不斷制定法律和規定，以至於出現很多類似「周日不許賣酒」、「男人星期二不准喫泡菜」的法律。
監管經濟學家 Bruce Yandle 在1920年代提出了一個概念，被用來解釋政府監管存在的問題：私酒商人與浸會教徒理論（Bootleggers and Baptists Theory）。
比如，Yandle 認爲，禁酒令所以獲得通過，除了依靠浸信會教徒（Baptists，宗教背景讓他們堅信酒精侵害了社會）的推動外，還有賴私酒商人（Bootleggers）背後的支持。他們支持政府增加監管，以減少合法商人與自己的競爭——既然消費者在禁酒令下不能在市場上买醉，自然要投奔私酒商人。
私酒商人與浸會教徒理論指出，浸信會爲所謂的監管提供了道德制高點的支撐（政府不用自己尋找冠冕堂皇的理由），而私酒商人閉門悄悄說服政客（勾兌利益），這樣的聯盟使政客更容易支持這兩個群體。
該理論也指出，這種聯盟導致了次優立法，盡管兩個群體都對結果感到滿意，但對於整個社會來說，沒有立法或不同的立法，可能更好。
馬克·安德森借用這個理論，指出爲什么出於部分良好動機的監管往往辦了壞事。

「這種改革運動結果往往是，走私者得到他們想要的東西——規制俘虜（regulatory capture，監管者變成少數商業實體的侍從)、隔離競爭、卡特爾的形成——而充滿良好動機的浸信會信徒則感到疑惑，他們推動社會進步的動力在哪裏出錯了？」他在最近的長文 Why AI Will Save the World （以下簡稱長文）中寫道。

在人工智能領域，「浸信會」是那些真正相信人工智能會毀滅人類的信徒，一些真正信徒甚至是該技術的創新者，他們積極主張對 AI 實施各種奇怪和極端的限制。
「私酒商人（走私者）」是指 AI 公司，還有接受大學、智囊團、活動家團體和媒體機構的錢款負責攻擊 AI 、助長恐慌的人（表面上看，他們好像是「浸信會」），比如被僱來做一些末日預言的「人工智能安全專家」、「人工智能倫理學家」、「人工智能風險研究員」。
「實踐中，即使浸信會是真誠的，他們也被私酒販子操縱、用作掩護，以實現自己的利益。」馬克·安德森在長文中寫道，「這就是目前人工智能監管過程中正在發生的事情。」
「如果對於 AI 風險建立監管壁壘，那么，這些私酒商人（走私者）就會得到他們想要的東西——一個由政府支持的 AI 供應商組成的卡特爾，保護它們免受新創業公司和开源競爭的影響。」

02、失業論與「固定餡餅謬誤」

既然警惕監管，馬克·安德森自然也不同意許多爲了支持監管提出的論據。但他並不否認一些話題的討論價值。
比如，科技正在吞噬所有的工作嗎?收入不平等，還有關於顛覆人類社會的爭論。
認爲市場活動是一個零和遊戲，是一個常見的經濟學謬誤。即，假設存在一個固定的餡餅，一方只能以犧牲另一方爲代價來獲得收益。
自動化導致失業，就是一種「固定餡餅謬誤」。馬克·安德森在長文中指出，「即在任何給定的時間裏，勞動力的數量是固定的，要么由機器完成，要么由人類完成，如果由機器完成，那么人類失業。」
但事實並非如此。舉個簡單例子，制衣廠老板大量买入機器。機器本身需要勞工去生產，從而帶來原本不存在的工作機會。
买機器的錢「回本」後，因爲成本優勢，這位制衣廠老板獲得了超額利潤。這筆錢的花法很多——擴大廠子規模、投資供應鏈或者买房、高消費，無論怎么花，都爲其他行業提供了就業機會。
當然，這家制衣廠的成本優勢不會是永遠的。爲了競爭，對手也會开始購入機器（機器生產工人因此得到更多就業機會）。大衣越來越多，價格也被壓低，制衣廠也沒以前那么賺錢了。當越來越多的人买得起更加便宜的大衣，刺激了消費規模，整個制衣行業會僱用更多的人，甚至比使用機器之前還多。
當然，也有可能是，大衣便宜到一定程度後，消費者會將省下來的錢花在其他方面，從而增加其他行業的就業。
「當技術應用於生產時，生產力也會增長，投入減少，產出增加，結果是商品和服務的價格降低，我們將有額外的消費能力購买其他東西。這增加了需求，推動了新產品和新產業，爲之前被機器取代的人們創造了新的工作崗位。」馬克·安德森寫道。
「當市場經濟正常運行、技術被自由引入，這將是一個永不停歇的向上循環。一個更大的經濟體將出現，擁有更高的物質繁榮，更多的產業、產品和就業機會。」馬克·安德森寫道。
如果更進一步，所有現存的人類勞動都被機器替代，意味着什么？
「生產力增長的速度將前所未有，現有商品和服務的價格將接近免費，消費者購买力飆升，新需求爆炸式增長。

企業家們將創造令人眼花繚亂的新產業、產品和服務，並僱傭盡可能多的 AI 和人類員工，從而滿足所有新需求。
假設 AI 再次替代了人類勞動力，這個循環將重復，推動經濟發展，讓就業增長更上一層樓，通往亞當·斯密從未敢想象的物質烏托邦。」
人類需求無窮無盡，技術演化就是一個不斷滿足、定義這些需求可能性的過程。

每次新的生產力都會採取不同的形式，研究技術變革與金融泡沫的經濟學家 Carlota Perez 說過，但這最終並不一定就意味着工作總體會變少，而是意味着工作的定義方式發生了改變。
反過來看，如果嚴守邏輯上的一致性，我們不僅應該把所有的新技術進步都視爲一場災難，而且更該覺得過去所有的技術進步也同樣恐怖。
如果你認爲機器是敵人，那么你應該想回去放松一下，對吧？遵循這個邏輯，我們會一直回到一切开始的地方——自給農業，如果自己做衣服，是不是會更好？

03、誰在引發不公？

除了機器導致人類失業，技術引發社會不公也是人們呼籲監管 AI 的另一個論據。
「假設人工智能確實搶走了所有的工作，無論是好是壞。這會導致嚴重的財富不平等，因爲人工智能的所有者獲得了所有的經濟回報而普通人一無所獲。」
對此，安德森的解釋很簡單。
如果馬斯克只賣汽車給富人，會更富有嗎？如果他只爲自己制造汽車，他會比這更富有嗎？當然不是。他通過將汽車賣給全世界——這個最大的市場——來最大化自己的利潤。
電力、廣播、計算機、互聯網、移動電話和搜索引擎，這些技術的制造商都積極主動地降低價格，直到所有人都能負擔得起。同樣，我們已經可以免費或低成本地使用 New Bing、Google Bard 等最先進的生成式 AI。
這不是因爲他們愚蠢或慷慨，恰恰因爲他們貪婪——擴大市場規模，賺到更多的錢。因此，與技術推動財富集中化相反，技術最終賦予每個人更多的能力，並捕獲其中大部分價值。

不平等確實是一個很大的社會問題，但它不是由技術驅動，而是源於我們不允許使用 AI 來減少不平等。特別住房、教育和醫療保健等經濟部門，採納 AI 面臨的阻力往往最大。
如下圖所示，藍色曲线代表允許技術創新提高質量並同時壓低產品價格的行業，比如消費電子、汽車、家居。今年3月，馬克·安德森在一篇博客 Why AI Won't Cause Unemployment 中寫道。

這張圖表顯示了經通貨膨脹調整後，十幾個主要經濟部門的服務價格變化。

紅色部分代表不允許引入技術創新（進而壓低價格）的行業。你看，教育、醫療保健和住房的價格都在走向月球。
「紅色代表的行業受到政府和行業本身的嚴格監管。這些行業是壟斷、寡頭和卡特爾，有着所有你能想象到的變革障礙：正式政府監管以及規制俘虜、價格固定、蘇聯式定價、職業許可等。現在，這些部門的技術創新幾乎被禁止。」

我們正在進入這樣一個分裂的世界—— 一台覆蓋整面牆的平板電視僅需 100 美元，四年制大學學位需要 100 萬美元。
那么，隨着時間的推移會發生什么？
受管制的非技術產品價格上漲；監管較少、技術驅動的產品價格下降。前者膨脹，後者萎縮。在極端情況下，99% 的經濟將是受監管的非技術部門，這正是我們前進的方向。

04、言論監管與滑坡效應

「我們創造的技術終將崛起和摧毀我們」的恐懼深深地根植在我們的文化之中。
至於這種恐懼是否建立在任何理性基礎上、多大程度上能與邪教區分开，答案仍然是懸置的。
安德森將它們歸爲一種邏輯上的分類錯誤——特定類別的事物被呈現爲好像它們屬於不同的類別。「AI 是一種機器，就像你的烤面包機，它不會變得有生命。」他寫道。
不過，「如果殺人機器人沒有抓住我們，仇恨言論和錯誤信息也會。」 你看，呼籲監管社交媒體的「幽靈」繼續遊蕩在 AI 時代。
包括美國在內的每個國家都會將社交平台上的某些內容定爲非法 。例如兒童色情和煽動現實世界中的暴力。因此，任何促進或生成內容的技術平台都會受到一些限制。
支持監管的人主張，生成式 AI 應該生成對社會有益的言論和思想，禁止生成的對社會有害的言論和思想。
安德森提醒說，這樣做的「滑坡效應（Slippery slope）不可避免。」所謂滑坡效應，是指如果一件壞事情或問題一旦开始，就很可能變得越來越糟糕，如果不加以制止，就愈演愈烈，後果不堪設想。
「一旦有了一個框架來限制極其糟糕的內容——例如，仇恨言論——政府機構、激進團體和非政府實體就會立刻啓動，對任何他們認爲威脅社會和/或他們個人喜好的言論進行更大程度的審查和壓制，甚至以赤裸裸的犯罪方式。」他寫道。
這種現象在社交媒體上已經持續了 10 年，而且還在持續升溫。
去年 3 月，紐約時報編輯委員會發表了一篇文章 America Has a Free Speech Problem。根據泰晤士報觀點/錫耶納學院的民意調查發現， 46% 的受訪者表示，與十年前相比，他們感到談論政治的自由度降低。30% 的人說他們也有同樣的感覺。
只有 21% 的人表示感覺更自由，盡管在過去十年中，通過社交媒體在公共廣場上的聲音大幅擴大。
「當圍繞可接受的言論的社會規範不斷變化，當對傷害沒有明確的定義時，這些對言論的限制可能會變成武斷的規則，帶來不成比例的後果。」他們在文章中寫道，而保守派已經將有害言論的想法用於服務自己的目的。
而對於安德森來說，每天早上醒來，看到幾十個人在推特上詳細向他解釋他是一個白癡，是相當有幫助的：
通過與人論战，你可以大致建立一個關於別人的思維方式的模型，可以站在他們的角度想問題，你的思考方式會因此變得更加客觀和中立。
他提醒說，主張生成式 AI 應該與人類價值保持一致的人，只是全球人口中非常小的一部分，「這是美國沿海精英的特徵，其中包括許多在科技行業工作和寫作的人。」
「如果你反對通過不斷強化語音代碼，將小衆道德強加給社交媒體和 AI ，那么，你也應該意識到，關於人工智能被允許說什么/產生什么的鬥爭，將比關於社交媒體審查的鬥爭更重要。
人工智能很有可能成爲世界上一切事物的控制層。允許它如何運作可能比任何事情都重要。
你應該意識到，現在一小群孤立的社會工程師正打着保護你的古老幌子，由他們的道德決定 AI 如何運作。」

05、最真實的、最可怕的風險

如果上面這些恐懼、憂慮都不是真正的風險，那么，什么才是 AI 最大的風險呢？
在他看來，有一個最終的，也是真實的人工智能的風險，可能也是最可怕、最大的風險：美國沒有贏得全球人工智能的主導地位。
爲此，「我們應該盡可能快和努力地推動人工智能進入我們的經濟和社會，最大限度提高其爲經濟生產力和人類潛力帶來的收益。」

長文最後，他提出了幾個簡單的計劃。
1、應該允許大型人工智能公司盡可能快地、積極地开發人工智能，但不允許它們實現規制俘虜（regulatory capture，監管者變成少數商業實體的侍從，一種腐敗)，不允許它們建立一個由政府保護的、因錯誤地宣稱人工智能風險而與市場競爭隔絕的卡特爾。

這將使這些公司驚人的能力帶來的技術和社會回報最大化，這些公司是現代資本主義的瑰寶。
2、應該允許人工智能初創公司盡可能快速、積極地开發人工智能。他們應該被允許競爭。如果創業公司沒有成功，作爲市場上存在本身，也將不斷激勵大公司做到最好——無論哪種方式，我們的經濟和社會都會贏。
3、开源人工智能應該被允許自由擴散，並與大型人工智能公司和初創公司競爭。無論如何，對开源都不應該有任何監管障礙。

即使开源沒有打敗公司，它的廣泛可用性對世界各地想要學習如何構建和使用人工智能以成爲未來技術一部分的學生來說也是一個福音，並將確保每個人都可以使用人工智能，無論他們是誰或他們有多少錢。
4、政府與私營部門合作，在每個潛在風險領域，積極利用人工智能最大限度地提高社會的防御能力。人工智能可以成爲解決問題的強大工具，我們應該接受它。

鄭重聲明：本文版權歸原作者所有，轉載文章僅為傳播信息之目的，不構成任何投資建議，如有侵權行為，請第一時間聯絡我們修改或刪除，多謝。

標題：頂尖風投大佬：AI 最大的風險是不以最大努力追求它

地址：https://www.torrentbusiness.com/article/44424.html

標籤：人工智能