【#區(qū)塊鏈# #Sam和Ilya的深層矛盾：有效加速主義Vs.超級(jí)“愛”對(duì)齊#】

作者：陶芳波；來源：Tao寫字的地方

我很懶，愛寫字但從不發(fā)，但因?yàn)?OpenAI 這次分裂的歷史意義太大，突然把我這幾個(gè)月不太理解的事情，串到了一起。所以連夜寫了人生第一篇公眾號(hào)。

本文不討論董事會(huì)政變的八卦，OpenAI 奇怪的治理結(jié)構(gòu)，以及 Sam 和 Ilya 到底誰對(duì)誰錯(cuò)，我充分尊重這兩個(gè)人的底層品質(zhì)。如此不可思議的事情，必定藏著某種深層沖突。無論 Sam 最終是否會(huì)離開，本文探討的沖突，應(yīng)該會(huì)持續(xù)有效：

有效加速主義 和 超級(jí)“愛”對(duì)齊 的理念沖突，以及一個(gè)變量：GPT-5是數(shù)字生命，還是工具？

這些詞看著唬人，嘗試解釋下。

有效加速主義

英文叫做 e/acc，是一群硅谷的科技精英們搞出來的一種科技價(jià)值觀運(yùn)動(dòng)，你會(huì)發(fā)現(xiàn)有大量的 twitter 賬號(hào)帶有這個(gè) e/acc 的后綴，可見其受眾之廣泛。比如下圖分別是 Garry Tan（YC 現(xiàn)有掌門人）以及 Marc Andreessen（A16Z 的創(chuàng)始人）的賬號(hào)。

那這到底是什么玩意兒，以及為什么會(huì)和 Sam 被驅(qū)逐有關(guān)？首先就要解釋 e/acc。我的簡單版理解：

1、人類應(yīng)該無條件地加速技術(shù)創(chuàng)新，并快速推出他們，來顛覆社會(huì)結(jié)構(gòu)。

2、e/acc 運(yùn)動(dòng)認(rèn)為這種對(duì)社會(huì)的顛覆風(fēng)險(xiǎn)，本質(zhì)上對(duì)人類有利，因?yàn)闀?huì)迫使人類適應(yīng)，從而幫助我們更快達(dá)到更高的意識(shí)水平。

3、過去三百年人類隨著技術(shù)的顛覆而進(jìn)化，結(jié)果顯然都非常好。

很顯然，e/acc 的支持者對(duì) AGI 的態(tài)度也是一致的：讓盡可能多的人參與，更快地推出產(chǎn)品，更快地顛覆，從而讓人類更好地進(jìn)化。是不是，有點(diǎn)「大力出奇跡」的意思？

Sam Altman是有效加速主義者嗎？

我認(rèn)為答案很確定，是的。盡管很多人說，你看 Sam 還去國會(huì)呼吁減速 AI 的發(fā)展，天天說 AI 的風(fēng)險(xiǎn)，不是應(yīng)該是個(gè)「減速主義者」嗎？其實(shí)他從來沒有公開表達(dá)過自己 e/acc 的立場(chǎng)。但是似乎有一些蛛絲馬跡讓人相信。

MindOS 上分析到的小道消息

證據(jù)1：Garry Tan 作為 Sam 的接任者來執(zhí)掌 YC，我很難想象他們不是一類人。以及有八卦說 Sam 被懷疑有小號(hào)來發(fā)表自己的加速主義立場(chǎng)。

證據(jù)2：這次 Sam 被驅(qū)逐，很多掛著 e/acc 的人已經(jīng)把Sam當(dāng)做一個(gè)象征。從 GPTs的倉促推出，對(duì) Worldcoin 項(xiàng)目的大力投資，他是懂怎么「加速」的。

所以我傾向于認(rèn)為，Sam的減速表象，是內(nèi)部妥協(xié)，尤其是對(duì)Ilya的妥協(xié)。

超級(jí)對(duì)齊是什么？

我在今年7月看到Ilya說要成立一個(gè)「超級(jí)對(duì)齊」項(xiàng)目 的時(shí)候，也是一臉問號(hào)。難道ChatGPT這么生硬的表達(dá)，還不夠?qū)R嗎？

但最近我才逐漸理解了Ilya的意思?？梢钥催@段兩周前的采訪，以及被人爆料的，Ilya在乎的「不是AI有情感，而是AI有對(duì)人類真正的愛」。聽上去似乎是個(gè)讓人無語的「白蓮花阻礙進(jìn)步」的故事嗎？其實(shí)不然，可以聽一下：

為了真正理解這句話，我們需要審視一下現(xiàn)在的對(duì)齊，一種是所謂的價(jià)值觀層面（比如同性戀應(yīng)該被尊重），一種是所謂的話題層面（比如不讓搞黃色）。但這些真的夠嗎？如果是個(gè)聊天機(jī)器人（比如去年的 ChatGPT），那完全夠了。但如果是個(gè)具有自主決策和行動(dòng)能力的超級(jí)智能呢，可能就有一個(gè)大大的問號(hào)了。

為什么超級(jí)「愛」對(duì)齊那么重要？

所以超級(jí)對(duì)齊項(xiàng)目，本質(zhì)是Super-LOVE-alignment，超級(jí)「愛」對(duì)齊。這種LOVE，是大愛，并非情愛，是人性底層那種無條件的，無關(guān)自我的，對(duì)于人類的愛，是一種「神性」的愛，一種就像孔子、耶穌、釋迦摩尼這些給文明帶來深遠(yuǎn)影響的無條件的愛。你或許覺得這樣講太戲劇性了，但如果人類的歷史上，沒有這些偉大的人格帶來的偉大的精神，作為文明的壓艙石，就憑自私的人類，今天的世界可能會(huì)糟糕的多。

一個(gè)有趣的個(gè)人插曲，是在3年前，我在一個(gè)分享中借鑒了唯識(shí)的思想，來把AI的意識(shí)發(fā)展分為，從感知（傳統(tǒng) AI，第1-5識(shí)），到認(rèn)知（GPT-4，第6識(shí)），到自我意識(shí)（Autonomous AI Agent，第7識(shí)），到智慧和愛（AI Being？第8識(shí)）。而Ilya相信，AI能判斷價(jià)值觀是遠(yuǎn)遠(yuǎn)不夠的，因?yàn)槿祟悮v史上也很多次出現(xiàn)了價(jià)值觀上無懈可擊，卻最終釀成巨大悲劇的故事。

解法是什么？那就是讓AI對(duì)齊那種底層的「無條件對(duì)人類的愛」，這可能是現(xiàn)有的對(duì)齊技術(shù)通過 RLHF 注入無法做到的。只有擁有了這個(gè)，那么比人更強(qiáng)大的AI才真的不會(huì)毀滅掉我們。當(dāng)年我還認(rèn)為這是科幻小說該考慮的問題，可見他的層次之高。

那不能先推出AGI，再修正呢？Ilya認(rèn)為不能，他認(rèn)為技術(shù)的本質(zhì)類似于人類的生物進(jìn)化（這點(diǎn)諷刺地和 e/acc 的人一致）。但他認(rèn)為進(jìn)化的起點(diǎn)很重要。如果進(jìn)化的開始，是一個(gè)沒有「無條件對(duì)人類的愛」的 AI，那最終也一定會(huì)把我們?nèi)祟悗У綔侠锶ァ?/span>

變量：AI是數(shù)字生命，還是工具

我們應(yīng)該成為一個(gè)e/acc，還是超級(jí)「愛」對(duì)齊主義者？又為什么是現(xiàn)在這個(gè)時(shí)間點(diǎn)，突然驅(qū)逐掉Sam？這些決策背后突變的因素到底是什么？

先講一個(gè)小背景：從各種消息源來個(gè)人猜測(cè)，OpenAI內(nèi)部應(yīng)該在幾周前討論了GPT-5的初步結(jié)果，能力上應(yīng)該是非常顛覆的。而對(duì)下一步的行動(dòng)，Sam和Ilya應(yīng)該是有巨大的分歧（可以看到Sam在APEC上的發(fā)言，已經(jīng)證實(shí)了這次突破的存在）。

要解答上面的問題，取決于你認(rèn)為GPT-5上的智能體，是數(shù)字生命，還是工具？如果我們用最簡單的標(biāo)準(zhǔn)，判斷是否是「數(shù)字生命」，那就是「是否具有完全的自主性」，如果依賴人類來決策和使用的技術(shù)，那就只是「工具」。e/acc最大的悖論在于，所有我們歷史上可以借鑒的案例，本質(zhì)上都是「更好的工具」，這可能是 e/acc 起作用的原因。但如果現(xiàn)在出現(xiàn)的是「數(shù)字生命」呢？社會(huì)的一份子，甚至是社會(huì)的管理者呢？一個(gè)比人強(qiáng)大的數(shù)字生命，真的可以沒有「底層的對(duì)人類的愛」嗎？如果真的那樣，我也會(huì)替人類的未來擔(dān)心，何止是失業(yè)呢。

所以，你是一個(gè)e/acc，還是一個(gè)超級(jí)對(duì)齊主義者，本質(zhì)上的區(qū)別在于你怎么看AI對(duì)社會(huì)的本質(zhì)。

所以，我偏向于相信OpenAI應(yīng)該搞定了一些關(guān)鍵技術(shù)，然后生產(chǎn)了一個(gè)非常顛覆的新版本，自主性大大增強(qiáng)。而Ilya認(rèn)為在通過超級(jí)對(duì)齊為他注入「對(duì)人類的愛」之前，這個(gè)版本的 AI，必須要我們拋棄有效加速主義的思想。如果沒法形成共識(shí)，就拋棄擁有這個(gè)思想的人，立刻，馬上。

哪怕這個(gè)人，可能是人類歷史上最厲害的幾個(gè)CEO之一。