“無論人工智能如何發(fā)展，人類依然將掌握對(duì)世界的最終決定權(quán)。”
圖片來源：由無界 AI生成
作為人工智能界的風(fēng)云人物，OpenAI 首席執(zhí)行官 Sam Altman 于 1 月 19 日參加了瑞士達(dá)沃斯世界經(jīng)濟(jì)論壇上的一個(gè)由企業(yè)重量級(jí)人物組成的圓桌討論，主題為“動(dòng)蕩世界中的技術(shù)”。
來源：Youtube
以下是 Altman 就一系列問題發(fā)表的看法，為方便閱讀已進(jìn)行部分刪減：
問題：我認(rèn)為大多數(shù)人對(duì)人工智能的擔(dān)憂可分為兩種。其一，它是否會(huì)終結(jié)我們所知的人類？其二，為什么人工智能不能直接幫我開車？
Sam Altman：關(guān)于這種新工具的一個(gè)非常好的跡象是，即使它目前的能力非常有限，而且存在非常大的缺陷，人們也在想方設(shè)法利用它來提高生產(chǎn)效率或其他方面的收益，并且理解它的局限性 -- 因此，它是一個(gè)時(shí)而準(zhǔn)確、時(shí)而富有創(chuàng)意，但同樣可能完全錯(cuò)誤的系統(tǒng)。我們絕不會(huì)放心讓它來駕駛汽車，但非常樂意利用它來集思廣益、撰寫文章或檢查代碼。
為什么人工智能不能開車？舊金山附近其實(shí)有很棒的自動(dòng)駕駛汽車系統(tǒng)（如 Waymo），人們也都很喜歡它們。我的意思是，OpenAI 類型的模型在某些事情上表現(xiàn)出色，但在生死攸關(guān)的情況下就不行了。
人工智能在某種程度上已經(jīng)去神秘化，因?yàn)槿藗儸F(xiàn)在真的在使用它。我認(rèn)為，這始終是推動(dòng)新技術(shù)發(fā)展的最佳方式。
問題：人們擔(dān)心的是信任人工智能的能力。我們能在多大程度上說，“我真的可以讓人工智能來做這件事，無論是開車、寫論文還是填寫醫(yī)療表格？”（或者）我們?cè)谀撤N程度上不得不相信黑匣子？
Sam Altman：我認(rèn)為，人類對(duì)其他人犯錯(cuò)的寬容度很高，但對(duì)電腦犯錯(cuò)的寬容度卻很低。我猜，對(duì)于那些說‘自動(dòng)駕駛汽車已經(jīng)比人類駕駛的汽車更安全’之類話的人而言，只有（自動(dòng)駕駛汽車）比人類駕駛的汽車安全 10 到 100 倍，甚至更多時(shí)，人們才會(huì)接受它……
從某種意義上說，最困難的部分是當(dāng)它 99.999% 的時(shí)間都是正確的時(shí)候，你會(huì)放松警惕。
（考慮到）我實(shí)際上無法進(jìn)入你的大腦，查看 100 萬(wàn)億個(gè)突觸，并試圖了解每個(gè)突觸中發(fā)生了什么……但我可以要求你向我解釋你的推理……我可以決定這對(duì)我來說是否合理。
我們的人工智能系統(tǒng)也將能夠做同樣的事情：它們將能夠用自然語(yǔ)言向我們解釋從 A 到 B 的步驟，而我們可以決定我們是否認(rèn)為這些步驟是 ok 的。
問題：如果人工智能能夠超越人類的分析和計(jì)算能力，那么人類還能做什么？很多人說，這意味著我們將只剩下……我們的情商……你認(rèn)為人工智能也能比我們做得更好嗎？
Sam Altman：國(guó)際象棋是人工智能的首批“受害者”之一 --Deep Blue 擊敗 Kasparov 已經(jīng)是很久遠(yuǎn)的事了。所有的評(píng)論員都說：“計(jì)算機(jī)可以擊敗人類，這是國(guó)際象棋的末日。沒有人會(huì)再費(fèi)心看棋或下棋?！保ǖ牵﹪?guó)際象棋從未像現(xiàn)在這樣受歡迎。如果（棋手）用人工智能作弊，那會(huì)是件大事。沒有人，或者說幾乎沒有人會(huì)觀看兩個(gè)人工智能之間的對(duì)弈。
我承認(rèn)（人工智能革命與過去的技術(shù)顛覆相比），這次確實(shí)感覺不同。通用認(rèn)知與我們所珍視的人性特質(zhì)非常接近……（因此，）每個(gè)人的工作都將不同……我們都將在更高一點(diǎn)的抽象水平上工作，我們都將獲得更多的能力。我們?nèi)詫⒆龀鰶Q定；隨著時(shí)間的推移，這些決定可能會(huì)更趨向于策劃，但就世界上應(yīng)該發(fā)生的事情，仍然將由我們做出決定。
問題：您一直對(duì)人工智能持相對(duì)溫和的態(tài)度。但像埃隆- 馬斯克，有時(shí)還包括比爾 - 蓋茨，以及其他非常聰明的人……都非常非常擔(dān)心。你為什么認(rèn)為他們錯(cuò)了？
Sam Altman：我不認(rèn)為他們一定會(huì)錯(cuò)……這顯然是一項(xiàng)非常強(qiáng)大的技術(shù)，我們無法肯定地說究竟會(huì)發(fā)生什么。所有新的重大技術(shù)革命都是如此。但我們不難想象，這項(xiàng)技術(shù)將會(huì)對(duì)世界產(chǎn)生巨大的影響，而且有可能出大錯(cuò)。
我們一直在努力推動(dòng)的技術(shù)方向，是我們認(rèn)為可以確保安全的方向，其中包括很多東西。我們相信迭代部署。我們把這項(xiàng)技術(shù)推向世界……讓人們習(xí)慣它。從社會(huì)整體來看，我們有時(shí)間，或者說機(jī)構(gòu)有時(shí)間，來討論如何監(jiān)管，如何設(shè)置一些防護(hù)措施。
問題：從技術(shù)上講，你能為人工智能系統(tǒng)設(shè)置防護(hù)嗎？這樣可行嗎？
Sam Altman：如果你了解過從 GPT-3 到 GPT-4 的進(jìn)展，看看它能在多大程度上與一系列價(jià)值觀保持一致，就知道我們?cè)谶@方面已經(jīng)取得了巨大進(jìn)步。現(xiàn)在，還有一個(gè)比技術(shù)更難的問題，那就是“誰(shuí)來決定這些價(jià)值觀是什么、默認(rèn)值是什么、界限是什么？它在這個(gè)國(guó)家和那個(gè)國(guó)家是如何運(yùn)作的？我可以做什么，不可以做什么？”這是一個(gè)重大的社會(huì)問題，也是最大的問題之一。
但從技術(shù)角度來看，我們?nèi)杂袠酚^的余地，盡管我認(rèn)為我們現(xiàn)在擁有的對(duì)齊技術(shù)（或多種技術(shù)）不會(huì)一路擴(kuò)展到更強(qiáng)大的系統(tǒng)，（因此）我們需要發(fā)明新的東西。我認(rèn)為，人們害怕這項(xiàng)技術(shù)的缺點(diǎn)是件好事，我們談?wù)撍约拔覀兒推渌吮灰筮_(dá)到高標(biāo)準(zhǔn)都是好事。
我對(duì)世界對(duì)像我們這樣的公司普遍感到的不適感同身受……為什么我們的未來掌握在他們手中？還有……他們?yōu)槭裁匆@么做？他們?yōu)槭裁催@么做了？。..... 現(xiàn)在全世界都認(rèn)為，這里的利益如此巨大，我們應(yīng)該去做這件事。
但我認(rèn)為，我們有責(zé)任想出一個(gè)辦法，從社會(huì)中獲得意見，了解我們將如何做出這些決定，不僅要了解系統(tǒng)的價(jià)值是什么，還要了解安全閾值是什么，以及我們需要什么樣的全球協(xié)調(diào)來確保一個(gè)國(guó)家發(fā)生的事情不會(huì)對(duì)另一個(gè)國(guó)家產(chǎn)生超級(jí)負(fù)面影響。
問題：怎么看待《紐約時(shí)報(bào)》的訴訟……寫這些文章的人難道不應(yīng)該得到補(bǔ)償嗎？
Sam Altman：我們希望在《紐約時(shí)報(bào)》上進(jìn)行訓(xùn)練，但這并非當(dāng)務(wù)之急。實(shí)際上，我們并不需要在他們的數(shù)據(jù)上進(jìn)行訓(xùn)練。這是人們所不理解的 -- 任何一個(gè)特定的訓(xùn)練來源都不會(huì)對(duì)我們產(chǎn)生太大的影響。
我們希望與《紐約時(shí)報(bào)》等內(nèi)容所有者合作，并與許多其他出版商達(dá)成交易 -- 隨著時(shí)間的推移，我們還將與更多出版商達(dá)成合作 -- 當(dāng)用戶問‘嘿，ChatGPT，今天達(dá)沃斯發(fā)生了什么？’我們希望展示內(nèi)容、鏈接、顯示《紐約時(shí)報(bào)》、《華爾街日?qǐng)?bào)》或其他任何優(yōu)秀出版物的品牌，并回答‘這是今天發(fā)生的事情，這是實(shí)時(shí)信息’，然后我們希望為此付費(fèi)，增加流量。但這只是在用戶查詢時(shí)顯示信息，而不是用來訓(xùn)練模型。
現(xiàn)在，我們也可以用它來訓(xùn)練模型，但這不是優(yōu)先事項(xiàng)。我們很樂意不這樣做……我期望開始改變的一件事是，這些模型在訓(xùn)練過程中能夠獲取更少量、更高質(zhì)量的數(shù)據(jù)，并更努力地思考和學(xué)習(xí)。你不需要閱讀 2000 本生物教科書來理解高中生物。也許你需要讀一本，也許三本，但 2000 本……肯定幫不了你什么。當(dāng)我們的模型開始以這種方式工作時(shí)，我們將不再需要同樣大量的訓(xùn)練數(shù)據(jù)。
不過，無論如何，我們都希望找到適用于整個(gè)世界（包括內(nèi)容所有者）的新經(jīng)濟(jì)模型……如果我們要使用你的教科書和教案教別人物理，我們希望能找到一種讓你獲得報(bào)酬的方式。如果你能教我們的模型，如果你能幫助提供反饋，那么我很樂意為你找到新的模型，讓你在成功的基礎(chǔ)上獲得報(bào)酬。
因此，我們非常需要新的經(jīng)濟(jì)模式。當(dāng)前的對(duì)話有點(diǎn)集中在錯(cuò)誤的層面上。我認(rèn)為訓(xùn)練這些模型的意義將在未來幾年發(fā)生很大變化。
問題：你曾卷入近幾十年來最廣為人知的董事會(huì)丑聞。你從中學(xué)到了什么？
Sam Altman：在某些時(shí)候，你不得不笑。這太荒謬了……
我們知道，我們的董事會(huì)已經(jīng)變得太小了，我們也知道，我們沒有所需的經(jīng)驗(yàn)。但在很多方面，去年對(duì)我們來說都是瘋狂的一年，以至于我們忽略了這一點(diǎn)。
不過，我認(rèn)為更重要的一點(diǎn)是，隨著世界越來越接近 AGI，風(fēng)險(xiǎn)、壓力和緊張程度都會(huì)增加。對(duì)我們來說，這只是其中的一個(gè)縮影，但可能還不是我們所面臨的最大壓力。我觀察了一段時(shí)間，發(fā)現(xiàn)我們每向強(qiáng)大的人工智能邁進(jìn)一步，每個(gè)人的角色都會(huì)得到 10 點(diǎn)瘋狂值。這是一件非常有壓力的事情，也應(yīng)該是這樣，因?yàn)槲覀冋噲D對(duì)非常高的風(fēng)險(xiǎn)負(fù)責(zé)。
到目前為止，我在整個(gè)過程中學(xué)到的最好的東西就是我們團(tuán)隊(duì)的力量。當(dāng)董事會(huì)在解雇我的第二天問我是否考慮回來時(shí)，我的第一反應(yīng)是“不”，因?yàn)楹芏嗍虑樽屛曳浅＃ň趩剩?。然后我很快就恢?fù)了理智，我意識(shí)到，我不想看到這些為公司和客戶付出了畢生精力的優(yōu)秀員工建立起來的價(jià)值，被毀于一旦。但我也知道……沒有我，公司也會(huì)很好。
原文作者：Deborah Yao
文章來源：https://aibusiness.com/nlp/from-davos-sam-altman-on-agi-the-nyt-lawsuit-and-getting-fired
