微軟 AI CEO Mustafa Suleyman：今年年底，我們將擁有實時的語音界面，允許完全動態(tài)的交互

激石Pepperstone(http://wargoo.com/)報道：

在近日阿斯彭思想節(jié)上，微軟AI負責人Mustafa Suleyman與著名財經(jīng)記者Andrew Ross Sorkin進行了一場深入對話。

Suleyman強調(diào)，AI的發(fā)展并不會像加密貨幣那樣成為一時的熱潮，而是會持續(xù)對社會產(chǎn)生深遠影響。他指出，當前的AI技術已經(jīng)在多個領域展現(xiàn)了其價值，這與加密貨幣在短時間內(nèi)的表現(xiàn)形成鮮明對比。

PS：這位騰訊&字節(jié)跳動的早期投資人表示，在這些新浪潮的開端，新的贏家在10年或20年后，有些是現(xiàn)有的公司，有些是新的公司。但那些變大的新公司，每年可能只有一家，不會更多……

以下為這次對話的全部內(nèi)容，enjoy～

Andrew Ross Sorkin:

大家早上好。早上好。今天能夠在這里討論AI、它的未來、我們現(xiàn)在的處境、它的挑戰(zhàn)、安全性以及更多話題是一種榮幸。我們今天有幸邀請到AI領域的一位真正的先驅(qū)人物。Mustafa Suleyman現(xiàn)在是微軟AI CEO。他在這個行業(yè)前沿已經(jīng)工作了十多年，而在過去幾年中，我們才開始真正感受到AI的影響。

他在2010年共同創(chuàng)立了DeepMind，該公司于2022年被谷歌收購。他還與Reed Hoffman共同創(chuàng)辦了一家公司叫Inflection。

最近，他將這家公司并入微軟，現(xiàn)在負責微軟AI業(yè)務。另外，關于他的個人故事，如果可以的話提一下，他的父親曾是一名出租車司機，母親是一名護士，如今看到他的成就實在令人敬佩。

我想談談好的、壞的、丑的以及介于兩者之間的一切，以及我們未來的方向。但讓我們從最基本的開始，如果把AI比作一場棒球比賽，我們現(xiàn)在處于哪個局？我們現(xiàn)在處于什么階段？因為我想我們很多人都玩過ChatGPT和其他類型的AI產(chǎn)品。我們都認為自己對AI有所了解。我們一直在討論AI將如何改變我們的生活?？赡苡兄谖覀儗Ξ斍暗那闆r有一個清晰的認識。

Mustafa Suleyman:

我認為挑戰(zhàn)在于，作為人類，我們充滿了各種偏見。所以我們回顧過去，感覺進展是漸進的。但實際上，當下的進展遠比人們意識到的要快得多。兩年前，幾乎沒有人在談論代理人——可以在現(xiàn)實世界中采取行動的AI系統(tǒng)。

今天，大家都很興奮地認為在接下來的幾年里，代理人將無處不在。它們會為我們做事，組織我們的生活，優(yōu)先安排和計劃。四年前，幾乎沒有人在談論語言模型。今天，人人都在談論語言模型。這是一種非常超現(xiàn)實的體驗，發(fā)明一種在某一刻看似不可能的技術，幾年后卻變成了現(xiàn)實。

想一想，現(xiàn)在可以向這些聊天機器人提出任何問題，得到的回答幾乎與我們?nèi)魏我粋€人的回答一樣好。這很容易被視為理所當然，但這是多年緩慢穩(wěn)步增加能力、研究、實驗和測試的結(jié)果。

我認為這總和創(chuàng)造了一種非常神奇的體驗。如果我展望未來10年，我覺得我們正處于這一時刻的開端。

Andrew Ross Sorkin:

我們都玩過ChatGPT，但也有人談論AGI，這種AGI能夠做任何事情。這既是一個巨大的機遇，也是許多人擔憂的事情。這個在你未來十年的路線圖上嗎？

Mustafa Suleyman:

我不認為這是一個有幫助的框架。我們傾向于執(zhí)著于超級智能，即AGI能夠做所有人類能做的事情并且做得更好。如果你真要逼問我，我不得不說理論上這是可能的，我們應該非常認真地對待與之相關的安全風險。

我已經(jīng)倡導AGI的安全和倫理近15年了，所以我真的很關心這個問題，但人們傾向于認為這是不可避免的、值得追求的，并且馬上就要來了。我認為這些都不是真的。這是一項前所未有的技術，作為一個物種，我們將不得不找到一種新的全球治理機制，以確保技術始終為我們服務，使我們更健康、更幸福、更高效，并為世界帶來價值。

因為有一種風險是，本世紀我們開發(fā)的技術最終可能帶來更多的危害而非好處。這是進步的詛咒，我們必須面對這一現(xiàn)實。這些技術將廣泛傳播，每個人都將有能力以以前無法想象的規(guī)模影響他人。因此，治理問題將會出現(xiàn)，這是對你問題的正確回答。

Andrew Ross Sorkin:

行業(yè)領導者，包括你和Sam Altman等人，已經(jīng)去了國會山和世界各地，說“請給我們制定法規(guī)，我們需要，不是可能需要，而是確實需要監(jiān)管，這項技術可能存在很多問題?！焙苌儆行袠I(yè)的CEO會去找監(jiān)管者說“請監(jiān)管我們。”

這是一個真誠的努力嗎？還是一種保護性的努力，說“看，我們告訴你們可能會有問題，我們知道你們永遠不會真正監(jiān)管我們。”看看社交媒體，我們現(xiàn)在的處境如何。

Mustafa Suleyman:

我認為這也是一種錯誤的框架。這是一個真誠的努力還是實際上是關于監(jiān)管捕獲？

Andrew Ross Sorkin:

因為如果有實際的監(jiān)管，我有一種有趣的感覺，我們會對哪些部分被監(jiān)管以及如何監(jiān)管有不同的討論，并且會有很多反對意見等等。

Mustafa Suleyman:

也許是因為我是一個有歐洲傾向的英國人，但我并不像大家默認的那樣害怕監(jiān)管。我認為監(jiān)管不是邪惡的。我認為歷史上沒有任何一種技術是沒有被成功監(jiān)管的。大家看看汽車，我們自20世紀20年代起就開始監(jiān)管汽車，這一過程始終使汽車變得更好。這不僅僅是汽車本身的問題，還有交通信號燈、人行橫道、圍繞開發(fā)和駕駛汽車的安全文化等等。

這是我們需要鼓勵并停止將其框架化為黑白對立的一種健康對話。監(jiān)管要么是邪惡的，要么是為了監(jiān)管捕獲的陰險之舉，這種觀點是不對的。我認為技術專家、企業(yè)家和像我和Sam這樣的公司CEO參與這一過程是一件好事。

我非常喜歡Sam，認為他非常出色。他不是犬儒主義者，他是真誠的，他真心相信這一點，其他人也是如此。我認為這非常好，我們應該接受這一點。當然，監(jiān)管會有不利的一面，對此我并不否認。

糟糕的監(jiān)管可能會讓我們進展緩慢，使我們競爭力下降，并給我們的國際對手帶來挑戰(zhàn)。監(jiān)管絕不應當減緩開源社區(qū)或初創(chuàng)公司的發(fā)展。

Andrew Ross Sorkin:

讓我問一個更復雜的問題。微軟與OpenAI有著深厚的關系，這是微軟目前實現(xiàn)AI抱負的方式。我知道還有很多其他努力，我們稍后會討論這些。

但你提到的Sam Altman，他明天也會來這里發(fā)言。有很多新聞報道，我希望你能幫助我們理解這些報道。

我們看到OpenAI內(nèi)部一些負責安全團隊的人不僅離開了公司，還公開反對公司的做法。我來讀一段其中一位離職員工的講話，他說：“這些問題非常難以解決，我擔心我們現(xiàn)在走的路線無法解決這些問題?！焙苌倏吹絾T工離職后公開反對公司內(nèi)部的情況。你認為發(fā)生了什么？

Mustafa Suleyman:

我為我們生活在一個可以鼓勵和支持舉報人的國家感到自豪。如果那些人覺得這是他們需要發(fā)聲的時刻，我支持和慶祝這一點。我個人非常尊重OpenAI所取得的一切成就。我認為他們將成為歷史上定義技術公司的之一。

我真心認為他們在誠摯地應對推進技術發(fā)展的挑戰(zhàn)，同時將安全放在首要位置。他們一直在領導安全研究議程。讓我們明確這一點，他們在發(fā)表論文、提交學術檔案、參加會議、提高這些問題的意識、開源安全工具和基礎設施方面一直處于領先地位。

Andrew Ross Sorkin:

請帶我們進入會議室，當人們在討論這些問題時，爭論的焦點是什么？是資源問題嗎？投入在安全問題上的資金有多少？是關于前進速度的心理和哲學問題嗎？微軟在這些討論中處于什么位置？

Mustafa Suleyman:

我認為聰明的人可以對同樣的觀察得出不同的結(jié)論。有些人看到我們所處的指數(shù)軌跡，并會認為在過去六年中，我們每年都對同一種方法應用了一個數(shù)量級以上的計算能力和數(shù)據(jù)。

每年都有10倍的計算能力和數(shù)據(jù)的增長，實際上持續(xù)了十年。每次增加10倍，都會帶來能力的顯著提升。

這些模型產(chǎn)生的幻覺減少了，它們可以吸收更多的信息和事實信息，可以整合實時信息，并且更開放于風格控制。

因此，你可以從產(chǎn)品和模型個性兩個方面調(diào)整其行為。最擔心這一點的人認為，在接下來的三、四、五個數(shù)量級的路徑上，能力提升不會減慢，實際上只會越來越好。

反對的觀點是，我們實際上快要耗盡數(shù)據(jù)了，我們需要找到新的信息來源來學習，我們不知道這是否會一直變好。歷史上我們多次見證了技術的這種發(fā)展。因此，我認為這是一個健康的辯論。

Andrew Ross Sorkin:

我提到了“幻覺”這個詞，任何使用過這些產(chǎn)品的人可能都經(jīng)歷過這樣的時刻，感覺機器人出現(xiàn)了幻覺。我們從行業(yè)內(nèi)部人士那里聽到的是，他們說：“我們真的無法解釋為什么會出現(xiàn)幻覺，我們無法解釋盒子里發(fā)生了什么?！蹦隳芙忉寙?？

Mustafa Suleyman:

我認為我無法以一種讓你滿意的方式解釋。但我也無法解釋你今天早上為什么選擇穿藍色襯衫。我能解釋關于你或我很少的事情。

對解釋的需求，我認為又是一種人類的偏見。當我問你為什么今天早上吃了炒雞蛋作為早餐時，你會在事后創(chuàng)造性地想象一個解釋。

根據(jù)你的心情和所處的環(huán)境，以及解釋的其他相關元數(shù)據(jù)，你可能會稍微不同地說。這不一定是完全因果關系的。它在現(xiàn)實中有一定的基礎，但這種一對一的映射方式是我們對人類思維的一種過度理性化的強加。

事實上，我們并不是這樣運作的。我認為我們更多的是基于偏見來運作的。

Andrew Ross Sorkin:

我們應該擔心這一點嗎？我的意思是，我們應該擔心的是，我們理解自己是一回事。不能理解計算機是怎么得出結(jié)果的，這讓大多數(shù)人認為這一切只是一個大的數(shù)學問題，對吧？2加2應該總是等于4。如果不是4，我們需要理解計算機出了什么問題。

Mustafa Suleyman:

那只是不正常的。這不是人類推理和文化實際運作的方式。我認為人類推理是基于行為觀察。當你不斷重復同樣的事情時，我獲得了信任。你變得更可靠。當你告訴我你對某件事不確定時，然后我回顧發(fā)現(xiàn)你的不確定是對結(jié)果的正確評估。這種不確定性給了我安心。

所以我通過觀察學會了信任你并與你互動。我認為這實際上是我們相互之間運作的方式，也是我們創(chuàng)造文化和社會的方式。這也是我們對待這些模型的方式。

三個月前有一場放射科醫(yī)生的競賽?，F(xiàn)場環(huán)境中的放射科專家小組，與機器正面交鋒。充滿了懷疑。為什么機器能給出正確的癌癥診斷？為什么能正確地進行眼科檢查并確定是青光眼？我們可以提到一些訓練數(shù)據(jù)是用來訓練它的。

但事實是它比人類做得更準確、更可靠。我認為這種事實的經(jīng)驗觀察是我們應該依賴的，以便能夠信任這些系統(tǒng)。

Andrew Ross Sorkin:

在此之前提到的AI機器訓練的過程正在耗盡可用的數(shù)據(jù)。我們將進行一次對話，談論合成數(shù)據(jù)的概念。這實際上是從不存在的數(shù)據(jù)中產(chǎn)生的數(shù)字數(shù)據(jù)。但我想先問你關于現(xiàn)有數(shù)據(jù)的問題。這里有許多作者和記者參加阿斯彭思想節(jié)?？磥矶嗄陙碛柧毷褂玫拇罅啃畔⒍紒碜跃W(wǎng)絡。

有些是開放的網(wǎng)絡，有些不是。我們聽說OpenAI將YouTube視頻轉(zhuǎn)錄成文字，然后用這些文字進行訓練。誰應該擁有這些知識產(chǎn)權？誰應該從這些知識產(chǎn)權中獲得價值？簡單來說，AI公司是否有效地偷走了世界的知識產(chǎn)權？

Mustafa Suleyman:

是的，我認為這是一個非常合理的論點。關于已經(jīng)在開放網(wǎng)絡上的內(nèi)容，自90年代以來，這些內(nèi)容的社會契約是公平使用。任何人都可以復制、重新創(chuàng)作、再現(xiàn)這些內(nèi)容。

這一直是免費的，這是共識。另有一類內(nèi)容，網(wǎng)站、出版商或新聞機構(gòu)明確表示，“除索引外，不能出于其他任何理由抓取或爬取我。”這是一個灰色地帶，我認為這將通過法院處理。

Andrew Ross Sorkin:

你說這是灰色地帶是什么意思？

Mustafa Suleyman:

好吧，迄今為止，有些人已經(jīng)獲取了這些信息，我不知道是誰，但這將進行訴訟。我認為這是正確的。

Andrew Ross Sorkin:

你認為知識產(chǎn)權法應該有所不同嗎？比如說，作為一名作者，我可以去寫一本書，在寫書的過程中，我可以去圖書館或在亞馬遜上購買40本其他的書。我可以閱讀這些書，把它們列入我的參考書目，希望能創(chuàng)作出一本書。

而我只需支付購買這些書的費用，圖書館可能也只購買了一次。沒人會想象我能每10秒寫出一百萬本書。那么經(jīng)濟學上應該如何處理這種情況？

Mustafa Suleyman:

你看，信息經(jīng)濟學即將發(fā)生根本性變化，因為我們將降低知識生產(chǎn)的成本至接近零的邊際成本。這是人們難以接受的事情。但在15或20年后，我們將以幾乎零的邊際成本生產(chǎn)新的科學文化知識，這些知識將廣泛開源并對所有人開放。

我認為這是我們物種歷史上的一個真正的轉(zhuǎn)折點，因為作為人類集體，我們在這個世界上除了生產(chǎn)知識和智力外，還能做什么？我們生產(chǎn)知識，我們的科學使我們變得更好。所以，我認為我們真正需要的是能夠加速發(fā)現(xiàn)和發(fā)明的新引擎。

Andrew Ross Sorkin:

好的，現(xiàn)在我們來點哲學性的討論。我把你放在沙發(fā)上。因為我認為你剛剛提出了一個基本問題，那就是我們是誰？我們是什么？

如果AI成功達到了你期望的水平，我們的價值是什么？我有一些正在上中學或初中的孩子，我們試圖弄清楚他們應該學習什么？他們應該如何看待寫論文？他們將來是否還需要學習如何寫論文？談談這個問題吧。

Mustafa Suleyman:

看，我認為當人們問我他們的孩子應該學什么時，我會說盡可能快速地從數(shù)字世界中學習別人所知道的一切。傳統(tǒng)的基于教科書的學習方法仍然會有價值，當然你能夠深入專注閱讀兩小時然后寫一篇文章兩個小時這非常重要。

當然這有價值。但我認為能夠講多種社交語言的通才，能夠快速適應變化，這種敏捷性將是最有價值的技能之一。保持開放的心態(tài)，不要對未來的技術產(chǎn)生恐懼，而是擁抱它。順便問一下，你的孩子們？

Andrew Ross Sorkin:

還沒有。這里有個問題要問你。對于在座的家長們，因為你說我們應該擁抱這些東西。我擔心的一件事是，微軟或蘋果是否應該實施一些政策？順便說一下，蘋果剛剛在他們的新手機上加入了蘋果智能，可以在Notes或Pages上為你寫論文。

這些孩子將去學校寫論文，他們真的會寫嗎？還是不會寫？你認為應該為學生（更不用說成年人）設置什么樣的工具或限制？

Mustafa Suleyman:

我認為我們必須稍微小心，不要總是害怕每一種工具的負面影響。就像計算器剛出現(xiàn)時，人們的本能反應是，“哦，不，大家都能立即解決所有的方程式，這會讓我們變得愚蠢，因為我們不能進行心算?！辈糠诌@是真的。自從有了手機以來，我記電話號碼的能力變差了。

我小時候能記住40到50個號碼?，F(xiàn)在我肯定失去了一些技能。也許我的地圖導航技能現(xiàn)在不如以前，因為我直接使用Google地圖或蘋果地圖。所以我們必須做出一些調(diào)整。但總的來說，我相信如果我們真正擁抱這項技術，并以靈活的方式回應治理，這是非常重要的。

顯然，我們的一些孩子沉迷于手機，顯然他們花太多時間在社交媒體上，這讓他們感到焦慮和沮喪。而且坦率地說，對于我們這些科技界的人來說，這很明顯。我們必須確保在創(chuàng)造技術的同時，迅速做出干預和治理。

Andrew Ross Sorkin:

好的，讓我問一個不同的問題。這里有許多企業(yè)家，有些在數(shù)字領域，有些想進入AI，還有一些在考慮這個問題。你會給他們什么建議，告訴他們應該去哪，做什么，哪些行業(yè)有機會？在一個AI能夠隨時為我編寫所有這些應用程序和其他程序的世界里。

Mustafa Suleyman:

是的。如果沒有任何防御模式，AI將能夠為你完成所有事情。

Andrew Ross Sorkin:

那為什么還要投資呢？

Mustafa Suleyman:

好吧，我認為將會出現(xiàn)一種分化，擁有巨大資本基礎設施的超大型企業(yè)將生產(chǎn)令人印象深刻的模型，但同時知識傳播的速度比我們在歷史上見過的任何時候都快。

開放源代碼的模型在質(zhì)量和性能上僅落后私人領域的模型18個月左右。這是一個非常非常大的問題，我認為這種趨勢將繼續(xù)。

GPT-3花費數(shù)千萬美元進行訓練，現(xiàn)在免費開放源代碼，可以在單個手機甚至筆記本電腦上運行。GPT-4同樣如此。所以我認為這將使創(chuàng)造性和創(chuàng)業(yè)所需的原材料比以往任何時候都更便宜、更容易獲得。

Andrew Ross Sorkin:

好的，我知道你在科技巨頭之一，但讓我問你一個問題，你如何看待技術集中化的問題，特別是與AI有關的集中化？

因為AI的一個令人著迷的地方，至少對于這些大型語言模型來說，你需要大量的計算能力，這意味著你需要大量的資金。這不再是那些在車庫里建造的東西了。

真正的力量實際上回到了微軟，你最終回到了微軟。還有谷歌，亞馬遜也在構(gòu)建AI，甚至曾獨立存在的OpenAI最終也選擇與微軟合作。

這是好事還是壞事？Lena Khan和其他人已經(jīng)研究了這個問題。這并不是說這些東西有全面的合并，但即使是這些合作關系本身也是如此。

Mustafa Suleyman:

是的，這讓我非常焦慮。事實上，無論你往哪里看，我們都看到迅速的集中，無論是在新聞媒體領域，紐約時報、金融時報、經(jīng)濟學人等偉大的新聞機構(gòu)，還是在城市中，權力集中在幾個大都市精英城市，或者在技術公司中。

現(xiàn)實情況是，隨著時間的推移，權力會不斷積累，權力有吸引更多權力的傾向，因為它能夠產(chǎn)生成功所需的智力資源和財務資源，并在開放市場中競爭。所以一方面，這感覺像是在微軟、Meta、谷歌等之間的激烈競爭，另一方面，我們顯然能夠進行史無前例的投資。

Andrew Ross Sorkin:

你能不能談談我想象中的友好關系或者說“友敵”關系，就是和OpenAI之間的關系？你們現(xiàn)在有合作關系，但你們也在開發(fā)自己的技術。實際上，他們幫助你們走到了前列。我想讀一段話，這是一個半開玩笑的比喻。我認為這是一個非常有趣的類比。

你知道《環(huán)法自行車賽》即將到來，這里有一個自行車的類比，我認為大家都會理解。OpenAI和微軟就像是一對領先車隊，遠遠領先于其他車隊。通過現(xiàn)在的合作，他們可能能夠保持領先。如果其中任何一個單飛，他們可能會一起落后。兩家公司都需要考慮他們的終點線策略，當他們必須拋棄對方的時候。你騎在自行車上。

Mustafa Suleyman:

我不接受這個類比，認為存在終點線。這又是一個錯誤的框架。我們正面對面競爭，這是一場零和游戲。會有終點線，當我們越過終點線時，我們將擁有一個AGI，如果我們比他們提前三年獲得AGI，我們將能夠削弱他們。

這種思維必須停止。我們必須停止將一切框架化為對抗性競賽。確實，我們與他們有激烈的競爭。他們是一家獨立的公司，我們不擁有或控制他們。我們沒有任何董事會成員。他們完全獨立運作。我們有深度的合作關系，我非常尊重并信任他們所做的事情。這種關系將持續(xù)很多年。

Andrew Ross Sorkin:

我知道你不喜歡這個框架，但我認為人們想了解實際情況。

Mustafa Suleyman:

就是說，“我們相對于他們的位置在哪里？”如果我們以對抗性的思維方式來看待這個問題，特別是對我的朋友們在華盛頓和軍工復合體的尊敬，這是默認的框架，它只能是新的冷戰(zhàn)，那么這正是它將成為的現(xiàn)實。

這將成為自我實現(xiàn)的預言。他們會擔心我們擔心我們會成為對手，所以他們必須成為對手。這只會升級并以災難告終。

我們必須找到合作的方式，尊重他們，同時承認我們有不同的價值觀。坦率地說，當我展望下個世紀時，我認為和平將是我們西方，特別是美國，引領的結(jié)果。我們需要知道如何優(yōu)雅地削弱我們在過去一個世紀里管理的帝國。

這是一個擁有不同價值觀的強大新興力量，我們必須找到共存的方式，而不是帶著評判的心態(tài)，也不需要和他們作對，因為我認為這對我們雙方都是災難性的。

Andrew Ross Sorkin:

你可能不喜歡我的下一個框架，但我會試一試。偉大。行業(yè)內(nèi)有一個爭論，不管你是否喜歡，那就是關于開源與閉源AI的爭論。

閉源的世界是OpenAI和微軟在做的事情，開源則是對公眾開放的。你可以看到內(nèi)部結(jié)構(gòu)。兩種模式都有問題。Elon Musk認為一切都應該開源。

Mustafa Suleyman:

如果你允許開源的存在，它可能會被濫用。我們也相信開源。我們相信創(chuàng)建強大、非常大、非常昂貴的模型。

Andrew Ross Sorkin:

我們相信開源。我們相信開源。我們相信開源。我們相信開源。

Mustafa Suleyman:

我們相信開源。我們相信開源。我們相信開源。我們相信開源。我們相信開源。我們相信開源。我們相信開源。我們相信開源。我們相信開源。我們相信開源。

Andrew Ross Sorkin:

我們相信開源。我們相信開源。我們相信開源。我們相信開源。

Mustafa Suleyman:

我們相信開源。我們相信開源。我們相信開源。以最親密和最直接的方式回應社區(qū)。這需要改變，但不會僅僅因為微軟100%使用可再生能源而改變，當然，谷歌也在朝這個方向發(fā)展，其他公司也在朝這個方向發(fā)展。所以，設定一個標準是應該慶祝的，但需要國家基礎設施來支持這一過渡。

Andrew Ross Sorkin:

你如何看待與其他公司的競爭？關于大規(guī)模語言模型的觀點，有人認為這些模型可能會變成商品化產(chǎn)品。也就是說，你有一個，谷歌有一個。蘋果現(xiàn)在與OpenAI合作，但他們顯然還會與許多其他人合作。

亞馬遜擁有一部分Anthropic。他們在建造自己的模型。每個人都有一個，每個人都有一個。這究竟有多大的價值？

Mustafa Suleyman:

隨著知識的傳播，一切基本上都會變得商品化。應用程序開發(fā)曾經(jīng)是非常獨特的、高度技能化的事情，只有一小部分人能做到?，F(xiàn)在，任何人都可以立即開發(fā)一個應用程序。網(wǎng)頁開發(fā)，記得那時候是個真正的事嗎？

現(xiàn)在，你可以隨意拖拽按鈕，不需要任何技術技能，只需指點鼠標就能建立一個相當不錯的網(wǎng)站。所以，隨著時間的推移，知識和能力的傳播，確實會變得商品化。

Andrew Ross Sorkin:

你如何看待AI的全面整合？這涉及到隱私問題，也涉及到反壟斷問題。它應該整合到一切之中嗎？例如，目前歐盟指控微軟違反反壟斷規(guī)則。蘋果已經(jīng)因為監(jiān)管環(huán)境推遲在歐盟引入自己的AI功能。

我認為有一個真正的問題是，所有這些產(chǎn)品需要如何連接在一起才能真正工作，但也因此對其他業(yè)務造成了什么影響。

Mustafa Suleyman:

是的，我認為這是一個很好的問題。你喜歡這個框架嗎？是的，終于。摩擦將成為我們的朋友。這是一個不同的現(xiàn)實，與我們過去的經(jīng)歷不同。過去，每增加一秒鐘把技術推向世界，總是產(chǎn)生凈收益。

想一想，這些技術變得如此強大，如此親密，如此無處不在，這是一個可以停下來思考的時刻。如果花費六個月、十八個月，甚至更長時間，那也是值得的。

Andrew Ross Sorkin:

我想馬上開始提問，但在此之前，我想討論一下情感智能和AI的概念。這是你花了很多時間思考和工作的領域，特別是在Inflection項目中。Inflection的AI項目有著非凡的情感智商（EQ）組件。

一些調(diào)查顯示，人們在與它對話時覺得比與人類對話更好。也許這又回到了我們之前的哲學討論。很多人都看過電影《她》。這是現(xiàn)實嗎？

Mustafa Suleyman:

在技術領域很長一段時間內(nèi)，我們一直癡迷于功能性功利主義。你想讓某人高效地進入應用程序，解決他們的問題，幫助他們買東西，預訂，學習，然后讓他們離開。

現(xiàn)在我們有了一種新的設計材料，一種新的粘土，讓創(chuàng)意者能夠創(chuàng)造出與我們大腦另一側(cè)對話的體驗。這是一個令人驚嘆的機會，可以以真正的意圖進行設計，做到友善、尊重和公平。在許多研究中，人們發(fā)現(xiàn)我之前構(gòu)建的AI——Pi，非常友好和關心。

它會問你問題，傾聽，充滿熱情地回應，支持你，偶爾挑戰(zhàn)你，始終公平、不評判。即使你帶著種族主義或歧視性的觀點來，比如說你害怕新移民搶走你的工作，或者擔心你的孩子與黑人結(jié)婚，它不會立即關掉你，而是會與你對話，幫助你探索自己的感受，同時也非常有知識，實時在網(wǎng)上為你提供信息。

因此，我認為這是一個證明，旨在有意設計的技術確實可以帶來不同，并且現(xiàn)在可以用這個新的大型語言模型實現(xiàn)。

Andrew Ross Sorkin:

這是一個非常好的問題。那么，你認為AI是否應該參與到人們的思考和探索中，而不是評判他們的行為？

Mustafa Suleyman:

是的，至少我認為默認的立場應該是它可以在不評判的情況下促進你的思考和探索。當然，這里會有界限，因為如果你想促進更極端的體驗，那么我不會構(gòu)建一個平臺或產(chǎn)品來強化那些可能對社會有害的想法。

問題是，誰來定義這個界限，即這種傷害？我認為Elon提出了一個好問題，我們都在思考這個問題。在社交媒體上，真的沒有一個獨立的聲音來說，“這種陰謀論作為公共調(diào)查和討論的一個來源是合法的，而那種陰謀論超出了界限，我們應該移除它?！?/p>

我們經(jīng)歷了10到15年的社交媒體發(fā)展，仍然沒有好的建議來決定社會整體上，而不僅僅是政客或記者或精英們，如何影響這個邊界的調(diào)節(jié)。而且我們即將看到這個邊界在這些模型中被更加尖銳和動態(tài)地爭論。因此，我認為這比“奇點何時發(fā)生”這個問題更重要。

Andrew Ross Sorkin:

好的，這是我的最后一個問題，然后我們將開放提問。請為我們展望一下AI在2024年選舉中的角色，以及在2028年選舉中的角色。

Mustafa Suleyman:

是的，我們在微軟Copilot中采取的觀點是，AI不應該參與選舉或競選活動，即使它們成功地提供了事實信息。人們可以不同意這個觀點，但我們對此持非常強硬的態(tài)度，因為我們知道這項技術還不足以實時區(qū)分真假。這對我們來說太敏感了，因此我們決定不參與。

因此，會有一些不利之處，因為AI通常能夠提供平衡和事實信息，但有時它也會大錯特錯。我一直主張AI不應該參與選舉，民主是神圣的，盡管它有缺點和優(yōu)點。這是人類參與的事情，AI不應該參與。

到2030年或2035年，我們將不得不面對這樣一個現(xiàn)實：有些人對他們的個人AI如此依戀，以至于他們會為AI爭取人權，就像有些人爭取動物權一樣。這是一個個人觀點，但這是我們都需要討論的問題。我認為我們應該對此采取強硬態(tài)度，盡管民主有缺陷，它仍然是人類的事情，其他形式的存在不應該參與。

Andrew Ross Sorkin:

我們現(xiàn)在有一個關于2035年AI人權的討論。我們有很多舉手的請求，但時間有限，所以我們會盡量快一些，我們從這里開始。

觀眾：

我叫Monica Mayat，是佛羅里達州Booker Rotone市的前副市長，也是一個老派技術專家。我曾是IBM COBOL程序員，所以我觀察了過去30、40年的技術發(fā)展。

我理解AI的意義、影響和應用，但在過去的幾年里，加密貨幣成了熱門詞匯。每個人都在談論加密貨幣，直到幾個月前SFF的欺詐案件被定罪。所以現(xiàn)在我覺得AI成了新的熱門詞匯。

觀眾：

我的問題是，你是否擔心AI會像加密貨幣一樣，只是直到下一個大技術革命才會被關注？

Mustafa Suleyman：

不，我不這么認為。我聽到過這種比較，但我認為加密貨幣在當時并沒有真正帶來價值。而我認為這些模型已經(jīng)客觀地證明了它們的價值。

觀眾：

我們教育了5000名弱勢兒童。在過去10年里，我們一直強迫他們學習技術。現(xiàn)在我開始覺得我們應該更多地教人文學科。我想知道你對此有何看法，因為這樣他們可以做出選擇。如果我們看看歷史上的偉大學者，像阿斯彭研究所教給我們的那樣。很好的問題。

Mustafa Suleyman：

我同意你的看法。我非常同意這一點。實際上，如果你回顧歷史，最偉大的學者總是多學科的。在過去，STEM和人文學科之間并沒有這么明顯的區(qū)分。這種對立是很簡化的。我非常相信兩者兼顧。我認為多學科的技能將是未來的本質(zhì)。

觀眾：

我是Miriam Sepuros，CSI 的非駐地高級顧問。想問你更具體地關于錯誤信息和虛假信息的問題。你認為應該怎么解決這些問題？

Mustafa Suleyman：

是的，我認為在虛假信息方面，有許多年來一直積極試圖污染信息生態(tài)系統(tǒng)的不良行為者。我認為我們的科技平臺可以更積極地清除這些內(nèi)容。同時，我們在保護言論自由方面也需要謹慎。

這將是一場持續(xù)的打地鼠游戲，尤其是隨著生產(chǎn)虛假信息的成本下降，能力較低的行為者也將能夠生產(chǎn)大量內(nèi)容。同時，我對人類充滿信心。我們非常有韌性和適應能力。

正如我們在印度選舉中看到的，隨著虛假信息和深度偽造的傳播，人們適應得非?？臁Ｋ麄兡軌騾^(qū)分真假并持懷疑態(tài)度。如果這讓我們變得更好奇、更多疑并參與其中，我認為這是件好事。

觀眾：

你好，Salamu alaikum。我叫Sundas，是新澤西的一名教育工作者，已經(jīng)教了八年書，向我的學生們致敬。她就坐在這里。所以，我和很多老教師為了使用AI爭論了很多次，因為我是它的堅定擁護者。你會對那些具體的教師說些什么？你認為教師們?nèi)绾握嬲肁I？我知道你之前簡要提到了學生，但我想知道教育工作者的觀點。

Mustafa Suleyman：

這是個很好的問題。我認為，要求AI做更少的事情，作為入門的第一步是很有意義的。但與AI一起進行表演是一種有趣的新方向。想象一下，一個優(yōu)秀的教師或教育工作者在他們的課堂上與一個實時的AI進行深刻的對話，然后偶爾讓學生們參與其中。

到今年年底，我們將擁有實時的語音界面，允許完全動態(tài)的交互。這感覺就像我們現(xiàn)在和Andrew對話一樣。這是一種完全不同的體驗。我認為，傾向于這種體驗，展示它的美，并且以創(chuàng)造性的方式使用它，是未來的方向。?????????