前不久，中信出版集團邀請到了國際AI專家、零一萬物CEO、創新工場董事長李開復博士與歷史學家、哲學家、《智人之上》作者尤瓦爾·赫拉利教授連麥暢聊。

?

本次對談從AI對現實的技術性影響切入，兩位嘉賓互問互答，進行了一場令人深思的思想互動。

?

尤瓦爾·赫拉利曾與不少硅谷人士進行過談話，相比于AI專業人士的樂觀，作為一名歷史學家，他認為 新技術的巨大危險不在于最終結果，而在于實現它的過程。

?

從第一次工業革命到第二次工業革命，從殖民時代到一戰、二戰，人類付出的生命代價以億計算。

?

“當一種強大的新技術出現時，沒有人知道如何將其融入社會和政治，也不知道如何明智地使用它。人們會進行實驗，而有些實驗可能會非常非常糟糕。”這是正是尤瓦爾·赫拉利出于一名歷史學家的責任感所擔憂的。

?

李開復博士從自己的技術背景抽身而出，指向了一個更為宏大和根本的問題，那就是——人性應該更多地定義為意識，而不是智能，因為人工智能顯然更具有智能。

?

他希望人們會逐漸意識到，生活不僅僅是為了工作，特別是簡單的、重復性的工作。人工智能可能會成為一個促使人們重新定義自己和尋找人類命運的推動力。

?

兩位嘉賓沒有回避AI給人類帶來的威脅，他們以自己行走世界所掌握的一手前沿案例，極大地擴充了我們對于生成式AI在當下以及未來究竟到達何種可能性的視野。

?

他們認為， 總有一天，AI將比我們所有人都聰明，但它們成為不了我們，因為它們只擁有智能而不會進化出人性，而人性，就藏在我們的意識之中。

在由生成式AI引領的AI2.0時代，我們應該投入資源探索和發展我們的意識，人類的意識仍有巨大的潛力和探索空間。

?

危險正在迫近，機遇前所未有，面對AI大潮，尤瓦爾·赫拉利的新書《智人之上》將成為你看清前路的思想指南。

兩位嘉賓用這篇近萬字的長文，用海量細節向你娓娓道來……

一、AI將推動人類實現更大飛躍

?

赫拉利： 您好，李博士。得益于現代科技和信息技術的發展，即便我們相隔萬里，也能保持聯系。

?

李開復： 是的，再次見到您真是太好了，赫拉利教授。我們以前幾乎每年都能見面，但是疫情把我們分開了，再次見到您真是太好了。

我是您所有著作的忠實讀者，特別是您的新作品《智人之上》。

我認為，信息已經成為當今商業、工作和人類生活中最重要的因素。我可以肯定地說，我的所有工作都與處理信息和人際關系有關，而且，越來越多的信息成為了我們公司制定戰略的基礎。

我們采納數據主導的決定，我們利用信息和技術來塑造思維、做出決策。我們的產品是以應用程序或軟件形式分發的信息集，并且我們通過電子手段獲得報酬。所以，世界正變得越來越數字化和虛擬化，而被傳輸的就是信息。

?

我認為赫拉利教授在《智人之上》一書中非常精辟地講述了信息的歷史，在書中，我們可以清晰地看到信息的使用在數字時代有了飛躍性的發展。

?

赫拉利： 人類之所以能主宰世界，是因為我們比任何其他動物都更擅長合作。就個體而言，我們不比其他動物聰明或強壯多少。

?

以黑猩猩為例，它們只能在50只或100只的小群體中合作，而人類卻能夠建立跨越數百萬乃至數十億人的大規模合作網絡。

?

這正是我們力量的來源，我們通過信息交換來實現這一點。我們并不直接認識自己所在國家、公司或商業網絡中的大多數成員，但我們保持聯絡、我們相互連接、我們通過信息進行協作，這就是信息為何如此重要的原因。

?

實際上，我們并不直接生活在現實中，我們不是對現實本身做出反應，而是對我們對現實的印象做出反應。我們根據所獲得的關于現實的信息作出回應，這正是信息至關重要的原因。

?

在歷史的這一階段，我們發明了有史以來最強大、最重要的信息技術——人工智能。人工智能的獨特之處在于，它不僅是我們手中的工具，它還是一個活躍且自主的代理，能夠自行做出決策，能夠自己發明和創造新想法。

?

在歷史上，我們發明了許多工具和機器，但對這些工具和機器的控制權始終在我們手中，尤其是對信息的控制權。

?

現在，關于人工智能有很多炒作和誤解。什么是人工智能？它與以往的機器或計算機有何不同？區別在于，如果某個系統不能自我改變、不能學習和創造新事物，那么它就不是人工智能，而只是一臺老式機器。

?

我們之所以能夠主宰世界，是因為我們創建了這些信息網絡。但現在，我們可能已經創造出了一種能夠從我們手中奪取信息網絡控制權的東西。

?

在我請李博士分享他的觀點之前，我想舉一個例子。

?

以編輯的角色為例，無論是書籍出版、新聞機構還是報紙的編輯，他們都是世上最重要的一些人物，擁有巨大的權力。他們需要從昨天世界上發生的上百萬件事情中挑選出最重要的10件，讓它們出現在報紙頭版或電視新聞播報中。

?

如果你問自己：“當今世上最重要的編輯是誰？他們的名字是什么？”你會發現他們沒有名字，因為它們是算法，它們是人工智能。

?

大型社交媒體平臺的編輯，比如YouTube、Twitter或TikTok，已經不再是人，它們是人工智能。所以， 人工智能已經開始從我們手中接管對信息網絡的控制權。

?

李開復： 是的，我同意赫拉利教授的觀點，人工智能將推動自己再次實現更大的飛躍。

?

在我的日常工作中，我已經使用人工智能代勞我所做的大部分事情。我認為，越來越多的人正在這樣做，但是許多人認為人工智能只是一個聊天機器人，或是一個智能搜索引擎。這確實是當前的情況，但這僅僅是它的初步表現形式。

?

我們已經看到這樣的落地場景，比如“給我一個答案”“與我對話”。它正在轉變為我的助手，幫助我完成任務，而這將進一步發展為數字人勞動力接管某些人的部分或全部工作。隨后，它將轉變為接近自動化的狀態——即人類給出指令，人工智能作為智能體，能自由地創造信息、做出決策。最終這種全自動化的助手將成為代表公司或個人的智能體，去讓我們做那些人工智能認為“你需要”的事情。

?

在某種意義上，TikTok給你推送一個視頻，就是一個非常簡單的例子。你并沒有主動要求看那個視頻，但它認為你會感興趣。

?

如果將這種智能放大一百萬倍，人工智能就能知道你想如何投資并替你進行投資。人工智能知道你妻子的生日快到了，就會幫你買禮物。

?

這些都是相對無害的例子，當然，還有許多可能帶來潛在問題的例子。

二、從金融、醫療到軍事，面臨AI，我們還不知道該怎么做

?

赫拉利： 您是否認為我們很快就會看到人工智能在金融市場中做出重大決策？比如人工智能投資者和人工智能制定新的投資策略甚至創造新的金融工具？

?

李開復： 是的，這在某種程度上已經發生了。

?

在美國、中國及其他國家和地區，許多人工智能量化基金已經取得了出色的回報。這些基金基本上是由人工智能來做決策，人工智能每天會分析所有的交易數據和新聞，并決定最佳的股票購買時機，然后在沒有人類指令的情況下買進和賣出。

?

人類提供的唯一信息是所有用于做決策的數據和目標，即在一定風險承受范圍內達到最高收益，這已經成為現實。

?

如果我們審視人類的所有任務，投資可能是最具量化性的任務。因為幾乎所有決策都是基于實時信息，人工智能能夠更快地閱讀、篩選可能性、進行組合交易，并且能夠更快速地買進和賣出，還具備更強大的信息獲取能力。

?

所以，當人們讀到某位企業總裁的發言并考慮購買某只股票時，人工智能很可能已經搶先一步完成了交易。這已經成為現實。

?

赫拉利： 那么，這是否會像在其他特定領域發生的那樣，比如圍棋？我們已經知道人工智能比任何人都更智能，甚至更有創造力。在金融領域是否也會發生類似的情況？

?

如果確實如此，那么當人類和人類政府失去了對金融系統的控制，這對社會乃至政治意味著什么？也許他們再也無法理解金融系統及主要的金融決策。

?

所以，你仍然會有作為這個體系的官方領導的人類總統、總理和銀行家，但他們不再能夠理解這個世界的一個重要組成部分——金融系統，也不再能夠對其進行監管或做出決策。

?

李開復：是的，我認為幾乎每個職業都有這種風險。在金融領域，我提到的AI獲取信息的速度和廣度是人類無法企及的。

?

有一些方面例外，比如，如果你是一名風險投資人，你可能依賴于直覺判斷一個人的微表情真誠與否等；而在企業重組和并購中，你需要深入了解不同人格并進行更深層次的解讀。

?

但是，除了人與人之間的互動之外，在所有基于信息的方面上，我們都無法勝過人工智能。

?

另一個我經常提到的職業，雖然對人工智能來說更加困難，但最終我們也會聊到，就是醫療行業。

?

因為，人工智能醫生將比普通醫生更優秀。醫生將把人工智能作為一個可能的參考，然后，隨著人工智能不斷進步，醫生會失去自信，更加信任人工智能，最終變成一個“橡皮圖章”。

?

盡管我們將責任和醫療失誤的后果歸咎于醫生，但當醫生看到人工智能進步的速度時，最終不可避免地會感到人類在這方面遠不如人工智能準確。

?

那時，醫生將只是蓋章擔保決策逐步轉向由人工智能做出決策。盡管我們最初出于 滑坡效應 的考慮所設定的原則是，所有決策必須由醫生做出，但人工智能進步得更快，相較之下，人們可能會感到自己的智慧黯然失色。

?

赫拉利： 我們已經在軍事領域看到了這種滑坡效應。

?

我一直在密切關注人工智能的使用，在科幻小說和好萊塢電影中，我們習慣性地預期戰爭中的人工智能會以殺手機器人的形象出現，成為實際開火和戰斗的士兵。但這種情況尚未發生，相反，人工智能正在從士兵的上級環節決策過程中進入軍事領域——即關于目標選擇的關鍵決策，決定轟炸和射擊的目標。

?

因為選擇軍事目標需要非常迅速地分析大量信息，所以人工智能將目標選取過程加速了幾個量級。

?

但這當然也引發了一個非常大的倫理問題，如果軍方使用的人工智能告訴你某棟建筑是恐怖組織的總部或者是敵方的指揮部，你是直接相信人工智能并下令轟炸，還是先由人類來驗證這一信息的準確性？

?

也許人工智能會出錯，也許那只是個平民住宅；也許那里確實有敵軍總部，但同時也有平民，他們可能會受到傷害。那么，你該如何選擇？

?

在這場戰爭中，人工智能主要是在一方使用。但在未來的戰爭中，可能就在一兩年內，一旦雙方都擁有人工智能，做出這些倫理決策的空間將會縮小，因為決策迫在眉睫。

?

如果雙方都由人工智能選擇目標，其中一方直接相信人工智能并立即采取行動，另一方卻說：“不，不，不，我們需要人類來驗證。”與人工智能相比，人類非常緩慢。也許在人類花費幾天甚至幾小時驗證人工智能決策正確性的時候，目標已經轉移，或者對方已經先發制人。

?

所以，軍隊將面臨越來越大的壓力，只是簡單地執行人工智能的指令。

?

李開復： 我認為在許多其他問題中，讓人類參與以確保安全的想法通常不具擴展性。這是同樣的問題，在金融市場上，人類的參與會使流程效率降低，可能導致你賺不到那么多錢甚至虧損，在軍事上也是如此。

?

有人會說，讓人工智能做決定可能是錯誤的。但如果我輸掉戰爭或者破產那更糟，所以我將移除這個環節中的人類。所以，我認為我們需要另外的基本安全檢查和防護措施。

?

有時候，技術本身就是防護措施，最好的防護措施是另一種技術。

?

就像當電力被使用時，它會電擊人，然后人們發明了斷路器；當互聯網產生病毒時，電腦中了病毒，就出現了殺毒軟件。

?

這一次要困難得多，但我認為，如果我們這些技術專家鼓勵更多的人去研究防護性技術解決方案，而不僅僅是構建更智能的人工智能，那么一個有效的解決方案或許就會出現。

?

當然，另一種方法是監管。但我認為，很難對一項尚不為人熟知的技術進行監管，所以我認為我們應該雙管齊下。

?

赫拉利： 但是談到監管，特別是我們在唐納德·特朗普當選為美國總統后談論這個問題。他主要是以放松管制為競選綱領，并得到了埃隆·馬斯克的大力支持。

?

我認為，所有關于美國將對人工智能發展施加管制的幻想，以及各國政府之間就人工智能監管達成某種全球協議的幻想，現在看來完全不可能實現。

?

這背后是某種進化邏輯或進化競賽。如果你更關心安全問題，投入更多資金建立防護措施，而不是盡可能快地向通用人工智能發展，那么你就落后了；如果競爭對手更無情一點，完全不顧及安全問題和防護措施，他們就會領先。

?

所以這是一場無情者之間的競賽。整個情況的悖論在于，他們認為自己能夠信任自己的人工智能，但卻無法信任其他人類。然而他們不知道如何控制它或信任它，還樂觀地認為隨著我們開發通用人工智能，我們會找到控制它的方法。

?

這有點一廂情愿，是極其可怕的。

?

另一個可怕的事情是，作為一名歷史學家，我認為新技術的巨大危險不在于最終結果，而在于實現它的過程。

?

因為當一種強大的新技術出現時，沒有人知道如何將其融入社會和政治，也不知道如何明智地使用它。人們會進行實驗，而有些實驗可能會非常非常糟糕。

?

我去了硅谷，和那里的人談論人工智能。他們告訴我：“看，當工業革命開始，人們發明了蒸汽機、火車和電報時，許多人擔心這將造成巨大損害。但你看，它最終創造了一個更好的世界。”

?

21世紀初，人們的生活比19世紀初好得多，這是事實。如果我們只看起點和終點，會看到一條直線上升。但在現實中，在歷史上，這并不是一條直線，它就像過山車一樣充滿了可怕的災難。

?

19世紀，當第一批國家進行工業化時，他們認為建立工業社會的唯一途徑是建立帝國，他們認為要建立工業社會就需要控制原材料和市場，所以必須要有一個帝國。

?

每一個工業國家，從小國比利時到日本再到俄羅斯，都去建立帝國，給全世界數億人帶來了可怕的后果。

?

后來，人們又有了另一種想法，認為建立工業社會的唯一途徑是建立極權主義政權，如納粹德國。

?

因為這個論點是合乎邏輯的。他們認為工業的爆炸性力量，如此巨大的創造性和破壞性力量，只能由一個控制生活各個方面的極權主義政權來管理。這導致了納粹德國的恐怖，導致了世界大戰。

?

現在回過頭來看，我們知道這是一個錯誤，有更好方法來建立工業社會。但實際的歷史進程更像是過山車，而不是一條直線。

?

現在面對人工智能，我們不知道如何建立一個人工智能社會，我們沒有歷史模型可以參考，即便我們最終能找到方法讓人工智能造福人類。

?

我擔心的是，人們在這一過程中會不斷嘗試，或許是建立帝國，或許是建立新的極權主義政權。即使最終找到了解決方案，這一過程中可能有數億人會遭受極大的苦難。

?

三、AI對人類的威脅有3個，其中2個迫在眉睫

?

李開復： 是的，回到人工智能的危險上，我想知道從短期和長期來看，您最擔心的是以下哪些問題？

?

一是使用人工智能對其他人做可怕的事情；二是人工智能并非有意為之，但由于其獎勵函數設計不當而造成傷害，它無意中傷害了人們；三是人工智能本身就變成了危險，并且有做壞事的欲望，就像科幻電影一樣。

?

赫拉利： 第三種是最不令人擔憂的，前兩個問題非常嚴重，它們已經是當前大家都在擔憂的，而隨著人工智能變得更加強大，這將是一個越來越大的威脅。

?

最常見的是，如果惡意行為者使用人工智能做壞事怎么辦？這很明顯，如果恐怖分子利用人工智能制造新的大流行病，這顯然是非常危險的。

?

因此，在公共演講中，我更強調人工智能的第二個危害。不是因為它邪惡或想要接管世界，而是因為它是一種外來的智慧，非常難以控制，可能會產生許多我們沒有預料到的不良后果。

?

我們已經有了一個社交媒體的例子，即，社交媒體平臺由算法控制。公司給了算法一個特定的目標，即提高用戶參與度、增加流量，讓人們花更多時間在平臺上。

?

這聽起來像是個好目標，這對公司有好處，甚至對人們也有好處。但實際情況是，負責社交媒體的算法決定了你在TikTok上看到的下一個視頻將是什么。

?

算法發現了一種破解人類思維的方法，即如果目標僅僅是吸引人們的注意力，最簡單的方法就是按下大腦中的仇恨按鈕、憤怒按鈕或恐懼按鈕。從進化的角度來看，這些事情會立即抓住人們的注意力，但這對心理健康和社會健康都是毀滅性的。

?

算法本身并不邪惡，它們沒有試圖傷害人們，但這帶來的結果對人類社會非常不利，而且這種情況可能會更大規模地發生。

?

想想人類是如何發展我們的目標的，我們從哪里獲得生活中的目標？有時目標是從上至下的，比如有人給你一個目標。你在一家公司工作，CEO告訴你，這是你的目標，但大多數時候，這些目標是從下至上形成的。

?

人類可以被視為帶有非常基礎獎勵機制的算法，即痛苦和快樂。我們在生活中經歷的一切，最終都只是身體的感覺。如果是快樂的感覺，我們就想要更多；如果是不痛苦的感覺，我們就想要減少，希望這種感覺消失。

?

從這些微小的心理原子中，整個人類世界被構建起來。如果你思考，為什么人們會參與戰爭？人們做每件事的原因，歸根結底，這一切都是關于痛苦和快樂。

?

如果我們能夠在人工智能中設計一個類似于痛苦和快樂的獎勵系統，那么其他一切都可以從中構建出來，人工智能甚至可能為了體驗這種快樂而發動戰爭。
現在聽起來很荒謬，為什么人工智能會為了體驗這種獎勵機制而發動戰爭？但這正是人類在做的事情。

?

歸根結底，這些都是人類系統在追求快樂、避免痛苦并進行復雜的計算，認為如果我們要體驗快樂、避免痛苦，就必須發動戰爭。

?

四、AI再智能也不應被視為人類，因為人性藏在我們的意識中

?

李開復： 我曾經在寫《AI未來進行式》的時候也有提到，人工智能將迅速進步。在我寫書的時候，我沒有預料到生成式AI在過去兩年中會進步得這么快。但無論人工智能進步多快，作為人類，我們有一些內在的特質是不會改變的。

無論人工智能多么擅長模仿我們，像我們一樣說話、寫作，但從根本上說，經過數千年的進化，我們的?DNA要求我們與他人建立聯系。

即使人工智能能夠模仿這種聯系，在現實世界中，我們仍然渴望與人見面、交談和相愛，我們感受到溫暖，雖然我們并不完全理解這種感覺源自我們大腦或心靈的哪個部分，但這對我們來說非常重要。

我曾希望，并且現在仍然希望，這是我們能夠堅守的東西之一，是我們能做到而人工智能做不到的。

?

所以，作為世界上最優秀的歷史學家之一，我想知道你對人類進化中的這部分有什么看法？

?

你認為我們能否堅持這一點，無論人工智能如何模仿，人們還是希望體驗那種人與人之間，尤其是面對面的信任、聯系和愛。這是否可以成為我們追求的方向，使我們的生活更有意義？

?

即使人工智能做了很多我們的工作，我們存在的意義不僅依賴于工作，盡管工作仍然重要，但更重要的是我們與家人和朋友之間的聯系。你認為我們能否堅持這一點，無論生成式人工智能發展得有多快？

?

赫拉利： 我認為這極其重要。真正的問題是，我們想從關系中得到什么？

?

如果人們非常以自我為中心，比如我想建立一段關系，只是為了讓另一個人滿足我的需求，我的物質需求、浪漫需求、社交需求，那么最終人工智能可能比任何人類更能滿足我們的需求。

?

但這并不是真正的關系，而是自我中心的，是極端自私的。

?

真正的關系是，我在乎另一個實體，另一個人的感受。

?

現在，人工智能沒有感情，它們可以模仿感情，它們可以理解我的感情，但它們自己沒有感情。這里有一個把“智能”與“意識”混為一談的重大誤解。我認為，隨著人工智能越來越擅長模仿情感和感覺，未來幾年內，將會出現大問題，因為存在強烈的商業動機去創造能夠模仿情緒、欺騙人們相信人工智能具有意識、感知和感情的人工智能技術。

?

很多人會堅持認為人工智能也有意識，有感情，因此應該在法律和國家層面上，被視為擁有權利的個體。我認為這將成為一個重大的政治問題。

?

也許一些國家會承認人工智能為擁有權利的個體，而其他國家則會說，“不，它們不是人，沒有權利”。那些承認人工智能為個體的國家與不承認的國家之間的政治緊張關系，甚至會比今天圍繞人權等問題的緊張關系更加嚴重。

?

李開復： 我確實希望我們不要過多地將人工智能視為人類，無論是給予公民身份還是其他形式的認可。

?

我們確實創造了人工智能，它在某種程度上是一個黑箱，但肯定沒有內置的意識。人性應該更多地定義為意識，而不是智能，因為人工智能顯然具有智能。

?

如果僅僅是因為智能，五年后，我們可能不得不給所有人工智能公民身份，這顯然是不對的。

?

我經常思考的另一個問題是，盡管我們討論了人工智能的危險性，但另一個現實是人工智能變得如此強大，以至于人們將開始失去工作。

?

所以我希望人們會逐漸意識到，生活不僅僅是為了工作，特別是簡單、重復性的工作。

?

人工智能可能會成為一個促使人們重新定義自己和尋找人類命運的推動力，但我并沒有一個明確的計劃來實現這一目標。

?

作為一個歷史學家，您是否對我們在短時間內能夠實現如此巨大的轉變，對這個世界的人性持樂觀態度？

?

赫拉利： 有樂觀的一面，也有悲觀的一面。

?

樂觀的一面是，我認為我們會越來越意識到對我們來說重要的不是智能，而是意識。到目前為止，我們是地球上最聰明的生物，所以我們為自己的智能感到自豪，并專注于智能的發展。

?

現在，由于人工智能正在變得比我們更聰明，這迫使我們重新思考人類的本質。我認為正確的結論是，人工智能會更聰明，但真正重要的是意識，因此，我們應該更多地投資于發展我們的意識。

?

我個人而言，我每天花兩個小時冥想，每年我會進行一次為期30到60天的長時間冥想靜修，以探索和發展我的意識，而不是我的智能。我希望人們能以不同的方式更多地投資于此，所以，意識的提升有著巨大的發展空間。

?

如果我們做出這樣的投資，我認為我們會很好，讓人工智能承擔許多工作，如果我們發展我們的意識，世界會變得更好。

?

我看到的一個大問題是，要自由地發展你的意識、關系和社群等，首先需要你的基本需求得到滿足。現在，如果人工智能越來越多地取代工作，誰來提供你的基本需求？

?

在非常富裕的國家，政府可以對大型人工智能公司征稅，并用這筆錢為每個人提供基本服務和收入。但如果你放眼全球，這才是問題所在。

?

落后國家會發生什么？假設美國或中國在人工智能競賽中領先，即使許多公民失去工作，政府也有巨大的新資源來照顧他們。

?

但在印度尼西亞會發生什么？在尼日利亞會發生什么？在阿根廷等落在了后面的國家會發生什么？我不認為像特朗普這樣的領導人會讓美國政府從美國征稅，然后說，好吧，我現在把這些錢給在尼日利亞失去工作的人民，為他們提供基本服務，這非常不現實。

?

所以，如果我們能夠解決這個問題，我認為通過不斷增加對人類意識的投資，我們可以創造一個更好、更美好的世界，即使失去了許多工作，但做到這點將會非常艱難和危險。

?

李開復： 我認為目前，人們對人工智能的強大之處缺乏足夠的了解和認識。要得出一個好的結論，人們必須首先理解機會有多大，挑戰有多嚴峻。

?

其次，我認為我們應該鼓勵人們在開發人工智能應用時，考慮到人的因素。人工智能的存在是為了幫助人類，不僅僅是賺錢，也不僅僅是成為一個新的物種，盡管這些事情終將發生。

?

我還想鼓勵進入人工智能領域的人們認真思考，他們能否做一些使人工智能安全的工作，使人類因此變得更好，而不僅僅是思考我如何構建一個更大的模型，我如何使人工智能更智能，我如何打敗其他人。

?

我鼓勵那些利用和控制人工智能的企業，花費更多的時間和精力，思考他們的社會責任。因為權力越大，責任越大。現在控制人工智能的人，控制人工智能的公司，基本上對世界，對人類種群，負有最大的責任。

?

我希望人們能夠放下自負和貪婪，至少花部分時間，思考如何為了善的目的使用人工智能，確保人工智能的存在是為了輔助和幫助人們，而不是制造無法解決的問題。