本文系網易智能工作室（公眾號smartman163）出品。 聚焦AI，讀懂下一個大時代！

【網易智能訊9月8日消息】特拉斯的馬斯克和Facebook的扎克伯格關于人工智能的辯論是近日來的社會各界的一大關注點，而關于人工智能是否應該受到監管的話題也引發了有美版知乎之稱的Quora(果殼問答網站）大神之間的互懟。以下就是兩位著名Quora大神之間的見解。

| Xavier Amatriain ：我不是不屑一顧的內部人士！AI不用監管

前ML研究員、目前在Quora負責工程技術的Xavier在Quora上表示：人工智能應該受到監管嗎？答案是不。我知道最近的時代發展和相關的炒作對人們來說可能是可怕的，特別是因為與人工智能相關的世界末日場景已經成為我們幾十年來流行文化的一部分。我也明白，為了解決Ben Y.Zhao的擔憂，我的觀點可能會被歸為那些“不屑一顧的內部人士”的觀點。然而，我認為至少有三個理由支撐我們不用監管人工智能。

1）人工智能是一項基礎技術

人工智能是一個研究和開發領域。你可以將它與量子力學、納米技術、生物化學、核能甚至數學進行比較，但只是舉幾個例子。基礎研究領域或技術領域不應受到監管。它們都可能有可怕的或負面的應用程序，但在基本層面上進行監管毫無疑問將阻礙其發展，其中一些可能會產生有利的影響，而這些影響比我們所想象的更為積極。

從這個角度來看，也許目前唯一受到高度監管的基礎研究領域是醫學。當然，醫學已經發展了好幾個世紀了，它有內在的問題，因為醫學需要直接在人類身上或至少在生物身上進行測試。即使考慮到這一點，人們也普遍認為，在醫學領域的強有力監管使創新變得極其困難，成本高昂。正因為如此，整個醫療領域在基礎技術進步方面顯然落后多年。

因此，人工智能不應該受到監管。應該嚴格監管的是它在危險領域上的應用，比如槍支或武器。

2）現在談論監管還為時過早

如果你問如今的專家，在人工智能中應該如何進行監管，答案必然是“我們也不知道”。如果你看一看馬斯克未來生活研究所的研究，你會發現所有的項目都是研究性質的（比如如何更好地估計自動駕駛汽車的概率），而且大多數都還處于起步階段（這個項目的描述是關于如何教授機器學習道德準則）。

老實說，如果我們必須要在短時間內對人工智能進行監管，我們就不知道該怎么做了。更糟糕的是，我們可以讓完全不了解這項技術的人來做這件事。如果我們將這一技術與之前的人工智能技術相結合，我們就有了解決這個災難的方法。這比讓政府在80年代監管互聯網還要糟糕。

3）在什么層面上進行監管？

好吧，讓我們假設之前的兩個原因還未能完全說服你，你還是堅持要監管人工智能。我的問題是：監管應該達到什么程度？你會希望美國政府在總體上對其研究和部署進行監管，而其他國家（包括朝鮮）自由地繼續創新和部署最新進展嗎？顯然不是。我猜，像馬斯克這樣提議監管的人甚至還沒有考慮過這個問題，或者許多人考慮在聯合國層面上制定一項監管規定？那，祝你好運。

就我所知，健康問題是國際監管水平的唯一一個例子。世界衛生組織曾花了10多年的時間，設法說服世界上大多數國家簽署《國際衛生條例》。包括美國在內的許多國家都簽署了但仍持有保留意見。

所以，總結一下，人工智能不應該受到監管，因為它是一項基礎技術，在這一點上，我們不知道該如何監管，也不知道如何獲得足夠的國際支持來實現這一點。不過，要公平地對待馬斯克和其他一些持有相同觀點的人，考慮到它可能需要50年的時間才能完成所有的工作，現在就有一些呼聲來推動這一目標可能還不錯。我只是希望不要過早地聽到他們的聲音，因為我們最終會陷入這樣一種情況：沒有任何線索和相關信息的人，會在人類發展的關鍵領域破壞這項創新成果，從而阻止我們走向更美好的未來。

| Ben Y.Zhao： 亡羊補牢為時未晚，AI 監管是個好主意且有道理

來自芝加哥大學計算機科學的教授Ben Y.Zhao，他在Quora上回答：我使用ML語言，用ML構建系統，并嘗試在ML中找出漏洞。無論怎么聯想，我都不是ML語言專家。很有可能我理解“足夠危險”。但對于這樣的問題，還不清楚誰是回答這個問題的最佳人選：那些真正的專家？但是他們可能會因自己對空間的詮釋而產生偏見。還是對這個領域知之甚少的人？而他們對問題的看法有完全錯誤的印象。

當我在耶魯大學讀本科的時候，我參加了一個人工智能課程，這并不是什么神秘的東西，在某種程度上，它有點讓人失望。我帶著對如何構建“智能”的希望參加了這門課程，并對如何“解決”問題提出了一個初級的理解，即把所有事情都看成是一個巨大的搜索問題，例如，你如何通過繪制出所有可能的步數組合來下棋，并選擇能最大化獲勝幾率的路徑，或者通過某種指標獲得一個有利的位置。如今的統計機器學習和深層神經網絡是完全不同的。

我想我對基本的ML語言分類器以及如何使用它們有了更合適的理解。但和我們大多數人一樣，我對深度神經網絡DNNs（神經網絡CNNs、遞歸神經網絡RNNs、LSTMs等）在某些特定問題上的表現，并沒有很好的把控能力。在相當長的一段時間里，在這個問題上有著對立的兩種意見，比如馬斯克和Ng/Dean/…我發現自己被困住已經有一段時間了。這種情況一直持續到杰夫?迪恩來到加州大學圣芭芭拉分校(UCSB)，并向一位杰出的講師介紹了谷歌的ML語言/人工智能項目。除了很酷的應用程序之外，在我的腦海中還有兩件事是:a）付出大量的努力來加速DNN模型訓練數據（“傳感器”）和b自我校正/優化模型（盡管這部分在早期階段是公認的）。

因此，從較高的層面來看，我的直覺是，人工智能監管是個好主意。ML專家正在努力解決一些問題，這些問題將會加速模型的學習速度，而且能夠通過優化那些不理想的性能問題幫助模型進行自我提升。把兩者結合起來，就好像你擁有了一輛失控的火車的全部特質。從保守的角度來看，監管是有道理的，因為在最壞的情況下也有可能意味著世界末日。如果我們想要做“正確”的事情，我們需要給它時間。食品及藥物管理局(FDA)，聯邦通信委員會(FCC)，或者其他任何監管機構（如果這確實是一個恰當的類比），都花了很長時間才適應今天的情況。任何監管人工智能的嘗試都需要付出巨大的努力來教育一些政策制定者，并且花更多的時間來理解“監管”在人工智能中究竟意味著什么。

我多少有些驚訝于一些相反的觀點是多么的不屑一顧。普遍的回答是“我們離世界末日還很遙遠，比如天網，如今世界上還有很多更重要的問題。”但我覺得這種說法缺乏說服力。幾十年來，安全部門一直都在犯這個錯誤。事后卻不能再提高對安全性的考慮。然而，系統構建者經常忽略這一點，并構建具有重大設計缺陷的系統。即使在今天的人工智能領域，人工智能/ML的負面研究（使用人工智能或對抗性的ML）也遠遠落后于核心的ML工作。對于像我這樣的安全工作人員來說，這是一件好事（我們在CCS?2017中有一篇論文即將發表，它展示了如何將深度神經網絡DNNs作為一種強大的武器來生成虛假的在線評論，而這些評論是人類用戶和軟件都無法檢測到的，我們還有其他許多有趣的項目正在進行中）。然而，與其他計算系統不同的是，奇異性問題最糟糕的故障模式是從災難性模式到世界末日型模式不等。因此，如果它需要一些過度謹慎的措施，也可能是值得的。“我們還有其他更重要的問題”的論點也失敗了，因為它假定了一種不存在的資源理性利用和流動性問題。國會不會在氣候變化問題上變得更有效率，因為它釋放了監管人工智能的資源。

我個人擔心的并不是天網或黑客帝國，但這也是不可否認的問題。我更擔心的是，這種復雜的深度神經網絡DNNs會自動優化成無法預測的結果，而用戶或工程師無法找到這些漏洞，卻僅僅只是因為它們的不透明性。一旦部署到位，它們很容易在熟練的攻擊者或隨機輸入的情況下產生輸出，而這個輸出的后果不堪設想。使用人工智能的強大結果似乎總是超過對人工智能的安全性理解，例如，面部識別在中國被廣泛應用，但我們仍在寫論文，討論如何將一副眼鏡或面部標記轉化為另一種識別結果。

所以我想我的答案是肯定的，我認為人工智能的監管是個好主意，而且很可能是不可避免的。無論是為了避免奇點，還是僅僅為了管理不善理解和廣泛部署的人工智能工具，我認為監管是必要的，而且需要盡快開始，以便有機會跟上人工智能/ML領域的創新。

看了兩位大神對于人工智能是否應該受到監管的回答，你更贊同哪位呢？(選自：HUFFPOST 編譯：網易見外智能編譯平臺 審校：Simone)

關注網易智能公眾號（smartman163），獲取人工智能行業最新報告。