第三章 人機大戰：AI真的會挑戰人類？
李開復、王詠剛提示您：看後求收藏（第三章 人機大戰：AI真的會挑戰人類？,李開復曾發表觀點稱:人工智慧會在很多領域,李開復、王詠剛,大文學小說網），接著再看更方便。
請關閉瀏覽器的閱讀/暢讀/小說模式並且關閉廣告遮蔽過濾功能，避免出現內容無法顯示或者段落錯亂。
計算機在德州撲克領域取得的成功，讓包括我在內的人工智慧研究者都非常振奮，這主要有以下兩個原因：
·和圍棋不同，在德州撲克的牌桌上，人工智慧與人類選手一樣，都只能看到部分資訊。這種情況下，沒有所謂的唯一的、最佳的打法。
·Libratus基本是從零開始學習德州撲克策略，且主要依靠自我對局來學習。這對利用人工智慧解決更為廣泛的現實問題意義重大。
那些擔心人工智慧威脅的悲觀主義者可能會從Libratus的勝利中看到更為現實的風險。比如，機器曾在比賽中用大賭注和新策略嚇退、矇騙過最精明的人類牌手，這些方法也許會被精明的商人用於人類的商業談判。一旦這些人工智慧演算法被犯罪組織利用，是否會出現災難性的後果？擔心出現超人工智慧的人還會進一步追問，一旦機器有了自我意識，機器是否會像德州撲克牌桌上的AI演算法一樣，用各種策略誘騙、恐嚇人類呢？
樂觀主義者則更多地看到Libratus的演算法本身對於人工智慧幫助人類解決實際問題的巨大價值。如果機器能夠在自我學習中不斷完善對於一種特定策略的掌握程度，能夠在不熟悉或缺乏全部資訊的環境中不斷試錯並積累經驗，那麼，機器顯然可以勝任更多的人類工作。比如，機器可以幫助人類制訂更為複雜的醫療計劃，可以在人類感到難以決策的領域，比如商業活動、城市規劃、經濟調控甚至戰爭指揮等，充當人類的“參謀”。也許，未來每個人都可以依靠強大的計算機和人工智慧程式，成為運籌帷幄、決勝千里的戰略家。
<h3>
AI小百科 弱人工智慧、強人工智慧和超人工智慧</h3>
我們談到了人類對人工智慧的某種擔心，很多人最想知道的是：今天的人工智慧到底有多“聰明”？人工智慧到底會發展到什麼程度？什麼樣的人工智慧會超出人類的控制範圍，甚至給人類帶來威脅？
要回答這樣的問題，我們也許需要先廓清一下有關不同層級人工智慧的幾個基本定義。
弱人工智慧（Weak AI）
也稱限制領域人工智慧（Narrow AI）或應用型人工智慧（Applied AI），指的是專注於且只能解決特定領域問題的人工智慧。毫無疑問，今天我們看到的所有人工智慧演算法和應用都屬於弱人工智慧的範疇。
Alpha Go是弱人工智慧的一個最好例項。Alpha Go在圍棋領域超越了人類最頂尖選手，笑傲江湖。但Alpha Go的能力也僅止於圍棋（或類似的博弈領域），下棋時，如果沒有人類的幫助（還記得Alpha Go與李世石比賽時，幫機器擺棋的黃士傑博士嗎？），Alpha Go連從棋盒裡拿出棋子並置於棋盤之上的能力都沒有，更別提下棋前向對手行禮、下棋後一起復盤等圍棋禮儀 了。
一般而言，限於弱人工智慧在功能上的侷限性，人們更願意將弱人工智慧看成是人類的工具，而不會將弱人工智慧視為威脅。
但少數評論者依然認為，即便是弱人工智慧，如果管理、應對不善，也會帶來致命的風險。比如，發生在2010年5月6日的美股市場的“閃跌”（Flash Crash）事件，其起因就混合了人類交易員的操作失誤和自動交易演算法的內在風險，而當時已經大量存在的，由計算機程式控制的自動高頻交易，則被一些研究者認為是放大市場錯誤，並最終造成股市瞬時暴跌的幫兇。除了金融市場外，能源領域特別是核能領域裡使用的弱人工智慧演算法如果設計和監管不當，也有可能為人類帶來災難。類似地，自動駕駛汽車上使用的人工智慧演算法顯然也存在威脅人類生命安全的隱患。
但無論如何，弱人工智慧屬於相對容易控制和管理的計算機程式。總體來說，弱人工智慧並不比我們使用的其他新技術更為危險。設想一下，人類在用電時、開車時或者乘坐飛機時，不也要面對客觀存在的風險因素嗎？對於弱人工智慧技術，人類現有的科研和工程管理、安全監管方面的經驗，大多是適用的。一臺可以自動控制汽車行駛的計算機和一臺可以將重物吊起的起重機，二者都需要嚴格的質量控制流程與安全監管策略。自動駕駛程式中的錯誤可能導致車禍，起重機結構設計上的錯誤也可能導致起重機的傾覆，二者都會造成人員傷亡。
也就是說，弱人工智慧在總體上只是一種技術工具，如果說弱人工智慧存在風險，那也和人類已大規模使用的其他技術沒有本質的不同。只要嚴格控制，嚴密監管，人類完全可以像使用其他工具那樣，放心地使用今天的所有AI技術。
強人工智慧（Strong AI）
強人工智慧又稱通用人工智慧（Artificial general intelligence）或完全人工智慧（Full AI），指的是可以勝任人類所有工作的人工智慧。
人可以做什麼，強人工智慧就可以做什麼。這種定義過於寬泛，缺乏一個量化的標準來評估什麼樣的計算機程式才是強人工智慧。為此，不同的研究者提出了許多不同的建議。最為流行、被廣為接受的標準是前面我們詳細討論過的圖靈測試。但即便是圖靈測試本身，也只是關注於計算機的行為和人類行為之間，從觀察者角度而言的不可區分性，並沒有提及計算機到底需要具備哪些具體的特質或能力，才能實現這種不可區分性。
一般認為，一個可以稱得上強人工智慧的程式，大概需要具備以下幾方面的能力：
1）存在不確定因素時進行推理，使用策略，解決問題，制定決策的能 力；
2）知識表示的能力，包括常識性知識的表示能力；
3）規劃能力；
4）學習能力；
5）使用自然語言進行交流溝通的能力；
6）將上述能力整合起來實現既定目標的能力。63
基於上面幾種能力的描述，我們大概可以想象，一個具備強人工智慧的計算機程式會表現出什麼樣的行為特徵。一旦實現了符合這一描述的強人工智慧，那我們幾乎可以肯定地說，所有人類工作都可以由人工智慧來取代。從樂觀主義的角度講，人類到時就可以坐享其成，讓機器人為我們服務，每部機器人也許可以一對一地替換每個人類個體的具體工作，人類則獲得完全意義上的自由，只負責享樂，不再需要勞動。
強人工智慧的定義裡，存在一個關鍵的爭議性問題：強人工智慧是否有必要具備人類的“意識”（Consciousness）。有些研究者認為，只有具備人類意識的人工智慧才可以叫強人工智慧。另一些研究者則說，強人工智慧只需要具備勝任人類所有工作的能力就可以了，未必需要人類的意識。
有關意識的爭議性話題極其複雜。本質上，這首先會牽扯出“人類的意識到底是什麼”這樣的難解問題，從而讓討論變得無的放矢。以人類今天對感情、自我認知、記憶、態度等概念的理解，類似的討論會牽涉哲學、倫理學、人類學、社會學、神經科學、電腦科學等方方面面，短期內還看不出有完美解決這一問題的可能。
也就是說，一旦牽涉“意識”，強人工智慧的定義和評估標準就會變得異常複雜。而人們對於強人工智慧的擔憂也主要來源於此。不難設想，一旦強人工智慧程式具備人類的意識，那我們就必然需要像對待一個有健全人格的人那樣對待一臺機器。那時，人與機器的關係就絕非工具使用者與工具本身這麼簡單。擁有意識的機器會不會甘願為人類服務？機器會不會因為某種共同訴求而聯合起來站在人類的對立面？一旦擁有意識的強人工智慧得以實現，這些問題將直接成為人類面臨的現實挑戰。
超人工智慧（Superintelligence）
假設計算機程式透過不斷發展，可以比世界上最聰明、最有天賦的人類還聰明，那麼，由此產生的人工智慧系統就可以被稱為超人工智慧。
牛津大學哲學家、未來學家尼克·波斯特洛姆（Nick Bostrom）在他的《超級智慧》一書中，將超人工智慧定義為“在科學創造力、智慧和社交能力等每一方面都比最強的人類大腦聰明很多的智慧”64。顯然，對今天的人來說，這是一種只存在於科幻電影中的想象場景。
與弱人工智慧、強人工智慧相比，超人工智慧的定義最為模糊，因為沒人知道，超越人類最高水平的智慧到底會表現為何種能力。如果說對於強人工智慧，我們還存在從技術角度進行探討的可能性的話，那麼，對於超人工智慧，今天的人類大多就只能從哲學或科幻的角度加以解析了。
首先，我們不知道強於人類的智慧形式將是怎樣的一種存在。現在去談論超人工智慧和人類的關係，不僅僅是為時過早，而是根本不存在可以清晰界定的討論物件。
其次，我們沒有方法，也沒有經驗去預測超人工智慧到底是一種不現實的幻想，還是一種在未來（不管這個未來是一百年還是一千年、一萬年）必然會降臨的結局。事實上，我們根本無法準確推斷，到底計算機程式有沒有能力達到這一目標。
顯然，如果公眾對人工智慧會不會挑戰、威脅人類有擔憂的話，公眾心目中所擔心的那個人工智慧，基本上屬於這裡所說的“強人工智慧”和“超人工智慧”。
我們到底該如何看待“強人工智慧”和“超人工智慧”的未來？它們會像Alpha Go那樣，以遠超我們預料的速度降臨世間嗎？
<h2>
奇點來臨？</h2>
未來學家和科幻作者喜歡用“奇點”（Singularity）來表示超人工智慧到來的那個神秘時刻。
沒有人知道奇點會不會到來，會在何時到來。
2015年年初，一篇名為《一個故意不透過圖靈測試的人工智慧》的翻譯長文在微信朋友圈、微博和其他網際網路媒體上悄然流傳開來，絕大多數讀過這篇文章的人都會經歷一個從驚訝到惶恐再到忐忑不安的心路歷程。這篇文章的作者是“Wait But Why”網站的創始人蒂姆·厄班（Tim Urban），文章原名為《AI革命：通向超人工智慧之路》65。
蒂姆·厄班在這篇著名的長文中，基於一個顯而易見的事實來討論人類科技的發展規律：人類科技發展是越來越快的，呈現出不斷加速的勢頭。
比如說，如果拿今天的人類生活與1750年前後進行比較，我們會發現，其間的變化之大幾乎只能用“翻天覆地”來形容。假設我們利用時光機器把1750年的某個古人帶到今天，他會看到什麼？“金屬鐵殼在寬敞的公路上飛馳，和太平洋另一頭的人聊天，看幾千千米外正在進行的體育比賽，觀看一場發生於半個世紀前的演唱會，從口袋裡掏出一個黑色長方形工具把眼前發生的事情記錄下來……”這一切足以把一個1750年的古人嚇得魂飛魄散！
本章未完，點選下一頁繼續閱讀。