人工智能比核武器更危險

　　艾倫·圖靈被稱為人工智能之父，他創造了著名的圖靈實驗，來測試機器是否具有智能。英國數學家約翰·古德曾和艾倫·圖靈一起共同研究課題。關于超級人工智能，約翰·古早在1965年就曾發出過警告。他宣稱：機器人或將是人類的最后一個發明，其未來發展可超越人類自身，隨著智能爆炸的出現，超級機器人將遠超人類智慧。除非能夠保證它絕對服從和受控，否則第一臺超級智能機器絕對是人類最不應該擁有的發明。著名物理學家斯蒂芬·霍金也曾宣稱：“人工智能的全面發展可能預示著人類的終結。特斯拉老板埃隆·馬斯克認為，人工智能可能比核武器更危險。”

　　我們目前人工智能所取得進展和成功，如自動駕駛、下棋、機器視覺、專家系統等，在科學家的眼睛里都還屬于“弱人工智能”，距離超級智能還有相當距離。但人類在好奇、欲望與資本、商業的裹挾下，必定會朝著超級人工智能越走越近。

　　那么超級智能，也就是生命3.0什么時候會實現呢？泰格馬克表示還不確定，可能是幾十年、幾百年，也可能因為某些人為的因素導致它永遠都不出現。但人工智能在乘數效應的推動下會變得越來越強大，到了那時，留給人類試錯的空間將越來越小。當人類研發出核武器之后，必須就限制核武器達成公約，因為核戰爭一旦打響，人類的家園地球就可能面臨毀滅。核戰爭不會給人類第二次機會，人工智能也是如此，當它變得更為強大之后，將不得不考量它是否會給人類帶來傷害，因而必須達成一定的操作規則來確保其目標與人類一致。

　　為了防止人工智能被濫用，泰格馬克與未來生命研究所的8,000名科學家共同發布了《阿斯洛馬人工智能原則聲明》，表明 “超級人工智能只能在廣泛共享的倫理理想下發展其服務，而且其發展應該是為了增加全人類的福祉而不是為了某個國家或組織的利益……應該避免致命性自主武器領域的軍備競賽。”

沒有意識的人工智能

　　對于未來超級人工智能的威脅也有人不以為然。美國著名經濟學家、未來學家、喬治·吉爾德認為，人工智能無法與人類智能競爭，因為人工智能離不開為其提供符號系統和語言的人類思維，是人類規劃了這一切。無論人工智能在訓練中所吸收的信息是文字還是像素，這一切都是人為組織的結果。人為人工智能提供并制定了大數據，并在其中找到數值相關性。是人建立了目標、獎勵方案和目標序列，使人工智能能夠迭代、優化并最后總結出一個解決方案。人工智能由輸入組成，通過復雜的算法集進行輸出，它根本無法思考。

　　而且人的思維是有意識的、主動的、有想象力、有創造力的，但人工智能本身缺乏意識，它是決定論順序的組成部分，缺乏喜出望外或使人驚訝的能力。

　　一臺以千兆赫的速度運行的計算機，即便是在玩國際象棋或圍棋這樣的決定論游戲時，也只不過是一臺機器而已。人工智能是計算機算法的輸出，這些算法由精心安排的電子元素組成。這些元素通過布爾邏輯方案、樹形結構和“神經網絡”獲得各自的含義。

　　真如喬治·吉爾德所言，人類的意識是獨特的嗎？如果意識是人類才有的主觀體驗，那么，人工智能就不具備。但也有研究表明，人造意識是有可能產生的。如果是這樣，人類確實應該謹慎對待人工智能的發展。

　　微軟亞洲研究院第四任院長洪小文也一直在研究專注人工智能的發展。他表示，人工智能發展到現在已經可以做很多事情，但要達到人的智慧還有很長的路要走，目前都以邏輯測試為主，強調理性，固然這符合人類對智慧的定義，但人類還有非常豐富的情感、情緒、同理心等等。也正因為這樣，讓人工智能可以繼續作為一門非常值得研究的學問。

　　至于人工智能會不會讓機器取代人類甚至奪取世界，洪小文表示，要相信人類的智慧，人工智能與移動技術、互聯網技術、PC技術并無本質不同，都是一種技術。人類研發技術和機器都是為人類服務的。人是世界上最聰明的生物，人的智慧一定會把人工智能用在正途，做可以對人類產生最大益處的事。有人可能會把這些東西拿去做壞事，但那是壞人，我們有法律，我們有智慧可以界定和應對。

長大之后取代了你

　　對于越發強大的人工智能，人們既興奮、又恐懼。興奮的是它確實給我們帶來了很多的便利、快捷、享受和美好體驗；同時又恐懼，怕不能很好的駕馭它，給人類帶來麻煩，長大之后可能就會取代了你。無論怎樣，人工智能時代已經降臨，我們有幸成為了這個時代的見證者，未來到底會變成什么樣，誰也無法確定。