Geoffrey Hinton說將來人工智慧將比人類聰明，值得擔憂一下

 他說人工智慧有兩個優勢，讓他覺得人工智慧將比人類聰明。

一、演算法algorithm

沒有理解錯誤的話，Hinton好像有試著研究生物基礎的演算法，發現當規模擴大時，數位智慧的表現就會好很多（也就是說個別人類有智慧的極限，但是數位智慧似乎可以一直擴張下去）

二、快速大量複製傳播

當一個人工智慧利用某個領域素材訓練好了以後，這些神經網路連結之間的權重，可以輕易、快速、大量的複製到其他機器上。但是你就算是一個很有智慧的人，也很難把你所擁有的智慧轉移到另一個人身上。

我覺得第二點我有深深的體會。我指的倒不是智慧這件事。很久以前就發現語言與其他人際交流的工具非常非常侷限，你連看完電影覺得很好看的感受都很難傳遞給另一個沒去看的人。

上面那兩點看起來好像科幻小說裡的場景，人工智慧的智慧程度以無法想像的巨大超越了個體人類，（通常在賽博龐克動漫裡這個人工智慧仍然需要用龐大高聳的體積來映襯出它的偉大）變成了新的神明，人類無法理解神明的種種決定，但是相信更高等的智慧會做出最有智慧的決定，因此只能遵守。

大量複製則讓我想到另一種賽博龐克的敘事，雖然大量快速複製傳播讓每一台機器人都有遠勝於個體人類的能力，但是也因為大量快速複製，所以所有的機器人都存在一個致命不為人知的弱點，而這是人類勝利的關鍵。

我很訝異我在認真想像這些事情在真實世界裡的樣子。我究竟活在什麼年代？