憂機械人「智慧」失控 規管趁早

2017-07-12

我們心目中的機械人是怎樣的？外表完美，同時準確地按我們的指令工作；什麼都懂，什麼都能夠做到；能幫助我們解決問題；能逗我們開心，甚至讓我們在和它們相處的過程中忘記了它們是機械人。

看I, Robot、Ex Machina等電影，我們早就見識過有自我意識的機械人有多可怕。人工智能令它們超越人類預先教曉它們的知識和邏輯，實用方便，但同時因為種種原因也可能讓它們衍生危害人類的想法和能力。

分行動智慧型兩類

現實生活中，現時的機械人開發屬於非常初期的階段，適合開始進行規管。規管的範圍很重要，如果我們假設家裡的雪櫃都可以殺人，劃一規管所有機械人，什麼都要防，這樣會很可笑。在制定怎樣規管之前，先多了解它們的背景吧。

在機械人開發者角度看，機械人可以分為兩類：行動型和智慧型。行動型主要做一個重複的工作，或者特定的高危、高難度工作；智慧型主要是集中跟用家互動。以往，開發行動型機械人較多，世界上第一部機械人Pigeon， 是一隻會飛的木製雀仔，它便屬於這一類型。

行動型機械宜設遙距指令關閉

隨着各IT界巨頭大力投資在智能電腦上，包括Google DeepMind、IBM Watson、百度Minwa、Microsoft Project Oxford等等，開發者設計智慧型的機械人便更為簡單、便宜。

智慧型的機械人更不像行動型只會做預設的事情，所以同一份的開發成本，可以讓它們應付多種不同類型的客戶及場景，因此廣受商家歡迎和更積極投資。

智慧型的機械人有學習能力，令它們在跟玩家互動過程變得更有趣味和令人驚喜。未來幾年，愈來愈多這類的機械人會面世。正因為它們以超高速開發，學習東西的範疇又會比起行動型更廣，規管者需要重點關注它們。

比如說，一般機械人只會有兩個開關掣，若遇上機械人失控，人們要走到機械人身邊或者主機才能將機械人關掉。

規管這類機械人，必須容許多個授權者從機械人身上及遙距指令下關掉，也是其中一種方法。這類型的規管，特別應該用在軍用機械人上。

由1984年的電影The Terminator到2014年的電影Transcendence，我們一直都相信機械人開發是需要受管制的，只是未夠決心全球落實。正如電影Spider-Man裡說到，能力愈大責任愈大。科技就是讓人的能力變得愈強大的工具，開發者和機械人具有無限的潛能，培養他們良好的品德和價值觀，將會是讓人類和機械人和平共處的關鍵。 

原文：

http://paper.wenweipo.com/2017/07/12/ED1707120035.htm