假如醫學家成為上帝（6）

觀眾一定會問，人類對機械人有什麼責任？影片中電子公司的老闆並不滿足於已經開發出來的智能機械人，而要進一步開發出一個會愛的機械人，一個有心智和情感的機械人，這種機械人擁有前所未有的潛意識，充滿暗喻、直覺和自發性推理力的內心世界。當這個提議被提出的時候就遭到質疑。為什麼？那就是」斯皮爾伯格問題「：如果一個機械人能真的去愛一個人，那麼這個人對機械人又有什麼責任呢？

我們面臨着一個雙重的糾結，一是我們如何去面對一個自立的機械人世界？包括如何去愛機械人？（解放機械人，走出robot歧視的魔咒），二是我們應該如何去阻止機械人的僭越？（解放自己，走出robot依賴和功能退廢），在今天的現實境遇中，似乎後者更為迫切。

瑪麗-雪萊的忠告是人類別太自信，別一不小心就去充當上帝，而思想家芒福德給了我們另一個忠告。人類要在「人-機委託」的遊戲中保持主體性，別太相信機械人，更不能過度委託。因為「計算機控制的自動化所帶來的最嚴重的威脅還不僅僅是在診療過程中擠走了人，而是他替代了人的心靈，並破壞了人類對自己做出獨立判斷能力的信心——即任何判斷都不敢與這個系統相左，也不敢超越這個系統之外。」「使用機器以擴展人類的能力和使用機器來收縮、取消或代替人類的功能，期間有着很大的差異，在第一種情形中*，人們能夠行使本身的權威，而在第二種情形中，機器接管了控制權，人類成為一個超級傀儡，所以，問題並不是毀滅一切機器，而是要重新恢復和認定人類的控制權。」