【3657】道德機器：如何讓機器人明辨是非

（〔美〕溫德爾?瓦拉赫，科林?艾倫著，王小紅主譯，北京大學出版社，28萬字，2017年11月第1版，58元）

△共12章：①機器道德為什么如此重要？②工程道德：AI時代的煉金術；③人類想要計算機做道德決策嗎？④機器人真的能有道德嗎？⑤哲學家、工程師與人工道德智能體的設計；⑥自上而下的道德；⑦自下而上的發展式進路；⑧自上而下與自下而上式的混合；⑨超越“霧件”？⑩超越理性；?更像人的人工道德智能體；?危險：權利和責任。

○這本書預言：在未來數年內，人工智能系統可能會擺脫人類監管、自主做出決定，甚至走上反抗人類的道路。這種不確定性，將使機器人面臨的道德風險日益凸顯。人類迫切需要確保機器人的設計符合道德規范。

○“機器越自由，就越需要道德準則”。

○生活中沒有零風險。

○物質、生命與心靈之謎定義了科學的三大挑戰。

○霍金指出過：“人工智能的進化速度會比人類更快，而它們的未來還不可預測”。

○這本書闡述了一種混合式系統，組合了自下而上式的數據驅動的學習和進化的方式，以及自上而下式的理論驅動做決策。這本書的基本信息是：不應該讓未來學家的擔心和猜測轉移我們的注意力，我們的任務依然是設計自主機器，讓它們以辨識的道德方式行事，使用著我們已經獲得的社會、政治和技術資源。