缺乏同理心的機器們

人類與機器這兩個不同的物種間的溝通困難將會導致火的災難。

自我中心主義：一種嚴重的心理失調，具有多種行為缺陷，特別是在交流溝通與社會交往方面。

自我中心的人們有時被描述成缺乏“同理心”，一種從他人角度理解事物的能力。他們更多是理性的而不是感性的。一般來說，與自我中心的人交流會是困難與充滿挫折感的。對于自我中心者來說，把他們的困難與機器的失敗看成是一回事并不公平，但是類比是必要的。機器就是自我中心的。它們喜歡簡單、直接且清楚的命令。他們可以和人們對話，但無法理解或是同情。人可以去理解機器，但是機器能理解人們嗎?至少現在還不行，在近期的將來也不行，甚至在遙遠的未來也不行。除非有了相互理解與交談，否則人類與機器間的交流困難始終是開發機器人的根本障礙。我家里的洗衣機與烘干機，還有微波爐據稱都是智能化的，能夠決定何時又怎樣洗衣服、烘干及做飯。但是與這些機器的交流溝通都是單向的。我告訴它們開始或者結束，然后它們就那么做，而我卻不懂得它們在做什么，又該怎樣修正它們的行為，也不知道它們為什么決定采取這樣或那樣的舉動。如果能解釋一下它們在做什么，讓我們如道它們將采取什么舉動，這些設備就能變得更加好用、友善與社會化。什么都不知道讓人很不舒服。

機器以自我為中心的特質并不能使我們放棄開發或許對人類有用的技術，我們確實得重新思考與機器進行互動的方式。……