阿西莫夫與“機器人三定律”

2016年的3月15日，谷歌圍棋人工智能AlphaGo獲得人機大戰的最后一場勝利，最終以4：1大勝世界圍棋冠軍韓國人李世石。這場世紀大戰之后，就有人大呼人工智能元年已經到來，人類的未來要被人工智能統治。

其實，一場圍棋之戰說明不了什么，早在1997年電腦“深藍”戰勝國際象棋世界冠軍卡斯帕羅夫時，就已經有過類似的說法，但20年過去了，人工智能僅僅是由國際象棋拓展到圍棋而已。更早之前就預見了人工智能與人類之間對抗的，還應是世界科幻大師艾薩克·阿西莫夫，他的作品《我，機器人》《鋼穴》《裸陽》《曙光中的機器人》《機器人與帝國》早在60年前就設想了人工智能和機器人的出現，以及人類如何應對的策略。

當然，在小說中寫出機器人這個詞不是阿西莫夫，而是捷克科幻作家卡爾恰佩克，他于1921年在名為《羅素姆萬能機器人》的戲劇作品中創造了“robot”（機器人）這個名詞。它源于捷克語的“robota”，意思是“苦力”。在該劇的結尾，機器人接管了地球，并毀滅了它們的創造者。阿西莫夫對機器人小說最大的貢獻是，他創造了“機器人三定律”，給機器人設立了規則，有效地降低了機器人毀滅人類的可能。他在1950年出版的小說集《我，機器人》（ I, Robot ）（最新翻譯版本是2014年江蘇文藝出版社出版的《機器人短篇全集》）中系統闡釋了“機器人三定律”：“第一，不傷害定律：機器人不得傷害人類，也不得見人受到傷害而袖手旁觀；第二，服從定律：機器人必須服從人的命令，但不得違反第一定律；第三，自保定律：機器人必須保護自己，但不得違反一、二定律。”

這三條定律在制造機器人伊始便被嵌入其大腦，永遠無法消除。毋庸置疑，阿西莫夫的貢獻是巨大的，其后的文學作品，如果不是專門討論人工智能倫理問題，基本都會遵循該定律來敘事。在三定律的背后，是阿西莫夫為了確保人類的統治地位，而設想了一種符合康德“絕對律令倫理學”的人工智能。

三定律應用在復雜多變的現實社會，常常會捉襟見肘，有時甚至會引發自相矛盾的窘況。阿西莫夫本人也意識到了這一點，因此對三定律的修改成為他后期作品的主線。在《可以避免的沖突》（ The Evitable Conflict，1950 ）中，機器人為了避免人類個體彼此傷害，便限制人類的行為，轉由機器人掌控一切。這促使阿西莫夫補充了“第零定律”：機器人不得傷害人類整體，或袖手旁觀坐視人類整體受到傷害。原先的三定律都要服從第零定律。

但是，這條定律的最大問題就是：機器人如何權衡自己當下的行為會不會傷害人類整體？后來，其他學者也提出了修正建議，最著名的當屬保加利亞作家狄勒烏（Lyuben Dilov）在小說《伊卡洛斯之路》（1974）中提出的“第四定律”：機器人在任何情況下都必須確認自己是機器人。

另外，機器人三定律也忽視了人類和機器人的情感問題。眾所周知，人類的情感世界是非常復雜的。也許機器人保姆把某些人撫養長大后，他們之間會產生類似親情的感情，譬如阿西莫夫的小說《羅比》（1950）。不過，難能可貴的是，阿西莫夫在后期作品《兩百歲的人》（1976）中打破了傳統觀念。小說描寫機器人安德魯為了成為真正的人，逐步將自己的機械零件替換成活體器官，終于在兩百歲生日的彌留之際，以死亡的代價獲得了人類的承認。

不過，即使這樣，阿西莫夫對機器人的真正感情還是沒有深入的思考過，而且關于機器人或者是人工智能的感情模塊也是目前討論最多的話題。當然，如果把人造人也視為人工智能的一部分，那么，雪萊夫人1818年發表的《弗蘭肯斯坦》應該是對這人造人情感話題探討的最早的科幻小說了。

（作者系南京工業大學副教授，江蘇省科普作家協會科幻專業委員會主任委員）