加拿大科幻界教长:己所不欲勿施于人 这是人类与AI相处的‘黄金法则’
封面新闻记者 宁宁
罗伯特·索耶,加拿大科幻小说作家。他的小说获得过41个国家和国际奖项,其中最主要的是:1994年获得亚瑟·艾利斯奖,《终极实验》获得1995年星云奖;《原始人》获得2003年雨果奖;《大脑扫描》获得2006年约翰·坎贝尔纪念奖。被《渥太华名人录》称为“加拿大科幻界的教长”。
摄影/Carolyn Clink,来源:sfwriter.com
“现在你应该知道了,那些被叫做“魔鬼”的人不见得就是魔鬼。”
这是加拿大科幻教长,世界三大科幻文学满贯得主,被誉为在世的“阿西莫夫”的科幻作家罗伯特·索耶在《远望》中说的一句话。
在类似AI(人工智能)将会替代人类言论甚嚣尘上的当下,许多眼中,AI恐怖得不亚于即将颠覆传统、改变未来的魔鬼。但是,正如罗伯特·索耶在《远望》中所言,被叫做“魔鬼”的人不见得就是魔鬼,被渲染成魔鬼的人工智能不见得就是淘汰人类的冷血机器人。
“你好!”
11月12日下午,加拿大科幻教长罗伯特·索耶登上了在成都东郊记忆举行的2017中国科幻大会之网络文化创意节的舞台。
这并不是索耶第一次来中国了。2013年,他曾受邀前来,妻子卡洛琳克林科(Carolyn Clink)一直相伴左右。当时,曾有记者问过卡洛琳加拿大科幻教长以前是什么模样,与索耶相伴近30年的卡洛琳却表示,他没怎么变化,在高中时就很成熟,有点像个小老头。
四年过去了,索耶头发、胡须有些花白,金属框眼镜下的眼角多了些皱纹,形象上可能更接近卡洛琳所描述的小老头模样。但是,一句带着浓浓口音的中文“你好”,热情洋溢、激情饱满,就像个孩子一样,兴奋得让人忍不住和他一样。
“黄金准则”
索耶短暂与观众打过招呼后,直奔主题,谈到了科幻作品里人类与AI的关系。
素有在世“阿西莫夫”之称的他首当其冲就引入了阿西莫夫对机器人的三大法则:
1.机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管;
2.机器人必须服从人给予它的命令,当该命令与第一定律冲突时例外;
3.机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。
有趣的是,索耶接着引入了美国独立战争前南方植物园主对黑人奴隶的三大法则:
1. 黑奴不得伤害白人奴隶主,或者目睹白人奴隶主将遭受危险而袖手不管;
2. 黑奴必须服从白人奴隶主给予它的命令,当该命令与第一定律冲突时例外;
3. 黑奴,必须意识到他自身就是一项财产,在不违反第一、第二定律的情况下要尽可能保护自己的生存。
“在这样的定义下,人与机器人,就像奴隶主与黑奴一样,两者之间的交往互动就像是一个零和游戏(zero-sum game)”,索耶解释道。
这就造成了长期以来科幻创作的两大景象:
《黑客帝国》里面人类被机器奴役;被《星际迷航》里虚构的一个宇宙种族——博格人(Borg)同化。
《黑客帝国》
“我们为什么要这么短视,不能重新思考人类与机器人的关系,设想一个双赢的、非零和的景象呢?”索耶发问道。
“我们来看看人类与机器人有什么区别吧”。
正如索耶所言,人类是通过进化、而机器人是通过创造来不断发展的;人类面临的资源是稀缺的,但机器人确享有充足的资源;人类的寿命终将有限,而机器人可以长生永世;人类是通过繁殖来不断壮大队伍,而机器人则是通过发展提高来实现进阶。
但是,“相似点就是,人类与机器人同样都有好奇心”。
索耶提到,AI是有内在生命的(inner life)。
“我们人类尊重AI,AI珍重人类,他们说‘不’就是‘不’。我们设计出他们就是要为人类所用,但这基于我们尊重他们、并相信他们被设计之初就具有类似人类‘人之初性本善’的特性。这样,他们并不会进化成消灭人类的魔鬼”。
“这就引出了我要讲的,人类与AI相处的‘黄金法则’。那就是,己所不欲勿施于人”。
对话
“人类艰难时期会因AI而结束”
结束演讲后,索耶与美国著名科幻杂志《克拉克世界》(Clarkes world)杂志主编及出版人尼尔克拉克(Neil Clarke)接受了封面新闻记者的专访。
尼尔克拉克(左)和索耶(右),《克拉克世界》曾获雨果奖及世界奇幻奖,尼尔本人曾五次入围雨果奖最佳编辑(中短篇)终选。他编辑出版有小说选集《升级》、《银河帝国》、《比人类更人类》以及《未来镜像》。
封面新闻:未来许多工作会因为AI而消失,人类应该怎么应对呢,到时人类的价值又是什么呢?
索耶:未来,许多工作会因为AI而消失,我自己本身作为一个作家,工作也可能会消失。我们可能会抛弃人类几千年发展所依靠的劳动力与生产力。但是,我们会找到另外的方法来实现我们作为人类的价值。因为,就简单地建造房屋、移动物品、像销售人员一样与外界打交道,抑或创作科幻小说而言,AI可以完成地更快,或许更好。
那么,在一个拥有AI的世界里,人类的价值是什么呢?我认为,我们的主要价值在于不停尝试,去发现我们美好的任性,变得和平、乐于助人。人类一直都处在艰难时期,这样,艰难时期就会因AI而结束,从而进入一个乌托邦世界。这十年来,中国发生很大变化,科技进步,工作的多样性增强了,人类将会从事与以往不一样的事情。当AI替代了人类多数的工作时,在我看来,解决办法就是实行全球基础收入,最低标准收入,因为AI能让人类广泛生存下去。
封面新闻:科幻小说的发展趋势是什么?
索耶:我认为是有限的未来。从我刚开始写科幻小说到现在,发行量已经下降为每年大概30000份,科幻小说被读者抛弃了(abandon)。因为科幻小说主要还是以英语国家的读者为主,未来需要其他国家、语种的作家一起努力创作,包括中国、尼日尼亚、日本等。
克拉克:我不太同意这种说法。在我看来,科幻小说并没有被读者抛弃,只是现在年轻的读者更偏爱电子出版物或者其他的形式了。未来要让这些年轻人更多地参与进来,让多国的作家一起努力。
封面新闻:所以,你(克拉克)对科幻小说的未来很乐观?
克拉克:是的,比起他(索耶)悲观,我比较介于肯定和否定之间吧。
封面新闻:怎么看待目前科幻小说在中国的发展?对以后的发展有什么建议?
两人均表示:很棒!
克拉克:希望能鼓励更多地人进行创作,鼓励更多的读者去阅读。
索耶:目前存在的一个障碍是,我们怎么引导读者去开始阅读他们人生中的第一篇科幻小说。
举例来说,我的一个朋友是加拿大教写作的大学老师,他问他的学生,“你们读到过的科幻小说的第一个垃圾文字是什么?”没人回答一个字,因为他们从来没读过一部科幻小说。
因此,就未来的发展建议而言,以《三体》为例,我希望教育部门能将阅读《三体》作为一门必修课,要求每个学生都去阅读。这就为接触到科幻小说迈出了第一步。其次,希望相关机构能有更开放的态度,好的作品很多,不能因为某些原因就直接关闭了这个通道(shut down)。
索耶接受记者专访
封面新闻:正如您说,国外好的作品很多,但是由于被翻译成中文的作品很少,国内读者接触到的依然很少,这以后能期待有什么改变吗?
索耶:的确,并不是所有的作品的都翻译成中文出版的。目前,我和克拉克都在一个小组(panel)里面,加强引进、翻译一些很好很优秀的作品。
封面新闻:那么,科幻小说未来的创作方向在哪里?
克拉克:尽管已经写了很多,但是还有更多尚未被人类、作家探索的东西,比如角度、景观等等,作家们期待任何让他们感到兴奋的新鲜事物。
索耶:要分清的是,科幻电影电视与科幻小说的未来创作方向是不同的。前者更多地关注外太空的东西(outer space),比如宇宙大爆炸理论衍生出来的、乔治·卢卡斯的《星球大战》等太空战争等等。但是,科幻小说未来创作还停留在内宇宙空间。当然有很多科幻小说被改变成影视作品的,但是他们未来的发展方向是不同的。我们所说得科幻,更多是指科幻出版物。
封面新闻:科技的快速发展让许多预言变成了现实。科幻小说创作者会有危机感吗?
索耶:自己的小说都是根据当下发生的事情写的,比如他的一个兄弟刚刚因癌症去世,其新小说就以这个为题材视角切入。科幻只是一种技法,但是科幻一定要对社会现实发生作用。
封面新闻:对于有兴趣的人,如何才能成为一个优秀的科幻作家?
克拉克:广泛阅读,保持学习,摒弃类似的写作。
索耶:要以自己的方式讲自己的故事。
封面新闻:对未来有什么展望?
索耶:未来除了觉悟没有什么是上帝赋予的、神秘的、超自然的了。
如果在一个足够有能力的体系里面,觉悟就会自然而然产生。当原始人祖先进化发展到一定能力后,我们的系统里面就发生了这样的事。我们开始有创意思考能力、内在生命、创造艺术。因此,我怀疑当AI或者全球互联网发展到同人类一样、或者甚至比人类更有能力时,同样的事情将会发生,自我觉悟将会浮现。
觉悟之所以会产生,不是因为我们计划让它产生的,而是随着我们体系发展得越来越高效越复杂,与之同步产生的。因此,我们有义务把我们的孩子,包括生物意义上的孩子,视为有创造力思维的生物,因为,我们创造了他们。我们有义务赋予他们独立、健康、繁荣、与他们和谐相处。这就回到了我说的黄金准则,己所不欲勿施于人。这是唯一公平的办法。不论强弱、性别、种族,每个人都想被有尊严地看待、和善对待。