荣智慧:担心人类没尊严?看看科幻中的人工智能如何回答

来源:观察者网

2016-03-13 08:24

荣智慧

荣智慧作者

电影从业者,科幻创业者,星球大战中文网(SWC副站长)

2016年3月9日、10日,AlphaGo迎战围棋界顶级高手李世石,两次获胜。上一次看到人类如此为自身的命运焦虑,还是1997年卡斯帕罗夫败给“深蓝”,但是有所不同的是,这一次人们的“焦虑”程度更深,不仅因为AlphaGo硬件运算力至少是“深蓝”的一万倍,可能也有对集人类智慧大成的“围棋”的自信,所以败了,就分外震惊和忧患,赶紧祭出“人类尊严”的大杀器(《人机大战无论谁获胜,思想尊严只属于人类》),所以科技问题最后也是政治问题,搞不好就由第一生产力变成白专道路。

这个问题本来是理工科人士最有发言权的,人文社科人士只好用“主体性”和“主体间性”的哲学理念抵挡一阵。而作为一枚科幻狗,非人类中心主义者,面对浩如烟海的人工智能科幻作品,只能说隔一阵子来一轮的“人工智能热”,以及当下人们所忧虑的、所纠结的,实在是“图样图森破,上台拿衣服”。因为科幻作品里的相关讨论不仅早就存在,广度和深度也是尺度相当大的。

之所以要梳理科幻作品(包括文学与电影)中的人工智能,是因为我们可以沿着历史脉络理清这一类型诞生与流变,并理清在作者与读者、有意识与无意识的创作下,该类型如何表现了人类的某些共同心理。人工智能故事的产生,远比人工智能产生早得多;当然,该类型故事的产生,离不开技术的发展,这也是我们在19世纪才看到它们的原因。

(1)1816年,德国作家兼音乐家恩斯特·霍夫曼发表《沙人》,讲的是一个年轻人爱上了美丽的姑娘Olimpia,不过Olimpia是个被邪恶博士Coppelius控制的机器人,可怜的年轻人却浑然不觉。在这里,Olimpia更像是个遥控机器人。但是,第一个被“创造”出来的机器人是个“姑娘”,很容易令人联想到潘多拉。弗洛伊德认为,霍夫曼的机器人很“诡异”,既不是人类,也不是非人类,令人坐立不安。

横跨文艺界的恩斯特·霍夫曼

(2)1818年,英国作家玛丽·雪莱创作了《弗兰肯斯坦,或现代普罗米修斯》,这部小说常被称为第一部真正的科幻小说,讲的是一位英国绅士罗伯特·沃尔顿去北极探险遇到了垂死的科学家维克多·弗兰肯斯坦,后者讲了一段骇人听闻的故事。科学家把尸块当成了乐高,拼出了一个人形怪物,“用生命之电光注入无生命体”,然后“它”获得了生命。

玛丽·雪莱,浪漫主义诗人雪莱的第三者,后来成了妻子

值得注意的是,充满了哥特气氛的小说之所以被当成科幻小说,就是因为隐喻性的“生命之电光”被批评家理解成“电”,在当时算高科技。不过,这个说法总会受到更加八卦的批评家的质疑,约翰·萨瑟兰知人论世,认为玛丽·雪莱把自己生活的不幸经验投射到了文学作品中,她17岁与雪莱私奔,生下一个早夭的女婴,这些都发生在小说创作之前,因此她安排弗兰肯斯坦用类似体外受精和体外生育的过程造出了“人”,文中提到了科学家“他的双手”云云,大概是自渎,产生出的精子混合了人体组织,在子宫之外疯狂生长。也就是说,弗兰肯斯坦更像一个不想负责的父亲,他“生育”了一个自己厌恶的孩子。

这个不该被带到世界上的“孩子”逃出了变态父亲的实验室,学会了说话和阅读,还看了《失乐园》《少年维特之烦恼》《希腊罗马名人传》,结果形成了反社会人格。(为什么看完三本书变成这样了,很值得专门写一写……)伤春悲秋之后,“孩子”找到科学家,要挟他为自己造出一个伴侣。科学家左思右想,怕为祸世人终于反悔。“孩子”开始疯狂复仇,结尾是“孩子”扛着造物主的尸体,声称“我的全身为罪恶所污染,除了死亡,找不到任何灵魂的安息之地”。

本书的名字已经起到画龙点睛的作用,弗兰肯斯坦被当作普罗米修斯,是因为如下的宣言:

一个新物种将会赞颂我为它的造物主;愉悦和优秀的万物会将它们的存在归功于我。没有一个父亲能够像我一样拥有子嗣如此完全的感恩。

这是公然向上帝挑战,和普罗米修斯给宙斯又肥又腻吃了胆固醇升高的牛肉是一个意思。

(3)1884年,维里耶·德·利尔-亚当的《未来的夏娃》,政治可“不那么正确”,这篇象征主义小说讲的是爱迪生(真的是发明家爱迪生)的好朋友埃沃德勋爵追求克拉莉小姐未遂,打算自杀,爱迪生出手相助,造了一个与克拉莉小姐,和原型长得一样,精神境界还高出不少。于是埃沃德勋爵迷恋尘世,再也不想自杀了。结尾克拉莉小姐2.0版意外去世,令埃沃德无比伤心。

伟大的发明家爱迪生:那你们是怪我咯?

(4)1896年,H.G.威尔斯《莫洛博士岛》改写了《弗兰肯斯坦》,莫洛博士在一座孤岛上鼓捣活体乐高,狗、豹、猪、猴子都被他打乱拼好。莫洛博士给怪物们下了一道禁令,“不要吃善恶之树上的果实”——“不许尝试血的味道”,当然禁令一定会被推翻,怪物们还是变成了嗜血的怪物。威尔斯自己后来评论这个故事“在年轻的渎神情绪中的一种尝试……一种神学怪诞体”。

莫洛博士做的不就是《机器猫》里的“超级搅拌器”么?!

(5)1916年,德国导演奥托·里佩尔特拍了6集《人造人》,讲的是一位科学家造出了一个生物意义上完美的人造人,可惜后者发现自己没有爱的能力,变成了魔鬼。英俊的丹麦演员饰演了科幻小说里的“毕巧林”,我们看到了文学史上熟悉的“零余者”形象。

(6)1920年,捷克的现代主义作家卡雷尔·恰佩克创作了舞台喜剧《罗素姆人造机器人》,南太平洋的一个小岛上有家工厂专门生产机器人,用来干脏活累活,机器人受压迫久了开始反抗,反抗遭受镇压,镇压又造成了机器人全体的暴力反抗,血洗人类之后,只有本身是劳动者的人活了下来。两个在人类帮助下可以繁殖的机器人“亚当”和“夏娃”开始了新时代。这个故事可以看成是工人运动简史,社会主义寓言的形式使它有些像概念的图解,但它第一次明确点出人工智能作品中的主-奴关系和必将到来的颠覆。

工人阶级闹革命

(7)1926年,弗利兹·朗的《大都会》主题则缓和得多,统治阶级的儿子弗雷德森爱上了无产阶级的女儿玛丽亚,老弗雷德森决心用玛利亚的复制人拆散他们,复制人煽动了全城暴动,城市即将被摧毁,真人玛利亚拯救了一切,两个阶级终于可以结合在一起。《大都会》充满了宗教色彩,资本家与工人在玛利亚的斡旋中和好,看起来真是一厢情愿的“救世”愿望。复制人在这里扮演的,是不光彩的敌基督角色。

玛利亚:“我是电我是光我是唯一的神话”

(8)在阿西莫夫的机器人小说出现之前,我们看到的人工智能,都难以令人接受,即使贡献了同情和怜悯,读者也很难设身处地理解他们的处境。本质上来说,之前的人工智能作品,人工智能是作为“他者”出现的。但自1954年阿西莫夫的《钢窟》开始,机器人终于有不被视为异类的机会了。

在阿西莫夫笔下,遵守三大定律的机器人,是将康德的道德律令内在化的生命体,他们严格执行定律,但也并不亦步亦趋,情感和与生俱来的程序的冲突,常常令读者眼含热泪,其中的逻辑谜题也令人着迷。

《机器管家》,豆瓣评分8.5

(9)手冢治虫的《铁臂阿童木》诞生于1952年,阿童木是一个会飞的机器人男孩,和匹诺曹一样想成为人类,整天飞来飞去拯救世界。不过1952年的漫画只是在本土大获成功,直到1963年开始,电视版《铁臂阿童木》的制作才使这个十万马力的小家伙在全球家喻户晓。

十万马力、七大神力的阿童木

(10)1958年,日本作家星新一的《人造美人》则有一股愤世嫉俗的情绪。一名不怎么智能的机器人女孩,将在她的酒吧里玩乐的单身男人全消灭掉了。但是,如果过度阐释一下,我们会发现“自己是自己的掘墓人”这样的深刻内涵……

在酒吧“喝水”的星新一

(11)安部公房的《第四间冰期》(1959年)讲的是超级计算机对抗人类的故事,名为“莫斯科2号”的计算机先摄取了人类的灵魂,再将人类彻底毁灭。至此,不具备人形的“邪恶”人工智能出现了。是不是一下子就想起了……

共产主义者安部公房

(12)对。就是1968年库布里克的《2001太空漫游》。说话怪腔怪调的计算机HAL冷静客观、有条不紊地谋杀飞船中的人类成员。没有阶级压迫,没有精神歧视,但是,对人类的谋杀正在展开。这部充满哲学意味的科幻经典影片,贡献了一个“毫无理由”反抗人类的人工智能。

HAL在看着你……

(13)又是伟大的1968年。比《2001太空漫游》晚了半年诞生的科幻B级神作《太空英雌芭芭丽娜》里当然恶搞了HAL,不过该片的意义可不在于戏仿了前者,而在于革命乐观主义精神,冒险精神,和女权主义精神。

女主演是简·方达哟

(14)1969年,《机器猫》漫画开始连载,来自22世纪的猫形机器人“哆啦A梦”乘坐时光机回到20世纪,前来拯救主人野比世修爷爷的爷爷野比·大雄于水火。

《机器猫》的最大特点就是对科技和未来的乐观态度。这是和好几代人一起笑、一起哭、一起长大、一起犯傻的人工智能,也是我们做梦都想拥有的人工智能。(换句话说,如果有人说人工智能不好,一般抬出机器猫就能堵他的嘴……)

22世纪的报废机器人—大狸—不,是机器猫

(15)1973年,《弗兰肯斯坦》的同人文又来了。布莱恩·奥尔迪斯的《解放的弗兰肯斯坦》,把原作者玛丽·雪莱和怪物混在了一起。最后,怪物变身成基督,对屠杀者说“我的死亡,比起我的生命,对你来说将会更加沉重”,临死前他宣布自己将要到地狱去开展“严打”。于是,人造怪物终于翻身做主人了。

ET,你怎么了!!!

(16)不提1977年卢卡斯的《星球大战》能忍?R2-D2和C-3PO搭档组合实在太有名。在六部曲和动画《克隆人战争》中,R2-D2被奉为“机神”,如果没他阿纳金也不知死过几回了。C-3PO当然一如既往地被星战迷用在表情包里——“我会600万种语言”。这俩属于相声型机器人,一个捧哏,一个逗哏,专门给人留下美好的回忆。

星际著名相声组合

(17)1980年,日本人打造的机器女孩又来了。鸟山明的阿拉蕾并不是美少女,而是一个脑子不太灵光的萌女孩。阿拉蕾和机器猫的不同在于,机器猫歌颂了科技和未来,阿拉蕾表现了对工业时代的怀疑和嘲讽,阿拉蕾喜欢在不断感慨“到底是城里呀”并大闹一场之后,兴高采烈地回到了“世外桃源”企鹅岛。

爱玩便便的阿拉蕾

(18)1982年,导演雷德利·斯科特的《银翼杀手》问世了。2019年,复制人开始暴动,侦探德克负责追杀六个复制人,在淫雨霏霏的阴暗都市里,我们看到了智能与情感都超越人类的复制人被残忍杀害,看到了德克内心的挣扎与困惑,也看到了整个世界的压抑与冷酷。六个复制人,毫无疑问都被干掉了,但,德克自己,也许就是一个复制人。

到底谁是克隆人啊

(19)1984年,“I will be back”的“终结者”出现。未来世界人类与机器人进行着残酷的世界大战,机器人“终结者”回到过去来杀戮人类领袖的母亲。该系列的最大特点则是无穷无尽的逃跑-追杀与毁灭。影片中出现了“善”“恶”人形机器人的对立,人类的倾向也是不言自明的。未来战争的人类领袖约翰·康纳缩写为JC,和耶稣基督相同。

听说这几天不少人给约翰·康纳的农行账户打钱了

(20)1999年,沃卓斯基兄弟执导的划时代的《黑客帝国》首部上映。Matrix是无所不能的HAL,所有人类都是他的电池。我们其实看到了《罗素姆人造机器人》的“1984”版后传,当人工智能统治世界时,人类成了被奴役的群体。当然,哪里有压迫哪里就有反抗,翻身农奴最终要把歌儿唱。但是,当被奴役阶级翻身之后,谁来保证这是一个没有压迫的新天新地呢?

这是一场颜值的比拼

(21)《海伯利安》四部曲信息量超级大……总体上来说,作者丹·西蒙斯还是一个技术乐观派,因为人类将和人工智能一同进化。人类和人工智能在彼此视对方为敌的漫长岁月里,斗争,生活,冒险,繁衍,创作……最后共同走向了多样化的未来。作者坚持认为,只要有移情/爱的能力,人/非人都不是问题。

非常好看。前两部的二手,有人要吗?

(22)《太空堡垒卡拉狄加》在1978年诞生时,是模仿《星球大战》的末流电视剧。2004年重制的13集电视剧比较精美,视觉场面也很宏大。1978年的版本就有很多暗示摩门教信仰的情节,2004版中,机器人“塞隆”们似乎拥有了一种宗教性狂热,救赎人类和机器的堕落的方法,是消灭人类,或人与机器杂交(《海伯利安》也是这个意思……)。

花纹挺有宗教感的

当然,以上的总结并不能穷尽所有科幻作品对人工智能的探索,但是这些不同类型的讨论,为人工智能与人类的关系,已经提供了很多的想法和可能。忧患和焦虑也许是正常的反应,但在忧患和焦虑之前,我们不妨要自我承认,无论看待他人还是机器人,“我”是始终不曾变动的坐标,这种不曾变动,是物理意义上的,是生物意义上的,也是伦理意义上的。也许只有有一天,当“我”的位置发生了位移和撕裂,我们对“人工智能”的看法才会彻底改头换面。

本文系观察者网独家稿件,文章内容纯属作者个人观点,不代表平台观点,未经授权,不得转载,否则将追究法律责任。关注观察者网微信guanchacn,每日阅读趣味文章。

责任编辑:李楚悦
人工智能 科技 机器人
观察者APP,更好阅读体验

以色列警告美国:一旦逮捕令下发,我们就对它动手

涉及俄罗斯,美国又对中企下黑手

内塔尼亚胡警告布林肯:以色列不会接受

“这是美国自信心下降的表现”

“美国没料到遇上中国这样的对手,出现战略失误”