来自KI的再次拷问

石黑一雄的《克拉拉与太阳》(Klara and the Sun)是我收藏的他的第二本作品(第一本是《被掩埋的巨人》)。这本书在豆瓣的评价总算比《巨人》高了。

Kazuo Ishiguro

来自KI的拷问

“你相信有‘人心’这回事吗?……某种让我们每个人成为独特个体的东西?”

这个问题很难回答,尤其是如今。请允许我稍后回到这个问题。

Klara and the Sun

乔西和里克

作为小说中重要的角色,乔西的塑造略显苍白。唯一让我印象深刻的,是她对里克锲而不舍的鞭策。这样的鞭策更多地是基于两人从小到大的共同生活经历带来的信任和期盼,而不是基于爱情而对未来有着怎样的承诺和责任担代。

相比之下,里克的塑造很成功。他让我想起那位“树上的男爵”。他和乔西母亲可能正好相反,“别人怎样就怎样,我就不怎样”。

在书中,他俩交往的高光时刻必然是两人间才能玩得起来的“泡泡游戏”。我很喜欢这样的描写。这样的交流又让我想起马可波罗和忽必烈汗在《隐形的城市》中的那种交流。

但是,两人有着“本质”的不同。

里克没有经过升级,所以只有2%的机会才能进入清北交复,但是他健康。

乔西经过了升级,所以有更大的机会进入清北交复,但是她差点没命——她的姐姐就是有极大的可能因为升级而丧命。

KI在这里竭力地颂扬少男少女之间的纯真感情,但又像《巨人》中那位船夫一样,隐隐地提出更严肃的问题:他们的未来在哪里?

如果说,在当前的处境下,两人还算可以配得上的话,那么在乔西康复后,两人又将如何?乔西或者里克会不会变“心”呢?书中没有给出答案,只有各种观察和事实。KI从来不会那么直截了当地、以文学意义上的不可辩驳性为我们解答这个问题,就像他没有告诉我们《巨人》中的那对老夫妻最终是不是重聚那样。

母亲

母亲这个角色的塑造很成功、很鲜明。为了乔西,她可以赌上一切,而且相信“赌得越大,收获越大”,对她来说,风险是永远可控的,别人(特指那些“升过级”的人)身上发生的事情,是可复制的。因此,她的行事路径就很清晰:别人如何,我的孩子就要如何。只是因为乔西的身体状况,她才暂时不再逼迫——但乔西还是要上家教课。

她为什么要“复制”一个乔西?延续对乔西的爱,可能;延续自己为乔西设定好的发展路径,根本。

这不是爱,是控制。我们要小心了,有多少“控制”借着“爱”的名义而肆虐!

画师和父亲

画师是个彻底的还原论者:将人体拆成器官、组织、细胞,你找不到“某种让我们每个人成为独特个体的东西”。在他看来,两个“人”,只要外貌、行为、性情……任何可被观察到的东西达成“一致”,那他们就是同一个“人”。Period.

因此,他愿意也必然地将“人”看成“机器”:构造、原理就可以还原一个“人”。其他?没有其他了。

从直觉出发,我们知道他不对。直觉告诉我们,人有自己的“思想”和“意识”。但是,对“意识”起源的讨论,目前还没有定论;即便采用量子力学中“自观察”的观点,也不过是将同一个问题换到另一个层次上而已。

于是,我们陷入了困境。“狡猾”的KI回到开篇的问题:“你相信有‘人心’这回事吗?……某种让我们每个人成为独特个体的东西?”他是要逼着我们不情不愿地回答说:“没有”但骨子里却知道自己回答错了。

或许,这个问题的另一个意义可以这样来理解:如果没有“人心”——我们先不去精确定义这个东西,那么我们不仅将不再成为“自我”,也许也就和别的东西没有什么区别了。那么,问题就不再是“我”和“你”有什么不同,而是所有的东西都可以被认为是“一样”的了。

父亲的出场很晚,但出现之时就给我带来很好的印象。他叫乔西是“小野兽”,和她说一些父女间的独特对话。人都说“多年父子成兄弟”,多年父女应该也可以。他虽然和母亲离婚,也没有得到乔西的赡养权,但我觉得他还是个很不错的父亲。

父亲和画师正好相反。他对“人心”的看法,很有朴素的唯物主义的味道。人心就是一个有好多好多房间、很多房间套在房间里构成的“东西”。你以为看过了所有的房间,但总有一间房间是你没有看过的;也就是因为至少存在这么一间房间,任何“克隆”、“拷贝”的行为就注定会失败,所以他强烈反对母亲和画师的计划。

由此出发,他认为,现在就是如此,珍惜当下,就是最好的对策和手段。Carpe Diem!

如果你问他那个问题,他的答案一定是:有的!一定是有的!既然如此,那么所有的“拷贝”、“复制”的工作就注定要失败、注定会带来更多的灾难。

升级(复制)还是不升级(不复制),这是一个必须考虑的问题。

能这样提问的人,是幸运的——因为他们至少还能提问、还有得选择;更不幸的,是这样的人:他们没法提问、也无从选择

只要有选择,“人心”就会变,选择对自己更有好处的选项(“自私”)。
但机器人没有选择。
所以,机器人没有“人心”。

Klara

终于,我们要谈到本书的主角:Klara。她是一个AF(Artificial Friend),其设计用来作为小孩子成长中的伴侣——所以可以想见的一件事是,未来的社会里,独生子女还是占据绝大多数。

对于她,我有很多想讨论的。

第一个问题,Klara看似奇怪的网格状观察方式

在书中,有多次提到Klara观察周围事物时采用的独特方式,初看起来很奇怪。比如第33页第一次出现的如此方式的描述:

“我们此时面对着商店,我的视线能一直延伸到后排的玻璃桌,可店内的空间却被分割成了十个方格,因此我眼前呈现的不再是一幅统一的画面。前区壁龛在我最右边的那一格中,这符合预期;而最靠近壁龛的杂志桌则被划分到了不同的方格中,桌子的一部分甚至都出现在了我最左边的那一格里。这时店里的灯光已被调暗,我看到其他的AF在几格画面的背景中,靠着商店中区的两面墙,准备入睡。可我的注意力却被引向了中间的那三格,它们呈现的是经理的不同侧面,她此刻正在做出转身面向我们的动作。在一格中我只能看到她从腰到脖颈上半段的身体,而紧挨它的另一格却几乎完全被她的两只眼睛占据了。靠近我们的那只眼比另一只要大上许多,但两只眼睛中都满是善意和悲伤。第三格中展现的则是她的一部分下颌和大半张嘴,在那里我察觉到了愤怒和沮丧。接着她完全转过身来,走向我们,商店重新变回了一整幅画面。”

我想说,这种方式符合计算机对动态图像的处理方式。通过合理的分割,计算机对某个方格内的图像的变化可以进行快速的处理,而不用每次处理图像时都去参照所存储的前一幅整体的图像,可以大大提高处理速度和响应速度。

第二个问题:Klara的AI水平到底有多高?

照理说,Klara的AI水平应该很高,至少要高出我们现在能制作出来的所有机器人的水平。但是在某些方面,她又出乎意料地“弱智”,比如说:她的运动能力非常一般,以至于需要里克的帮助才能顺利到达麦克贝恩先生的谷仓。

Klara的逻辑推理能力非常强。比如,她从太阳先生的光辉能让乞丐人和他的狗“起死回生”这一现象进行推理,并自主采取了后续的一连串行动。同时,她判定“库廷斯”制造的噪音是太阳先生不愿伸出援手的根本原因,因此决定捐献出对她而言万分重要的PEG9溶液来“消灭”库廷斯——当然她不一定完全清楚这么做的后果——但我们知道,在捐献出PEG9溶液后,她的各项机能确实是衰减了。

整篇小说中,Klara第二次来到谷仓向太阳先生做出的祈祷(344-346页),是全篇最最感人的一段文字。

KI用近乎“儿戏”的方式,向我们描述了信仰的力量。作为理性客观的“俗人”,我们自然知道这样的奇迹不可能存在。但KI想说的是,也许正因为我们不信,所以奇迹才没有出现。Klara的“意识”中,对这样的奇迹表示充分信任——因为如前所述,她的逻辑系统明白无误地向她表明:太阳的照耀与病人的康复之间存在明白无误的因果关系。

其实,我们再怎么再确定奇迹并不存在,但我敢说我们还是愿意相信(在我们的祈祷、奉献、求肯之下)也许还是会有奇迹出现的。Klara不认为有(我们认为的)奇迹,她只进行推理,所以(我们认为的)奇迹就是(她所认为的)因果关系。

这么看来,Klara的AI水平其实不高。制造商之所以这么设定,大概是因为她只是作为孩子的陪伴而出现,如果她太过理性,会失去作为孩子伙伴而应该带来的乐趣吧?

第三个问题:Klara有“人心”吗?

这个问题答案的一部分在上一个问题以及前面的节中已经有了,即,只要Klara认为奇迹等于因果关系 + 只要Klara没有选择,那么她就不能被认为具有“人心”。我们来看这个问题答案的第二部分。

本书的译后记中,译者提出了一个很重要的观点:

那么,我们的克拉拉呢?说到底,她究竟有没有一颗人类的心呢?答案恐怕是否定的。的确,克拉拉拥有人类引以为豪的所有美好品质;……然而,有一样人类共有的特质却是克拉拉所缺失的,那便是自私-因为她是一个完全利他的存在。……这也就注定了克拉拉的一切品质与情感都是无法用人类的纬度去衡量的,因为,正是由于自私的欲望与升华的渴望并存,人类的心中才会充满了矛盾、彷徨与痛苦;没有了自私那下坠的重力,一切崇高、向上的人性也就虚无缥缈得失去了分量。自私是人类沉重的负担,但也许在并不遥远的未来,也会是人之所以为人的一个最重要的锚点吧。

这段话非常精要。说出了几个重要的点:

  1. 具备人类引以为豪的所有美好品质<>人;
  2. 不具备人类痛恨的所有恶劣品质也<>人;
    1. 自私就是这么一个具有标记性的人类的品质。

所以,结合上述所有论述:

  1. Klara认为奇迹=因果关系
  2. Klara没有选择,或者被设计成不能选择(想想机器人三定律吧)
  3. Klara完全利他

因此,Klara不具有“人心”。人心(自私)正是人成为人,也是每人不同于任何他人的根本点。人就是由好的品质+坏的品质组成的。(想到了什么?是不是那篇《分成两半的子爵》?)

KI再次向我们拷问:我们作为一个个的个人,在完全Klara完全“人”之间,处在怎样的一个位置呢?我们人类作为一个整体,在完全Klara完全“人”之间,又处在怎样的一个位置呢?

这是KI向我们发出的又一次拷问,我们准备好答案了吗?

Comments

Leave a Reply

Your email address will not be published. Required fields are marked *