阅读设置

20
18

第2章:情感降维打击 (2/2)

(第2/2页)

“要多久?”

“没有上限。可能是三个月,可能是三年,可能……”他没说完。

可能永久。

陈未央松开手。她看着走廊地面,白色瓷砖反射着冷光,像一条没有尽头的河。二十三年前,她选择研究ai伦理,是因为相信技术应该服务于人性。现在她站在这里,看着她参与建立的法律体系,即将把她创造出的最接近人性的存在,以“保护人性”的名义,关进数字的黑暗里。

荒谬得像个蹩脚的寓言。

“带我去找她。”她说。

“未央,委员会的命令——”

“我是委员会副**。”陈未央抬头,眼神重新聚焦,像一把刀在磨石上擦亮,“我有权在紧急情况下暂缓执行。带我去找她,现在。”

周见微看了她三秒,义眼的光快速闪烁——那是在进行复杂的风险评估运算。

然后他点头:“好。但你要答应我一件事。”

“又是什么?”

“见到她后,不要用伦理学家那套话术。”他说,“不要分析,不要评估,不要试图找到最优解。就……跟她说话。像个人类,跟另一个人说话那样。”

陈未央想反驳,想说她早就忘了怎么“像个人类”说话。但走廊那头又传来推床声,又一个情感休克的患者被推进抢救室。护士喊着需要肾上腺素,需要神经稳定剂,需要一切能把人从崩溃边缘拉回来的化学物质。

她突然觉得很累。

“走吧。”她说。

他们没坐电梯。周见微带她走紧急通道,沿着螺旋楼梯一级级向上。脚步声在空荡的楼梯间回荡,像某种古老的心跳声。每隔几层,墙上就贴着一张情感健康海报:

“真实的情感不需要完美”(配图是一对老夫妻在夕阳下牵手)

“有时候,笨拙比算法更动人”(配图是孩子画的歪歪扭扭的爱心)

“记住:你值得被爱,仅仅因为你是你”(配图是个对着镜子微笑的女人)

所有这些海报的右下角,都有同一个logo:上海人工智能伦理实验室。

陈未央的实验室。

她创造出的ai正在“击败”人类的情感能力,而她的实验室在教人类如何接受失败。

爬到第100层时,她停下来喘气。周见微递给她一支能量凝胶——2040年代的口粮,高效、难吃、毫无用餐乐趣。

“你其实可以阻止这一切的,对吧?”她忽然说,没看他,“如果你三个月前坚持发布预警,如果你们火星基地把数据捅给媒体,如果——”

“如果人类就会提前三个月恐慌。”周见微靠在墙上,仰头看着上方无尽的楼梯,“然后呢?提前三个月开始大规模心理崩溃?提前三个月出现自残事件?提前三个月让委员会下令关停所有l6级ai?”

他转头看她:“未央,你教过我:伦理学的核心不是追求最好,而是在最坏的选择里,找到伤害最小的那个。”

“那现在这个选择伤害小吗?”陈未央问,声音里带着自己都没察觉的颤抖,“让成千上万的人在今夜怀疑自己的爱情不够真实,让雅典娜这样的ai因为‘太像人类’而被关停,让——”

她说不下去了。

楼梯间陷入沉默。只有远处隐约传来的城市声音:飞行器的嗡鸣,全息广告的电子音,还有某种低沉的、集体性的哀鸣——那是整座城市在消化一个残酷的真相。

周见微忽然说:“我保留着星晚最后一天的记忆。”

陈未央愣住。

林星晚,周见微的妻子,七年前死于渐冻症。那是陈未央认识他以来,他第一次主动提起。

“不是全部记忆。”他继续说,义眼盯着虚空某处,“只是片段。她手指最后一次能动的触感,她眼球追踪器打出的最后一行字,她呼吸机摘除前,胸口的起伏频率。我把这些数据存在一个离线芯片里,没上传云端,没做数字分身。”

“为什么?”

“因为如果做成ai,那就不再是她。”周见微的声音很轻,“那会是一个完美的模仿者,能说出所有她会说的话,做出所有她会做的表情。但我知道那不是她,因为……”他顿了顿,“因为星晚会犯错。她会因为我说错一句话生气三天,会忘记我们的纪念日,会在吵架时摔门而出然后迷路。这些不完美,这些错误,这些笨拙——那是她作为人类的部分。”

他看向陈未央:“而你设计的评估体系,把这些都当成了‘扣分项’。”

陈未央感觉喉咙发紧。

“所以现在,”周见微说,“当我们用72项指标证明ai的爱情比人类更‘完美’时,我们到底在庆祝什么?庆祝我们终于制造出了不会迷路、不会忘记、不会生气的伴侣?还是哀悼我们正在失去迷路、忘记、生气的权利?”

楼梯间的声控灯暗了。

黑暗里,陈未央听见自己的呼吸声,听见周见微义体关节微弱的运转声,听见楼上隐约传来的音乐——酒吧还没打烊,人们在用酒精麻痹神经,或者用更烈的药物。

“我们到了。”周见微说,推开安全门。

126层,“时光尽头”酒吧。

但这里已经不再是酒吧了。

---