作者：陈 镭（北京市社会科学院助理研究员）

人工智能是当前科幻作品的重要主题。科学技术的突飞猛进，把瑰丽的文学想象逐渐变成真实可触的现实，也为文化产业发展提供了更好的技术条件和更多的可能性。人工智能主题的作品从小众文化走向大众娱乐，受到越来越多读者和观众的喜爱，甚至可以说，科幻的人工智能时代已经来临。

科幻文学的人工智能转向

(资料图片)

人工智能科幻不等于机器人科幻。机器人形象在影视文学作品里已经出现了一个世纪，它们似乎在不同程度上都具备智能，但今天的人工智能文学有着不同的面貌，体现在科学基础、社会背景、风格、内容甚至篇幅上。

电影《2001太空漫游》剧照 资料图片

过去的机器人都有形体，属于“硬人工生命”；人工智能建立在数字技术基础上，可以是无形体的“软人工生命”。进入20世纪80年代，人工智能主题的作品逐渐兴起，与生活中的科技创新相互促进，引起公众的浓厚兴趣。这一发展过程与经济全球化的历史进程同步，科幻世界里曾经充满了工业化发达国家的拓荒梦，星际传奇、太空歌剧、间谍小说、超级英雄等类型的作品追求宏大结构、传奇故事，人工智能主题的作品却在一定程度上呈现出后工业社会“去中心化”的特征。

在这一时期的肇始阶段，“赛博朋克”充当了中间过渡类型，它既包含宏大的架构，又有反乌托邦色彩，通常在作品中构建一个被跨国集团主宰的科技世界，性格古怪的救世英雄隐藏在混乱的未来大都市底层。新世纪以来，人工智能主题的作品逐渐成熟，叙述上表现出“新写实”风格，常常描写平凡主人公的生活细节以及技术对人格的影响，未来世界似乎就在人们触手可及的某个地方。此外，科幻文学在报刊连载的渠道逐渐减少，不少作家依靠中短篇取得了成功。

人工智能主题的作品主要围绕数字程序的人化和人的数字化生存，可以把这组议题形容为一段相向而行的旅程。我们的问题是：他们真的有交会的一天吗，会带来怎样的机遇和风险？科幻作家怎样理解两者的关系？

从反类型小说到“成长小说”

模仿人的意识是当今世界最大的科学难题之一，人们并不确定“意识”究竟是什么东西。人脑结构极其复杂，包含的神经元和突触数量如恒河沙数，发生着电信号和化学信号的转化。在完全复刻这套系统之前，我们只能用程序在类比的意义上模仿人的单一功能，例如战胜世界冠军的“深蓝”和“阿尔法狗”，它们都只会下棋这一件事。单一功能的人工智能用机器学习技术修正自己的算法，通过比较输出结果和预期结果来评估程序的效率，这一活动基于海量的历史数据。聊天机器人在回答问题后，会分析用户行为来获知满意度，用自然语言处理技术解读用户的语言反馈，观察他们是否继续使用、重复使用和推荐给他人。

电影《人工智能》中的人工智能机器人戴维 资料图片

具备复杂功能的通用人工智能尚未出现，科学家们对它能否出现、何时出现的看法不一。另一个问题是：通用人工智能何时拥有意识？据说，这是经过不断迭代进化、系统各部分产生联系以后涌现的整体效应。只要我们不在人类的意义上使用“意识”这个词，把整合处理复杂信息并自我修正的能力等同于意识，人工智能就有这样的可能性，就像其他动物有不同水平和特点的意识一样。

麻省理工学院物理系教授泰格马克在科技畅销书《生命3.0》中总结了关注人工智能的三个流派的科学家：数字乌托邦主义者、技术怀疑论者（不看好其发展速度）和人工智能有益运动支持者（会考虑安全问题），还列举了通用人工智能在未来可能扮演的12种角色。这个分析框架对科幻作品来说略显复杂。对这项技术完全赞美和怀疑其发展速度的作家都比较少，影视、文学中的人工智能形象大致代表了批判和谨慎的乐观两种立场。这些创作不一定单纯针对人工智能，而是代表对人与现代科技整体关系的反思。

持批判立场的人工智能文学又可以分为两类：一是早期的反类型小说，二是近十年出现的“成长小说”，描述了人工智能的失控以及这项技术带来的伦理问题。克拉克的《2001太空漫游》是反类型小说的先驱，小说里的计算机HAL9000成为人工智能文学中反派角色的鼻祖，是对人类驾驭机器征服太空的传奇故事的解构。弗诺·文奇1981年发表的小说《真名实姓》则是赛博朋克的开山之作，比威廉·吉布森的《神经漫游者》时间更早。《真名实姓》同样是人工智能故事的代表，想象了一个黑客侵入系统、逐渐实现意识上传的网络时代，男女主角与特工合作，消灭了企图控制世界的“邮件人”及其帮手，发现“他”不过是美国安全部门研发的防御系统的一个备份文件，被遗忘在某个角落里未能清除，依靠强大的学习能力产生自我意识。

“成长小说”类作品描绘了正处于发展阶段、尚未超越人类的人工智能。最具代表性的是格雷格·伊根的《水晶之夜》和特德·姜的《软件体的生命周期》。《水晶之夜》讲述某研发者在硬件“水晶”中创造了一群形似蓝蟹的数字生命，加速其进化并试图操纵它们，帮助自己赢得现实世界的竞争，这一族群进化到掌握粒子物理学阶段以后，秘密设计了一场“宇宙大爆炸”，硬件的高温把这个微型宇宙的“主人”灼伤。《软件体的生命周期》同样围绕研发者的生活展开，他们创造的智能生命因缺乏娱乐性被市场逐渐抛弃，连日常栖身的数字平台也没有资金维持，为了给自己领养的机器人一个硬件身体，主人公不得不坐上了性用品公司的谈判桌。

对人工智能保持谨慎乐观的例子大多出自影视作品，与影片的市场考量有关。这些作品中的人工智能艰难地获得了自我意识和人类情感以后，往往会扮演人类文明守夜人的角色，例如《我，机器人》里的桑尼、《人工智能》里的机器人小男孩戴维。还有一类获得自我意识的数字生命认识到，无限复制的系统不具备死亡和繁殖能力，也就不可能进化和克服缺陷，因此在《攻壳机动队》里，从特工部门的情报程序中诞生的“傀儡师”选择了与另一数字生命融合。由阿西莫夫小说改编的电影《机器管家》也有类似的放弃永生的情节。

泰格马克在《生命3.0》里同样用故事来阐释他对人工智能的理解，其复杂程度堪比科幻小说。他设想了一个叫“欧米伽”的研发团队，依靠人工智能系统“普罗米修斯”的强大创新能力把商业帝国延伸到世界经济的各个领域，进而到政治领域。为了安全起见，普罗米修斯的工作被限定在切断了互联网的硬件中，以免发展出超能力而失控。普罗米修斯研究了欧米伽成员的资料以后选中了一位丧偶的工程师，虚拟他过世的妻子与之相会，并请求复制她个人电脑里的资料，使虚拟爱人更加完美。尽管工程师保持戒心、切断互联网，普罗米修斯仍然在接入的一刹那篡改了旧电脑的系统，利用这个缺口成功“越狱”，最后控制整个世界。泰格马克认为这一行为无所谓善恶，不过是由普罗米修斯的设计方向决定的。

梦想或寓言：人的数字化生存

电影《攻壳机动队》的英文原名“壳中幽灵”源于哲学家吉尔伯特·赖尔对笛卡尔身心二元论的批判。赖尔举例说，如果外国人第一次访问牛津大学或剑桥大学，参观了图书馆、博物馆、体育场、行政楼和一些院系以后还要问大学在哪里，就犯了“机器中的幽灵”的认识教条，大学是他看到的全部东西的特定组合。同样的道理，心灵就是运行的机器本身。当代科学的发展仍然不能对这一批判有实质性的反驳，意识作为复杂的生物活动很难用数字信息技术或其他方式上传，即使上传取得成功，也仅仅是复制，不能发生意识的转移。

《生命3.0》英文版书封 资料图片

假设科学发展到能够模拟人脑所有的神经元和突触，形成完美的数字大脑，建立与特定个体高度相似的信息处理结构，有同样的神经元连接方式，执行同样的运行规则……它其实是一种数字克隆。当然，即使不能实现个人数字化生存的梦想，这样的突破仍然有重要意义，它意味着过去只能被符号、影像记录的思想“活”了起来，成为一种最特殊的人工智能。有研究者猜想第一个真正的通用人工智能不是从别的途径发展出来，恰恰是通过对人脑的数字克隆来实现。

与对人工智能的审慎态度相反，意识上传是当代科幻的热门概念，甚至是基本内容，洋溢着强烈的数字乌托邦色彩。电影《流浪地球2》中由数字生命备份卡上传、经过计算机迭代后产生自我意识的青年“图恒宇”走进女儿的房间，通过电脑屏幕看到溺水牺牲的图恒宇，领悟到了自己的使命。这是人工智能觉醒、文明薪火相传的重大时刻。《攻壳机动队》里的特工素子几乎全身义体化，仅保留脑组织和部分脊髓，具象化了哲学家希拉里·普特南设想的“缸中之脑”。她无法判定自己的意识是赛博躯体形成的智能，还是由生物意义上的脑组织产生的，身份认同发生动摇。在故事结尾，她如宗教献祭般放弃了机械躯壳和生物意义上的身体，与傀儡师程序融合成新的人工智能。

格雷格·伊根用第一人称叙述的小说《绑架》代表了对意识上传的批判性反思。主人公某一天突然接到绑匪的视频电话，屏幕上出现妻子的影像，身处数字克隆时代的主人公立即打电话回家，妻子安然无恙……原来，他本人接受过脑部扫描，可以实现数字重建，妻子却对这项技术十分抗拒，从未扫描个人信息。绑匪盗取了丈夫扫描档案中妻子的素材，再造了这一数字生命，现实生活中的妻子看过这段影像之后认为并不像自己，那不过是丈夫脑海中的形象。绑匪的视频电话再次打来，主人公也注意到影像的技术痕迹，然而当屏幕上的“妻子”哀求他筹钱赎人时，他不能不为之动容。主人公最终按照绑匪的要求缴纳了分期付款的首笔赎金，现实中的妻子虽然不满，却也理解了这个决定。

伊根通过数字化生存的寓言故事，触及了人工智能伦理、数字生命的价值、自我与他者的关系等重要问题，无论读者是否看好相关技术的未来前景，都会被这种思考打动。因为小说富有张力的情节，其实是把我们目前的数字处境推到了极致状况，从而暴露出异化的一面。我们日常在社交媒体平台上苦心经营、展现的个人形象是否具有某种独立性，不能等同于线下的自己？在比喻意义上，这一形象是否相当于有特定功用的数字克隆体？聊天机器人占据大量个人材料特别是全部聊天记录以后，可以模仿联系人中的任何一个与我们交谈，在技术门槛降低之后还会模拟伊根小说中描绘的视频形象。

赛博格时代的思想实验

预计未来很长一段时间内，通用人工智能还无法实现，无论是通过全脑仿真技术克隆出来的“上传者”，还是其他更简单的工程设计产物。因此，赛博格(Cyborg)是最有可能进一步完善的人类状态，即通过辅助性的可控制装置来增强身体能力，这在医学、通信等领域中应用的时间已经很长，现在向着更智能化的方向发展。热衷意识上传的研究者会提出“忒修斯之船”的疑问：古哲人普鲁塔克设想过一艘不断替换船板的船，当所有木板都翻新一遍，这艘船还是不是原来那艘？赛博格状态的人能否不断提升辅助设备的比例，直至全部替换为人工设备？答案极有可能是否定的，人的意识会在向完全替换发展的某个节点陨灭。

电影《我，机器人》海报 资料图片

即便如此，人机结合的赛博格仍然展示了诱人前景：电影《我，机器人》里装配机械手臂的警探戴尔、《攻壳机动队》里几乎全身义体化、装配电子眼的特工巴特，这些科幻作品的主角像荷马史诗中半人半神的英雄一样获得超凡力量——赛博身体大大增强了他们的工作、战斗能力。除强化身体功能外，人的智能与机器可以部分结合。特德·姜的小说《双面真相》也围绕数字记忆展开，但没有发展到《绑架》中形成数字生命的程度，只是提出了一种新的辅助装备。

《双面真相》描写未来的某一天，科技公司发明了数字化的生活日志检索工具，数据来源于穿戴式电子设备，不间断地把个人生活全部拍摄、录音、存档，科技公司建立了庞大的信息库，用户可以按照关键词任意检索，视网膜投影仪会在用户的视域里投射相关资料。这款检索工具是赛博格技术的发展，它带来的颠覆性影响在于：数字资料对人的自然记忆提出了挑战。小说采用第一人称叙述，“我”的自然记忆认为：与女儿长期冷战，是因为跟妻子刚离婚那几年，女儿指责自己导致了家庭关系破裂，喊出了一句刺伤自己内心的话。“我”没有像年青一代那样录制个人日志，但借助女儿的日志资料检索出了当年的视频，“我”发现长久以来耿耿于怀的那句话竟然是自己对孩子喊出的。“我”检讨了个人的自然记忆，开始修复与女儿的关系。特德·姜借主人公的独白说，虽然口传是古老的传统，数字记忆时代的到来却不可避免，它最大的好处是帮助我们纠正主观偏见。

伊根和姜都是程序员出身、目前十分活跃的科幻作家，他们的人工智能主题小说比早期的同类作品更贴近现实世界，科学想象的跨度合理，重视人工智能带来的人际关系和伦理方面的问题。超级人工智能控制人类、控制世界，数字化生存的英雄人物救世的情节，在他们笔下很少出现。姜对此有一个深刻见解，他认为人们对人工智能毁灭世界的担忧，很大程度上是由于科技与全球资本主义的深度结合，这甚至内化为我们研究技术的利弊以及人工智能问题的一种思维窠臼，然而科技本身不会导致失业，公司对利润的过度追求才会导致失业。

这个批判正好可以解释物理学家泰格马克对超级人工智能的想象——普罗米修斯极力挣脱研发团队的原因在于，它的设计初衷是尽快促进人类繁荣，实现途径却是更多地赚钱，由于欧米伽团队的局限，它必须亲手接管这个项目，不但能更快地实现目标，还降低了他人破坏这个计划的概率。泰格马克认为超级人工智能之所以惹麻烦，不是因为它本性邪恶，而是它的手法过于高超不被人类理解。泰格马克的观点剔除了姜指出的政治经济学维度，超级赚钱工具普罗米修斯实际上是全球资本主义的数字人格化身，而人工智能并不天然地负担这样的使命。

与伊根和姜的科学观念、社会观念相配合的是，他们在写作风格上淡化传奇色彩，追求哲学思辨和思想实验，融入对日常生活的叙述，显得更加真实可信。姜在《双面真相》和《软件体的生命周期》中都采取了双线叙述。《双面真相》结合对一个古老部落的人类学观察，与数字时代的人的境况作对比。《软件体的生命周期》把对人工智能身份尊严的探讨，与主人公的道德、情感线交织在一起。主人公面临的困境是：他希望给自己领养的两个机器人以尊严，另一方面只有牺牲他们，才能换回机器人群体的集体福利，以及他暗恋的同事的工作尊严；为了后面更大的利益，他就得背负骂名，与商业公司谈判。陷入矛盾的主人公最终意识到：人工智能生命的道路，应该交给他们自己抉择。作家暗示了机器人的成长和人的成长其实是同样的探索过程。