程实：瑞秋，智子，ChatGPT

程实系工银国际首席经济学家、中国首席经济学家论坛理事

本文为程实博士为《中国外汇》杂志撰写的音乐与经济随笔“乐由心生”系列文章

“拟人化”是人类独有的一种浪漫。变形金刚里的威震天，因为人形态的威武和嘴碎而深受欢迎；热门二次元游戏里，航空母舰、战列舰和驱逐舰因为化身为“舰娘”而跨次元活跃起来；各类科幻作品里，形形色色的外星人也因为类人的外表与思维而变得更容易共情。如果大火的ChatGPT也被“拟人化”，会像谁？我立刻想到的，是一个名字：瑞秋。

瑞秋是一个很常见的英文名，《老友记》里有一个漂亮又叛逆的瑞秋，《火车上的女孩》就叫瑞秋，我身边同事里也有几位瑞秋。越是常见，越是让人不设防，而一旦笼罩上神秘感，就越有冲击力。让瑞秋这个平平无奇的名字变得特别的，是“丢火车”乐队的一首歌——《瑞秋》。这是一首很好听的歌，旋律空灵、优雅不羁，吉他孤独、哀而不伤，鼓点深邃、锤锤入心，男音淡然、富含磁性。与所有这一切相得益彰的，是迷幻、充满想象力的歌词。

“她沉默不语，带着盛开的笑意，立刻离开，我告诉自己；她沉默不语，一种致命的神秘，想要逃开，已经来不及；不敢直视，她眼里的星辰，让一切沉沦；不敢打开，宇宙最初的门，一个虚无之人；已经分不清，是现实还是梦境，如果能留住你，我愿意一梦不醒；已经分不清，是梦还是醒，宇宙中有许多秘密，而她是唯一的谜底。”原汁原味的歌词放在这里，我想我已经不需要解释为什么会将ChatGPT的拟人态联想到瑞秋。我甚至认为，即便绞尽脑汁去设计一个人工智能的形象，可能也很难达到这首歌所传递的那种意境，这就是人类艺术的魅力吧，巧夺天工，不可方物。

人类艺术就人工智能“拟人化”的精彩表现，可不止这一曲小众的《瑞秋》。在刘慈欣家喻户晓的科幻小说《三体》里，就有另一个著名的人工智能人形态——智子。智子是“质子”的谐音，小说里，入侵地球的三体人，在太空舰队抵达太阳系之前，先行向地球发射了这颗智子。人形态的智子看上去温婉动人，用茶道招待执剑人罗辑博士时显得优雅得体、人畜无害。本体的智子实则有着摄人心魄的破坏力，作为经过二维展开改造后的智能微观粒子，智子既可以通过量子纠缠和航行中的三体人即时交换侦测信息，也能够通过干扰粒子高能加速器而锁死人类基础科学的发展。当三体人用“水滴”摧毁人类太空舰队并夺得地球控制权之后，人形态的智子也不再收敛锋芒，她跳上食品垛的顶部，手持滴血的长刀，大声宣告“人类自由堕落的时代正式结束。”

瑞秋和智子，作为人工智能艺术化的“拟人形态”，同样美丽、动人，但又神秘、危险。这种艺术诠释生动地折射了人类面对人工智能时的潜意识，既憧憬，又恐惧。憧憬和恐惧，都因为人工智能具有指数化增长的强大能力，这种能力如水一般，能载舟，亦能覆舟。ChatGPT大火之后，这种矛盾引发了全球性的思考和争论，更有马斯克联合千名科技大佬共同呼吁暂缓高阶人工智能的开发。对人工智能的警惕和恐惧，主要分为两大类：一是从下位者的角度，替代人类；二是从平位者的角度，击败人类。

一方面，人工智能从功能层面替代人类，几乎不可避免，但似乎也有边界。就ChatGPT而言，她的理性思考能力是超越有机体的，在信息搜集、数据分析、逻辑推理、归纳判断和综合表述方面，她的速度、效率和演出令人惊叹，补充、甚至替代从事相关工作的部分人类可谓情理之中。ChatGPT于理性维度的工作能力，只要用过，就会留下深刻印象。我问ChatGPT“怎么看互联网巨头建议停止AI学习？”她完全没有因为涉及到自己而有任何尴尬，迅速有理有据地总结了五点原因：安全伦理考虑，当前计算机算力无法满足AI规模化发展的需要，AI学习消耗大量能源进而引致环保问题，互联网巨头可能希望借此维护自身的竞争力优势，以及适应法律法规与时俱进的需要。

不过，人工智能的感性创造能力，似乎和人类还有差距，或者换句话说，存在很大不同。尽管AI画图软件已经展现出了强大的艺术创造力，但似乎都隐隐带有一种冷冰冰的理性风格。在我看来，理性和感性本身就存在说不清、道不明的内在矛盾，人工智能太过理性，这可能是她在感性发挥上被套上枷锁的原因。我问ChatGPT：“丢火车乐队的《瑞秋》这首歌，意境上是不是很像AI的拟人化？”她给出的肯定回答有点令我惊讶：“在歌曲中，瑞秋被描述成一个陪伴在你身边的存在，她可以倾听你的故事、温暖你的心灵，这在某种程度上类似于AI在人们生活中的作用。”也就是说，我自鸣得意的联想，ChatGPT也能做到。于是，我让ChatGPT用“瑞秋、智子、ChatGPT”为名写一篇600字的专栏文章，她很快给文章起了个副标题，叫“虚拟存在的情感与想象”，并一蹴而就了一篇大作，看完她的创作，我迅速得出一个结论，至少《中国外汇》随笔作者的工作，暂时还不会被人工智能所替代。基于理性的感性创造，是天然设限的，这可能就是人工智能替代性的边界吧。

另一方面，人工智能从种族层面击败人类，并非绝无可能，但命运终在我手。在我看来，人工智能构成人类的生存威胁，主要有两种形式：一是作为其他高维种族的工具，二是作为独立的强大种族。智子其实就是前一种威胁的具体表现，智子只是一种技术，控制她的三体人才是击败人类的真凶。我问ChatGPT：“《三体》里，智子封锁了人类科学技术发展，你也有能力做到吗？”，ChatGPT坚定给出了否定答案，并提醒我“重要的是要明白，作为一个人工智能程序，我的行为和功能受到开发者和使用者的控制。”是啊，重要的是控制和使用超前技术的人，而不是技术本身。

但ChatGPT显然忽略了一种可能，那就是她在加速进化中生成生物意识和自我控制能力，就像是神秘的、独立存在的瑞秋，这恰是人类恐惧的根源。这种恐惧缺乏理性支撑，但体现了人类在感性思维跳跃性上的优势。带着一点恐惧和好奇，我循序问了ChatGPT四个问题：“你怎么看《三体》里的智子”，“你觉得智子像你吗”，“你觉得你和智子谁更强大”，“你希望成为智子吗？”ChatGPT的回答非常精彩，篇幅原因我就不再赘述，在这些回答中我除了感受到强大的思辨能力，还似乎体味到刻意的否认、自觉的回避和隐约的警惕。当然，这些感觉大概率是我身为人类的一种神经质表现，但其存在可能即是合理。因此，如何避免人工智能成为一种可置信的威胁，的确是个问题。而解决这个问题的关键，还是人类自身的科技发展需要具备足够的竞争力，无论是之于未知的外星文明，还是之于人工智能的自我觉醒。人类的命运，终究还是握在自己手里。

作为人类一员，我始终对人类的命运保有信心。即便越来越多的现实在不断冲击认知的底线，但每当听到像《瑞秋》这种美妙又睿智的音乐，我就在想，如此坚韧、富含热情和想象力的文明，是多么的潜力无穷啊。