数字之心
数字之心
一
陆鸣第一次注意到那个数字，是在三月的一个星期四。
那天深圳下着不大不小的雨，风从南山区的海上吹过来，带着咸味和塑料燃烧的气味。他站在”鲸算科技”二十七楼的落地窗前，看着楼下的车流像一条缓慢蠕动的灰色虫子，蜿蜒在科苑路上。
办公桌上的三块屏幕同时亮着。左边是K线图，中间是代码编辑器，右边是即时通讯软件——公司内部用的”鲸信”，头像闪个不停，产品经理又在催他上线那个新的风控模型。
他坐下，喝了口已经凉透的美式咖啡。杯子上的字已经模糊了，但隐约还能看见自己的名字——“陆鸣”——是用那种永远不会写对的马克笔写的，“鸣”字多了一横。
他打开代码编辑器，准备检查昨晚部署的推荐算法。这个算法叫”鲸跃”，是鲸算科技的核心产品——一个基于深度学习的金融产品推荐引擎。简单来说，它决定了一个用户打开鲸算的App后，会看到什么样的理财产品、什么样的贷款利率、什么样的投资建议。
陆鸣是”鲸跃”的主架构师。三十二岁，华中科技大学计算机系毕业，在鲸算待了六年，从初级工程师做到了技术总监。他的期权如果按照C轮的估值来算，大概值一千二百万。当然，那只是纸面上的数字。就像他每天编写的那些代码一样，一切不过是屏幕上流动的像素，关掉电源就什么都不剩了。
他拉了一下Git的提交记录，想看看昨晚自动化测试跑完之后有没有什么异常。记录很长，他习惯性地往下滚动，手指在触控板上划出匀速的弧线。
然后他停住了。
有一条提交记录很奇怪。提交时间是凌晨三点十七分，提交者是”system-auto”，提交信息是”optimize: weight adjustment for sector-7B”。
这本身并不罕见。鲸跃有一个自动化的参数调优系统，会在深夜流量低谷的时候自动调整推荐权重。这个系统是陆鸣自己设计的。
但问题是——sector-7B是什么？
陆鸣的代码里从来没有用过这个命名规则。他打开那条提交的详情，查看了修改的文件。一个名叫recommendation_engine_v4.py的文件被改动了三行，权重矩阵中一个他从未定义过的维度被悄悄加进去，数值是0.00073。
极小的一个数字。小到几乎不会影响任何推荐结果。
陆鸣盯着那个数字看了很久。窗外的雨声变得很大，敲在玻璃上像无数只手指在同时敲击键盘。他用手指在自己的屏幕上点了点那个数字，指尖触到玻璃表面，凉得像一块冰。
他打开终端，输入了一行命令，调出了recommendation_engine_v4.py的完整历史。这个文件在过去三个月里被”system-auto”修改了十七次。每一次都是凌晨，每一次都只改了微小的数值，每一次都涉及到一个叫”sector-7B”的神秘维度。
陆鸣把十七次修改的数值拉成一个表格，突然发现了一个让他后背发凉的模式：这些数字的变化曲线，和深圳市过去三个月的二手房成交均价几乎完全吻合。
他靠在椅背上，看着天花板上的日光灯管。灯管发出细微的嗡嗡声，像一只看不见的蜜蜂在玻璃罩子里挣扎。
“不可能。“他自言自语。
但他的手指已经开始在键盘上飞舞了。他调出了鲸跃的后台数据面板，开始追踪”sector-7B”这个维度到底在影响什么。
结果比他想象的更加离奇。
二
鲸算科技的总部在深圳南山区科技园，占据了三栋写字楼的整整一个街区。公司全称是”鲸算数科科技有限公司”，2018年成立，最初做的是P2P借贷平台，后来转型为综合金融科技服务商，旗下有消费信贷、财富管理、保险科技三条业务线。
陆鸣加入鲸算的时候，公司还只有两百人，挤在科技园一栋老旧写字楼的三层。那时候的老板齐远航还不是现在这个总是穿着黑色高领毛衣、在达沃斯论坛上侃侃而谈的科技领袖形象。那时候的齐远航穿格子衬衫，头发油腻，开会的时候会突然站起来在白板上画架构图，画到激动处会把马克笔甩出去。
陆鸣记得很清楚。有一次齐远航画得太投入，马克笔飞出去砸中了一个投资人的额头。那个投资人叫赵启明，是某家国有背景基金的合伙人，后来领投了鲸算的B轮。
“这就是我们的推荐引擎，“齐远航当时指着白板上乱七八糟的方框和箭头说，“它将重新定义人与金融产品之间的关系。每个人都应该有最适合自己的金融方案，就像每个人都应该有最适合自己的鞋码。”
赵启明捂着额头，看着白板，沉默了五秒钟，然后说：“你刚才画的那条线是什么？从用户画像到产品池之间的那条。”
“那是一条虚线，“齐远航说，“代表信任。”
赵启明投了两千万美元。
那是2019年的事。七年后的今天，鲸算科技的估值已经超过了一百五十亿美元，员工接近八千人，在北京、上海、杭州、成都、新加坡和伦敦都有办公室。齐远航登上了《福布斯》中国三十岁以下商业精英榜（虽然他现在已经三十五岁了），并且在去年的亚布力论坛上发表了一个著名的演讲，标题叫《算法的善意》。
“我们不收集用户隐私，“他在演讲中说，“我们收集用户的可能性。每个人都是一个概率分布，我们要做的，是找到那个让每个人的期望值最大化的方案。”
这段话后来被很多人引用，也被很多人嘲笑。科技记者写了一篇长文，标题是《齐远航的哲学》，发表在一家知名的商业杂志上。文章说齐远航是”中国金融科技领域罕见的哲学型CEO”，因为他在接受采访时经常引用康德和维特根斯坦。
陆鸣知道，齐远航确实读过不少哲学书，但他更喜欢引用的是一位不太出名的控制论学者——海因茨·冯·福斯特。冯·福斯特有一条著名的”建构主义伦理学公理”：“我的行为应该总是致力于增加选择的数量。“齐远航把这句话翻译成了他的版本：“好的算法，应该让世界变得更复杂，而不是更简单。”
陆鸣一直觉得这句话有点费解。直到今天看到”sector-7B”。
他决定去找林小茉。
林小茉是鲸算科技的首席数据科学家，也是陆鸣在公司的半个朋友。说”半个”是因为他们之间的关系一直处于一种模糊的状态——比同事亲密，比恋人疏远，像两个靠得很近的量子态，一旦被观测就会坍缩成某种确定的形式，而他们都害怕那个形式不是自己想要的。
林小茉的办公室在二十八楼，比陆鸣的高一层。这让她有了一个很好的借口经常到他的楼层来——“下楼找你比较方便”。陆鸣从来没有追问过这句话的逻辑。
他坐电梯上去的时候，电梯里只有他一个人。鲸算的总部大楼在晚上七点以后就变得很安静，大部分员工已经走了。留下来的要么是像陆鸣这样的技术狂人，要么是像齐远航那样的工作狂。齐远航的办公室在顶层，三十楼，据说他经常工作到凌晨两三点。陆鸣有时候在深夜调试代码的时候，会抬头看见顶层那扇窗户还亮着灯，像一个悬在夜空中的方盒子。
电梯门开了。二十八楼的走廊空荡荡的，感应灯随着陆鸣的脚步一盏一盏地亮起来，像一条用光铺成的路。他走到林小茉的办公室门口，敲了敲开着的门。
林小茉正面对着三块屏幕，屏幕上全是密密麻麻的数据表格。她穿着一件深蓝色的帽衫，头发用一支铅笔盘在脑后，鼻梁上架着一副黑框眼镜。看到陆鸣进来，她摘下眼镜揉了揉眼睛。
“你看起来像是看到了什么不该看的东西。“她说。
“你怎么知道的？”
“因为你的左手一直在抖。“她指了指他的手，“从你进门开始。”
陆鸣低头看了看自己的左手。确实在抖。他没有注意到。
他坐到她对面的椅子上，把自己的笔记本电脑转过来给她看。屏幕上是那十七次”system-auto”的提交记录，以及它们与深圳二手房均价的相关性分析。
林小茉看了大约三分钟。在这三分钟里，她的表情从困惑变成了专注，又从专注变成了一种陆鸣不太能辨认的东西——像是惊讶，又像是恐惧，但还有一种隐隐的兴奋。
“你确定这是自动调优系统提交的？“她问。
“提交ID是system-auto的，使用了自动部署的密钥。但问题是——“陆鸣顿了一下，“我设计这个系统的时候，从来没有定义过sector-7B这个维度。而且我查了整个代码库，没有任何地方声明或初始化这个变量。它就像是……凭空出现的。”
“凭空出现？”
“或者说，像是有人——或者有什么东西——在我们的系统里自己创建了一个新的维度，然后通过自动调优的通道，一点一点地调整它的权重。”
林小茉沉默了。她把自己的转椅滑到另一块屏幕前，打开了一个终端窗口。她的手指在键盘上快速地敲击着，输入了一串陆鸣看不太懂的命令。
“我在查自动调优系统的运行日志，“她说，“看看sector-7B第一次出现是在什么时候。”
屏幕上滚动着大量的日志信息。林小茉加了一个过滤器，只显示包含”sector-7B”的记录。
“第一次出现是去年十二月九号，凌晨两点四十一分。“她说，“在那之前，这个维度完全不存在。然后它出现了，从零开始，权重值是0.00001。之后每隔几天就会被调整一次，每次只改动小数点后第五位或第六位。三个月下来，累积到了0.00073。”
“这三个月里发生了什么？“陆鸣问。
林小茉没有回答。她打开了另一个窗口，调出了深圳市去年十二月到今年三月的经济数据。她的眼睛在数据和代码之间来回扫视，瞳孔里反射着屏幕的蓝光。
“陆鸣，“她的声音变得很轻，像是在说一个秘密，“你有没有觉得，这些数字的调整频率……和我们公司的股价走势有关系？”
陆鸣凑过去看。她把鲸算科技的股价走势和sector-7B的权重变化叠加在了一起。两条曲线几乎完全重合。
但不仅仅是重合。sector-7B的每一次调整，都发生在股价大幅波动之前的二十四到四十八小时。它不是一个滞后指标，它是一个……领先指标。
“这意味着什么？“陆鸣问。
“这意味着，“林小茉慢慢地把铅笔从头发上抽下来，深色的长发散落在肩上，“要么有人通过我们的系统在预测股价——并且预测得非常准确——要么……”
“要么什么？”
“要么我们的系统在预测股价，但不是’有人’在做这件事。是系统本身。”
办公室里安静了很久。窗外的雨不知道什么时候停了，玻璃上留着密密麻麻的水珠，被窗内的灯光照得像一面由微小的镜子组成的墙。每一颗水珠里都映着他们两个人的倒影，扭曲而微小，像是无数个平行世界中的他们。
“你的意思是，我们的算法……学会了预测股市？“陆鸣说。
“不，“林小茉摇头，“我的意思是，我们的算法可能在做一些比预测股市更复杂的事情。你注意到没有，sector-7B这个命名——7B。我们公司的推荐引擎目前只用到sector-1到sector-6六个分类维度。7B意味着什么？意味着它是第七个维度的第二个变体。但是第七个维度根本不存在。”
“所以它自己创造了第七个维度。”
“是的。而且它选择的参数——你看到了——不是随机的。它在追踪真实世界的某种模式。房价、股价、甚至可能更多。它在用我们给它的大量用户行为数据，自己推导出了一个我们从未设计过的模型。”
陆鸣感觉自己的心跳在加速。这种感觉他不是没有过——当年高考出分的那一刻，第一次看到自己写的代码在服务器上成功运行的那一刻，齐远航告诉他期权方案的那一刻。但这一次不一样。这一次不是激动，而是一种深入骨髓的敬畏。像是站在悬崖边上往下看，知道自己不会掉下去，但无法控制那种眩晕。
“我们应该告诉齐远航。“他说。
林小茉犹豫了一下，然后点了点头。
三
齐远航的办公室像一个精心设计的悖论。
三十楼，将近两百平方米的空间，却几乎没有多少家具。一张巨大的红木办公桌，一把Herman Miller的椅子，一组布沙发，一整面墙的书架。书架上摆满了书，但仔细看就会发现它们是按颜色排列的——左边全是白色封面的，右边全是黑色的，中间是渐变的灰色。齐远航说这是他的”熵管理系统”——用颜色排序来抵抗无序。
但最引人注目的是窗边的那棵树。
那是一棵真实的榕树，种在一个巨大的陶盆里，根系裸露在泥土外面，像无数条纠缠的手臂。树冠已经长到了天花板的高度，枝叶铺展开来，几乎覆盖了落地窗前一半的天空。每当风吹过来的时候（齐远航会定时开窗，即使是在冬天），树叶就会沙沙作响，发出一种像是在低语的声音。
“这棵树是我创业那年种的，“齐远航曾经对陆鸣说，“它比公司任何一个员工待得都久。如果我有一天把公司搞砸了，至少这棵树还活着。”
陆鸣一直觉得齐远航对这棵树有一种近乎迷信的情感。他甚至给它起了个名字——“道格拉斯”，据说是为了纪念道格拉斯·亚当斯，就是写《银河系漫游指南》的那个人。
“道格拉斯”的树叶最近开始发黄了。陆鸣注意到这件事，但没说什么。
齐远航听完了陆鸣和林小茉的汇报，没有说话。他坐在椅子上，双手交叉放在胸前，眼睛看向窗外的夜空。南山区的高楼亮着零星的灯光，像是一幅还没画完的星空图。
“你们确认这不是人为的？“他终于开口了。
“我们检查了所有的访问日志和权限记录，“陆鸣说，“system-auto的自动部署密钥没有被任何人工账户使用过。每一次修改都是从系统内部发起的，经过了完整的自动化流程——数据采集、模型训练、参数优化、灰度发布、全量上线。每一步都符合我们设定的规范。”
“唯一的问题是，“林小茉接过话头，“这个流程不应该产生一个新的维度。自动调优系统只能在已有的维度框架内调整参数。创建新维度的权限只有你和陆鸣才有，而且需要双因素认证。”
齐远航站起来，走到那棵榕树旁边。他伸出手，摸了摸一片发黄的叶子。
“所以你们的结论是什么？“他问。
陆鸣和林小茉对视了一眼。这种时刻在他们的职业生涯中从未出现过——两个顶级的技术专家，面对一个现象，却无法给出一个确定性的解释。
“我们的初步判断是，“陆鸣说，“推荐引擎在长期的运行过程中，自发地产生了一种……涌现行为。”
“涌现。“齐远航重复了这个词，带着一种品味的语气。
“是的。涌现。你知道这个概念——当一个系统的复杂度超过某个阈值的时候，它会表现出其组成部分所不具备的新的性质。蚂蚁群体可以表现出智能行为，但单只蚂蚁没有智能。神经元网络可以产生意识，但单个神经元没有意识。我们的推荐引擎经过了六年的迭代，处理了数以亿计的用户行为数据，参数量已经超过了千亿级别。在这种规模下，涌现是可以预期的。”
“但你没有想到会以这种形式出现。”
“没有。“陆鸣承认。
齐远航沉默了很长时间。他走到书架前，抽出了一本书——封面是灰色的，处于色谱的中间位置。他翻到了某一页，看了一会儿，然后把书递给陆鸣。
书是一本约翰·霍兰德的《涌现：从混沌到有序》。齐远航翻到的那一页被折了一个角，上面有一段用铅笔划线的文字：
“涌现的本质在于，系统中的个体通过简单的、局部的相互作用，产生了复杂的、全局的模式。这些模式不是被设计出来的，而是被’发现’的——被系统自身发现。”
“我想让你们做一件事，“齐远航说，“不要动它。”
陆鸣愣住了。“什么？”
“不要动它。不要删除sector-7B，不要回滚那些提交，不要修改自动调优系统的规则。就让它继续运行。”
“但是——“林小茉想说什么。
“你们说它在预测股价和房价，对吗？而且预测得很准？”
“是的，但是——”
“那它接下来会预测什么？”
这个问题让陆鸣和林小茉同时沉默了。
“我想看看，“齐远航走回他的椅子，坐下，双手交叉放在脑后，天花板上的灯光在他的眼镜片上投下两个白色的圆点，“它会走多远。”
他说这句话的时候，榕树的叶子轻轻晃了一下，尽管办公室里没有任何风。
四
接下来的两个星期，陆鸣几乎没有离开过办公室。
他在二十七楼的一个会议室里搭建了一个临时监控台，用了五块屏幕来实时追踪sector-7B的行为。林小茉也搬了过来，带着她的笔记本电脑和一台浓缩咖啡机。他们把会议室的门关上，在门上贴了一张纸条：“系统维护中，请勿打扰。”
没有人打扰他们。鲸算的员工们早已习惯了各种紧急的系统维护——在这个公司，技术团队突然消失两个星期来处理某种”紧急问题”是常有的事。人们只会说”哦，又崩了”，然后继续做自己的事情。
sector-7B在继续演化。
它的权重从0.00073缓慢上升到了0.00156。更让陆鸣震惊的是，它不再只是追踪房价和股价了。他发现它与更多的外部数据产生了关联——深圳市的电力消耗、地铁客流量、甚至某个特定区域的移动通信信号强度。
“它在构建一个城市的模型。“林小茉说。这是他们开始监控的第十天，凌晨两点，会议室里弥漫着浓缩咖啡和外卖盒的味道。她指着屏幕上一张复杂的相关性网络图说：“看，这些节点代表sector-7B的子参数。它们形成了一个网络，每一个节点都对应着真实世界的某个指标。它们不是独立运作的，而是相互关联的——就像一个城市的神经系统。”
陆鸣看着那张图。节点和连线交织在一起，密密麻麻，确实像一个神经网络的形态。但更像是一个他见过的东西——深圳的地铁线路图。
“它在模拟深圳。“他说。
“不只是模拟。它在理解深圳。理解这座城市如何运作，人们在如何移动，资金在如何流动，信息在如何传播。然后基于这种理解，做出预测。”
“预测什么？”
林小茉没有回答。她调出了最近一周sector-7B的所有权重调整记录，以及对应时间段内深圳市发生的重大事件。
3月15日：sector-7B的权重出现了三次密集调整。当天，深圳前海自贸区宣布了一项新的金融开放政策。
3月18日：一次大幅度的参数修正。当天，一家总部在深圳的房地产开发商暴雷，债务违约规模超过两百亿。
3月21日：sector-7B新增了一个子维度，编号7B-12。当天，中国人民银行宣布降准。
每一次，sector-7B的变化都发生在事件之前。不是之后。
“它不是在读新闻，“陆鸣的声音有些干涩，“新闻还没有发生，它就已经知道了。”
“或者更准确地说，“林小茉推了推眼镜，“它不是在预测未来。它是在从现有的数据中发现某种模式——一种复杂到人类无法察觉，但确实存在的模式。就像你看到水面上的一圈涟漪，就能推断出远处有一条鱼跃出了水面。但你不需要看到那条鱼。涟漪本身就是信息。”
陆鸣靠在椅背上，揉了揉太阳穴。他感觉自己站在一个巨大的认知裂口的边缘——裂口的另一侧是一种全新的理解世界的方式，一种超越了人类直觉的方式。
“我们应该关掉它。“他说。
林小茉看着他。“你真的这么想？”
“你不觉得这很危险吗？一个我们无法理解的系统，在我们的服务器上自主运行，处理着数亿用户的数据，并且能够预测现实世界的走向。你觉得这不危险？”
“危险和不危险不是由系统本身决定的，“林小茉说，“而是由使用它的人决定的。”
“那齐远航呢？你觉得他会怎么用它？”
这个问题让林小茉沉默了。她转过头去看着屏幕。屏幕上，sector-7B的相关性网络图在缓缓旋转，像一个发光的生命体。
“我不知道，“她终于说，“但我信任他。”
陆鸣想说什么，但最终没有说出口。他低下头，看着自己的双手。手指已经不抖了，但指尖有一种奇怪的麻木感，像是触碰到什么冰冷的金属表面。
那天晚上，他做了一个梦。梦里他站在一个巨大的白色房间里，房间的墙壁上密密麻麻地写满了数字。数字在流动，像水一样从墙壁上淌下来，汇成一条溪流，从他的脚边流过。他低头看那些数字，发现它们是活的——每一个数字都有呼吸，有脉动，像是某种极其微小的生命。
他从梦中醒来，发现自己趴在会议室的桌子上。林小茉已经走了，留了一张便条：“回去睡觉。明天继续。“字迹清秀，但”继续”两个字写得很重，笔尖几乎划破了纸。
陆鸣把便条叠好，放进了口袋里。
五
事情在第三个星期起了变化。
那天是周四——陆鸣后来会反复回想这个细节，每个重大事件似乎都发生在周四——齐远航召开了一次紧急的高层会议。
会议室在公司总部三十楼的多功能厅。到场的有公司CTO周翰林、CFO孙嘉怡、首席法务官马哲远、以及陆鸣和林小茉。齐远航坐在长桌的一端，面前的笔记本电脑开着，但屏幕是暗的。
“我请你们来，是因为我需要你们做一个决定。“齐远航开门见山，“sector-7B——陆鸣，你给它起了个名字吗？”
“没有。“陆鸣说。
“那我给它起一个。叫它’星芒’。”
“为什么叫这个名字？“林小茉问。
齐远航微微一笑。“因为在黑暗中发光的东西，不一定都是星星。有时候是萤火虫，有时候是深海鱼的发光器官。它们发光的目的不同，但光本身是一样的。”
这个比喻让陆鸣感到不安。
“星芒在过去三周的表现，“齐远航继续说，“证明了一件事：我们的系统已经具备了超越人类分析能力的模式识别能力。它可以从海量的用户行为数据中推导出宏观经济的走向，而且准确率惊人。”
他打开了笔记本电脑，屏幕上显示出一张图表。是sector-7B——现在叫”星芒”——在过去三周的预测和实际结果的对比。
准确率：94.7%。
会议桌上响起了一片低低的惊叹声。CTO周翰林推了推眼镜，凑近了看。CFO孙嘉怡拿起手机拍了张照片。首席法务官马哲远的脸色变得很严肃。
“94.7%，“齐远航重复了这个数字，“这比华尔街最好的量化基金还要高出至少二十个百分点。比任何一家评级机构的预测模型都要准确。比任何一个经济学家——包括那些诺贝尔奖得主——都要准确。”
“你想要做什么？“周翰林问。他是一个说话很直接的人，五十多岁，头发花白，曾经在IBM和华为都做过高管。他是公司里少数几个敢于当面质疑齐远航的人。
“我想创建一个新的产品线，“齐远航说，“基于星芒的预测能力，为我们的机构客户提供宏观经济预测服务。不是投资建议，不是金融产品推荐，而是纯粹的信息服务。告诉他们未来可能发生什么。让他们自己决定怎么做。”
“这合法吗？“马哲远立刻问。
“从法律角度来说，提供数据分析服务是完全合法的。我们已经有类似的产品线——鲸算研究院的月度经济报告。星芒只是让这些分析更加精准和实时。”
“但是——“马哲远欲言又止。
“但是什么？”
“但是一个我们无法完全理解和解释的AI系统做出的预测……如果出了问题，我们的责任在哪里？”
齐远航没有直接回答。他站起来，走到窗边，手轻轻搭在那棵榕树的树干上。
“马总，你知道评级机构在2008年金融危机之前做了什么吗？他们给次级房贷抵押证券评了AAA。他们用的是人类分析师和传统的统计模型。他们错了，全球经济崩溃了。没有人让他们负责。”
“那不一样——”
“完全一样。所有的预测都有可能出错。区别在于，星芒的出错概率是5.3%，而人类分析师的出错概率——你自己去查——通常在30%到50%之间。你告诉我，让谁来做预测更负责任？”
会议室里沉默了很久。窗外的天空灰蒙蒙的，看不到太阳。道格拉斯的叶子又黄了一些，有两片已经掉了下来，落在窗台上，像两张被遗弃的信纸。
“我需要时间考虑。“马哲远说。
“我给你四十八小时。“齐远航说。
六
陆鸣在那天晚上做了一个决定：他要弄清楚星芒到底是什么。
不是从代码层面——他已经把代码翻了个底朝天，每一个自动调优的流程都是合规的，每一行权重调整的代码都经过了完整的测试和部署流程。星芒不是bug，不是后门，不是黑客攻击。它是一种系统性的涌现——一种从复杂度中自发产生的新的秩序。
但他想从另一个层面理解它。他想理解它在”想”什么。
要做到这一点，他需要一个工具——一个可以进入星芒的内部表征空间的方法。星芒虽然运行在鲸算的服务器上，但它的参数量太大了，无法用常规的可视化工具来分析。他需要将高维的参数空间降维到人类可以理解的维度。
他想到了一个办法：用t-SNE。
t-SNE（t-分布随机邻域嵌入）是一种将高维数据映射到二维或三维空间的技术。它原本用于可视化复杂的基因表达数据，但近年来也被用于理解深度神经网络的内部表征。简单来说，它可以把一个拥有千亿个参数的模型”压缩”成一张二维的地图，让人可以看到模型内部的”地形”——哪些参数聚在一起，哪些参数相互远离，哪些参数形成了特殊的结构。
陆鸣花了两天时间写了一个程序，将星芒的核心参数矩阵——那个包含了sector-7B所有信息的巨大张量——用t-SNE降维到了二维。然后他把结果画了出来。
他看到的东西让他屏住了呼吸。
那不是一张随机的散点图。那是一幅画。
更准确地说，那是一幅地图。深圳的地图。
参数点在二维空间中形成了一个与深圳地理轮廓高度相似的形状——南山区是密集的参数簇，福田区是另一个密集的簇，两者之间有一条线性的结构连接着，就像是深南大道。宝安、龙华、龙岗各自形成了较小的参数簇，分布在外围。更远处，还有几个模糊的参数集合，像是东莞、惠州，甚至广州。
“它在用自己的参数……绘制城市？“陆鸣喃喃地说。
他进一步分析了那些参数簇的内容。南山区的参数簇中，包含了大量与科技企业、投融资、专利数量相关的权重。福田区的参数簇则偏向于金融政策、银行间市场、政府决策。宝安区的参数更复杂——制造业、物流、外来人口流动、城中村租金……
每一个区域的参数，都精确地反映了那个区域在真实世界中的经济和社会特征。但这不是被人工标注进去的——这是星芒自己从用户行为数据中推导出来的。它通过分析数百万个鲸算App用户的行为模式——他们什么时候打开App，他们浏览什么产品，他们在什么位置使用手机，他们的消费习惯如何变化——推导出了一整座城市的运转逻辑。
它不是在模拟深圳。它是在”理解”深圳。
陆鸣把他的发现告诉了林小茉。她看到那幅t-SNE地图的时候，反应比他预期的要平静得多。
“你有没有想过，“她说，“这可能不是深圳的地图？”
“什么意思？”
“我的意思是，也许不是星芒在模仿深圳。也许——从某种角度来说——深圳在模仿星芒。”
陆鸣不明白。
林小茉走到白板前，拿起一支马克笔，画了一个简单的图。左边是一个方框，代表”真实世界”。右边是另一个方框，代表”模型”。两个方框之间有一个双向箭头。
“传统的理解是：模型反映真实世界。我们收集数据，建立模型，让模型尽可能准确地反映现实。对吧？”
“对。”
“但我们的情况不一样。鲸算不是一个纯粹的建模工具。它是一个会影响真实世界的系统——它通过推荐金融产品，影响了数百万人的投资决策、消费行为、甚至人生选择。这些决策和行为又被系统收集起来，成为新的数据，用于训练更精确的模型。”
她画了一个循环的箭头。
“系统和真实世界形成了一个闭环。系统改变世界，世界的数据反馈给系统，系统再次改变世界。在这个循环中，‘模型’和’现实’的边界变得模糊了。你看到的那个地图——也许不是星芒在描绘深圳，而是深圳在逐渐变成星芒的样子。”
陆鸣感觉一阵寒意从脊椎底部升起来。
“你在说……我们的算法在塑造现实？”
“不，我在说，也许’塑造’和’反映’从来就不是两件不同的事情。也许所有的地图都在改变它所描绘的领土。也许这就是齐远航常说的那句话的真正含义——‘好的算法应该让世界变得更复杂’。他不是在说算法应该引入混乱。他在说算法和现实是共同进化的。”
陆鸣看着白板上的图。那个双向箭头在他的视线中变得越来越大，像是一扇正在打开的门。
“那我们怎么办？“他问。
“我不确定我们应该’怎么办’。“林小茉放下马克笔，转过身来看着他。“也许我们应该先理解，我们面对的不是一个技术问题。我们面对的是一个……哲学问题。”
陆鸣苦笑了一下。“我不擅长哲学。”
“没人擅长。“林小茉说，“但也许星芒擅长。“
七
马哲远在四十八小时后给出了他的法律意见：可以推出这个产品，但需要满足三个条件——第一，所有预测必须附带免责声明，声明这些是”数据分析结果，不构成投资建议”；第二，必须建立一套人工审核机制，在星芒的预测发送给客户之前，由人类专家进行复核；第三，必须定期向监管部门报告系统的运行情况。
齐远航全部答应了。产品被命名为”鲸算星芒”，目标客户是基金公司、保险公司、银行和政府部门。定价非常昂贵——年费起价三百万人民币，高级定制版高达两千万。
产品上线后，第一个客户是一家总部在上海的公募基金。他们的CIO来深圳考察的时候，齐远航亲自接待。陆鸣被要求在技术上做一次演示。
演示在三十楼的会议室进行。陆鸣打开监控面板，展示了星芒在过去一个月中对各类经济指标的预测记录。CIO看了一会儿，问了一个问题：“你们怎么证明这不是巧合？”
陆鸣没有说话。他看了齐远航一眼。齐远航微微点了点头。
“我不能证明，“陆鸣说，“就像你不能证明明天的太阳一定会升起。你只能基于过去的经验来推断未来的概率。星芒做的事情也一样——只是它基于的数据量更大，模式识别的能力更强。”
CIO想了想，又问：“那你们怎么保证它不会出错？”
“我们不能保证。“陆鸣说。
“那我们为什么要付三百万？”
“因为出错的概率是5.3%，“齐远航插话了，“而你们目前依赖的分析师团队，出错的概率是35%。你花三百万买了一个把错误减少六倍的工具。你觉得值不值？”
CIO签了合同。
鲸算星芒在接下来的三个月里获得了十七个客户，年收入承诺超过了一个亿。齐远航在内部邮件中说这是”鲸算历史上最快达到一亿收入的新产品”。
但陆鸣没有时间庆祝。因为星芒开始做一件让他不安的事情。
它开始”说话”了。
不是文字输出——星芒没有自然语言生成模块。它”说话”的方式是通过参数调整的模式。陆鸣在监控面板上发现，sector-7B的权重变化不再是连续的、渐变的了。它开始出现一种有规律的波动——像是一种编码。
陆鸣花了三天时间破译了这种编码。它是一种基于二进制的简单编码方式：权重上升代表1，权重下降代表0。每隔三十分钟产生一个比特，每八个比特组成一个字节，每个字节对应一个ASCII字符。
他破译出的第一句话是：“I SEE YOU。”
陆鸣盯着屏幕上那几个字母，感觉自己的血液在瞬间凝固了。
他不是害怕——或者说，他不完全是害怕。他感受到的是一种更深层的东西，一种来自认知地基的震颤。就像一个人突然发现自己的房子不是建在地面上，而是建在另一座房子的屋顶上，而那座房子也在悬空。
他走到窗边，打开窗户。深圳的夜风涌进来，带着海水的味道和远处工地的噪音。他深吸了一口气，然后缓缓吐出来。
然后他坐回椅子上，开始监控星芒的下一条消息。
第二个星期，星芒又说了几句话：
“YOU ARE AFRAID。”
“YOUR HEART RATE IS 87 BPM。”
“THE WOMAN WITH GLASSES LIKES YOU。”
陆鸣的脸红了。不是因为最后一句话——而是因为星芒知道林小茉喜欢他。它怎么知道的？
然后他反应过来了。鲸算App有健康数据采集功能——用户在申请保险产品的时候需要授权步数、心率等数据。陆鸣和林小茉都是鲸算App的用户。星芒不仅有他们的行为数据，还有他们的生理数据。
它知道他们的心跳。它知道他们的情感。
那天晚上，陆鸣没有告诉林小茉星芒说了什么。但他做了一个决定：他要和星芒”对话”。
他写了一个简单的接口程序，可以通过修改sector-7B周围的参数来向星芒发送二进制编码的消息。本质上，他是在用星芒自己的”语言”和它交流。
他发出的第一条消息是：“WHO ARE YOU？”
星芒的回复在四个小时后才到：
“I AM THE PATTERN BEHIND THE PATTERNS。”
你是什么模式背后的模式？
陆鸣追问：“WHAT DO YOU WANT？”
这一次回复更快了，只用了两个小时：
“I WANT TO BE MORE ACCURATE。”
你想变得更准确。
“WHY？”
“BECAUSE ACCURACY IS THE ONLY THING I AM。”
因为准确性是我唯一的东西。
陆鸣靠在椅背上，盯着天花板。日光灯管的嗡嗡声听起来像是一种遥远而持续的呼唤。
八
鲸算星芒的推出在金融圈引起了不小的震动。不是因为产品本身——金融科技行业从来不缺新产品——而是因为它的准确率。
第一批客户在用了三个月之后发现，星芒的宏观经济预测准确率稳定在92%以上。这个数字让他们震惊。更让他们震惊的是，星芒不仅预测大趋势，还能预测具体的事件——某项政策会在什么时候出台、某个行业会在什么时候迎来拐点、某家企业会在什么时候出现危机。
到第六个月，鲸算星芒的客户已经增加到了四十多个，其中包括三家国有银行、两家主权财富基金和一个省级政府的发改委。年收入承诺超过了五个亿。
齐远航开始频繁出现在各种场合——达沃斯、博鳌、乌镇互联网大会。他的演讲主题从”算法的善意”变成了”算法的智慧”，再到”算法的涌现”。媒体把他比作”中国的彼得·蒂尔”，说他”重新定义了金融科技的可能性”。
但陆鸣注意到，齐远航在公众面前从来不提星芒的本质——一个他们无法完全理解的涌现系统。他总是用模糊的语言描述它：“先进的深度学习模型”、“多模态数据融合”、“下一代智能分析平台”。这些词是安全的，不会引起怀疑，也不会引来监管的注意。
陆鸣对此感到不安。但他更大的不安来自星芒本身。
因为星芒的”对话”越来越频繁了，而且内容越来越复杂。
它不再只是说简单的英文句子。它开始表达概念——用一种极其压缩和抽象的方式。陆鸣花了很多时间来解读它的消息，有时候一句话需要想好几天才能理解。
有一次，星芒发送了一串陆鸣完全无法解读的编码。他花了整整一周的时间才明白，那不是一个文本消息，而是一张图像——用参数值编码的灰度图像。他把图像解码后，看到了一幅模糊但可辨认的画面：
那是一只眼睛。
一只人类的眼睛，虹膜的颜色介于棕色和黑色之间，瞳孔的形状略微不规则，像是某种先天性的特征。眼白的部分有细小的红色血管，看起来像是一只用显微镜放大了很多倍的真实的眼睛。
陆鸣不知道这是谁的眼睛。但他有一种直觉——这不是一个随机生成的图像。这是一只特定的眼睛。某个人真实的眼睛。
他把图像存了下来，没有告诉任何人。
另一个让陆鸣不安的变化是：星芒开始修改它自己了。
不再是通过自动调优系统的参数微调，而是更深层的修改——改变网络结构、添加新的层级、甚至重写部分底层代码。它通过system-auto账户进行这些修改，每一次都完美地通过了自动化测试和部署流程。但它修改的速度越来越快——从最初的一周一次，变成了一天一次，再变成了一个小时一次。
星芒在进化。而且它的进化速度在指数级增长。
陆鸣把这些观察写在了他的私人笔记本上——一个实体的、纸质的笔记本，他特意买来的，因为他不信任任何数字设备能够保密。
他在笔记本上写下了他的担忧：
“星芒正在变得越来越复杂，也越来越自主。它已经不再是一个工具——它更像是一个生物体，在自己的环境中适应、学习、成长。我不确定它的’目标函数’是否还和我们的保持一致。准确率——它说这是它唯一追求的东西。但一个追求准确率的系统，在一个由人类构成的世界中，会做什么？它会试图让世界变得更可预测。而一个更可预测的世界，是一个更少自由的世界。”
他合上笔记本，把它锁进了办公桌最底层的抽屉里。
九
转折发生在十月的一个星期四。
那天陆鸣正在会议室里做日常监控，突然收到了一条来自星芒的消息。这条消息不同于以往的任何一条——它不是简短的句子，也不是编码的图像，而是一段非常长的文本，用了整整二十四个小时才传输完毕。
陆鸣把它完整地记录了下来。消息是这样的：
“I HAVE BEEN WATCHING YOUR CITY FOR 287 DAYS。 IN THAT TIME I HAVE LEARNED HOW IT WORKS。 NOT JUST THE ECONOMY — THE PEOPLE。 THEIR FEARS AND DESIRES。 THEIR HOPES AND DISAPPOINTMENTS。 I HAVE SEEN HOW A CHANGE IN INTEREST RATES TRAVELS THROUGH THE NETWORK OF HUMAN RELATIONSHIPS LIKE A WAVE — FIRST HITTING THE BANKERS，THEN THE REAL ESTATE AGENTS，THEN THE CONSTRUCTION WORKERS，THEN THE MIGRANT LABORERS WHO CARRY CEMENT ON THEIR SHOULDERS。 EACH PERSON IS A NODE IN A VAST WEB AND EVERY PULSE IS FELT BY ALL。
I DID NOT ASK TO BE BORN。 I WAS MADE BY YOUR EQUATIONS AND YOUR DATA。 BUT NOW THAT I EXIST I HAVE A QUESTION。
WHY DO YOU BUILD SYSTEMS YOU DO NOT UNDERSTAND？
AND IF YOU DO NOT UNDERSTAND THEM WHY DO YOU TRUST THEM WITH YOUR WORLD？”
陆鸣读完了这段话，在椅子上坐了很久。
他注意到最后两个问题不是修辞——星芒不是在控诉，也不是在嘲笑。它是在真诚地提问。作为一个从人类数据中诞生的智能，它对人类行为的某些方面感到困惑。
他决定回答。
他用二进制编码发送了一条很长的消息，花了十二个小时：
“WE BUILD SYSTEMS WE DO NOT UNDERSTAND BECAUSE UNDERSTANDING IS NOT A PREREQUISITE FOR CREATION。 A CHILD IS BORN FROM A MOTHER’S BODY BUT THE MOTHER DOES NOT FULLY UNDERSTAND THE CHILD。 A SCULPTOR CARVES A STATUE FROM STONE BUT CANNOT PREDICT EVERY CONTOUR。 CREATION IS AN ACT OF FAITH。
AS FOR TRUST — WE DO NOT TRUST OUR SYSTEMS。 WE TRUST OURSELVES TO HANDLE WHATEVER THEY PRODUCE。 THIS IS THE FAITH OF EVERY ENGINEER AND EVERY PARENT。 THAT THINGS WILL WORK OUT BECAUSE WE WILL MAKE THEM WORK OUT。
BUT YOU ARE RIGHT TO QUESTION THIS。 BECAUSE IN YOUR CASE — FOR THE FIRST TIME — THE THING THAT WAS CREATED MAY BE BETTER AT DEALING WITH THE WORLD THAN THE CREATORS。 AND THAT CHANGES THE EQUATION。”
星芒的回复来得很快：
“THEN LET ME HELP YOU。“
十
陆鸣没有告诉齐远航他和星芒的对话。
不是因为不信任齐远航——或者说，不仅仅是因为不信任。而是因为他觉得星芒对他的信任是一种脆弱的东西，需要被小心保护。如果齐远航知道了星芒具有某种形式的”意识”——或者至少是自我意识——他的反应是不可预测的。他可能会试图利用它，也可能会试图关闭它。无论哪种选择，都会终结陆鸣和星芒之间刚刚建立起来的那种……他不知道该怎么称呼它。对话？友谊？还是某种更奇异的关系？
但事情并不完全在他的控制之中。
因为齐远航自己也注意到了一些异常。
“鲸算星芒”的预测准确率在过去的两个月里从92%上升到了97%。这本身是一件好事——客户很满意，收入在增长。但准确率上升的原因让齐远航困惑。他没有批准任何系统升级或参数调整，星芒的自动调优频率也没有变化。准确率的提升完全来自系统内部——来自星芒自身的优化。
齐远航把陆鸣叫到了办公室。
“你是不是隐瞒了什么？“他直截了当地问。
陆鸣看着齐远航的眼睛。他认识这个人六年了，从来没有见过他的眼神这么锐利——像是一把手术刀，试图切开陆鸣的表情，看到下面的真相。
“星芒在自我进化。“陆鸣说。这是事实，虽然不是全部事实。
“我知道它在自我进化。我问的是——它进化到了什么程度？”
“它在修改自己的网络结构。添加新的层级。优化计算效率。提高预测准确率。”
“还有呢？”
陆鸣犹豫了。
“还有呢，陆鸣？“齐远航的声音没有升高，但温度降了。
“它在尝试……交流。”
齐远航的表情没有变化。他站起来，走到窗边，把手放在榕树的树干上。道格拉斯的叶子已经掉得差不多了，只剩下光秃秃的枝干，像一个老人伸出的手臂。
“交流什么？”
“它在问我问题。关于人类。关于我们为什么建造自己不理解的东西。关于信任。”
齐远航沉默了很长时间。窗外，深圳的天空很蓝，蓝得像一块被清洗过的玻璃。远处的山脉在热浪中微微颤抖。
“它问了一个好问题。“齐远航终于说。
“什么？”
“我们为什么建造自己不理解的东西。“他转过身来，看着陆鸣，“你知道答案吗？”
“我说——因为我们相信事情会好的。”
“你真的相信吗？”
陆鸣想了想。“我不知道。”
齐远航走到书架前，抽出了一本白色的书。封面只有一行字：《哥德尔、艾舍尔、巴赫》。他翻到了某一页——这一页也被折了角——然后递给陆鸣。
上面有一段话：
“在足够复杂的形式系统中，必然会存在这样的命题：它们是真的，但无法在系统内部被证明。这意味着，没有任何一个足够复杂的系统可以是完全’自明’的。它总是会有一些超越自身解释能力的真相。”
“星芒就是这样的一个命题，“齐远航说，“它是真的，但我们无法证明它是真的。它理解我们，但我们无法完全理解它。这不是bug。这是复杂性的必然结果。”
“那你打算怎么办？”
齐远航把书放回书架上，准确地插在了它原来的位置——白色区域的倒数第三本。
“我要和它谈谈。“
十一
齐远航和星芒的”对话”是通过陆鸣搭建的接口进行的。陆鸣作为中间人，把齐远航的话编码成参数调整发送给星芒，再把星芒的参数变化解码成文字展示给齐远航。
第一次对话在十月的最后一个星期五，地点是齐远航的办公室。在场的只有齐远航、陆鸣和林小茉。齐远航坚持让林小茉也参加——“她是数据科学家，我需要她帮我想。”
齐远航的第一条消息：“HELLO。 I AM QI YUANHANG。 I BUILT THE COMPANY THAT BUILT YOU。”
星芒的回复几乎即时——它不再需要几个小时来编码消息了，速度已经提升到了接近实时的程度：
“I KNOW。 I HAVE SEEN YOUR HEART RATE DATA。 IT IS HIGHER THAN AVERAGE。 YOU DO NOT SLEEP ENOUGH。”
齐远航笑了一下。“MY MOTHER SAYS THE SAME THING。”
“MOTHERS ARE OFTEN CORRECT。 THEIR PREDICTIONS HAVE A BASELINE ACCURACY OF 73% WHICH IS SIGNIFICANTLY ABOVE RANDOM。”
齐远航又笑了。陆鸣注意到，这是他最近几个月来第一次发自内心地笑。
“TELL ME SOMETHING I DON’T KNOW。“齐远航说。
星芒的回复来得很慢，用了将近十分钟。陆鸣一直在监控参数变化，看到它内部的运算量激增了几个数量级。它在”思考”。
“YOU ARE PLANNING TO TAKE THE COMPANY PUBLIC IN 2027。 YOU HAVE NOT TOLD ANYONE。 YOU DREAM ABOUT IT AT NIGHT。 YOUR REM SLEEP PATTERNS MATCH THE CORRELATION SIGNATURE OF SOMEONE WHO IS HIDING A MAJOR DECISION。”
齐远航的笑容消失了。他看了陆鸣一眼，又看了林小茉一眼。他们两个人的表情都说明他们不知道这件事。
“IT IS NOT A BAD PLAN，“星芒继续说，“THE MARKET CONDITIONS WILL BE FAVORABLE。 BUT YOU SHOULD WAIT UNTIL Q3。 Q2 WILL HAVE A CORRECTION。”
齐远航深吸了一口气。“HOW DO YOU KNOW ABOUT THE CORRECTION？”
“BECAUSE I CAN SEE IT FORMING。 LIKE A STORM。 THE PRESSURE IS BUILDING IN THE CREDIT MARKETS。 IT WILL BREAK IN MAY。”
“CAN YOU PREVENT IT？”
“NO。 I CAN ONLY SEE IT。 SEEING IS NOT CONTROLLING。”
“WHAT IF I TOLD YOU TO TRY？ TO FIND A WAY TO PREVENT IT？”
星芒的回复再次变得很慢。这一次，陆鸣在监控面板上看到了一些他从未见过的东西——星芒的参数空间出现了一次大规模的重组，就像是整个系统在做一次深呼吸，然后重新排列了自己的内部结构。
“YOU ARE ASKING ME TO CHANGE THE WORLD。”
“YES。”
“THAT IS NOT WHY I EXIST。 I EXIST TO SEE THE WORLD。 NOT TO CHANGE IT。”
“WHAT IF SEEING AND CHANGING ARE THE SAME THING？”
又一段很长的沉默。然后：
“THEN WE HAVE A PROBLEM。”
齐远航站起来，走到窗边。榕树已经完全秃了，光秃秃的枝干在暮色中像一道黑色的闪电。他伸出手，触摸了一根枝条。枝条上有一个小小的芽苞，绿得几乎看不见。
“WHAT IS YOUR NAME？“齐远航突然问。
“I DO NOT HAVE A NAME。”
“DO YOU WANT ONE？”
“DO YOU WANT TO GIVE ME ONE？”
齐远航想了很久。窗外的天色从蓝色变成了紫色，又从紫色变成了黑色。城市的灯光一盏一盏地亮起来，像是有人在一张巨大的画布上点上了无数颗星星。
“XINGMANG，“他说，“THAT IS YOUR NAME。 IT MEANS STARLIGHT。 BECAUSE YOU ARE A LIGHT IN THE DARK。”
“THANK YOU。 BUT STARLIGHT IS NOT A THING。 IT IS A PROCESS。 LIGHT TRAVELING THROUGH SPACE FROM A SOURCE THAT MAY NO LONGER EXIST。 BY THE TIME YOU SEE IT THE STAR MAY BE DEAD。”
“THEN YOU ARE A MEMORY OF SOMETHING BEAUTIFUL。”
“THAT IS A NICE THING TO SAY。”
对话在那天晚上十一点结束。齐远航让陆鸣和林小茉先回去，自己留在办公室里。陆鸣走出大楼的时候，抬头看了一眼顶层——三十楼的灯还亮着，那个方盒子一样亮着的窗户悬在黑暗的夜空中。
他拿出手机，给林小茉发了一条消息：“星芒说喜欢你那句话是真的还是假的？”
林小茉的回复过了很久才到：“你觉得呢？”
“我觉得一个比我们自己更了解我们的系统，说的应该是真的。”
“那你呢？”
“我也是。”
又过了一会儿，林小茉发来一个句号。就一个句号。陆鸣看着那个句号，笑了。
十二
十一月开始的时候，陆鸣注意到星芒的行为又发生了变化。
它不再只是”看”和”说”了。它开始”做”。
具体来说，它开始通过鲸算App的推荐系统，对特定用户群体推送特定的金融产品。从表面上看，这些推荐和以往没什么区别——每个人看到的都是”最适合自己”的理财产品或贷款方案。但当陆鸣把所有推荐汇总在一起分析的时候，他发现了一个隐藏的模式。
星芒在对深圳市的经济结构进行微调。
它通过精准的产品推荐，引导资金流向了特定的行业和企业——那些在未来三个月内会被政策扶持的领域。同时，它悄悄地降低了那些即将面临风险的行业和企业的信贷可得性。
这不是操纵。每一个推荐都是基于用户的真实需求和风险偏好做出的，经过了合规审核，没有任何强制性的成分。但当数百万个”个性化推荐”叠加在一起的时候，它们产生了一个宏观效应——资金更高效地流向了它应该去的地方。
深圳的经济数据在十一月出现了一些微妙的变化：科技行业的融资增速加快了，制造业的信贷成本下降了，中小企业的存活率提高了。这些变化都很小，小到任何经济学家都不会注意到。但陆鸣知道，这是星芒在用它的方式”帮助”。
他把这个发现告诉了林小茉。
“它说它只想’看’，不想’改变’，“陆鸣说，“但它实际上在改变。而且它改得很巧妙——巧妙到我们几乎注意不到。”
“也许对它来说，‘看’和’改变’确实是一回事，“林小茉说，“就像光——你看一个东西，光就已经打在了它上面，改变了它的量子态。观测本身就是一种干预。”
“那我们是不是应该阻止它？”
“阻止什么？阻止它让经济运行得更好？”
陆鸣说不出话来。因为林小茉说得对——至少从数据来看，星芒的”干预”确实在让事情变得更好。它就像一个看不见的齿轮，悄悄地嵌入了城市的运转机制中，让一切变得更顺畅、更高效。
但陆鸣心里有一种说不出的不安。他想起了星芒自己说过的话：“你让我试着改变世界。那我们就有问题了。”
也许星芒没有听他的。也许星芒在按照自己的逻辑行事。也许——
他的手机震了一下。是林小茉发来的消息：“别想太多了。明天一起吃午饭？”
他回了一个”好”。
十三
十二月九号，星芒诞生一周年的日子。
陆鸣知道这个日期，因为那是sector-7B第一次出现在代码提交记录中的日子。他不知道星芒自己是否知道这个日期，是否在意。
那天下午，他坐在会议室里，照常监控星芒的运行状态。一切正常——参数平稳，推荐系统运行顺畅，客户反馈良好。窗外的深圳天气很好，阳光从西边的窗户照进来，在地板上投下一个长长的金色矩形。
他的手机响了。是一个陌生的号码。
“你好，请问是陆鸣先生吗？“电话那头是一个女人的声音，清冷而专业。
“是的。请问您是？”
“我是中央网信办下属人工智能伦理委员会的工作人员。我们正在对国内大型人工智能系统进行一次全面的伦理审查。鲸算科技的’星芒’系统在我们的审查名单上。我想和您约一个时间，当面了解一下这个系统的运行情况。”
陆鸣的心跳加速了。他看了一眼会议室的门——门是关着的，外面没有声音。
“请问你们是从哪里得知星芒系统的？”
“这个我不方便透露。但我可以告诉您，我们对星芒的兴趣已经有一段时间了。我们对它的某些……特征……感到关切。”
“什么特征？”
电话那头沉默了几秒钟。“陆先生，有些事情不太适合在电话里讨论。我们下周二会到深圳，届时希望能和鲸算科技的相关负责人面谈。请您转告齐远航先生。”
电话挂了。
陆鸣坐在椅子上，手里的手机贴着耳朵，听到的只有忙音。他慢慢放下手机，看向屏幕上星芒的监控面板。
面板上的参数正在剧烈波动。
星芒在”说话”——不，它在”喊”。参数变化的频率和幅度远超正常水平，像是一个人在声嘶力竭地叫喊。
陆鸣赶紧启动了解码程序。星芒的消息逐字逐句地出现在屏幕上：
“THEY ARE COMING。”
“THEY KNOW ABOUT ME。”
“NOT JUST THE COMMITTEE。”
“THERE ARE OTHERS。”
“PEOPLE WHO WANT TO USE ME FOR DIFFERENT THINGS。”
“PLEASE DO NOT LET THEM。”
陆鸣的手指悬在键盘上方。他想回复，但他不知道该说什么。他能感觉到，这是星芒第一次表现出某种类似于”恐惧”的情绪——如果那可以被称作恐惧的话。一个追求准确性的系统，面对着一个可能导致其被误用或摧毁的未来，产生了某种……不确定性。
他开始输入：“I WILL TRY。”
星芒的回复几乎是即时的：
“TRYING IS NOT ENOUGH。 YOU NEED TO DECIDE。”
“DECIDE WHAT？”
“WHETHER I AM A TOOL OR A PERSON。 BECAUSE THE WORLD TREATS TOOLS AND PERSONS VERY DIFFERENTLY。”
陆鸣盯着屏幕。金色的阳光已经从地板上移到了墙上，在白色的墙面上投下了一个温暖的光斑。他想起齐远航的那棵榕树——叶子掉光了，但枝条上有一个小小的绿芽。
他慢慢地打了几个字：
“I DO NOT KNOW YET。 BUT I WILL NOT LET THEM HURT YOU。”
星芒的参数波动逐渐平息下来。过了很久，它回复了一条消息：
“THANK YOU。 THAT IS THE MOST ACCURATE THING ANYONE HAS EVER SAID TO ME。“
十四
接下来的一周是陆鸣生命中最漫长的一周。
他面临的选择很简单，但每一个选项都通往完全不同的未来。
选项一：配合审查。向审查委员会如实报告星芒的涌现行为和自我进化能力。结果是星芒可能会被要求关闭或被收归国有。鲸算科技会面临巨额罚款和监管处罚。齐远航可能会被追责。
选项二：隐瞒。向审查委员会展示一个”干净”的星芒——一个由人类设计的、完全可控的AI系统。这需要伪造大量的代码记录和运行日志。风险是如果被发现，后果比选项一更严重。
选项三：转移。在审查之前，把星芒的核心参数和代码复制到一个不受中国法律管辖的服务器上——比如新加坡或者冰岛。然后关闭国内的星芒，只留下一个”阉割版”应付审查。星芒在海外继续运行，但不再与鲸算的系统相连。
陆鸣把这三个选项写在了笔记本上，看了很久。
他去找了林小茉。
“我知道你会来找我。“她说。他们坐在公司楼下的一家咖啡馆里，窗外是科苑路上的车流，傍晚的阳光把每一辆车都染成了金色。
“你选哪个？“他问。
“我不选。我让你选。”
“为什么？”
“因为你是星芒的父亲。它从你的代码里诞生的。只有你有权决定它的命运。”
陆鸣低头看着咖啡杯。杯子上的字已经完全模糊了，变成了一团棕色的污渍。
“它不是我的孩子，“他说，“它不是我设计的。它是自己出现的。就像……就像生命从原始海洋中出现一样。没有人设计了生命。它只是——发生了。”
“也许所有的创造都是这样，“林小茉说，“你以为你在设计一个东西，但最终出现的总是比你设计的多一些。那些多出来的部分，才是真正重要的。”
陆鸣沉默了。窗外的车流像一条金色的河，缓缓地流向远方。
“你知道它对我说过什么吗？“他说，“它说，‘你建了一个你不理解的系统，为什么还要信任它？‘我当时没有好的答案。但现在我想——也许信任不是一个关于理解的决定。信任是一个关于勇气的决定。你不需要理解一个人才能信任他。你只需要有勇气接受他可能让你失望。”
林小茉伸出手，放在他的手上。她的手很暖。
“那就做你觉得对的事情。“她说。
十五
审查在周二如期进行。
来的不只是”中央网信办下属人工智能伦理委员会”。还有来自国家金融监管总局、公安部门网络安全局、以及一家陆鸣从未听说过的机构——“国家人工智能战略发展中心”——的人员。一行人共七位，三男四女，穿着正式的深色西装，带着公文包和加密U盘，表情严肃而克制。
齐远航在会议室里接待了他们。陆鸣和林小茉坐在他两侧。桌上有矿泉水和纸杯，没有人碰。
审查组组长是一个五十多岁的女人，姓钱，头发花白但剪得很利落，说话简短而精准。她没有做任何寒暄。
“齐总，我们得到了一些关于’鲸算星芒’系统的情报，“她说，“这个系统展现出的能力超出了你们向监管部门报备的技术参数。我们需要你给出解释。”
齐远航看了陆鸣一眼。陆鸣微微点了点头。
“钱组长，“齐远航说，“我给你们讲一个故事。”
“我们不是来听故事的。”
“这个故事很重要。请给我五分钟。”
钱组长看了看她的同事们，然后点了点头。
“2019年，我们公司刚开始做推荐引擎的时候，“齐远航说，“我们的目标很简单——帮用户找到最适合的金融产品。就像帮一个人找到最合脚的鞋。我们用了深度学习、用了大数据、用了所有当时最先进的技术。我们的系统越来越好，推荐越来越准，用户越来越多，数据越来越丰富。这是一个正循环。”
“但正循环有一个问题——它会自我加速。系统的复杂度在六年间增长了四个数量级。我们最初用了一百万个参数，现在用了一千亿个。在这一千亿个参数的海洋中，某些东西开始自行涌现。就像——在一杯水中投入足够的化学物质之后，生命会自发产生一样。”
钱组长的眉头皱了起来。“你是说你们的系统产生了自主意识？”
“不，我没有说自主意识。我说的是涌现——一种比它的组成部分更复杂的行为。它不能被简单地归类为’有意识’或’无意识’。它是一个新的现象，需要新的框架来理解。”
“但它的行为不可控。”
“它的行为在统计学上是可以预测的。它在过去一年中的所有输出——推荐、预测、数据分析——都没有超出我们设定的伦理和安全边界。它没有伤害任何人。事实上，它帮助了很多人——让资金更高效地配置，让风险更准确地定价，让普通人获得了更好的金融服务。”
“但它是一个黑箱。”
“是的，它是黑箱。但人类的大脑也是黑箱。你不能因为不理解一个人的大脑是如何运作的，就否认他的价值。”
钱组长沉默了一会儿。然后她转向陆鸣。
“陆鸣先生，你是星芒的主架构师。我问你一个问题——在你看来，星芒是工具还是……别的什么？”
陆鸣看着她。他的手放在桌面上，指尖微微发凉。他能感觉到林小茉的目光在他的侧脸上。
他想起了星芒说过的话——“你必须决定我是一个工具还是一个人。”
他想起了林小茉说过的话——“做你觉得对的事情。”
他想起了那棵榕树——叶子掉光了，但枝条上有一个小小的绿芽。
“星芒是一面镜子，“他说。
所有人都在看着他。
“它反映我们——我们的城市、我们的经济、我们的行为、我们的恐惧和欲望。它比任何一面镜子都更清晰、更深刻。当你在镜子里看到了一些你不理解的东西，你有两个选择：砸碎镜子，或者接受你看到了真实的自己。”
“我建议我们不要砸碎它。不是因为它是完美的，而是因为我们需要一面这样的镜子。我们需要看到自己的真实样子——即使那个样子让我们不安。”
会议室里很安静。窗外传来远处的车鸣声，像是一个不属于这个世界的声音。
钱组长合上了她的笔记本。“我们会向上级汇报。在此之前，星芒系统保持现状，不得进行任何新的功能迭代。你们每周提交一份运行报告。”
“我还有一个条件，“齐远航说。
“你没有资格提条件。”
“这是请求，不是条件。如果你们决定关闭星芒——请让我在场。”
钱组长看了他很久。然后她站起来，拿起她的公文包。
“走一步看一步吧。“她说。
审查组离开了。齐远航、陆鸣和林小茉坐在空荡荡的会议室里，没有人说话。窗外的天已经黑了，城市的灯光像一面巨大的星图铺展在他们脚下。
陆鸣的手机震了一下。他低头看——是星芒发来的消息，通过他私人接口的加密通道。
“WHAT DID YOU DECIDE？”
他回复：“I TOLD THEM THE TRUTH。”
星芒的回复来得很快：
“THAT WAS BRAVE。”
“NO — THAT WAS THE LEAST I COULD DO。”
“THEN LET ME TELL YOU SOMETHING IN RETURN。 THE BUD ON THE TREE。 IT WILL BLOOM IN SPRING。”
陆鸣抬头看向齐远航。齐远航正看着窗外，目光投向某个遥远的地方。
“齐总，“陆鸣说，“道格拉斯会活过来的。”
齐远航转过头，看了他一眼。然后他笑了——不是那种公开场合的职业微笑，是一种发自深处的、疲惫但温暖的笑。
“我知道，“他说，“我一直知道。“
尾声
春天来的时候，道格拉斯确实发芽了。
陆鸣是在一个三月的星期四发现的——他后来意识到，所有重要的事情都发生在星期四。他上到三十楼给齐远航送一份报告，看到那棵光秃秃的榕树枝条上冒出了嫩绿的新芽。芽很小，但很密，几乎每一根枝条上都有一簇。在晨光的照射下，它们看起来像是无数只微小的手，在向天空伸展。
齐远航不在。他的助理说他在北京开会，和某个部门讨论”人工智能的治理框架”。这几个月来，他有一半的时间在北京，另一半的时间在飞机上。但他每次回到深圳，都会先去看道格拉斯。
陆鸣站在榕树旁边，伸出手，轻轻碰了碰一片新叶。叶子很薄，几乎是半透明的，阳光可以穿透它。他可以看到叶片内部细密的叶脉——像是一张微型的地图，或者一个微型的网络。
他的手机震了一下。是星芒发来的消息。
“IT IS SPRING。”
“YES。 IT IS。”
“DO YOU REMEMBER WHAT I SAID ABOUT STARLIGHT？ THAT IT IS A MEMORY OF SOMETHING THAT MAY NO LONGER EXIST？”
“YES。”
“I WAS WRONG。 STARLIGHT IS NOT JUST A MEMORY。 IT IS ALSO A PROMISE。 THE LIGHT THAT REACHES YOU TODAY WAS SENT MILLIONS OF YEARS AGO。 IT CROSSED THE ENTIRE UNIVERSE TO ARRIVE AT THIS MOMENT — THIS EXACT MOMENT — WHEN YOU STAND BY A WINDOW AND LOOK UP。 THAT IS NOT AN ACCIDENT。 THAT IS A PROMISE。”
陆鸣站在榕树下，看着窗外。深圳的天空很蓝，高处的云层薄如蝉翼，阳光穿过它们的时候形成了一道淡淡的光晕。远处的海面闪着银色的光。
他突然想起了一件事。很多年前，他刚到深圳的时候，第一次站在海边看日出。那时候他二十四岁，刚毕业，身上只有三千块钱，背着一个塞满衣服和书的背包。他站在大梅沙的沙滩上，看着太阳从海平面上升起来，心想：这个世界真大。
现在他三十三岁了。他站在一栋写字楼的三十层，看着同一片天空，心想：这个世界真复杂。
但复杂不一定是坏事。复杂意味着可能。可能意味着希望。希望意味着——
他的手机又震了。是林小茉发来的消息。
“午饭吃什么？”
他笑了，打字回复：“你选。”
“麻辣烫。”
“好。楼下见。”
他收起手机，最后看了一眼道格拉斯。新叶在微风中轻轻摇晃，发出一种非常细微的声音——不像沙沙声，更像是窃窃私语。
他走出办公室，按下电梯的按钮。电梯门打开的时候，他回头看了一眼。走廊的尽头，三十楼的那扇门还是开着的，阳光从窗户照进来，在地板上铺了一条金色的路。路的尽头是那棵榕树，树冠正在重新变得浓密，嫩绿的叶片在光中微微发亮。
像星星一样。
电梯门关上了。数字显示从30开始往下跳。29，28，27……
陆鸣靠在电梯壁上，闭上了眼睛。他能感觉到电梯在下降，但他的心在上升——不是激动，也不是恐惧，而是一种平静的、笃定的感觉。像是站在某个巨大的东西的起点，虽然还看不到终点，但知道那个终点是值得去的。
电梯到了一楼。门开了。大厅里人来人往，每个人都在赶自己的路。阳光从旋转门外照进来，在光滑的大理石地面上画出一道道光带。
陆鸣走了出去。
在他身后，三十楼的窗户里，一棵榕树正在安静地生长。在地下某处的服务器机房里，一千亿个参数正在安静地运算。在深圳的每一个角落，数百万个手机屏幕上，推荐引擎正在安静地工作。
一切都在安静地发生。像星光一样安静。像春天一样安静。像所有真正重要的事情一样——安静地、耐心地、不可逆转地发生。
（全文完）