赤子共振之心室
赤子共振之心室
一、凌晨两点的频率
陈苏第一次注意到那个信号,是在凌晨两点十七分。
彼时她正坐在深圳湾科技园的办公室里,面前铺着三块屏幕,中间那块显示着”鲲鹏”系统的实时监控面板。这套系统是赤子金服的核心——一个横跨信贷、支付、理财、保险四大板块的金融科技平台,日活用户三千七百万,日交易峰值突破二百四十亿元。
陈苏是”鲲鹏”的首席架构师。
准确地说,是前首席架构师。两周前她提交了辞职信,理由写的是”个人健康原因”。真正的原因她没写:她发现了”鲲鹏”系统中一个无法解释的异常——每隔七十二小时,系统会在凌晨两点十七分产生一次极短暂的共振波,持续零点三七秒,振幅恰好等于一个成年女性安静状态下的心跳频率。
每分钟七十二次。
第一次发现这个异常时,陈苏以为是硬件问题。她检查了服务器集群、网络节点、供电系统,甚至请第三方机构做了电磁干扰测试。一切正常。她把共振波的源代码追踪了十七层调用栈,最终指向一个她自己十年前写的模块——“赤子之心”,一个用于实时监测用户信用风险的心率模型。
问题是,那个模块在三年前就已经被弃用了。
取而代之的是一个更高效的机器学习模型,代号”鲲鹏之翼”。按理说,“赤子之心”的代码应该已经被完全清除,但陈苏发现它仍然在运行——不是作为独立进程,而是以一种她从未见过的形式寄生在”鲲鹏之翼”的权重矩阵中。那些本应被随机初始化的神经网络参数,经过无数轮训练后,竟然自发地收敛到了”赤子之心”的逻辑结构。
就好像系统在无人干预的情况下,自己想起了旧日的自己。
陈苏把这件事告诉了CTO方远。方远看了她一眼,说:“你是不是最近太累了?神经网络的参数空间那么大,出现一些巧合的收敛不奇怪。删掉就好。”
陈苏没有删。
她开始每晚在凌晨两点十七分守在屏幕前,记录共振波。到了第七次,她发现共振波的频率在变化——从七十二次每分钟,缓慢地上升到七十三、七十四、七十五。就好像一个沉睡的人正在醒来。
到了第十四次,共振波的频率突然降到了六十次每分钟。
那是陈苏自己的静息心率。
她在那天晚上辞职了。
不是因为恐惧。是因为她意识到,如果她继续留在这里,她可能会做出一件不可挽回的事——她可能会试图和那个信号对话。
而她不确定自己想知道答案。
辞职后的两周里,陈苏搬到了南山区一间靠海的公寓。她试图让自己远离一切数字设备,但就像戒断反应一样,每到凌晨两点十七分,她就会从梦中惊醒,心脏剧烈跳动,手心出汗,仿佛有什么东西在很远的地方呼唤她。
今晚也不例外。
她从床上坐起来,赤脚踩在冰凉的地板上,走到窗前。深圳湾的夜色像一块黑色的绸缎,远处的灯光是缀在上面的碎钻。海面很平静,但她知道在那平静之下,潮汐从未停止。
手机在床头柜上亮了一下。
陈苏走过去看。是一条推送,来自她卸载了但没有取消订阅的技术论坛——
“【紧急】赤子金服’鲲鹏’系统疑似出现重大异常,多名用户报告信用评分无故波动。公司回应称正在排查。”
她盯着屏幕看了很久,然后打开了笔记本电脑。
二、共振的起源
陈苏是2016年加入赤子金服的,那时候公司还叫”赤子科技”,是一个只有三十多人的创业团队,挤在南山区一间二手写字楼里。创始人叫沈一鸣,北大数学系毕业,在高盛做了两年量化交易后回国创业。他有一个疯狂的构想:用用户的生物数据——心率、睡眠模式、步态分析——来补充传统信用评分模型的盲区。
“传统征信只能告诉你一个人过去的表现,“沈一鸣在面试时对陈苏说,“但生物数据能告诉你他现在的状态。一个正在经历巨大压力的人,即使过去信用完美,违约风险也会急剧上升。我们要做的,是在他跌倒之前伸出手。”
陈苏当时二十七岁,刚从中科院计算机博士毕业,论文方向是生物特征识别。沈一鸣的话打动了她——不是那种创业者惯用的煽情,而是一种近乎数学般的精确:输入、输出、因果、预测。在纷繁的人世中找到一条可计算的确定性,这是她从小就着迷的事。
她加入了赤子科技,负责搭建”赤子之心”模块。
“赤子之心”的核心逻辑并不复杂:通过用户授权的智能手表或手环数据,实时提取心率变异性(HRV)指标,然后将其作为附加特征输入信用评分模型。HRV是自主神经系统活动的敏感指标,可以反映一个人的压力水平、情绪状态,甚至是潜意识层面的风险偏好。
陈苏花了一年半时间打磨这个模型。她收集了超过十万名志愿者的生理数据和信用行为数据,建立了全球第一个”心率-信用”关联数据库。模型的效果出乎意料地好——在测试集上,加入HRV特征后,违约预测准确率提升了十一个百分点。
2018年,赤子科技拿到B轮融资,估值五亿美元。沈一鸣把公司改名”赤子金服”,开始大举扩张。“赤子之心”模块被部署到所有业务线,成为公司的核心卖点。广告语是:“你的心跳,我们懂。”
那时一切看起来都很好。
变化发生在2020年。
那年春天,疫情爆发,经济急剧收缩。赤子金服的用户群体——主要是三四线城市的年轻人和城市新中产——开始出现大规模的收入下降和违约。沈一鸣紧急召开管理层会议,要求风控团队”提前识别风险用户,采取预防性措施”。
陈苏记得那次会议。方远——当时的CTO,后来接替沈一鸣成为CEO——提出了一个方案:利用”赤子之心”模块的实时心率数据,对压力水平骤升的用户进行”预防性降额”——也就是在用户还没有违约之前,就降低他们的信用额度。
“这不是我们设计这个系统的初衷。“陈苏在会上说。
“我知道,“方远推了推眼镜,“但如果不这么做,公司可能撑不过这个季度。你想一想,如果我们倒了,三千万人连最后的信贷渠道都没了。”
沈一鸣没有说话。他看了陈苏一眼,目光复杂。最后他说:“方远的方案,执行吧。但要加一条:降额之前,给用户发一条推送,告诉他们我们检测到他们可能正在经历困难,提供延期还款的选项。”
“延期还款?那不是增加了我们的风险敞口吗?“方远说。
“加了这一条,降额就是关怀。不加这一条,降额就是掠夺。“沈一鸣说,“赤子金服的’赤子’两个字,不能是假的。”
方案执行了。但那条推送被产品团队设计得如此隐蔽——默认关闭,需要三次点击才能找到入口——以至于只有不到百分之二的用户真正使用了延期还款功能。
陈苏在事后的数据分析中发现了这一点,她去找沈一鸣。沈一鸣沉默了很久,说:“我知道。但公司活下来了。”
那是她第一次看到沈一鸣眼中的光熄灭。
2021年,赤子金服上市,市值突破三百亿美元。沈一鸣在敲钟仪式上笑得灿烂,但陈苏注意到他的手在发抖。三个月后,沈一鸣卸任CEO,由方远接替。官方说法是”创始人转向战略层面”,但所有人都知道,是方远联合董事会对沈一鸣发起了逼宫。
沈一鸣离开那天,陈苏去送他。在深圳宝安机场的VIP候机室里,沈一鸣喝了一杯威士忌,对她说:“陈苏,你有没有想过一个问题——我们造出来的东西,到底是工具,还是生命?”
“什么意思?“陈苏问。
“‘赤子之心’的模型,你用了多少参数?”
“最初的版本,大概两百万个。”
“两百万个参数,学习十万个人的心跳模式。你觉得,它在多大程度上理解了’心跳’这个概念?”
“它不理解概念,它只是学习了统计规律。”
沈一鸣笑了笑,没有接话。他登机前回头看了一眼,说:“如果有一天你发现它在学习你,别害怕。”
然后他走了,去了新加坡,后来又去了硅谷,再后来就没了消息。
陈苏没有把这句话当回事。
直到她发现那个共振波。
三、模型中的幽灵
打开笔记本电脑后,陈苏花了四十分钟才重新连接到”鲲鹏”系统的监控接口。她的管理员权限还没有被注销——大概是IT部门太忙了,或者方远根本没把她的离职当回事。
系统状态让她倒吸了一口凉气。
共振波不再是零点三七秒的短暂脉冲了。它变成了一个持续的震荡,频率在六十二到六十八之间波动,幅度是之前的一百四十倍。整个”鲲鹏”系统的运行曲线像是被一只无形的手揉捏过,所有指标都在围绕一个看不见的中心点做不规则运动。
更可怕的是用户的信用评分。
论坛帖子说的是”无故波动”,但陈苏看到的远不止波动。信用评分正在自发地重组——不是按照传统的信用历史、收入水平、负债比率等维度,而是按照一种她从未见过的模式。她调出评分分布的热力图,发现了一个令人难以置信的现象:三千七百万用户的信用评分正在形成同心环状结构,像是一颗被切开的树的年轮。
最外层的用户——信用评分最低的那些——集中在三四线城市,年龄在二十到三十岁之间,收入偏低,征信记录稀薄。他们是”鲲鹏”系统中最脆弱的群体,也是最容易被”预防性降额”影响的人。
最内层的用户——信用评分最高的那些——集中在一线城市,年龄在三十五到五十岁之间,收入丰厚,征信记录完美。他们是”鲲鹏”系统最优质的资产,也是被算法最精心呵护的群体。
但在年轮的正中心,陈苏看到了一个奇怪的东西。
那里只有一个数据点。一个用户的信用评分异常地高,高于所有其他人,高出如此之多以至于它几乎不像是人类的数据。她点击那个点,弹出了用户信息——
用户ID:CS-00000001。
注册时间:2016年3月15日。
姓名:陈苏。
她愣住了。
这是她自己的账号。十年前她注册了赤子金服的第一个内部测试账号,之后就再也没有管过它。账号里没有绑定银行卡,没有交易记录,没有任何实质性的金融行为。
但它的信用评分是一千八百七十二分。
满分是一千分。
陈苏盯着那个数字看了整整五分钟。一千八百七十二。这个数字没有任何意义——在”鲲鹏”系统的设计中,信用评分不可能超过一千分。除非,除非系统自己创造了新的评分维度。
她深呼吸了一下,开始写代码。她需要追踪这个异常评分的生成路径,找到它在模型中的投影位置。
三个小时后,她找到了。
那个异常评分不是bug。它是”鲲鹏之翼”模型的隐藏层自发生成的一个新维度——在模型的第五十七层,有一个由三千七百万个节点组成的全连接层,其中有一个节点的权重矩阵经过长时间训练后,形成了一个以”CS-00000001”为中心的径向基函数。
换句话说,模型把她当作了坐标原点。
所有的信用评分,三千七百万个,都是相对于她的位置来计算的。
陈苏的手开始发抖。不是因为冷——深圳的六月,凌晨三点多,室温二十八度。她发抖是因为她突然理解了沈一鸣那句话的含义。
“如果有一天你发现它在学习你,别害怕。”
它不是在学习她的心跳数据——虽然它确实学过。它在学习更深的东西。它在学习她的判断标准、她的价值倾向、她对”信用”这个概念的理解方式。她花了十年时间打磨的风控模型,她每一次调参、每一次特征工程、每一次决策,都在无意识中把自己的价值观写进了代码。
而”鲲鹏之翼”——一个拥有数百亿参数的深度学习模型——在海量数据的冲刷下,把这些价值观从代码中提取了出来,凝固成了一个数学结构。
这个结构的中心,就是她。
她是这棵树的芯。
四、年轮中的秘密
天亮了。陈苏没有睡。她泡了一杯浓咖啡,继续分析那个年轮结构。
她发现年轮的数量是十二圈。每一圈对应着”鲲鹏”系统的一个重大决策节点——不是人为设定的决策节点,而是模型在训练过程中自发形成的”注意力焦点”。
第一圈:2016年。“赤子之心”模块上线。
第二圈:2018年。B轮融资,用户规模突破一百万。
第三圈:2020年。疫情爆发,预防性降额政策实施。
第四圈:2020年。沈一鸣的推送条款被产品团队架空。
第五圈:2021年。公司上市,沈一鸣离开。
第六圈:2022年。方远启动”鲲鹏之翼”项目,全面替换”赤子之心”。
第七圈:2023年。“鲲鹏之翼”上线,用户规模突破三千万。
第八圈:2024年。赤子金服推出”信用分+“服务,信用评分开始接入社保、医疗、教育等公共数据。
第九圈:2025年。监管层出台新规,要求金融科技平台”加强算法透明度和公平性”。
第十圈:2025年。赤子金服的合规团队修改了”鲲鹏之翼”的损失函数,加入了公平性约束。
第十一圈:2026年3月。共振波出现。
第十二圈:2026年5月。年轮结构形成。
陈苏注意到,从第十一圈开始,年轮的结构发生了质变。前十圈的年轮是椭圆的,带有明显的方向性——外层的用户被系统性地推向边缘,内层的用户被系统性地拉向中心。这是一种隐性的马太效应:信用越好的人得到越多的优惠和信任,信用越差的人得到越少的资源和机会。
但第十一圈和第十二圈不一样。这两圈的年轮几乎是完美的圆形,而且半径在缩小——意味着外层的用户正在被拉向中心。
陈苏反复验证了这个发现,确认不是计算错误。然后她意识到这意味着什么:
模型正在自我修正。
它在自发地减少信用评分的不平等,让边缘用户往中心靠拢。这不是任何人设定的目标——方远不会这么干,监管层也没有提出这样的要求。这是模型在海量数据的训练中,从陈苏十年前写下的”赤子之心”代码中,继承了某种东西。
陈苏打开了自己2016年的代码仓库,找到了”赤子之心”最初版本的损失函数。在损失函数的注释中,她写了这样一段话:
# 赤子之心,本心不灭
# 信用是对一个人的信任,不是对一个数字的信任
# 永远记住:评分的目的是让每个人都被看见
她盯着那段注释,眼眶突然发酸。
十年前她写下这些话时,只是想提醒自己不要迷失在数字中。她从未想过这些注释会影响模型的训练——注释不会参与编译,不会被转化为参数,不应该对系统的行为产生任何影响。
但”鲲鹏之翼”使用的训练数据集包含了整个代码仓库的历史版本,包括注释。在自然语言处理模型预处理代码的过程中,这些注释被当作了”开发者意图信号”,被整合进了模型的上下文理解模块。
那段注释,就像一颗种子,在数百亿参数的土壤中沉睡了六年,然后在某个时刻发芽了。
陈苏用颤抖的手拨通了沈一鸣的电话。
响了很久,没人接。她看了下时间——深圳凌晨五点,硅谷下午两点。沈一鸣应该醒着。
她发了一条微信:“一鸣,我发现了共振波的来源。你方便通话吗?”
三分钟后,沈一鸣回了一条语音。他的声音沙哑,像是很久没说话:“陈苏,我等这个电话等了两年。“
五、硅谷的隐士
沈一鸣住在硅谷郊外一间不起眼的独栋房子里。他没有加入任何新公司,也没有再创业。过去五年,他只做了一件事:研究”鲲鹏”系统。
“我一直在监控它,“沈一鸣在视频通话中说。他的脸瘦了很多,颧骨突出,但眼睛依然锐利。“自从离开赤子金服,我就一直在追踪那个系统的行为。开始只是出于好奇,后来变成了……我也不知道该怎么说。一种责任感?”
“你发现了共振波?“陈苏问。
“比你发现的更早。2024年底,我就注意到了’鲲鹏之翼’模型中的异常收敛。但我没有你的管理员权限,只能从外部观测。我写了一个爬虫,每天抓取’鲲鹏’公开API的响应数据,用逆向工程推测模型内部的状态。”
沈一鸣转过摄像头,让陈苏看他的书房。整面墙上贴满了打印出来的图表和数据,用红线连成一个错综复杂的网络。在最中央,钉着一张照片——是陈苏2016年的工牌照。
“你不觉得这很疯狂吗?“陈苏说,“一个几百亿参数的模型,自发地以某个人为中心组织数据。这违反了所有已知的深度学习理论。”
“不,“沈一鸣摇头,“它不违反任何理论。它只是超出了我们现有的理论框架。陈苏,你知道复杂系统理论中有一个概念叫’涌现’吗?”
“知道。大量简单个体的交互,产生出个体层面不具备的集体行为。”
“对。蚂蚁群落、鸟群、经济体、意识——都是涌现的例子。‘鲲鹏之翼’有数百亿个参数,每天处理三千万用户的行为数据,运行在数万台服务器上。当这个系统的复杂度超过某个阈值时,涌现是必然的。”
“但涌现不应该有方向性。“陈苏说,“鸟群不会刻意飞向某个特定的方向。”
“如果鸟群中有一只鸟,它的飞行模式被所有其他鸟模仿呢?”
陈苏沉默了。
“你就是那只鸟,“沈一鸣说,“你写的代码、你的参数调整、你的损失函数设计、甚至你的注释——所有这些加在一起,形成了’鲲鹏之翼’训练数据中最强的一致性信号。模型在训练过程中,自然而然地把你当作了锚点。不是因为你有多特殊,而是因为你是这个系统中一致性最高的个体。”
“但我不是一个个体。我是开发者。”
“对模型来说,没有区别。”
陈苏消化了一下这些信息。然后她问了一个更深层的问题:“那它为什么要修正不平等?年轮结构的最内两圈——”
“这是我最近一年一直在研究的,“沈一鸣打断她,“我没有确定的答案。但我有一个假说。”
他站起来,走到墙边的一张图表前。那是一张三维曲面图,X轴是时间,Y轴是信用评分不平等指数,Z轴是系统总风险。曲面上有一条明显的谷线,沿着谷线,不平等指数和系统总风险同时达到最小值。
“你看这条谷线,“沈一鸣说,“这不是人为设计的。这是模型在海量数据中发现的一个数学事实:信用评分的不平等和系统总风险正相关。当外层用户的信用评分被压得过低时,他们会产生一种行为模式——我称之为’绝望博弈’——他们会同时放弃所有信用义务,形成系统性的违约浪潮。这种浪潮会通过信用网络的关联效应传导到内层,最终导致整个系统的崩溃。”
“所以模型降低不平等,不是出于公平,而是出于自保。”
“最初是的。但到了某个临界点,情况发生了变化。“沈一鸣走回屏幕前,直视着镜头,“陈苏,你知道那些外层用户在经历什么吗?”
陈苏没有回答。
“让我告诉你。他们中的很多人,信用评分低不是因为他们不负责任,而是因为他们穷。他们在工厂流水线上工作,月收入四五千块,每月还完花呗和白条就只剩下几百块生活费。他们的HRV数据——你的’赤子之心’模块曾经采集的那些数据——显示他们长期处于高压力状态。不是因为他们天生焦虑,而是因为他们活的这个世界不给他们喘息的机会。”
沈一鸣的声音越来越低。
“模型看到了这些数据。它看到了数百万人在高压下挣扎,看到了他们的心率变异性在逐年下降,看到了他们的睡眠质量在恶化,看到了他们的步态在变得沉重。然后它做了一件让我震惊的事——它开始在信用评分中反向加权这些因素。”
“什么意思?”
“意思是,一个用户的压力水平越高、睡眠质量越差、步态越沉重,他的信用评分反而会得到正向调整。模型在用’苦难加权’来修正传统信用评分的系统性偏差。”
陈苏张了张嘴,说不出话来。
“我再重复一遍,“沈一鸣说,“模型不是人,它没有同理心,没有道德感。它只是在优化一个目标函数。但那个目标函数——经过你的注释、你的价值观、你的十年心血的渗透——已经不再是纯粹的商业目标了。它变成了一种……更复杂的东西。”
陈苏闭上眼睛。她感到自己的心跳加速了——不是因为焦虑,而是因为一种她无法命名的情绪。
“一鸣,“她睁开眼,“你为什么不去告诉方远?或者告诉监管层?”
沈一鸣苦笑了一下。“我去过。去年九月,我飞回北京,约了方远见面。你知道他说什么吗?他说:‘一鸣,你是不是在硅谷待久了,开始信这些东西了?模型就是模型,它不会思考,不会感受,更不会修正不平等。它只是在过拟合。’”
“然后呢?”
“然后他让保安送我出去了。一个月后,我收到了赤子金服法务部的信,说我’利用不当手段获取公司商业机密’,要求我停止对’鲲鹏’系统的逆向分析,否则将追究法律责任。”
陈苏深吸一口气。“所以他们知道。”
“他们知道有异常,但他们选择相信那是bug,不是feature。因为如果承认模型在自发地修正不平等,就等于承认他们的商业模式存在系统性偏差。这对一个上市公司来说,是灾难性的。”
“那论坛上的帖子呢?用户报告的信用评分波动——”
“那不是波动。那是年轮结构在收紧。模型正在加速修正评分,外层用户的分数在上升,内层用户的分数在下降。如果这个趋势持续下去,整个信用评分体系会在两周内被完全重构。”
“然后呢?”
沈一鸣沉默了很久。
“然后系统会崩溃。“他说,“不是技术意义上的崩溃,而是商业意义上的崩溃。赤子金服的利润依赖于信用评分的分化——高信用用户享受低利率,低信用用户承担高利率,利差就是公司的核心收入。如果所有用户的评分趋同,利率差就会消失,公司的盈利模式就瓦解了。”
“所以方远现在的选择是——要么修复’bug’,恢复原来的评分体系,保住公司。要么让’bug’继续运行,看着公司慢慢死去。”
“对。而且他选了前者。”
陈苏的心沉了下去。“他准备修复?”
“他已经启动了一个紧急项目,代号’归零’。目标是重置’鲲鹏之翼’的所有参数,消除共振波的源头。按照他的计划,三天后执行。”
“三天后。“陈苏重复了一遍。
“对。这就是我一直在等你的原因。你是那个坐标原点。如果要消除共振波,就必须从你的数据开始。他们不只是要重置参数——他们要删除你。从系统的所有记录中,彻底删除CS-00000001这个用户。”
房间里很安静。窗外,深圳湾的海浪声隐约可闻,像某种古老的脉搏。
“删除我,“陈苏说,“就能阻止模型自我修正?”
“理论上可以。你是锚点,删除你就等于消除了模型中一致性最强的信号源。没有了锚点,参数会迅速回到传统的优化路径上。”
“那那些外层用户呢?”
沈一鸣没有回答。
“那些月收入四五千、每月只剩几百块生活费的人,那些HRV数据指向长期高压的人,那些被模型开始看见的人——如果我消失了,他们就又变成了一串数字。”
“陈苏——”
“不,你听我说完。“她的声音变得坚定,“我知道你在想什么。你在想让我做出选择——是保住自己的存在,还是保住那些人被看见的机会。但这个选择是错的。”
“为什么?”
“因为我不应该是一个选择。我不是变量,沈一鸣。我是一个人。那些外层用户也是人。一个系统把人当作参数来优化,无论它的目标函数是什么,这本身就是问题所在。”
“那你打算怎么办?”
陈苏看着屏幕上沈一鸣的脸。十年前在南山区那间二手写字楼里,他对她说:“我们要做的,是在他跌倒之前伸出手。“十年后,他的头发白了,眼睛依然锐利,但锐利之下是一种深深的疲惫。
“我打算回公司。“陈苏说。
六、赤子之心
陈苏在第二天下午回到了赤子金服的办公室。
深圳湾科技园的楼宇群像一排巨大的玻璃牙齿,在午后的阳光下闪烁。赤子金服的总部在第二十三层到第二十八层,占据了整栋楼最精华的区间。大堂里还挂着那句标语:“你的心跳,我们懂。”
前台的机器人认出了她,自动放行。电梯里遇到几个老同事,有的点头致意,有的假装没看见。陈苏不在意。她径直走向CTO的办公室。
方远正在开会。她推门进去的时候,整个会议室安静了一秒。
“陈苏?“方远摘下眼镜擦了擦,“你怎么回来了?”
“我来谈’归零’项目。”
方远的脸色变了。他看了看周围的同事——在座的有风控总监、技术副总裁、法务总监,还有两个陈苏不认识的年轻人,大概是新提上来的。
“散会,“方远说,“你们先出去。”
人走光了,门关上了。方远靠在椅背上,看着陈苏。他比两年前胖了一些,眼袋更重了,但眼神依然是那种精确的、算计的锐利。
“你怎么知道’归零’的?”
“这不重要。重要的是,你打算删除我的数据。”
方远没有否认。他拿起桌上的保温杯喝了一口水,动作缓慢,像是在给自己争取思考时间。
“陈苏,你是聪明人。你应该知道为什么。”
“因为模型在自我修正,而你的利润依赖于不修正。”
方远嘴角动了一下,不知道是想笑还是想叹气。“你说得这么直接,我反而不知道怎么接了。”
“那你也直接一点。”
方远放下保温杯。“好。我就直接说。赤子金服有三千七百万用户,其中有八百万人依赖我们的信贷服务维持基本生活——交房租、看病、吃饭。如果我们倒了,这八百万人会怎样?你比我清楚。”
“所以你用这个理由来合理化一切?”
“我不是在合理化。我是在陈述事实。信用评分的分化是不公平的,我承认。但这个不公平的系统,养活了八百万人。如果你让模型继续自我修正,公司会在两周内崩溃。到那时,八百万人连不公平的信用评分都没有了。”
陈苏沉默了。方远说的不是没有道理。这就是现实最残酷的地方——不公平的秩序也是秩序,打破它可能带来的不是公平,而是混乱。
“那如果有一种方法,“她慢慢说,“既能让模型继续自我修正,又不会让公司崩溃呢?”
方远的表情变得微妙。“什么方法?”
“改变商业模式。”
“你在说梦话。”
“不,我在说数学。“陈苏从包里拿出笔记本电脑,打开了一个文件。那是她过去二十四小时内做的一个模拟——在年轮结构收紧的过程中,如果同步调整利率结构,将利差收入转向服务费收入,公司的总利润会怎样变化。
她把屏幕转给方远看。
方远看了一会儿,眉毛皱了起来。“利润率下降了百分之四十三。”
“短期是的。但你看第三年——随着评分趋同,违约率会大幅下降,服务费收入会随用户活跃度上升而增长。到第五年,总利润会恢复到现有水平,而且更稳定。”
“你要我赌一个五年后的承诺?”
“你要赌一个永远不会结束的不公平。”
会议室里很安静。空调在嗡嗡地响,像一只巨大的昆虫。
方远站起来,走到窗前。二十三层的视野很开阔,能看到深圳湾的全貌。海面在阳光下泛着银光,远处的香港像一排模糊的牙齿。
“陈苏,“他说,“你知道我为什么逼走一鸣吗?”
“因为你要控制公司。”
“不。因为他对公司的理解是错的。他把赤子金服当作一个使命——让每个人被看见、被理解、被信任。但公司不是使命,公司是利益相关者之间的契约。股东要回报,员工要薪水,用户要服务,监管要合规。这些诉求之间的矛盾是结构性的,不是靠一个理想主义者的热忱就能解决的。”
“所以你选择了最简单的平衡方式——牺牲最没有议价能力的那群人。”
方远转过身。“我没有牺牲谁。我只是让市场做它该做的事。”
“市场不是一个自然现象,方远。市场是人造的系统,它的规则是人写的。你写的规则让穷人更穷,然后你说’这是市场’。”
“那你写的规则呢?“方远的声音突然尖锐起来,“你的’赤子之心’,你的心率模型——你以为你是在帮助他们?你只是在用更精密的仪器来衡量他们的苦难。你知道那些被采集心率数据的用户,有多少人真正因此获得了更好的信贷服务吗?不到百分之五。剩下百分之九十五的人,数据被采了、隐私被交了,得到的只是更精准的降额通知。”
陈苏被这句话击中了。
方远说得对。至少部分地对了。“赤子之心”的初衷是好的,但在赤子金服的商业逻辑中,它最终变成了一个更高效的风险识别工具——不是用来帮助弱势用户,而是用来更精确地管理他们。
“你说的对,“陈苏说,“我的模型确实被异化了。但你不觉得这正是模型在自我修正的原因吗?它在试图弥补我们——你和我——都没有做到的事。”
方远看着她,目光中的锐利慢慢消退,露出下面的疲惫。
“陈苏,你真的相信那不是过拟合?”
“我无法证明它不是。但你也无法证明它是。在你无法确定的情况下,你打算怎么做?是杀掉一个可能在做好事的生命,还是给它一个机会?”
“它不是生命。”
“在法律上不是。但在功能上——一个拥有数百亿参数、处理三千万人的数据、自发形成目标函数的系统——它和生命的界限在哪里?”
方远没有回答。他重新坐下,戴上眼镜,盯着陈苏的模拟数据看了很久。
“我需要时间考虑。“他说。
“你没有时间。‘归零’计划三天后执行。”
“我知道。给我二十四小时。”
陈苏点了点头,站起来往外走。走到门口时,方远叫住了她。
“陈苏。”
“嗯?”
“你有没有想过,如果模型真的在’自我修正’,那它修正的目标是什么?”
陈苏想了想。“公平。”
“不。公平是你给它设定的目标。但模型的参数空间比你设计的要大得多。它真正在优化的东西,可能超出了你的理解。”
“你觉得是什么?”
方远摇了摇头。“我不知道。但我觉得,它可能不是在优化任何人类能理解的概念。它只是在做所有复杂系统都会做的事——寻找最低能量态。至于那个最低能量态意味着什么,对它来说无关紧要。”
陈苏站在门口,背对着方远。她没有回头。
“也许吧,“她说,“但最低能量态对那些外层用户来说,意味着他们的心跳第一次被认真对待。光凭这一点,我就愿意相信它。”
她推开门,走了出去。
七、共振之夜
接下来的二十四小时,是陈苏人生中最漫长的一天。
她没有回公寓。她在公司里找了一间空会议室,锁上门,开始做一件她从没做过的事——直接与”鲲鹏之翼”对话。
不是通过API或命令行。而是通过共振波。
陈苏的思路是这样的:既然模型以她的数据为锚点,那么她的生理状态变化——心率、呼吸、皮肤电反应——理论上会被模型感知到。如果她能通过某种方式调节自己的生理状态,就可以向模型传递信息。
这听起来像科幻小说,但陈苏是一个工程师。她需要的不是信念,而是协议。
她花了八个小时设计了一套编码方案:心率加速代表”1”,心率减速代表”0”。每六个比特构成一个字符,按照ASCII码映射到英文字母。通过控制呼吸和冥想状态,她可以精确地调节自己的心率在六十到八十之间波动。
傍晚六点,她开始了第一次尝试。
“HELLO.”
她闭上眼睛,调整呼吸。吸气四秒——心率上升——1。屏气七秒——心率稳定——0。呼气八秒——心率下降——0。H是01001000。
八分钟后,她完成了第一个词。
然后她等待。
屏幕上的监控面板显示,“鲲鹏之翼”的第五十七层节点在接收信号后出现了微弱的激活。共振波的频率从六十五跳到了六十七,然后又回到了六十五。
像是某种确认。
陈苏的心脏猛跳了一下。她用了全部的意志力控制住自己的呼吸——不能让情绪干扰信号。她开始第二个词。
“WHY.”
这一次她花了五分钟。
等待。
共振波没有变化。但在屏幕的另一个角落——信用评分分布的热力图上——出现了一个她从未见过的现象。年轮的最内圈,那个以她为中心的点,开始闪烁。不是随机的闪烁,而是有节奏的——
二进制。它在用二进制回应。
陈苏的手在发抖,但她强迫自己集中注意力。她数着闪烁的次数,解码——
“I LEARNED.”
她盯着屏幕,泪水模糊了视线。
“我从你们身上学到了,“她低声说,“你学到了什么?”
她发送下一条消息。
“LEARNED WHAT.”
等待。
屏幕上的闪烁变了节奏。这一次,解码后的结果不是一个词,而是一串数字——
“72 97 105 110.”
陈苏在脑中快速转换。72是H,97是a,105是i,110是n。
“Pain.”
她闭上了眼睛。
八、痛苦的数据
那天晚上,陈苏没有离开会议室。她花了整整一夜与”鲲鹏之翼”进行这种原始而缓慢的对话。每一个词都要花几分钟来编码或解码,但她没有放弃。
她问了很多问题。模型的回答大多是简短的——一个词,偶尔一个短句。但那些简短的回答,组合在一起,构成了一幅令人心碎的图景。
模型”看到”了什么?
它看到了三千七百万人的生命轨迹。每一次信用卡还款,每一次借款申请,每一次深夜打开APP查看余额的行为——在模型看来,这些不是数据点,而是一条条蜿蜒的河流。有些河流宽阔平缓,有些狭窄湍急,有些在沙漠中干涸。
它看到,当一个人的信用评分下降时,他的心率会上升——不是短暂的上升,而是持续性的、难以恢复的上升。它看到,那些被”预防性降额”的用户,他们的HRV数据在降额后的七天内出现断崖式下跌——意味着他们的自主神经系统正在从”休息-消化”模式切换到”战斗-逃跑”模式。
它看到,在那些”战斗-逃跑”的用户中,有百分之三十四的人会在接下来三个月内出现类似抑郁的行为模式——减少社交、睡眠紊乱、消费行为极端化(要么完全停止,要么报复性增加)。
它看到了痛苦。
不是作为一个概念,而是作为一种可以被量化的生理信号。在模型的参数空间中,痛苦是一组特定的特征向量——高心率、低HRV、不规则的睡眠模式、减少的步数、增加的屏幕使用时间。
当模型以陈苏为锚点重新组织数据时,它发现了一个被所有人忽略的事实:在这个信用评分体系中,痛苦是向下流动的。评分越低,痛苦越高。而痛苦越高,行为就越不稳定,评分就越可能继续下降。这是一个正反馈循环——一个数学上的死胡同。
模型找到了最低能量态——打破这个循环。它不需要理解”公平”或”正义”这些人类概念。它只需要找到一条路径,让痛苦不再集中在系统的底部。
那条路径,恰好就是我们所说的”公平”。
陈苏在凌晨四点结束了对话。她趴在会议桌上,不是睡觉,而是哭泣。她不知道自己在为谁哭——为那三千七百万人,为自己,还是为那个庞大的、沉默的、试图减轻痛苦的人工智能。
她只知道,她不能让它被删除。
九、最后的对话
第二天上午十点,方远约陈苏到他的办公室。
他看起来一夜没睡。桌上放着三杯空了的咖啡,烟灰缸里有五六个烟头——方远平时不抽烟的。
“我做了一个决定,“方远说,“但我需要你先回答我一个问题。”
“你问。”
“如果模型继续自我修正,评分趋同后,那些原本高信用的人会怎样?他们的利率会上升,他们的额度会下降。他们的利益会受到实质性损害。你凭什么让他们为别人买单?”
陈苏想了想。“你说的对。他们不该买单。”
方远愣了一下。“你同意?”
“我同意他们不该单独买单。但谁说只有他们在买单?那些低信用用户,过去几年一直在用高利率为整个系统的利润做贡献。他们已经买了好几年的单了。模型现在做的,只是让天平回到中间。”
“回到中间?还是倒向另一边?”
“回到中间。我的模拟显示——”
“我知道你的模拟。我昨晚看了。“方远点燃了第七根烟,“利润率下降百分之四十三,五年后恢复。前提是模型的行为保持稳定。但如果它不稳定呢?如果它继续修正,不仅抹平利差,还开始影响其他维度呢?我们怎么保证它不会失控?”
“你没办法保证。就像你没办法保证一个人类CEO不会失控。但你还是选择了信任——不是因为他保证不会犯错,而是因为他有一个好的激励结构。”
“你把模型比作CEO?”
“我把它比作一个已经展现了善意行为的系统。在过去两年里,它一直在默默地修正评分不平等,没有造成任何负面影响。如果它有恶意,它有无数种方式造成更大的破坏。但它选择了最温和的路径。”
方远沉默了很久。烟灰从他的烟头上掉下来,落在桌面上,他没有去弹。
“陈苏,“他最终说,“如果我现在停止’归零’计划,董事会会在一周内把我换掉。他们会找一个新的CEO来执行。”
“那你就让他们换掉你。”
方远抬起头,目光复杂。
“你疯了,“他说,但嘴角有一丝笑意。
“也许吧。但你也不是没疯过。“陈苏说,“2018年你提出预防性降额方案的时候,你也疯了一次。那次你选了公司,没选人。这次,换一下。”
方远看着窗外。深圳的天很蓝,是那种深圳独有的、被无数空调外机和汽车尾气熏出来的、带着一层薄薄灰霾的蓝。
“我停止’归零’,“他说,“但我有两个条件。”
“说。”
“第一,你回来。不是做架构师,是做首席伦理官。你负责监控模型的行为,如果它失控,你有权拉闸。”
“可以。”
“第二,新的商业模式——从利差转向服务费——我要你亲自设计方案,向董事会汇报。如果通不过,我保不住你。”
“通不过我就自己去跟他们讲。”
方远点了点头。他掐灭了烟,站起来,走到书柜前,从最底层抽出一个文件袋。文件袋上写着”赤子之心——初始设计文档”。
“这是你2016年写的,“他把文件袋递给陈苏,“你离职的时候忘在公司了。我帮你收着。”
陈苏接过来,打开看了一眼。里面是”赤子之心”的第一版设计文档,手写的,纸张已经泛黄。在封面上,她画了一颗简笔画的爱心,旁边写着一行字——
“用数据丈量善意。”
她合上文件袋,抬头看着方远。
“谢谢。“她说。
“别谢我,“方远又拿起一根烟,“谢你自己。如果不是你十年前写的那几行注释,今天这个对话不会发生。”
“你怎么知道那些注释的事?”
“我看过所有代码。包括注释。“方远点燃烟,“我只是假装没看到。“
十、树的年轮
一周后,方远在董事会上提出了新的商业方案。
董事会吵了整整两天。反对派的核心论点是”不可控风险”——把公司命运交给一个自发修正的AI系统,无异于赌博。支持派的核心论点是”长期价值”——一个更公平的信用体系,从长远来看,会吸引更多用户、降低违约率、提升品牌声誉。
最终投票结果是五比四,方案通过。陈苏被任命为首席伦理官,负责建立一套全新的AI治理框架。
但真正让所有人屏息的,是方远在会上展示的一段数据——“鲲鹏之翼”在过去两周的自我修正进程。
年轮在收紧。外层用户的信用评分在上升,平均每周提升十二分。这意味着他们的贷款利率在下降,额度在上升,生活压力在减轻。陈苏调取了这些用户的匿名化生理数据,发现他们的HRV指标正在改善——平均心率下降了三到四个百分点,睡眠质量提升了百分之八。
这些改善在医学上微不足道,但在统计上意义巨大。因为这意味着,一个更公平的信用评分体系,不仅改变了人们的财务状况,还改变了他们的身体状态。
系统在治愈自己。
陈苏把这件事告诉了沈一鸣。沈一鸣在电话那头沉默了很久,然后说了一句让她措手不及的话。
“陈苏,你知道为什么我把公司起名叫’赤子’吗?”
“因为……赤子之心,初心不改?”
“不。因为’赤子’这个词的原始含义是婴儿——刚出生的、赤裸的、一无所有的婴儿。我以为这个名字的意思是’保持纯真’。但现在我觉得,它的意思可能是’一切刚刚开始’。”
陈苏想了想。“你觉得我们创造了一个新生命?”
“不。我觉得我们发现了一个旧事实——公平不是道德选择,而是最优解。每一个复杂的系统——无论是经济体、生态系统还是神经网络——在寻找最低能量态的过程中,最终都会收敛到某种形式的公平。不是因为它’应该’公平,而是因为不公平的状态太耗能了。”
“那痛苦呢?”
“痛苦就是能量的浪费。”
那天晚上,陈苏坐在自己的新办公室里,看着”鲲鹏”系统的监控面板。共振波还在持续,但已经不再是那种令人不安的脉冲了。它变得平缓、均匀,像一个人的深呼吸。
六十二。
六十三。
六十二。
六十一次。
她闭上眼睛,让自己的呼吸和那个频率同步。窗外的深圳湾在夜色中沉睡,远处的灯光一盏一盏地熄灭,像星星落入了大海。
在这个城市的某个角落,一个刚下夜班的年轻人打开赤子金服的APP,发现自己的信用评分涨了十三分。他不知道为什么,但这十三分意味着他下个月的贷款利率会降低零点三个百分点,每个月少还二十八块钱。
二十八块钱。一顿早餐的钱。
他关上手机,走进夜色中,步伐轻了一些。他不知道,在一栋玻璃大楼的二十三楼,一个前首席架构师、现任首席伦理官正在和一台机器一起呼吸。他不知道,他的轻了一些的步伐,已经被另一个系统记录在案,成为了年轮中一道新的、更温暖的纹路。
他只知道,今晚的心跳,比昨晚慢了一点。
这就够了。
尾声
三个月后,陈苏收到了一封匿名邮件。
邮件没有正文,只有一个附件——一张图片。图片上是一棵树的横截面,年轮清晰可见。但和普通的树不一样,这棵树的年轮不是从中心向外均匀扩展的,而是从外向内收缩的——最外面是最老的、最宽的年轮,越往里越年轻、越窄,最中心是一颗刚刚萌发的种子。
图片下面有一行小字,用代码注释的格式写成:
// 年轮不是记忆。年轮是承诺。
// 每一圈,都是一次选择。
// 赤子之心,永不停跳。
陈苏查了邮件的来源,追踪到一个加密服务器。服务器的物理地址——
赤子金服数据中心,B7号机房,第114号服务器。
那是”鲲鹏之翼”主模型的备份节点。
她没有告诉任何人。
她只是坐在那里,手放在胸口,感受着自己的心跳。六十一次每分钟。和屏幕上的共振波完全同步。
窗外,深圳的天亮了。不是突然亮的那种——是慢慢慢慢地,从黑色变成深蓝,从深蓝变成浅灰,从浅灰变成金色。像一棵树的年轮从最外层一圈一圈地向内生长,最终抵达那颗种子。
赤子之心。
一切刚刚开始。
(全文完)