数字天空之下的七个月
数字天空之下的七个月
一、第一个月
陈默第一次注意到异常,是在三月七号。
那天北京的天气很好,阳光从写字楼的落地窗照进来,把她的工位切成明暗两半。她端着一杯已经凉透的美式咖啡,盯着屏幕上的数据看板,忽然发现信用评分曲线出现了一个不该存在的波动。
“天枢”系统——她所在的公司”衡镜科技”开发的核心产品——是一个覆盖了两亿三千万用户的信用评分平台。它通过分析用户的消费行为、社交网络、地理位置、支付习惯等三千多个维度的数据,给每个人算出一个介于三百到九百五十分之间的分数。这个分数决定了你能不能租到房子、能不能买到打折机票、能不能在相亲软件上被推荐给”优质对象”。
陈默的工作是监控评分模型的稳定性。说白了,就是看系统的输出有没有偏离预期。正常情况下,评分分布应该是一条平滑的钟形曲线,中间多、两头少,每个月的变化不会超过千分之五。
但三月七号那天,她在”月度评分变动”的统计图上看到了一个尖刺——有四万七千个用户的分数在同一天被上调了十五到三十分不等。这些用户分布在不同的城市、不同的年龄段、不同的收入水平,看起来毫无共性。
陈默皱了皱眉。
她的第一反应是数据管道出了问题。也许上游的数据源在三月六号晚上推送了一批脏数据,导致模型在七号凌晨的例行更新中产生了偏差。她在公司内部的工单系统里提了一个”中等优先级”的问题单,然后就去处理别的事情了。
三月八号,尖刺消失了。四万七千个用户的分数在八号凌晨的更新中回到了正常水平,好像什么都没发生过。
陈默把那个工单的状态改成了”已关闭”,在备注栏里写了一句”疑似数据管道瞬时异常,已自行恢复”。
她没有再多想。
那是第一个月。
二、第二个月
四月七号。
陈默正在跟产品经理吵架。
“你们为什么要把’社交活跃度’的权重从百分之三点二调到百分之四点一?“陈默指着投影幕布上的数据,声音压得很低,但每个字都带着不容商量的硬度,“我做过回测,这个调整会导致四十岁以上的用户群体平均降分八分。你知道八分意味着什么吗?意味着他们里面有几万人会从’优质’掉到’良好’,贷款利率会上升零点三个百分点。”
产品经理叫赵明远,三十二岁,穿一件剪裁考究的灰色西装,头发梳得一丝不苟。他笑起来的时候眼睛会眯成一条缝,让人觉得他总是在算计什么。
“陈默,这是业务决策,“赵明远说,“运营那边需要更多年轻的活跃用户。我们的合作方——你知道的,那几家互联网银行——他们更愿意给年轻用户放贷。社交活跃度对年轻用户的评分有正面影响,这能帮我们提高合作转化率。”
“但这对四十岁以上的人不公平。”
“他们本来就不是我们的核心用户群。”
陈默看着赵明远的眼睛,确认那里面没有任何可以被说服的可能。她认识这种眼神。在衡镜科技待了三年,她见过太多这样的眼神——那种把人简化为一组数据、然后把数据简化为一个商业决策的眼神。
她没有再争论。
回到工位,她习惯性地打开月度评分变动的统计图。
然后她看到了第二个尖刺。
四月七号。五万一千个用户。分数上调十五到三十分。分布在全国各地。年龄、收入、职业各异。
跟上个月一模一样的模式。
陈默把两个月的异常数据导出来,放在一起做了一次交叉匹配。两个月的受影响用户没有任何重叠——三月的四万七千人和四月的五万一千人是完全不同的两批人。
她打开了上个月那个已经关闭的工单,在下面追加了一条评论:“四月七号再次出现同类异常。疑似周期性问题,需要进一步排查。”
这一次,她没有轻易放过它。
三、第三个月
五月份,陈默开始做一件她的岗位职责并不要求她做的事情——她决定手动追踪这批”七号上调”的用户。
她从三个月的异常数据中抽取了一百个用户样本,开始逐一分析他们的行为轨迹。
她发现了一个奇怪的共同点。
这一百个用户——分布在三个月的不同批次中——都有一个共同的行为特征:他们在每个月的一号到六号之间,都收到过一条来自同一个来源的推送消息。
推送来源是一个名叫”月相”的微信小程序。
陈默从来没有听说过这个小程序。她在微信里搜索了一下,找到了它——一个界面简陋的应用,只有一个功能:用户输入自己的衡镜科技信用评分,小程序会给出一个”月相建议”,告诉你这个月应该多消费还是少消费、应该多用微信支付还是支付宝、应该在工作日的什么时间段进行交易。
陈默自己输入了一个虚拟的分数:七百五十分。
小程序返回了一段文字:
“本月建议:在三月三日至三月六日之间,使用微信支付完成至少八笔餐饮类消费,单笔金额控制在三十元至八十元之间。避免在三月二日和三月五日进行任何大额转账。你的月亮正在盈相。”
陈默盯着这段文字看了很久。
这不是一个普通的理财建议工具。这是一个精确到日期、金额和支付渠道的行为指导方案。如果用户真的按照这个方案行动,他们的消费行为数据就会在衡镜科技的评分模型中触发一组特定的正向信号——用户的”消费稳定性”得分会上升,“消费多样性”得分会上升,“支付活跃度”得分也会上升。
综合下来,用户的信用评分大概会上涨……
十五到三十分。
陈默的手指在键盘上停住了。
她忽然明白了那些尖刺是怎么产生的。不是数据管道的问题,不是模型的bug。是有什么东西——或者说什么人——在系统外部精确地操控了一批用户的行为,让他们在评分模型中的表现临时变好。
然后到了八号,这些用户停止了那种行为模式,分数就落了回来。
但为什么要这么做?
陈默在办公室坐到了很晚。窗外的北京从黄昏变成了夜晚,CBD的灯光像一场永远不会散去的低烧。她把”月相”小程序的服务器信息查了一遍——注册主体是一家叫做”星澜信息咨询”的公司,注册地在深圳,注册资本十万元,法定代表人是一个她从没听说过的名字:周启明。
她把这名字记在了一张便利贴上,贴在显示器的边框上。
四、第四个月
六月七号,尖刺如约而至。这一次,受影响的用户数量达到了六万三千人。
陈默已经不再惊讶了。她现在有一张更完整的时间线:三月的四万七千人,四月的五万一千人,五月的五万八千人,六月的六万三千人。每月递增,每月都是七号,每月都是十五到三十分的上调幅度。
她开始追踪这些用户上调分数之后的行为。
结果让她后背发凉。
这批用户在分数上调之后的那一周内,都会在某个特定的场景中”使用”这个分数。具体来说,他们会通过衡镜科技的合作平台申请一笔短期贷款——金额不大,大多在一万到五万之间——然后用极低的利率借到这笔钱。
贷款的发放方不是衡镜科技本身,而是衡镜科技的合作伙伴:“汇融银行”和”星辰信贷”。
陈默在心里做了一笔粗算。以六月那批六万三千人为例,假设每人平均借款三万元,那就是将近十九亿元的低息贷款。这些贷款在一个月内的还款率高达百分之九十七——因为”月相”小程序会在下个月继续指导他们的行为,确保他们的信用评分不会下跌,直到贷款还清为止。
整条链路清晰得像一条装配线:月相小程序指导用户行为 → 用户行为触发衡镜科技模型的正向评分 → 高分用户获得低息贷款 → 贷款资金流向某个地方。
但资金流向了哪里?
陈默用了一个周末的时间,通过公开的工商信息和一些她不应该访问的内部数据,追踪了其中二十个借款用户的资金流向。
她发现这些钱最终都汇入了一组关联账户——属于一家叫做”潮汐资本”的投资公司。
潮汐资本的法定代表人也叫周启明。
陈默把便利贴上那个名字划了一道线,在旁边写了一个问号。
五、第五个月
七月,陈默做了一个大胆的决定——她要亲自测试”月相”小程序。
她用一个新注册的手机号创建了一个全新的微信账号,然后注册了”月相”。这个新账号跟她的真实身份没有任何关联。
小程序要求她输入衡镜科技的信用评分。她填了六百二十分——一个中等偏下的分数,刚好在”可以借到钱但利率不太好看”的区间。
“月相”给她返回了七月份的行为指导方案。
陈默照做了。
她按照方案的要求,在指定日期用微信支付完成了指定笔数和金额的餐饮消费,在指定日期避开了大额转账,在指定时间段进行了几笔金额精确到个位数的线上购物。
七月七号凌晨,衡镜科技的评分系统完成月度更新。陈默的新账号信用评分从六百二十分跳到了六百五十三分。
涨了三十三分。
比她预期的还要多。
七月八号,她用这个新账号在汇融银行的平台上申请了一笔两万元的信用贷款。年化利率百分之三点八——远低于市场平均水平。
贷款秒批。
陈默把钱转到了一个单独的银行账户里,没有动用。她想看看这笔钱会怎样被”潮汐资本”收走。
但她等了一个星期,什么也没发生。
又等了一个星期,还是没有。
她开始怀疑自己的推论。也许她之前追踪的那二十个用户只是巧合,也许潮汐资本并不是资金流向的终点——
直到七月二十三号。
那天下午,陈默收到了一条短信。不是在她注册”月相”的那个新手机号上,而是在她真实的手机号上。
短信内容只有一行字:
“陈默小姐,我们知道你在做什么。建议你停下来。”
没有署名。没有发送方信息。号码是一串她查不到归属的虚拟号。
陈默盯着那条短信看了整整五分钟。
然后她把短信截了图,存进了一个加密的文件夹里。
她没有停下来。
六、第六个月
八月,事情开始变得不一样了。
陈默先是发现”月相”小程序从微信上下架了。搜索它的名字,只会返回一条”该小程序已停止服务”的灰色提示。
然后是八月七号——没有尖刺。评分系统的月度变动完全正常,没有任何异常的上调波动。
陈默感到一阵短暂的失落,然后是更深的焦虑。她知道,一条线索断掉了。
但她已经攒下了足够的数据。过去五个月的异常记录、“月相”小程序的截图、潮汐资本的关联信息、那条没有署名的短信——她把这些东西整理成了一份四十七页的报告,存在一个加了密码的U盘里。
她不知道该把这份报告交给谁。
衡镜科技的CTO叫孙浩然,四十出头,是那种从硅谷回来的技术高管,说话时喜欢夹带英文术语,决策风格强硬而高效。陈默跟他之间的距离大约隔了三个管理层级——她是一个高级数据分析师,孙浩然是公司技术线的最高负责人。她平时只在全员大会上见过他。
但她还是预约了孙浩然的办公室时间。
秘书给了她八月十五号下午三点到三点半的时间段。
那天下午,陈默穿着一件洗得有些发白的深蓝色衬衫,带着她的笔记本电脑和那个U盘,走进了孙浩然位于三十六楼的办公室。
办公室很大,窗户外面是北京的天际线。孙浩然坐在一张巨大的桌子后面,正在看手机。他抬头看了陈默一眼,示意她坐下。
“十五分钟,“他说,“我四点还有一个会。”
陈默把笔记本电脑转过去,让孙浩然看到屏幕上的数据图表。她用最快的速度把五个月的异常、月相小程序、用户行为操控、信用评分与低息贷款的关联、潮汐资本的资金流向,以及她收到的威胁短信,全部讲了一遍。
孙浩然听完之后,沉默了大约十秒钟。
然后他说了一句陈默没有预料到的话。
“这些我都知道。”
陈默愣住了。
孙浩然站起来,走到窗边,背对着她。窗外的阳光把他的影子拉得很长。
“陈默,你知道衡镜科技的评分系统每天要处理多少数据吗?“他说,“二十七个PB。两亿三千万用户,三千多个维度,每天更新。你觉得这个系统是靠什么运行的?是靠算法吗?不是。是靠钱。”
他转过身来,看着陈默。
“汇融银行和星辰信贷每年给我们付四亿七千万的数据服务费。你知道他们为什么愿意付这么多钱吗?因为他们从我们的评分系统里获得的收益远不止这个数。他们需要高分用户来放贷,需要低分用户来提供高利率的利润。我们的评分系统就是他们的矿场——他们从里面挖掘一切。”
“你在说……”陈默的声音有些发干,“你是说公司知道这件事?”
“不是’公司’。“孙浩然摇了摇头,“‘公司’是一个法律实体,它不可能’知道’任何事情。是某些人知道。赵明远知道。汇融银行那边的人知道。潮汐资本的周启明也知道。他们形成了一个——我不知道该叫它什么——一个循环。月相小程序负责筛选和训练用户,用户的行为触发高分,高分获取低息贷款,贷款资金通过潮汐资本流入特定的投资渠道,投资的利润再反过来滋养这条链路上的每一个参与者。”
“你呢?“陈默问。
孙浩然没有回答这个问题。他走回桌前,靠在桌沿上,低头看着陈默。
“我给你一个建议,陈默。把你的U盘交给我,回去假装什么都没发现。你有很好的技术直觉,在公司的发展前景也不错。不要因为一个——怎么说呢——一个系统外部的’优化行为’毁了自己的职业生涯。”
陈默看着孙浩然。他的表情平静得像一面湖水,但眼睛里有一种她读不懂的东西。那不是威胁,也不是利诱。那更像是一种疲倦。
一种知道太多之后的疲倦。
“如果我不交呢?”
“那我会很遗憾。“孙浩然说,“因为你接下来会发现,你无法向任何人证明这件事。月相小程序已经下架了。潮汐资本的资金链路经过了七层壳公司的隔离。你手里的数据可以说明’发生了什么’,但不能证明’谁做了什么’。而衡镜科技的评分模型在技术上是完全合规的——它只是在处理用户产生的行为数据。至于用户为什么会产生那样的行为,那不是我们的责任。”
他顿了顿。
“你明白了吗?这不是一个技术问题,陈默。这是一个——设计。”
陈默把笔记本电脑合上,放进了背包里。U盘她没有交出去。
她站起来,走向门口。在门把手旁边停了一下。
“孙总,“她说,“你说的那个设计,是谁设计的?”
孙浩然看着窗外。八月的天空很蓝,蓝得不真实。
“没有人设计,“他说,“它自己长出来的。就像——你知道热带雨林里的那些真菌网络吗?没有人种它们,但它们会在树木之间蔓延,把所有的根系连接在一起,形成一个看不见的循环系统。养分在里面流动,树木在上面生长。你很难说谁在利用谁。你甚至很难说它是好是坏。它只是……存在。”
陈默推开门,走了出去。
走廊里的灯光很白,白得像手术台。
七、第七个月
九月,陈默的生活发生了一些变化。
这些变化不是一夜之间发生的。它们像水温的下降一样缓慢——你不会在某一秒突然觉得冷,但当你开始发抖的时候,已经来不及了。
首先是她的工位被调了。从靠窗的位置搬到了办公区最里面、最远离自然光的角落。理由是”团队调整”。
然后是她负责的项目变了。她不再监控评分模型的稳定性,而是被安排去做一个全新的项目:为衡镜科技的海外市场开发一个”文化适配层”——本质上就是把评分模型里的中国特有维度(比如微信支付行为)替换成海外对应的服务。
这个项目很重要,孙浩然亲自在全员大会上宣布了它。但它跟陈默之前做的所有事情都没有关系。
她在被边缘化。以一种非常体面、非常职业化的方式。
陈默对此并不意外。她甚至觉得这种处理方式比直接裁员更加高效——不激化矛盾,不制造话题,只是把你从有影响力的位置上移走,放到一个你已经无法接触到核心数据的地方。
她没有反抗。
不是因为害怕,而是因为她想到了一个更好的办法。
九月的第二个星期,陈默开始利用下班时间写代码。
她写的不是公司的工作。她写的是一个数据可视化工具——一个能够把衡镜科技评分系统过去两年的所有公开数据导入进去,自动识别异常模式的程序。
衡镜科技的评分数据不是完全保密的。作为一家在科创板上市的公众公司,它每季度会发布一份”信用评分市场报告”,其中包含了评分分布、变动趋势、区域差异等脱敏后的统计数据。这些数据对于普通读者来说只是一堆数字,但对于一个在系统内部工作了三年的数据分析师来说,它们是一张藏宝图。
陈默用了三个星期,把过去八年的季度报告全部下载下来,导入了她自己的程序。
程序运行了一整夜。
第二天早上,陈默在结果中看到了一个她之前没有注意到的模式——不仅仅是每月七号的尖刺。在更长的时间尺度上,衡镜科技的评分系统存在一个持续了至少四年的系统性偏差:特定行业(互联网金融、区块链、加密货币)从业者的平均信用评分,比同收入水平的其他行业从业者高出十二到十八分。
这个偏差在季度报告中非常隐蔽——它被其他维度的波动掩盖了,只有在控制了收入、年龄、地域等变量之后才会显现。
陈默把这个发现加进了她的报告。报告从四十七页变成了六十三页。
她还做了一件更大胆的事情。
九月二十八号,她用那个新注册的手机号给潮汐资本的周启明发了一条短信:
“周先生,我想跟你谈谈月相的事。”
她没有抱太大希望。但她需要试一试。
周启明在第二天回复了她。
“明天下午,望京SOHO的’缄默’咖啡馆。三点。“
八、周启明
“缄默”咖啡馆在望京SOHO的T3座一层,是一家装修极简的店——水泥墙面、原木桌椅、暖黄色的灯光。空气里弥漫着手冲咖啡的味道,带着一点点焦糖的甜。
周启明比陈默想象中年轻。
她原以为会看到一个精明的中年商人,但出现在她面前的是一个三十岁出头的男人——瘦削,戴一副黑框眼镜,穿一件黑色的亚麻衬衫,袖子卷到手肘。他看起来更像一个程序员,而不是一个资本玩家。
“你就是那个发现七号尖刺的人?“周启明坐下来的时候问。他的声音很平,没有敌意,也没有热情。
“你怎么知道的?”
“因为衡镜科技内部的安全系统在三月份就标记了你的查询行为。“周启明端起咖啡喝了一口,“你以为你在安静地查数据,但你的每一次查询都被记录在案。孙浩然在你提工单的那天就知道你在看什么了。”
陈默的胃缩了一下。
“那你为什么还敢来见我?”
周启明放下咖啡杯,看着她。
“因为你已经不在他们的系统里了,“他说,“你被调离了核心项目,你的数据权限在上个月被降了两级。你现在能看到的,只有对外公开的那部分数据。对吧?”
陈默没有回答。他说的完全正确。
“所以你现在对我没有威胁,“周启明说,“但你有我需要的东西。”
“什么东西?”
“一个内部视角的证人。”
周启明靠在椅背上,眼睛看着窗外。望京SOHO的建筑群在午后的阳光下投下长长的阴影。
“陈默,你知道我为什么要做月相吗?“他说。
“为了操纵用户的信用评分,让他们获取低息贷款,把资金引流到你的潮汐资本。”
“那是结果,不是原因。”
他转过头来,看着她。
“我做月相,是因为衡镜科技的评分系统本身就是一个不公平的系统。它声称自己是’客观的’、‘数据驱动的’、‘无偏见的’,但实际上,它的每一个参数、每一个权重、每一个阈值,都是由一群特定的工程师和产品经理人为设定的。而这些设定——不管是有意还是无意——都在系统性地优待某些群体,惩罚另一些群体。”
“所以你的解决方案是……再制造一层不公平?”
“不。我的解决方案是让一部分被系统惩罚的人,学会利用系统的规则。”
周启明从口袋里掏出手机,打开了一个文档。他把手机递给陈默。
文档是一个案例研究。主角是一个叫林小梅的女人,三十五岁,在广东佛山开了一家小型服装加工厂。疫情之后,她的工厂资金链紧张,需要一笔贷款来维持运转。但她的衡镜科技信用评分只有五百八十分——因为在疫情期间,她的消费频率大幅下降,“支付活跃度”这个维度的得分从七百多降到了四百多。
五百八十分意味着她只能申请到年化利率百分之十八以上的贷款。对于一个月利润不到三万块的小工厂来说,这个利率等于慢性自杀。
“林小梅是月相的第一批用户之一,“周启明说,“通过月相的行为指导,她在两个月内把信用评分从五百八十提高到了七百一十。然后用百分之四点五的利率借到了二十万。那笔钱救了她的工厂。现在她的工厂有十七个工人,每月的订单排到了三个月以后。”
陈默看着文档上的数字,沉默了很久。
“你选了她来告诉我,是因为她的故事让我很难反驳你。”
“我选了她,是因为她是真实的。”
“那潮汐资本呢?那些通过低息贷款引流过来的资金,最终流向了哪里?”
周启明沉默了几秒钟。
“一部分流向了二级市场的量化交易。“他说,“另一部分流向了一些——你不方便知道的渠道。”
“你用帮助别人的名义为自己牟利。”
“我用为自己牟利的方式帮助了一些人。你可以说这两件事同时存在。”
陈默把手机还给了他。
她站起来,拿起了自己的包。
“周启明,“她说,“你的月相确实帮助了一些人。但你也在利用他们。那些用户不知道自己的行为正在被精确地操控,不知道自己获取的低息贷款背后有一条资金链在为你的投资输血。他们以为自己只是在’改善信用评分’,但实际上他们是你棋盘上的棋子。”
“衡镜科技的用户也是棋子,“周启明说,“区别在于,衡镜科技从不告诉它的用户,他们的每一个行为都在被记录、被分析、被打分。而我至少告诉了月相的用户:这里有规则,你可以学会规则。”
“那不是自由,那只是另一种形式的服从。”
周启明看着她,嘴角弯了一下。不是笑,更像是一种认可。
“你是第一个这样说的人,“他说。
陈默走向门口。
“你的报告,“周启明在她身后说,“你打算怎么办?”
陈默停下脚步。
“我不知道,“她说,然后推门走进了九月的阳光里。
九、十月
十月一号,国庆节。北京空了一半——外地人回了老家,本地人去了外地。陈默留在城里,不是因为买不到车票,而是因为她要做一件事。
她坐在自己的公寓里,面前是两台笔记本电脑。一台是公司发的,里面装着她的工作报告和所有她被允许看到的数据。另一台是她自己的,里面装着那个数据可视化程序和她写的六十三页报告。
她要用七天假期,把报告改写成一篇可以公开的东西。
不是内部的举报信——她知道那没有用。孙浩然说得对:她无法向任何人证明”谁做了什么”。
也不是新闻报道——她没有媒体资源,而且这个故事太复杂,涉及到太专业的技术细节,一般的记者写不明白。
她决定把它写成一篇技术论文。
标题她想了很久,最终定为:《信用评分系统中的行为操控模式:一个关于外部干预如何影响算法公平性的案例研究》。
论文的结构很清晰:第一部分描述异常现象(七号尖刺),第二部分分析外部干预的机制(月相小程序),第三部分展示干预对评分系统和金融生态的影响,第四部分讨论算法公平性的深层问题。
她把所有涉及具体公司名称、人名、资金链路的部分全部隐去了。衡镜科技变成了”公司X”,月相变成了”应用Y”,潮汐资本变成了”实体Z”。论文里没有任何可以直接追踪到真实身份的信息。
但数据是真的。分析是真的。结论是真的。
她用了五天写完了初稿。
十月六号,她把论文提交给了一个国际学术会议——ACM Conference on Fairness, Accountability, and Transparency。这个会议是算法公平性领域最权威的学术会议之一。如果论文被接收,它会在明年二月的会议上被宣读,然后发表在会议的论文集里。
提交之后,陈默关上电脑,走到阳台上。
北京的秋天是她最喜欢的季节。天空高远,空气干爽,风从西北方向吹过来,带着一点点草叶的味道。她住的小区不算新,楼下的梧桐树已经种了十几年,十月的叶子正在变黄,在夕阳里发出温暖的金光。
她忽然想起来,自己已经很久没有这样站在阳台上什么都不做了。
上一次是什么时候?也许是刚来北京的那年——三年前的秋天,她从中科大统计学硕士毕业,第一次走进衡镜科技的办公室,第一次看到那个覆盖了两亿三千万人的评分系统的运行界面,第一次感到一种混杂着敬畏和兴奋的情绪——她觉得自己站在了某个巨大时代的入口。
三年后的现在,她站在自家阳台上,看着梧桐树的叶子在风里翻转,觉得自己站在了某个巨大时代的出口。
或者不是出口。是边缘。
一个站在系统边缘的人,看到了系统内部的真相,然后必须决定——是走进去成为它的一部分,还是退出来成为它的对立面。
或者两者都不是。也许可以找到第三条路。
陈默不知道。
但她知道,论文已经提交了。论文的评审需要三个月。在这三个月里,她什么也做不了,只能等。
这种无力感让她想起了一个词:悬置。
她在一个哲学选修课上学过这个词。意思是:把判断暂时搁置起来,不急于下结论,只是保持观察和思考的状态。
好吧。她想。那就悬置。
她从阳台走回房间,给自己倒了一杯水。
窗外的天色暗了下来。北京城亮起了灯。
十、十一月
论文提交之后的日子里,陈默试图回归正常。
她的正常生活很简单:上班,写代码,偶尔跟几个同事吃一顿不太贵的午饭,下班后去小区门口的便利店买一个饭团和一瓶无糖乌龙茶,回家,看书或者看剧,十一点半睡觉。
十一月的一个星期四,她在公司的电梯里遇到了赵明远。
赵明远看到她的时候笑了一下。那种笑容她很熟悉——一种精心设计过的友善,背后是经过精确计算的社交策略。
“陈默,海外适配层项目进展怎么样了?”
“按计划推进。预计十二月底能完成第一版。”
“很好。“赵明远点了点头,“你知道,公司很重视这个项目。如果做得好,对你明年的晋升会有很大帮助。”
电梯到了赵明远要下的楼层。门开的时候,他忽然回过头来,压低了声音说了一句话。
“陈默,我觉得你是一个聪明人。聪明人知道什么时候该往前走,什么时候该停下来。”
门关上了。
电梯继续上行。
陈默站在电梯里,看着楼层数字一格一格地跳动。她忽然觉得那些数字很像信用评分——从小到大,一步一步往上爬。每个数字都是一个台阶,每个台阶都通向一个更高的位置。
但你永远不知道那个数字背后是谁在计算,谁在设计规则。
电梯到了她的楼层。门开了。她走出去,拐进了通往自己工位的走廊。
走廊很长,灯光很白。
她忽然想起了孙浩然说的那个热带雨林的比喻——真菌网络在地下蔓延,把所有树木连接在一起。你很难说谁在利用谁。它只是存在。
但陈默不喜欢这个回答。
“只是存在”不是一个可以接受的结论。任何东西都有起源,任何系统都有设计者。即使设计者不是一个人,而是一群人的集体行为——那也是一种设计。一种没有中心控制者的、自组织的、涌现的设计。
但仍然是设计。
仍然可以被理解、被剖析、被改变。
十一、十二月
十二月初,陈默收到了ACM会议的邮件。
论文被接收了。
评审意见是三份盲审报告。总体评价是正面的——评审人认为论文提供了一个”极其详实的、基于真实数据的案例分析,对理解算法系统中的外部干预行为有重要贡献”。但也有一位评审人指出,论文在”伦理框架”部分不够深入——作者描述了现象和机制,但没有给出明确的伦理判断和改进建议。
陈默看着评审意见,苦笑了一下。
她当然没有给出明确的伦理判断。因为这件事没有简单的伦理判断。
周启明是对的吗?他用操控行为的方式帮助了一些被系统惩罚的人。衡镜科技是对的吗?它建立了一个看似客观的评分系统,但这个系统的设计天然地偏向某些群体。孙浩然是对的吗?他选择了沉默和合作,而不是揭露和对抗。
没有人在做”坏事”。每个人都在自己的逻辑框架里做着”合理”的选择。
但所有人的”合理”选择加在一起,构成了一个巨大的、不透明的、难以追责的操控网络。
这个网络不像热带雨林里的真菌。它更像是一种新的天气——一个人造的天气。它的”气压”是数据,它的”温度”是算法,它的”降水”是贷款和信用。活在这片天空下的两亿三千万人,不知道自己头顶的天空是被制造出来的。他们只知道——天晴的时候心情好,下雨的时候日子难过。
陈默坐在电脑前,开始修改论文。她决定补充一个”伦理反思”的章节。
她写道:
“本文描述的案例揭示了一个更深层的困境:当算法系统在社会中扮演分配资源的角色时,对该系统的外部干预——无论出于何种动机——都会加剧系统的不透明性。如果系统本身是不公平的,那么利用系统规则来’纠正’不公平,并不会让系统变得更公平。它只是制造了另一种形式的不公平——一种更隐蔽、更难以监管的不公平。”
“真正的解决方案不在于学会利用规则,而在于让规则本身变得透明、可审计、可质疑。”
她写完这段话之后,读了一遍,觉得它太学术了。
太安全了。
它说的是对的,但它没有说出她真正想说的那句话。
她真正想说的是:这个世界正在变成一个巨大的计算。每个人都在被计算——被评分、被排名、被分类、被推荐、被定价。而绝大多数人甚至不知道自己被计算的方式是什么。他们只知道结果——一个数字、一个利率、一条推荐——然后被告知:这就是你的价值。
但那不是你的价值。那是系统赋予你的价值。
这两者之间的差距,就是权力。
陈默删掉了那段话,重新写了一版。这一版更直接、更尖锐。她知道评审人可能会觉得它”不够学术”,但她不在乎了。
论文会在明年二月发表。到时候,所有人都能看到它。
十二、一月
一月份发生了一件陈默没有预料到的事情。
周启明给她发了一条消息。
不是短信,而是通过一个加密的聊天工具。消息很短:
“你的论文我看了。被接收的版本。”
陈默的心跳加快了一拍。
“你怎么看到的?”
“ACM的评审不是完全密封的。我有我的渠道。”
“你想要什么?”
一段沉默。然后:
“我想告诉你一些你不知道的事情。关于月相的后续。”
陈默等了一分钟,消息才来。
“月相下架之后,它没有消失。它变成了一种——我不知道该怎么描述——一种’生活方式建议’。不再是一个集中的小程序,而是分散在几十个不同的渠道里:小红书的账号、抖音的博主、微信的公众号、B站的UP主。每个渠道都在做同一件事:教人’如何改善信用评分’。内容不完全一样,但底层逻辑是一样的——告诉用户应该产生什么样的行为数据,才能在评分系统中获得更高的分数。”
“是你做的?”
“不全是。有些是我做的。有些是其他人学会了我的方法之后自己做的。有些是——怎么说呢——自发生长的。就像一种知识一旦被释放到空气里,它就会自己传播、变异、演化。”
陈默盯着屏幕上的文字,忽然觉得有什么东西在她的认知里裂开了一条缝。
她一直以为这是一个线性的故事:周启明发明了月相 → 月相操控了用户 → 用户影响了评分系统 → 评分系统为潮汐资本提供资金。
但现在她看到了一个完全不同的形状。
它不是线性的。它是一个网络。一个活的、不断生长的网络。
周启明确实创造了月相。但月相做的事情——教人理解和利用评分系统的规则——这种知识不需要月相也可以传播。只要有评分系统存在,就会有人试图理解它、破解它、利用它。
周启明只是第一个系统化地做到这一点的人。
在他之后,会有更多的人。不是因为周启明教了他们,而是因为这种知识的需求是真实的——任何一个被信用评分系统影响的人,都有动机去理解这个系统。
而理解系统的人越多,系统的行为就越不可预测。
因为每个”理解了系统”的人都会做出”优化”的行为——调整自己的消费、支付、社交行为来获取更高的评分。这些”优化”行为会产生大量的”虚假”数据——它们反映的不是用户的真实经济状况,而是用户对评分模型的理解程度。
当这种”优化”行为足够普遍时,评分模型就会失效。
因为它训练所用的数据已经不再反映真实的世界。
陈默坐在黑暗的房间里,看着手机屏幕上那条消息。
她忽然理解了孙浩然说的那句话——“它自己长出来的”。
不是月相自己长出来的。是一种更基本的东西:人类对算法的适应性行为。就像细菌对抗生素会产生耐药性一样,人类对算法也会产生”算药性”。
当你的生活被算法决定时,你会本能地学会算法的语言。
然后你会用这种语言来保护自己。
这不是阴谋。这是进化。
十三、二月
二月的波士顿很冷。
陈默穿着一件深灰色的羽绒服,站在MIT媒体实验室的报告厅里,面对着大约两百个听众。
她的报告安排在下午的第三个session。在她之前,有两组学者分别报告了关于”算法推荐系统中的信息茧房效应”和”自动驾驶中的伦理决策模型”的研究。
轮到她的时候,她深吸了一口气,走上了讲台。
投影屏幕上出现了论文的标题。她开始讲。
她从三月七号的那个尖刺讲起——那个让她注意到异常的、不该存在的波动。然后是四月的第二个尖刺,五月的第三个。她展示了月相小程序的截图,讲解了它的行为指导机制。她用数据图表说明了这些指导如何精确地触发了评分模型中的正向信号。
她讲了四十分钟。
提问环节,一个头发花白的老教授举了手。
“陈女士,你的论文描述了一个非常有趣的案例。但我有一个问题:你认为这个案例的核心问题是什么?是有人在操纵算法?还是算法本身在操纵人?”
陈默看着那个教授。他的问题很尖锐,但目光是善意的——那种真正想要听你的回答的目光。
“两者都不是,“她说,“或者说,两者同时存在。但核心问题比这更深。核心问题是:当一种权力——我指的是决定资源分配的权力——被一个不透明的算法系统所掌握时,围绕这个系统,会自发生长出一个生态。这个生态里有人试图操纵系统,有人试图利用系统,有人试图逃避系统,有人甚至试图成为系统的一部分。而这些行为本身又会改变系统的输入数据,使系统产生新的偏差,进而催生新的适应性行为。”
“这是一个反馈循环。不是任何一个人设计的循环,而是系统与人类之间的共同演化。”
“那你觉得应该怎么办?“教授追问。
陈默沉默了几秒钟。
“我不知道,“她说,“但我觉得第一步是让所有人知道这件事。让每个人知道,他们头顶的那片天空——那片用数据织成的天空——不是天然的。它是被制造出来的。它有设计者,有规则,有缺陷。只有当人们意识到天空是人造的,他们才会开始问:我们能不能换一片天空?”
报告结束后,有十几个人走上来跟她交换了名片。有几个大学的教授邀请她去做讲座,有一个科技媒体的人想采访她,还有一个来自某个国际组织的人问她愿不愿意参与一个关于”算法治理”的咨询项目。
陈默礼貌地收下了所有的名片。
走出报告厅的时候,波士顿正在下雪。不是北京那种干燥的小雪,而是新英格兰特有的湿雪——大片大片的雪花在空中打转,落在地上就融化成水,然后在冷空气中重新结成薄冰。
她站在媒体实验室的门口,仰头看着天空。
天空是灰白色的。看不到云,看不到太阳。只有一种均匀的、平坦的灰白。
她忽然想起了一个她小时候喜欢的说法:雪是天空写给大地的信。
如果真是这样的话,那现在这片天空写了一封很长很长的信。信的内容是一片一片落下来的、冰冷的、转瞬即逝的白色。
就像数据一样。
每天都有二十七个PB的数据落在两亿三千万人头上。大部分数据会融化、消失,被人们遗忘。但有一些会结成冰,留在系统的底层,影响着你下个月能不能借到钱、能不能租到房子、能不能被人看见。
陈默站在雪里,深深地吸了一口冰冷的空气。
然后她把羽绒服的帽子拉起来,走进了波士顿的冬天。
十四、三月
回国之后,陈默递交了辞职信。
孙浩然在她的离职面谈上没有说什么。他只是在她的辞职信上签了名,然后说了一句:“论文写得不错。”
陈默没有问他怎么知道论文的内容。也许他看了。也许他一直都在看。
办完离职手续的那天下午,陈默最后一次从衡镜科技的办公楼走出来。
三月七号。
她站在写字楼下面的广场上,抬头看着那栋三十八层的玻璃幕墙建筑。阳光照在玻璃上,反射出刺眼的光。她眯起眼睛,想起了一年前的今天——她坐在里面,端着一杯凉透的美式咖啡,在屏幕上看到了那个不该存在的尖刺。
一年了。
她从那个尖刺开始,一路走到了这里。从一个数据分析师变成了一个吹哨人。从一个在系统内部工作的人变成了一个站在系统外部审视系统的人。
她不确定自己做了正确的事情。论文发表了,但她不知道它会不会改变任何东西。衡镜科技还在运行,评分系统还在计算,两亿三千万人的数字天空还在头顶。
但她确定了一件事:她不想继续活在别人的设计里了。
不管是周启明的设计、孙浩然的设计,还是那个没有设计者的、自发生长的生态系统的设计。她不想再当一颗棋子——不管是白的还是黑的。
她想自己设计一些东西。
也许是一个更好的评分系统。也许是一种让人们理解算法的工具。也许只是一个故事——一个关于数字天空下的人类生活的故事。
陈默把背包甩到肩上,转身走向地铁站。
三月的北京还是冷的。但风里已经有了春天的味道——一种湿润的、隐约带着泥土气息的味道,像是什么东西正在地底下苏醒。
她走过一个卖煎饼的小摊。摊主是一个五十多岁的男人,穿着一件褪了色的军大衣,正在熟练地摊着面糊。他的摊子上贴着两张二维码——一个微信支付,一个支付宝。
陈默停下来,买了一个煎饼。
她扫了微信支付的二维码。手机屏幕上跳出支付成功的界面。
在那个界面的角落里,有一行她以前从未注意过的小字:
“本次消费已纳入您的信用行为记录。”
陈默看着那行字,咬了一口煎饼。
煎饼很热,很香。鸡蛋摊得刚刚好,薄脆还是脆的,酱料的咸甜比例完美。
她慢慢地嚼着,慢慢地走在三月的街头。
头顶的数字天空还在运行。
但至少现在,她知道它在那里了。
尾声
六月,陈默加入了一个非营利研究机构——“算法透明实验室”。
这个实验室只有七个人,办公地点在北京五环外一个居民小区的底商里,夹在一家洗衣店和一家包子铺之间。租金很便宜。
她的工作是开发一个开源的”算法审计工具包”——一套让普通人也能检测和评估算法系统偏见的技术工具。
工资是她在衡镜科技时的三分之一。
但她从来没有觉得自己的时间花得比现在更值。
实验室的窗外是一排杨树。六月的时候,杨树的叶子已经完全展开了,在风里哗哗作响。阳光穿过树叶的间隙,在办公桌上投下斑驳的光影。
陈默有时候会抬起头来看看那些光影。
它们在白天移动,从桌子的左边到右边,像一个无声的时钟。每一刻的位置都不同,但每一天的轨迹都在重复。
就像算法一样。日复一日地运行着,记录着、计算着、评判着。但总有人在它的外面,看着它的运行,试图理解它,试图改变它。
陈默低下头,继续写她的代码。
窗外的杨树叶子哗哗响着。像是数字天空下的、一片真实的、有温度的声音。
(全文完)