所有人的额度
一
林月记得她第一次看到那个数字的时候,屏幕右下角的时间是凌晨两点四十七分。
那是一个周三的夜晚。公司最新一版的信用评估模型刚完成灰度测试,风险管理部的办公室里只剩下她一个人。空调低沉地嗡嗡作响,显示器的蓝光把她的脸照得惨白。她揉了揉因为长时间盯着数据而酸涩的眼睛,把新模型跑出来的用户评分分布图放大到全屏。
图形缓缓展开。呈现在她面前的是一条完美的钟形曲线——大多数用户的信用评分集中在600到700分之间,向两侧逐渐稀疏,形成一道优雅的正态分布弧线。完美。太完美了。完美得像教科书上的示例,像一首用数字写成的诗。
她应该为此感到骄傲的。过去六个月,她和团队把模型AUC从0.71提升到了0.79,这意味着模型预测违约的准确率提高了将近十个百分点。公司CEO周浩然在周会上特意点名表扬了风险管理部,说他们是”蓝色钱包的守护者,用数学为平台和用户筑起一道风险的墙”。
但林月笑不出来。
她的目光落在钟形曲线左侧一个不起眼的位置。在那条光滑下降的尾翼上,有一团黑色的、密密麻麻的散点。那些用户——大约三万七千人——的信用评分全部被压在500分以下。他们不是曲线尾端的稀疏噪点,而是形成了一个诡异的独立部落,一个被主流抛弃的隐形族群。
她调出了这群用户的特征画像。
不出所料的是:年龄大于52岁。没有本地社保账户。手机型号老旧。更不出所料的是:月均消费金额低于800元。深夜下单频率异常高——平台认为这是”经济不稳定”的表现。经常在多个平台之间切换比价——平台认为这是”价格敏感型用户,不具备优质客户潜力”。偶尔使用现金支付——平台认为这是”脱离金融体系的高风险行为”。
每一条特征都逻辑自洽。单独拎出来看,每一条都合理得无懈可击。
但林月盯着这团黑色散点,心里涌起一种难以言喻的异样感。就像你在街上遇到一个人,五官分开看都端正,但合在一起就是有一种说不出的不对劲。
她打开了这三万七千人的实际还款数据。
然后她愣住了。
这批被模型判定为”高风险”的用户的实际违约率——
只有4.3%。
远低于平台平均的8.7%。远低于模型预测的23%。
模型错了。错得离谱。错的程度大到荒谬。
林月的手指悬在键盘上方,迟迟没有落下。她想起导师在论文里写过的那句话:“算法最危险的不是它会出错,而是它出错的时候,看起来比任何时候都更正确。”
窗外,城市的灯火稀稀落落。更远的远处,城市副中心的摩天大楼像一排沉默的巨人,玻璃幕墙上映着永不熄灭的霓虹。
二
蓝色钱包是一家P2P网络借贷平台,成立于2016年。那一年被称为中国的”金融科技元年”。
林月至今还记得自己刚入职时的情景。那时候她刚从美国读完统计学硕士回来,在招聘网站上看到蓝色钱包的职位描述,写着”用数据重新定义普惠金融”。她被这句话打动了。在她朴素的想象里,互联网金融是这样一个东西:它让一个在广东工厂流水线上打工的湖南农村青年,能在手机上下一个APP,三分钟之内借到一笔回老家的火车票钱;它让一个在菜市场卖了二十年菜的大妈,不用抵押房产证就能拿到一笔扩大经营的小额贷款。它是光。是电。是普罗米修斯偷来的火种。
入职第一天,HR带她参观公司。走过那个铺着灰色地毯、用懒人沙发和迷你高尔夫球杆装饰的开放式办公区时,HR自豪地说:“我们的目标是把贷款审批从三天缩短到三秒,把金融服务从银行柜台下沉到每一个有手机的人手中。”
林月记得自己当时用力地点了点头,眼睛里大概闪着理想主义的光。
五年过去了。三秒审批早已实现。但林月慢慢发现了一些不对劲的地方。
比如那个深夜下单的”高风险信号”。后来她才搞清楚算法为什么把深夜下单识别为风险因子:数据团队在训练模型时,用的是蓝色钱包上线前三年的历史数据。而蓝色钱包的前三年,用户增长速度是公司的核心KPI。公司疯狂补贴推广,吸引来的大量用户中,有一批是”撸口子”的骗贷者——他们专门在深夜批量注册、批量申请贷款,然后消失。这些人的行为特征被算法捕捉到了,并被固化为”风险因子”。
问题是,这个风险因子从第一天起就是有偏的。那批骗贷者之所以深夜注册,是因为那时候平台推广力度最大、审核最松。而不是因为深夜下单的人本身有什么问题。但算法不懂这个。算法只看到”深夜下单”和”违约”在那一批特定用户身上同时出现,于是就把它们绑定在了一起,像一个不懂得变通的法官,机械地把所有深夜买东西的人都不分青红皂白地判为有罪。
林月后来试图修正这个因子。但模型已经跑在生产环境里了。每天有几万笔贷款申请通过这条流水线,而任何一次模型调整都需要重新跑大量测试,需要数据团队投入数周的时间,需要通过风控委员会的评审,需要考虑对存量资产的影响——
链条太长了。惯性太大了。每一次”微调”都要付出巨大的组织成本。而周浩然在乎的是增长率,是市场份额,是明年能不能在美国上市。
“我们没有时间做完美的事。“有一次开会,周浩然站在投影仪前面这样说。他的PPT上写着蓝色钱包的愿景:服务一亿用户,让金融普惠到每一个角落。“市场不等人。我们要快速迭代,快速试错,快速占领。用户数量先涨起来,规模效应自然会压低成本,降低风险——这是我们金融科技的精髓,懂吗?”
林月坐在下面,没有说话。
但她心里知道,“规模效应”不会自动降低风险。规模只会放大原初的偏差,把错误复制粘贴到一亿人身上,让错误本身变成一种系统性的、结构性的、几乎不可撼动的存在。
三
林月决定深入调查。
她用了一周的时间,零零碎碎地分析那三万七千个”高风险用户”的数据。她没有告诉任何人。
结果越看越触目惊心。
那批用户里,有很大一个比例是五十岁以上的中老年人。他们中的许多人是小商贩、临时工、下岗工人。他们没有五险一金,没有固定雇主,手机里只装了三四个APP——微信、抖音、还有一个算命软件。他们收入不稳定,但不代表他们没有信用。他们借钱的用途往往简单得让人心酸:给孙子交学费,带老伴去看病,给家里买一台空调。
但算法的眼睛里看不到这些。算法只看到他们月均消费800元以下,看到他们手机型号老旧,看到他们深夜下单,看到他们”行为数据不符合优质用户画像”。然后算法用一串冰冷的数字,给他们的余生写下了一个潦草的判决。
林月调出了几个具体用户的贷款申请记录。
有一个63岁的老人,在平台上申请了一笔5000元的贷款。他要借这笔钱,是因为老伴摔断了腿,需要买一副拐杖。他的申请被拒绝了。拒绝理由是”信用评分不足”。四个字。
有一个57岁的菜市场摊主。她在这个菜市场卖了二十三年菜,每一笔交易都是现金,从不使用银行卡或移动支付。算法认为她”脱离金融体系”,是一个”不稳定的、不可观测的高风险用户”。她申请了两万元贷款,想买一辆三轮摩托车,把进货的路线从步行改成骑行——她老了,腿脚开始不灵便了。但她的申请也被拒绝了。
林月看着这些记录,心里有什么东西在一点一点地碎裂。
她想起了自己的父亲。
父亲在她读高中的时候就去世了。那年他刚满五十,也是五十多岁的年纪。他是一个工厂的技术工人,一辈子没有穿过西装,没有用过信用卡,死的时候银行账户里只有三千块钱。如果那时候有蓝色钱包这样的平台,如果父亲曾经尝试在上面申请一笔贷款——
她忽然打了一个寒颤。
她不知道父亲会不会被算法判为”高风险”。她不知道自己会不会有那样一个时刻,面对着屏幕上一页冰冷的拒绝理由,忽然意识到自己的父亲在数据的眼里什么都不是。
窗外,天色微微亮了。林月揉了揉发红的眼睛,站起身来。
她需要找人谈谈。
四
她首先找了算法组的负责人张博士。
张博士是公司的首席风控官,清华计算机系博士毕业,发表过二十多篇顶级会议论文,是业界公认的算法大牛。林月敲开他办公室的门时,他正对着三块显示器研究一串复杂的神经网络架构图。
“林月?坐。“张博士头也不抬,“什么事?”
林月深吸一口气,把她发现的问题说了一遍。
她讲了那个深夜下单的偏差因子。讲了4.3%的实际违约率与23%的预测违约率之间的巨大落差。讲了那三万七千个被冤枉的”高风险用户”。讲了每一个具体的人——63岁的老人,57岁的菜市场摊主。
张博士终于停下了手中的工作。他转过身来,看着林月。
“你说完了?”
“说完了。”
张博士沉默了几秒钟。然后他站起来,走到窗边,背对着林月。
“林月,你知道我们平台目前的逾期率是多少吗?”
“8.7%。”
“对。8.7%。你知道监管机构给我们的红线是多少吗?”
“10%。”
“没错。8.7%,离红线只有1.3个百分点的余量。如果我们把模型调得太松,导致逾期率突破红线,整个平台都会被纳入金融稳定重点关注对象。融资会被冻结,新增业务会被暂停,投资人会撤资。我们一千多号人,全部喝西北风。”
张博士转过身来,表情平静。
“你说的那三万七千人,违约率确实只有4.3%,比平均值低很多。但他们的人均借款金额只有2800元,是我们最低的细分市场。对公司来说,这批用户的经济价值几乎为零——他们借的钱少,利息贡献低,一旦放开申请,风控成本反而会上升。你明白我的意思吗?”
“你是说,这批用户对公司的价值不够高,所以不值得服务?”
“我什么都没说。“张博士摊开手,“我只是在陈述一个商业事实。林月,你在美国读的是统计,你应该比谁都清楚——模型不是慈善工具,模型是商业基础设施。模型存在的目的是为平台创造价值,不是为每一个申请者提供公平的机会。如果公平和商业利益冲突——”
他没有说完这句话。但林月听懂了。
“那如果有人想把这个问题曝光出去呢?“她问。
张博士的表情变了。他的眼神在一瞬间变得锐利而警惕,像一只忽然意识到危险的鸟。
“林月,我劝你不要多想。“他的声音变得低沉,“你知道公司在这个模型上投入了多少资源吗?你知道周总对这个模型寄予了多大的期望吗?下个月公司就要向美国SEC提交上市申请了——这个时间点,任何负面舆情都是不允许的。”
“但这不公平。”
“公平?“张博士笑了。那笑容里有某种东西让林月感到陌生——是疲惫,是麻木,还是一种被现实反复碾压之后磨出的冷硬的外壳,“林月,在这个行业待久了,你就会明白,公平是一个不存在的词。每一个模型都有偏差,每一套系统都有漏洞。问题不是你能不能制造一个完美的系统——问题是你能不能在现有条件下,让系统运转得足够好。”
他指了指那三块显示器。
“这个模型的AUC是0.79。0.79意味着什么?意味着每贷出去一百块钱,我们有79块钱是安全的,有21块钱是亏损的。21%的亏损率,已经是我们能控制的最好水平了。你想让模型变得更公平,代价是这21%会变成25%,甚至30%。到时候公司垮了,所有用户都借不到钱——你以为那样更公平吗?”
林月说不出话。
张博士走过来,拍了拍她的肩膀。他的手很轻,力道却像一块铅。
“回去好好睡一觉。这件事就当没发生过。“
五
林月没有把这件事”当没发生过”。
接下来的两周,她像着了魔一样继续调查。她在公司的数据库里挖掘了更多数据,把那三万七千个”高风险用户”的画像勾勒得越来越清晰。她发现了一个惊人的规律:
这些用户的”高风险”标签,与他们的真实还款能力几乎没有相关性。他们被拒绝的真正原因,是因为他们的”数据画像”不符合模型定义下的”优质用户”——而这个”优质用户”的定义,从一开始就是以城市中产阶级的消费习惯和行为模式为基准的。
换句话说,这套系统天然地偏爱某种人,排斥另一种人。不是因为还款能力,而是因为数据可采集性。一个使用智能手机、绑定银行卡、在电商平台购物的用户,数据丰富,算法喜欢。一个只使用现金、只接打电话、偶尔在街边买菜的老年人,数据贫瘠,算法排斥。
这不是一个风控问题。这是一个社会问题。算法把数字世界的偏见,转化成了现实世界的金融排斥。
林月感到一种深深的无力。她发现自己在面对的不只是一套有缺陷的算法,而是一整套系统性的不平等——这种不平等被代码固化,被数据喂养,被商业逻辑保护,任何个人的力量都难以撼动分毫。
她开始失眠。
每天晚上躺下,她脑子里就开始自动跑数据:4.3%的违约率,23%的预测违约率,37000个被冤枉的用户,57岁的菜市场摊主,63岁需要买拐杖的老人——这些数字像一群嗡嗡叫的蚊子,在她的意识边缘盘旋不去。
她开始做奇怪的梦。梦见自己站在一个巨大的机房中央,四周全是服务器,风扇嗡嗡作响,像一群沉睡的巨兽的心跳。她梦见那些服务器上连接的不是网线,而是血管——无数根血管从这个巨大的机器上延伸出去,连接着城市里每一个人的手腕。有的人的血管里流着红色的血,那是”优质用户”;有的人的血管里流着黑色的粘稠的液体,那是”高风险用户”。她梦见那台机器在呼吸,在吞咽,在用一种古老的、不可名状的方式,把人们的生活一点一点地吸进去——
然后她醒了。
凌晨四点。窗外还是黑的。
六
转机来自一个意想不到的方向。
第四周的周一,林月接到通知:她被调离风险管理部,即日起前往客户服务中心报到。
调令是周浩然亲自签发的。理由写得很模糊:工作需要。
林月知道真正的原因。张博士告密了。或者HR从她的数据库访问日志里发现了异常。总之,她被清理了。
客户服务中心在写字楼的负一层。没有窗户。永远亮着惨白的日光灯。二十几个客服坐成一排一排,像一列列沉默的蚂蚁,对着电脑屏幕处理来自全国各地的投诉电话。
林月的工位被安排在最角落。她的工作很简单:接听被拒用户的投诉电话,重复同样的标准化话术,把他们的诉求录入系统,等待漫长的”排队处理”。
第一天上班,她接了四十七个电话。
第一个电话来自一个中年男人。他的声音疲惫而沙哑,说自己是一个小饭店的老板,借钱是为了交房租。他被拒绝了,不理解为什么。“我开了十二年饭店,从来没欠过任何人一分钱,我连花呗都没逾期过——你们凭什么说我信用不够?”
林月翻遍了系统,找不到任何具体原因。系统里只有一个冰冷的数字:信用评分485分,拒绝。她对着话术本念了一遍:“尊敬的客户,您的申请经过综合评估,暂未达到我们的授信标准,建议您后续保持良好的信用记录——”
“我信用记录很好!“男人的声音忽然提高了,“我每个月工资都按时打给我老婆,我从来没欠过任何人的钱,你们这个破系统是不是有毛病?”
林月不知道该怎么回答。她想起张博士的话:“模型不是慈善工具。“她想起那个57岁的菜市场摊主,想起63岁要买拐杖的老人,想起她自己的父亲——如果父亲还活着,如果父亲也打了这个电话,接电话的会不会也是另一个被调离的分析师,被困在这个没有窗户的地下室里,对着一个冰冷的系统念着标准化的废话?
她的手指悬在”挂断”键上方,忽然很想哭。
第二个电话是一个老太太打来的。她的普通话说得很费劲,断断续续,中间夹杂着方言。林月费了好大劲才听清楚:老太太七十一岁了。她想借3000块钱,给孙女买一台网课用的平板电脑。学校停课,孩子要在家上网课,但没有设备。老太太说她这辈子从来没跟银行借过钱,不懂什么”信用评分”,只知道”这个软件说我的信用不够”。
林月的手指在键盘上停住了。她忽然意识到,这个系统最终伤害的不仅仅是”经济价值不足”的人——它伤害的是那些最脆弱的、最边缘的、最没有能力在数字世界里为自己辩护的人。
她用了一个小时,耐心地听老太太讲完她的故事。她告诉老太太,平台暂时无法批准她的申请,但她可以尝试去当地的农村信用社,或者联系社区居委会申请助学金。
挂断电话的时候,她的手在发抖。
那天下班后,她在公司楼下的便利店买了两瓶啤酒,坐在台阶上喝完了。春天的风还是很冷,吹得她的脸有点僵。她看着马路对面写字楼的玻璃幕墙,幕墙上映着便利店的灯光,灯光又映着她的影子——一个坐在台阶上、拿着空酒瓶、看起来有点狼狈的年轻女人。
她忽然想:也许张博士是对的。在这个行业待久了,你就会明白,公平是一个不存在的词。
但她不想明白。
七
被调岗的第五周,一个叫赵波的记者联系了她。
赵波是一家市场化媒体的调查记者,一直在关注互联网金融行业的问题。他从一些”不方便透露姓名”的公司内部人士那里听说了林月的遭遇,想要约她见面聊聊。
他们约在一家偏僻的咖啡馆。赵波三十出头,戴着黑框眼镜,说话很快,眼神里有一种记者特有的锐利。
“林月,我听说你发现了一套贷款审批算法存在系统性偏见?”
“你从哪里听说的?”
“这个不重要。“赵波摆摆手,“重要的是,这件事是不是真的?”
林月沉默了很久。她想起张博士的警告,想起周浩然签发的调令,想起客户服务中心负一层那个没有窗户的地下室。她知道如果把这件事捅出去,她可能会丢掉工作,可能面临法律风险,可能被整个行业排斥——
但她也想起了那些电话。疲惫的中年男人,七十一岁的老太太,57岁的菜市场摊主,63岁要买拐杖的老人。他们每一个人的声音都像一根针,扎在她的记忆里,拔不出来。
“是真的。“她说。
接下来的两个小时,她把所有的数据、所有的分析、所有她发现的问题,一五一十地告诉了赵波。赵波听得很认真,不时在本子上记着什么。
“这个故事如果发出去,会引起轩然大波的。“赵波合上笔记本,“你知道这意味着什么吗?”
“我知道。”
“你可能会被起诉。蓝色钱包完全可以告你泄露商业机密。”
“我知道。”
“你可能在整个行业都找不到工作。周浩然在这个圈子里人脉很广——”
“我知道。“林月打断了他,“但我还是想做这件事。”
赵波看着她,眼神里多了一些东西。不是同情,是某种更深的认可。
“为什么?“他问,“你冒这么大的风险,就为了给那些你不认识的人讨一个公道?”
林月想了想。
“我父亲去世的时候,我什么都没能做。“她慢慢地说,“那时候我还小,不懂这个世界的规则。但我一直记得那种感觉——那种眼睁睁看着一个人被某种看不见的力量拖走,而你什么都做不了的感觉。”
她看着咖啡馆外面的街道。街灯亮了,是那种老旧的钠灯,发着昏黄的光。
“这套算法正在对很多人做同样的事。它用一串数字,定义了一个人的’信用’,然后用这个定义决定他们能不能借到钱。它看起来很客观、很科学、很公平——但它不是。它只是把现实世界的不平等,用一种更高效的方式复制了一遍。”
她转回头,看着赵波。
“我不能假装没看见。“
八
报道发出的那天晚上,林月失眠了。
赵波的稿子很长,将近三万字,标题叫《数字鸿沟:一家P2P平台的信用评分如何系统性排斥边缘群体》。文章详细披露了蓝色钱包算法中的偏差因子,以及那些被”误伤”的用户的真实故事。
文章在午夜时分上线。凌晨两点开始发酵。早上九点,#蓝色钱包算法歧视#冲上了微博热搜第一。下午三点,中国银行保险监督管理委员会的官网挂出了一份措辞严厉的调查函。傍晚六点,蓝色钱包宣布暂停所有新增贷款业务,配合监管调查。
晚上九点,林月接到HR的电话。
“林月,你明天不用来上班了。”
“我知道。“她说。
“公司保留追究你法律责任的权利。”
“我知道。”
她挂断电话,走到窗边。
城市的夜景在脚下铺开,像一片闪烁的星海。那些灯火,有多少是”优质用户”点的,有多少是”高风险用户”点的?那些在深夜亮着的窗户背后,有多少人正在为明天的贷款申请发愁,有多少人的命运被一串串看不见的数字悄然决定?
她不知道。但她知道,从今晚开始,有些事情不一样了。
文章发出后的第三天,一个陌生的号码打到了她的手机上。
“是林月吗?“电话那头是一个陌生的声音,有些苍老,有些疲惫,“我是那个菜市场卖菜的老婆子。就是……你调查的那个事里面……有我。”
林月愣住了。“阿姨,您怎么找到我的电话的?”
“赵波记者给我的。“老太太说,“林老师,我想跟你说一声谢谢。我那笔贷款——后来批下来了。不是蓝色钱包批的,是社区帮我申请的助学金。但是——”
老太太的声音哽咽了。
“但是我听说了你的事。他们说你要被起诉了,工作也没了。我一个老婆子,不懂什么算法、什么公平不公平——但我知道,你是个好人。好人不应该受这个委屈。”
林月的眼眶也湿了。
“阿姨,没关系的。”
“怎么会没关系呢?“老太太说,“我活了五十七年,从来没遇到过像你这样的人。我以前觉得,这些搞电脑的、搞数据的,都是高高在上的人,不会管我们这些小老百姓死活。但是你——”
老太太说不下去了。
林月握着电话,站在窗边,泪流满面。
她想起张博士说的话:“在这个行业待久了,你就会明白,公平是一个不存在的词。”
也许张博士是对的。公平也许确实是一个不存在的词。但它不是一个可以实现的状态——它是一个值得追求的方向。就像光——你永远到达不了光的终点,但你可以朝着光的方向走。
至少,你在走。
九
后来的事情,像一场漫长的雨。
调查进行了八个月。蓝色钱包被罚没违法所得4.2亿元,周浩然引咎辞职,公司进行了一轮大规模的业务整改。监管部门出台了《网络借贷信息中介机构信用评估指引》,第一次对互联网贷款平台的算法透明度提出了明确要求。
张博士离开了蓝色钱包,去了一家国有的征信机构。据说他在那里主导了一个新项目,专门研究如何让算法”看见”那些被传统征信体系遗漏的人。
林月没有找到新工作。在赵波报道发出后的很长一段时间里,没有一家金融科技公司愿意雇用她——她在圈子里已经被贴上了”不稳定因素”的标签。她投出去的简历像飘进大海的纸船,一封回音都没有。
她搬了一次家。从市中心的高层公寓搬到了城中村的一个单间。房间很小,只有一张床、一张桌子、一台笔记本电脑。但窗外有一棵老槐树,春天的时候会开满白色的花,香气会飘进屋子里。
有一天晚上,她坐在窗边,打开了笔记本电脑。她开始写作。不是论文,不是报告,是一些更松散的、更自由的文字——关于算法、关于公平、关于那些她认识的人和她听过的故事。
她不知道这些东西最终会变成什么。也许是一本书,也许只是一堆废纸。但她想写下来。写下来是一种抵抗。抵抗遗忘,抵抗沉默,抵抗那些试图用数字抹平一切的力量。
赵波后来又来找过她一次。
“有家出版社想把这些故事结集出书,“他说,“你愿意吗?”
林月想了想。“可以。但版税我不要了。全部捐给一个帮助老年人跨越数字鸿沟的公益组织。”
“你自己生活都成问题——”
“没关系。“林月笑了笑,“我还可以写代码。接一些自由职业的项目,饿不死。”
赵波看着她,没再说什么。
他们并肩走在街上。春天的阳光从头顶的树叶缝隙里洒下来,在地上投下斑驳的光影。路边有人在卖糖葫芦,红彤彤的山楂串在阳光下泛着亮光。
“林月,“赵波忽然问,“你有没有后悔过?”
林月想了想。
“有时候会。“她说,“特别是没钱交房租的时候,特别是生病了不敢去医院的时候,特别是投了几十份简历都石沉大海的时候——有时候会想,如果当初什么都没做,现在会不会过得更好一点。”
“然后呢?”
“然后?“林月笑了,“然后我会想起那些电话。那些在负一楼接到的、永远不会被公司真正处理的用户电话。每一个电话里都藏着一个人的一生。”
她停下脚步,看着街角一个正在用手机扫码支付的老太太。老太太大概七十多岁了,动作很慢,手机屏幕上的字大概看不清,扫码扫了好几次才成功。
“你知道我后来想明白了一件事吗?“林月说。
“什么?”
“那个算法最可怕的地方,不在于它拒绝了多少人——而在于,被拒绝的人会开始怀疑自己。会觉得是自己的问题,是自己不够努力、不够聪明、不够’优质’。他们不知道真正的原因是被一套远在服务器里的代码定义了’风险’。他们会觉得,这个时代抛弃了他们,是他们自己的错。”
林月看着那个老太太终于扫码成功,舒了一口气,颤颤巍巍地提起菜篮子走远了。
“我想让更多人知道,“她说,“有些失败不是你的失败。有些被拒绝不是因为你不够好。有一种叫作’系统性偏见’的东西,它藏在代码里,藏在算法里,藏在那些看起来客观中立的数据背后——而你,根本没有机会和它对质。”
“所以你写下来。”
“所以我写下来。”
他们继续往前走。阳光把他们的影子拉得很长。
十
故事讲到这里,应该有一个结局了。
但生活没有结局。生活是一个省略号,是一条永远向前延伸的路,你永远不知道下一个转弯会遇到什么。
林月的书后来真的出版了。书名叫《所有人的额度》,首印八千册,一个月内加印了三次。赵波给她写了序,序的标题叫《一个不应该孤独的声音》。
她收到了很多读者来信。大部分是陌生人——有的是被算法误伤过的用户,有的是金融行业的从业者,有的是学者和学生,有的是媒体同行。他们在信里讲述自己的遭遇,讲述对这个行业的观察,讲述愤怒、困惑、或者微弱的希望。
有一封信让林月印象很深。写信的人是一个四十多岁的程序员,在信里他说:“我做了十五年软件开发,一直相信代码是中立的、客观的、不会说谎的。但读了这本书之后,我开始重新思考我的工作。我写的每一行代码,都在定义着某种’正常’,某种’正确’——而那些被我定义为’异常’的人和事,他们有发声的机会吗?”
林月给他回了一封信,只写了一句话:“从今天开始想,也许还不算太晚。”
还有一封信来自一个公益组织。组织名叫”数字公平”,成员大都是曾经的金融科技从业者——有被裁员的,有主动离职的,有像林月一样因为”不稳定”而被行业排斥的。他们成立了一个法律援助项目,帮助那些被算法误伤的人维权。
他们邀请林月加入。
林月想了很久。她现在的生活并不宽裕。做自由职业的项目收入不稳定,出版版税捐掉了,存款在一点点减少。下个月的房租还没有着落。加入公益组织,意味着更少的收入,更大的不确定性。
但她也想起了那通深夜的电话。七十一岁的老太太,在电话那头哽咽着说:“林老师,我想跟你说一声谢谢。”
她回了那封邮件。只有一个字:
“好。”
三年后。
初秋的傍晚,林月站在一栋写字楼的门口。她刚参加完一个行业论坛,论坛的主题是”金融科技的伦理边界”。她做了一个演讲,讲她这三年的思考,讲算法偏见的机制,讲她观察到的改变和依然存在的困境。
演讲结束之后,有一个年轻人找到她。
“林老师,我是刚入行的风控工程师。“年轻人说,眼睛里有一种急切的光,“我读了很多您写的文章。我有一个问题想问您。”
“你说。”
“如果——我是说如果——我们真的设计出了一套算法,它比现在的任何算法都更公平、更准确、更能’看见’那些被遗漏的人——您觉得,这样就能解决所有问题了吗?”
林月看着这个年轻人。他大概二十五六岁,和她当年加入蓝色钱包时差不多的年纪。眼睛里还有光,还有对这个行业的期待和理想。
她想了想。
“不能。“她说,“算法永远不能解决所有问题。”
“那我们为什么还要做?”
“因为,“林月说,“算法不是一个终点——它是一个起点。”
她指了指远处的天空。天边的云被夕阳染成了橘红色,像一团正在燃烧的火焰。
“好的算法,可以让更多人被看见。可以看到那些以前被忽略的人,可以让那些沉默的声音被听见。但是——“她转过头,看着年轻人的眼睛,“——最终改变世界的,不是算法。算法只是工具。真正改变世界的,是那些决定算法应该如何运行的人。”
“那我们怎么保证,那些人会做出正确的选择?”
林月笑了。
“没有人能保证。“她说,“但有一件事是可以做到的。”
“什么?”
“让更多像你这样的人,去问这个问题。”
她拍了拍年轻人的肩膀,转身走向停车场。
夕阳把她的影子拉得很长。身后,办公楼的玻璃幕墙反射着最后的余晖,像一面巨大的银幕,上面正在播放着这个时代最喧嚣的戏剧——关于数据、关于算法、关于金钱、关于人的价值。
林月没有回头。
她知道,这场戏剧还远远没有结束。也许永远不会结束。只要还有利益,只要有数据,只要有代码,就永远会有偏见、有不公、有那些被数字定义、被算法审判的普通人。
但她也相信,只要还有人在问”为什么”,只要还有人在质疑、在调查、在发出声音——改变就在发生。也许很慢,也许很微弱,但确实在发生。
就像深夜里的一盏灯。
也许照不亮整个世界。但可以照亮一小片黑暗。让走过那片黑暗的人,知道自己不是独自一人。
这就够了。
林月走向停车场尽头,那里停着一辆共享单车。她扫了码,骑上车,汇入了傍晚的车流之中。
城市的灯火在她身后一盏一盏亮起来。
她没有目的地。她只是在骑。
朝着光的方向。
(全文完)