评分
评分
陈桂英五十八岁这年,算法开始拒绝贷款申请。
她在这间银行工作了三十一年。起初是柜员,后来做信贷员,再后来,她成了镇上唯一能叫出每个农户名字的人。哪家今年多种了两亩半的土豆,哪家娶了儿媳要翻修房子,哪家的羊下崽了——她都记得。贷款不是数字,贷款是人情,是土地,是一家人怎么从冬天撑到下一个秋天的账本。
但算法不认这些。
二〇二四年秋,镇上来了三个穿深蓝色冲锋衣的年轻人。他们在银行后院支起行军桌,接入一根光纤,拉出一块白板,在上面画了一些谁也看不懂的拓扑图。支行行长老周全程陪着,笑得像庙里的泥菩萨。陈桂英在旁边倒茶,听见一个年轻人说:“风控模型迭代到第七版了,跨省数据可以直连。”
当天晚上,老周把她叫到办公室,递过来一份打印稿。上面写着”智能信贷系统上线方案”。他搓着手说:“桂英啊,这是总行的任务,不是我的意思。你配合一下。”
她配合了。她教三个年轻人翻完了三年的贷款档案,教他们辨认那些潦草的农户手写申请,教他们哪几户虽然逾期过但年底一定还清——因为她了解他们,了解他们的土地和牛、他们的儿子和媳、他们还债的执拗与自尊。
三个月后,系统上线。
第一个月,算法批准了一百零三笔贷款,驳回了四十七笔。第二个月,批准八十九笔,驳回六十一笔。第三个月,数字开始倒置——驳回的比批准的多。老周说这是模型在学习,在优化。
陈桂英不说话了。
被驳回的农户会来找她。他们不相信算法,他们只相信陈桂英。他们拿着手机,把那条冰冷的拒绝通知给她看,问她为什么——为什么张三能批、李四能批,到他们这里就不行?她的儿子要娶媳,就差三万块钱买家具,为什么系统说”综合评分不足”?
她答不上来。
她试着在后台看那些评分因子。婚姻状况、征信记录、社交关系图谱、手机使用时段、步行轨迹熵值、短视频偏好标签……几十个维度,有的她能理解,有的她完全看不懂。但她发现了一些奇怪的规律。
比如王德福。五十三岁,种了二十亩玉米,征信干净,无不良嗜好。算法给他打了七十二分,批准。
比如李来喜。四十九岁,同样的玉米,同样的地。算法打了三十八分,驳回。
她把两份档案并排放在桌上,看了三天。她找不出任何经济上的理由。李来喜的地还更好一些,紧邻机井,浇水不用等。他的儿子在外打工,每年往家里寄两万。论还贷能力,李来喜绝不比王德福差。
但算法不这么认为。
第四天,她去李来喜家吃饭。他老婆做的手擀面,她吃了两碗。席间李来喜说了一句:“陈姐,我听说系统不给贷款,是因为我妈的坟地风水不好。村里都这么传。”
她愣了一下。“你听谁说的?”
“系统内部的人,总行派来的那个技术员,他喝醉了跟村长说的。”
她放下碗。回到银行,她敲开了技术员小钱的门。小钱是三个年轻人里唯一一个留下来的,另外两个拿了上线奖金去了省城。小钱瘦,戴厚眼镜,说话时眼睛不敢看人。
“评分模型里……有没有什么非信贷因子?“她直接问。
小钱的眼睛在镜片后面闪了一下。“陈姨,您问这个干什么?”
“我想知道李来喜为什么被拒。”
沉默。然后小钱压低了声音:“我跟您说,您别往外传。“他凑近了一些,“模型里有一个模块,叫’生命周期评估’。不是我们开发的,是总行采购的第三方数据服务。”
“生命周期评估?”
“就是……预测人在未来三到五年的存活概率。”
陈桂英以为自己听错了。“什么?”
“健康数据、就医记录、体检异常项、家族病史、手机运动传感器里的步态分析……很多东西。模型会给每个人打一个’剩余寿命预期值’,然后折算成风险系数。贷款期限如果超过剩余预期,系统就自动降权甚至拒绝。”
她感到一阵寒意从后背爬上来。“你们用什么数据?”
“医疗大数据平台,还有——“他犹豫了一下,“还有那个。”
“哪个?”
小钱指了指天花板,又指了指自己的手机。“您用智能手机吧?健康App那个。计步、心率、睡眠监测。算法会采集的。”
陈桂英站在那里,一动不动。她想起李来喜。李来喜三年前中风过一次,治好了,但有轻微的后遗症。他的步态变了,左腿拖一点点地。这个细节,健康App的传感器能捕捉到吗?
“李来喜的寿命评估……是多少?“她问。
“我帮您查一下。“小钱在电脑上调出一个后台界面,输入名字。“陈姨,您确定要看吗?”
“查。”
屏幕上跳出一行字:
李来喜 剩余寿命评估:4.2年 置信度:89% 建议贷款上限:0元
她觉得自己的血压在升高。
那天晚上她没有回家。她坐在银行办公室里,把过去半年所有被拒绝的申请档案调出来,一个一个地在后台查寿命评估。
张秀兰,61岁,剩余寿命3.8年,拒绝。 赵铁柱,55岁,剩余寿命5.1年,批准,但额度砍半。 刘寡妇,47岁,剩余寿命22年,批准。
她发现了一条红线:剩余寿命必须超过贷款期限加两年,系统才视为低风险。如果剩余寿命是4.2年,那么超过两年期的贷款一律自动降权。
算法在计算死亡。
它不知道李来喜还能活多久。它猜。它用步态、用就医记录、用心率变异性去猜一个人的死期。然后用这个猜测来决定——借不借钱给你。
陈桂英把档案摔在桌上。
她想起李来喜老婆做的手擀面。那么劲道,那么咸,是专门放了盐让她有力气干活的人家。她想起李来喜说”陈姐,我妈的坟地风水不好”时那种认命的苦笑。他以为是风水的问题。他以为是命运的安排。他不知道那是一个算法在替他算命。
而那个算法,错了。
李来喜中风之后戒了酒,每天早上五点起床绕着村子走三圈。他的血压在吃药后控制得很好。他老婆天天给他熬芹菜汁。他会比那个系统预测的活得更久。
但系统不知道这些。系统只知道数据。
第二天,她去找老周。
老周正在打电话,表情为难。“是,是,我知道了……我们配合,我们肯定配合。“挂了电话,他苦笑着看陈桂英。“总行又在催渗透率了。线上审批要达到95%以上,线下干预窗口要关掉。”
“老周,这个系统——”
“我知道你想说什么。“他摆了摆手,“我也知道那个’寿命评估’是怎么回事。总行有人跟我打过招呼,让我别多嘴。”
“那不是人话。那是算法在——”
“在干什么?桂英,它在帮我们降低不良率。“老周站起来,走到窗边,“你知道去年全省多少农商行的不良率爆表吗?多少行长被撤职吗?那些农户还不上贷,死掉了,跑了,我们的烂账谁来填?”
“所以你们用一个算法来决定谁该死、谁该活?”
老周转过身,表情复杂。“它不是来决定谁死谁活的。它只是——在规避风险。”
“规避风险?“她声音大了起来,“李来喜还有四年可活——算法说的——四年之后他还活着,这笔贷款他还不上吗?他种了二十亩地,他儿子在外打工,他还得起。可你们不贷给他,他就翻不了身,翻不了身他就还不上,还不上你们就说——看,不良率。”
“桂英!”
她深吸一口气。“老周,我在这个行当干了三十一年。我见过有人还不上贷喝农药,见过有人跑路,见过家庭破碎。但我从没见过有人是因为一个算法说他活不长而还不上钱的。”
老周沉默了很久。
“你想怎么办?”
“我要去找总行。”
“你找总行什么用?这是总行的决策,是董事会的决策。你一个基层信贷员——”
“那我就去找媒体。”
老周脸色变了。“你疯了。”
她没有去找媒体。
因为当天晚上,李来喜死了。
心肌梗死。倒在去村诊所的路上。手里还攥着那张被拒绝的贷款申请打印件。
陈桂英听到消息的时候,正在吃晚饭。她放下筷子,坐在那里,一动不动。她女儿问她怎么了,她没有回答。
四年。算法说四年。实际十个月。
算法错了。算法错了。算法错了。
她没有感到任何安慰。她只感到一种巨大的荒谬:一个机器用错误的数据预测了一个人的死期,然后因为这个错误的预测,拒绝了他用劳动改变命运的机会,然后那个人——仿佛被那个预测本身召唤——真的死了。
他不是死于算法。他死于相信了算法。
那天晚上,陈桂英做了一个梦。梦里她站在一块巨大的白板前,算法在白板上写字,每一个名字旁边都有一个数字。那些数字在跳动,有的往上走,有的往下走。她看见李来喜的数字在疯狂闪烁,从4.2变成3.8,变成2.1,变成0.9,变成一个红色的感叹号。然后白板裂开,从裂缝里伸出一只手——那只手在写贷款合同。
她醒了。
李来喜的葬礼上,全村人都来了。
算法没有来。但算法的影响无处不在。
葬礼第二天,陈桂英回到银行,登录系统后台。她把李来喜的档案状态从”拒绝”改成了”异常结清”。她知道这没有意义,但她还是改了。
然后她打开了一份新文件。
那是她花了三个晚上写的一份报告,关于”生命周期评估”模块的伦理问题和使用风险的内部建议书。她把它打印出来,在左上角用铅笔写了四个字:
“人在做。”
她把报告放进文件袋,封好,写上总行风险管理部的地址。她准备用自己的名字寄出去,用平信,不署名——如果匿名没人理,那就署名。她已经想好了,如果总行不回应,她就打印一百份,寄给省里的每一个媒体。
她把文件袋揣进包里,锁好办公室的门。
走廊里,她遇见小钱。小钱看了她一眼,欲言又止。她问他:“你知道李来喜的事吗?”
小钱点点头,声音很轻:“我查过了。模型……确实有问题。训练数据有偏。西部农村的数据量不够,所以——”
“所以它用东部城市的数据训练出了一个不认识农民的算法。然后那个算法来给农民算命。”
小钱没有反驳。他只是说:“陈姨,我上个月提了离职。下周走。”
“为什么?”
“我不知道我在做什么。“他说完这句话,就低下头走了。
陈桂英站在走廊里,看着小钱瘦削的背影消失在拐角。她突然意识到,这个年轻人也许从来不知道那个”寿命评估”模块的存在——他只知道模型的架构,但不知道架构里藏着什么。就像一个盖房子的人,他知道砖怎么砌、水泥怎么拌,但他不知道地基下面埋着什么东西。
算法是地基。数据是地基下面埋的东西。没有人愿意挖开看看。因为挖开了,这个房子就得重建。
她没有寄出那封信。
因为在葬礼后的第三天,总行来电话了。
电话里是一个女人的声音,冷静、职业、措辞精确。她说她是总行风险管理部的,要派一个工作组下来调查”近期部分信贷审批异常情况”。问她能不能配合。
“什么样的异常?”
“部分申请人的贷款期限与系统评估的生存周期存在统计偏差。”
陈桂英攥紧了电话。“你们知道多久了?”
“我们……一直在监控。”
“那为什么不停?”
电话那头沉默了三秒。然后女人说了一句话,陈桂英记了一辈子:
“因为用它比不用它,不良率确实降了。”
她挂了电话。
那天晚上,她坐在家里的火炉边,把那份报告烧了。不是因为她放弃了,而是因为她突然明白了一件事:
写报告是没用的。总行知道。总行一直都知道。总行在权衡。在计算。用算法降低不良率和用算法给农民算命之间,总行已经做出了选择。
那个选择不是”坏的选择”。那是”最优的选择”。在一个系统里,在数据、效率、利润、风险构成的系统里,“人”是最不重要的变量。
她想起她年轻的时候,老信贷员教她的第一课:看人,不看纸。看他的地,看他的牛,看他的手,看他的眼睛。那双手上有茧子吗?那双眼睛里有光吗?那个人说过的话算数吗?
算法不会看这些。算法只会看数据。而数据是过去的影子,不是未来的面孔。
火炉里的火跳动着,把报告的边角烧成灰烬。她想起李来喜倒下去的样子——手里攥着那张拒绝通知。那张纸最后也烧了,和所有不该存在的东西一起,化成一缕烟,飘进冬天的天空。
一个月后,工作组来了。
他们带了新的服务器、新的接口文档和一份新的”模型优化方案”。他们在镇上的招待所住了五天,开了一场有县里领导参加的座谈会,会上展示了一套漂亮的Dashboard,曲线向下,数字向好,皆大欢喜。
他们没有见陈桂英。
但在离开的前一天,工作组里的一个人——不是那个打电话的女人,是另一个,年纪更轻,戴着棒球帽——在银行的院子里拦住了她。
“陈姨,我能问您一个问题吗?”
她看着他。“你是谁?”
“我是模型训练组的。“他顿了顿,“我想问您——您觉得,算法有错吗?”
她想了一想。“算法没有错。算法只是算法。错的是用算法做决定的人。”
“可是人做的决定也是基于算法的判断啊。如果算法给出的建议是错的,人要怎么发现?”
“看人。”
“可如果数据里没有’人’呢?”
她看着他,突然有些喜欢这个年轻人了。“那就去看那个没有被数据化的人。”
“可是——如果所有人都被数据化了呢?”
她沉默了很久。最后她说:“那就不会有人问这个问题了。因为问这个问题的能力,也会被数据化。”
年轻人摘下棒球帽,挠了挠头。“陈姨,您知道我们现在在训练一个新模型吗?它可以根据一个人的社交关系、消费记录、生理数据,预测这个人五年之内会不会’偏离正常生活轨迹’——包括会不会信访、会不会投诉、会不会做出极端行为。”
“你们想用它来干什么?”
“提前干预。在问题发生之前。”
她看了他很久。然后她问了一句:“那如果它预测你会问这个问题呢?”
年轻人愣住了。
她转身走了。
二〇二五年冬天,陈桂英退休了。
她没有返聘,没有续签,没有被返聘或续签。她收拾了自己办公室里的一个纸箱——里面有三本工作笔记、一张照片、还有一个别人送她的瓷茶杯。照片上是她三十年前刚做信贷员时的样子,扎着马尾辫,站在银行门口,笑得有些拘谨。
她的退休工资是每月三千二。比李来喜贷不到的那三万块钱多不了多少。
她回老家住了一阵,种菜,养鸡,偶尔去镇上赶集。集市上有人认出她,叫她”陈信贷”,问她还记不记得自己。她笑着说记不清了。
有一天,她的外孙拿她的手机玩,不小心打开了健康App。App弹出一条提示:“您已连续三天步行未达标,建议增加运动量。“旁边是一个笑脸图标,下面写着:“每日目标:6000步。”
她盯着那个数字看了很久。
6000步。算法替她算好了每天应该走多少步。它不知道她老了,膝盖疼,走多了第二天就肿。它只知道6000是一个”健康标准”。一个统计学意义上的最优解。
她把手机收起来,什么都没说。
很多年以后,她的外孙长大了,去了省城读书。有一年回家,他跟她讲了一个故事:他在学校修了一门叫”数据与社会”的课,课上老师给他们放了一段视频——一个西部小镇的农商行上线了一套智能信贷系统,系统里有一个神秘的评估模块,没有人知道它是怎么运作的,只知道它拒绝了一些人,批准了一些人,而那些被拒绝的人,生活轨迹确实变糟了。
“外婆,你说那个系统是坏的吗?“外孙问她。
她想了想。“它不是坏的。它只是不知道。”
“不知道什么?”
“不知道人是可以变的。“她看着窗外,“人可以戒酒,可以走路,可以活下去。数据是死的,人是活的。用死的去算活的,永远算不准。”
“那该怎么办?”
“别算。“她说,“去见面。去说话。去看着他,问他你要不要借钱,你打算怎么还,你有没有把握。然后决定。”
“可是那样效率很低啊。”
“效率低的东西不一定都是坏的。“她拍了拍外孙的手,“你外婆我这辈子效率很低,但我借出去的钱,十有八九都收回来了。因为我还的时候,他们说了一句话——‘陈姐,我信你’。”
外孙没有说话。
那天晚上,外孙在手机上写了一段话,发给了他的老师:
“我认为,算法最大的问题不是它会出错,而是它会让出错变得不可见。当一个错误的决定被系统化地执行,它就不再是一个错误,而是一个’结论’。而结论是不需要被质疑的。”
老师回复了他一个表情包:一个竖起的大拇指。
那个表情包也是算法生成的。
二〇三一年,镇上的银行拆了。
不是倒闭,是旧城改造。那栋楼太老了,要建成一个商业综合体。推土机开进去的时候,陈桂英站在人群后面看。
她看见银行大厅里的那台ATM机被搬出来,屏幕上还亮着,显示着:“系统维护中。“那台机器曾经吞过她的存折,也曾经吐出过李来喜的还款凭证——在他死后,他老婆替他还的。
她站在那里,想起了很多事。想起三十一年,想起那三个穿深蓝色冲锋衣的年轻人,想起小钱,想起老周,想起那个戴棒球帽的年轻模型训练师,想起李来喜的老婆做的手擀面。
她想起了那个算法。那个算命的东西。
它后来怎么样了?它还在吗?它在多少个地方、多少个行业、多少个人的生活里,默默计算着他们的死期和命运?
她不知道。她也不想知道。
但她知道一件事:只要有人还愿意低头看一眼那个被拒绝的人手里的纸,只要有人还愿意去问一句”为什么”,算法就不能替人做决定。
它是工具,不是判官。
但工具一旦握了权力,就会想当判官。
那天晚上,她做了一个梦。梦里她站在那块巨大的白板前,但这次,白板是空白的。算法不在那里。什么都没有。只有一片白,白得像一张从未被写过的纸。
她在那片空白里站了很久。
然后她转身,走进了真实世界的夜色里。
(完)