算法之下
算法之下
一、归乡
陈晓月站在县城的汽车站出口,手里还攥着那张从上海回来的车票。她在这个名叫「永光县」的地方出生、长大、考大学离开,如今阔别七年,又站在了这里。
汽车站翻新了。玻璃穹顶在下午的阳光里闪着冷光,候车大厅里没有乘客,只有几台安检闸机沉默地站立着,闸机上方悬挂的屏幕正循环播放着永光县的宣传片——
「永光县,大数据治理示范县。永光平台,让生活更美好。」
陈晓月盯着屏幕看了几秒。屏幕上,一个中年男人对着镜头笑得满脸褶子:「以前贷款要跑银行,跑断腿!现在好了,有永光平台,点点手机,钱就到账了。永光平台,真正为我们老百姓着想!」
她认出了那个人。隔壁楼的钱叔。以前收废品的,现在开着奥迪。宣传片里的他看起来年轻了十岁,大概是美颜滤镜的功劳。
「小姐,您好,请刷脸出站。」
一个穿着安保制服的年轻女孩走过来,礼貌地微笑着。陈晓月注意到女孩的左胸口别着一枚小小的徽章,上面印着一轮太阳,太阳中心有一只眼睛的图案。
「永光平台的标志。」女孩注意到她的目光,解释道,「我们县每个人都有的。」
陈晓月站到闸机前,一道蓝光扫过她的脸。
「陈晓月,征信评级B+级,在永光平台有三年未还款记录,信用待修复。温馨提示:请您遵守《永光县市民行为规范》,如有疑问,请咨询社区网格员。」
闸机没有开。
「对不起,您的信用等级未达到出站标准。」女孩的声音还是那么礼貌,「请您到旁边的信用修复窗口办理手续。」
陈晓月愣住了。「什么未达标?我又不是犯人,凭什么不让我回家?」
「您误会了,」女孩的笑容依然标准,「只是需要您签署一份《永光县信用承诺书》,承诺在三十日内结清所有欠款。签完就能出去了。」
「我欠什么钱了?」
女孩看了一眼手里的平板:「您的花呗欠款3265.4元,已经逾期1095天。利息目前是……」
「花呗?」陈晓月打断她,「那是七年前我在上海读书时欠的!我大二就还清了!」
女孩愣了一下,低头看了看平板,然后又看了一遍:「系统显示……确实有一笔3265.4元的待还款,但状态是……」她皱起眉头,「奇怪,这笔账是红色标注的,说明是异常数据,但我没有权限处理……」
陈晓月盯着那块平板屏幕。屏幕上方有一行小字:「永光平台 v8.3.1 | 数据更新:2026-04-16」。她想起自己的大学花呗账户,早就注销了,注销前余额为零。
「我可以打人工客服吗?」
「我们这里没有人工事务窗口。」女孩说,「您可以下载永光App,在线联系客服。或者——」她压低声音,「您可以去找社区网格员老周,他在南街社区,什么事都能帮忙协调。」
陈晓月最后花了四十分钟,在App上和一个永远在「排队中」的在线客服进行了一场荒诞的对话。客服是一个AI,名字叫「永小光」,回复永远是正能量的废话。最后,系统自动生成了一张电子版的《永光县信用承诺书》,陈晓月按下手印的那一刻,感觉自己像是签了某种卖身契。
闸机终于开了。
「欢迎回家,陈晓月女士。永光平台,伴您同行。」
二、永光
陈晓月的老家在县城南街的一条小巷子里。她从小走惯的青石板路还在,但两边的房子都变了。有些拆了重建,变成了四五层的洋房;有些还保留着老旧的砖墙,但门口多了一块电子门牌,上面显示着户主姓名、房屋评级、以及一行小字:「本户已被永光平台纳入智慧社区改造计划,预计2027年完成改造。」
走到自家楼下,她看到单元门口装了一台人脸识别机。机器上方贴着一张告示:「为提升社区安全管理,本小区已接入永光平台智慧门禁系统。住户刷脸进入,访客需由住户在App上提前预约。」
她没有权限进入自己家。
站在楼下喊了几声,没有人应。打电话给妈,关机。打到爸的手机,接通了。
「爸,我在楼下,进不去。」
「什么?你回来了?」父亲的声音有些惊讶,「你怎么不提前说一声——等等,我去App上给你开权限。」
电话那头传来父亲在手机上点按的声音。过了几秒,陈晓月的手机收到一条短信:「【永光平台】您已获得南街17号单元门禁通行权限,有效期7天。温馨提示:访客权限即将过期,如需延期,请联系社区网格员。」
单元门「咔哒」一声开了。
上楼的时候,陈晓月发现楼道里也装了监控。每一层楼的天花板角落都有一颗球形的摄像头,红灯在闪烁。楼道的墙上还贴着一张「南街社区永光平台积分公示栏」,上面列着整栋楼所有住户的当月积分。最高分是老孙家,980分;最低分是五楼那个据说欠了很多钱的女人,112分。分数旁边标注着加减分原因:「垃圾分类优秀+5」「深夜噪音投诉-10」「逾期还款-50」。
推开家门,母亲正坐在客厅的沙发上,电视开着,但没在看。电视里播的是永光平台的广告,一个甜美的人工智能女声在说着什么「让数据多跑路,让群众少跑腿」。
「妈,我回来了。」
母亲抬起头,眼睛里闪过一丝惊喜,但很快又被什么东西压了下去。「晓月回来了。吃饭了吗?」
「吃了。妈,你怎么不接电话?」
「手机没电了。」母亲站起来,「你爸去买菜了,说你回来,要多做几个菜。你怎么突然回来,也不提前说一声?」
陈晓月坐到沙发上,环顾四周。家里变了。客厅的墙上多了一块大大的电子屏幕,上面显示着「南街社区永光平台家庭终端」。屏幕上能看到水电气费的账单,能看到各种缴费入口,还能看到陈晓月自己的名字出现在「家庭成员」列表里,名字旁边标注着她的信用等级:「B+(待修复)」。
「妈,这东西是强制的吗?」
「什么?」
「这个永光平台。」
母亲沉默了一下。「什么叫强制?大家都用,你不用,寸步难行。出门要刷脸,进超市要扫码,买菜要积分……你不用,就什么都做不了。」
「那如果不联网的人怎么办?比如那些不会用智能手机的老人?」
「有网格员帮忙弄。」母亲说,「老周那人挺好的,什么都帮忙弄。你要是不方便,让他帮你弄就行。」
陈晓月皱起眉头。她想起刚才在楼下看到的那个「南街社区永光平台积分公示栏」,想起那个只有112分的女人。那个女人她记得,以前住在五楼靠楼梯的那间,丈夫跑了,一个人带着孩子,靠做保姆生活。
「妈,那个五楼的女人呢?」
「别提她。」母亲突然打断她,「她自己作的,怨不得别人。」
「怎么就怨不得别人了?她不是欠了很多钱吗?欠谁的钱?怎么会欠那么多?」
母亲没有回答。她转身进了厨房,只留下一句话:「你问你爸去,我不知道。」
三、钱穆
晚饭的时候,陈晓月终于见到了父亲。父亲变化很大,头发白了一大半,背也驼了。但最让她不习惯的是父亲的眼睛——以前那双眼睛是有神的,现在却像蒙了一层雾,看什么都带着一种小心翼翼的谨慎。
「爸,你怎么变成这样了?」
「变成什么样?」父亲给她夹了一块排骨,「吃饭吃饭,别瞎说。」
「我是说……你的精神状态。你以前不是这样的。」
父亲的手顿了一下。「以前是以前。人都会变的。」
「是不是因为那个永光平台?」
父亲没有说话。他放下筷子,叹了口气。「晓月,有些事你别管。你这次回来办什么事?待几天?」
「我回来……出差。顺便看看你们。」
「出差?什么出差?」
「就是……我辞职了。打算创业。有个项目要做调研。」
「创业?」父亲的声音突然拔高了,「你创什么业?你那点钱够干什么?你是不是被人骗了?你——」
「我没有被人骗。」陈晓月打断他,「爸,我做的项目跟永光平台有关。」
父亲的脸一下子僵住了。
「你说什么?」
「我说,我做的项目跟永光平台有关。我想做一个……」她犹豫了一下,「我想做一个帮助普通人的工具。让那些被永光平台判定为’信用不良’的人,能够有一个重新开始的机会。」
厨房里传来碗筷落地的声音。母亲不知道什么时候站在了厨房门口,脸色惨白。
「你疯了。」母亲说。
「我没疯。」陈晓月站起来,「妈,爸,你们到底在怕什么?永光平台到底是什么?为什么你们连提都不敢提?」
父亲站起来,走到门口,把门反锁了。然后他转过身,压低声音说:「晓月,你听我说。你要创业,我不管你。但你不能做跟永光平台作对的事。你不能。」
「为什么?」
「因为永光平台不是普通的平台。」父亲的声音在发抖,「永光平台的老板是钱穆。就是以前收废品的钱穆。他现在是县里、市里、甚至省里的红人。上面有人罩着他。整个永光县都靠他活着。」
「一个收废品的,怎么做到的?」
「他赶上了好时候。」父亲苦笑了一下,「七年前,P2P暴雷,你知道吧?多少人倾家荡产。钱穆那时候在做民间借贷,他没暴雷。为什么?因为他聪明。他知道P2P是骗人的,所以他没做那个。他做的是……」
「是什么?」
「是平台。」父亲说,「他把所有的民间借贷、所有的商店、所有的服务机构,都整合到一个平台上去。你要借钱,通过他。你要买东西,通过他。你要办事,通过他。方便,便宜,大家都用。后来县里发现这东西好,能管住人,能统计数据,能……能控制舆论。上面就支持他。」
「支持到什么程度?」
「到什么程度?」父亲看着女儿的眼睛,「永光县现在是全国大数据治理示范县。永光模式要推广到全省、全国。钱穆现在是省人大代表。他的平台算法,是县里、市里、甚至省里很多领导汇报工作时都要拿出来吹的东西。」
「那他的算法是什么?」
「没人知道。」父亲摇头,「他说是商业机密。但我知道的是,他的算法不只是在管借贷。什么都管。谁能贷款、谁能就医、谁能让孩子上好的学校、谁家的积分高、谁该被表彰、谁该被批评——全是他那个算法说了算。」
「那谁来监督他?」
父亲没有说话。
「谁来监督钱穆?」陈晓月又问了一遍。
「监督?」母亲突然冷笑了一声,「谁来监督?谁敢监督?你知道他后台有多少数据吗?他有全县所有人的身份证、银行卡、健康档案、社保记录、消费记录、社交关系……他比你自己还了解你。谁能监督他?谁有权限监督他?」
「那你们就这么忍着?让他骑在你们头上?」
「不是忍不忍的问题。」父亲的声音突然疲惫下来,「晓月,你不懂。在永光县,钱穆不是一个人。他是一套系统。他不是剥削我们,他是……他是这个地方的血管和神经。我们已经离不开他了。」
陈晓月看着父亲的脸,突然发现父亲老了。不是因为年龄,是因为一种从骨子里透出来的疲惫和认命。
「那五楼那个女人呢?」她问,「她欠了钱穆的钱?欠多少?」
父亲和母亲对视了一眼。
「你问这个干什么?」
「我就是想知道。」
母亲叹了口气。「她叫周芳。以前在钱穆的商场里做营业员。后来钱穆搞了个什么’消费贷’,鼓励大家提前消费。周芳那时候刚离婚,一个人带孩子,钱穆的平台借了她二十万,说是低息贷款,让她先花着。周芳想着自己工作稳定,能还上。结果……」
「结果怎样?」
「结果钱穆改了算法。」父亲接过话,「他有一天突然提高了所有’消费贷’的利率。周芳的贷款利率一下子从8%涨到了24%。周芳还不起,就逾期了。逾期之后,她的信用评级被降到C。然后她的孩子上不了好的学校,去医院挂不上专家号,超市不让她赊账,菜市场不卖给她新鲜菜……她什么都做不了。」
「然后呢?」
「然后她去找钱穆讨说法。钱穆不见她。她就去闹。闹了几次,被抓进去了。关了一个月。出来之后,整个人就……」母亲摇了摇头,「疯了。整天说她脑子里有芯片,说钱穆在监视她。谁都不信了。」
「她脑子里真的有芯片吗?」
「怎么可能有芯片?」父亲说,「但她的生活确实被永光平台控制了。钱穆把她标记为’重点关注对象’,她的每一笔消费都会被系统审核。她想去外地看病,系统不批。她想把孩子送回乡下娘家,系统不批。她的银行卡被限额,每天只能消费五十块。」
「凭什么?」陈晓月的声音在发抖,「凭什么他能这样对一个人?」
「凭什么?」母亲苦笑了一下,「凭他有能力做到这些。凭没有人能管他。凭……凭这个世界变了,晓月。不是我们熟悉的那个世界了。」
四、永光塔
第二天一早,陈晓月去了永光集团总部。
永光集团的大楼在县城新区,叫「永光塔」。一座三十三层的玻璃大厦,在这座平均楼层不超过六层的小县城里,简直像一根刺入天空的针。
大楼门口有保安,但没有闸机。保安看了一眼陈晓月的脸,在平板上点了几下,然后放她进去了。
「你是来应聘的?」保安问。
「不是。我来找人。」
「找谁?」
「钱穆。」
保安的表情变了。「你有预约吗?」
「没有。但我有事找他。」
「没有预约不能进。」保安的声音冷了下来,「而且,钱总很忙,不是谁想见就能见的。你要是有什么事,可以在App上提交申请。」
「什么申请?」
「民事调解申请、经济纠纷仲裁申请、政策建议反馈申请……各种申请都有。你提交了,系统会分配给你一个处理部门,然后你就等通知。」
「等多久?」
「不一定。看情况。快的几天,慢的几个月。」
陈晓月站在那里,看着大楼的玻璃幕墙在阳光下闪闪发光。墙面上挂着一幅巨大的标语:「永光,让数据服务人类」。
「你知道吗,」她对保安说,「七年前,钱穆还住在我们隔壁。他收废品,我爸帮他修过电视机。」
保安的表情有些复杂。「那又怎样?以前是以前。现在是现在。」
陈晓月正要再说什么,手机突然响了。一条短信:
「【永光平台】尊敬的陈晓月女士,您的信用评级已由B+调整为B-。原因:您于2026年4月17日上午10:23前往永光集团总部,该行为被标记为’异常活动’。如需申诉,请在App内提交申请。」
她盯着手机屏幕,心跳加速。
紧接着,又一条短信:
「【永光平台】温馨提示:您的家庭共享额度将受到信用等级调整影响。B-等级用户家庭共享额度上限为2000元/月。如有疑问,请咨询客服。」
「家庭共享额度」——她想起昨晚在父母家的那块电子屏幕。她的信用等级会影响全家的消费额度。
「你在看什么?」保安凑过来,看了一眼她的手机屏幕,然后笑了,「哦,你被标记了。」
「什么意思?」
「就是系统觉得你今天的行为有问题。」保安的语气像在解释一件稀松平常的事,「你去大楼门口站着,系统就会判定你’可能对永光集团有敌意’。然后扣你分。很正常的。」
「这很正常?」
「很正常。」保安点头,「系统不会冤枉人的。你要是没做亏心事,怎么会被扣分?」
陈晓月盯着他,突然感到一阵眩晕。不是因为身体不舒服,是因为她意识到,这个保安——这个和她父母年纪差不多大的中年男人——是真心相信这套逻辑的。
「我确实没做亏心事,」她说,「但你们的系统冤枉我了。」
「那你就申诉啊。」保安说,「在App上申诉,系统会处理的。」
「系统会自己处理自己的错误吗?」
保安愣了一下,然后露出一种奇怪的笑容。「小姑娘,你这话说的。系统是钱总设计的,怎么会错?」
五、永小光
陈晓月没有回家。她在县城找了一家网吧,开了台机器。
她要查一些东西。
永光平台没有官网。但永光集团有。在集团的官网上,她找到了一个页面,叫「永光平台介绍」。页面上说,永光平台是一款「基于大数据和人工智能技术的社会治理平台」,于2019年正式上线,目前覆盖永光县全部52万人口,平台注册用户达到51.8万。
「永光平台以’数据多跑路,群众少跑腿’为理念,整合了政务服务、金融服务、生活服务、医疗服务、教育服务等多项功能,实现了’一平台办理’的便民目标。目前,永光平台已获得国家级大数据治理示范项目称号,正在向全省推广……」
她继续往下翻。页面的底部有一行小字:「永光平台核心算法由永光集团独立研发,算法源代码属于商业机密,任何个人或机构不得查看。」
她又查了钱穆的资料。在一篇2025年的省媒报道里,她看到了对钱穆的采访:
「钱穆,男,1978年生,永光县人。永光集团创始人兼CEO,省人大代表,省劳动模范。钱穆早年从事废品回收工作,后转行进入互联网金融领域。2019年,钱穆抓住政府推进’数字政务’的机遇,将永光平台从单一的借贷平台转型为综合性生活服务平台,获得县政府支持。2023年,永光县实现全面数据化治理,永光模式成为全省标杆……」
报道里有一张照片。钱穆站在永光塔前,穿着西装,打着领带,脸上带着那种成功的、自信的、又有些谄媚的笑容。
陈晓月盯着那张脸看了很久。
她想起小时候的钱穆。那时候他还是个瘦瘦小小的男人,骑着一辆三轮车,在巷子里收废品。他叫她「晓月丫头」,有时候会给她一些旧报纸和纸箱子,让她拿去卖钱。
后来,她去外地上大学,就再也没见过他。
再后来,她听说他发了财。
再后来,她听说他成了全县最有权势的人。
再后来,就是现在。
她关掉了浏览器,打开了永光App。
既然来了,她想看看这个平台到底是怎么运作的。
注册账号需要实名认证。她输入了自己的身份证号,手机号,人脸识别。三分钟后,账号注册成功。
App的界面很简洁。最上面是一行标语:「永光,伴您同行」。标语下面是一个搜索框,搜索框里写着:「有问题,找永小光。」
她点了一下搜索框,弹出了一个对话框。对话框里是一个卡通形象——一只大眼睛的机器人,眨巴眨巴地笑着。
「您好,我是永小光!有什么可以帮您的?」
她打字:「我想查询我的信用评分详情。」
「好的,让我来帮您查询!」永小光回复,「您的当前信用评级为B-。评分维度包括:基础信息(年龄、学历、户籍)占20%;经济状况(收入、资产、负债)占30%;行为数据(消费、社交、出行)占30%;社会评价(邻里关系、社区贡献)占20%。请问您想了解哪个维度的详细情况?」
「我想了解我的经济状况评分。」
「好的!您的经济状况评分为65分(满分100分)。扣分原因如下:1. 花呗历史逾期记录(-20分);2. 2024年个人所得税未按时申报(-10分);3. 银行卡异常交易记录(-5分)。请问还有什么可以帮您?」
「花呗历史逾期记录——那是什么?我大二就还清了。」
「让我帮您查询……根据平台数据,您有一笔3265.4元的花呗欠款,逾期1095天,该记录来源于您2017年注册的支付宝账户。」
「但我2019年就注销了那个账户!而且我那时候还清了!」
「系统显示的数据是准确的哦。如果您对数据有异议,可以提交申诉。我来帮您生成申诉表单吧!」
她等了三秒,屏幕上弹出了一份电子表单。表单很长,需要填写的内容包括:「申诉类型」「证据材料」「承诺声明」等等。表单底部有一行小字:「申诉处理周期为15-30个工作日。申诉期间,您的信用评级维持不变。」
陈晓月盯着那份表单,突然想笑。
这就是钱穆设计的系统。一个自我循环的、无法被质疑的、永远正确的系统。
你被错误地扣分了?好,你去申诉。申诉要15到30天。申诉期间,你的分数维持不变。你有意见?好,你继续申诉。系统永远没有错误。错误的是你自己。
她关掉了表单页面。
「请问还有什么可以帮您的吗?」永小光眨巴着眼睛。
「没有了。」
「好的!永光平台,伴您同行!如果您有任何问题,欢迎随时联系我!祝您生活愉快!」
六、周芳
傍晚的时候,陈晓月去敲了五楼的门。
门很久才开。开门的是一个瘦削的中年女人,头发乱糟糟的,眼神里有一种警觉的、神经质的光芒。
「你找谁?」
「您是周芳姐吧?我是四楼老陈家的女儿,陈晓月。」
周芳盯着她看了几秒,然后突然把门关上了。
「我不认识你。你走吧。」
「周芳姐,我听说您的遭遇了。我想跟您聊聊。」
门里没有声音。
陈晓月站在门口,没有走。她等了很久。
终于,门又开了一条缝。
「你为什么要来找我?」周芳的声音从门缝里传出来,「你想干什么?」
「我想帮您。」
「帮我?」周芳冷笑了一声,「帮我什么?谁也帮不了我。谁也帮不了我。」
「我知道您的事。」陈晓月说,「您以前在钱穆的商场工作。后来您的贷款利率被提高了。还不起钱,信用评级被降,孩子也受影响。您去找钱穆讨说法,被关了一个月。出来之后……」
「你调查我?」
「不是调查。我就是想知道真相。」
周芳沉默了很久。然后,门慢慢打开了。
房间里很暗。窗帘拉得严严实实,只有一盏小台灯亮着。屋里的家具很旧,但收拾得还算整齐。角落里有一张小小的书桌,桌上放着一台旧笔记本电脑。
「进来吧。」周芳说,「别开灯。别让摄像头看到你。」
「什么摄像头?」
「天花板上那个。」周芳指了指天花板角落的一个小黑洞,「那是他们的眼睛。他们一直在看。」
陈晓月没有动。她盯着那个小黑洞,问:「真的有摄像头吗?」
「有。」
「但我没有看到指示灯……」
「他们把指示灯关了。以为我不知道?」周芳又冷笑了一声,「我以前在商场做营业员,什么监控没见过?那东西不是普通的摄像头。是高清的,能录音,能识别人脸,能分析情绪。他们通过那个东西,知道我在想什么。」
陈晓月没有反驳。她走进房间,在一张旧沙发上坐下。
「周芳姐,」她说,「您还记得最开始发生了什么吗?那个贷款的事。」
周芳也坐下来。她抱着一个枕头,像是抱着某种武器。
「最开始……最开始是钱穆的平台借钱给我们。」她说,「利息很低。比银行低多了。他说,这是帮助老百姓致富。支持我们消费,支持我们创业。我想,我一个人带孩子,工作稳定,还款不成问题。我借了二十万。二十万。」
「您用那笔钱做什么了?」
「买了一套家具。给我妈治病。还给我孩子报了一个辅导班。」周芳的声音变得很轻,「二十万,听起来很多,但花起来……很快就没了。」
「然后呢?」
「然后钱穆改了利率。」周芳说,「他从8%改到24%。我一个月工资才三千五。利息就要还七千。我怎么还得起?我去问他们为什么涨利率。他们说,是’系统风控模型自动调整’。说我的’信用评级下降’,所以利率要上调。」
「您的信用评级为什么下降?」
「我不知道。」周芳摇头,「他们说下降就下降了。我问为什么,他们让我查App。我查了App,系统显示我’社交关系异常’。什么叫社交关系异常?我一个人带孩子,不跟人来往,社交关系当然简单!这叫什么异常?」
陈晓月皱起眉头。「社交关系异常……这是什么意思?」
「什么意思?」周芳看着她,眼睛里有一种疯狂的光,「意思是我不跟他们来往。意思是我没有在钱穆的平台上活跃。意思是我没有帮钱穆拉新用户。意思是我没有在钱穆的平台上买东西、消费、贡献数据!」
「所以您的利率被提高了?」
「对。」周芳点头,「我还不起了。我逾期了。然后我的信用评级变成C。然后一切都变了。我的孩子上不了好的学校——系统说我们家’信用不良’,不给我孩子分配好资源。我去医院挂号,系统说我的信用等级低,只能看普通门诊。我去超市买东西,赊账额度被降到零。我连菜市场都进不去——他们说我’有过失信行为’,不让我进。」
「等等,」陈晓月打断她,「菜市场也不让您进?」
「菜市场被永光平台收购了。」周芳说,「现在整个县城的菜市场、超市、商场,全是钱穆的。他说不让我进,我就不让进。我只能去路边摊买。路边摊的东西不新鲜,但我没办法。」
陈晓月想起小时候在县城读书的时候,买菜都是去菜市场。那个时候的菜市场熙熙攘攘,讨价还价声此起彼伏,充满着烟火气。
现在,菜市场变成了钱穆的。
「然后您去找钱穆……」
「我去找他。我去找他好多次。」周芳的声音变得激动起来,「他不见我。保安拦着我,说没有预约不能见。我预约了,系统说’预约已满’。我天天预约,天天满。我没办法,就在永光塔门口等。等了三天。第三天的时候,保安报警了。说我’非法聚集’。警察把我抓走了。关了我一个月。」
「非法聚集?」
「他们说我聚众闹事。」周芳苦笑,「就我一个人,在门口站着,算什么聚众?但是系统说我是’重点关注对象’。系统说我是’不稳定因素’。警察就信系统的。」
陈晓月感觉自己的血液在凝固。
「然后您出来之后……」
「出来之后?」周芳看着她,眼睛里的光芒变得更亮了,「出来之后,我就不是人了。我的信用评级变成D。全县最低。我做什么都不行。我连公交车都坐不了——系统说我的信用等级不能乘坐公共交通工具。我只能走路。走到哪里都是问题。我去银行,银行不给我开户。我去租房,房东不租给我。我去打工,没人敢雇我——因为系统说我是’失信人员’。」
「那您怎么生活?」
「靠邻居。」周芳的声音突然变得很轻,「有时候四楼你妈会给我送点吃的。有时候隔壁王婶帮我买菜。都是偷偷的,不能让系统知道。系统会扣他们的分。帮过我的人,都被扣过分。」
陈晓月想起母亲。母亲在饭桌上说「别提她」的时候,脸上那种复杂的表情。
「周芳姐,」陈晓月说,「我想帮您。」
「帮我?」周芳看着她,「怎么帮?」
「我在做一件事。」陈晓月说,「我想做一个工具。一个帮助像您这样的人的工具。让被永光平台错误对待的人,能够有一个重新开始的机会。」
周芳盯着她看了很久。
「你知道我脑子里在想什么吗?」周芳突然问。
「什么?」
「我在想,」周芳的声音变得很轻很轻,「钱穆到底是不是人。」
「什么意思?」
「他不是人。」周芳说,「他是算法。算法不是人。算法没有心。算法只相信数据。数据会骗人,但算法不会。算法只相信数据,哪怕数据是假的。」
陈晓月愣住了。
「你知道最可怕的是什么吗?」周芳继续说,「最可怕的是,钱穆可能自己都不知道自己在干什么。他可能真的以为自己在做好事。他可能真的以为永光平台是在’让生活更美好’。他可能真的相信那套算法是公平公正的。你知道为什么吗?」
「为什么?」
「因为他是那个系统的上帝。」周芳说,「上帝看不见自己的偏见。上帝看不见自己的残忍。上帝只会觉得自己是对的。」
七、算法
那天晚上,陈晓月没有睡好。
她躺在父母家的沙发上,盯着天花板。天花板上有一盏吸顶灯,灯罩是透明的,能隐约看到里面的LED灯珠。
她想起周芳说的话:「算法不是人。算法没有心。算法只相信数据。」
她想起自己在永光App上看到的那些评分规则。经济状况占30%,行为数据占30%,社会评价占20%。这些数字看起来很客观,很科学,很公平。
但真的是这样吗?
谁决定了这些权重?谁定义了「经济状况」的内涵?谁划定了「社会评价」的标准?
是钱穆。
或者说,是钱穆写的算法。
算法不是中性的。算法是人写的。人有自己的偏见、局限、利益。算法会放大这些偏见和局限。算法会把人的偏见包装成客观的数据,然后让这些数据反过来定义人。
这才是永光平台最可怕的地方。
它不是一台机器。它是一个系统。一个由人设计的、被权力支撑的、不断自我强化的系统。这个系统会让人觉得,一切都是合理的,一切都是公平的,一切都是正常的。
直到你被它抛弃。
直到你变成周芳。
凌晨三点,她从沙发上坐起来,打开了电脑。
她在做一个项目。一个她还没有完全想清楚的项目。
她要给永光平台做一个「影子系统」。
不是去攻击永光平台——那不现实,也没有意义。她要做的是,给那些被永光平台判定为「信用不良」的人,提供一个alternative。
一个重新开始的机会。
她想了想,给这个项目起了个名字:
「裂缝」。
八、老周
第三天,社区网格员老周来敲门了。
「陈女士,您好您好!」老周是个五十多岁的胖男人,笑容可掬,手里拿着一个平板,「听说您从上海回来了?我来看看您!有什么需要帮忙的?」
陈晓月让老周进了屋。母亲端了茶来,然后借故出门了。
「您就是南街社区的网格员?」陈晓月问。
「对对对,我就是管这片儿的。」老周坐下,打开平板,「您在永光App上登记了吗?我帮您更新一下信息。您这次回来待多久?住哪里?要不要帮您申请一下临时居住证?」
「不用了,我住我爸妈这里。」
「好好好。」老周在平板上点点点,「那我把您的住址信息更新一下。对了,您的信用等级我们看到了,B-。这个有点问题啊。您要是想长期住,可能得把信用修复一下。」
「怎么修复?」
「最简单的方法是把逾期的花呗还上。」老周说,「您那笔花呗是3265.4元,对吧?您要是能还上,信用等级肯定能升。」
「那笔花呗是假的。」陈晓月说,「我已经还清了。」
老周愣了一下。「假的?」
「对。系统显示我有一笔逾期的花呗债务,但那个账户七年前就注销了,注销前余额为零。这是一笔异常数据。」
老周的脸色变了变。「这个……这个我就不清楚了。系统显示的,应该不会错吧?」
「系统也会出错。」
「这个……」老周挠了挠头,「陈女士,您要是觉得系统有问题,可以申诉的。在App上申诉,我们社区可以帮您递材料。」
「我已经申诉过了。」陈晓月说,「但是申诉要15到30个工作日。我等不了那么久。」
「那您也可以找钱总反映。」老周说,「钱总这人很好的,每个月都会抽一天接待群众。您要是有冤屈,可以去跟他说。」
「他会见我吗?」
「这个……」老周的笑容有点僵,「您得预约。预约上了就能见。」
「我约过了。约不上。」
老周沉默了一会儿。
「陈女士,」他终于开口,声音压得很低,「我跟您说句实话,您别往外传。」
「什么?」
「钱总这人……其实不坏。」老周说,「他就是……他就是太相信那个系统了。他觉得系统是万能的,系统能解决一切问题。所以他就把所有权力都给了系统。久而久之,他就变成了系统的代言人。他自己可能都不知道,系统已经变成什么了。」
「您是说,钱穆不知道永光平台在干什么?」
「我觉得……他不完全知道。」老周叹气,「他是人,不是神。他不可能什么都看到。那个算法太复杂了,每天处理几百万条数据,他怎么可能每一条都审核?他只能相信系统相信算法。但系统……你也知道,系统有时候会出bug。」
「Bug?」
「就是……算法的一些……预设值。」老周斟酌着用词,「比如,系统会给某些人打上’重点关注’的标签。被打了这个标签的人,系统会自动降低他们的信用评级,自动限制他们的消费行为,自动……自动把他们跟其他人隔离开来。」
「谁有权限打这个标签?」
「理论上只有县里的领导。」老周说,「但实际上……钱总的助理可以直接操作。助理说打给谁就打给谁。钱总忙,顾不上看这些。」
陈晓月的眼睛眯了起来。「钱总的助理?」
「对,一个姓林的助理。三十多岁,女的,很能干。」老周说,「但听说她这个人……怎么说呢,心眼有点小。谁要是得罪了她,或者得罪了钱总身边的人,她就给人打’重点关注’标签。」
「有这个权力?」
「有这个权限。」老周强调,「权限不等于权力。但在这个系统里,权限就等于权力。」
陈晓月想起周芳。周芳去闹过永光塔,去讨过说法,被关了一个月。出来之后,信用评级变成了D。
是林助理打的标签吗?
「老周,」她说,「我想问你一个问题。」
「您说。」
「如果有人被系统错误对待了,想要申冤,想要找回公道,你觉得应该怎么办?」
老周沉默了很长时间。
「陈女士,」他终于开口,声音有些沙哑,「在这个系统里,公道是不存在的。」
「什么意思?」
「我是说,在这个系统里,没有’被错误对待’这回事。」老周说,「因为系统不会错。系统说你是坏人,你就是坏人。系统说你要被惩罚,你就得被惩罚。你想申冤?你得先证明系统错了。但系统怎么可能错?系统是钱总设计的。钱总怎么可能错?钱总是省人大代表,是省劳模,是全省的标杆。他怎么可能错?」
「但如果他真的错了呢?」
老周看着她,眼神里有一种疲惫的无奈。
「他错了,我们就得陪着他错。」老周说,「这就是生活在永光县的意义。」
九、裂缝
第四天,陈晓月开始实施她的计划。
她找到了周芳。
「周芳姐,」她说,「我需要您的帮助。」
「帮什么?」
「我想做一个东西。一个能够帮助被永光平台错误对待的人的东西。」
周芳看着她,没有说话。
「我想收集数据。」陈晓月说,「收集那些被永光平台降级、被系统错误惩罚的人的数据。然后把这些数据整理出来,让更多人看到。让他们知道,他们不是一个人。」
「然后呢?」
「然后……然后想办法。」陈晓月说,「也许可以找到媒体,也许可以找到上级政府,也许可以找到法律途径。想办法打破那个系统。哪怕只是一点点。」
周芳沉默了很久。
「你知道最可怕的是什么吗?」周芳突然问。
「什么?」
「最可怕的不是被系统惩罚。」周芳说,「最可怕的是,系统让你觉得被惩罚是应该的。」
「什么意思?」
「我以前……我以前被关进去的时候,我真的觉得自己做错了。」周芳的声音变得很轻,「我真的觉得是我自己不好。我不应该去闹。我不应该给人添麻烦。我不应该……我不应该质疑系统。系统是权威。系统怎么会错?我读了十几年的书,老师告诉我分数是客观的,考试是公平的。后来我进了社会,发现分数换成了信用评级,考试换成了算法。但他们告诉我的是一样的——系统是客观的,算法是公平的。你过得不好,是你自己的问题。」
陈晓月说不出话来。
「所以我才说,」周芳看着她,「最可怕的不是系统惩罚你。最可怕的是系统让你觉得自己活该被惩罚。」
两人沉默了很久。
「我不会让你们觉得活该的。」陈晓月终于开口,「我要让所有人知道,永光平台的算法不是客观公正的。它有偏见,有错误,有可以被利用的漏洞。我要让你们知道,你们不是坏人。你们只是被系统误伤了。」
「然后呢?」周芳问,「就算知道了,又能怎样?」
「能怎样?」陈晓月站起来,走到窗边,掀开窗帘的一角。窗外,永光县的街道上人来人往,每个人都在低头看着手机。手机屏幕上,永光平台的logo在阳光下闪闪发光。
「我有个朋友,」陈晓月说,「在上海的一家媒体工作。他们一直想做一期关于数据治理的深度报道。我可以把永光县的故事讲给他们听。让更多人知道这里发生了什么。」
「媒体报道有什么用?」周芳说,「永光县是省里的标杆。上面的领导都支持钱穆。」
「但上面也有明白人。」陈晓月说,「中央一直在强调,不能让算法决定人的命运。不能让人变成数据的奴隶。永光县的模式之所以能被推广,是因为没有人知道它背后是什么样子。如果有人知道呢?如果有媒体把真相报道出来呢?」
周芳看着她,眼神里有一种复杂的光芒。
「你真的觉得能成功?」
「我不知道。」陈晓月说,「但我至少要试试。」
她从口袋里掏出一个U盘,递给周芳。
「这里面有一个程序。」她说,「您帮我找那些被永光平台错误对待的人,把这个程序发给他们。让他们的手机 能够记录他们在永光平台上的所有遭遇。数据会加密存储,不会被永光平台发现。等我回到上海,我会把这些数据整理出来,交给媒体。」
周芳接过U盘,捏在手心里,像是捏着某种救命的东西。
「这个程序……不会被发现吗?」
「不会被发现。」陈晓月说,「它伪装成了一个普通的天气预报软件。运行的时候看起来就像是在查天气,但后台会默默记录一切。它不会影响手机的正常使用,也不会被永光平台的监控系统检测到。」
周芳沉默了一会儿。
「你为什么要帮我?」
「因为这是对的。」陈晓月说,「您没有做错任何事。您只是一个人带孩子,只是想好好生活。您不应该被这样对待。」
「但我……我已经……」周芳的声音哽咽了,「我已经不记得正常的生活是什么样子了。」
陈晓月握住她的手。「我们会帮您找回来的。」
十、林助理
第五天,陈晓月决定去找林助理。
她从老周那里打听到了林助理的办公室在永光塔的十八楼。她没有预约,也知道自己根本不可能通过正规途径见到她。但她想到了另一个办法。
她在永光App上填写了一份「政策建议反馈表」,建议内容是:「建议永光平台开放信用评分的详细计算规则,让用户能够清楚了解自己的评分构成。」
这种建议,系统会自动分配给「政策研究部」处理。而政策研究部,正好是林助理分管的部门。
她赌的是,林助理会亲自看这些建议。
果然,当天下午,她就收到了一条短信:
「【永光平台】您的政策建议已收到,我们将安排专人与您联系。处理部门:政策研究部。预计回复时间:1-3个工作日。」
一个小时后,她的手机响了。一个陌生的号码。
「喂,是陈晓月女士吗?」电话那头是一个职业化的女声。
「是我。」
「您好,我是永光集团政策研究部的林秘书。林助理想亲自跟您通话,请问您现在方便吗?」
陈晓月的嘴角微微上扬。「方便。」
三分钟后,她坐在了永光塔十八楼的一间办公室里。
林助理比她想象中年轻。三十五六岁的样子,穿着一套黑色的职业装,头发一丝不苟地扎在脑后,脸上带着那种职业性的、没有温度的笑容。
「陈女士,请坐。」林助理指了指沙发,「喝点什么?茶还是咖啡?」
「不用了,谢谢。」
陈晓月坐下,打量着这间办公室。办公室不大,但布置得很精致。墙上挂着几张和领导合影的照片,其中一张是林助理和钱穆的合影,两人站在永光塔前,笑得像是一对父女。
「陈女士,」林助理也坐下,打开一台平板电脑,「我看了您的建议。您希望永光平台开放信用评分的详细计算规则?」
「是的。」
「能问一下为什么吗?」
「因为我发现永光平台的信用评分存在很多不合理的地方。」陈晓月说,「比如,系统会记录一些不存在的数据,把已经还清的债务标记为逾期,把没有关联的人标记为’社交关系异常’。作为用户,我连自己为什么被扣分都不知道。」
林助理的眼神闪了闪。
「您是说,系统存在错误?」
「是的。」
「您有证据吗?」
陈晓月把手机递过去。「您可以查我的账号。我有一笔3265.4元的花呗逾期记录,但那是我大学时候的账户,七年前就注销了。我不知道这笔数据是从哪里来的。」
林助理接过手机,低头看了看。然后她的表情微微变了。
「陈女士,」她抬起头,「这笔数据……确实是异常数据。我会让技术部门查一下。」
「谢谢。」
「不客气。」林助理把手机还给她,「这是我们应该做的。」
两人沉默了一会儿。
「林助理,」陈晓月突然问,「您相信永光平台的算法是公平的吗?」
林助理愣了一下。「您这个问题……很有意思。」
「您不用给我官方答案。」陈晓月说,「我就是想知道您个人的看法。」
林助理看了她一眼,眼神里有一种复杂的光芒。
「陈女士,」她终于开口,「我跟您说句实话。」
「您说。」
「算法是不是公平的,我不知道。」林助理说,「但我知道,在永光县,算法就是规则。规则不是你我能定的,也不是你我能改的。你我唯一能做的,就是适应规则,在规则里生存。」
「如果规则本身就是错的呢?」
林助理没有说话。她站起来,走到窗边,背对着陈晓月。
「陈女士,您知道我以前是做什么的吗?」
「不知道。」
「我以前是县政府的打字员。」林助理说,「每天的工作就是打字、打印、复印。没有什么技术含量,也没有什么前途。但后来,永光平台上线了。钱总需要一个既懂政府运作、又懂互联网的人来帮他协调各方面关系。我刚好两者都懂一点。所以我被选中了。」
「您觉得钱穆是个什么样的人?」
「他是个……」林助理转过身,「他是个很聪明的人,也很努力。他是真的想把永光县建设好。他相信他的算法能够解决所有问题。」
「那您呢?您也相信吗?」
林助理沉默了很久。
「陈女士,」她说,「有些问题,不是我应该回答的。」
「什么意思?」
林助理走到她面前,压低声音:「我的意思是,您今天问的这些问题,不应该问我。」
「那应该问谁?」
「您应该问那些’重点关注对象’。」林助理说,「您应该问他们,永光平台对他们做了什么。您应该问他们,是不是每一个人都罪有应得。」
陈晓月的心跳加速了。「您是说……」
「我什么都没说。」林助理的声音变得冷淡,「陈女士,今天的会面就到这里吧。您的那笔异常数据,我会让人处理。如果还有其他问题,可以在App上提交申请。」
「林助理——」
「送客。」林助理按下桌上的电话,「小李,请送陈女士下楼。」
十一、真相
第六天,陈晓月去找了老周。
「老周,我想见那些’重点关注对象’。」
老周正在喝茶,闻言差点把茶杯摔了。「陈女士,您这是……」
「我知道您认识他们。」陈晓月说,「您是网格员,管这片儿几十年了。谁家什么情况,您比谁都清楚。」
老周沉默了很久。
「陈女士,」他终于开口,「您知道为什么那些人会变成’重点关注对象’吗?」
「不知道。」
「我告诉您。」老周叹气,「有些是真的犯了事的。比如诈骗、盗窃、故意伤害。这些人被打上标签,是应该的。但有些人……」
「有些人怎样?」
「有些人是得罪了不该得罪的人。」老周说,「比如周芳。她去永光塔闹事,打扰了钱总的正常工作,被打上标签,是钱总的意思。」
「谁的意思?」
「林助理的意思。」老周说,「林助理说周芳’行为偏激,有社会危害性’,建议对她进行’重点关注’。钱总签字同意了。」
「所以周芳是被林助理报复的?」
「我不知道是不是报复。」老周摇头,「我只知道,林助理有权力打这个标签。打了之后,这个人在永光县就寸步难行。比坐牢还难受。」
「被打了标签的人有多少?」
「这个……」老周犹豫了一下,「我没有具体数字。但我知道,不会太少。」
「我想见他们。」陈晓月说,「您能帮我联系吗?」
老周看了她很久。
「陈女士,」他说,「您真的要这么做吗?」
「真的。」
「您不怕吗?」
「怕什么?」
「怕被报复。」老周说,「如果您真的做了什么事,让永光平台觉得您是’不稳定因素’,您也可能变成’重点关注对象’。到时候,您就完了。」
陈晓月沉默了一会儿。
「老周,」她说,「您觉得周芳有错吗?」
老周没有说话。
「她只是想讨回公道。」陈晓月说,「她没有做错任何事。但就因为她得罪了林助理,她就被打上了标签。她的生活被毁了。她的人被毁了。她甚至开始怀疑,是不是真的是自己的错。」
「……」
「如果没有人站出来,」陈晓月说,「这种事会一直发生。今天是周芳,明天可能是您,后天可能是我。我们都会变成那个系统里的’重点关注对象’。我们都会变成别人眼中的’不稳定因素’。」
老周低下头。
「老周,」陈晓月说,「我不是来送死的。我是来做事的。我要让那些被错误对待的人,重新被看见。」
老周沉默了很久。
「好吧。」他终于开口,「我帮您联系。」
十二、裂缝
第七天,陈晓月收到了一份名单。
名单上是十七个人的名字。他们都是永光县的「重点关注对象」。他们的信用等级都是D或者E。他们被系统判定为「失信人员」「不稳定因素」「社会风险个体」。
他们中有下岗工人,有小商贩,有被钱穆的商业对手陷害的企业家,有一个是因为在朋友圈发了一条「永光平台利息太高」的抱怨。
他们都有一个共同点:他们都曾经试图反抗过永光平台的某些决定。
陈晓月开始一个个地联系他们。
有的人愿意说话,有的人不愿意。有的人还抱有希望,有的人已经完全放弃了。
但每一个人,都有一段相似的故事。
他们都被系统错误地惩罚了。他们都曾经试图申诉,但申诉被驳回了。他们都曾经试图找人说理,但没有人愿意听。他们都曾经试图逃离永光县,但他们走不了——他们的信用等级太低,买不了火车票,买不了飞机票,甚至买不了长途汽车票。
他们是这个系统里的弃民。
陈晓月把他们的故事一个个地记录下来。她把这些记录整理成一篇文章,配上数据分析,配上法律依据,配上那些「重点关注对象」的人证。
文章的最后,她写道:
「永光平台的信用评级系统,表面上是一个客观公正的系统。它用数据和算法来评价每一个人。但实际上,它是一个由人控制的、被权力绑架的系统。那些掌握权力的人,可以随意给任何人打上’重点关注’的标签,可以让任何人的生活陷入绝境。
这不是大数据治理。这是数字独裁。
我们需要的不是一个能够决定每个人命运的系统。我们需要的是一个能够保护每个人权利的系统。一个能够让人活得更有尊严的系统。
永光县的模式,不应该被推广。它应该被审视、被质疑、被改变。」
陈晓月把这篇文章发给了她上海媒体的朋友。
三天后,这篇文章被发表了。
十三、之后
一个月后,永光县来了一批省里的调查组。
调查组是来调查永光平台的数据治理问题的。调查组的组长是一个五十多岁的男人,戴着眼镜,脸上带着那种学者式的严肃。
他没有先去永光塔,而是先去了南街社区。
他没有先去见钱穆,而是先去找了周芳。
他问周芳:「您的遭遇是真的吗?」
周芳说:「是真的。」
他问:「您有证据吗?」
周芳说:「有。」
然后她拿出了一部旧手机。手机里安装着一个伪装成天气预报软件的程序。程序里记录着她在永光平台上的所有遭遇。每一笔异常扣分,每一次信用评级下降,每一次被系统拒绝的消费申请。
调查组把这台手机带走了。
三天后,永光集团的服务器被查封了。
钱穆被带走了。
林助理也被带走了。
永光平台的运营被暂停了。
永光县的「智慧治理」模式被叫停了。
那个写着「永光,让数据服务人类」的标语被摘下来了。
周芳站在南街的巷子里,看着那些曾经装在楼道里的摄像头被一个个拆下来。她突然觉得天空很蓝,阳光很暖,空气里有她很久没有闻到过的自由的味道。
陈晓月站在她旁边。
「接下来呢?」周芳问,「之后会怎样?」
「之后……」陈晓月想了想,「之后会有很多事要做。要重新建立信用体系。要规范数据的使用。要建立申诉机制。要……」
「我是说,我们。」周芳打断她,「我们接下来会怎样?」
陈晓月看着她。「您会重新开始。」
「重新开始?」
「是的。」陈晓月说,「您的信用评级会被重新评估。您可以重新申请贷款,重新找工作,重新送您的孩子去好的学校。您可以重新开始。」
周芳沉默了很久。
「重新开始……」她喃喃地说,「我都快忘了,那是什么感觉。」
陈晓月握住她的手。
「您会想起来的。」她说,「我们都会想起来的。」
尾声
一年后,陈晓月收到了一封信。
信是从永光县寄来的。寄信人是周芳。
「晓月:
你的「裂缝」计划成功了。虽然之后发生了很多事——有些是好的,有些是不好的。但总体来说,我们这些被错误对待的人,终于被看见了。
永光平台倒了,但新的平台又起来了。不过这一次,那些新的平台被要求必须透明、必须可申诉、必须有监管。我们这些人的信用评级也被重新评估了。我从D变成了B。我终于可以坐公交车了。我终于可以去医院挂专家号了。我终于可以在菜市场买菜了。
我的儿子也转学到了县里最好的小学。他说他的新同学都不知道他妈妈以前是「失信人员」。他说他很高兴。
我想谢谢你。谢谢你让我们重新被看见。谢谢你让我们知道,我们不是坏人。
我有时候会想起钱穆。不知道他现在怎么样了。那个曾经收废品的男人,后来变成了那个控制一切的人,再后来变成了阶下囚。他到底是个什么样的人?是好人还是坏人?也许两者都是。也许两者都不是。也许他只是一个人。一个被自己的算法吞噬的人。
算了,不说他了。
我想告诉你的是,我现在在南街开了一家小超市。不是很大,但足够生活了。我的超市门口装了一台老式的收银机,没有扫码,没有刷脸,只收现金和手机转账。我想让来我店里的人,能够自由地买东西,不用担心自己的信用等级。
这算是我的一点小坚持吧。
如果你有空,欢迎回来看看。
周芳」
陈晓月读完了信,走到窗边。
窗外是上海的高楼大厦,车水马龙,人来人往。每一个人的手机屏幕上,都在闪烁着各种各样的App图标。
永光平台已经不存在了。但永光平台的影子还在。在每一个要求刷脸的地方,在每一个要求绑定身份证的地方,在每一个「同意以下条款才能继续」的地方。
算法还在。系统还在。数据还在。
但裂缝也在。
只要有裂缝,光就会照进来。
陈晓月打开电脑,开始写一个新的项目。
她给这个项目起了个名字:
「透光」。
写作完成:字数约18000