2033年初春,上海外灘的梧桐剛抽新芽,一封匿名舉報信卻像塊冰疙瘩,砸進了金監總局局長辦公室的郵箱。
“‘智融寶’ai風控系統,刻意壓低新市民和低收入人群的授信額度!”信里附著的用戶畫像分析圖觸目驚心——居住在城鄉結合部、快遞站點集中片區、月薪低于8000元的群體,貸款通過率僅有21%,而商務區高收入人群的通過率高達79%。
當晚十點,沈逸風被急促的電話鈴聲驚醒。
他揉了揉發酸的眼睛,盯著屏幕上跳動的郵件標題,眉頭擰成了川字。
二十分鐘后,金監總局23層的應急會議室里,十幾盞頂燈將墻面照得雪亮,投影幕布上正循環播放著舉報信里的關鍵數據。
“技術不能染上歧視的污點。”沈逸風一拳砸在會議桌上,震得茶杯里的水濺了出來,“ai算法要是成了‘嫌貧愛富’的幫兇,我們監管的就是數字時代的‘高利貸’。”
坐在左側的金監總局局長老陳推了推眼鏡:“初步核查,‘智融寶’的開發方是某頭部互聯網平臺,他們解釋說是‘基于大數據的風險定價’——說白了,就是用歷史還款記錄、消費習慣這些標簽,給用戶打‘信用分’。”
“歷史數據本身就是偏見的產物!”沈逸風調出技術員剛整理的案例:住在閔行區某城中村的外賣騎手小王,月收入穩定在9500元,連續三年按時歸還花唄,卻因為居住地址郵編被系統判定為“高風險區域”,授信額度只有2000元;
而陸家嘴某投行經理,盡管信用卡曾有過逾期記錄,卻拿到了30萬授信。
數據中心的技術員小林打開演示屏,指著算法邏輯圖解釋:“系統會把‘快遞站點密集區’‘城中村’這些地理標簽,與‘收入不穩定’‘違約率高’的歷史數據關聯,默認這些區域的用戶風險更高。”
他敲了敲鍵盤,屏幕上跳出一組對比數據:“同樣的信用評分,住在靜安寺附近的用戶能拿到10萬額度,而住在浦東新區某動遷小區的用戶只能拿到3萬。”
“這不是效率,是數字鴻溝!”沈逸風的聲音陡然拔高,“技術越智能,越要把公平放在第一位。”
他轉頭對老陳說,“立刻成立專項工作組,我親自牽頭——第一,徹查所有持牌金融機構的ai風控模型;第二,研發‘公平性審計’工具包,強制要求模型定期接受反偏見檢測;第三,消費信貸領域先行試點,限期整改。”
專項工作組的辦公室設在總局一樓的數據中心,二十臺顯示器同時閃爍著不同金融機構的算法代碼。
沈逸風戴著防藍光眼鏡,俯身盯著技術員小周的操作界面——某消費金融公司的風控模型里,赫然寫著“若用戶職業為‘外賣騎手’‘快遞員’,初始額度下調30%”的規則。
“這規則是誰定的?”沈逸風皺眉。
“是歷史數據訓練出來的。”小周指著屏幕下方的數據流,“系統分析了過去五年這類職業用戶的還款情況,發現逾期率比白領高1.2個百分點,所以自動優化了這個參數。”
“那是因為他們沒被平等對待!”沈逸風拍了下桌子,“外賣騎手為了準時送餐,經常得自掏腰包墊付餐費,逾期可能是因為平臺結算延遲,不是信用問題!”
他調出小王的訂單記錄,“看見沒?這小伙子上個月有12筆準時送達記錄,客戶好評率100%,就因為系統‘默認’他是高風險,額度被砍了一半。”
會議室的門被推開,受影響的年輕打工人代表小李走了進來。
他穿著褪色的外賣制服,手里攥著手機,屏幕上是他第7次被拒貸的通知:“沈領導,我跑單五年,沒欠過一分錢網貸,就因為住城鄉結合部,連租電動車都要押一付三……”
他的聲音帶著哽咽,“我媽住院開刀,我連手術費都湊不齊。”