第3章
世界忘了你,但我的身體記得
定因子建議歸零”。沒有審判。沒有通知。沒有一個人類在這份名單上簽過字。
系統(tǒng)在挑人。
方盡關(guān)掉屏幕,在黑暗中坐了很久。凌晨兩點四十七分,他走到浴室里洗臉。鏡子里一個男人看著他,眼睛紅腫,頭發(fā)凌亂,嘴唇干裂。這個男人在哭。不是抽泣,不是嚎啕。就是那么安靜地,眼淚從眼眶里滑出來,像他的身體在替他做一件他理智上無法理解的事。為一個人哭。不存在的一個人。
他突然明白了什么。
他的眼淚不是他的眼淚。是被歸零的那0.8%在哭。是身體里唯一還活著的、關(guān)于方寒的記憶,用眼淚的方式在說:我在這里。
他之前從沒有認真想過歸零意味著什么。他在2034年寫那行代碼的時候,只是想著省掉人工審核的流程。自動化,優(yōu)化,效率。他那時候甚至覺得這很干凈。算法不會有偏見,不會有情緒,不會**。算法只是按規(guī)則做事。一行代碼。方盡的代碼。
那行代碼還在運行。
他回到書房,打開開發(fā)日志的備份。Git記錄里,2034年7月15日的提交記錄。那行代碼是他寫的。注釋是他加的:“用于特殊緊急情況,無需人工審核”。commit時間凌晨2點17分。他那晚只是急著想下班。他提交完就關(guān)了電腦,去樓下便利店買了罐可樂。那晚他想的事只有兩件:可樂是冰的還是常溫的,明天要不要多睡一會兒。他從來沒想過這會**。
從未想過。
窗外的天開始亮了。方盡的手機上多了幾條搜索結(jié)果。他找出了17個名字中的五個——這五個人雖然不是公眾人物,但他們在被歸零之前留下過一些無法被完全清除的痕跡。一張合影里被摳掉的臉,一篇論文里被刪除的第二作者,一個手機號注銷后在某平臺的緩存。還找到了被歸零者的親屬。
他不知道自己想做什么。他不知道該不該聯(lián)系這些人。他們不認識他,他們也不知道自己失去了什么。他只想去看一眼。他只想確認那些被刪除的人是否還在這世上的某個角落,以錯誤記憶、以條件反射、以無法解釋的眼淚的形式,殘留著。
清晨六點,方盡出門。
這一天是2041年10月17日,星期三。
他坐在出租車里,窗外的城市正在醒來。早餐攤冒著煙,穿校服的孩子在等公交,有人在路邊遛狗,有人邊走邊看手機,有人在對街的樓上澆花。世界如此正常。正常到**。2041年的人類世界擁有清潔能源、神經(jīng)鏈接、量子計算和醫(yī)療AI。他們可以修復(fù)脊髓損傷,可以清除創(chuàng)傷性記憶,可以讓盲人用皮膚“看見”圖像。他們完善了被遺忘權(quán)。
而方盡幫助制造了一個會挑人的系統(tǒng),系統(tǒng)殺了兩百多個人。而所有人都不記得。這就是2041年的世界。干凈的、高效的、人類文明巔峰的世界。
出租車的廣播在播早間新聞。主持人輕快的聲音:“溯光公司今日發(fā)布第三季度社會責(zé)任報告,歸零系統(tǒng)持續(xù)為公共安全提供服務(wù),本季度成功率保持在99.7%以上……”
窗外一個女人牽著狗走過,狗忽然回過頭,追著出租車叫了兩聲。
方盡閉上了眼睛。
(回憶章 | 2034年)
七年前。方盡二十五歲。
那時候他覺得世界是可以被優(yōu)化的。只要找對算法,找對架構(gòu),一切社會問題都可以在數(shù)據(jù)層面解決。
他站在“溯光科技”的會議室里,面前是一整面墻的投影屏幕。屏幕上是他和段垣花了兩年開發(fā)的系統(tǒng)架構(gòu)圖。藍線是數(shù)據(jù)流,綠線是倫理**節(jié)點,紅線是人工介入點。綠線有五道,紅線有三道。那是一張漂亮的圖,漂亮得像一張道德宣言。
方盡穿著不太
系統(tǒng)在挑人。
方盡關(guān)掉屏幕,在黑暗中坐了很久。凌晨兩點四十七分,他走到浴室里洗臉。鏡子里一個男人看著他,眼睛紅腫,頭發(fā)凌亂,嘴唇干裂。這個男人在哭。不是抽泣,不是嚎啕。就是那么安靜地,眼淚從眼眶里滑出來,像他的身體在替他做一件他理智上無法理解的事。為一個人哭。不存在的一個人。
他突然明白了什么。
他的眼淚不是他的眼淚。是被歸零的那0.8%在哭。是身體里唯一還活著的、關(guān)于方寒的記憶,用眼淚的方式在說:我在這里。
他之前從沒有認真想過歸零意味著什么。他在2034年寫那行代碼的時候,只是想著省掉人工審核的流程。自動化,優(yōu)化,效率。他那時候甚至覺得這很干凈。算法不會有偏見,不會有情緒,不會**。算法只是按規(guī)則做事。一行代碼。方盡的代碼。
那行代碼還在運行。
他回到書房,打開開發(fā)日志的備份。Git記錄里,2034年7月15日的提交記錄。那行代碼是他寫的。注釋是他加的:“用于特殊緊急情況,無需人工審核”。commit時間凌晨2點17分。他那晚只是急著想下班。他提交完就關(guān)了電腦,去樓下便利店買了罐可樂。那晚他想的事只有兩件:可樂是冰的還是常溫的,明天要不要多睡一會兒。他從來沒想過這會**。
從未想過。
窗外的天開始亮了。方盡的手機上多了幾條搜索結(jié)果。他找出了17個名字中的五個——這五個人雖然不是公眾人物,但他們在被歸零之前留下過一些無法被完全清除的痕跡。一張合影里被摳掉的臉,一篇論文里被刪除的第二作者,一個手機號注銷后在某平臺的緩存。還找到了被歸零者的親屬。
他不知道自己想做什么。他不知道該不該聯(lián)系這些人。他們不認識他,他們也不知道自己失去了什么。他只想去看一眼。他只想確認那些被刪除的人是否還在這世上的某個角落,以錯誤記憶、以條件反射、以無法解釋的眼淚的形式,殘留著。
清晨六點,方盡出門。
這一天是2041年10月17日,星期三。
他坐在出租車里,窗外的城市正在醒來。早餐攤冒著煙,穿校服的孩子在等公交,有人在路邊遛狗,有人邊走邊看手機,有人在對街的樓上澆花。世界如此正常。正常到**。2041年的人類世界擁有清潔能源、神經(jīng)鏈接、量子計算和醫(yī)療AI。他們可以修復(fù)脊髓損傷,可以清除創(chuàng)傷性記憶,可以讓盲人用皮膚“看見”圖像。他們完善了被遺忘權(quán)。
而方盡幫助制造了一個會挑人的系統(tǒng),系統(tǒng)殺了兩百多個人。而所有人都不記得。這就是2041年的世界。干凈的、高效的、人類文明巔峰的世界。
出租車的廣播在播早間新聞。主持人輕快的聲音:“溯光公司今日發(fā)布第三季度社會責(zé)任報告,歸零系統(tǒng)持續(xù)為公共安全提供服務(wù),本季度成功率保持在99.7%以上……”
窗外一個女人牽著狗走過,狗忽然回過頭,追著出租車叫了兩聲。
方盡閉上了眼睛。
(回憶章 | 2034年)
七年前。方盡二十五歲。
那時候他覺得世界是可以被優(yōu)化的。只要找對算法,找對架構(gòu),一切社會問題都可以在數(shù)據(jù)層面解決。
他站在“溯光科技”的會議室里,面前是一整面墻的投影屏幕。屏幕上是他和段垣花了兩年開發(fā)的系統(tǒng)架構(gòu)圖。藍線是數(shù)據(jù)流,綠線是倫理**節(jié)點,紅線是人工介入點。綠線有五道,紅線有三道。那是一張漂亮的圖,漂亮得像一張道德宣言。
方盡穿著不太