苗煒

2016年，斯坦福大學的研究人員訓練了一個人工智能系統(tǒng)，它可以較為準確地預測一個病人是否會在接下來的3個月到12個月內(nèi)死亡。該團隊利用的數(shù)據(jù)是17萬名死于癌癥、心臟和神經(jīng)系統(tǒng)疾病的患者，團隊將患者的診斷結(jié)果、醫(yī)療程序、處方藥在內(nèi)的信息輸入，以教導人工智能系統(tǒng)。隨著神經(jīng)元權(quán)重的更新，深度神經(jīng)網(wǎng)絡會得到訓練。在那些預計在12個月內(nèi)死亡的人中，有90%的確在這個時間范圍內(nèi)死亡，被預測能活過12個月的病人中，有95%確實活了更長的時間。不要被90%這個準確率嚇到，這些病人大多病入膏肓，醫(yī)生和普通人也能做出類似的預測。不過，這個預測系統(tǒng)還是比較嚇人，我們不知道該拿它干什么。

當我們問算法“為什么”時，它也只能茫然地看著我們……

醫(yī)生悉達多·慕克吉在《紐約時報》上寫了一篇文章，他說：“死亡預測系統(tǒng)確實可以學習知識，但它無法告訴我們它能學到知識的原因，它能預測出概率，卻無法表達預測背后的推理過程。這就像一個通過嘗試并且不斷犯錯而學會了騎自行車的孩子，當要他描述該怎么騎自行車時，他只能聳聳肩跑開了。當我們問算法‘為什么’時，它也只能茫然地看著我們。與死亡一樣，這是另一個黑匣子?！焙谙蛔拥难芯恳廊辉诶^續(xù)，2019年，谷歌的研究人員表示，在預測人類壽命這個領域，深度學習通過醫(yī)院中大量的患者信息，能夠取得比傳統(tǒng)的統(tǒng)計學模型更好的結(jié)果。

且不管這套系統(tǒng)。我們看一個真實的病例，2001年夏天，有一位58歲的英國人忽然發(fā)現(xiàn)自己撒不出尿來了，他擔心自己得了癌癥，初步診斷結(jié)果是前列腺肥大，吃藥就能解決撒尿問題，但每三個月要去醫(yī)院做血檢，檢查PSA數(shù)值，這是前列腺特異性抗原檢測。2002年10月16日，他進行了血檢，醫(yī)生一周后通知他，懷疑他患慢性白血病，要進行骨髓檢測和脾檢。醫(yī)生告訴他，別害怕，即使患有白血病，你也能再活十年。這是一個醫(yī)生做出的預測，對這位患者來說，十年可不夠，他爸爸活到了九十多歲，他也想活到九十多呢。接下來的檢查表明，他沒有白血病，他的病叫骨髓纖維變性，一種貧血癥，病人的脾會腫大。病人家屬起先松了一口氣，聽起來骨髓纖維變性比白血病要溫和一些，但上網(wǎng)搜索了一番之后，家屬發(fā)現(xiàn)，這個病也很兇險，有網(wǎng)站說，患者能存活四年，有網(wǎng)站說，患者能活五年到十年。盡管我們還沒有一個公認的權(quán)威的預測系統(tǒng)，但網(wǎng)上總能搜到存活率和存活時間。

醫(yī)生給這位患者提供的診療方案是骨髓移植，醫(yī)生說，如果不進行骨髓移植手術(shù)，患者只有兩年的健康壽命了。進行手術(shù)也有各種可預測和不可預測的風險，而且按照醫(yī)生“周全”的手術(shù)方案，他余生很長一段時間都要在醫(yī)院中度過，大衛(wèi)的老婆向他建議，別治了，過完兩年健康的生活，剩下的就隨它去吧。大衛(wèi)聽了，很是沮喪。他不滿足于活兩年，他頻繁進出醫(yī)院，做前列腺檢查、脾檢查，醫(yī)生最終決定，先切脾，三個月再做骨髓移植，最后再考慮前列腺癌。大衛(wèi)照著這個程序做了，但在骨髓移植手術(shù)之后，大衛(wèi)去世了，他沒能活到醫(yī)生根據(jù)白血病預測的十年壽命，也沒按照網(wǎng)上最悲觀的說法，患骨髓纖維變性能活四年，也沒有活到醫(yī)生說的不進行手術(shù)可以有兩年的健康生活。

預測一個病人能活多久，斯坦福大學的智能系統(tǒng)包括了13654維的輸入，聽起來很復雜，但其原理沒那么復雜，可以想見，如果有足夠多的數(shù)據(jù)，智能預測系統(tǒng)大概會越來越準確。但一個病人是否需要這種預測呢？社會或者政府需要這樣的預測嗎？如果我們知道一個病人情況危急，又能有多少醫(yī)療資源能救助他呢？所以，悉達多·慕克吉選擇無視這個黑匣子。