文/陳敏剛

隨著人工智能系統(tǒng)在各領(lǐng)域的廣泛應用，人工智能系統(tǒng)的質(zhì)量保證問題成為其實際應用中的關(guān)鍵因素?？紤]到人工智能技術(shù)目前仍被認為在一定程度上存在“不確定性”，基于人工智能系統(tǒng)的質(zhì)量保證領(lǐng)域尚存在諸多挑戰(zhàn)。

加快行業(yè)布局

人工智能是我國重點發(fā)展的產(chǎn)業(yè)之一。2017年，國務院印發(fā)的《新一代人工智能發(fā)展規(guī)劃》，提出了面向2 0 3 0 年我國新一代人工智能發(fā)展的指導思想、戰(zhàn)略目標、重點任務和保障措施，構(gòu)筑我國人工智能發(fā)展的先發(fā)態(tài)勢，加快建設(shè)創(chuàng)新型國家和世界科技強國。2018年后，我國又先后出臺了《促進新一代人工智能產(chǎn)業(yè)發(fā)展三年行動計劃（2018—2020年）》《關(guān)于促進人工智能和實體經(jīng)濟深度融合的指導意見》等政策性文件，提出要加快行業(yè)布局和規(guī)劃，在國際競爭中搶占先機。

上海將人工智能作為本市重點發(fā)展的三大先導產(chǎn)業(yè)之一，推動人工智能產(chǎn)業(yè)健康發(fā)展。2017年，上海發(fā)布《關(guān)于本市推動新一代人工智能發(fā)展的實施意見》，要求全面實施AI@SH行動。截至2020年，上海人工智能重點企業(yè)1 149家，全年產(chǎn)業(yè)規(guī)模達到2 246億元；已形成了較為完備的人工智能產(chǎn)業(yè)鏈，重大創(chuàng)新成果接連涌現(xiàn)，應用賦能價值不斷凸顯，“4+X”特色載體格局基本形成，產(chǎn)業(yè)生態(tài)進一步完善；人工智能“上海方案”獲批實施，國家新一代人工智能創(chuàng)新發(fā)展試驗區(qū)、創(chuàng)新應用先導區(qū)建設(shè)穩(wěn)步推進，3屆世界人工智能大會成功舉辦，這些舉措使品牌知名度進一步打響，為“十四五”期間建成人工智能“上海高地”、打造世界級產(chǎn)業(yè)集群奠定了良好基礎(chǔ)。

行業(yè)的健康發(fā)展，離不開質(zhì)量保證，新的產(chǎn)業(yè)發(fā)展目標同樣也對質(zhì)量保證工作提出了更高的要求。

質(zhì)量保證活動

人工智能是一種軟件系統(tǒng)，它所包含的需求分析、數(shù)據(jù)采集、設(shè)計與開發(fā)、測試和部署運維等環(huán)節(jié)都有必要進行適當?shù)馁|(zhì)量保證活動。據(jù)《上海市人工智能行業(yè)質(zhì)量狀況調(diào)查報告》顯示，47.32%的企業(yè)對“人工智能系統(tǒng)的故障導致對人類生命、健康、財產(chǎn)或自然環(huán)境的威脅”進行評估，58.03%的企業(yè)對“人類或其他系統(tǒng)對人工智能系統(tǒng)攻擊帶來的安全隱患”進行評估，77.67%的企業(yè)對“人工智能系統(tǒng)對個人隱私數(shù)據(jù)帶來的侵犯和泄露的風險”進行評估，這些風險評估都屬于質(zhì)量保證活動的一環(huán)。

舉個簡單的例子，新冠肺炎疫情期間，社會對智能測溫儀器存在大量需求。測溫儀器準不準、靈敏不靈敏、對工作環(huán)境要求高不高等，都將對防疫工作有重要影響。通過制定智能人體溫度檢測與識別系統(tǒng)的標準——《智能人體溫度檢測與識別系統(tǒng)技術(shù)要求和測試評價方法》（T/CESA 1008-2020），可解決這個問題。T/CESA 1008-2020主要包括功能指標和性能指標。功能指標要求人體智能測溫不僅要檢測出人臉，還要檢測出額頭（因為人體不同部位的溫度不一致，所以統(tǒng)一以額頭區(qū)域的溫度作為基準），準確地檢出體溫異常的人員；性能指標則關(guān)注人體溫度的測量精度和速度等，標準規(guī)定的溫度誤差不超過±0.4℃，測溫時間則不大于1 s。

缺少標準化方法

人工智能系統(tǒng)的質(zhì)量保證是個新的研究領(lǐng)域，目前缺少基于人工智能系統(tǒng)質(zhì)量保證的標準化方法。鑒于自身的特性，人工智能系統(tǒng)在質(zhì)量保證方面存在諸多挑戰(zhàn)。

因斯布魯克大學的Michael Felderer和奧地利哈根貝里軟件中心的Rudolf Ramler在《基于人工智能系統(tǒng)的質(zhì)量保證：概述和挑戰(zhàn)》中闡述：軟件應具有準確性和正確性，而基于人工智能的系統(tǒng)由于其內(nèi)在的不確定性被認為是存在固有“缺陷”的，它通常在一個精度范圍內(nèi)運行。這與常規(guī)測試和質(zhì)量保證原則及方法的假設(shè)是相悖的，即系統(tǒng)被默認應該是正確的。同時，機器學習和深度學習訓練的模型被認為是不透明、不直觀、難以理解的。開發(fā)人員和測試人員習慣于對傳統(tǒng)軟件系統(tǒng)進行規(guī)范和定義，這些規(guī)范和定義提供了理解、構(gòu)建和測試系統(tǒng)所需的知識。但是，當人工智能模型確認存在缺陷時，模型的“黑盒子”特性會影響模型的測試。

因此，常規(guī)的測試標準和質(zhì)量度量方法不能完全適用于基于人工智能的系統(tǒng)，而且目前，人工智能更迭速度非?？?，其更新時間已經(jīng)以天為單位。這就導致了行業(yè)標準水平遠遠落后于產(chǎn)業(yè)發(fā)展水平，一些系統(tǒng)在應用時無標準可以依據(jù)，質(zhì)量保證工作也缺少對應的參照物。

結(jié) 語

人工智能行業(yè)對更高質(zhì)量和更大范圍標準的應用需求很大，需要全社會投入更多的資源去實踐和探索人工智能的技術(shù)應用與測試評估規(guī)范，逐步建設(shè)一套完整的標準體系，為產(chǎn)業(yè)健康發(fā)展保駕護航。