魏薇，牛金行，景慧昀

（中國信息通信研究院，北京 100191）

1 引言

近年來，伴隨數(shù)據(jù)量爆發(fā)增長、算力顯著提升以及深度學(xué)習(xí)算法的突破性應(yīng)用，人工智能技術(shù)獲得了長足發(fā)展，但目前主要應(yīng)用于人臉識別、語音識別等有限場景，新冠肺炎疫情防控為人工智能技術(shù)提供了特殊應(yīng)用場景和實(shí)際使用需求。人工智能憑借自主學(xué)習(xí)、快速感知、實(shí)時決策和人工替代等優(yōu)勢，在防疫工作中為病患診斷救治、疫情防控保障、企業(yè)復(fù)工復(fù)產(chǎn)等環(huán)節(jié)賦能助力，發(fā)揮出不可或缺的重要作用。同時，人工智能在疫情防控應(yīng)用中暴露出一定的安全問題，需及早探索安全管理，保障產(chǎn)業(yè)穩(wěn)步發(fā)展。

2 智援疫情

2.1 直接應(yīng)用抗疫一線，增強(qiáng)診斷救治能力

（1）提升檢測診斷效率。百度免費(fèi)開放線性時間算法，將新冠病毒的全基因組二級結(jié)構(gòu)預(yù)測從55分鐘縮短至27秒，加速新冠病毒研究和變異檢測?；谟?jì)算機(jī)視覺算法的智能醫(yī)療診斷系統(tǒng)可實(shí)現(xiàn)單病例肺部CT量化結(jié)果的秒級輸出，大幅提升新冠肺炎診斷效率。

（2）加快疫苗新藥研發(fā)。疫情期間，藥物研發(fā)機(jī)構(gòu)聯(lián)合阿里、百度等企業(yè)共同攻關(guān)，利用人工智能技術(shù)強(qiáng)大的分析預(yù)測能力，進(jìn)行蛋白質(zhì)變異分析、活性分子篩選等工作，滿足疫苗新藥研發(fā)過程中海量數(shù)據(jù)分析和科學(xué)超算的需求，全面加速研發(fā)進(jìn)程。

（3）提供醫(yī)護(hù)輔助服務(wù)。針對醫(yī)護(hù)人員不足，無人車、服務(wù)機(jī)器人等智能產(chǎn)品在重點(diǎn)醫(yī)院中得到廣泛應(yīng)用，可實(shí)現(xiàn)無接觸、全天候的醫(yī)療物資配送、防疫清掃消毒等醫(yī)護(hù)服務(wù)，減輕醫(yī)護(hù)人員的工作壓力，并降低交叉感染風(fēng)險。

2.2 優(yōu)化疫情防控方式，提升服務(wù)保障能力

（1）輔助基層人員排查。智能外呼機(jī)器人被大量用于基層社區(qū)的電話群呼調(diào)查回訪工作中，日撥打能力可達(dá)萬余次，并基于采集信息，進(jìn)行風(fēng)險分析預(yù)判，排查可疑問題和可疑人員，實(shí)現(xiàn)精準(zhǔn)智控。

（2）提供疫情咨詢服務(wù)。阿里、騰訊等企業(yè)推出線上智能咨詢系統(tǒng)，利用語義分析、語音合成技術(shù)，提供疫情動態(tài)、防護(hù)指導(dǎo)、就醫(yī)問診等問答服務(wù)，并基于話題跟蹤技術(shù)，識別并破除疫情謠言，協(xié)助開展防控宣教，營造良好的社會輿論環(huán)境。

（3）優(yōu)化物資調(diào)度配送。針對全國捐助物資調(diào)度配送效率不高的問題，杉數(shù)科技免費(fèi)開放PonyPlus智慧物流調(diào)度平臺，基于優(yōu)化求解器算法智能化調(diào)度決策過程，運(yùn)輸排班用時從小時級大幅縮短至10分鐘以內(nèi)，并優(yōu)先保障重點(diǎn)地區(qū)需求，為戰(zhàn)疫勝利提供高效的物流保障。

2.3 推進(jìn)企業(yè)復(fù)工復(fù)產(chǎn)，賦能快速恢復(fù)產(chǎn)能

（1）防控復(fù)工人員感染。在火車站、地鐵站以及園區(qū)入口等人流密集場所,基于“計(jì)算機(jī)視覺+紅外技術(shù)”的新型測溫可非接觸、高效快速的開展體溫檢測，并對發(fā)熱人員進(jìn)行識別、預(yù)警，防控復(fù)工人員聚集感染。

（2）助力企業(yè)產(chǎn)能恢復(fù)。針對疫情期間用工缺口，大量制造企業(yè)特別是應(yīng)急醫(yī)療用品企業(yè)開始采用自動化的智能生產(chǎn)裝備。在山東、廣東等省的口罩生產(chǎn)企業(yè)中，基于計(jì)算機(jī)視覺的自動口罩機(jī)可實(shí)現(xiàn)單機(jī)日產(chǎn)10萬只，有效地提升了產(chǎn)能，緩解了醫(yī)療防護(hù)物資緊張的狀況。

3 問題分析

3.1 部分產(chǎn)品智能不足制約其防疫期間大規(guī)模應(yīng)用

（1）防疫服務(wù)機(jī)器人智能水平和應(yīng)用規(guī)模有限。當(dāng)前，消毒清潔、送藥送餐等防疫服務(wù)機(jī)器人尚未有效地解決自適應(yīng)未知場景、人類行為理解與預(yù)判等智能難題。此類機(jī)器人主要還是完成固定機(jī)械類工作，其正常運(yùn)行嚴(yán)重依賴應(yīng)用場景的地圖掃描、路徑規(guī)劃等人為工作。這使得防疫服務(wù)機(jī)器人無法快速大規(guī)模部署，只在少量醫(yī)院試點(diǎn)應(yīng)用。

（2）國產(chǎn)醫(yī)療機(jī)器人智能程度距離防疫實(shí)用仍有差距。相比美國第一例新冠病人全程由醫(yī)用治療機(jī)器人輔助完成救治，我國手術(shù)機(jī)器人、采血等輔助機(jī)器人在多模信息精準(zhǔn)感知、柔性控制精細(xì)操作等關(guān)鍵智能化技術(shù)方面存在不足，用于病人治療的國產(chǎn)機(jī)器人數(shù)量少，難以滿足突發(fā)疫情的大量治療急需。

3.2 網(wǎng)絡(luò)安全風(fēng)險在智能防疫應(yīng)用中不容忽視

（1）智能防疫應(yīng)用潛藏數(shù)據(jù)泄露隱患。智能防疫產(chǎn)品應(yīng)用中需獲取大量人臉、CT影像、交通出行等個人敏感數(shù)據(jù)。部分疫情創(chuàng)新應(yīng)用系統(tǒng)在緊急上線情況下缺少或者簡化安全檢測流程，安全防護(hù)能力不足。據(jù)中國信通院檢測發(fā)現(xiàn)，部分智能防疫應(yīng)用存在個人敏感信息可公開下載、敏感信息明文傳輸?shù)韧怀龅臄?shù)據(jù)安全隱患。

（2）部分智能防疫應(yīng)用遭受網(wǎng)絡(luò)攻擊。防疫物資免費(fèi)發(fā)放信息平臺等智能防疫應(yīng)用上線初期就遭受黑客攻擊，致系統(tǒng)癱瘓，用戶無法訪問。疫情防控期間，我國安全廠商監(jiān)測到多起境外組織意圖竊取我國醫(yī)療、政府等領(lǐng)域數(shù)據(jù)的境外APT攻擊。

3.3 智能算法安全風(fēng)險應(yīng)及早防范

部分智能防疫算法魯棒性弱，對抗樣本可使其產(chǎn)生錯誤輸出。目前，在智能測溫、智能診斷等防疫產(chǎn)品中，人體檢測、人臉識別、圖像分類等基于深度神經(jīng)網(wǎng)絡(luò)的機(jī)器視覺算法已廣泛應(yīng)用。然而，研究者通過真實(shí)案例證明對抗樣本可使這些智能算法產(chǎn)生錯誤輸出。2019年，華為研究者證實(shí)在佩戴的口罩或者額頭上粘貼特殊圖案可導(dǎo)致人臉識別算法失效。一旦這些方法被惡意利用，將危及智能防疫產(chǎn)品輸出結(jié)果的準(zhǔn)確性和可靠性。

3.4 智能創(chuàng)新應(yīng)用的安全管理機(jī)制亟需完善

為解決疫情防控應(yīng)急之需，無人消毒車、防疫服務(wù)機(jī)器人、智能醫(yī)療系統(tǒng)等大量智能產(chǎn)品支援抗疫。但是，政府部門現(xiàn)有的管理機(jī)制無法有效應(yīng)對智能創(chuàng)新應(yīng)用的應(yīng)急審批需求，多采取簡化審批緊急許可，這在管理層面為智能產(chǎn)品安全埋下隱患。而美歐國家的人工智能安全監(jiān)管原則均以基礎(chǔ)性安全監(jiān)管為主，可借鑒的意義不大。因此，面對智能防疫工作引出的安全管理難題，如不能通過制度創(chuàng)新補(bǔ)足短板，將會因管理失位而導(dǎo)致智能產(chǎn)品安全問題。

4 思考建議

4.1 促進(jìn)人工智能技術(shù)加快推廣應(yīng)用

（1）促進(jìn)傳統(tǒng)行業(yè)智能化轉(zhuǎn)型。針對疫情期間出現(xiàn)的用工難題，深入對接工業(yè)制造、物流配送等行業(yè)需求，總結(jié)疫情防控工作中人工智能優(yōu)秀應(yīng)用案例，示范推廣，深化融合，推動傳統(tǒng)人力密集型行業(yè)智能化改造升級。

（2）推進(jìn)人工智能新興產(chǎn)業(yè)的發(fā)展。結(jié)合疫情防控實(shí)踐的經(jīng)驗(yàn)，持續(xù)改進(jìn)智能醫(yī)療、智能客服、無人駕駛等新興行業(yè)的產(chǎn)品能力和用戶體驗(yàn)，提高社會公眾對無人化、無接觸服務(wù)的認(rèn)可程度，依托國家“新基建”規(guī)劃，不斷壯大人工智能新興產(chǎn)業(yè)規(guī)模。

4.2 著力提升人工智能基礎(chǔ)核心能力

（1）加強(qiáng)人工智能基礎(chǔ)核心能力研究。針對人工智能應(yīng)用在疫情防控中出現(xiàn)的智能程度不高、可靠性弱等問題，加大基礎(chǔ)核心技術(shù)的研發(fā)力度，研究發(fā)展魯棒性強(qiáng)的通用人工智能理論和算法，提升智能產(chǎn)品的環(huán)境適應(yīng)能力和認(rèn)知決策能力。

（2）加強(qiáng)人工智能基礎(chǔ)環(huán)節(jié)生態(tài)建設(shè)。本次疫情防控期間，人工智能頭部企業(yè)紛紛開放算力、算法、框架等基礎(chǔ)資源，發(fā)展合力效果顯現(xiàn)，應(yīng)用水平快速提升。借鑒于此，應(yīng)強(qiáng)化應(yīng)用牽引，推進(jìn)人工智能基礎(chǔ)環(huán)節(jié)生態(tài)整合建設(shè)，支撐我國人工智能產(chǎn)業(yè)自主化、規(guī)?；l(fā)展。

4.3 建設(shè)完善智能產(chǎn)品安全管理體系

（1）加強(qiáng)智能產(chǎn)品安全管理?？偨Y(jié)疫情防控應(yīng)用管理經(jīng)驗(yàn)，健全人工智能安全管理體系，結(jié)合實(shí)際領(lǐng)域的應(yīng)用，加快建立特種服務(wù)機(jī)器人、無人物流運(yùn)輸車等智能產(chǎn)品的應(yīng)急安全管理機(jī)制，明確政府相關(guān)部門管理職責(zé)和審批權(quán)限。

（2）加快智能產(chǎn)品安全檢測。盡快出臺智能產(chǎn)品安全風(fēng)險檢測規(guī)范，引導(dǎo)企業(yè)自測和第三方檢測相結(jié)合，大力推廣為防疫服務(wù)相關(guān)智能產(chǎn)品和創(chuàng)新平臺提供安全檢測快速服務(wù)。

（3）提升智能產(chǎn)品安全監(jiān)測預(yù)警等能力。研究建立智能產(chǎn)品的安全風(fēng)險監(jiān)測預(yù)警、快速處置、追蹤溯源等機(jī)制和技術(shù)能力，及時發(fā)現(xiàn)和消除安全隱患，對惡意行為和責(zé)任者加強(qiáng)懲戒。

5 結(jié)束語

疫情防控既是人工智能技術(shù)產(chǎn)品應(yīng)用的“練兵場”，也是人工智能產(chǎn)品智能化水平、安全可靠程度的“試金石”。智能防疫不僅解決了疫情防控燃眉之急，更是發(fā)展智能制造、實(shí)現(xiàn)智能醫(yī)療等國家戰(zhàn)略達(dá)成的重要推動。本文歸納了新冠肺炎疫情防控工作中人工智能技術(shù)及產(chǎn)品的應(yīng)用場景和賦能成效，總結(jié)分析了智能防疫應(yīng)用中存在的問題和安全風(fēng)險，并結(jié)合疫情防控實(shí)踐，有針對性的提出促進(jìn)人工智能應(yīng)用并保障安全相關(guān)的思考建議，對于穩(wěn)步推進(jìn)人工智能技術(shù)產(chǎn)業(yè)的長遠(yuǎn)發(fā)展具有一定借鑒意義。