文/趙繪存

一、天津人工智能產(chǎn)業(yè)發(fā)展現(xiàn)狀

人工智能技術(shù)已經(jīng)成為天津城市發(fā)展的重要技術(shù)載體。在基礎(chǔ)設(shè)施建設(shè)層面，2020年6月底，天津移動第6000個5G基站順利建成，率先實現(xiàn)天津行政區(qū)域5G信號全覆蓋。在產(chǎn)業(yè)層面，天津形成以人工智能為核心、以新一代信息技術(shù)為引領(lǐng)、以智能制造為主攻方向、以新型智能基礎(chǔ)設(shè)施為關(guān)鍵支撐、各領(lǐng)域深度融合發(fā)展的產(chǎn)業(yè)格局。在應(yīng)用層面，目前，天津在智能制造、智慧城市、智慧教育、智慧醫(yī)療、智慧媒體等垂直行業(yè)的應(yīng)用發(fā)展已形成80個5G應(yīng)用場景（40個實施中、40個待實施）。在智能制造層面，兩年來，天津共支持了4批911個智能化改造項目，安排財政資金36.2億元，打造高質(zhì)量、多領(lǐng)域的智能工廠、數(shù)字化車間，推動產(chǎn)業(yè)轉(zhuǎn)型升級。人工智能產(chǎn)業(yè)的快速發(fā)展，產(chǎn)業(yè)技術(shù)深度覆蓋的同時，不可避免地將技術(shù)所帶來的安全風險擴散到社會的各個領(lǐng)域。

二、天津人工智能技術(shù)發(fā)展的潛在風險識別

（一）社會輿情風險

一是虛假新聞問題。通過人工智能技術(shù)，能夠虛構(gòu)物體或是人物的運動軌跡，比如非法的視頻剪輯制作，可能導致謠言快速地擴散，對天津城市建設(shè)產(chǎn)生不良的影響。二是數(shù)據(jù)的非法使用問題。如當前大數(shù)據(jù)分析應(yīng)用的持續(xù)拓展，使得獲取數(shù)據(jù)的過程變得更加的輕松和容易，更多的人群可以通過抓取網(wǎng)絡(luò)數(shù)據(jù)進行數(shù)據(jù)分析，有可能因為個人的偏好造成數(shù)據(jù)偏頗的分析結(jié)果，從而對社會形成非常不良的影響。

（二）公眾信息風險

一是數(shù)據(jù)泄漏引發(fā)的隱私安全。個人數(shù)據(jù)的采集與利用過程中，不可避免地造成信息的傳播或泄露，由此引發(fā)信息泄露、侵犯隱私的風險。如當前我們正進入一個APP大規(guī)模應(yīng)用的時代，各種各樣的APP都會根據(jù)需要獲取個人信息，但每個APP背后的信息保護程度千差萬別，個人信息泄露時有發(fā)生。二是數(shù)據(jù)偽造引發(fā)的隱私安全。人工智能圖像識別、語音合成技術(shù)的發(fā)展，使人工合成一個人的聲音和外貌成為可能，將會產(chǎn)生非常大的影響，比如利用上述技術(shù)通過網(wǎng)絡(luò)進行詐騙活動，將會對天津居民的人身財產(chǎn)產(chǎn)生威脅。三是數(shù)據(jù)偏好應(yīng)用誘發(fā)社會治理風險。人工智能技術(shù)對于個人偏好的數(shù)據(jù)化處理，在購物網(wǎng)站，通過捕捉消費者瀏覽網(wǎng)頁的習慣來獲取消費者購買特定商品的意愿，進而有針對性地進行廣告的營銷和宣傳，非常容易誘發(fā)過度消費，而過度消費對于經(jīng)濟條件尚不成熟的人群（如大學生和剛剛就業(yè)的人群）容易引發(fā)背后的社會犯罪行為，形成社會治理的隱患。

（三）生產(chǎn)安全風險

人工智能在生產(chǎn)安全上的雙刃劍效應(yīng)之一就是技術(shù)不合理應(yīng)用以及新技術(shù)發(fā)展所誘發(fā)的深度網(wǎng)絡(luò)安全風險。一是政府管理服務(wù)方面，據(jù)有關(guān)數(shù)據(jù)統(tǒng)計，地方政府網(wǎng)站正成為黑客攻擊的“重災(zāi)區(qū)”，一旦遭受攻擊，將造成重大數(shù)據(jù)的損失，甚至會在政府網(wǎng)站上發(fā)布不實消息，引發(fā)輿論風險。二是工業(yè)生產(chǎn)智能化網(wǎng)絡(luò)設(shè)備被劫持誘發(fā)的安全風險。截至2019年底，全市智能工廠和數(shù)字車間數(shù)量分別達到60家和100家，智能制造類企業(yè)占規(guī)上企業(yè)數(shù)量近乎1/5。同時，天津納入統(tǒng)計的數(shù)據(jù)中心機架數(shù)已達42615個，在建數(shù)據(jù)中心機架61000個。工廠內(nèi)部生產(chǎn)管理數(shù)據(jù)、生產(chǎn)操作數(shù)據(jù)以及工廠外部數(shù)據(jù)等各類數(shù)據(jù)一旦遭網(wǎng)絡(luò)劫持，將給企業(yè)帶來嚴重的安全問題，輕則停產(chǎn)停業(yè)，重則會造成安全事故。三是社會民生領(lǐng)域智能化網(wǎng)絡(luò)失常誘發(fā)的風險。如智能網(wǎng)聯(lián)車正開始進入大規(guī)模示范和應(yīng)用階段。2020年6月底，上海首批智能網(wǎng)聯(lián)汽車率先在滴滴APP上開放服務(wù)，天津也計劃在部分地區(qū)開始測試，如果車輛發(fā)生網(wǎng)絡(luò)劫持，或車輛本身計算問題，將產(chǎn)生重大的安全事故。在智慧醫(yī)療方面，天津大力發(fā)展互聯(lián)網(wǎng)醫(yī)院和線上醫(yī)療，一旦發(fā)生醫(yī)患糾紛，就會存在責任主體無法明確的問題。

（四）結(jié)構(gòu)性失業(yè)風險

在人工智能與實體經(jīng)濟融合步伐逐漸加快的背景下，部分職業(yè)將被取代已經(jīng)成為必然趨勢，傳統(tǒng)“飯碗”的破碎將伴隨新產(chǎn)業(yè)革命和經(jīng)濟結(jié)構(gòu)調(diào)整，在這種程度上講，個別可替代性強的產(chǎn)業(yè)的失業(yè)風險將加劇。如住建部同意深圳市開展建筑工程人工智能審圖試點工作，以住宅工程作為試點工作切入點，探索人工智能在審圖方面的應(yīng)用，在節(jié)省人力成本的同時，提高相應(yīng)工作的效率和質(zhì)量，為行業(yè)的改革與發(fā)展提供可復制、可推廣經(jīng)驗。

（五）招商引資風險

一是部分人工智能技術(shù)重復投資過剩的風險。我國人工智能企業(yè)發(fā)展呈現(xiàn)出不均衡性的特點，重點表現(xiàn)在底層技術(shù)領(lǐng)域創(chuàng)新創(chuàng)業(yè)企業(yè)數(shù)量少，應(yīng)用領(lǐng)域企業(yè)數(shù)量多，同質(zhì)化競爭激烈，企業(yè)存活率低。過度注重引進處于應(yīng)用層面的企業(yè)很可能因為同質(zhì)化競爭，造成后期投資的損失。二是人工智能技術(shù)知識產(chǎn)權(quán)不清晰的風險。一種是項目和團隊的人工智能產(chǎn)品和技術(shù)的知識產(chǎn)權(quán)存在嚴重的不清晰、不明確現(xiàn)象，給政府投資帶來極大的發(fā)展隱患。如天津某人工智能芯片企業(yè)，因與美國存在技術(shù)和知識產(chǎn)權(quán)糾紛，導致企業(yè)停滯發(fā)展的案例。三是偽人工智能企業(yè)的風險。項目團隊借助人工智能招牌，從事非法的經(jīng)營活動，比如說在金融領(lǐng)域，利用人工智能和區(qū)塊鏈等技術(shù)從事非法集資。

三、天津人工智能技術(shù)風險防范的思路與對策建議

人工智能產(chǎn)業(yè)風險的防范要秉承“技術(shù)”+“制度”雙向發(fā)力的原則，以加快產(chǎn)業(yè)的發(fā)展來解決當前存在的問題。通過人工智能新技術(shù)的開發(fā)來解決技術(shù)發(fā)展的問題；通過人工智能新技術(shù)的發(fā)展來增加新的社會就業(yè)問題；通過制度的約束來解決技術(shù)發(fā)展過程中參與者的合法合規(guī)問題；通過制度的評價和治理來研判和預防技術(shù)發(fā)展過程中的風險點問題。

（一）加快人工智能技術(shù)的前瞻性研究

一是強化科技智庫對人工智能技術(shù)的支撐。充分發(fā)揮天津市智能科技產(chǎn)業(yè)專家咨詢委員會、天津市信息技術(shù)應(yīng)用創(chuàng)新工作委員會等專家力量，強化對新興人工智能技術(shù)，如區(qū)塊鏈技術(shù)、數(shù)字孿生技術(shù)、C-VX2通信技術(shù)等的安全性和潛在風險進行安全等級評估，形成技術(shù)風險等級與安全防護對應(yīng)的方案清單，有力保障技術(shù)應(yīng)用過程中的安全性、有序性。

二是探索建設(shè)安全前瞻性研究天津?qū)嶒炇?。利用“技術(shù)制約技術(shù)”的理念，以技術(shù)發(fā)展解決技術(shù)問題，通過人工智能先進技術(shù)的應(yīng)用，解決當前人工智能技術(shù)存在的問題，發(fā)揮天津信息安全產(chǎn)業(yè)優(yōu)勢，整合高校、科研院所資源，探索成立具有國家戰(zhàn)略高度的人工智能風險防控系統(tǒng)與實體研究機構(gòu)，組建天津市安全領(lǐng)域的天津?qū)嶒炇?，加強人工智能技術(shù)安全性研究。

（二）強化人工智能技術(shù)的法制化建設(shè)

一是加快探索人工智能產(chǎn)業(yè)技術(shù)法律規(guī)章制度建設(shè)，充分發(fā)揮天津市國家新一代人工智能試驗區(qū)建設(shè)優(yōu)勢，先行先試，聚焦人工智能技術(shù)，如云計算、大數(shù)據(jù)、區(qū)塊鏈等，加快開展人工智能社會實驗，推動上述技術(shù)的立法工作，從約束技術(shù)的研發(fā)與使用等多個環(huán)節(jié)的參與者、明確人工智能應(yīng)用過程中重大責任權(quán)屬劃分（如智能網(wǎng)聯(lián)車傷人事故責任劃分）等多方面入手，構(gòu)建技術(shù)良性發(fā)展的法制化環(huán)境。

二是探索人工智能產(chǎn)業(yè)和技術(shù)的“雙負面清單”制度，強化底線思維，加大對高度不確定性領(lǐng)域的行政性監(jiān)管力度，加大對產(chǎn)業(yè)、科研闖紅區(qū)行為的執(zhí)法力度，立法從嚴，執(zhí)法從嚴，特別是強化對網(wǎng)絡(luò)入侵、網(wǎng)絡(luò)竊密、制作和傳播網(wǎng)絡(luò)病毒、高技術(shù)污染等技術(shù)型犯罪的治理。

（三）強化人工智能技術(shù)的全流程與重點領(lǐng)域監(jiān)管

一是強化人工智能全流程技術(shù)管控，加快開發(fā)面向人工智能技術(shù)全流程監(jiān)管的體制機制，重點面向人工智能行業(yè)數(shù)據(jù)采集以及人工智能行業(yè)重點領(lǐng)域應(yīng)用兩大環(huán)節(jié)，推進行業(yè)安全標準和行業(yè)應(yīng)用安全預案的部署，保障技術(shù)安全、產(chǎn)品安全、數(shù)據(jù)安全和應(yīng)用安全。

二是高度重視網(wǎng)絡(luò)安全監(jiān)控，加快天津360態(tài)勢感知與安全運營平臺建設(shè)，打造集網(wǎng)絡(luò)安全態(tài)勢感知、風險評估、通報預警、應(yīng)急處置和聯(lián)動指揮為一體的新型網(wǎng)絡(luò)安全運營服務(wù)平臺。

三是強化工業(yè)互聯(lián)網(wǎng)網(wǎng)絡(luò)接入安全管理，聚焦天津智能制造重點領(lǐng)域，發(fā)揮天津建設(shè)信創(chuàng)產(chǎn)業(yè)的先發(fā)優(yōu)勢，推動信創(chuàng)產(chǎn)業(yè)重大創(chuàng)新應(yīng)用與工業(yè)互聯(lián)網(wǎng)平臺建設(shè)深度融合，試點推行工業(yè)互聯(lián)網(wǎng)接入產(chǎn)品的安全評測和等級認證制度，打造一批示范性的工程，形成自主可控的工業(yè)互聯(lián)網(wǎng)解決方案，形成“天津樣本”。

（四）強化人工智能技術(shù)誘發(fā)風險的主動疏導

一是建立風險疏導機制。形成重點領(lǐng)域系統(tǒng)的風險解決方案（如研究制定在線教育信息安全整體方案），并建立動態(tài)的解決方案更新機制和相應(yīng)的處置聯(lián)動機制，確保在突發(fā)事件發(fā)生時能夠第一時間處置。打造多層次、全方位的發(fā)聲陣地，建立權(quán)威信息發(fā)布制度，在突發(fā)事件發(fā)生時，有效引導輿情。

二是建立風險應(yīng)對機制。一方面，以技術(shù)發(fā)展解決職業(yè)問題，推動天津人力資源有關(guān)部門對“互聯(lián)網(wǎng)營銷師”“在線學習服務(wù)師”等人工智能新職業(yè)開展宣傳和技術(shù)培訓，鼓勵符合條件的再就業(yè)人員向新職業(yè)轉(zhuǎn)型，擴大社會就業(yè)機會。另一方面，針對新一代人工智能可能引發(fā)的在重點領(lǐng)域和重點人群的結(jié)構(gòu)性失業(yè)等風險，形成風險級別目錄，根據(jù)優(yōu)先順序，有計劃地推動重點領(lǐng)域和人群的在職培訓和再就業(yè)培訓，打好勞動力轉(zhuǎn)型的主動仗。

（五）強化人工智能產(chǎn)業(yè)引育過程中的精準識別

一是強化招商引資工作隊伍的人工智能技術(shù)知識培訓。鼓勵天津市各個園區(qū)根據(jù)發(fā)展實際，制定人工智能技術(shù)重點培訓計劃，提升招商人才隊伍對人工智能技術(shù)發(fā)展趨勢、動態(tài)的了解，提升對人工智能項目的甄別判斷能力。

二是強化人工智能企業(yè)引育過程中的調(diào)研與研判。鼓勵引入第三方機制，在重大人工智能項目引進過程中，做好企業(yè)的背景調(diào)查工作，特別要關(guān)注人工智能企業(yè)本身的技術(shù)場景應(yīng)用情況、財務(wù)狀況和知識產(chǎn)權(quán)情況。

三是強化對人工智能產(chǎn)業(yè)引進過程的決策咨詢管理。鼓勵天津人工智能產(chǎn)業(yè)聚集園區(qū)充分發(fā)揮人工智能專家的人力資源優(yōu)勢，在項目引進和分析評判過程中，鼓勵企業(yè)家參與項目引進過程，為項目的引進提供建議。