李軍

中國目前側(cè)重于打造平臺、培育企業(yè)、構(gòu)建市場、激勵創(chuàng)新等方面，對于監(jiān)管原則、監(jiān)管體系和監(jiān)管機構(gòu)建設(shè)，基本沒有部署。

大眾一般認為，新技術(shù)的研發(fā)是難度最大的，應用及監(jiān)管與研發(fā)相比難度就會低很多。但對于將深遠影響人類社會運營方式的人工智能來說，情況或許正好相反。

人工智能的潛在缺陷與控制

目前基于人工智能所開發(fā)的自動控制、模式識別和機器學習系統(tǒng)，其實都是人工智能領(lǐng)域非常初級的部分，往往需要研發(fā)團隊針對實際應用場景設(shè)置重要先決條件，以降低人工智能系統(tǒng)的判別難度并提高準確率。當各種極客型的技術(shù)人員大開腦洞采用人工智能技術(shù)研發(fā)各種黑科技時，他們的關(guān)注范圍是非常聚焦的，即按照最優(yōu)條件下設(shè)想人工智能的應用范圍和場景，較少考慮相關(guān)技術(shù)在復雜條件甚至人為濫用的情況下面臨的困境。這往往也為人工智能潛在的不當使用埋下了伏筆。

人工智能作為信息化系統(tǒng)，一定會受到自身設(shè)計的局限和開發(fā)質(zhì)量的影響。再加上人工智能在識別和判斷時需要基于人工設(shè)置和歷史數(shù)據(jù)，通過精心設(shè)計的訓練過程才能得到基于概率的判別結(jié)果。所以對于人工智能系統(tǒng)，在特定前提或應用場景下作出錯誤決策是100%會出現(xiàn)的。作為政府和監(jiān)管部門，面臨的第一個重要問題就是系統(tǒng)錯誤決策所引起的財產(chǎn)損失甚至人身傷亡該如何判定責任與承擔賠償，甚至要能夠提出合理的原則，區(qū)分哪些錯誤決策是小概率事件本身引發(fā)的，哪些錯誤決策是由于系統(tǒng)設(shè)計、訓練數(shù)據(jù)和訓練過程存在問題所導致的。

2016年2月14日，上路試驗已經(jīng)六年的谷歌自動駕駛汽車第一次由于系統(tǒng)“誤判”導致了交通事故。谷歌公司表示自動駕駛汽車在這次輕微車禍中承擔“部分責任”。由此可見，當時的谷歌自動駕駛系統(tǒng)在特定場景下觸發(fā)了一個錯誤決策?？梢韵胂?，當自動駕駛汽車全面行駛在大街小巷時，系統(tǒng)的微小錯誤導致的責任事故會基于巨大的汽車保有量而放大成為一個引人注目的數(shù)字。由此而引起的責任劃定和賠償也會由于人工智能和人類行為的混合作用而變得異常復雜。

另一個廣為人知的應用缺陷就是公平性問題。2016年哈佛大學肯尼迪學院發(fā)布的分析報告指出，目前針對犯罪傾向性預測的人工智能系統(tǒng)，無論技術(shù)人員如何調(diào)整機器學習的策略和算法，人種膚色都成為無法抹去的高優(yōu)先識別變量。人工智能系統(tǒng)評估結(jié)果出現(xiàn)了明顯的對黑人群體的偏見，這是現(xiàn)階段人工智能技術(shù)手段無法避免的，也是人工智能系統(tǒng)廣泛應用于現(xiàn)有社會環(huán)境并為社會大眾所接受的一個重要的障礙。

在以上問題沒有經(jīng)過實踐驗證的法律支持和監(jiān)管框架管理下，人工智能的全面應用很有可能帶來相關(guān)領(lǐng)域社會活動的混亂并造成意想不到的后果。

逐步建立的人工智能監(jiān)管

美國政府對于人工智能的廣泛應用和相關(guān)監(jiān)管框架一直保持關(guān)注，并在特定領(lǐng)域開始小范圍的實踐。

以人工智能領(lǐng)域目前相對成熟且應用前景廣闊的自動駕駛為例，企業(yè)能夠盡快推進自動駕駛技術(shù)開發(fā)的重要原因，是在制度方面得到了美國政府的大力支持。

2012年5月，美國內(nèi)華達州汽車管理局為谷歌自動駕駛汽車發(fā)放了美國首張自動駕駛車輛許可證，此前內(nèi)華達州議會通過了允許自動駕駛車輛上路的法條。八個月后谷歌又在加利福尼亞州取得了許可證。隨之而來，奧迪和豐田也先后在美國的一些州拿到了實驗許可證并開展公路測試。一時間，美國成為各國企業(yè)爭先開展自動駕駛的試驗田，加速了自動駕駛技術(shù)的成熟。

雖然美國交通管理部門積極配合自動駕駛技術(shù)的測試和路試，但是對于正式的應用許可還是采用非常審慎的態(tài)度。2014年10月，加州車輛管理局同時頒發(fā)了29張自動駕駛汽車公共道路測試許可證，分別給了谷歌、戴姆勒、大眾三家公司，獲得許可的條件之一是人可以隨時干預汽車駕駛，以確保在人工智能廣泛測試和安全性之間取得平衡。

加州車輛管理局2015年12月提出了一項監(jiān)管草案，要求所有自動駕駛汽車的駕駛座上必須始終乘坐一名擁有駕照的人士，并要求汽車在設(shè)計方面必須擁有方向盤、油門踏板、制動踏板等傳統(tǒng)機動車具備的基本操控裝置，以便具有駕駛資質(zhì)的人在無人駕駛汽車失靈時可隨時接管汽車的操作。在草案細則中，加州還規(guī)定了自動駕駛的三年試用期。消費者可以通過租賃的方式從制造商處獲得自動駕駛汽車，但制造商需要跟蹤記錄消費者的駕駛情況，把汽車性能指標和駕駛記錄遞交機動車輛管理局。

可以看到，美國的交通部門在放行自動駕駛技術(shù)時是逐步進行，并盡量確保過渡階段監(jiān)管規(guī)則的連續(xù)性。盡管谷歌等自動駕駛技術(shù)公司向公眾抱怨，政府過于嚴厲的監(jiān)管和相對謹慎的態(tài)度阻礙了自動駕駛技術(shù)向?qū)嵱盟降目焖侔l(fā)展，但這是監(jiān)管部門職責所在，他們必須保護公眾在享受新技術(shù)成果的同時，避免潛在技術(shù)缺陷導致的傷害。今年1月，美國運輸部長Anthony Foxx表示，將在六個月內(nèi)出臺自動駕駛汽車指導原則。美國高速公路交通安全管理局（NTHSA）也表示，為了加速自動駕駛汽車的發(fā)展，該機構(gòu)將放棄一些目前針對自動駕駛汽車的安全要求。

收益和風險前瞻

2016年5月3日，白宮的副首席技術(shù)官埃德·費爾頓宣布，白宮將組織一系列有關(guān)人工智能收益與風險的研討，“為人工智能的未來而準備”。

此次人工智能領(lǐng)域的系列研討包括以下內(nèi)容：

2016年5月24日，西雅圖：與人工智能相關(guān)的法律與監(jiān)管事務(wù)；

2016年6月7日，華盛頓：人工智能與社會福利；

2016年6月28日，匹茲堡：人工智能的安全與控制；

2016年7月7日，紐約：近期的人工智能技術(shù)對社會和經(jīng)濟的影響。

此次人工智能領(lǐng)域的研討，一方面涵蓋了從立法到監(jiān)管原則的確定，為政府全面管理人工智能確立法理依據(jù)和管理邊界；另一方面，也將深入探討人工智能有可能存在的缺陷以及相應的安全控制原則。此外，研討視角不僅面向具體的監(jiān)管框架，同時還包含了對就業(yè)、社會福利、經(jīng)濟發(fā)展的長遠影響的分析。

從此次人工智能的研討主題來看，美國政府的決策機構(gòu)已經(jīng)在思考人工智能的全面應用對于社會整體運行的沖擊與改變。例如，人類是否有可能在某些領(lǐng)域濫用人工智能技術(shù)，比如刑事司法、勞動雇傭等領(lǐng)域。在支撐人工智能技術(shù)廣泛收集公眾和個人信息時，又存在著數(shù)據(jù)所有權(quán)和應用范圍的邊界：哪些組織和企業(yè)可以搜集個人信息；使用個人信息時，使用的機構(gòu)應該承擔什么樣的義務(wù)？通過嚴格清晰的數(shù)據(jù)擁有和使用責任的界定，促使利用人工智能和大數(shù)據(jù)工具的人控制他們的決策行為，以符合法律與社會的基本準則。

需要強調(diào)的是，這次研討并不是政府為主發(fā)一家之言，而是白宮科技政策辦公室牽頭，分別由西雅圖大學、計算研究協(xié)會、卡耐基梅隆大學和紐約大學信息法律研究所等高校和研究機構(gòu)組織，多所一流大學和企業(yè)研究人士共同參與的研討會。這一系列高規(guī)格人工智能研討結(jié)果，將作為美國政府制定人工智能立法和監(jiān)管原則的重要來源。

中國人工智能的管理現(xiàn)狀

中國政府在最近幾年一直大力推進人工智能產(chǎn)業(yè)的發(fā)展，重心仍然放在鼓勵技術(shù)研發(fā)方面。對于人工智能技術(shù)應用所帶來的產(chǎn)業(yè)與社會轉(zhuǎn)型沖擊，以及監(jiān)管方面的及時調(diào)整和跟進，目前還缺乏整體認識和積極部署?？梢哉f，政府還沒有意識到自身應該如何參與到人工智能的發(fā)展，以及相應的法律法規(guī)、監(jiān)管體系和管理架構(gòu)應該如何進行調(diào)整，以適應新的社會需求與技術(shù)現(xiàn)實。

還是以自動駕駛應用為例，目前國內(nèi)自動駕駛技術(shù)多被作為科研項目進行測試。相關(guān)的法律法規(guī)和監(jiān)管問題，在企業(yè)多次推動下并沒有明確的進展。比如，中國企業(yè)在國內(nèi)進行公路自動駕駛測試時，還無法為測試車輛懸掛測試牌照。2015年12月百度首次自動駕駛汽車的路測過程中，由于交管部門沒有任何有關(guān)自動駕駛測試的指導規(guī)定，百度公司只能安排駕駛員坐在方向盤后面，而交管部門也默認該車為有人駕駛而未加干涉。

2016年全國“兩會”期間，全國政協(xié)委員、百度公司董事長兼首席執(zhí)行官李彥宏提議，中國應盡快組織開展關(guān)于無人車牌照發(fā)放、行駛規(guī)定、事故認責等方面的研究。他還建議盡快修訂和完善無人駕駛相關(guān)的法律法規(guī)，為無人駕駛汽車的研發(fā)、測試和商業(yè)化應用提供制度保障。

但在2016年5月23日由國家發(fā)改委、科技部、工信部、中央網(wǎng)信辦制定印發(fā)的《“互聯(lián)網(wǎng)+”人工智能三年行動實施方案》中，政府還是側(cè)重于打造平臺、培育企業(yè)、構(gòu)建市場、激勵創(chuàng)新等方面。雖然文中也談到了資金支持、標準體系建設(shè)、知識產(chǎn)權(quán)保護、人才培養(yǎng)、國際合作等方面，但對于監(jiān)管原則、監(jiān)管體系和相關(guān)監(jiān)管機構(gòu)的建設(shè)則基本沒有提及。

可以預見，現(xiàn)有的法律法規(guī)未必適應未來的人工智能新型應用模式，會對人工智能的快速發(fā)展構(gòu)成阻礙，但在出現(xiàn)人工智能應用的重大缺陷或者安全隱患時，也沒有相關(guān)法規(guī)和條例指導政府機構(gòu)合理合法地規(guī)避人工智能的發(fā)展風險。這將導致新技術(shù)應用與推廣過程中付出不必要的成本，甚至會因噎廢食，阻礙人工智能行業(yè)的發(fā)展。