9月10日，在ISO大會(huì)期間召開了主題為“對人工智能的信任：如何建立全球信心”研討會(huì)。會(huì)議邀請了ISO和IEC聯(lián)合技術(shù)委員會(huì)人工智能分委會(huì)主席沃爾·迪亞卜（Wael Diab）、美國Venable法律公司網(wǎng)絡(luò)安全和保密服務(wù)部高級總監(jiān)海瑟·韋斯特（Heather West），以及新加坡信息通信媒體發(fā)展管理局可信人工智能和數(shù)據(jù)部主任李萬喜（音譯，Wan Sie Lee）三位專家，來探討如何防范人工智能技術(shù)快速發(fā)展可能帶來的風(fēng)險(xiǎn)，構(gòu)建人們對其的信任，以及標(biāo)準(zhǔn)在其中如何發(fā)揮關(guān)鍵作用。

會(huì)議以現(xiàn)場和線上兩種形式同時(shí)進(jìn)行，以下是會(huì)議的精選內(nèi)容。

主持人：目前已經(jīng)出臺(tái)了很多關(guān)于人工智能的法規(guī)，例如歐盟法案和七國集團(tuán)領(lǐng)導(dǎo)人就人工智能發(fā)布的國際指導(dǎo)原則。你怎么看待這些法規(guī)和指導(dǎo)原則？在這個(gè)問題上已經(jīng)達(dá)成共識了嗎？

海瑟·韋斯特：關(guān)于人工智能技術(shù)已經(jīng)有大量的法規(guī)和指導(dǎo)意見，隨著它們進(jìn)入公眾視野，世界各國政府，像ISO這樣的國際組織以及各類企業(yè)都在試圖快速弄清楚如何更好地使用這些工具。

我認(rèn)為人工智能可以讓人們更舒適。我們正在努力實(shí)現(xiàn)如何以道德和負(fù)責(zé)任的方式使用人工智能技術(shù)。在開幕式上有專家談到，當(dāng)這些新興技術(shù)迅速發(fā)展時(shí)，不要采取被動(dòng)應(yīng)對的策略，我認(rèn)為這一點(diǎn)非常重要。

其實(shí)，我認(rèn)為全球已經(jīng)達(dá)成了相當(dāng)大的共識。如果看一下不同國家、組織和標(biāo)準(zhǔn)機(jī)構(gòu)對這些問題的思考，其關(guān)鍵都是放在責(zé)任、倫理、協(xié)調(diào)、安全和保障上。能相對統(tǒng)一地解決這些主題是非常了不起的。多個(gè)利益相關(guān)方參與的組織已經(jīng)開始合作制定關(guān)于人工智能的指導(dǎo)意見和相關(guān)標(biāo)準(zhǔn)，我對此非常樂觀。

這些法律法規(guī)會(huì)考慮到問責(zé)制、透明度、消費(fèi)者保護(hù)、人工智能的倫理及其對社會(huì)的影響。標(biāo)準(zhǔn)如何將這些不同的考量結(jié)合起來？

沃爾·迪亞卜：標(biāo)準(zhǔn)是這個(gè)問題解決方案的一個(gè)重要部分。本質(zhì)上，它是社會(huì)試圖通過法規(guī)所傳達(dá)的內(nèi)容和關(guān)于透明度、倫理等考量之間的橋梁。

新加坡信息通信媒體發(fā)展管理局（IMDA）一直致力于在本國建立一個(gè)可信的人工智能生態(tài)系統(tǒng)，這對企業(yè)有什么益處？采用一致的方法很重要嗎？

李萬喜：在通過建立可信且安全的人工智能生態(tài)系統(tǒng)為企業(yè)提供支持方面，一致的方法非常重要。不論法規(guī)還是標(biāo)準(zhǔn)都是我們可以使用的工具，目的是建立一個(gè)可信的生態(tài)系統(tǒng)。

企業(yè)擔(dān)心會(huì)有風(fēng)險(xiǎn)，消費(fèi)者則想確保人工智能帶來的結(jié)果是公平和透明的。我們要確保人們不會(huì)因?yàn)槿斯ぶ悄芏スぷ?，還必須解決關(guān)于錯(cuò)誤信息的擔(dān)憂。要解決上述問題，不僅需要法規(guī)，還需要標(biāo)準(zhǔn)。

我們必須與標(biāo)準(zhǔn)機(jī)構(gòu)合作，強(qiáng)調(diào)行業(yè)的能力建設(shè)。這就是我們開發(fā)AI Verify工具包的原因，目的是幫助提升能力。它是一個(gè)供組織機(jī)構(gòu)參考的框架，幫助其檢查是否建成了可信的人工智能測試系統(tǒng)。

我們還與本地認(rèn)證機(jī)構(gòu)和國際組織合作，它們會(huì)使用AI Verify來確保其人工智能系統(tǒng)符合ISO/IEC 42001：2023標(biāo)準(zhǔn)。

私營領(lǐng)域的創(chuàng)新速度比其他領(lǐng)域更快。在引導(dǎo)這場技術(shù)競賽的過程中，如何確保聽取所有人的聲音？

海瑟·韋斯特：我認(rèn)為，這就是像ISO這樣國際組織和其他多方利益相關(guān)者構(gòu)成的組織的作用所在。實(shí)際上，能真正推動(dòng)人工智能技術(shù)發(fā)展的公司并不多。

對其他人而言，人工智能就是我們?nèi)绾问褂盟约叭绾卧诿刻斓氖褂眠^程中對其建立信任。我在與這些人工智能模型互動(dòng)時(shí)，覺得它們非?？?，仿佛是從科幻劇中走出來的。但我們應(yīng)該對其進(jìn)行理解，并認(rèn)真思考，確保我們可以信任它。正如李萬喜所說的透明度、倫理和責(zé)任，我們不僅要將這些元素融入到系統(tǒng)中，還要向大家有效傳達(dá)它是道德、安全的。

支持創(chuàng)新、使人工智能對企業(yè)友好，以及通過對其的治理保護(hù)用戶，在這三者之間能否找到平衡？

李萬喜：我們必須找到平衡。我認(rèn)為，找到平衡就是為企業(yè)和消費(fèi)者創(chuàng)造利益，讓他們能真正看到人工智能確實(shí)改善了他們的生活。我們還應(yīng)確保設(shè)立安全保障措施。這樣，企業(yè)將獲得更多好處，人們會(huì)更熟悉并準(zhǔn)備好使用人工智能，企業(yè)也會(huì)為應(yīng)對人工智能帶來的風(fēng)險(xiǎn)做足準(zhǔn)備。

企業(yè)和組織機(jī)構(gòu)需要指導(dǎo)意見，因?yàn)檫@能為它們提供確定性和方向。因此，我們發(fā)布了指南和框架。例如現(xiàn)代治理框架，為組織機(jī)構(gòu)和政策制定者提供行動(dòng)指引。我們還與標(biāo)準(zhǔn)機(jī)構(gòu)密切合作，對這些框架進(jìn)行細(xì)化。

盡管在2023年發(fā)布了ISO/IEC 42001：2023人工智能管理系統(tǒng)國際標(biāo)準(zhǔn)，但要應(yīng)對能在全球范圍內(nèi)改變整個(gè)行業(yè)的人工智能技術(shù)，難度有多大？

沃爾·迪亞卜：人工智能與傳統(tǒng)的IT系統(tǒng)相比有所不同，但也有很多相似之處。通過ISO/IEC JTC 1的工作，目前已經(jīng)建立了龐大的基礎(chǔ)設(shè)施。我們不僅要解決人們對新技術(shù)缺乏信心的問題，還要跟蹤正在發(fā)生的變化。ISO/IEC 42001標(biāo)準(zhǔn)是ISO提供的一項(xiàng)獨(dú)特標(biāo)準(zhǔn)。我們在SC 42中采用了新的使用方法，基本上解決了這些差異問題，并使合規(guī)評估、可審計(jì)性等成為可能。這樣，我們就可以增強(qiáng)消費(fèi)者和用戶對這些系統(tǒng)的信心。

管理系統(tǒng)標(biāo)準(zhǔn)的一個(gè)優(yōu)點(diǎn)是它能擴(kuò)展到不同行業(yè)。通過使用管理系統(tǒng)標(biāo)準(zhǔn)，我們將SC 42所有的工作結(jié)合起來，為標(biāo)準(zhǔn)制定和尋求合規(guī)評估的組織機(jī)構(gòu)提供了一個(gè)平臺(tái)。我們的目標(biāo)是制定一套能在垂直領(lǐng)域中使用的標(biāo)準(zhǔn)組合，它們可以從人工智能視角出發(fā)，然后將其引入標(biāo)準(zhǔn)生態(tài)系統(tǒng)。

管理系統(tǒng)標(biāo)準(zhǔn)不僅可以作為垂直領(lǐng)域的工具，還能擴(kuò)展到特定行業(yè)。值得注意的是，越來越多的中小企業(yè)參與進(jìn)來。SC 42正在編寫一本手冊，幫助中小企業(yè)了解如何使用ISO 42001，這是一個(gè)非常令人振奮的時(shí)刻。我們不僅看到技術(shù)在迅速發(fā)展，還有許多行業(yè)對使用人工智能很感興趣。

對任何組織機(jī)構(gòu)來說，數(shù)據(jù)保護(hù)都非常重要?，F(xiàn)在有越來越多的網(wǎng)絡(luò)攻擊，組織機(jī)構(gòu)如何確保有健全的數(shù)據(jù)策略？

海瑟·韋斯特：這是一項(xiàng)基礎(chǔ)性工作，但并不容易。我們要有條不紊地去解決問題，找到足夠好的方法。

李萬喜：大公司中的數(shù)據(jù)保護(hù)負(fù)責(zé)人有很多資源來幫助他們開展工作，但對于小公司來說，他們需要的是簡單的建議或指導(dǎo)，告訴他們?nèi)绾伪Ｗo(hù)數(shù)據(jù)。一個(gè)方法就是加密數(shù)據(jù)。如果你對數(shù)據(jù)進(jìn)行了加密，即使有人入侵你的系統(tǒng)，他們也無法理解數(shù)據(jù)。這是一項(xiàng)基礎(chǔ)要求。

沃爾·迪亞卜：在安全方面，我們與JTC 1/SC 27分委會(huì)密切合作。實(shí)際上，我們在制定管理系統(tǒng)標(biāo)準(zhǔn)時(shí)，在很多方面借鑒了ISO/IEC 27001在信息安全、網(wǎng)絡(luò)安全和隱私保護(hù)方面的做法?，F(xiàn)在已經(jīng)建立了龐大的標(biāo)準(zhǔn)基礎(chǔ)設(shè)施。特別是在人工智能領(lǐng)域，我們很早就意識到，不僅從網(wǎng)絡(luò)安全和可信度角度看，數(shù)據(jù)非常關(guān)鍵，而且在獲得預(yù)期結(jié)果和避免系統(tǒng)發(fā)生不好的結(jié)果方面，它也至關(guān)重要。

與政府、消費(fèi)者協(xié)會(huì)和標(biāo)準(zhǔn)制定組織開展合作來確保人工智能始終有益，這有多重要？

李萬喜：我很高興看到在過去的一年里，國際合作活動(dòng)非常多，政府之間也在積極溝通合作。對像新加坡這樣的國土面積很小的國家來說，和全球組織合作非常重要。通過這些全球平臺(tái)，我們的標(biāo)準(zhǔn)不再是孤立的框架，我們要確保融入國際發(fā)展的趨勢中。

人工智能可能帶來巨大好處，但負(fù)責(zé)任和道德地管理它是關(guān)鍵。無論發(fā)生什么，消費(fèi)者和企業(yè)都必須確信其使用的新系統(tǒng)和新服務(wù)依然像以前一樣安全可靠，這也是標(biāo)準(zhǔn)的意義所在吧？

沃爾·迪亞卜：是的。我認(rèn)為如果我們做好自己的工作，他們就不需要擔(dān)心。我們應(yīng)該制定標(biāo)準(zhǔn)，配合監(jiān)管框架和其他最佳實(shí)踐，確保人們充滿信心。

我們要從整個(gè)生態(tài)系統(tǒng)的角度來考慮。我們與其他委員會(huì)開展密切合作。目前差不多有65個(gè)國家參與這方面的標(biāo)準(zhǔn)制定，其中三分之一來自發(fā)展中國家。因此，我們在匯集一個(gè)多元化的利益相關(guān)者社區(qū)，而非僅限于那些制定標(biāo)準(zhǔn)的人。