家峻熙

大多數(shù)公司每年都對記錄數(shù)據(jù)系統(tǒng)進(jìn)行IT審核，但審核人工智能和大數(shù)據(jù)，同時確保它們符合足夠的安全和治理要求卻是一項有待完善的工作。

好消息是，許多公司已經(jīng)有諸多實(shí)踐成果可運(yùn)用于AI和大數(shù)據(jù)，這些實(shí)踐體現(xiàn)在可適用于AI和大數(shù)據(jù)的IT政策和程序中。在專業(yè)審核公司提供的AI和大數(shù)據(jù)服務(wù)很有限時，這一切極有幫助。以下是公司可以用來自我審核AI和大數(shù)據(jù)的問題和方法。

1.數(shù)據(jù)來源

許多公司從業(yè)務(wù)運(yùn)營獲取自己的數(shù)據(jù)，但也從外部供應(yīng)商處購買和使用數(shù)據(jù)，用于AI和分析。在將數(shù)據(jù)用于AI和分析之前，應(yīng)評估來自外部的所有數(shù)據(jù)的可信度和數(shù)據(jù)質(zhì)量。審核來自第三方的數(shù)據(jù)應(yīng)該是每份采購需求表（RFP）的一部分。

2.數(shù)據(jù)隱私

您可能與客戶談妥了自己的數(shù)據(jù)隱私規(guī)則和協(xié)議，但是面對可能沒有同樣數(shù)據(jù)隱私標(biāo)準(zhǔn)的外部業(yè)務(wù)合作伙伴時，這些數(shù)據(jù)隱私權(quán)會面臨問題。在這種情況下，不僅IT部門應(yīng)該有確保數(shù)據(jù)隱私的政策和程序，公司法務(wù)和合規(guī)部門也應(yīng)該有這類政策和程序，以確保其數(shù)據(jù)可能被使用、匿名或共享的客戶了解這一事實(shí)。

3.鎖定程序

物聯(lián)網(wǎng)和邊緣計算設(shè)備將日益為系統(tǒng)帶來非結(jié)構(gòu)化大數(shù)據(jù)。由于這些是移動的分布式設(shè)備，它們很容易丟失、中招或放錯地方。至少，IT部門應(yīng)該有一種方法來跟蹤這些設(shè)備及使用情況，一旦被報告丟失或放錯地方就鎖起來。

4.所有IT系統(tǒng)是否都符合安全設(shè)置

許多邊緣計算和物聯(lián)網(wǎng)設(shè)備以及路由器和集線器都有廠商的默認(rèn)安全設(shè)置，它們不符合企業(yè)安全標(biāo)準(zhǔn)。作為安裝過程的一部分，IT部門應(yīng)添加這一步：檢查默認(rèn)安全設(shè)置，然后將其設(shè)為企業(yè)安全設(shè)置之后再部署。

5.數(shù)據(jù)篩選

適當(dāng)級別的數(shù)據(jù)清理應(yīng)落實(shí)到位，可能涉及數(shù)據(jù)丟棄、數(shù)據(jù)規(guī)范以及使用提取轉(zhuǎn)換加載（ETL）工具等。這是為了確保進(jìn)入您的分析和AI系統(tǒng)的數(shù)據(jù)盡可能“干凈”、準(zhǔn)確。

6. AI的確定性

AI系統(tǒng)中使用的算法和數(shù)據(jù)在不斷變化，因此對AI而言今天正確的假設(shè)明天可能不適用了。AI還可能含有無法立即檢測到的偏誤。因此，監(jiān)控和修改AI算法、查詢和數(shù)據(jù)的流程必須是持續(xù)不斷的。應(yīng)落實(shí)一套AI程序，用于定期調(diào)整AI數(shù)據(jù)和操作。

7.設(shè)置權(quán)限

所有大數(shù)據(jù)存儲庫以及AI和分析系統(tǒng)都應(yīng)進(jìn)行24×7全天候監(jiān)控，以確保只有授權(quán)使用數(shù)據(jù)和系統(tǒng)的用戶才能訪問它們。

8.評估

至少應(yīng)每年評估一次AI系統(tǒng)，以確認(rèn)它們滿足業(yè)務(wù)的需求和使命。如果未滿足，應(yīng)修改或丟棄它們。

9.故障切換

如果您將AI操作嵌入到業(yè)務(wù)流程中，災(zāi)難恢復(fù)計劃應(yīng)考慮到這些系統(tǒng)無法運(yùn)行的情況。如果系統(tǒng)出現(xiàn)停機(jī)，您會怎么做？有快速上線的備份系統(tǒng)嗎？還是一套手動程序（以及知道如何執(zhí)行這些程序的員工）可以接過任務(wù)，直至AI系統(tǒng)恢復(fù)過來？公司能否將AI做出的決策推遲到系統(tǒng)恢復(fù)正常？要為IT和業(yè)務(wù)部門明確列出停機(jī)后應(yīng)采取的一套程序。