李慧，帥小應(yīng)，錢(qián)進(jìn)，季寧依

（泰州學(xué)院計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院，江蘇泰州 225300）

網(wǎng)絡(luò)安全課程是信息類(lèi)專(zhuān)業(yè)學(xué)生的必修課程之一。由于它的技術(shù)更新周期短、覆蓋的知識(shí)面融合了大量前期課程的專(zhuān)業(yè)知識(shí)、實(shí)驗(yàn)設(shè)備更新不及時(shí)等問(wèn)題，一直是令學(xué)生望而生畏的課程之一，導(dǎo)致教學(xué)效果也不明顯[1]。為了改善教學(xué)現(xiàn)狀，泰州學(xué)院計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院在網(wǎng)絡(luò)安全課程中引入辯論的模式，以激發(fā)學(xué)生的興趣、開(kāi)拓學(xué)生的思維[2-3]。人工智能技術(shù)可以加快數(shù)據(jù)流動(dòng)、提高數(shù)據(jù)賦能，是促進(jìn)我國(guó)社會(huì)經(jīng)濟(jì)增長(zhǎng)、開(kāi)拓市場(chǎng)、提高國(guó)家競(jìng)爭(zhēng)力的核心驅(qū)動(dòng)之一。尤其是受人類(lèi)大腦結(jié)構(gòu)和功能啟發(fā)而誕生的深度學(xué)習(xí)，極大地促進(jìn)了網(wǎng)絡(luò)安全防護(hù)技術(shù)的發(fā)展，同時(shí)在網(wǎng)絡(luò)安全防護(hù)中帶來(lái)的威脅也越來(lái)越受到關(guān)注[4]。本次網(wǎng)絡(luò)安全課程的辯論賽以“人工智能在網(wǎng)絡(luò)安全防護(hù)中的利與弊”為主題，結(jié)合了網(wǎng)絡(luò)安全和人工智能兩門(mén)課程的專(zhuān)業(yè)內(nèi)容，同時(shí)人工智能技術(shù)也是網(wǎng)絡(luò)安全防護(hù)實(shí)踐中的支撐技術(shù)之一。

1 人工智能在網(wǎng)絡(luò)安全防護(hù)中的適用性

人工智能技術(shù)在網(wǎng)絡(luò)安全防護(hù)領(lǐng)域?qū)崿F(xiàn)了很大的突破，它能夠在網(wǎng)絡(luò)安全防護(hù)領(lǐng)域?qū)崿F(xiàn)數(shù)據(jù)賦能、產(chǎn)生價(jià)值的理由主要包括以下幾個(gè)方面：

1）處理大數(shù)據(jù)的能力

網(wǎng)絡(luò)安全分析對(duì)象包含整個(gè)系統(tǒng)的日常安全日志數(shù)據(jù)、網(wǎng)絡(luò)流量等，人工從這海量的數(shù)據(jù)中提取有效信息的效率極低。而人工智能中的機(jī)器學(xué)習(xí)、深度學(xué)習(xí)等方法有海量的訓(xùn)練容量，可以多視角、全方面對(duì)數(shù)據(jù)資源進(jìn)行清洗、分析，篩選有用的信息，并且訓(xùn)練樣本越大數(shù)據(jù)分析得到的結(jié)果越接近真實(shí)結(jié)果。

2）區(qū)別“普遍和特殊”的能力

網(wǎng)絡(luò)安全防護(hù)的前提是合理界定普遍行為和特殊行為。一方面是通過(guò)大量的普遍行為提取出相應(yīng)的規(guī)則，用這些規(guī)則來(lái)區(qū)別特殊行為，從而識(shí)別出攻擊行為；另一方面是通過(guò)對(duì)特殊行為進(jìn)行分析總結(jié)一定的規(guī)律，從而在大量資源中甄別攻擊行為，這也被稱(chēng)為基于簽名的判斷機(jī)制。人工智能中的學(xué)習(xí)模型的構(gòu)建就是要實(shí)現(xiàn)通過(guò)基準(zhǔn)數(shù)據(jù)集完成特征的提取，這與上述網(wǎng)絡(luò)安全中的普遍和特殊基準(zhǔn)不謀而合。異常行為檢測(cè)、垃圾郵件過(guò)濾、惡意軟件檢測(cè)都是人工智能技術(shù)在上述基準(zhǔn)上在網(wǎng)絡(luò)安全防護(hù)實(shí)現(xiàn)的產(chǎn)物。

3）處理模糊信息的能力

人工智能作為順應(yīng)時(shí)代的產(chǎn)物，不僅可以快速對(duì)已有的數(shù)據(jù)進(jìn)行總結(jié)，還具有預(yù)測(cè)未來(lái)趨勢(shì)的功能。雖然這個(gè)預(yù)測(cè)函數(shù)是從模糊邏輯推導(dǎo)出結(jié)果的，但一般不需要特別準(zhǔn)確的數(shù)據(jù)支持。因?yàn)樵诂F(xiàn)實(shí)的網(wǎng)絡(luò)安全環(huán)境中存在大量不確定甚至不準(zhǔn)確的模糊信息，將不同設(shè)備、層次的模糊信息進(jìn)行關(guān)聯(lián)性分析，推導(dǎo)出可擴(kuò)展的處理規(guī)則，并應(yīng)用到網(wǎng)絡(luò)安全防護(hù)水平的提高。

4）學(xué)習(xí)能力和處理非線性的能力

隨著用戶(hù)的不斷增加、網(wǎng)絡(luò)結(jié)構(gòu)的不斷擴(kuò)展，當(dāng)前網(wǎng)絡(luò)安全背后的復(fù)雜程度是不可估量的，目前掌握的信息都較為簡(jiǎn)單、淺顯的。高層次的內(nèi)容往往是通過(guò)對(duì)低層次內(nèi)容的深入學(xué)習(xí)、研究、解讀和推理獲得的[5]。而人工智能在當(dāng)前的環(huán)境中不斷學(xué)習(xí)，可以進(jìn)一步深入掌握網(wǎng)絡(luò)安全的高層次信息、提高網(wǎng)絡(luò)安全防護(hù)的能力。

網(wǎng)絡(luò)自身的拓?fù)浣Y(jié)構(gòu)導(dǎo)致了它是非線性控制的對(duì)象。人工智能的非線性能力主要是通過(guò)人類(lèi)對(duì)非線性函數(shù)的正確處理獲得的。人工智能技術(shù)的發(fā)展使機(jī)器不僅能有傳統(tǒng)的技術(shù)操作能力，也有人類(lèi)可以解決非線性問(wèn)題的優(yōu)勢(shì)，從而改善了網(wǎng)絡(luò)的安全防護(hù)現(xiàn)狀。

5）自適應(yīng)能力

人工智能技術(shù)在網(wǎng)絡(luò)安全的實(shí)現(xiàn)過(guò)程是一個(gè)雙方互相博弈、共同進(jìn)步的結(jié)果。在安全檢測(cè)過(guò)程中應(yīng)用了支持向量機(jī)(SVM)的技術(shù)并調(diào)整了SVM技術(shù)來(lái)檢測(cè)一些攻擊。很快通過(guò)學(xué)習(xí)了解防御者的模型并相應(yīng)調(diào)整自身行為來(lái)阻止檢測(cè)。隨后通過(guò)對(duì)抗性支持向量機(jī)技術(shù)能夠了解攻擊者正在做哪些行為并進(jìn)行自我調(diào)整，以便它可以檢測(cè)到攻擊。隨著時(shí)間的推移，就變成了攻擊者和防御者之間博弈，并且促進(jìn)技術(shù)的不斷發(fā)展。

2 人工智能給網(wǎng)絡(luò)安全防護(hù)帶來(lái)的利與弊

本次針對(duì)網(wǎng)絡(luò)安全中人工智能的利與弊組織了一場(chǎng)別開(kāi)生面的辯論會(huì)，圍繞人工智能技術(shù)給網(wǎng)絡(luò)安全防護(hù)帶來(lái)的作用，兩方隊(duì)伍的學(xué)生針對(duì)自己的觀點(diǎn)做了大量的前期文獻(xiàn)調(diào)研，展開(kāi)了激烈的角逐提供了大量的精彩論點(diǎn)。他們用直白的、口語(yǔ)化的語(yǔ)言展示了這兩門(mén)最新的科學(xué)技術(shù)的思辨關(guān)系。這里對(duì)其中的主要觀點(diǎn)進(jìn)行了總結(jié)。

正方：人工智能給網(wǎng)絡(luò)安全防護(hù)帶來(lái)了更有效的作用

1）自動(dòng)惡意軟件防御；

2）代碼檢測(cè)與安全運(yùn)維；

3）感知上下文的行為分析；

4）安全態(tài)勢(shì)在線監(jiān)控及預(yù)測(cè)；

5）漏洞識(shí)別及修復(fù)；

6）實(shí)時(shí)流數(shù)據(jù)分析以檢測(cè)惡意內(nèi)部人員。

總體來(lái)說(shuō)，人工智能技術(shù)充分發(fā)揮了自身的特點(diǎn)，在網(wǎng)絡(luò)安全防護(hù)領(lǐng)域?qū)⒁酝姆雷o(hù)經(jīng)驗(yàn)、現(xiàn)有的防護(hù)技術(shù)和大數(shù)據(jù)學(xué)習(xí)到的防護(hù)知識(shí)充分整合，實(shí)現(xiàn)一個(gè)自動(dòng)檢測(cè)、快速響應(yīng)、實(shí)時(shí)監(jiān)控、提前預(yù)測(cè)的智能化安全防護(hù)系統(tǒng)。在數(shù)字安全、物理安全和政治安全等各個(gè)網(wǎng)絡(luò)安全領(lǐng)域都帶來(lái)了有效的安全防護(hù)措施。數(shù)字安全領(lǐng)域包括上述利用人工智能系統(tǒng)實(shí)施各種檢測(cè)和防御措施；物理安全領(lǐng)域包括人工智能技術(shù)帶來(lái)的自動(dòng)駕駛和無(wú)人機(jī)被用來(lái)對(duì)路況、實(shí)時(shí)環(huán)境的檢測(cè)和控制；政治安全領(lǐng)域包括剖析當(dāng)前的安全態(tài)勢(shì)并有針對(duì)性地進(jìn)行宣傳活動(dòng)，為國(guó)家安全、社會(huì)秩序、市場(chǎng)有序競(jìng)爭(zhēng)、社會(huì)公眾的個(gè)人利益都帶來(lái)了極大的便利和保障。

反方：人工智能給網(wǎng)絡(luò)安全防護(hù)帶來(lái)了更多的安全威脅

1）隱私數(shù)據(jù)泄露；

2）數(shù)據(jù)偽造與篡改；

3）定制化網(wǎng)絡(luò)釣魚(yú)（金融欺詐、網(wǎng)絡(luò)恐怖主義、網(wǎng)絡(luò)勒索等）；

4）智能化漏洞搜索、基于漏洞的定制攻擊；

5）自主化、規(guī)?；鼐芙^服務(wù)攻擊；

6）未來(lái)人工智能將脫離人類(lèi)控制。

綜上所述，可以將人工智能給網(wǎng)絡(luò)安全領(lǐng)域帶來(lái)的威脅總結(jié)為威脅格局的三個(gè)變化：現(xiàn)有威脅的擴(kuò)大、新威脅的出現(xiàn)和威脅的典型特征的改變[6]。通過(guò)人工智能系統(tǒng)的可擴(kuò)展使用，任務(wù)中涉及人工的成本極大地降低了。然后，犯罪者可以使用低成本技術(shù)（例如大規(guī)模魚(yú)叉式網(wǎng)絡(luò)釣魚(yú)）廣泛攻擊更多目標(biāo)，這是現(xiàn)有威脅的擴(kuò)大。新的威脅也可能出現(xiàn)以完成人們以往無(wú)法完成的任務(wù)。例如，當(dāng)黑客試圖進(jìn)行網(wǎng)絡(luò)釣魚(yú)時(shí)，黑客可以通過(guò)使用受害者家人或朋友的真實(shí)模仿聲音來(lái)欺騙受害者。當(dāng)人工智能的高效攻擊變得更加普遍時(shí)，威脅的典型特征將被破壞。例如，為了有效應(yīng)對(duì)釣魚(yú)攻擊，未來(lái)強(qiáng)人工智能可能訓(xùn)練出攻擊性強(qiáng)、目標(biāo)不清晰的攻擊技術(shù)。

3 沉浸式互動(dòng)，促進(jìn)多維度應(yīng)用能力培養(yǎng)

1）開(kāi)展交互式學(xué)習(xí)

以往的課程由于大多是老師的單方面授課，課堂的交互有限，無(wú)法充分展示學(xué)生的積極性。這次以辯論為主題的課程安排充分調(diào)動(dòng)了學(xué)生的積極性，學(xué)生從接到通知后就非常激動(dòng)，并且主動(dòng)地參與進(jìn)來(lái)。他們?cè)诜纸M完成后就大量查閱文獻(xiàn)，并且尋找相關(guān)實(shí)際案例作為論據(jù)。學(xué)生在做課后總結(jié)時(shí)表示通過(guò)這種交互式學(xué)習(xí)的過(guò)程大大拓寬了自己的視野，發(fā)散了思維。

2）開(kāi)拓辯證思維

以往無(wú)論是網(wǎng)絡(luò)安全還是人工智能技術(shù)課程都是用非黑即白的絕對(duì)對(duì)立的思維方式看待兩者之間的關(guān)系，通過(guò)本次辯論實(shí)驗(yàn)，學(xué)生學(xué)會(huì)了用辯證的立體視角看待網(wǎng)絡(luò)安全與人工智能。在網(wǎng)絡(luò)安全防護(hù)實(shí)踐中可以使用人工智能技術(shù)加以強(qiáng)化，在應(yīng)用人工智能技術(shù)的相關(guān)實(shí)訓(xùn)案例中又對(duì)于安全邊界的設(shè)置有更深的理解和掌握，建立了更加全面、完善的知識(shí)體系。

3）增強(qiáng)法律意識(shí)

同時(shí)，辯論過(guò)程中反方小組列舉了若干違反了《中華人民共和國(guó)網(wǎng)絡(luò)安全法》《網(wǎng)絡(luò)產(chǎn)品安全漏洞管理規(guī)定》的網(wǎng)絡(luò)安全案例，幫助學(xué)生對(duì)網(wǎng)絡(luò)安全的法規(guī)條例有了更清晰的理解。學(xué)生理解了“沒(méi)有買(mǎi)賣(mài)就沒(méi)有傷害”，通過(guò)制定和完善大數(shù)據(jù)安全和隱私保護(hù)的配套法律法規(guī)，從源頭阻止利用人工智能的漏洞來(lái)獲取利益的行為。

4）提高安全素養(yǎng)

本信息類(lèi)專(zhuān)業(yè)學(xué)生在培養(yǎng)過(guò)程中以往只重視技術(shù)能力的掌握，網(wǎng)絡(luò)安全相關(guān)的課程大多開(kāi)設(shè)在高年級(jí)（第七學(xué)期），并且在學(xué)科專(zhuān)業(yè)知識(shí)體系中缺乏網(wǎng)絡(luò)安全意識(shí)的培養(yǎng)和網(wǎng)絡(luò)安全基礎(chǔ)知識(shí)的鍛煉。通過(guò)本課程實(shí)驗(yàn)的安排，在人工智能等專(zhuān)業(yè)技能課程中增加了安全知識(shí)的滲透，加強(qiáng)了安全素養(yǎng)的培養(yǎng)，學(xué)生表示今后無(wú)論是在生活中使用網(wǎng)絡(luò)還是利用人工智能解決問(wèn)題的時(shí)候都會(huì)加強(qiáng)安全意識(shí)并將本次辯論收集信息時(shí)掌握的安全知識(shí)加以應(yīng)用。

5）培養(yǎng)全面應(yīng)用型人才

正反雙方學(xué)生在辯論過(guò)程中將抽象的信息轉(zhuǎn)化為語(yǔ)言后流暢、清晰地進(jìn)行表達(dá)，面對(duì)對(duì)方問(wèn)題隨機(jī)應(yīng)變、靈活應(yīng)對(duì)，幫助學(xué)生在辯論過(guò)程中“越辯越清晰”，對(duì)網(wǎng)絡(luò)安全與人工智能課程的理論知識(shí)進(jìn)行了邏輯的、合理的總結(jié)。并且提高了臨場(chǎng)應(yīng)變的能力，鍛煉了表達(dá)能力，邏輯思維能力，幫助學(xué)生成長(zhǎng)為更全面、更具思想深度的應(yīng)用型人才。

4 守住底線、保持清醒、理解技術(shù)

網(wǎng)絡(luò)安全和人工智能都是當(dāng)前信息科技中極為重要的部分，學(xué)生通過(guò)理論和實(shí)踐教學(xué)掌握了這兩門(mén)課程中的核心技術(shù)。然而在實(shí)際使用過(guò)程中，很有可能會(huì)出于好奇心甚至在自己不經(jīng)意的情況下利用其中的技術(shù)做出侵害他人權(quán)益或者違反相關(guān)法律規(guī)定的事情，例如獲取他人的隱私、違規(guī)獲取第三方未授權(quán)的信息。通過(guò)這次人工智能與網(wǎng)絡(luò)安全主題的辯論，學(xué)生經(jīng)過(guò)廣泛查閱文獻(xiàn)、研讀網(wǎng)絡(luò)安全相關(guān)法律法規(guī)政策、調(diào)查實(shí)際生活中使用人工智能技術(shù)中違反法規(guī)的案例等自主學(xué)習(xí)，充分了解了人工智能技術(shù)在使用過(guò)程中也是有明顯行為邊界的，跨過(guò)這些邊界的行為會(huì)違反《中華人民共和國(guó)網(wǎng)絡(luò)安全法》中的法律規(guī)范。例如利用機(jī)器學(xué)習(xí)的方法獲取網(wǎng)絡(luò)中的信息時(shí)，其中抓獲的數(shù)據(jù)中包含一些未被處理掉的個(gè)人隱私信息。如果肆意散播這類(lèi)數(shù)據(jù)，或者利用這些數(shù)據(jù)獲取利用或做出傷害當(dāng)事人的行為，都是違法并需要承擔(dān)相應(yīng)的法律責(zé)任的。通過(guò)這次辯論，學(xué)生一方面產(chǎn)生了使用人工智能技術(shù)的底線意識(shí)，以后無(wú)論是在學(xué)習(xí)、科研還是工作場(chǎng)合都要保持清醒，合理地規(guī)范自己的行為。另一方面也提高了自己的網(wǎng)絡(luò)安全防護(hù)意識(shí)，并在過(guò)程中掌握了防范手段，在日后的網(wǎng)絡(luò)活動(dòng)中可以更好地保護(hù)自身的利益。

5 結(jié)束語(yǔ)

本次網(wǎng)絡(luò)安全課程中針對(duì)網(wǎng)絡(luò)安全防護(hù)中人工智能帶來(lái)的利與弊的問(wèn)題采用了辯論的方式，為教學(xué)實(shí)驗(yàn)改革提供了新思路，展開(kāi)了新模式。辯論賽得到了學(xué)生的積極反饋，為當(dāng)前以理論和技術(shù)為核心的課程的教學(xué)實(shí)驗(yàn)改革提供了一種可行的交互式、沉浸式學(xué)習(xí)模式。和人工智能一樣，任何科學(xué)技術(shù)的發(fā)展都像是一把雙刃劍，會(huì)促進(jìn)社會(huì)一部分的進(jìn)步也會(huì)在另一方面產(chǎn)生對(duì)應(yīng)的副作用，這些最新的技術(shù)是在被不斷權(quán)衡、評(píng)估、調(diào)整的過(guò)程中動(dòng)態(tài)、有序地發(fā)展的。在課程教育過(guò)程，通過(guò)辯論的形式幫助學(xué)生學(xué)會(huì)辯證思考學(xué)到的技術(shù)在社會(huì)中的作用，讓他們意識(shí)到科學(xué)技術(shù)是為了給人們帶來(lái)便利而產(chǎn)生的，但也會(huì)被用于傷害他人的利益，有助于學(xué)生畢業(yè)后在從事相關(guān)領(lǐng)域的職業(yè)時(shí)謹(jǐn)記恪守嚴(yán)格的職業(yè)道德、遵守明確的法律底線，期望為社會(huì)培養(yǎng)出守底線、講道德、有技術(shù)的優(yōu)秀專(zhuān)業(yè)人才。