李 珣，任艷麗，張 震

（1.國(guó)家工業(yè)信息安全發(fā)展研究中心，北京 100040；2. 北京洛斯達(dá)科技發(fā)展有限公司，北京 100089；3. 北京電子科技學(xué)院，北京 102627）

0 引言

智能電視已經(jīng)逐漸成為開放式應(yīng)用的智能化平臺(tái)，可實(shí)現(xiàn)雙向人機(jī)交互功能，滿足用戶的多樣化、個(gè)性化需求。人工智能（Artificial Intelligence，AI）技術(shù)使電視機(jī)能夠勝任一些通常需要人類智能才能完成的復(fù)雜工作，如語(yǔ)音控制和內(nèi)容檢索等。但受到之前人工智能技術(shù)水平的限制，其對(duì)指令的精準(zhǔn)處理不夠準(zhǔn)確，與電視內(nèi)容聯(lián)動(dòng)較弱，實(shí)際體驗(yàn)并不能令用戶滿意。隨著2023 年人工智能算法理論研究的深入和計(jì)算算力的快速發(fā)展，聊天生成預(yù)訓(xùn)練轉(zhuǎn)換器（Chat Generative Pre-trained Transformer，ChatGPT）開始進(jìn)入產(chǎn)業(yè)化應(yīng)用，豐富了“人機(jī)對(duì)話、智能控制、自動(dòng)運(yùn)行”的實(shí)際場(chǎng)景。其訓(xùn)練模型在動(dòng)作識(shí)別、實(shí)物測(cè)距、背景渲染等交互控制方面得到大幅度提升，已經(jīng)開始改寫以智能電視為代表的家電行業(yè)格局。

使用ChatGPT 技術(shù)的智能電視機(jī)的使用范圍大大超越了傳統(tǒng)電視機(jī)，已成為基于智能硬件的計(jì)算終端，顯著特點(diǎn)包括AI 能力提升、支持多種軟硬件平臺(tái)、應(yīng)用適配性高、提供軟件開發(fā)工具包（Software Development Kit，SDK），便于第三方快速開發(fā)應(yīng)用軟件。在實(shí)際體驗(yàn)方面，除了輔助用戶挑選播放內(nèi)容，其還能根據(jù)內(nèi)置的App 應(yīng)用進(jìn)行新聞瀏覽、互聯(lián)網(wǎng)購(gòu)物、控制智能家居等。然而，其帶來(lái)的技術(shù)風(fēng)險(xiǎn)和隱私倫理問(wèn)題同樣值得警惕。智能電視如今面臨的AI 安全問(wèn)題，如同網(wǎng)絡(luò)信息安全一樣，需要納入技術(shù)應(yīng)用和產(chǎn)業(yè)應(yīng)用的范圍內(nèi)。

1 ChatGPT 應(yīng)用給智能電視帶來(lái)的安全風(fēng)險(xiǎn)

1.1 ChatGPT 技術(shù)本身的安全風(fēng)險(xiǎn)

ChatGPT 技術(shù)使用的人臉識(shí)別、語(yǔ)音識(shí)別、自然語(yǔ)言處理、文本生成、語(yǔ)言翻譯、內(nèi)容過(guò)濾及信息關(guān)聯(lián)等AI 技術(shù)已經(jīng)深刻影響智能電視的發(fā)展方向，給用戶操作帶來(lái)了便捷。然而，當(dāng)前主流的深度神經(jīng)網(wǎng)絡(luò)等人工智能技術(shù)具有“黑盒屬性”，導(dǎo)致基于該技術(shù)的AI 算法具有不可解釋性[1]，算法的健壯性、準(zhǔn)確率、生成合成信息的方法不對(duì)外公開，導(dǎo)致智能電視用戶無(wú)法了解其技術(shù)的安全性。例如，該技術(shù)是否對(duì)使用的第三方組件、固件及時(shí)進(jìn)行安全更新和漏洞修補(bǔ)，是否針對(duì)訓(xùn)練數(shù)據(jù)、測(cè)試數(shù)據(jù)、算法代碼及算法模型等安全需求進(jìn)行差異性設(shè)置，是否采取數(shù)據(jù)訪問(wèn)控制策略防止非授權(quán)訪問(wèn)，是否使用密碼技術(shù)對(duì)訓(xùn)練數(shù)據(jù)、測(cè)試數(shù)據(jù)、算法代碼及算法模型等進(jìn)行保護(hù)，是否對(duì)訓(xùn)練數(shù)據(jù)、測(cè)試數(shù)據(jù)的存儲(chǔ)、傳輸進(jìn)行加密保護(hù)等?？梢?jiàn)，算法模型本身的安全性、可靠性問(wèn)題會(huì)給電視用戶帶來(lái)直接風(fēng)險(xiǎn)。

此外，黑盒模型如果沒(méi)有經(jīng)過(guò)智能電視用戶大量的應(yīng)用測(cè)試，其存在的一些難以被發(fā)現(xiàn)的邏輯錯(cuò)誤會(huì)給安全應(yīng)用帶來(lái)不確定因素，可能會(huì)在智能電視產(chǎn)業(yè)應(yīng)用落地過(guò)程中出現(xiàn)各種安全隱患。

1.2 ChatGPT 技術(shù)帶來(lái)的應(yīng)用安全風(fēng)險(xiǎn)

ChatGPT 技術(shù)的成熟度取決于訓(xùn)練的規(guī)模，而訓(xùn)練數(shù)據(jù)恰好為某些惡意軟件帶來(lái)可乘之機(jī)，結(jié)構(gòu)性的算法漏洞、算法后門給黑客帶來(lái)了漏洞利用的可能。通過(guò)ChatGPT 技術(shù)推薦下載的App 應(yīng)用如果沒(méi)有經(jīng)過(guò)應(yīng)用市場(chǎng)的嚴(yán)格審核，會(huì)帶來(lái)風(fēng)險(xiǎn)極高的安全漏洞。例如，影響智能電視的高嚴(yán)重程度漏洞包括堆棧緩沖區(qū)溢出漏洞、目錄遍歷漏洞以及命令注入漏洞等，這些漏洞普遍存在于互聯(lián)網(wǎng)端，但隨著AI 技術(shù)的發(fā)展，已經(jīng)逐漸向智能電視端蔓延。這些惡意應(yīng)用可能被用于惡意目的，如制造破壞性的網(wǎng)絡(luò)攻擊或用于進(jìn)行欺詐活動(dòng)。此外，與大多數(shù)物聯(lián)網(wǎng)設(shè)備一樣，高端智能電視機(jī)包含的高性能圖形處理器（Graphics Processing Unit，GPU），甚至已被不法分子利用，成為新的“挖礦”載體[2]。如果ChatGPT 被用于惡意詐騙等不當(dāng)用途，將會(huì)給行業(yè)生態(tài)的健康發(fā)展帶來(lái)不利影響。

生成式AI 技術(shù)能夠通過(guò)自我學(xué)習(xí)，不斷改進(jìn)自身的性能。然而，這種自我學(xué)習(xí)也可能導(dǎo)致對(duì)應(yīng)用的失控，從而對(duì)智能電視的應(yīng)用安全造成二次威脅。

1.3 ChatGPT 技術(shù)帶來(lái)的數(shù)據(jù)安全風(fēng)險(xiǎn)

人工智能的發(fā)展與大數(shù)據(jù)密切相關(guān)。要構(gòu)造能力更強(qiáng)的人工智能，需要更多、更關(guān)鍵以及更高價(jià)值的真實(shí)數(shù)據(jù)。然而，高價(jià)值數(shù)據(jù)往往與個(gè)人隱私信息甚至商業(yè)機(jī)密信息綁定。ChatGPT 技術(shù)在落地智能電視的過(guò)程中，可能在數(shù)據(jù)應(yīng)用或者流通環(huán)節(jié)造成信息泄露。例如，很多智能電視已經(jīng)可以通過(guò)內(nèi)置攝像頭的人臉識(shí)別功能實(shí)現(xiàn)App賬戶的登錄或者視頻聊天功能。人臉識(shí)別系統(tǒng)的精準(zhǔn)度依靠海量人臉數(shù)據(jù)進(jìn)行特征提取訓(xùn)練完成，盡管相關(guān)算法和技術(shù)已經(jīng)比較成熟，但黑產(chǎn)分子可利用漏洞進(jìn)行多種模式的繞過(guò)與攻擊，如對(duì)抗樣本攻擊，在人臉照片上添加少量干擾或?qū)?duì)抗補(bǔ)丁打印制作后模擬真人，就能欺騙人臉識(shí)別系統(tǒng)；或者加裝干擾因素，改變顏色、修改形狀，誤導(dǎo)感知和識(shí)別算法[3]。這些都是算法層的安全漏洞，存在巨大的安全隱患。

隨著ChatGPT 在智能電視的應(yīng)用，付費(fèi)軟件購(gòu)買環(huán)節(jié)的風(fēng)險(xiǎn)更高。ChatGPT 技術(shù)能夠通過(guò)偽造下載地址，欺騙用戶提供隱私信息如銀行和支付密碼等信息，導(dǎo)致個(gè)人財(cái)產(chǎn)信息泄露[4]。

1.4 ChatGPT 技術(shù)帶來(lái)的知識(shí)產(chǎn)權(quán)風(fēng)險(xiǎn)

ChatGPT 通過(guò)抓取智能電視用戶使用習(xí)慣和互聯(lián)網(wǎng)上的內(nèi)容信息獲得其訓(xùn)練數(shù)據(jù)，可能并不合法。很多智能電視App 上的隱私政策條款明確說(shuō)明數(shù)據(jù)不能被第三方收集，否則會(huì)涉及違反合同。但在實(shí)際訓(xùn)練過(guò)程中，ChatGPT 抓取的數(shù)據(jù)不可避免地會(huì)涉及對(duì)他人享有著作權(quán)的作品進(jìn)行復(fù)制使用，存在著作權(quán)侵權(quán)的風(fēng)險(xiǎn)。

此外，基礎(chǔ)模型降低了內(nèi)容創(chuàng)作的成本，使創(chuàng)造與原作品高度相似的深度偽造品變得更加容易。用戶可以通過(guò)語(yǔ)音指令或者文字輸入來(lái)描述自己的需求，ChatGPT 根據(jù)這些指令自動(dòng)剪輯并生成相應(yīng)的視頻片段，雖然用戶覺(jué)得智能，但是所生成的新內(nèi)容可能是基于已有語(yǔ)音和視頻再加工，通過(guò)智能電視應(yīng)用軟件為視頻添加文字、音樂(lè)、濾鏡等特性，利用自動(dòng)化的視頻剪輯和特效生成。這些對(duì)原始內(nèi)容的加工和發(fā)布，顯然會(huì)引起知識(shí)產(chǎn)權(quán)糾紛[5]。

2 應(yīng)用ChatGPT 技術(shù)的智能電視需采用的安全防范措施

2.1 選擇合適的ChatGPT 技術(shù)大模型

用對(duì)于智能電視來(lái)說(shuō)，選擇ChatGPT 模型需要結(jié)合電視內(nèi)容推薦、語(yǔ)音控制及智能搜索等用戶個(gè)性化需求進(jìn)行綜合考慮，通過(guò)選擇合適的訓(xùn)練模型，分析和評(píng)估智能電視與用戶的對(duì)話場(chǎng)景、對(duì)話目的、數(shù)據(jù)量分析、交互質(zhì)量及資源消耗等多個(gè)方面，保證對(duì)話質(zhì)量和效果符合智能電視應(yīng)用預(yù)期。例如，選擇ChatGPT 模型時(shí)，結(jié)合智能電視內(nèi)置的智能語(yǔ)音助手、專用智能App 等應(yīng)用場(chǎng)景，根據(jù)對(duì)話中不同類型用戶喜好的節(jié)目?jī)?nèi)容的大小和質(zhì)量，對(duì)模型的訓(xùn)練過(guò)程和參數(shù)進(jìn)行充分、詳細(xì)設(shè)置和調(diào)整，同時(shí)需要考慮網(wǎng)絡(luò)資源、中央處理器（Central Processing Unit，CPU）及電源消耗的問(wèn)題[6]，針對(duì)目前智能電視應(yīng)用的互聯(lián)網(wǎng)帶寬和硬件進(jìn)行優(yōu)化，避免由于資源不足導(dǎo)致的交互應(yīng)用運(yùn)行卡頓，影響用戶體驗(yàn)。

2.2 建立針對(duì)ChatGPT 技術(shù)的“防火墻”

當(dāng)前，市面上多種智能電視的操作系統(tǒng)都基于安卓系統(tǒng)開發(fā)或定制，可以利用智能電視原廠自帶的應(yīng)用市場(chǎng)或者第三方軟件商店下載App，拓展視頻、娛樂(lè)、教育等互動(dòng)應(yīng)用。然而，目前ChatGPT 在智能電視等終端并無(wú)規(guī)范化應(yīng)用約束，利用其技術(shù)推薦的應(yīng)用，更容易受到網(wǎng)絡(luò)攻擊和惡意軟件的威脅。不法App 有可能通過(guò)病毒和惡意軟件竊取用戶的信息或者進(jìn)行有害的控制操作。對(duì)此，智能電視廠商應(yīng)在智能電視出廠時(shí)采取安全防護(hù)措施，如安裝殺毒軟件、防火墻等，并通過(guò)權(quán)限控制增強(qiáng)其應(yīng)用安全性。

2.3 做好針對(duì)ChatGPT 技術(shù)的數(shù)據(jù)保護(hù)

ChatGPT 技術(shù)的基礎(chǔ)在于人機(jī)交互，因此智能電視會(huì)即時(shí)或定期將用戶的日常交互數(shù)據(jù)上傳到云端，這意味著智能電視廠商或第三方可以通過(guò)收集用戶關(guān)注的內(nèi)容焦點(diǎn)和興趣愛(ài)好，分析家庭和個(gè)人收視率，利用用戶畫像優(yōu)化內(nèi)容推薦、廣告推送及應(yīng)用軟件下載等信息[3]。因此，智能電視廠商應(yīng)保障獲取用戶數(shù)據(jù)的正當(dāng)性、必要性以及合法性的具體邊界，用戶則需要清楚電視設(shè)備所收集和上傳的數(shù)據(jù)，最大限度地保護(hù)好個(gè)人隱私，維護(hù)好自己的隱私權(quán)和數(shù)據(jù)安全。

2.4 針對(duì)ChatGPT 技術(shù)做好知識(shí)產(chǎn)權(quán)保護(hù)

ChatGPT 技術(shù)可能被用于制作欺詐或侵權(quán)內(nèi)容，如盜版的影視作品或經(jīng)篡改的音頻或視頻，或者通過(guò)模型生成的內(nèi)容有可能會(huì)被用來(lái)冒用個(gè)人或組織，損害其聲譽(yù)或侵犯其公共形象權(quán)。因此，智能電視廠商需要做好電視內(nèi)容審核并配合廣電行業(yè)的版權(quán)管理，在內(nèi)容展示前采用技術(shù)手段確保其已獲得合法授權(quán)或使用不受著作權(quán)限制的數(shù)據(jù)源。

3 結(jié)語(yǔ)

近年來(lái)，隨著大數(shù)據(jù)的積累、理論算法的革新、計(jì)算能力的不斷提高以及互聯(lián)網(wǎng)技術(shù)的不斷完善，人工智能的研究與應(yīng)用進(jìn)入一個(gè)嶄新的發(fā)展階段，以ChatGPT 為代表的人工智能技術(shù)在智慧家電市場(chǎng)發(fā)展?jié)摿薮?。展望未?lái)，采用ChatGPT 技術(shù)的智能電視能夠在保障信息安全、數(shù)據(jù)安全和知識(shí)產(chǎn)權(quán)安全的前提下，為用戶篩選更符合需求的信息、視頻及界面，結(jié)合虛擬現(xiàn)實(shí)（Virtual Reality，VR）等新技術(shù)，把畫面色彩、音響調(diào)節(jié)到用戶更身臨其境的設(shè)置，可以將智能電視升級(jí)為核心控制設(shè)備，與家庭其他智能設(shè)備互聯(lián)，甚至協(xié)助聯(lián)系產(chǎn)品維修服務(wù)，解決電視機(jī)故障。