摘要：近期，以ChatGPT為代表的人工智能大語言模型應用快速發(fā)展，引發(fā)了金融行業(yè)對大語言模型及其場景應用的廣泛討論和探索。本文主要從ChatGPT的優(yōu)勢與不足、應用場景等方面進行梳理總結，分析了應用ChatGPT等大語言模型的潛在風險及技術研發(fā)面臨的挑戰(zhàn)，并提出應對措施。

關鍵詞：ChatGPT 大語言模型 應用場景 人工標注

ChatGPT發(fā)展概述

（一）ChatGPT是一款人工智能驅動的自然語言處理工具

2022年11月30日，美國開放人工智能（OpenAI）公司推出對話式通用人工智能工具——ChatGPT。因具備出色的語言能力，ChatGPT在上線后很快受到廣大用戶追捧，在推出后2個月內(nèi)，活躍用戶突破1億人，成為歷史上增長速度最快的消費者應用程序，并引起業(yè)界轟動。2023年3月15日，OpenAI發(fā)布多模態(tài)預訓練大語言模型1GPT-4，可接受圖像和文本輸入，多方面性能實現(xiàn)提升。3月22日，企業(yè)級Azure OpenAI GPT-4（國際預覽版）服務發(fā)布。

ChatGPT是一款通用的大參數(shù)預訓練自然語言生成模型，其中GPT是“生成式預訓練轉換器”（Generative Pre-trained Transformer）的縮寫。GPT模型經(jīng)由龐大的互聯(lián)網(wǎng)語料庫訓練后，可根據(jù)用戶輸入的文字內(nèi)容生成對應文字回答，也就是實現(xiàn)常見的聊天問答模式。ChatGPT是GPT模型在改進中誕生的產(chǎn)品，基于GPT-3.5系列模型進行微調(diào)而成。GPT系列模型經(jīng)過多次迭代，模型量級得以提升。從初代GPT到GPT-3，模型參數(shù)量從1.17億個到1750億個，訓練數(shù)據(jù)量從5GB增加到45TB。ChatGPT強大的功能源于機器學習、神經(jīng)網(wǎng)絡模型及Transformer架構等多種技術模型的積累，在以往模型的基礎上具備更大的語料庫、更強的計算能力、更通用的預訓練、更強的自我學習能力等，具有“敢于質疑”“承認無知”“支持連續(xù)多輪對話”“主動承認錯誤”等優(yōu)勢和特點。

（二）ChatGPT在智能問答、內(nèi)容創(chuàng)作、翻譯等方面能力較強

ChatGPT的問世之所以得到如此強烈的反響，很大程度上是因為其語言能力顯著提升，完成了從“人工智障”到“有趣”的轉變。相比其他聊天機器人，ChatGPT能給用戶帶來很強的智能感。

1.對于用戶實際意圖的理解有明顯提升，用戶體驗良好

AI系統(tǒng)首次具備了思維鏈能力，即實現(xiàn)了從現(xiàn)象到原理的邏輯推演，能完成各概念間的邏輯推理，具備更強的知識理解能力和上下文學習能力。用戶可以通過追加提問的方式，讓其不斷改進回答內(nèi)容。通過多輪有效溝通，最終生成的內(nèi)容重點清晰、有邏輯、有條理。

2.具有較強的文本生成和寫作能力

ChatGPT具有按照指令完成任務的能力，在文藝創(chuàng)作類、特定風格類的文本生成方面表現(xiàn)良好。此外，ChatGPT在面對超長篇幅的寫作任務時可生成提綱，提綱有先后邏輯、編號順序、層級標題等。

3.具有優(yōu)異的機器翻譯和跨語種交互能力

ChatGPT翻譯結果的流暢程度遠超已有的任何機器翻譯算法，跨語種交流過程更自然，可實現(xiàn)“以A語種提出問題、以B語種輸出結果”，并在各語種俚語、暗喻等復雜語義的理解和轉化方面表現(xiàn)出色。

4.具有一定的編程能力

ChatGPT兼容海量知識且富含邏輯的能力特征與編程要求高度契合。ChatGPT可實現(xiàn)輔助編程和代碼管理功能，助力軟件開發(fā)、提高編碼效率。

（三）ChatGPT在特定方面仍存在局限性

盡管ChatGPT能力強大，受到廣泛歡迎，但由于在數(shù)據(jù)、模型、標注策略等方面存在局限，其還無法令人完全滿意。

1. ChatGPT生成內(nèi)容的準確性難以保證

ChatGPT并非像搜索引擎一樣搜索答案并按算法排序，而是直接生成答案，會輸出看似有道理但事實上錯誤的內(nèi)容，且用戶難以糾正。同時，ChatGPT不能提供合理證據(jù)進行可信性驗證，導致其不能進行邏輯嚴密的數(shù)學推理。此外，ChatGPT更傾向于生成模糊性對話或不確定回復，在追求唯一事實性答案的情形下并不完全適用。

2.模型的可解釋性弱，且可能生成具有偏好性的答案

ChatGPT所使用的Transformer架構屬于神經(jīng)網(wǎng)絡模型的范疇，神經(jīng)網(wǎng)絡模型的可解釋性較弱，對于ChatGPT生成的答案及其不確定性難以進行合理解釋。此外，模型預訓練依賴人工標注，且ChatGPT引入了基于人類反饋的強化學習，以使模型的結果更符合人類預期，這導致模型的輸出結果在一定程度上反映了標注人員的行為和偏好。比如，模型可能會生成帶有偏見或政治敏感性的答案，或更加冗長但全面的答案。

3. ChatGPT無法處理復雜的、專業(yè)領域的語言結構

目前，ChatGPT模型的訓練數(shù)據(jù)來自互聯(lián)網(wǎng)的公開語料，而非某個專業(yè)領域的知識庫。因此，對于來自數(shù)學、金融、醫(yī)學等某個特定領域的專業(yè)問題，ChatGPT生成的回答專業(yè)度不足，準確性和可信度難以保證。

ChatGPT的應用分析

（一）ChatGPT在眾多場景中有廣闊的應用空間

ChatGPT以其強大的語言能力掀起了AI領域的技術巨浪，給各行各業(yè)帶來巨大機遇。未來，以ChatGPT為代表的人工智能生成技術（AI Generated Content，AIGC）的商業(yè)化應用將進一步成熟，在部分內(nèi)容需求豐富的行業(yè)中有望取得積極進展。目前，ChatGPT相關技術的應用場景及產(chǎn)品主要如下。

1.交互式客戶服務

ChatGPT可以快速回答用戶提出的問題，24小時無間斷提供對話聊天、信息檢索等服務。ChatGPT能結合上下文進行連續(xù)對話，提供個性化回復，與檢索型問答機器人相比，用戶體驗更勝一籌。依托高質量的文本生成能力，ChatGPT可基于用戶畫像生成營銷文案，有針對性地提供營銷策略、個性化推薦方案等。

部分保險公司已在內(nèi)部測試ChatGPT應用，讓AI機器人以文本或語音形式獨立完成保險營銷等簡單工作，比如向客戶介紹條款相對簡單的短期保險產(chǎn)品、解答客戶提出的問題等。某電商計劃將AIGC和ChatGPT相關技術應用于用戶售前咨詢和產(chǎn)品基礎信息展示等。未來有望通過ChatGPT技術實現(xiàn)類似真人的交互式對話，豐富商品賣點的內(nèi)容與形式。

2.智能化投研風控管理

ChatGPT可以整合各類數(shù)據(jù)源并進行文本分析。比如，使用ChatGPT獲取社交媒體、新聞報道等內(nèi)容，對市場輿情和投資者情緒進行分析，挖掘潛在投資機會或風險點，生成投研報告，提出投資建議或進行風險預警。ChatGPT還可應用于信貸評估、欺詐檢測、投資決策輔助等領域。

部分銀行嘗試將ChatGPT技術融入風險評估、精準營銷等領域，從而更迅速地滿足客戶在不同場景下的金融需求。如某互聯(lián)網(wǎng)券商推出AI投資助手，將其內(nèi)置于交易平臺，為用戶提供智能的全球投資決策支持。

3.自動化文本及數(shù)據(jù)處理

ChatGPT可識別多種語言，實現(xiàn)快速翻譯、語法檢查、文本改進等功能，并可根據(jù)指令提示生成表格、圖片。同時，ChatGPT能根據(jù)要求制作表格，如增加行列、進行表內(nèi)計算等。經(jīng)進一步提示后，ChatGPT可給出計算公式或應用程序自動化任務執(zhí)行宏語言（Visual Basic for Applications，VBA）代碼，幫助用戶在表格處理軟件Excel中實現(xiàn)復雜的計算功能。

已有互聯(lián)網(wǎng)公司探索大語言模型在文案自動創(chuàng)作與生成、個人辦公助理、圖文視頻創(chuàng)作，以及音樂創(chuàng)作、音樂推薦和搜索等領域的應用。目前，OpenAI的投資方微軟（Microsoft）已將ChatGPT內(nèi)嵌到其搜索引擎中，并在瀏覽器整合AI繪圖功能。微軟旗下語音識別子公司推出AI臨床筆記軟件，用于快速自動生成病人臨床筆記草稿。此外，微軟推出人工智能驅動的辦公（Office）助手Microsoft 365 Copilot，以及為網(wǎng)絡安全專業(yè)人士量身定制的GPT-4 AI助手Security Copilot，助力實現(xiàn)智能、高效的辦公環(huán)境和網(wǎng)絡安全管理。國內(nèi)也有研究團隊推出“職場神器”ChatExcel。

4.輔助編程及代碼管理

ChatGPT可生成代碼框架、編寫代碼片段和測試案例、輔助進行代碼調(diào)試。此外，還可輔助生成程序文檔，解釋代碼功能，添加代碼注釋，進行代碼語法錯誤檢查和智能優(yōu)化，完成代碼審計等。例如，在智能生成結構化查詢語言（SQL）方面，用戶可使用ChatGPT編寫SQL語句、調(diào)試SQL代碼、提供SQL語法信息和優(yōu)化提示等。

部分銀行嘗試運用ChatGPT技術提高軟件開發(fā)生產(chǎn)力。銀行科技人員通過與ChatGPT進行交互問答，讓ChatGPT給出簡單的演示模型，并確定代碼的基本編寫方案。科技人員還可通過ChatGPT編寫代碼的基本框架，經(jīng)由代碼生成模型Codex2得到代碼，通過人工潤色與審查后，完成整體代碼的編寫。

（二）GPT模型有望成為債券領域的科技化賦能工具

國內(nèi)多家券商嘗試開發(fā)類ChatGPT產(chǎn)品，探索相關技術在證券業(yè)務中的應用場景。未來通過使用債券領域相關語料庫對GPT模型進行針對性訓練，有望使GPT模型在智能客服、債券投顧、風險控制、報告撰寫等債券業(yè)務場景中應用落地，推動債券業(yè)務智能化發(fā)展。

1. AI客服

聊天機器人是金融機構常見的客戶服務形式，目前通常為基于規(guī)則或預定義腳本的自動化程序，只能執(zhí)行特定的任務。金融機構結合專業(yè)、規(guī)范的金融知識庫，利用GPT模型優(yōu)秀的自然語言理解能力和連續(xù)對話功能，可以進一步升級智能客服系統(tǒng)，為客戶提供債券業(yè)務咨詢服務，如解答政策法規(guī)、查詢債券信息、問詢業(yè)務流程，還可作為線上路演助理推薦債券產(chǎn)品、解答投資者疑問等。

2. AI投資研究及風險控制

通過插件授予GPT模型訪問第三方數(shù)據(jù)庫及網(wǎng)絡的權限，GPT模型可查詢實時的債券信息、經(jīng)濟指標、新聞輿情等數(shù)據(jù)。在此基礎上，GPT模型可對所獲取數(shù)據(jù)進行分析，提供債券領域的研究參考，通過人機合作完成宏觀策略研究、行業(yè)研究、動態(tài)追蹤、輿情監(jiān)測等報告。此外，GPT模型通過獲取企業(yè)財務信息、資信情況、輿情信息等內(nèi)容，可以進一步在債券業(yè)務的盡職調(diào)查、存續(xù)期管理、風險預警等環(huán)節(jié)發(fā)揮支持作用，實現(xiàn)智能化風險識別與管理。

3.智能化投行業(yè)務

投行從業(yè)者需要撰寫大量固定格式的文檔材料，如債券募集說明書、盡職調(diào)查報告等，人工撰寫往往耗時費力?？衫肎PT模型在文本自動化生成方面的優(yōu)勢，訓練GPT模型從相關基礎材料中提取有效信息，并按照固定格式生成所需文檔。在此基礎上，可使用GPT模型對生成文檔內(nèi)容進行校對檢查，降低人工操作風險，促進投行業(yè)務提質增效。

4. AI培訓

可以將GPT模型應用于債券市場從業(yè)者學習培訓中，借助GPT模型為不同背景的受訓人員定制個性化課程教案和培訓計劃，解答培訓過程中的問題。特別是針對以網(wǎng)絡培訓為主要形式的債券業(yè)務培訓，可探索增加線上智能互動問答，通過互動式的學習方式實時為學員提供難點分析、問題解答等相關支持。

關于ChatGPT的思考

以ChatGPT為代表的人工智能技術的持續(xù)、快速發(fā)展將對許多領域產(chǎn)生廣泛而深遠的影響。同時也應意識到，大語言模型的局限性為ChatGPT等產(chǎn)品的應用帶來潛在風險，相關技術的研發(fā)也面臨挑戰(zhàn)。

（一）使用ChatGPT存在潛在風險，需要積極采取應對措施

1.應用ChatGPT的潛在風險

因ChatGPT本身的工作原理及程序漏洞，其已在世界范圍內(nèi)曝出多起敏感數(shù)據(jù)泄密事件。美國技術倫理組織要求美國聯(lián)邦貿(mào)易委員會阻止OpenAI發(fā)布新的GPT商用版本，并對OpenAI展開調(diào)查。意大利、德國、加拿大、西班牙、法國等多國相關部門宣布對OpenAI展開調(diào)查，甚至禁止使用ChatGPT。2023年4月5日，OpenAI發(fā)布題為《我們的人工智能安全方法》（Our Approach to AI Safety）的文章，介紹該公司為確保AI模型安全性所進行的部署。OpenAI表示，其努力在可行的情況下從訓練數(shù)據(jù)集中刪除個人信息、微調(diào)模型，以拒絕對私人信息的請求，并且響應用戶從OpenAI系統(tǒng)中刪除個人信息的請求。

在此背景下，本文將應用ChatGPT相關技術的潛在問題與風險總結如下。

一是ChatGPT相關應用暫未在中國開放。國內(nèi)用戶須以國外IP地址訪問ChatGPT方可體驗相關服務。使用未獲合法許可的國外網(wǎng)絡服務將違反《中華人民共和國計算機信息網(wǎng)絡國際聯(lián)網(wǎng)管理暫行規(guī)定》。

二是產(chǎn)生誤導性內(nèi)容或不當信息。使用ChatGPT生成的內(nèi)容可能不準確或具有誤導性，或涉及人身攻擊、誹謗、恐嚇等不當行為，從而導致使用ChatGPT的服務提供方承擔相應的法律風險。

三是隱私泄露風險。若用戶輸入了個人數(shù)據(jù)或商業(yè)秘密等信息，ChatGPT在進一步訓練和擴展模型時可能將其納入自身語料庫，從而產(chǎn)生隱私泄露的風險。

四是侵害知識產(chǎn)權風險。ChatGPT的可解釋性較弱，屬于黑箱模型，無法給出問答結果所依據(jù)的具體知識和信息來源，生成的內(nèi)容可能會產(chǎn)生侵犯商標權、專利權等知識產(chǎn)權的風險。

五是可能面臨監(jiān)管風險。ChatGPT作為新興技術，在與具體場景結合的過程中有可能出現(xiàn)風險事件，進而導致監(jiān)管部門對技術應用給予關注，出臺限制性規(guī)定。

2.應對潛在風險的措施

ChatGPT廣泛的應用場景令使用者面臨較大的合規(guī)風險與合規(guī)責任。對于金融行業(yè)，ChatGPT可能帶來的上述風險不容忽視。一旦發(fā)生客戶隱私和數(shù)據(jù)泄露，或傳播誤導性信息，將可能影響金融市場的穩(wěn)健運行，危害國家金融安全。2023年4月10日，中國支付清算協(xié)會發(fā)布《關于支付行業(yè)從業(yè)人員謹慎使用ChatGPT等工具的倡議》，要求支付行業(yè)從業(yè)人員在使用ChatGPT等工具時，嚴格遵守國家及行業(yè)相關法律法規(guī)要求，不上傳國家及金融行業(yè)涉密文件及數(shù)據(jù)、本公司非公開的材料及數(shù)據(jù)、客戶資料、支付清算基礎設施或系統(tǒng)核心代碼等。

在開展類ChatGPT產(chǎn)品的研究及應用時，建議積極采取風險應對措施。一是充分研究相關法律法規(guī)，以審慎態(tài)度應對風險。我國對于AI的監(jiān)管走在世界前列，于2023年1月10日施行的《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》是對ChatGPT及類似項目最核心的監(jiān)管法規(guī)。4月11日，《生成式人工智能服務管理辦法（征求意見稿）》向社會公開征求意見。AI產(chǎn)品的研發(fā)應用應在相關法律框架下建立數(shù)據(jù)隱私保護、內(nèi)容過濾、內(nèi)容審查、知識產(chǎn)權保護、責任認定等方面的實施規(guī)范。二是需深入AI系統(tǒng)的全生命周期進行審查，建立每個具體環(huán)節(jié)的管理制度，包括制定語料庫的篩選標準、培訓人工標注人員、考察開發(fā)者價值觀、教育使用者等。三是探索場景化和精細化的數(shù)據(jù)及算法治理機制，充分考慮算法決策的主體類型和作用類別。四是加強對AI的倫理規(guī)制，將倫理道德納入AI研發(fā)和應用的全過程，增強倫理意識和行為自覺，對參與研發(fā)的人員進行規(guī)范性培訓和積極引導。

（二）大語言模型在金融領域的應用挑戰(zhàn)與機遇并存

隨著大語言模型在對話式知識庫、智能客服等場景的落地，其在金融領域的應用前景愈發(fā)廣闊。如何應對ChatGPT相關技術帶來的機遇和挑戰(zhàn)是金融機構面臨的重要課題。

1.大語言模型在金融領域的落地仍有諸多挑戰(zhàn)

一是技術難度大、配套產(chǎn)品要求多。大語言模型涉及深度學習框架支撐、模型訓練、數(shù)據(jù)收集清洗標注、算力調(diào)度、分布式訓練等諸多技術，對金融機構配套基礎設施的要求較高。

二是大語言模型技術選型難。該項技術發(fā)展迅猛、迭代速度快，短短數(shù)月內(nèi)已有十余款大語言模型發(fā)布，在模型效果評估、本地化部署運行、二次訓練效果評估、對基礎設施要求等方面，選型評估難度較大。

三是合規(guī)使用難。金融行業(yè)對合規(guī)使用要求高，但大語言模型基于概率推理，難以保證結果的準確性，且知識更新依賴模型訓練，成本高、效率低，在模型公平、數(shù)據(jù)安全、隱私保護等方面的合規(guī)應用還需持續(xù)探索。

四是數(shù)據(jù)處理和算力成本高。金融行業(yè)數(shù)據(jù)和場景具有敏感性，使用大語言模型需進行本地化部署運行，甚至本地化模型訓練，以上過程均需要龐大的圖形處理器（GPU）算力資源作為支撐，并進行大量的數(shù)據(jù)收集、清洗、標注等工作，資源投入較大。

2.對應用大語言模型的相關建議

一是加強人才隊伍建設。技術變革促進行業(yè)發(fā)展，同時帶來對人才隊伍補充和新建的需求。金融行業(yè)應重視AI人才隊伍的建設，補充高水平、高層次、關鍵崗位人才。

二是夯實新技術基礎設施的建設，推動云平臺、數(shù)據(jù)采集標注、模型訓練工具等AI工程化平臺工具和技術基礎設施的搭建與升級，為大語言模型的訓練和運行提供基礎支持。

三是保持技術的開放性，吸收商業(yè)模型和開源模型相關經(jīng)驗，提升大語言模型的插件化服務能力，保持技術架構良好的擴展性和兼容性。同時，形成一套大語言模型評估方法，結合實際需求進行模型選型評估。

四是探索增強使用的可信性。金融機構可在預訓練基礎模型的基礎上添加自身數(shù)據(jù)進行二次訓練，增強模型的可信性。此類探索要求使用高質量的金融數(shù)據(jù)，在應用場景側做好風險管控，提升應用規(guī)范性及對大語言模型應用的風險認知，防控業(yè)務應用風險。