趙莉珺

（西藏民族大學信息工程學院，咸陽 712082）

0 引言

小說是文學作品中的一種，是人類文化中重要的組成部分，具有豐富的文化內(nèi)涵和情感表達。然而，小說的創(chuàng)作過程需要作者投入大量時間和精力，對于需求量極大的文學市場來說，創(chuàng)作大量高質(zhì)量小說是一項困難的任務。因此，研究如何利用機器生成具有特色的小說具有重要的現(xiàn)實意義。

隨著自然語言處理技術的飛速發(fā)展，GPT3.5 模型已經(jīng)在各種自然語言處理任務中取得了顯著進展。其大規(guī)模的訓練使得GPT3.5 能夠在給定提示的基礎上生成有質(zhì)量保障的文本［1］，但其在生成長篇小說內(nèi)容方面的能力較為普通。本文旨在通過微調(diào)GPT3.5 模型，使得模型提高生成小說方面的能力，使得模型成為一種生成連貫、有創(chuàng)意且保持情節(jié)一致性、人物發(fā)展和主題元素一致性的小說模型。

1 GPT3.5模型概述

OpenAI 的GPT3.5 模型是基于Transformer 架構(gòu)的大規(guī)模預訓練模型，其參數(shù)規(guī)模達到了1750 億。通過在大量多樣化的數(shù)據(jù)集上進行訓練，GPT3.5 可以理解和生成多種類型的文本，包括文章、對話和新聞等。因此，GPT3.5 模型具有廣泛的應用潛力。

在小說文本生成方面，GPT3.5 的一些顯著特征與能力包括：

（1）高度的語言生成能力：GPT3.5 可以生成流暢且富有表現(xiàn)力的文本，使得生成的小說內(nèi)容具有較高的可讀性。

（2）上下文理解：GPT3.5 能夠理解給定提示中的上下文信息，并根據(jù)這些信息生成相關的文本內(nèi)容。這一特性有助于在生成小說文本時保持情節(jié)的連貫性。

（3）風格模仿：由于GPT3.5 在大量不同風格的文本上進行了訓練，它可以模仿多種不同的寫作風格。這使得在生成小說時可以針對特定的文學風格進行調(diào)整。

（4）自動完成和推理：GPT3.5 具有一定程度的自動完成和推理能力，能夠在生成小說文本時，自動補全對話、情節(jié)和人物關系等方面的內(nèi)容。

然而，盡管GPT3.5 具有這些優(yōu)勢，但在生成長篇小說時，保持情節(jié)一致性、人物發(fā)展和主題元素一致性仍然是一個挑戰(zhàn)。因此，本文旨在通過微調(diào)GPT3.5 模型，進一步優(yōu)化其在小說文本生成方面的表現(xiàn)。

2 GPT3.5模型的微調(diào)

為了提高模型生成小說的質(zhì)量和多樣性，需對模型進行微調(diào)。微調(diào)是指在一個已訓練好的模型基礎上，通過在新的數(shù)據(jù)集上重新訓練模型的部分參數(shù)來使模型更好地適應新的任務。在OpenAI的研究中指出，使用小于GPT3.5模型1%大小的GPT 模型，結(jié)合使用少量標注數(shù)據(jù)可產(chǎn)生優(yōu)于GPT3.5 模型的符合人類偏好的模型，微調(diào)可以大幅度地提高GPT3.5 模型在特定生成任務下的性能［2］。在該研究中，微調(diào)過程可以分為以下幾個步驟。

2.1 數(shù)據(jù)集準備

2.1.1 收集數(shù)據(jù)

首先選擇一些優(yōu)秀的小說作為微調(diào)數(shù)據(jù)集，涵蓋不同的體裁、時代和風格，以確保訓練數(shù)據(jù)的多樣性，以便訓練模型更好地生成具有特色的小說。

2.1.2 數(shù)據(jù)預處理

對于OpenAI 的API 中對訓練數(shù)據(jù)的格式要求，需對收集到的數(shù)據(jù)進行處理，以便構(gòu)建合適的提示，引導模型生成符合預期的小說文本。以下是數(shù)據(jù)預處理的關鍵步驟：

（1）提取關鍵信息：從收集到的小說樣本中提取關鍵信息，如人物描述、情節(jié)梗概、對話示例等。這些信息有助于為API 構(gòu)建提供更具指導性的提示。

（2）構(gòu)建樣式參考：為了引導模型生成特定風格的文本，從數(shù)據(jù)集中提取具有代表性的文本片段，作為風格參考。這將有利于訓練模型在生成過程中遵循相應的風格特征。

（3）組合提示：將上述提取的關鍵信息和樣式參考組合成具體的提示，以便與API交互時使用。提示可以包括一系列描述性短語、問題或命令，使模型能夠更好地理解生成任務的需求。

經(jīng)過上述預處理步驟，就能夠構(gòu)建有效的提示，以引導GPT3.5 模型的微調(diào)訓練，便于生成高質(zhì)量的小說文本。但在微調(diào)過程中，還需要根據(jù)生成結(jié)果對提示進行調(diào)整和優(yōu)化，以進一步提高文本質(zhì)量。

2.2 微調(diào)（fine-tuning）過程

微調(diào)GPT3.5模型需在遵循OpenAI微調(diào)指南的前提下進行，例如增加一些全連接層和Dropout層，這些層可以隨機地刪除一些神經(jīng)元，以減少模型的復雜度，從而提高模型的泛化能力，防止過擬合。

為確保微調(diào)的可控性，引入微調(diào)控制的方法。通過設計提示、調(diào)整參數(shù)、多樣性采樣、迭代生成與反饋等步驟，確保模型在生成小說時的能力可以提高，減少訓練時模型的能力衰減。

在提高小說文本質(zhì)量方面，針對人物性格、動機和行為等特征引入監(jiān)督與評估模型。使得模型在生成小說內(nèi)容時，能夠更好地跟蹤小說內(nèi)容的質(zhì)量及其變化，保證小說文本的高質(zhì)量生成。

為減少微調(diào)的訓練量，在訓練過程中為加入提示工程。通過對人類的知識來對模型進行引導監(jiān)督學習，使得模型能夠在生成小說時，更好地符合人類的偏好以及接觸到小說之美。

在微調(diào)過程中，要定期檢測評估模型，以確保模型可以繼續(xù)通過本微調(diào)模型繼續(xù)提高。當模型的小說寫作能力不再提高時，即可停止訓練，并采用最終微調(diào)結(jié)束后的模型作為最終模型。

由于OpenAI API 的限制，API 并沒有直接提供調(diào)整目標函數(shù)的功能。將采用間接的方法來調(diào)整和優(yōu)化微調(diào)過程中GPT3.5 模型，以生成高質(zhì)量的小說文本。

（1）提示設計：通過精心設計輸入提示，來引導模型生成更符合預期的文本。提示內(nèi)容可以包括人物描述、情節(jié)梗概、特定風格的示例等，這有助于模型更好地理解生成任務的需求［3］。

（2）調(diào)整微調(diào)參數(shù)：微調(diào)過程中通過調(diào)整微調(diào)參數(shù)，例如學習率、批大小、微調(diào)輪數(shù)等等，來影響模型的收斂速度和準確性，從而提高生成文本的質(zhì)量。

（3）調(diào)整微調(diào)數(shù)據(jù)集：微調(diào)數(shù)據(jù)集是指在微調(diào)過程中用來訓練GPT3.5 模型的數(shù)據(jù)集。如果生成的文本質(zhì)量沒有達到預期時，可以考慮更改微調(diào)數(shù)據(jù)集或增加微調(diào)數(shù)據(jù)集的規(guī)模，以便GPT3.5 模型在訓練時，可以獲得更多的高質(zhì)量輸入和更多的上下文信息。

（4）使用后處理技術：即使用后處理技術來優(yōu)化生成的文本。使用語言模型來評估生成的文本的質(zhì)量，并對文本進行改進，以提高文本的質(zhì)量。如文本過濾、替換和拼接等，以優(yōu)化生成結(jié)果。該策略可以糾正模型可能產(chǎn)生的錯誤，如重復、不連貫或不一致的內(nèi)容。

（5）使用自定義的生成器，以此來生成小說文本。這些生成器可以基于GAN、VAE等技術，以及其他的神經(jīng)網(wǎng)絡模型來生成文本，從而提高生成文本的質(zhì)量。

通過應用上述的調(diào)整和優(yōu)化方法，在OpenAI API 的基礎上，將實現(xiàn)對GPT3.5 模型微調(diào)的有限控制，進而保證該模型在生成小說文本方面表現(xiàn)的提升。雖然這些方法可能不如直接調(diào)整目標函數(shù)那樣有效，但它們在一定程度上可以促成目標的實現(xiàn)。

3 對生成的小說文本的評估與分析

為了評估GPT3.5 模型微調(diào)生成的小說的質(zhì)量和多樣性，采用多種指標進行評估。本節(jié)將分別討論生成內(nèi)容的評估和評估模型的建立。

3.1 生成內(nèi)容的評估

生成內(nèi)容的評估是衡量模型生成小說文本質(zhì)量的重要步驟。評估的目標是確保生成的文本具有良好的文學品質(zhì)、連貫性、個性化和風格一致性。以下是一些評估生成內(nèi)容的方法。

（1）一致性：檢查生成的文本在情節(jié)、人物設定、時間線等方面的一致性，確保文本在邏輯上沒有明顯的錯誤。

（2）語法和拼寫：評估生成文本的語法和拼寫正確性，確保文本沒有明顯的語法錯誤和拼寫錯誤。

（3）小說特性：評估生成文本的小說性，包括情節(jié)設定、人物描繪和故事發(fā)展等方面。

（4）風格一致性：檢查生成文本的風格是否與預期的風格一致，包括敘述方式、對話風格和文學手法等方面。

3.2 評估模型的建立

為了檢測GPT3.5 在生成小說文本方面性能的提高程度，需建立一個評估模型，以達到可控制微調(diào)的效果，其中評估模型包括機器初評估和人工審查評估。

3.2.1 機器評估

機器評估可以快速地對大量生成的文本進行初步評估。以下是一些機器評估方法：

（1）自動評估指標：BLEU 分數(shù)是一種機器翻譯中常用的評估指標，它用于衡量模型生成的文本與參考文本之間的相似度。該指標對生成文本與參考文本之間的相似性進行評估。雖然這些指標可能無法完全捕捉文學品質(zhì)，但它可以提供一個初步的評估結(jié)果［4］。

（2）語言模型得分：使用預訓練的大語言模型（如GPT-4、ChatGPT、百度文心等）對生成文本進行打分，衡量生成文本的流暢度和自然性。

3.2.2 人工審查評估

人工評估是通過邀請人類評審員對模型生成的小說進行評估，如小說的故事情節(jié)、人物刻畫、文學價值等方面。人工對機器模型生成的小說文本評估可以包括以下幾個方面：

（1）評估指標的確定：人工評估需要確定評估指標，例如故事情節(jié)、人物刻畫、文學價值等方面的質(zhì)量。評估指標應該根據(jù)評估的目的來確定，以確保評估的有效性和可靠性。

（2）評估樣本的選擇：評估樣本應該從模型生成的小說中隨機抽取，以確保評估結(jié)果的代表性和可靠性。

（3）評估者的選擇：評估者應該具有相關領域的知識和經(jīng)驗，例如專業(yè)的小說作者和讀者。評估者還應該接受培訓，以確保他們理解評估指標并能夠進行準確的評估。

（4）評估方法的確定：評估方法可以采用定量和定性相結(jié)合的方式。定量方法可以使用評分表或問卷來收集評估數(shù)據(jù)，然后進行統(tǒng)計分析。定性方法可以使用討論、深度訪談等方式來獲取評估者的意見和建議。

（5）評估結(jié)果的分析：評估結(jié)果可以通過統(tǒng)計分析和主觀分析相結(jié)合的方式來進行分析。統(tǒng)計分析可以用來比較不同評估者之間的評估結(jié)果和評估樣本之間的差異。主觀分析可以用來分析評估者的意見和建議，并提出改進模型的建議。

通過評估和分析，可以更全面地評估該模型在生成小說文本方面的性能，以提高微調(diào)的效率。通過不斷地評估和優(yōu)化，持續(xù)提高模型的生成質(zhì)量，使其在小說寫作領域發(fā)揮更大的作用。

4 提示工程通過微調(diào)GPT3.5模型在高質(zhì)量小說文本生成上的應用

提示工程（prompt engineering）是一種在自然語言處理任務中優(yōu)化模型輸入的策略，以提高模型在特定任務上的表現(xiàn)。在微調(diào)GPT3.5 模型生成高質(zhì)量小說文本的過程中，提示工程可以發(fā)揮關鍵作用［5］。以下闡述了提示工程在此應用場景中的重要性。

4.1 提示工程在微調(diào)GPT3.5模型的應用

提示工程的核心思想是通過設計精細的、任務相關的提示，引導模型生成更符合預期的輸出。在微調(diào)GPT3.5 模型生成高質(zhì)量小說文本的過程中，提示工程可以幫助模型更好地理解任務需求，如在指導情節(jié)設定、控制寫作風格、限制故事篇幅等方面，可引導模型生成更豐富、更具吸引力的故事情節(jié)。從而實現(xiàn)更符合人類偏好的輸出。

以下是提示工程在此過程中的應用示例：

基于任務需求提供有針對性的提示，需創(chuàng)建具有指導性和啟發(fā)性的大綱內(nèi)容，以引導模型生成更高質(zhì)量的小說文本，保證前后文邏輯通順，情節(jié)具有可推敲性。在生成每章節(jié)的大綱時，評估提示的有效性對其內(nèi)容進行迭代優(yōu)化，以實現(xiàn)更好的生成效果。其具體應用流程如圖1所示。

圖1 基于提示工程生成大綱的流程

利用txt 文件生成prompt：將小說文本數(shù)據(jù)進行切分，與上述應用示例中提供的大綱相結(jié)合，最終生成可供微調(diào)［6］訓練的輸入數(shù)據(jù)。其具體流程如圖2所示。

圖2 數(shù)據(jù)切分生產(chǎn)訓練數(shù)據(jù)的流程

為增強生成長篇小說內(nèi)容方面的能力，需為兩種不同作用的模型提供大量新數(shù)據(jù)集的投喂，從而使模型更加明確任務需求，確定生成小說文本的具體要求，如主題、風格、情節(jié)設定等，以便為模型提供更清晰的指導。其流程圖如圖3所示。

圖3 基于投喂數(shù)據(jù)確定小說文本要求的流程

4.2 提示工程的實際應用與優(yōu)勢

通過應用提示工程，微調(diào)后的GPT3.5 模型在生成高質(zhì)量小說文本方面具有以下優(yōu)勢：

（1）更符合人類偏好：提示工程有助于模型生成更貼近人類審美和閱讀習慣的文本，提高生成作品的吸引力和可讀性。

（2）輔助創(chuàng)作：通過提供有關情節(jié)發(fā)展、角色設定和故事主題等方面的大綱創(chuàng)意啟示，提示工程可以幫助作者更好地構(gòu)思故事，提高創(chuàng)作效率。

（3）提高生成效果：提示工程可以引導模型聚焦于特定任務要求，從而減少無關或低質(zhì)量文本的生成，提高生成內(nèi)容的質(zhì)量和準確性。

（4）個性化生成：通過針對不同作者和領域的需求定制提示，提示工程可以實現(xiàn)更個性化的生成服務，滿足各種創(chuàng)作需求。

綜上所述，提示工程在微調(diào)GPT3.5 模型生成高質(zhì)量小說文本方面具有重要應用價值。通過設計精細的、任務相關的提示，可以引導模型生成更符合預期的輸出，從而實現(xiàn)更高質(zhì)量的小說文本生成。

5 結(jié)語

本文研究了基于微調(diào)GPT3.5 模型的優(yōu)化模型生成更具有特色的小說，著重介紹了如何使用微調(diào)控制方法以及提示工程來優(yōu)化模型在小說生成任務上的表現(xiàn)。闡述了數(shù)據(jù)集準備、模型微調(diào)以及評估和分析的過程，展示了提示工程如何提高生成質(zhì)量以及同時降低訓練成本。

然而，這一研究領域仍然面臨著眾多挑戰(zhàn)，如數(shù)據(jù)偏見、知識泛化能力等。未來的研究可以探索更先進的模型和方法，包括強化學習、元學習、神經(jīng)網(wǎng)絡修剪、知識轉(zhuǎn)移等方法，以進一步提升模型性能，減少模型訓練量。此外，開放模型（如ChatGPT）將為模型提供海量的人工提示資源，這將使得模型更加偏人類化。

最后，希望這項研究可以為自然語言處理領域的研究提供參考，為開發(fā)更好的小說生成模型提供思路并推動人工智能應用的發(fā)展與落地。在未來的研究中，期待有更為先進的語言模型出現(xiàn)，使得AI 小說文本生成可以接觸到小說之美。