陳豪 吳健

摘? 要：針對在人工智能教學(xué)當(dāng)中，學(xué)生掌握線性回歸之后對其他的初等函數(shù)的擬合實現(xiàn)產(chǎn)生的疑問，進(jìn)行簡單的教學(xué)研究。主要采用TensorFlow開源軟件庫，利用Python語言來編寫神經(jīng)網(wǎng)絡(luò)程序。對于已有的呈現(xiàn)正弦波樣態(tài)分布的點的集合進(jìn)行訓(xùn)練，并通過調(diào)整訓(xùn)練參數(shù)最終得到擬合成功的正弦波模型，可以為其他的初等函數(shù)的擬合及以后基于訓(xùn)練模型的預(yù)測研究提供一些見解。

關(guān)鍵詞：TensorFlow;Python;神經(jīng)網(wǎng)絡(luò);正弦波;擬合

中圖分類號：TP183;O174? ? ? 文獻(xiàn)標(biāo)識碼：A 文章編號：2096-4706（2019）21-0004-03

Abstract：We mainly focus on the questions of the fitting of other primary functions after students master linear regression in AI teaching，and then carries out some simple teaching research. It mainly uses TensorFlow open source software library and uses Python language to write neural network program. By training the existing set of points which present the distribution of sinusoidal wave patterns and adjusting the training parameters，the sinusoidal wave model can be successfully fitted，which can provide some insights for the fitting of other elementary functions and the prediction research based on the training model in the future.

Keywords：TensorFlow;Python;neural network;sine wave;fitting

0? 引? 言

在人工智能基礎(chǔ)課程的教學(xué)中，對于線性回歸的理解是掌握其他各種復(fù)雜的算法規(guī)律的第一步，緊接之后要學(xué)習(xí)的就是根據(jù)線性方程進(jìn)行數(shù)據(jù)歸類的預(yù)測。在各類基礎(chǔ)的人工智能教學(xué)材料中，都將線性回歸放在最前面予以講授。在實際的教學(xué)過程中，因為學(xué)生對于線性方程在中學(xué)階段已有掌握，對于線性回歸的知識理解起來也并無大的障礙。但是掌握了線性回歸之后，會自然而然地引向非線性的情況，應(yīng)該如何進(jìn)行回歸計算并得出判斷結(jié)論。提煉后，得到學(xué)生提出的具體問題是：在已知的初等函數(shù)中，除了線性方程外，是否其他的函數(shù)，如冪函數(shù)、對數(shù)函數(shù)、三角函數(shù)等的方程式皆可以成為回歸的判斷結(jié)論？本文就這個疑問，從初等函數(shù)中選取正弦波函數(shù)進(jìn)行針對性的初步研究。

1? 搭建環(huán)境與建立數(shù)據(jù)集

在人工智能的教學(xué)中主要采用主流的TensorFlow開源軟件庫，Google作為其開發(fā)者已經(jīng)推廣多年，各種開發(fā)環(huán)境與插件較為完善。如果采用國內(nèi)百度的飛槳（PaddlePaddle）開源庫同樣可以完成此項任務(wù)，但主流教學(xué)中已經(jīng)采用了TensorFlow，它的高使用率與高市占率可以讓學(xué)生在對口企業(yè)中快速上手，有利就業(yè)，故采用TensorFlow開發(fā)。利用PyCharm IDE，配合安裝Python 3.6版本，并導(dǎo)入TensorFlow的官方包，進(jìn)行環(huán)境運行測試，成功后，指導(dǎo)學(xué)生開始開始建立訓(xùn)練所需的點數(shù)據(jù)集。這里還需要在PyCharm中安裝pandas和NumPy工具插件，利用它們建立訓(xùn)練用數(shù)據(jù)集。

建立數(shù)據(jù)集分為三步，首先在[-π，π]之間生成400個平均分布的等距離點。關(guān)鍵語句為：

train_X = numpy.linspace（-math.pi， -math.pi， 400）

train_X = train_X.reshape（-1， 1）

train_X = train_X.astype（'float32'）

然后，為了讓數(shù)據(jù)集看起來較為真實，需要添加微小擾動的干擾值，生成干擾值的關(guān)鍵語句為：

train_noise = numpy.random.normal（0， 0.03， train_X.shape）

train_noise = train_noise.astype（'float32'）

最后，完成訓(xùn)練點數(shù)據(jù)集的生成，關(guān)鍵語句為：

train_y = numpy.sin（train_X） + train_noise

這里使用利用Matplotlib庫的pyplot對象顯示訓(xùn)練集數(shù)據(jù)的分布狀況，如圖1所示。

2? 建立神經(jīng)網(wǎng)絡(luò)與參數(shù)初始化

模擬正弦曲線涉及到非線性，這里利用神經(jīng)網(wǎng)絡(luò)來完成。TensorFlow中提供了方便地建立神經(jīng)網(wǎng)絡(luò)的搭建工具。對于正弦波擬合，搭建2層的神經(jīng)網(wǎng)絡(luò)就可以了。這里定義1個前置輸入層、2個連接層、1個輸出層的簡單神經(jīng)網(wǎng)絡(luò)。2個連接層之間的連接的輸出結(jié)果需要通過ReLU函數(shù)進(jìn)行激活，然后數(shù)據(jù)進(jìn)入第2個連接層，再次使用適當(dāng)?shù)臋?quán)重與偏移，直接輸出到輸出層。整體神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)如圖2所示。

3? 模型訓(xùn)練

3.1? 訓(xùn)練過程

模型的生成需要經(jīng)過多次重復(fù)訓(xùn)練，最初設(shè)置循環(huán)2000次，但循環(huán)開始后，訓(xùn)練次數(shù)超過1000后圖形基本無變化。經(jīng)過反復(fù)測試得出，設(shè)置訓(xùn)練次數(shù)為800次既不耗費過多時間，也可以獲得較好的訓(xùn)練效果。程序設(shè)置每經(jīng)過40次訓(xùn)練循環(huán)，渲染當(dāng)前圖形并報告當(dāng)前的損失函數(shù)。渲染當(dāng)前圖像采用plt的散點圖，y值的顯示范圍設(shè)定-1.3到1.3，確保能夠顯示圖形的全部部分，在進(jìn)入到下一次40倍數(shù)的循環(huán)次數(shù)后，清空當(dāng)前畫面中已有的渲染點，將新的訓(xùn)練計算結(jié)果與x結(jié)對的點實時顯示出來。

for step in range（800）：

session.run（optimizer.minimize（loss））

if step % 40 == 0：

predict = session.run（predict_y）

if step：

ax.lines.remove（lines[0]）

lines = ax.plot（X， predict， 'b-'， lw=5）

plt.title（'step： %d loss： %.4f' %（step， session.run（loss）））

3.2? 結(jié)果擬合

經(jīng)過多次循環(huán)運算之后形成了擬合樣態(tài)效果。整體圖形的變化趨勢是，開始圖形變換比較快，每經(jīng)過40次循環(huán)后擬合彎曲形態(tài)和角度會有很大變化，但到了100次之后，變化幅度變小，圖形只在細(xì)微的部分發(fā)生變化。觀察損失函數(shù)的變化也具有這樣的趨勢。所以不進(jìn)行平均取樣展示，而是先前的取樣間隔為40次，后期雙倍次數(shù)取樣。這里具體取樣的是第0次、第40次、第80次、第120次以及第200次、第280次、第360次、第440次的擬合結(jié)果。損失函數(shù)也從最初的23.3060急速下降到了后期在0.0100以下，并緩慢變化到0.0040。抽取各次的圖形后漸進(jìn)的效果如圖3所示。

完成800次循環(huán)之后，最終擬合的圖像如圖4所示。損失函數(shù)降到0.0029。如果繼續(xù)增加訓(xùn)練次數(shù)，損失函數(shù)無法繼續(xù)下降，甚至?xí)匦禄氐?.0030以上，所以本次訓(xùn)練的能夠達(dá)到的損失函數(shù)最低為0.0029。

可以看到，其實在400次循環(huán)后，擬合效果已經(jīng)較好。到800次結(jié)束時，紅色擬合線已經(jīng)基本與正弦曲線重疊，正弦函數(shù)模擬模型訓(xùn)練成功，可用于之后的預(yù)測。

4? 結(jié)? 論

通過以上的操作，利用神經(jīng)網(wǎng)絡(luò)，通過已有的訓(xùn)練數(shù)據(jù)集，實現(xiàn)了正弦波曲線的擬合。解答了學(xué)生的提出的疑問。還可以通過修改程序?qū)崿F(xiàn)其他三角函數(shù)的擬態(tài)，以及其他初等函數(shù)，例如指數(shù)函數(shù)、對數(shù)函數(shù)，包括混合初等函數(shù)的擬合，學(xué)生可以利用之前學(xué)習(xí)到的高等數(shù)學(xué)知識進(jìn)行舉一反三的訓(xùn)練，增強(qiáng)對高等數(shù)學(xué)在人工智能中應(yīng)用的理解。接下來，可以利用TensorFlow的模型保存與重載機(jī)制，進(jìn)行新進(jìn)數(shù)據(jù)的狀態(tài)預(yù)測?？傊?，利用好TensorFlow或者PaddlePaddle開源工具，配合Python語言，將其融入到人工智能的教學(xué)中，以直觀可視的方式讓學(xué)生了解艱深的人工智能的知識。

參考文獻(xiàn)：

[1] 劉帥奇，趙杰，劉明，等.新工科背景下基于教師科研成果轉(zhuǎn)化的實踐教學(xué)研究 [J].課程教育研究，2019（14）：39-40.

[2] 楊沛，譚琦，丁月華.一種面向非線性回歸的遷移學(xué)習(xí)模型 [J].計算機(jī)科學(xué)，2009，36（8）：212-214+242.

[3] 周飛燕，金林鵬，董軍.卷積神經(jīng)網(wǎng)絡(luò)研究綜述 [J].計算機(jī)學(xué)報，2017，40（6）：1229-1251.

[4] 徐曉.計算機(jī)視覺中物體識別綜述 [J].電腦與信息技術(shù)，2013，21（5）：4-6+41.

[5] 盧宏濤，張秦川.深度卷積神經(jīng)網(wǎng)絡(luò)在計算機(jī)視覺中的應(yīng)用研究綜述 [J].數(shù)據(jù)采集與處理，2016，31（1）：1-17.

作者簡介：陳豪（1982-），男，漢族，江蘇鹽城人，講師，碩士，主要研究方向：人工智能、大數(shù)據(jù)技術(shù);吳健（1985-），男，漢族，江蘇蘇州人，實驗師，碩士，主要研究方向：軟件技術(shù)。