謝作如

摘要：數(shù)據(jù)、算法和算力組成了AI時(shí)代的三大技術(shù)基礎(chǔ)，而算力匱乏是當(dāng)前中小學(xué)開(kāi)展AI科創(chuàng)活動(dòng)的主要困境之一。當(dāng)真實(shí)問(wèn)題涉及較復(fù)雜的AI算法和模型需要高算力支持時(shí)，購(gòu)買(mǎi)算力服務(wù)是一種必然的選擇。本文以訓(xùn)練一個(gè)音色轉(zhuǎn)換項(xiàng)目為例，介紹了購(gòu)買(mǎi)算力服務(wù)訓(xùn)練AI模型的真實(shí)經(jīng)歷，以期在算力方面為中小學(xué)AI科創(chuàng)活動(dòng)開(kāi)展提出可行的解決方案。

關(guān)鍵詞：AI科創(chuàng)活動(dòng)；算力購(gòu)買(mǎi)

中圖分類(lèi)號(hào)：G434? 文獻(xiàn)標(biāo)識(shí)碼：A? 論文編號(hào)：1674-2117（2023）07-0091-03

背景：當(dāng)算力成為AI科創(chuàng)活動(dòng)的阻力

隨著AI學(xué)習(xí)的深入，科技制作社里有學(xué)生提出想研究音頻的音色轉(zhuǎn)換，并在GitHub上找到了一個(gè)叫做“so-vits-svc”的開(kāi)源項(xiàng)目。這是一種讓聲音聽(tīng)起來(lái)像指定人說(shuō)出來(lái)的技術(shù)，原理是先把聲音轉(zhuǎn)換成聲譜圖，再通過(guò)深度神經(jīng)網(wǎng)絡(luò)技術(shù)訓(xùn)練出AI模型。利用訓(xùn)練好的模型，可以制作虛擬主播、游戲音效、語(yǔ)音合成等。

和ChatGPT一樣，“so-vits-svc”也屬于AIGC的一種。喜歡“泡”在B站的青少年們對(duì)這種技術(shù)非常感興趣。遺憾的是，他們?cè)谘芯窟@個(gè)項(xiàng)目時(shí)遇到了很多困難。雖然不斷見(jiàn)招拆招，一點(diǎn)一點(diǎn)解決環(huán)境搭建的問(wèn)題，但最終在訓(xùn)練模型時(shí)卡在了“算力”這一關(guān)。因?yàn)檫@個(gè)項(xiàng)目的訓(xùn)練不支持CPU環(huán)境，沒(méi)有GPU環(huán)境就無(wú)法繼續(xù)前進(jìn)。

分析：算力匱乏的解決方案

對(duì)于中小學(xué)的科創(chuàng)教師來(lái)說(shuō)，盡最大能力滿足學(xué)生的學(xué)習(xí)需求是最核心的工作任務(wù)。考慮到算力匱乏問(wèn)題具有普遍性，每一個(gè)開(kāi)展AI教育的學(xué)校最終都會(huì)遇到，因此，筆者認(rèn)真分析了算力匱乏的常見(jiàn)解決方案。

首先是配置算力設(shè)備。最常見(jiàn)的人工智能的算力設(shè)備是GPU（顯卡），即英偉達(dá)（NVIDIA）的顯卡。但是普通學(xué)校的辦公和機(jī)房電腦，一般都不會(huì)配置GPU，即使配置了GPU，搭建環(huán)境也不容易。

其次是購(gòu)買(mǎi)算力服務(wù)器。有條件的學(xué)校會(huì)配置算力服務(wù)器，用于AI教學(xué)和科創(chuàng)。這些算力服務(wù)器會(huì)配置多款顯卡，然后通過(guò)容器（Docker）技術(shù)分配給多位用戶同時(shí)使用。但這些算力服務(wù)器分配的容器性能比較弱，配置的環(huán)境往往與與時(shí)俱進(jìn)的開(kāi)源項(xiàng)目不一致。

當(dāng)算力不夠時(shí)，購(gòu)買(mǎi)商業(yè)算力資源才是最好的解決方案，也是高校和科研機(jī)構(gòu)的常見(jiàn)選擇。已經(jīng)畢業(yè)的科技社學(xué)生在介紹他們的AI項(xiàng)目時(shí)，都會(huì)提到用某公司的服務(wù)器訓(xùn)練。2021年我們也使用過(guò)華為ModelAtrs的算力服務(wù)。

實(shí)例：商業(yè)算力服務(wù)的使用

這一次，筆者選擇了北京超算中心，他們的算力服務(wù)分為兩種。第一種是集群資源，即云服務(wù)器。云服務(wù)器類(lèi)似虛擬機(jī)，提供的是完整電腦，有系統(tǒng)盤(pán)、外接磁盤(pán)，可以隨時(shí)恢復(fù)系統(tǒng)，并且擁有外網(wǎng)IP。如果選擇的是Windows系統(tǒng)，可以直接用遠(yuǎn)程桌面工具連接使用。Linux系統(tǒng)則通過(guò)SSH或者VNC服務(wù)。第二種是超算資源。類(lèi)似大家共用一臺(tái)計(jì)算機(jī)，權(quán)限隔離，用SSH命令行加載虛擬環(huán)境后，通過(guò)提交作業(yè)的方式訓(xùn)練模型。當(dāng)然，如果對(duì)SSH不熟悉，還可以選擇使用jupyter（如圖1），在網(wǎng)頁(yè)中使用Python代碼訓(xùn)練模型。

至于訓(xùn)練環(huán)境，可以自己安裝，也可以求助工程師，給出軟件清單即可。雖然看起來(lái)用SSH很復(fù)雜，但用pip命令安裝軟件本來(lái)就是基本能力，學(xué)生都能勝任。針對(duì)復(fù)雜的環(huán)境部署，超算中心也采用了多種方案，如在創(chuàng)建云服務(wù)器的時(shí)候，會(huì)先告知服務(wù)器的CUDA版本。超算資源中則內(nèi)置很多個(gè)CUDA版本（從9.x到11.7），用戶使用“module load”命令選擇相應(yīng)的環(huán)境，也非常方便。

筆者申請(qǐng)了兩種服務(wù)器，分別進(jìn)行了測(cè)試。相對(duì)來(lái)說(shuō)云服務(wù)器最簡(jiǎn)單，有很多種算力資源可以選擇。不同的算力資源對(duì)應(yīng)不同版本的CUDA。筆者選擇了“Tesla顯卡V100-32G”（如上頁(yè)圖2），從配置環(huán)境到訓(xùn)練模型花了5個(gè)小時(shí)，花費(fèi)很低，而購(gòu)買(mǎi)這一款顯卡則需要幾萬(wàn)元。

在“so-vits-svc”項(xiàng)目的模型訓(xùn)練結(jié)束后，筆者將模型轉(zhuǎn)換為ONNX格式，發(fā)現(xiàn)可以順利部署在本地的普通電腦里。學(xué)生們則認(rèn)為應(yīng)該將模型部署在行空板上做一個(gè)有趣的變聲器，于是開(kāi)始了新的研究。

反思：如何讓算力的使用更加便捷

回顧這個(gè)項(xiàng)目的訓(xùn)練過(guò)程，如果超算中心的服務(wù)器上已經(jīng)部署好相應(yīng)的環(huán)境，那么只需要2個(gè)小時(shí)就能完成訓(xùn)練，需要的費(fèi)用更少。而整個(gè)過(guò)程其實(shí)并沒(méi)有很高的技術(shù)門(mén)檻，基本借助了Anaconda的conda命令來(lái)完成。但是對(duì)中小學(xué)而言，Anaconda也好，SSH也好，都是師生們不太熟悉的技術(shù)領(lǐng)域?？梢?jiàn)，要讓普通中小學(xué)生也能用購(gòu)買(mǎi)算力的方式訓(xùn)練AI模型，提供算力服務(wù)的企業(yè)還需要在以下兩個(gè)方面繼續(xù)努力。

1.技術(shù)門(mén)檻需要繼續(xù)降低

重點(diǎn)做好Windows系統(tǒng)的環(huán)境配置。例如，可以在云服務(wù)器中的桌面提供一個(gè)名為“環(huán)境配置”或者“XEdu”的快捷方式，雙擊即可進(jìn)入虛擬環(huán)境。至于超算服務(wù)器也應(yīng)該內(nèi)置一個(gè)常用的AI環(huán)境，直接用“module load”命令載入即可使用。

2.內(nèi)置中小學(xué)常見(jiàn)AI開(kāi)發(fā)環(huán)境

在超算服務(wù)器中的“應(yīng)用”列表中，筆者發(fā)現(xiàn)“Pytorch”“Keras”“AIphafold2”“MatLab”等環(huán)境都已經(jīng)內(nèi)置，但還缺少中小學(xué)最常見(jiàn)的XEdu或者M(jìn)MEdu工具。經(jīng)過(guò)與工程師溝通后，只要有足夠的用戶，他們也可以預(yù)裝好XEdu，做成一個(gè)虛擬環(huán)境（如圖3）。

當(dāng)然，筆者認(rèn)為中小學(xué)應(yīng)倡導(dǎo)使用Linux機(jī)房。當(dāng)編程語(yǔ)言從VB轉(zhuǎn)到Python之后，在Linux上學(xué)習(xí)編程的門(mén)檻沒(méi)有Windows高，何況即使在Windows下學(xué)習(xí)編程，也需要掌握conda、pip等常見(jiàn)命令。

小結(jié)：讓算力飛入尋常中小學(xué)校

筆者曾經(jīng)在清華大學(xué)版信息科技教材的《云計(jì)算》章節(jié)寫(xiě)了一段話：在云計(jì)算服務(wù)的支持下，算力將如同自來(lái)水、電力一樣成為公共資源。事實(shí)上，當(dāng)前算力的使用依然存在技術(shù)門(mén)檻較高的問(wèn)題。經(jīng)過(guò)了解，北京超算中心的用戶基本上來(lái)自高?？蒲袡C(jī)構(gòu)，我們則是第一位中小學(xué)用戶，由此可見(jiàn)新一代人工智能在中小學(xué)教育中并沒(méi)有普遍開(kāi)展。但是，如果沒(méi)有這種租借算力的經(jīng)歷，學(xué)生又如何真正理解算力對(duì)人工智能的重要意義呢？

實(shí)際上，在中小學(xué)開(kāi)展新一代人工智能教育，最重要的研究對(duì)象是數(shù)據(jù)，即根據(jù)要解決的問(wèn)題，進(jìn)行針對(duì)性的采集數(shù)據(jù)，再選擇開(kāi)源的算法訓(xùn)練模型，最終部署模型并設(shè)計(jì)多模態(tài)交互。新發(fā)布的《義務(wù)教育信息科技課程標(biāo)準(zhǔn)（2022年版）》和之前的《普通高中信息技術(shù)課程標(biāo)準(zhǔn)（2017年版）》都非常重視“數(shù)據(jù)”，為人工智能的學(xué)習(xí)打下了很好的基礎(chǔ)。因此，筆者希望提供算力服務(wù)的IT企業(yè)能看到中小學(xué)的需求，降低技術(shù)門(mén)檻，做到算力“擰開(kāi)龍頭”就能用，讓算力匱乏不再成為AI科創(chuàng)活動(dòng)普及的絆腳石。