雷偉偉，鄭紅曉，李　凱

(1.河南理工大學(xué) 測(cè)繪與國(guó)土信息工程學(xué)院，河南 焦作 454000；2.河南省中緯測(cè)繪規(guī)劃信息工程有限公司，河南 焦作 454000；3.中國(guó)科學(xué)院 上海天文臺(tái)，上海 200030)

?

完全規(guī)格化締合勒讓德函數(shù)及其導(dǎo)數(shù)的遞推算法與適用范圍比較

雷偉偉1，鄭紅曉2，李凱3

(1.河南理工大學(xué) 測(cè)繪與國(guó)土信息工程學(xué)院，河南 焦作 454000；2.河南省中緯測(cè)繪規(guī)劃信息工程有限公司，河南 焦作 454000；3.中國(guó)科學(xué)院 上海天文臺(tái)，上海 200030)

摘要：完全規(guī)格化締合勒讓德函數(shù)及其導(dǎo)數(shù)常用標(biāo)準(zhǔn)向前列遞推算法和標(biāo)準(zhǔn)向前行遞推算法進(jìn)行計(jì)算?；诘谝?、第二相對(duì)數(shù)值精度標(biāo)準(zhǔn)對(duì)兩種算法的適用范圍進(jìn)行分析比較，計(jì)算結(jié)果表明,標(biāo)準(zhǔn)向前列遞推算法的適用范圍大于標(biāo)準(zhǔn)向前行遞推算法，說明前者優(yōu)于后者；結(jié)果同時(shí)還表明，完全規(guī)格化締合勒讓德函數(shù)與其導(dǎo)數(shù)同一種算法的適用范圍也相同，并指出了二者適用范圍相同的原因。

關(guān)鍵詞：完全規(guī)格化締合勒讓德函數(shù)；標(biāo)準(zhǔn)向前列遞推算法；標(biāo)準(zhǔn)向前行遞推算法；相對(duì)數(shù)值精度；適用范圍

完全規(guī)格化締合勒讓德函數(shù)及其導(dǎo)數(shù)的計(jì)算是大地測(cè)量學(xué)、氣象學(xué)、電子工程等多個(gè)學(xué)科領(lǐng)域的一個(gè)基本問題[1]。根據(jù)函數(shù)的基本定義公式直接進(jìn)行展開計(jì)算的方法在計(jì)算效率和計(jì)算精度兩個(gè)方面均不如遞推計(jì)算方法，這種不足隨著展開階次的增大將更加明顯。應(yīng)用遞推算法進(jìn)行計(jì)算時(shí)首先需要考慮算法的適用范圍，否則就會(huì)得到錯(cuò)誤的計(jì)算結(jié)果。

國(guó)內(nèi)外許多學(xué)者在遞推算法方面也做了許多卓有成效的工作。文獻(xiàn)[2]全面推導(dǎo)出了計(jì)算完全規(guī)格化締合勒讓德函數(shù)及其導(dǎo)數(shù)的標(biāo)準(zhǔn)向前列遞推算法和標(biāo)準(zhǔn)向前行遞推算法，為此后的相關(guān)研究奠定了基礎(chǔ)；文獻(xiàn)[3,4]表明標(biāo)準(zhǔn)向前列遞推算法適用范圍要大于標(biāo)準(zhǔn)向前行遞推算法；而對(duì)兩種算法適用范圍的分析比較則主要由文獻(xiàn)[5,6]完成，二者均選取了9個(gè)特定的數(shù)據(jù)對(duì)算法進(jìn)行研究，驗(yàn)算數(shù)據(jù)不具備普遍的代表性。本文擬在上述研究基礎(chǔ)上，從第一、第二相對(duì)數(shù)值精度兩個(gè)方面，對(duì)遞推算法的適用范圍進(jìn)行分析，以進(jìn)一步詳細(xì)明確它們的適用范圍。

(1)

(2)

(3)

式(1～3)中:θ為球坐標(biāo)系下的一個(gè)坐標(biāo)量，θ∈[0°,180°]，在大地測(cè)量中稱為天頂距，cosθ∈[-1,1]；n,m均為0或正整數(shù)，分別稱為函數(shù)的階、次，且n≥m。

(4)

1.1標(biāo)準(zhǔn)向前列遞推算法

標(biāo)準(zhǔn)向前列遞推算法計(jì)算公式為[2-3]

(5)

(6)

(7)

(8)

其中：式(5)中n≥2且n>m；式(6)中m≥2；式(7)中n>m；式(8)中m≥0。

在式(5～7)中：

遞推初值為

(9)

上述遞推算法結(jié)構(gòu)設(shè)計(jì)如圖1所示。

圖1　標(biāo)準(zhǔn)向前列遞推算法示意圖

1.2標(biāo)準(zhǔn)向前行遞推算法

標(biāo)準(zhǔn)向前行遞推算法計(jì)算公式為[2-3]

(10)

(11)

式(10)中n≥2且n>m；式(11)中n>m。

在式(10～11)中：

此算法的遞推初值也為式(9)。

上述遞推算法結(jié)構(gòu)設(shè)計(jì)如圖2所示。

圖2　標(biāo)準(zhǔn)向前行遞推算法示意圖

(12)

(13)

對(duì)于第n階展開結(jié)果，記

(14)

(15)

在式(12)、式(14)中，cosθ∈[-1,1]，在式(13)、式(15)中，cosθ∈(-1,1)。

圖3　第一相對(duì)數(shù)值精度與階數(shù)之間的分布關(guān)系圖(cos θ=0.9)

圖4　第一相對(duì)數(shù)值精度與階數(shù)之間的分布關(guān)系圖(cos θ=0.999 9)

(16)

(17)

對(duì)于第N階展開結(jié)果，記

NAN=

(18)

(19)

在式(16)、式(18)中，cosθ∈[-1,1]，在式(17)、式(19)中，cosθ∈(-1,1)。

圖5　各種遞推算法的適用范圍分布示意圖

3結(jié)論

參考文獻(xiàn)：

[1]劉纘武，劉世晗，黃歐．超高階次勒讓德函數(shù)遞推計(jì)算中的壓縮因子和Horner求和技術(shù)[J]．測(cè)繪學(xué)報(bào)，2011，40(4)：454-458．

[2]COLOMBO O L.Numerical Methods for Harmonic Analysis on the Sphere[R].Rep 310,the Ohio State University,Columbus,Ohio,1981.

[3]HOLMES S A,FEATHERSTONE W E.A Unified Approach to the Clenshaw Summation and the Recursive Computation of Very High Degree and Order Normalized Associated Legendre Functions[J].Journal of Geodesy,2002,76(5):279-299.

[4]JEKELI C,LEE Jong Ki,KWON Jay H.On the Computation and Approximation of Ultra-high-degree Spherical Harmonic Series[J].Journal of Geodesy,2007,81(9):603-615.

[5]吳星，劉雁雨．多種超高階次締合勒讓德函數(shù)計(jì)算方法的比較[J]．測(cè)繪科學(xué)技術(shù)學(xué)報(bào)，2006，23(3)：188-191．

[6]王建強(qiáng)，趙國(guó)強(qiáng)，朱廣彬．常用超高階次締合勒讓德函數(shù)計(jì)算方法對(duì)比分析[J]．大地測(cè)量與地球動(dòng)力學(xué)，2009，29(2)：126-130．

[7]HOFMANN-wellenhof B,MORITZ H.Physical Geodesy (Second Corrected Edition)[M].New York：Springer Wien New York,2006.

[8]劉纘武，張敬偉，劉世晗，等．締合勒讓德函數(shù)的計(jì)算和球諧級(jí)數(shù)的截?cái)嗾`差分析[J]．海洋測(cè)繪，2012，32(3)：1-4．

[9]劉纘武，劉世晗，張敬偉．超高階球諧級(jí)數(shù)式的計(jì)算方法[J]．?dāng)?shù)學(xué)的實(shí)踐與認(rèn)識(shí)，2012，42(9)：178-181．

[10] 張傳定，許厚澤，吳星．地球重力場(chǎng)調(diào)合分析中的“輪胎”問題[C]//孫和平，熊熊，王勇.大地測(cè)量與地球動(dòng)力學(xué)進(jìn)展．武漢：湖北科學(xué)技術(shù)出版社，2004．

[11] 吳星，張傳定．一類球諧函數(shù)與三角函數(shù)乘積積分的計(jì)算[J]．測(cè)繪科學(xué)，2004，29(6)：54-57.

[責(zé)任編輯：劉文霞]

Comparison of recursive algorithm and its applicable interval of fully normalized associated Legendre functions with their derivativeLEI Weiwei1，ZHENG Hongxiao2，LI Kai3

(1.School of Geodesy & Land information,Henan Polytechnic University,Jiaozuo 454000,China； 2.Henan Zhongwei Surveying and Planning Information Engineering Co.,Ltd.,Jiaozuo 454000,China； 3.Shanghai Astronomical Observatory,CAS,Shanghai 200030,China)

Abstract：The recursive algorithms including standard forward column algorithm and standard forward row algorithm are the common methods to calculate fully normalized associated Legendre functions and their derivative.In this paper,the applicable interval of these recursive algorithms is determined based on the first and second numerical accuracy of the algorithm.The results indicate the interval of standard forward column algorithm is bigger than standard forward row algorithm,so the former algorithm is better than the latter.It also indicates the applicable interval of the same algorithm of the fully normalized associated Legendre functions and their derivative are also the same,and the reasons of that are explained.

Key words：fully normalized associated Legendre functions;standard forward column algorithm;standard forward row algorithm;relative numerical accuracy;applicable interval.

中圖分類號(hào)：P207

文獻(xiàn)標(biāo)識(shí)碼：A

文章編號(hào)：1006-7949(2016)06-0001-05

作者簡(jiǎn)介：雷偉偉(1982-)，男，講師，博士.

基金項(xiàng)目：國(guó)家自然科學(xué)基金資助項(xiàng)目(41172199，41474021)

收稿日期：2014-11-17