雷偉偉，鄭紅曉，李　凱

(1.河南理工大學 測繪與國土信息工程學院，河南 焦作 454000；2.河南省中緯測繪規(guī)劃信息工程有限公司，河南 焦作 454000；3.中國科學院 上海天文臺，上海 200030)

?

完全規(guī)格化締合勒讓德函數(shù)及其導數(shù)的遞推算法與適用范圍比較

雷偉偉1，鄭紅曉2，李凱3

(1.河南理工大學 測繪與國土信息工程學院，河南 焦作 454000；2.河南省中緯測繪規(guī)劃信息工程有限公司，河南 焦作 454000；3.中國科學院 上海天文臺，上海 200030)

摘要：完全規(guī)格化締合勒讓德函數(shù)及其導數(shù)常用標準向前列遞推算法和標準向前行遞推算法進行計算?；诘谝?、第二相對數(shù)值精度標準對兩種算法的適用范圍進行分析比較，計算結果表明,標準向前列遞推算法的適用范圍大于標準向前行遞推算法，說明前者優(yōu)于后者；結果同時還表明，完全規(guī)格化締合勒讓德函數(shù)與其導數(shù)同一種算法的適用范圍也相同，并指出了二者適用范圍相同的原因。

關鍵詞：完全規(guī)格化締合勒讓德函數(shù)；標準向前列遞推算法；標準向前行遞推算法；相對數(shù)值精度；適用范圍

完全規(guī)格化締合勒讓德函數(shù)及其導數(shù)的計算是大地測量學、氣象學、電子工程等多個學科領域的一個基本問題[1]。根據(jù)函數(shù)的基本定義公式直接進行展開計算的方法在計算效率和計算精度兩個方面均不如遞推計算方法，這種不足隨著展開階次的增大將更加明顯。應用遞推算法進行計算時首先需要考慮算法的適用范圍，否則就會得到錯誤的計算結果。

國內外許多學者在遞推算法方面也做了許多卓有成效的工作。文獻[2]全面推導出了計算完全規(guī)格化締合勒讓德函數(shù)及其導數(shù)的標準向前列遞推算法和標準向前行遞推算法，為此后的相關研究奠定了基礎；文獻[3,4]表明標準向前列遞推算法適用范圍要大于標準向前行遞推算法；而對兩種算法適用范圍的分析比較則主要由文獻[5,6]完成，二者均選取了9個特定的數(shù)據(jù)對算法進行研究，驗算數(shù)據(jù)不具備普遍的代表性。本文擬在上述研究基礎上，從第一、第二相對數(shù)值精度兩個方面，對遞推算法的適用范圍進行分析，以進一步詳細明確它們的適用范圍。

(1)

(2)

(3)

式(1～3)中:θ為球坐標系下的一個坐標量，θ∈[0°,180°]，在大地測量中稱為天頂距，cosθ∈[-1,1]；n,m均為0或正整數(shù)，分別稱為函數(shù)的階、次，且n≥m。

(4)

1.1標準向前列遞推算法

標準向前列遞推算法計算公式為[2-3]

(5)

(6)

(7)

(8)

其中：式(5)中n≥2且n>m；式(6)中m≥2；式(7)中n>m；式(8)中m≥0。

在式(5～7)中：

遞推初值為

(9)

上述遞推算法結構設計如圖1所示。

圖1　標準向前列遞推算法示意圖

1.2標準向前行遞推算法

標準向前行遞推算法計算公式為[2-3]

(10)

(11)

式(10)中n≥2且n>m；式(11)中n>m。

在式(10～11)中：

此算法的遞推初值也為式(9)。

上述遞推算法結構設計如圖2所示。

圖2　標準向前行遞推算法示意圖

(12)

(13)

對于第n階展開結果，記

(14)

(15)

在式(12)、式(14)中，cosθ∈[-1,1]，在式(13)、式(15)中，cosθ∈(-1,1)。

圖3　第一相對數(shù)值精度與階數(shù)之間的分布關系圖(cos θ=0.9)

圖4　第一相對數(shù)值精度與階數(shù)之間的分布關系圖(cos θ=0.999 9)

(16)

(17)

對于第N階展開結果，記

NAN=

(18)

(19)

在式(16)、式(18)中，cosθ∈[-1,1]，在式(17)、式(19)中，cosθ∈(-1,1)。

圖5　各種遞推算法的適用范圍分布示意圖

3結論

參考文獻：

[1]劉纘武，劉世晗，黃歐．超高階次勒讓德函數(shù)遞推計算中的壓縮因子和Horner求和技術[J]．測繪學報，2011，40(4)：454-458．

[2]COLOMBO O L.Numerical Methods for Harmonic Analysis on the Sphere[R].Rep 310,the Ohio State University,Columbus,Ohio,1981.

[3]HOLMES S A,FEATHERSTONE W E.A Unified Approach to the Clenshaw Summation and the Recursive Computation of Very High Degree and Order Normalized Associated Legendre Functions[J].Journal of Geodesy,2002,76(5):279-299.

[4]JEKELI C,LEE Jong Ki,KWON Jay H.On the Computation and Approximation of Ultra-high-degree Spherical Harmonic Series[J].Journal of Geodesy,2007,81(9):603-615.

[5]吳星，劉雁雨．多種超高階次締合勒讓德函數(shù)計算方法的比較[J]．測繪科學技術學報，2006，23(3)：188-191．

[6]王建強，趙國強，朱廣彬．常用超高階次締合勒讓德函數(shù)計算方法對比分析[J]．大地測量與地球動力學，2009，29(2)：126-130．

[7]HOFMANN-wellenhof B,MORITZ H.Physical Geodesy (Second Corrected Edition)[M].New York：Springer Wien New York,2006.

[8]劉纘武，張敬偉，劉世晗，等．締合勒讓德函數(shù)的計算和球諧級數(shù)的截斷誤差分析[J]．海洋測繪，2012，32(3)：1-4．

[9]劉纘武，劉世晗，張敬偉．超高階球諧級數(shù)式的計算方法[J]．數(shù)學的實踐與認識，2012，42(9)：178-181．

[10] 張傳定，許厚澤，吳星．地球重力場調合分析中的“輪胎”問題[C]//孫和平，熊熊，王勇.大地測量與地球動力學進展．武漢：湖北科學技術出版社，2004．

[11] 吳星，張傳定．一類球諧函數(shù)與三角函數(shù)乘積積分的計算[J]．測繪科學，2004，29(6)：54-57.

[責任編輯：劉文霞]

Comparison of recursive algorithm and its applicable interval of fully normalized associated Legendre functions with their derivativeLEI Weiwei1，ZHENG Hongxiao2，LI Kai3

(1.School of Geodesy & Land information,Henan Polytechnic University,Jiaozuo 454000,China； 2.Henan Zhongwei Surveying and Planning Information Engineering Co.,Ltd.,Jiaozuo 454000,China； 3.Shanghai Astronomical Observatory,CAS,Shanghai 200030,China)

Abstract：The recursive algorithms including standard forward column algorithm and standard forward row algorithm are the common methods to calculate fully normalized associated Legendre functions and their derivative.In this paper,the applicable interval of these recursive algorithms is determined based on the first and second numerical accuracy of the algorithm.The results indicate the interval of standard forward column algorithm is bigger than standard forward row algorithm,so the former algorithm is better than the latter.It also indicates the applicable interval of the same algorithm of the fully normalized associated Legendre functions and their derivative are also the same,and the reasons of that are explained.

Key words：fully normalized associated Legendre functions;standard forward column algorithm;standard forward row algorithm;relative numerical accuracy;applicable interval.

中圖分類號：P207

文獻標識碼：A

文章編號：1006-7949(2016)06-0001-05

作者簡介：雷偉偉(1982-)，男，講師，博士.

基金項目：國家自然科學基金資助項目(41172199，41474021)

收稿日期：2014-11-17