大気差
pは, 大気圧. (ヘクトパスカル)
rは, 大気差. (答えは「秒」で出ます)
tは, 気温.(摂氏)
zは, 真の天頂距離. (度)
z'は, 見掛けの天頂距離. (度)
視位置から真位置を求める補正
z'≦86 の場合
y=58.76tanz'-0.406tan2z'-0.0192tan3z'
86<z'≦86.5 の場合
x=36z'-3095
y=0.00000000000000167283860621082x3+0.013888888888836x2+3.72222222222267x+697.263888888888
86.5<z'≦87 の場合
x=36z'-3113
y=-0.000771604938270527x3+0.0439814814814509x2+4.19212962962983x+768.764660493827
87<z'≦87.5 の場合
x=36z'-3131
y=0.00000000000000167187636681732x3+0.0277777777777266x2+5.27777777777817x+853.694444444444
87.5<z'≦88 の場合
x=36z'-3149
y=0.0000000000000124187345094037x3+0.0416666666662959x2+6.333333333336x+957.624999999998
88<z'≦88.5 の場合
x=36z'-3167
y=-0.00231481481479858x3+0.104166666666164x2+7.63194444444833x+1085.2662037037
88.5<z'≦89 の場合
x=36z'-3185
y=0.00231481481479853x3-0.0208333333328278x2+11.0347222222183x+1240.9837962963
89<z'≦89.5 の場合
x=36z'-3203
y=-0.000771604938254224x3+0.127314814814302x2+12.1921296296333x+1446.68132716049
89.5<z'≦90 の場合
x=36z'-3221
y=0.00154320987655685x3+0.120370370369983x2+16.1157407407433x+1702.76234567901
90<z'≦90.45 の場合
x=36z'-3237
y=-0.00996386208802471x3-0.0504201680679333x2+30.270813881115x+1972.91036414564
r=y(p/1013.25)(283.15/(273.15+t))
z=z'+r/3600
真位置から視位置を求める逆補正
z≦74.05527778 の場合
y=60.0615tanz-0.0841tanz3
74.05527778<z≦76.06333333 の場合
x=36z-2664
y=0.0000360760294782979x3-0.00401684645504578x2+0.503001186775441x+198.014650451242
76.06333333<z≦77.57111111 の場合
x=36z-2737
y=0.0000279851050361246x3-0.00162621445364764x2+0.5198541393267x+227.337192402404
77.57111111<z≦79.08055556 の場合
x=36z-2791
y=0.0000277694224447461x3-0.000121602375245813x2+0.543414018525028x+255.152464638362
79.08055556<z≦80.5925 の場合
x=36z-2845
y=0.0000275863747272577x3-0.00014893895667999x2+0.708092685662328x+288.654972351931
80.5925<z≦82.10861111 の場合
x=36z-2900
y=0.000027284633998938x3-0.000100653207968232x2+0.981054743283718x+331.695311046053
82.10861111<z≦83.63111111 の場合
x=36z-2954
y=-0.000000397918147230039x3+0.00446238541660594x2+1.21752758123679x+388.658245864242
83.63111111<z≦85.16361111 の場合
x=36z-3009
y=-0.00000154043062007748x3+0.00881797942460276x2+1.6090368576293x+469.206377332949
85.16361111<z≦85.67805556 の場合
x=36z-3064
y=0.000687970270495758x3-0.0166351211405712x2+2.86315622797699x+583.64341237299
85.67805556<z≦86.19472222 の場合
x=36z-3082
y=-0.00000327464495267303x3+0.012702724360637x2+2.9299389693546x+633.865114227408
86.19472222<z≦86.71472222 の場合
x=36z-3101
y=-0.00000317102525085985x3+0.0124553273919298x2+3.56442733445795x+693.785206040174
86.71472222<z≦87.23861111 の場合
x=36z-3120
y=-0.00064682788734593x3+0.0397623432818336x2+3.97161746949665x+766.013446152311
87.23861111<z≦87.76777778 の場合
x=36z-3139
y=-0.0000116229937644353x3+0.0238206283439645x2+4.98764078531216x+851.009476941541
87.76777778<z≦88.30361111 の場合
x=36z-3157
y=-0.0000245652233206008x3+0.0347591359438067x2+5.84677827510516x+948.322700073669
88.30361111<z≦88.84777778 の場合
x=36z-3177
y=-0.00166387250563842x3+0.0854413692208076x2+6.95864583838308x+1079.26351271999
88.84777778<z≦89.40527778 の場合
x=36z-3197
y=0.00147198092031328x3-0.0159321506042099x2+9.94425510794895x+1236.9163725623
89.40527778<z≦89.9775 の場合
x=36z-3216
y=-0.000560255095222231x3+0.091139715253635x2+10.6104775089352x+1430.91722278822
89.9775<z≦90.57305556 の場合
x=36z-3238
y=0.000535687250259714x3+0.0795251662435522x2+13.8609676818506x+1702.39193015249
90.57305556<z≦91.13472223 の場合
x=36z-3258
y=-0.00519620923159198x3+0.00246053371107407x2+22.8798794450571x+2002.90342435871
r=y(p/1013.25)(283.15/(273.15+t))
z'=z-r/3600