測量距離の補正計算ツール

TS機種を選択すると測距光源波長が自動設定されます。その他の機種では波長を直接入力できます。気象補正量は参考計算であり、メーカー固有の補正式を完全に再現するものではありません。

入力条件

機種選択で自動入力。直接変更も可能です。

標高補正:

入力条件を変更したときの計算結果(速報)

採用気象補正量— ppm
最終的な座標距離— m
入力距離から座標距離までの差— mm

数字を変更すると自動更新します。詳しい補正の内訳は下の「計算過程」をご覧ください。

座標・標高から補正値を計算

第8系(静岡県)が初期値です。系番号の横には都道府県と島嶼部の指定区域を表示しています。適用区域の詳細は国土地理院の公式資料で確認してください。X・Yを個別入力するか、スペースまたはカンマで区切ってまとめて入力できます。いずれの方法でも同じ座標欄に反映されます。

観測点A

観測点B

一括入力は X → Y の順番です。小数・負数に対応。半角・全角スペース、半角・全角カンマ、改行にも対応します。入力形式が不正な場合は座標を変更しません。

縮尺係数の計算地点

通常はA点だけで縮尺係数を試算できます。測線の代表値として中点で計算する場合は、A・B両点のX・Yを入力してください。縮尺係数は小数点以下6桁で表示し、計算時は丸め前の値を保持します。

ジオイド高の取得方法

ジオイド高はA点のみでも取得できます。2点平均を選んだ場合に限りB点の座標も必要です。オンライン取得できない場合は上の「採用ジオイド高 N」に直接入力してください。

取得に失敗した場合は、下の公式サイトから確認できます。国土地理院・ジオイド高計算(公式)。取得に失敗しても、入力済みのジオイド高は変更しません。

入力時の注意

TSから取得した値がすでに水平距離の場合は、高度角を0°として入力してください。このとき斜距離からの水平換算は行われません。高度角は度.分秒形式で、例:0.1152 は 0°11′52″ として扱います。

TS本体で気象補正済みの距離を取得した場合は、気象補正量の計算方法を「手入力」に切り替え、0 ppmを入力してください。二重補正を防げます。この設定では、気温・湿度・気圧・光源波長は計算結果に影響しないため、気象条件の入力を気にする必要はありません。

機種選択で光源波長を設定できます。波長を合わせても、基準大気条件やメーカー固有の補正式が異なると、TS本体のppmと一致しないことがあります。

ppmとは?

ppmはミリ(mm)ではありません。「parts per million」の略で、100万分の1という割合を表します。距離の気象補正では、1 ppm = 1 km当たり1 mmに相当します。

例えば、200 mの観測距離に+5 ppmを適用すると、補正量は+1.00 mmです。200 mで1 ppmなら0.20 mm、100 mで1 ppmなら0.10 mmです。補正量(mm)=距離(m)× ppm ÷ 1000 で求められます。

ppmは補正の比率で、mmは補正によって生じる距離の変化量です。符号がプラスなら距離を伸ばし、マイナスなら短くします。

気象補正量

自動試算は参考モデルです。基準条件を気温15℃・気圧1013.25hPa・相対湿度0%と仮定し、指定波長での屈折率差からppmを算出します。測距儀固有の基準条件・内部補正と一致する保証はありません。

計算過程

段階距離 (m)前段階との差 (mm)

詳細補正・検証(任意)|器械高・プリズム高・両差補正

通常の距離補正は上の計算結果を使用します。ここは独立した比較・検証欄です。器械高・プリズム高を入力しても、通常計算を勝手に変更しません。

厳密距離還元の比較:観測点Aの器械中心を半径 R+H+N+i の位置とみなし、観測斜距離と高度角から目標中心までの幾何を計算し、基準球面上の弧長へ換算します。球面近似であり、測地楕円体上の厳密解ではありません。プリズム高は目標点の地盤高差を逆算する検証に使用します。器械高とプリズム高の差を斜距離から二重に差し引くことはしません。

両差補正は主に高低差への影響です。球差 D²/(2R)、気差 κD²/(2R)、両差 (1−κ)D²/(2R) を参考表示します(D は水平成分)。距離にそのまま加減しません。気差係数は観測条件によって変動します。測距の大気補正ppmとは別物です。

詳細補正・検証の意味と必要性

この欄は、通常の距離補正結果とは別に、観測高や地球の曲率がどのように関係するかを確認するための任意の検証機能です。一般的な短距離の境界測量で、以下の4項目を毎回すべて適用する必要があるわけではありません。

1.器械高・プリズム高を入力する理由

器械高 iは器械点の地上標からTSの測距中心まで、プリズム高 tは目標点の地上標からプリズム中心までの高さです。TSが測る斜距離と高度角は、地上標どうしではなく、器械中心からプリズム中心までの観測値です。したがって、地上標どうしの高低差を推定する場合には両方の高さが必要です。

ただし、斜距離から単純に水平成分を求める式 D = S × cos(高度角) に、器械高とプリズム高の差を直接足し引きするわけではありません。たとえば高度角0°・斜距離200m・器械高1.60m・プリズム高1.80mなら、観測線の水平成分は200mのままです。両者の高さの違いは主として地上標の高低差の計算に現れます。

必要性:水平距離だけを通常の近似式で求める場合は原則不要。地盤高差の推定、観測条件の点検、より細かな基準面還元の検証では入力する価値があります。

2.球面近似による距離還元と従来計算との差

通常計算は、水平成分に平均標高・ジオイド高を用いた高さの補正と縮尺係数を適用する簡便な方法です。一方、詳細計算は、地球を半径Rの球とみなし、器械中心から目標中心までの斜距離と高度角の幾何関係から基準球面上の弧長を求め、縮尺係数を掛けて比較します。「通常計算との差(mm)」は、その2つのモデル間の差であり、観測誤差や通常計算の誤りを示すものではありません。

器械高を変えると詳細計算値が変わることがありますが、プリズム高はこのモデルでは主に地盤高差の逆算に用いており、単独で距離の結果を変える入力ではありません。また、詳細計算は測地楕円体を用いた厳密解ではなく球面近似です。地盤高の既知値や測量ソフトとの整合を確認してから評価してください。

必要性:通常の数十~数百m程度の距離補正では必須ではありません。長距離・高低差の大きい測線や、mm単位の補正過程を検証する場合の比較資料として有用です。

3.球差・気差・両差とは何か

球差は地球の曲率による鉛直方向の幾何学的な影響、気差は大気中で視準線が屈折する影響です。両者を組み合わせたものを両差と呼びます。この欄では水平成分D、地球半径R、仮定した気差係数κを用いて、球差 D²/(2R)、気差 κD²/(2R)、両差 (1−κ)D²/(2R) を高低差への参考影響量として表示します。

たとえばD=200m、R=6,370,000m、κ=0.13なら、球差は約3.14mm、気差は約0.41mm、両差は約2.73mmです。この2.73mmを水平距離200mから差し引く計算ではありません。また、ここでいう気差は視準線の屈折であり、気温・気圧・湿度に基づく測距の気象補正(ppm)とは別です。

必要性:主にTSによる高低差・三角高低測量を検討するときに重要です。短距離の水平距離だけを扱う場合は通常不要です。実際の気差係数は大気状態で変わるため、0.13は確定値ではありません。

4.観測高度角から推定する地盤高差

斜距離Sと高度角αから、観測線の鉛直成分は概ね S × sin(α) です。地上標どうしの高低差は、平面近似なら S × sin(α) + 器械高 i − プリズム高 t で推定できます。たとえば斜距離200m、高度角0°、器械高1.60m、プリズム高1.80mなら、地上標の高低差は約−0.20mです。

詳細欄の表示値は、単純な鉛直成分だけでなく球面幾何を用いて推定した値です。ただし、観測した高度角への気差補正を厳密に組み込んだ高低差成果ではありません。球差・気差・両差の表示値を、そのままこの推定値に再加算してよいという意味でもありません。

必要性:既知の標高差との照合、器械高・プリズム高の入力ミスの発見、鉛直角観測の検証に役立ちます。正式な標高成果を得るには、観測方法・両差の取扱い・既知点・測量規程などを別途確認してください。

実務上の使い分け:通常の距離補正には上部の計算結果を使い、詳細欄は検証用としてください。特に、TS本体や測量ソフトが既に実施した気象補正・両差補正などを重複して適用しないよう注意してください。数値は球面近似と仮定した気差係数に基づく参考値です。

本欄は検証用の球面近似です。地盤高差が既知の場合の整合確認には役立ちますが、器械高・プリズム高だけで観測高度角を補正する機能ではありません。実務の厳密な測地計算や水準測量の代替には使用しないでください。

図でわかる 標高・ジオイド高・楕円体高

地表面・ジオイド面(平均海面に近い基準面)・回転楕円体面の高さ関係を示す模式図です。曲面の形や間隔は誇張しています。

地表面(観測点)ジオイド面回転楕円体面標高 Hジオイド高 N楕円体高 h h = H + N

標高 Hはジオイド面を基準とする高さ、ジオイド高 Nは楕円体面からジオイド面までの高さ、楕円体高 hは楕円体面から地表の点までの高さです。h = H + N の関係になります(符号付きの高さとして扱います)。

なぜジオイド高が必要なの?

TSで測った地表付近の水平距離を、平面直角座標系の座標距離に換算するには、まず距離を回転楕円体面に近似的に換算し、その後に縮尺係数を適用します。このとき基準となるのは標高 H だけではなく、楕円体高 hです。

普段使う標高 H はジオイド面を基準にした高さです。一方、平面直角座標系の投影の基礎となるのは回転楕円体です。そこで、両方の基準面のずれであるジオイド高 Nを加え、h = H + N として楕円体高を求めます。

2つの計算方式の違い

項目標準:標高+ジオイド高比較用:標高のみ
使用する高さH+N(楕円体高)H(N=0mと仮定)
基準面回転楕円体面への近似換算ジオイド高を無視した近似
必要な入力標高とジオイド高標高のみ
おすすめの用途座標距離の試算・測量ソフトとの比較ジオイド高の影響を確かめる比較実験

200mの距離ではどのくらい変わる?

例として、水平距離200m、平均標高H=10m、ジオイド高N=40m、平均地球半径R=6,370,000m、縮尺係数1.000000とします。

標準方式:200 × R ÷ (R+10+40) ≒ 199.998430m
標高のみ:200 × R ÷ (R+10) ≒ 199.999686m

この例では、標高のみの計算結果が約1.26mm長くなります。縮尺係数が1以外の場合は、両方の結果に同じ縮尺係数を掛けます。

どちらがおすすめ?

通常は「標準:標高+ジオイド高」をおすすめします。座標距離への換算を試算する目的に適しており、トレンドワンなどの測量ソフトと比較する際も、ジオイド高を省略しないほうが条件をそろえやすいためです。

「標高のみ」は補正計算の仕組みを学び、ジオイド高の有無による差を確認するための比較モードです。標高だけで楕円体高が正確に求まるという意味ではありません。

ジオイド高は短い測線ならA点の代表値1点を使用して試算できます。長い測線や変化が大きい場所ではA・B両点を確認してください。なお、このアプリの式は平均地球半径を用いた近似モデルです。厳密な測量成果では、測地楕円体・観測条件・投影法・使用ソフトの仕様による計算との照合が必要です。

図でわかる4つの距離補正

模式図です。距離や角度の縮尺は実際とは異なります。

① 気象補正:空気の屈折率の影響を補正TSプリズム気温・湿度・気圧 → ppm② 水平換算:斜めの距離を水平にする斜距離水平距離高度角を使用水平距離入力なら高度角 0°③ 投影補正:地表付近の距離 → 基準面の距離平均標高・ジオイド高を考慮④ 縮尺補正:基準面距離 × 縮尺係数 → 座標上の平面距離

③は平均標高とジオイド高を用いた近似的な基準面への補正です。④は入力した平面直角座標系の縮尺係数を適用します。

計算の考え方

① 気象補正:入力距離 × (1+補正量ppm/100万)。ppmは気温・相対湿度・気圧からの参考試算、または機器に合わせた手入力を選択できます。

② 水平距離:気象補正後の距離 × cos(高度角)。高度角は度.分秒形式で入力し、内部で十進角度へ換算します。入力が水平距離なら高度角0°

③ 基準面への補正:標準は水平距離 × R/(R+平均標高+ジオイド高)、比較用はジオイド高を0mとして計算

④ 座標距離:基準面距離 × 縮尺係数

補正量を入力して効果を検証する教材的な計算モデルです。

重要:自動算出ppmは参考値です。他メーカーのTSも波長を指定して試算できますが、波長だけで機種固有の補正式に一致するとは限りません。実務では機種ごとの測距光波長、基準大気条件、メーカー式およびTS本体での気象補正の有無を確認してください。TSで既に気象補正済みの距離は手入力0ppmを選んでください。高度角は度.分秒(例:0.1152=0°11′52″)の水平基準で、天頂角ではありません。標高・ジオイド高は代表値による近似です。厳密な測量成果計算では、観測高、器械高、目標高、鉛直角補正、楕円体・投影法、使用ソフトの計算仕様を確認してください。座標からの縮尺係数試算機能は測量ソフトとの照合が必要です。