Причины
- Атмосферная рефракция — изгиб луча света в результате вертикальных градиентов показателя преломления $n(z)$ атмосферы (температура, давление, влажность). При ненулевом $dn/dz$ луч отклоняется вниз или вверх относительно бесстеменной прямой.
- Горячая поверхность днём, градиенты температуры в приземном слое, неоднородная влажность и турбулентность — основные источники систематической и случайной составляющих рефракции.
Последствия на высокоточном нивелировании
- Систематическая ошибка на каждой визире, растущая примерно как квадрат расстояния: долгое поле измерений даёт накопленную смещение нивелирной сети (смещение нивелирных разностей высот).
- Случайная составляющая (турбулентность) даёт разброс показаний, который не полностью устраняется простым усреднением.
- Для точности уровня миллиметры–сотни микрометров (при длине визира десятки–сотни метров) рефракция даёт значимую ошибку.
Простая полезная модель (эффективный радиус Земли)
- Вводят коэффициент рефракции $k$ так, что эффективный радиус Земли равен $R^{\prime }=\frac{R}{1-k}$. Тогда совместная поправка на кривизну и рефракцию для одной визиры длиной $s$ (приближённо, для малых углов) равна
$$\delta (s)\approx \frac{1-k}{2R}{s}^2.$$ - Обычно $R\approx 6.37\times 10^6$ м, типичные значения $k$ лежат в интервале $0.05÷0.20$ (часто принимают $k\approx 0.13$). Пример: для $s=100$ м и $k=0.13$ $$\delta \approx \frac{1-0.13}{2\cdot 6.37\times 10^6}\cdot (100{)}^2\approx 6.8\times 10^{-4}\text{м}(\approx 0.68\text{мм}).$$
Связь с измеримыми метеопараметрами
- Используют показатель рефракции в N‑единицах: $N=10^6(n-1)$. При сухом воздухе
$$N\approx 77.6\frac{p}{T}+3.73\times 10^5\frac{e}{T^2},$$ где $p$ — давление (гПа), $T$ — температура (К), $e$ — парциальное давление пара (гПа). Тогда
$$\frac{dn}{dz}=10^{-6}\frac{dN}{dz},k\approx -R\frac{1}{n_0}\frac{dn}{dz}\approx -R\cdot 10^{-6}\frac{dN}{dz}.$$ Это даёт практический способ получить $k$ по измеренным вертикальным градиентам температуры/влажности.
Практические приёмы уменьшения влияния
1. Короткие визиры и частые перестановки прибора: держать расстояние между станциями малым (например, $\le 30÷50$ м) — уменьшает квадратичную зависимость ошибки.
2. Реверсные (обратные) ходы и усреднение: выполнять нивелирование «вперёд‑назад» и усреднять результаты; это ослабляет систематическую составляющую, но не полностью при асимметричных условиях.
3. Чередование высот фонов/передников: перемещать рейки по высоте, чтобы систематические сдвиги частично компенсировались.
4. Измерение и учёт метеоданных: измерять температуру, давление и влажность у земли и на некоторой высоте; вычислять $dN/dz$ и $k$, затем применять поправку $\delta (s)$ к каждой визире.
5. Выбор времени и условий: проводить работы в наиболее стабильную погоду (раннее утро, пасмурно, слабый ветер), избегать сильного нагрева поверхности (солнечное освещение).
6. Усреднение большого числа коротких наблюдений и применение статистики для уменьшения случайной составляющей (турбулентность).
7. При очень высокой точности — профильная съёмка атмосферы (радиозондирование) и компьютерный луч‑трэйсинг по $n(z)$ для численного расчёта отклонения луча.
Более точные математические подходы
- Линейный профиль $n(z)=n_0+(dn/dz)z$ даёт аналитическое выражение и постоянную радиус‑кривизну луча, что обратно переводится в значение $k$ и корректировку по формуле выше.
- Для произвольного $n(z)$ решают уравнение луча (из закона Снелля для слоистой среды) численно:
$$\frac{d}{ds}\left(n\cos \theta \right)=0,\text{или}\frac{d^{2}z}{d{x}^2}=\frac{1}{n}\frac{dn}{dz}(1+(\frac{dz}{dx}{)}^2),$$ и вычисляют отклонение траектории луча от прямой. Такой подход нужен при сложных профилях $n(z)$ (инверсии и резких градиентах).
- Для оценки случайной ошибки используют модели турбулентности (функции структуры $C_n^2$) и статистику угловых отклонений; это даёт зависимость дисперсии ошибки от расстояния и времени усреднения.
Краткая рекомендация для практики
- Измеряйте метеопараметры по высоте, ограничьте длину визира, выполняйте реверсные ходы и чередуйте высоты рейки; при необходимости рассчитывайте $k$ по градиенту $dN/dz$ и применяйте коррекцию $\delta (s)$. Для наивысшей точности применяйте профильные измерения атмосферы и численное трассирование луча.