^ ОБЩЕТЕХНИЧЕСКИЕ ЗАДАЧИ И ПУТИ ИХ РЕШЕНИЯ
УДК 5 52 528.489
Определение коэффициента рефракции на коротких расстояниях
Ю. В. Лобанова, М. Я. Брынь, Д. А. Афонин
Петербургский государственный университет путей сообщения Императора Александра I, Российская Федерация, 190031, Санкт-Петербург, Московский пр., 9
Для цитирования: Лобанова Ю. В., Брынь М. Я., Афонин Д. А. Определение коэффициента рефракции на коротких расстояниях // Известия Петербургского университета путей сообщения. -СПб.: ПГУПС, 2019. - Т. 16, вып. 4. - С. 670-676. Б01: 10.20295/1815-588Х-2019-4-670-676
Аннотация
Цель: Вывести формулы определения коэффициента рефракции путем геодезических измерений, используя разные аргументы. Привести результаты экспериментальных исследований дневного хода коэффициента рефракции, вычислить значения коэффициента рефракции по предложенным формулам. Методы: Проанализированы полученные материалы. Выведены формулы расчета коэффициента рефракции с помощью измерений и построения его дневного хода при разных углах наклона. Результаты: Определены величины дневного хода коэффициента рефракции, вычислены значения коэффициента рефракции по приведенным формулам и проанализированы результаты. Практическая значимость: Выявленная проблема зависимости влияния вертикальной рефракции при изменении углов наклона показывает необходимость изучения влияния вертикальной рефракции, которое связано с изменением углов наклона и расстояний. На основе построенных зависимостей влияния вертикальной рефракции на результаты тригонометрического нивелирования можно выбрать максимально благоприятные внешние условия проведения геодезических измерений для повышения их точности.
Ключевые слова: Вертикальная рефракция, коэффициент рефракции, тригонометрическое нивелирование, электронный тахеометр, окружающая среда.
При внедрении в геодезическое производство электронные тахеометры стали основными приборами для геодезического сопровождения при строительстве инженерно-технических сооружений таких как мосты, тоннели, дороги и др. При всех достоинствах использования этих приборов при выполнении работ (оперативность, высокая точность, универсальность и др.) их применение ограничено для решения ряда инженерных задач,
связанных с тригонометрическим нивелированием из-за влияния вертикальной рефракции. Необходимость определения коэффициента рефракции обусловлено тем, что в серии приборов, поставляемых на территорию России, обычно его устанавливают равным 0,14 или 0,13, который может быть изменен исполнителем.
Способы определения вертикальной рефракции по результатам геодезических изме-
рений не всегда относятся к наиболее совершенным, однако являются самыми многочисленными. Чтобы повысить точность геодезических измерений, следует совершенствовать способы определения поправки за рефракцию [1-8].
К геодезическим способам определения и учета вертикальной рефракции относятся те, в которых применяются геодезические приборы. Наибольшее количество работ по измерению вертикальной рефракции приходится на XX в. [9-14].
Расстояние от электронного тахеометра до визирной цели на строительной площадке редко превышает 300 м, поэтому исследование рефракции на короткие расстояния - задача актуальная.
При одностороннем тригонометрическом нивелировании превышения h между пунктами вычисляются по формуле [15]
h = d ■ ctg z + i -1 + f ,
(1)
в которой d - горизонтальное проложение между пунктами, г - зенитное расстояние, i -высота прибора, I - высота визирной цели, /- поправка за совместное влияние кривизны Земли и рефракцию.
Поправка/рассчитывается следующим образом [3]:
/ = — • d2. 2Я
Здесь Я - радиус Земли, к - коэффициент рефракции, который находится так [7]:
*=R,
R
где Я - радиус световой кривой.
В данной статье выводятся формулы определения коэффициента рефракции путем геодезических измерений, используя разные аргументы.
Рассмотрим различные пути получения коэффициента рефракции на основе геомет-
рического и тригонометрического нивелирования.
По результатам одностороннего тригонометрического нивелирования на эталонном вертикальном базисе
Из формулы (1) легко получить выражение, в котором
2R
к = 1--T(h - d ■ ctgz - i +l). (2)
d
Допустим, что измерения электронным тахеометром выполняются на отражательные пленки (ОП), поэтому примем, что I = 0. Подставив в формулу (2) вместо h значение превышения, определенного из геометрического нивелирования h , получим
Г теор7
к=i-—
d
. л
hi
теор , 1
--- ctg z--
У d d у
(3)
По разностям измеренных и истинных зенитных расстояний
Для выявления величины и характера влияния вертикальной рефракции на измеренные зенитные расстояния необходимо знать их теоретические значения, которые можно рассчитать по (1) при l = 0:
, hTeop - i d
ctg zTeop =----.
теор d 2R
Для вычисления коэффициента рефракции найдем, что Az = zH3M - zTeop. Считая, что влияние рефракции можно, с одной стороны,
определить по формуле из [7] r = d A , а с
Р"
другой - r = -
к ■ d2
, получим
d■ Az к■d
2R р
И окончательно будем иметь
, 2 R ■Azz к =
2R
d ■р"
(4)
По вычисленным и известным превышениям
Если принять значение превышения из геометрического нивелирования (к ) за истин-
1 14 теор7
ное и связать его с превышением из тригонометрического нивелирования (к ) без учета
г г \ триг. н ^
поправки за кривизну Земли, то
h = h
теор триг.н
к ■ d 2 R
Окончательно к равно
> _ 2-^(ктеор ктриг.н ) 2Я -Ак
к _ ^2 _ ^2 , (5) а а
где Ак _ ктриг.н - ктеор.
Полевые экспериментальные исследования производились днем 20 апреля 2019 г. Территория обследования представляла собой строительную площадку, визирный луч проходил частично над строительным забором в равнинной местности, подстилающей поверхностью
которой служил асфальт. Превышение между точками 3 и 0 (см. рисунок) определялось геометрическим нивелированием цифровым нивелиром Trimble DiNi 0.3 со средней квадра-тической погрешностью (СКП) измерения превышений 0,3 мм/км. Точка А зафиксирована на здании (наклеена ОП). Отвесные расстояния были измерены электронным тахеометром с насадкой, при этом передача отметки на ось тахеометра выполнялась с помощью цифрового нивелира. СКП измерения превышения т. 0 - т. А принята равной m = 1,4 мм.
Определение зенитных расстояний и наклонных расстояний выполнялось электронным тахеометром Le^a Viva TS 16 M R500 c СКП измерения углов 1" и точностью измерения расстояний ± (2 мм + 2 • 10-6 • D), где D -расстояние от прибора до объекта.
Эксперименты выполнялись с 15 ч 10 мин до 17 ч 40 мин (всего выполнено 8 циклов измерений) при перепаде температуры в 3° (от + 9 до +12 °С). Давление оставалось постоянным (764 мм рт. ст.), а сила ветра постоянно менялась. В таблице представлены величины
Изменения коэффициентов рефракции
№ Время измерений Az" Ah, мм к к (z) к (h)
1 15:10 1,3 - 1,0 0,51 0,49 0,48
2 15:50 1,8 - 0,7 0,67 0,68 0,63
3 16:10 2,8 0,2 1,08 1,06 1,04
4 16:20 1,8 - 0,7 0,67 0,68 0,63
5 16:40 0,8 - 1,5 0,30 0,30 0,26
6 17:00 0,8 - 1,4 0,30 0,30 0,27
7 17:20 2,3 - 0,4 0,82 0,87 0,78
8 17:40 1,3 -1,1 0,49 0,49 0,46
^ = 2измер " гтеор и Ah = hтриг.н " ^теор , а результаты значений коэффициентов рефракции
получены по различным формулам: по (3) -
величины к, по (4) - к(г) и по (5) - к(Н).
Проанализировав полученные результаты, можно сделать следующие выводы:
- коэффициенты рефракции, вычисленные по формулам (3)-(5), практически совпадают, и, значит, все формулы корректны и могут применяться как независимые, так и взаимозаменяемые;
- коэффициенты рефракции в период проведения эксперимента менялись в пределах от +0,26 до +1,08 и прослеживается такая закономерность: все значения положительные и не был зафиксирован момент перехода коэффициента рефракции через 0 (момент смены знака).
Библиографический список
1. Богомолова Н. Н. Априорная оценка точности подземной геодезической мониторинговой сети / Н. Н. Богомолова, М. Я. Брынь // Проектирование развития региональной сети железных дорог : сб. науч. трудов / под ред. В. С. Шверцфель-да. - Хабаровск : Изд-во ДВГУПС, 2015.- Вып. 3. -С.59-64.
2. Дементьев В. Е. Исследование вертикальной рефракции на горизонтальных трассах в аридной
зоне / В. Е. Дементьев // Геодезия и картография. -2014. - № 2. - С. 57-64.
3. Дрок М. К. К вопросу о поправке в превышения за совместное влияние кривизны Земли и вертикальной рефракции при геодезическом нивелировании на малые расстояния / М. К. Дрок // Науч. зап. Львов. политехн. ин-та. Сер. Геодезическая. -1962. - Вып. 82, № 7. - С. 3-30.
4. Меркушева В. С. Методы оптимального программирования : учеб. пособие / В. С. Меркушева, Н. Н. Богомолова.- СПб. : ПГУПС, 2016. - 42 р.
5. Коугия В. А. Научное сопровождение геодезических работ при строительстве второй очереди Ленинградской АЭС / В. А. Коугия, М. Я. Брынь, А. А. Никитчин и др. // Новые технологии при недропользовании : сб. науч. трудов / отв. ред. М. Г. Му-стафин. - СПб. : Горный ун-т, 2016. - С. 44-45.
6. Никонов А. В. Особенности применения современных геодезических приборов при наблюдении за осадками и деформациями зданий и сооружений объектов энергетики / А. В. Никонов // Вестн. СГГА. - 2013. - Вып. 4 (24). - С. 12-18.
7. Островский А. Л. Теория и практика флуктуа-ционного метода определения вертикальной рефракции / А. Л. Островский, А. И. Мороз // Изв. вузов. Геодезия и аэрофотосъемка. - 2000. - № 3 - С. 11-29.
8. Уставич Г. А. Разработка и совершенствование технологии инженерно-геодезического нивелирования тригонометрическим способом / Г. А. Уста-вич, М. Е. Рахымбердина, А. В. Никонов, С. А. Ба-басов // Геодезия и картография. - 2013. - № 6. -С. 17-22.
9. Канашин Н. В. Современные методы геодезического мониторинга деформаций объектов инфраструктуры железнодорожного транспорта / Н. В. Канашин, А. А. Никитчин, Н. Н. Богомолова // Путь XXI века : сб. науч. трудов III Меж-дунар. науч.-практич. конференции, посвященной 205-летию создания Института Корпуса инженеров путей сообщения, 20 февраля 2015 г., Санкт-Петербург / под ред. Л. С. Блажко. - СПб. : ПГУПС, 2015. - С. 181-185.
10. Вшивкова О. В. О комплексном подходе к решению рефракционной проблемы / О. В. Вшивкова // Изв. вузов. Сер. Геодезия и аэрофотосъемка. - 2010. - № 3. - С. 3-9.
11. Изотов А. А. Исследование земной рефракции и методов геодезического нивелирования / А. А. Изотов, Л. П. Пеллинен // Труды ЦНИГАиК. -М. : ЦНИГАиК, 1955. - № 102. - 175 с.
12. Брынь М. Я. Исследование деформаций земляного полотна при тяжеловесном движении поездов / М. Я. Брынь, Н. Н. Богомолова, Д. А. Афонин, А. А. Никитчин, А. В. Романов // Путь и путевое хозяйство. - М. : Изд-во «Российские железные дороги», 2018. - № 12. - С. 19-21.
13. Мозжухин О. А. К анализу путей развития проблемы учета рефракции в нивелировании /
О. А. Мозжухин // Геодезия и картография. - 1994. -№ 11. - С. 16-19.
14. Сухарев И. И. Применение ГИС для анализа изменения отметок земной поверхности центральной части Санкт-Петербурга с 1872 г. / И. И. Сухарев, А. А. Никитчин // Транспорт : проблемы, идеи, перспективы : сб. трудов LXXVI Всерос. науч.-технич. конференции студентов, аспирантов и молодых ученых. - СПб. : ПГУПС, 2016. - С. 345-349.
15. Карлсон А. А. О классификации точного нивелирования короткими лучами / А. А. Карлсон // Геодезия и картография. - 1993. - № 6. -С. 11-13.
Дата поступления: 25.11.2019 Решение о публикации: 29.11.2019
Контактная информация:
ЛОБАНОВА Юлия Васильевна - ст. преподаватель; lobanowa_@mail.ru
БРЫНЬ Михаил Ярославович - д-р техн. наук, профессор, заведующий кафедрой; 3046921@ mail.ru
АФОНИН Дмитрий Андреевич - канд. техн. наук, доцент; afonin83@yandex.ru
Determining the refractive index at short distances Yu. V. Lobanova, M. Ya. Bryn', D. A. Afonin
Emperor Alexander I Petersburg State Transport University, 9, Moskovsky pr., Saint Petersburg, 190031, Russian Federation
For citation: Lobanova Yu. V., Bryn' M. Ya., Afonin D. A. Determining the refractive index at short distances. Proceedings of Petersburg Transport University, 2019, vol. 16, iss. 4, pp. 670-676. (In Russian) DOI: 10.20295/1815-588X-2019-4-670-676
Summary
Objective: To derive formulas for determining the refractive index by geodetic measurements using different arguments. To present the results of experimental studies of the refractive index daily course, to calculate the refractive index values by the proposed formulas. Methods: The obtained materials have been analyzed. The formulas for calculating the refractive index using the measurements and plotting its daily course at different inclinations have been derived. Results: The daily course values of the refractive index have been determined, the values of the refractive index have been calculated by the proposed formulas, and the results have been analyzed. Practical importance: The revealed problem
of the dependence of the effect of vertical refraction with a change in the inclinations shows the need to study the effect of vertical refraction, which is associated with a change in the inclinations and distances. Based on the plotted dependences of the effect of vertical refraction on the results of trigonometric leveling, it is possible to choose the most favorable external conditions for geodetic measurements to increase their accuracy.
Keywords: Vertical refraction, refractive index, trigonometric leveling, electronic total station, environment.
References
1. Bogomolova N. N. & Bryn' M. Ya. Apriornaya otsenka tochnosti podzemnoy geodezicheskoy moni-toringovoy seti [A priori estimation of the accuracy of the underground geodetic monitoring network], Proyek-tirovaniye razvitiya regional'noy seti zheleznykh dorog, Sb. nauch. trudov [Designing the development of a regional railway network, Scientific proceedings], Ed. by V. S. Shvertsfel'd. Khabarovsk, Far Eastern State Transport University Publ., 2015, iss. 3, pp. 59-64. (In Russian)
2. Dement'yev V. E. Issledovaniye vertikal'noy re-fraktsii na gorizontal'nykh trassakh v aridnoy zone [Investigation of vertical refraction on horizontal routes in the turbulent zone]. Geodesy and Cartography, 2014, no. 2, pp. 57-64. (In Russian)
3. Drok M. K. K voprosu o popravke v prevysheniya za sovmestnoye vliyaniye krivizny Zemli i vertikal'noy refraktsii pri geodezicheskom nivelirovanii na malyye rasstoyaniya [About correction for excess for the combined influence of the Earth's curvature and vertical refraction during geodesic leveling over short distances]. Scientific articles Lviv Polytechnic National University. Series Geodesy, 1962, iss. 82, no. 7, pp. 3-30. (In Russian)
4. Merkusheva V. S. & Bogomolova N. N. Metody optimal'nogo programmirovaniya [Optimalprogramming methods], Ucheb. posobiye [Training manual]. Saint Petersburg, PGUPS [Petersburg State Transport University] Publ., 2016, 42 p. (In Russian)
5. Kougiya V.A., Bryn' M. Ya., Nikitchin A.A. et al. Nauchnoye soprovozhdeniye geodezicheskikh rabot pri stroitel'stve vtoroy ocheredi Leningradskoy AES [Scientific support of geodetic works during the construction of the Leningrad Phase II nuclear power plant]. Novyye tekhnologii pri nedropol'zovanii, Sb. nauch. trudov [New technologies for subsoil use, Scientific proceedings], Chief editor: M. G. Mustafin. Saint Pe-
tersburg, Saint Petersburg Mining University Publ., 2016, pp. 44-45. (In Russian)
6. Nikonov A. V. Osobennosti primeneniya sovre-mennykh geodezicheskikh priborov pri nablyudenii za osadkami i deformatsiyami zdaniy i sooruzheniy ob"yektov energetiki [Features of the use of modern geodetic instruments for monitoring precipitation and deformation of buildings and structures of power generating facilities]. Bulletin of the Siberian State Geodetic Academy, 2013, iss. 4 (24), pp. 12-18. (In Russian)
7. Ostrovskiy A. L. & Moroz A. I. Teoriya i praktika fluktuatsionnogo metoda opredeleniya vertikal'noy re-fraktsii [Theory and practice of the fluctuation-based method for determining vertical refraction]. Izvestiya vuzov [Proceedings of the Higher Educational Institutions], Geodesy andAerophotosurveying, 2000, no. 3, pp. 11-29. (In Russian)
8. Ustavich G. A., Rakhymberdina M. E., Niko-nov A. V. & Babasov S. A. Razrabotka i sovershen-stvovaniye tekhnologii inzhenerno-geodezicheskogo nivelirovaniya trigonometricheskim sposobom [Development and improvement of the engineering and geodetic leveling technology using the trigonometric method]. Geodesy and Cartography, 2013, no. 6, pp. 17-22. (In Russian)
9. Kanashin N. V., Nikitchin A. A. & Bogomolo-va N. N. Sovremennyye metody geodezicheskogo monitoringa deformatsiy ob"yektov infrastruktury zheleznodorozhnogo transporta [Modern methods of geodetic monitoring of deformations in railway infrastructure facilities]. Put'XXI veka, Sb. nauch. trudov III Mezhdunar. nauch.-praktich. konferentsii, posvyash-chennoy 205-letiyu sozdaniya Instituta Korpusa inzhe-nerov putey soobshcheniya [The Way of the 21st Century, Scientific proceedings of the III International scientific and practical conference dedicated to the 205th anniversary of the Institute of the Corps of Railway Engineers], February 20, 2015, St. Petersburg.
Ed. by L. S. Blazhko. Saint Petersburg, PGUPS [Petersburg State Transport University] Publ., 2015, pp. 181-185. (In Russian)
10. Vshivkova O. V. O kompleksnom podkhode k resheniyu refTaktsionnoy problemy [About the integrated approach to the refraction problem]. Izvestiya vuzov [Proceedings of the Higher Educational Institutions]. Series Geodesy and Aerophotosurveying, 2010, no. 3, pp. 3-9. (In Russian)
11. Izotov A. A. & Pellinen L. P. Issledovaniye zem-noy refraktsii i metodov geodezicheskogo nivelirova-niya [Study of terrestrial refraction and methods of geodetic leveling]. Proceedings of TsNIIGAiK [Central Research Institute of Geodesy, Aerial Surveying, and Cartography]. Moscow, TsNIIGAiK [Central Research Institute of Geodesy, Aerial Surveying, and Cartography] Publ., 1955, no. 102, 175 p. (In Russian)
12. Bryn' M. Ya., Bogomolova N. N., Afonin D. A., Nikitchin A. A. & Romanov A. V. Issledovaniye defor-matsiy zemlyanogo polotna pri tyazhelovesnom dvi-zhenii poyezdov [Study of roadbed deformations in heavy train traffic]. Railway Track and Facilities. Moscow, Russian Railways Publ., 2018, no. 12, pp. 19-21. (In Russian)
13. Mozzhukhin O. A. K analizu putey razvitiya problemy ucheta refraktsii v nivelirovanii [About the analysis of the development paths of the problem of accounting for refraction in leveling]. Geodesy and Cartography, 1994, no. 11, pp. 16-19. (In Russian)
14. Sukharev I. I. & Nikitchin A. A. Primeneniye GIS dlya analiza izmeneniya otmetok zemnoy po-verkhnosti tsentral'noy chasti Sankt-Peterburga s 1872 g. [The use of GIS for the analysis of changes in the earth's surface elevations in the central part of St. Petersburg since 1872]. Transport: problemy, idei, perspektivy. Sb. trudov LXXVI Vserossiyskoy nauch-no-tekhnicheskoy konferentsii studentov, aspirantov i molodykh uchenykh [Transport: problems, ideas, prospects. Proceedings of the LXXVI All-Russian Scientific and Technical Conference of Students, Graduate Students and Young Scientists]. Saint Petersburg, PGUPS [Petersburg State Transport University] Publ., 2016, pp. 345-349. (In Russian)
15. Karlson A. A. O klassifikatsii tochnogo nive-lirovaniya korotkimi luchami [On the classification of precise leveling by short rays]. Geodesy and Cartography, 1993, no. 6, pp. 11-13. (In Russian)
Received: November 25, 2019 Accepted: November 29, 2019
Author's information:
Yulia V. LOBANOVA - Senior Lecturer; lobanowa_@mail.ru
Mikhail Ya. BRYN' - D. Sci. in Engineering, Head of the Chair, Professor; 3046921@mail.ru Dmitry A. AFONIN - PhD in Engineering, Associate Professor; afonin83@ yandex.ru