CC BY
7
ВЕСТНИК ПЕРМСКОГО УНИВЕРСИТЕТА
2021 Геология Том 20, № 1
УДК 504.055
Анализ параметров вибрационного поля города корреляционно-регрессионным методом
А.Н. Вихоть, В.А. Лютоев
Институт геологии имени академика Н.П. Юшкина Коми научного центра Уральского отделения Российской академии наук 167000, Сыктывкар, ул. Первомайская, д. 54 E-mail: vikhot.anna@mail.ru; lutoev1959@yandex.ru (Статья поступила в редакцию 16 декабря 2020 г.)
Проведен анализ параметров вибрационного поля города на примере территории Сыктывкара. Применяя методику корреляционно-регрессионного анализа и необходимые дополнительные расчеты, получили оценки математического ожидания, дисперсий и среднеквадратических отклонений, провели проверку нормального распределения случайных величин, получили значения коэффициентов корреляции и корреляционных отношений. Построены диаграммы распределения и выведены аппроксимирующие функции и эмпирические уравнения по компонентам x, y, z. Данный подход может быть использован для прогноза параметров вибрационного поля, позволяет дать рекомендации о его применении при выборе участков под строительные площадки и экологических изысканиях в области техногенной нагрузки. Ключевые слова: вибрационное поле, случайные величины, математическое ожидание, среднеквадрати-ческое отклонение, коэффициент корреляции, коэффициент детерминации, экспоненциальная функция.
DOI: 10.17072/psu.geol.20.1.49
Введение
Территория любого города подвергается физическому загрязнению окружающей среды: воздушной, водной и геологической -вследствие воздействия техногенных нагрузок, к которым относится вибрационное поле. Вибрационное поле формируется из воздействия на геологическую среду различных динамических нагрузок, источниками которых выступают строительная техника, механизмы, ж/д и автотранспорт. В случае таких воздействий деформация грунта возрастает до 1%. Согласно (ГОСТ Р ИСО 52892-2007) передаваемая через грунт техногенная вибрация - это внешняя динамическая нагрузка техногенной природы в виде сейсмических волн, источниками которой являются взрывные и строительные работы, движение транспорта и др., оказывающая зданиям и сооружениям дополнительные механические напряжения. В этом случае геологическая среда является основанием фундамента сооружения, поэтому помимо изменений состояния самой конструкции вибрация косвенно вызывает изменения динамических и физико-механических свойств грунта, кото-
рый служит основанием фундамента. Большинство авторов единогласно приходят к выводу, что к наиболее устойчивым к вибрации горным породам относятся увлажненные крупно- и среднезернистые пески, супеси и глины. Менее устойчивыми грунтами считаются водонасыщенные глинистые грунты, мелкозернистые и пылеватые пески, супеси и суглинки (Борисов, Алимов, 2007; Кушна-рева, 2008).
Стоит отметить, на территории г. Сыктывкара уплотнение (первая фаза структурного изменения) наиболее ослабленных грунтов (тонко- и мелкозернистых песков) наступает при ускорениях вибрации 0,003g (Лютоев, Вихоть, 2019), что также является основанием изучения параметров вибрационного поля данного населенного пункта.В современной литературе больше всего освещено изучение вибрационного воздействия на геологическую среду и сооружения от движения ж/д и иного рельсового транспорта, менее - автотранспорта. Практические исследования проводятся точечно, исходя из производственных потребностей: они связаны в основном с устойчивостью склонов вдоль железных дорог, обеспечением надеж-
© Вихоть А.Н., Лютоев В.А., 2021
ности строительных конструкции, сохранностью памятников культуры (Алимов, 2006; Лютоев, Лютоева, 2016; Костарев, 2004 и др.). Меньше внимания уделяется изучению вибрационного поля городов, как экологическому аспекту вклада в физическое загрязнение окружающей среды.
Методы исследований
В отечественной и зарубежной нормативной литературе (ГОСТ Р ИСО 14837-1-2007; Чернов, 2006; DIN 4150-3-2016) из трех основных параметров вибрации за нормируемые приняты виброскорость и виброускорение.
Для определения параметров вибрационного поля была проведена вибросейсмическая съемка методом виброметрии территории наиболее оживленного движения автотранспорта г. Сыктывкара. Сбор данных осуществлен в 212 точках в частотном диапазоне от 0,3 до 50 Гц. Период измерений составлял 3 минуты с двойным повтором в соответствии с (ГОСТ Р ИСО 52892-2007). Скорость записи данных 60000 знач/мин.
Расчет среднего квадратического значения -автоматический. Оси x и у имели горизонтальные направления N-S и E-W соответственно, ось z - вертикально вниз. Для регистрации входного сигнала виброускорения в работе использовалась сертифицированная аппаратура - широкополосная цифровая сейсмическая станция «ZET 048-0> в режиме «виброметр». Интегральные расчеты сигналов виброскорости и виброперемещения выполнены с применением сертифицированной расчетной программы «ZETLab Seismo».
По результатам обработки данных было построено 9 схем с изолиниями по трем параметрам по трем компонентам, в расчетах будем использовать данные виброскорости и виброускорения (рис.1).
Обсуждение результатов
С целью проведения корреляционного и регрессионного анализа экспериментальных данных виброскорости и виброускорения в первую очередь была проверена гипотеза об однородности распределения данных.
Рис. 1. Изолинии вибрационного поля г. Сыктывкара: А - виброускорения, V- виброскорости, черные точки измерения - реализации, вовлеченные в анализ
Таблица 1. Реализации виброускорения и виброскорости
№ТИ, еди- десятки 0 1 2 3 4 5 6 7 8 9
Компонента х
0 А, м/с2 0,035 0,038 0,084 0,151 0,034 0,035 0,091 0,043 0,069
V, 10-3 м/с 0,096 0,102 0,154 0,443 0,118 0,099 0,071 0,133 0,011
1 А, м/с2 0,046 0,068 0,031 0,031 0,086 0,055 0,042 0,061 0,034 0,041
V, 10-3 м/с 0,106 0,77 0,026 0,125 0,242 0,125 0,344 0,506 0,306 0,129
2 А, м/с2 0,073 0,086 0,041 0,036 0,041 0,07 0,084
V, 10-3 м/с 0,167 0,204 0,081 0,065 0,076 0,157 0,216
Компонента у
0 А, м/с2 0,059 0,044 0,068 0,039 0,09 0,082 0,053 0,038 0,035
V, 10-3 м/с 1,54 0,916 1,527 0,086 0,108 0,099 0,116 0,109 0,146
1 А, м/с2 0,033 0,04 0,03 0,033 0,103 0,031 0,154 0,033 0,048 0,03
V, 10-3 м/с 0,892 0,073 0,092 0,305 0,54 0,337 0,677 0,219 0,218 0,511
2 А, м/с2 0,039 0,037 0,047 0,045
V, 10-3 м/с 0,059 0,069 0,657 0,173
Компонента г
0 А, м/с2 0,071 0,059 0,034 0,108 0,06 0,102 0,03 0,053 0,141
V, 10-3 м/с 0,085 0,063 0,078 0,098 0,088 0,178 0,035 0,163 0,185
1 А, м/с2 0,031 0,034 0,044 0,054 0,036 0,039 0,09 0,034 0,043 0,039
V, 10-3 м/с 0,073 0,239 0,087 0,07 0,051 0,129 0,198 0,109 0,081 0,376
2 А, м/с2 0,093 0,031 0,055 0,045 0,066 0,038 0,034 0,056 0,074 0,056
V, 10-3 м/с 0,096 0,068 0,037 0,157 0,178 0,08 0,063 0,181 0,164 0,099
3 А, м/с2 0,098 0,031 0,071 0,032 0,076 0,084 0,069 0,033 0,056 0,03
V, 10-3 м/с 0,111 0,087 0,188 0,156 0,424 0,821 0,784 0,221 0,679 0,41
4 А, м/с2 0,037 0,031 0,056 0,04 0,035 0,03 0,061 0,09 0,123 0,172
V, 10-3 м/с 0,091 0,041 0,256 0,256 0,049 0,05 0,15 0,117 0,14 0,181
5 А, м/с2 0,032 0,097 0,101 0,106 0,051 0,055 0,036
V, 10-3 м/с 0,062 0,069 0,341 0,119 0,043 0,05 0,203
Из массива данных по компоненте х были отобраны случайные сверхнормативные среднеквадратичные значения - это > 0,03 м/с2 и исключено точечное значение 0,254 м/с2, резко выпадающее из выделенного диапазона реализаций 0,031-0,151 м/с2. Вероятно, опираясь на суждения по (Вихоть, Лютоев, 2015) в данной точке измерений была зафиксирована работа высокочастотного источника колебаний или иного. Количество реализаций составило 26 (табл. 1). По компоненте у исключены значения 0,207; 0,201; 0,193; 0,191. Данные составили выборку 0,03-0,154 м/с2 (табл. 1). Диапазон по компоненте ъ - 0,03-0,141 м/с2 (табл. 1). Невостребованные данные: 0,365; 0,364; 0,32; 0,24; 0,269; 0,229; 0,183 м/с2. Оценки математического ожидания, дисперсий, среднеквадрати-
ческих отклонений были найдены по формулам:
Б(Х) = М[(Х - М(Х))2]; о(Х) = '^Б(Х).
Полученные по формуле V = о/Х значения коэффициента вариации выборок во всех случаях составили более 33% (табл. 2). Это свидетельствует о том, что на данном этапе принять гипотезу об однородности распределения экспериментальных параметров нельзя. Выполним анализ данных по всем параметрам на однородность с помощью распределения Пирсона (хи-квадрат) с количеством степеней свободы к = п-1 на уровне значимости а = 0,05 (табл. 3) с помощью формулы: х2 = - ш')2 / щ', где
теоретическая частота щ' = ^ • п/ое) • f(zi), где zi = (xi - Хе) / Ое; h - длина частичного интервала; ДЕ) - функция Гаусса; выборочное
стандартное отклонение Ое = ^Бе, где Бе (Ех;2 • ni) / п - (Хе)2; выборочная средняя Хе (ЕхдаО / п.
Таблица 2. Оценки статистических параметров
Ах Ау АЕ Vx Vy Vz
м 0,058 0,053 0,06 0,187 0,412 0,172
Б 0,019 0,019 0,048 0,71 4,312 1,57
О 0,139 0,14 0,219 0,843 2,077 1,253
V 2,399 2,651 3,664 4,496 5,044 7,302
ДИ 0,005;0,111 0,004;0,11 0,002;0,117 -0,136;0,511 -0,437;1,26 -0,157;0,5
Таблица 3. Оценка распределения Пирсона
Интервалы Х; Щ П;' Ое Бе Хе Хнабл Хкр2
Ах
0,031-0,055 0,043 14 6 -0,279 0,383
0,055-0,079 0,067 6 6,22 0,084 0,397
0,079-0,103 0,091 5 5,65 0,066 0,004 0,061 0,447 0,36 16,69 9,5
0,103-0,127 0,115 0 4,49 0,81 0,287
0,127-0,151 0,139 1 3,13 1,173 0,2
Ау
0,03-0,054 0,042 16 4,017 -0,165 0,393
0,054-0,079 0,067 2 3,966 0,229 0,388
0,079-0,104 0,092 3 3,354 0,063 0,004 0,053 0,622 0,328 39,35 9,5
0,104-0,129 0,117 0 2,43 1,016 0,237
0,129-0,154 0,142 2 1,507 1,409 0,147
АЕ
0,03-0,048 0,039 25 5,748 -0,336 0,376
0,048-0,067 0,058 13 6,071 -0,063 0,397
0,067-0,085 0,076 6 5,951 0,068 0,005 0,062 0,21 0,389 74,4 11,1
0,085-0,104 0,095 7 5,414 0,482 0,354
0,104-0,122 0,113 2 4,572 0,755 0,299
0,122-0,141 0,132 3 3,584 1,028 0,234
Vx
0,011-0,163 0,087 17 6,266 -0,358 0,373
0,163-0,315 0,239 4 6,411 0,287 0,382
0,315-0,466 0,391 2 4,322 0,235 0,055 0,171 0,933 0,257 21,33 9,5
0,466-0,618 0,542 1 1,92 1,579 0,114
0,618-0,77 0,694 1 0,562 2,224 0,033
Vy
0,059-0,355 0,207 15 4,353 -0,404 0,367
0,355-0,651 0,503 2 4,693 0,112 0,396
0,651-0,948 0,8 4 3,877 0,574 0,33 0,439 0,628 0,327 30,60 9,5
0,948-1,244 1,096 0 2,454 1,144 0,207
1,244-1,54 1,392 2 1,19 1,66 0,1
Vz
0,035-0,166 0,101 37 10,924 -0,339 0,376
0,166-0,297 0,232 12 11,297 0,22 0,389
0,297-0,428 0,363 4 8,544 0,234 0,055 0,18 0,779 0,294 69,86 11,1
0,428-0,559 0,494 0 4,726 1,338 0,163
0,559-0,69 0,625 1 1,912 1,897 0,066
0,69-0,821 0,756 2 0,609 2,456 0,019
Для к = 4 и 5 и для а = 0,05 находим, что Хкр2 = 9,5 и 11,1 соответственно. Эти значения во всех случаях для Ах, Ау, Ае, Vx, Vy и Vz < Хнабл2, поэтому о гипотезу о законе нормального распределения параметров вибрационного поля с вероятностью 95% отвергаем. В связи с этим установим однородность реализаций по непараметрическим критериям, прибегнем к И-критерию Манна - Уит-ни. Соответственно получили 6 ранжированных рядов и 12 сумм рангов, пришедшихся на долю элементов первых и вторых выборок (табл. 4). По формуле по большей из ранговых сумм, имеющей вид:
Иэмп = П1 • П2 + ((Пх • (Пх + 1)) / 2) - Тх, установили, что все полученные значения и больше табличных и статистическая значимость различий между параметрами в рассматриваемых выборках не признается, поэтому анализируемые параметры вибрационного поля однородны. Далее можно перейти к корреляционному и регрессионному анализу.
Таблица 4. Оценка и-критерия Манна - Уитни
Ах Ау Az Vx Vy Vz
T1 163 153 772,5 145,5 138 702
T2 188 123 823,5 205,5 138 894
иэмп 72 39 366,5 54,5 72 296
Икр 51 38 291 51 38 291
Определим степень зависимости значения виброускорения от показателей виброскорости в точках измерения. Коэффициенты корреляции по компонентам х, у и е составили значения ниже среднего: 0,4; 0,25 и 0,15 соответственно - будучи вычислены по формуле Пирсона:
Г = (Е(Х; - Х) • (у; - у)У(^(х - Х)2 • //(у - у)2).
Оценка степени показала, что |гу/х| ^ 0 и существенно <1, поэтому исключаем линейную связь между анализируемыми параметрами и найдем тесноту корреляции и степень функциональной зависимости между выборками Ах и Vx, Ау и Vy, Ае и Vz: п = Омежгр/Ообщ, где Омежгр2 и Ообщ2 были рассчитаны по формулам: Омежгр2 = ЕПх(ух - у)2/п и Ообщ2 = Епу(у -у)2/п и составили 0,027; 0,029; 0,027 и 0,029; 0,029; 0,031 соответственно для компонент х, у, е. Частоты Пху наблюда-
емых пар значений признаков составили не более 4. Полученные значения корреляционного отношения Пх = 0,93; % = 1; П = 0,87 удовлетворяют условиям: п > И и n ~ 1, что указывает на тесную корреляционную связь функционального типа между признаками A и V.
По данным табл. 1 построим диаграммы распределения (рис. 2). В качестве аппроксимирующих функций, исходя из подбора максимальных значений коэффициента детерминации, выберем экспоненциальную функцию. Получены эмпирические уравнения: 1) y = 0,043e1,°°2x; 2) y = 0,042e°,260x; 3) y = 0,049e0,550x.
Рис. 2. Графическое выражение корреляционных связей вибрационного поля г. Сыктывкара по экспериментальным данным
Заключение
В результате проведенного корреляционно-регрессионного анализа вибрационного поля г. Сыктывкара получены коэффициенты корреляции, регрессии, уравнения функции распределения показателей, характеризующее данное поле и коэффициенты детерминации. Анализ данных показывает:
- полученные зависимости у = 0,043е1,002х; у = 0,042е°,260х; у = 0,049е°,550х возможно использовать для прогноза параметров вибрационного поля на территории г. Сыктывкара;
- последствия вибрационного воздействия на грунтовую толщу и инженерные сооружения зависят не только от характеристик источников колебаний, только в некоторых случаях измерений прослеживается численное соотношение виброскорости и виброускорения, ведущее к определенным последствиям воздействия: просадкам грунтов, осадкам фундаментов и повреждениям строительных конструкций;
- остальные зависимости объясняются природными и климатическими факторами, повлиявшими и влияющими на физико-механические свойства грунтов; это указывает на то, что следует весьма осторожно соотносить экспериментальные данные с нормативными или, например, с обобщенными данными по Восточно-Европейской платформе по (Жигалин, Локшин, 1987), учитывая поправки на геологические, гидрологические и геоморфологические условия;
- проводить исследования на предмет установления степени зависимости показателей вибрационного поля от геологических и гидрогеологических условий сразу на всей территории города затратно и трудоемко, поэтому такие работы в совокупности с описанным методом исследований рекомендуется осуществлять с целью обоснования выбора участков под строительные площадки и экологических изысканий в области техногенной нагрузки.
Библиографический список
Алимов С. Г. Оценка влияния транспортной вибрации на конструкции зданий памятников архитектуры. На примере г. Владивостока: авто-реф. на соиск. ученой степ. канд. техн. наук : 05.23.17. Владивосток, 2006. 24 с.
Борисов Е. К., Алимов С. Г., Усов А. Г. Экспериментальная динамика сооружений. Мониторинг транспортной вибрации. Петропавловск-Камчатский, 2007. 128 с.
Вихоть А. Н., Лютоев В. А. Использование геофизических методов для обнаружения ослабленных зон Сыктывкара // Вест. Института геологии. 2015. №4. С. 14-18.
ГОСТ Р ИСО 14837-1-2007. Вибрация. Шум и вибрация, создаваемые движением рельсового транспорта. Часть 1. Общее руководство. М.: Стандартинформ, 2008. 35 с.
ГОСТ Р ИСО 52892-2007. Вибрация и удар. Вибрация зданий. Измерение вибрации и оценка ее воздействия на конструкцию. М.: Изд-во стандартов, 2008. 16 с.
Жигалин А. Д., Локшин Г. П. Формирование вибрационного поля в геологической среде // Инженерная геология. 1987. № 3. С. 86-92.
Костарев С. А. Анализ вибраций, генерируемых линиями метрополитена, и разработка комплекса мероприятий по их снижению: автореф. на соиск. ученой степ. д. техн. наук : 01.02.06. Нижний Новгород, 2004. 36 с.
Кушнарева Е. С. Устойчивость водонасыщен-ных песков при динамическом воздействии: ав-тореф. на соиск. ученой степ. канд. геол.-мин. наук : 25.00.08. Москва, 2008. - 25 с.
Лютоев В. А., Вихоть А. Н. Влияние оползневых процессов и природно-техногенной микросейсмичности на геологическую среду города Сыктывкара. Сыктывкар, 2019. 84 с.
Лютоев В. А., Лютоева Н. В. Смешанные силы, влияющие на активность оползневых процессов вдоль железнодорожных склонов // Успехи современного естествознания. 2016. № 4. С. 145-150.
Чернов Ю. Т. Вибрации строительных конструкций. М.: Издательство АСВ, 2006. 288 с.
DIN 4150-3-2016. Erschütterungen im Bauwesen - Teil 3: Einwirkungen auf bauliche Anlagen. - Berlin : German Institute for Standardisation (Deutsches Institut für Normung), 2016. 20 p.
Analysis of Vibration Field Parameters of the City by the Correlation-Regression Method
A. N. Vikhot, V.A. Lutoev
Institute of Geology of Komi SC of UB of RAS 54 Pervomayskaya Str., Syktyvkar 167000, Russia. E-mail: vikhot.anna@mail.ru; lutoev1959@yandex.ru
Analysis of the parameters of the vibration field of the city was carried out on the example of the area of Syktyvkar. The vibroseismic monitoring data were used as a source material. We obtained the estimates of the mathematical expectation, variances and standard deviations, checked the normal distribution of random variables. The values of the correlation coefficient and correlation ratio were determined applying the method of correlation-regression analysis and carrying out the necessary calculations. Distribution diagrams were also constructed and approximating functions and estimated equations were obtained. This approach can be used to predict the parameters of the vibration field on the city territory and made it possible to give recommendations on its application as selection rationale of construction sites and environmental survey in the field of man-induced impact.
References
Alimov S.G. 2006. Otsenka vliyaniya transportnoy vibratsii na konstruktsii zdaniy pa-myatnikov arkhitektury. Na primere g. Vladivostoka [Assessment of the impact of traffic vibration on building structures of heritage architecture. Example of Vladivostok]. Diss. kand. tekh. nauk. Vladivostok. (in Russian)
Borisov Ye.K., Alimov S.G., Usov A.G. 2007. Ek-sperimentalnaya dinamika sooruzheniy. Monitoring transportnoy vibratsii [Experimental dynamics of structures. Monitoring of traffic vibration]. Petro-pavlovsk-Kamchatskiy, p. 128. (in Russian)
Vikhot A.N., Lyutoyev V.A. 2015. Ispolzovaniye geofizicheskikh metodov dlya obnaruzheniya osla-blennykh zon Syktyvkara [Usage of geophysical methods for revealing the hazardous sites of city of Syktyvkar]. Vest. Instituta geologii. 4:14-18. (in Russian)
GOST R ISO 14837-1-2007. Vibratsiya. Shum i vibratsiya, sozdavayemye dvizheniem relsovogo transporta. Chast 1. Obshcheye rukovodstvo [Vibration. Noise and vibration caused by railway transport. Part 1. General handbook]. Standartin-form, Moskva, p. 35. (in Russian)
GOST R ISO 52892-2007. Vibratsiya i udar. Vi-bratsiya zdaniy. Izmereniye vibratsii i otsenka yeyo vozdeystviya na konstruktsiyu [Vibration and impact. Building vibration. Engineering vibration and estimation of its impact on the structures]. Izd. standartov. Moskva, p. 16. (in Russian)
Zhigalin A.D., Lokshin G.P. 1987. Formirovaniye vibratsionnogo polya v geologicheskoy srede [Vibration field formation in the geological environ-
ment]. Inzhenernaya geologiya. 3:86-92. (in Russian)
Kostarev S.A. 2004. Analiz vibratsiy, gene-riruyemykh liniyami metropolitena, i razrabotka kompleksa meropriyatiy po ikh snizheniyu [Analysis of vibrations generated by the subway lines and development of the mitigation measures for their decreasing]. Diss. Dr. tekh. nauk. Nizhniy Novgorod. (in Russian)
Kushnareva Ye.S. 2008. Ustoychivost vodona-syshchennykh peskov pri dinamicheskom voz-deystvii [Stability of the water-saturated sands under dynamic impact]. Diss. kand. geol.-min. nauk. Moskva. (in Russian)
Lyutoyev V.A., Vikhot A.N. 2019. Vliyaniye opolznevykh protsessov i prirodno-tekhnogennoy mikroseysmichnosti na geologicheskuyu sredu goroda Syktyvkara [Influence of landslide processes and natural-technogenic microseismicity on the geological environment of city of Syktyvkar]. Syktyvkar, p. 84. (in Russian)
Lyutoyev V.A., Lyutoyeva N.V. 2016. Sme-shannye sily, vliyayushchiye na aktivnost opolznevykh protsessov vdol zheleznodorozhnykh sklonov [Mixed forces controlling the activeness of landslide processes along the railroad slopes]. Uspekhi sovremennogo yestestvoznaniya. 4:145150. (in Russian)
Chernov Yu.T. 2006. Vibratsii stroitelnykh kon-struktsiy [Vibration of the building structures]. Izd. ASV. Moskva, p. 288. (in Russian)
DIN 4150-3-2016. Erschütterungen im Bauwesen - Teil 3: Einwirkungen auf bauliche Anlagen. - Berlin. German Institute for Standardisation (Deutsches Institut für Normung), 2016, p. 20. (in German)
