CC BY
22
EARTH SCIENCES
CORRELATION ANALYSIS OF DUST SERIES SURFACE ATMOSPHERE OF THE TULA
12 3
Volkov A.V. , Siliveeva I.V. , Krestinicheva E.K. (Russian Federation) Email: Volkov445@scientifictext.ru
1Volkov Artem Valer'evich - PhD in Technical Sciences, Associate Professor; 2Siliveeva Irina Vadimovna - Undergraduate; 3Krestinicheva Elena Kirillovna - Undergraduate, DEPARTMENT LABOR PROTECTION AND THE ENVIRONMENT, TULA STATE UNIVERSITY, TULA
Abstract: statistical processing of experimental results is based on the principle "from the general to the particular". Therefore, at the first stage of processing, the monthly average values of the parameters taken into account, including the gradients of parameters necessary for the analysis, are calculated, and then the matrix of their mutual linear correlations is determined. On this basis, a preliminary conclusion is formulated on the existence of statistically significant links between parameters, which are the links that are further subject to analysis.
Keywords: surface atmosphere, correlation, horizontal plates, time series, spectral analysis, linear models.
КОРРЕЛЯЦИОННЫЙ АНАЛИЗ РЯДОВ ЗАПЫЛЕННОСТИ ПРИЗЕМНОЙ АТМОСФЕРЫ Г. ТУЛЫ
1 2 3
Волков А.В. , Силивеева И.В. , Крестиничева Е.К. (Российская Федерация)
1Волков Артем Валерьевич - кандидат экономических наук, доцент; 2Силивеева Ирина Вадимовна - магистрант;
3Крестиничева Елена Кирилловна - магистрант, кафедра охраны труда и окружающей среды, Тульский государственный университет, г. Тула
Аннотация: статистическая обработка результатов экспериментальных исследований базируется на принципе «от общего - к частному». Поэтому на первом этапе обработки рассчитываются средние за месяц значения учитываемых параметров, включая необходимые для анализа градиенты параметров, и далее определяется матрица их взаимных линейных корреляций. На этом основании формулируется предварительное заключение о наличии статистически значимых связей между параметрами, которые - связи - в дальнейшем и подлежат анализу. Ключевые слова: приземная атмосфера, корреляция, горизонтальные планшеты, временные ряды, спектральный анализ, линейные модели.
Обработка и истолкование результатов натурных и лабораторных, проводимых в предметных областях «Техносферная безопасность» и «Науки о Земле», базируются на применении вероятностно-статистических методов исследований. Исходные данные, получаемые путём регистрации каких-либо физических, химических или иных полей, генерируемых различными по природе, мощности и особенностям функционирования источниками, в отдельные моменты времени или в отдельных
точках пространства, рассматривают как совокупности случайных величин [2, с. 236]. В силу наличия помех, обусловленных погрешностями измерений, локальными неоднородностями и неучтёнными возмущениями среды, изучаемое поле реализуется случайным образом.
В нашем исследовании в группу градиентов включены скорость изменения атмосферного давления (величина самого давления - мало информативна), градиенты интенсивности осаждения пыли на горизонтальные планшеты, градиент дневной температуры воздуха.
На втором этапе эффекты сезонного хода изучаемых параметров рассматриваются на качественном уровне и формулируется заключение о возможном взаимодействии параметров, т.е. координации их внутригодового хода.
Далее выполняется разделение изучаемых полей на компоненты - фоновую и диагностическую, устанавливаются сезонные закономерности их согласованного изменения, для диагностических компонент рассчитываются значения функции взаимной корреляции двух параметров, выполняется спектральный анализ этих компонент и другие статистические преобразования.
Исходные данные для расчёта матрицы взаимных корреляций представлены в табл. 1. Речь идёт о средних за месяц величинах дневной температуры воздуха (Т); направления ветра (Ru, или румб); скорости ветра (V); величине атмосферного давления (Р); относительной влажности воздуха (Fi); интенсивности осаждения пыли на горизонтальный планшет, установленный в ЦПКиО (Mprc, мг/м2-с); интенсивность осаждения пыли у дороги (Mdor, мг/м2-с); величине разности (DeltaM = Mdor - Mprc), предположительно, отражающей массу наиболее грубодисперсной пыли (РМ10...50), генерируемой дорогой; доли грубодисперсной пыли в составе эмиссии источника -дороги (РМ50); величинах 24-часового градиента осаждения пыли в парке (GMprc, сут-1) и вблизи дороги (GMdor), а также индексе месяца (d, d = 1 соответствует январю 2018 года). Все значения получены по исходным рядам, потому осреднение по данным табл. 1 (строка Year) даёт несколько иные значения. В январе замеры не проводились, и потому расчёт выполнен по 11 месяцам 2018 года.
Таблица 1. Исходные данные для расчёта матрицы взаимных корреляций изучаемых параметров аэрологической ситуации
-н н гч о >■ Рч ич £ и О С- § о г- -в § 8 ЭеИаМ о * § Рч 10 ОМрге 11 омаог гч н ч 0 2 &
jan -2,42 170,32 3,55 743,95 83,39 2, о -0,469 -
feb -3,14 133,93 3,75 744,89 81,54 0,01152 0,04792 0,0364 0,757 -0,0000308 0,0004064 3, о 0,938 сч
mar 0,57 132,097 4,13 737,89 69,81 0,00779 0,052118 0,04433 0,843 -0,0000857 -0,0002679 0,53 -0,365 О")
apr 13,75 191,75 7 сч ,5 740,35 63,93 0,01102 0,048061 0,03704 0,736 -0,0000935 -0,0001369 0,51 -0,0113
may 20,78 172,26 5,11 744,54 64,48 0,008434 0,022016 0,01358 'чО о" -0,000176 -0,0003598 2, о -0,086
jun 22,46 4 2 5,68 738,97 61,35 0,008619 0,022892 0,01427 0,574 0,00002963 -0,000341 0,44 -0,23 'чО
157,26 4,44 737,49 9 СЧ 7 0,008892 0,014775 0,00588 0,5149 0,0002324 -0,0000833 сч о 0,593
aug 25,09 231,29 3,55 742,95 59,68 0,011117 0,018488 0,00737 0,5899 -0,0002109 0,0003253 -0,0194 -0,144 00
-н H о >■ ■t PH ю £ c s* VO up s r o -d § 8 DeltaM 0 <n Os g Ph 10 GMprc 11 GMdor гч н ^ О 5
sep 19,7 сч 2 3,05 742,94 72,2 0,01093 0,043969 0,03304 0,5346 0,00002799 0,0007983 -0,45 0,122 as
oct 10,91 227,9 3,48 743,22 83,48 0,009669 0,03016 0,02049 0,517 0,00015158 -0,0000773 -0,216 0,273 о
nov 1,402 182,5 3,53 750,67 81,5 0,007154 0,016608 0,00945 0,623 -0,0000714 -0,0008328 -0,243 0,126 -
dec 131,13 3,29 743,31 84,48 0,008335 0,023948 0,01561 0,522 -0,0001735 0,0005082 0,065 -0,429 IN
Year 10,92 181,42 4,068 742,57 73,15 0,009116 0,029771 0,02065 0,634 -0,0000429 -0,0000605 -0,01699 -0,0151
Jan-2019 0,005727 0,021806 0,01608 0,745 -0,0001466 -0,0006932
Результаты расчёта взаимных линейных корреляций представлены в табл. 2. Статистически значимые корреляции (и связи) выделены красным цветом. В столбце Means указаны средние за расчётный период величины, а в столбце Std.Dev (SD) -величины средних квадратических отклонений.
Величины коэффициентов, не выделенные красным цветом, формально, не должны приниматься во внимание.
Таблица 2.Матрица взаимных линейных корреляций факторов, определяющих годовую динамику загрязнения приземной атмосферы инертной пылью в центральном районе Тулы в
2018 году
Correlations (CorMatr -pil 2018; 2 var) Marked correlations are significant at p < 0,05 N=11 (Casewise deletion of missing data)
■а я •s я > Means Std.Dev. H Ru > ft ES Mprc Mdor DeltaM PM50 GMprc GMdor GT GP
н 12,0475 11.23631 1.000000 0.672852 0,401244 -0.370380 -0,735650 0,235239 -0.395437 -0.438136 -0.466773 0,225153 0.012107 -0.052462 -0.049409
Ru 182,2834 40.01433 0.672852 1.000000 0.054005 0.056692 -0.408317 0.317819 -0,237724 -0,283043 -0.455101 0.155418 0.005904 -0.096749 -0.113591
> 4.1164 0.88836 0.401244 0.054005 1.000000 -0.453915 -0.646491 -0.137408 -0.039859 -0.026244 0,216128 0.022185 -0.514011 0.596073 -0.152875
Оч 742,4745 7 2 3 so 7, ,3 -0.370380 0.056692 -0,453915 1.000000 0.461784 -0.091598 -0,235548 -0,235199 -0.115109 -0.347879 -0.144975 -0.572329 0.162237
Е 72,2582 9.27328 -0,735650 -0.408317 -0.646491 0.461784 1.000000 -0.187132 0.036040 0.058372 -0.149099 0,260922 0.128131 -0.470049 0.361580
Mprc 0.0094 0.00152 0,235239 0.317819 -0.137408 -0.091598 -0.187132 1.000000 0.420950 0.327146 0.068400 0.009305 0.674930 -0.191593 0.434067
Mdor 0.0310 0.01420 -0.395437 -0,237724 -0.039859 -0,235548 0.036040 0.420950 1.000000 0.994883 0,712976 -0.062665 0.314464 0,281070 0.092074
§ Я 6 IN О 3 6 O-l 6 3 00 O-l 3 4 0 O-l 00 4 4 2 so IN 9 9 O-l 2 7 3 00 5 6 4 IN 38 8 o\ 0 0 0 о о 6 3 IT) о 12 3 so so 6 3 4 IN 5 0 4 13. 7 5 5 ^t-
О .0 0.0 .0- ,0- .0- ,0- 0. .0 3. .0 9. .0 0. 7, ,0 .0- 2, ,0 .0 0. .0
Рч
G
Correlations (CorMatr -pil 2018; 2 var) Marked correlations are significant at p < 0,05
N=11 (Casewise deletion of missing data)
•s
a
e
о
T5
a?
£
G
G
H
G
H
G
9 5
19
По результатам расчёта матрицы корреляций сделаны следующие предварительные заключения.
1. Существует положительная корреляция дневной температуры воздуха и направления ветра (Я = 0,673): потепление в регионе обычно связано с ветрами южных румбов.
2. Отрицательная корреляция относительной влажности и дневной темпе -ратуры воздуха (Я = -0,736): интервалы осадков (и увеличения влажности воз-духа) в тёплый период года совпадают с интервалами понижения температуры. В следствие того, что вероятность сильных морозов в регионе снижается (при сильных морозах относительная влажность воздуха невысока), эта связь явля-ется функционально значимой.
3. Отрицательная корреляция относительной влажности и скорости ветра (Я = -0,647): чем выше скорость ветра, тем меньше влажность воздуха. Высокая влажность и осадки характерны для интервалов с устойчивой погодой и невы-сокой скоростью ветра [1, с. 115].
4. Прямая связь между разностью БеМаМ и осаждением пыли вблизи до-роги (Я = 0,995): по сути, всю картину запылённости в данной точке определяет не динамика регионального фона (и факторы, контролирующие эту динамику), а характеристики
самого источника - движение автотранспорта. Действительно, средняя за год величина грубодисперсной пыли в составе осаждений на план-шет «дорога» составляет 63,4 %.
5. Прямая связь между содержанием грубой пыли (10...50 мкм) и её осаж-дением вблизи дороги (R = 0,713): источник генерирует именно грубодисперс-ную пыль за счёт механического взаимодействия поверхностей - дорожного покрытия и автомобильных покрышек.
6. Прямая связь между скоростью изменения осаждения пыли вблизи до-роги (GMdor) и осаждением пыли в ЦПКиО (R = 0,675): чем резче увеличивает источник свою мощность по пыли, тем, видимо, большая её доля всё же достигает точки наблюдения в парке и там оседает на планшет. Другими словами, только пиковые значения автомобильного потока сказываются на аэрологичес-кой ситуации в ЦПКиО, когда речь ведётся об открытых участках парка. Тем не менее, движение и этой пыли происходит не через фитоценоз, а по линии систе-мы прудов. В этом направлении нет оснований считать, что шероховатость поверхности усилит динамический компонент общей турбулентности воздуха и существенно снизит скорость горизонтального переноса пыли, обеспечивая её быстрое осажнение.
7. Корреляция между осажденим пыли вблизи дороги и в ЦПКиО прямая, но слабая - формально, незначимая (R = 0,421).
8. Крайне слабая и незначительная отрицательная корреляция между ско-ростью ветра и осаждением пыли как вблизи дороги, так и в ЦПКиО (R = -0,137). Видимо, ветер мало влияет на грубодисперсную пыль. А запылённость воздуха на территории парка, безусловно, реагирует снижением на увеличение скорости ветра, обеспечивающей самоочищение атмосферы. Тем не менее, вертикальный поток пыли больше определяется не текущей скоростью ветра (если V < 6 м/с), а процессами поступления пыли с ЮВ Европейской територии РФ.
9. Атмосферное давление напрямую ни на что не влияет.
Включение в группу анализируемых факторов градиентов температуры (GT) и атмосферного давления (GP) к прежним заключениям ничего не доба-вило: новых статистически значимых связей не выявлено.
В конечном итоге следует обратить внимание на слабые связи, не индексированные в таблице как статистически значимые.
1. Прямая связь намечается между GT и V (R = 0,596): чем выше градиент дневной температуры, тем выше скорость ветра в пределах участка работ. Это заключение, видимо, имеет отношение к теоретической зависимости между давле-нием идеального газа (р) и величиной абсолютной температуры газа (Т): p = nkT, где n - концентрация газа, т.е. число частиц в единице объёма; k - постоянная Больцмана [1, с. 78].
2. Обратная связь намечается между величинами GT и Р (R = -0,572): чем выше градиент температуры, тем меньше величина атмосферного давления.
3 . Обратная связь возможна между GT и величиной относительной влаж-ности (R = -0,470): чем выше градиент, тем меньше влажность, т.е. меньше возможное насыщение воздуха водяным паром.
4. Прямая связь - между GT и содержанием грубой пыли (R = 0,502): повышение температуры (по крайней мере, в тёплый период года) и снижение вероятности осадков, безусловно, способствует росту регионального фона запы-лённости воздуха, представленного пылью диаметром менее 10 мкм. Но, видимо, ещё в большей степени в этих условиях возрастает генерация грубодисперсной пыли её непосредственным источником. В итоге, возрастает и общая величина TSP, и доля грубой пыли в её составе.
5. Обратная связь - между GT и GР (R = -0,592): в среднегодовом аспекте, резкое повышение температуры происходит на падении атмосферного давления. Вероятно, что для холодного периода года эта связь оказалась бы статисти-чески значимой.
6. Прямая связь - между GР и величиной осаждения пыли на планшет, установленный в ЦПКиО (R = 0,434): при резком повышении температуры сни-жается вероятность затяжных осадков, затрагивающих весь регион. Поэтому региональный
фон мелкодисперсной пыли, вовлекаемый в трансграничный - по отношению к характерным размерам ландшафта - перенос, и величина её осаж-дения на планшет «парк» возрастают.
7. Прямая связь - между GР и градиентом осаждения пыли на планшет, установленный в ЦПКиО (R = 0,562): динамика фона мелкодисперсной пыли весьма чувствительна к скорости изменения атмосферного давления в пределах региона исследований. Иными словами, природа мелкодисперсной пыли, скорее, - региональная, хотя в составе TSP, несомненно, имеется и пыль, поступившая из-за пределов тульского региона.
8. Связь между градиентами температуры, давления и генерацией пыли вблизи дороги не прослеживается. То есть, данный источник мало чувствителен к кратковременным и невыраженным по тенденции изменениям метеопарамет-ров. В большей степени его динамика определяется собственными закономер-ностями, в т.ч. автомобильным трафиком.
Список литературы /References
1. Лысенко С.Н., Дмитриева И.А. Общая теория статистики: Учебное пособие. М.: ИД ФОРУМ: ИНФРА-М., 2006. 208 с.
2. Вычислительные математика и техника в разведочной геофизике: Справочник геофизика / Под ред. В.И. Дмитриева. 2-е изд., перераб. и доп. М.: Недра, 1990. 498 с.
Список литературы на английском языке /References in English
1. Lysenko S.N., Dmitrieva I.A. Obshhaja teorija statistiki: Uchebnoe posobie [General Theory of Statistics: Tutorial]. M.: ID FORUM: INFRA-M., 2006. P. 208 [in Russian].
2. Vychislitel'nye matematika i tehnika v razvedochnoj geofizike: Spravochnik geofizika [Computational Mathematics and Engineering in Exploration Geophysics: Handbook of Geophysics] / Pod red. V.I. Dmitrieva. 2-e izd., pererab. i dop. M.: Nedra, 1990. P. 498 [in Russian].
