Scientific journal

Modern problems of science and education

ISSN 2070-7428

"Перечень" ВАК

ИФ РИНЦ = 0,936

ANALYSIS OF VARIANCE OF THE CONTENT OF RADIOACTIVE ELEMENTS IN DIFFERENT MEDIA OF CITIES OF WESTERN SIBERIA

• Authors
• Files
• Abstract
• Keywords
• References

Yazikov E.G. 1 Mikhalchuk A.A. 1

---

1 National Research Tomsk Polytechnic University

Article in PDF

322 KB

The statistical analysis of outcomes of ekologo-geochemical measurements radioactive elements (EGCHMR) U, Th in snow and soils cities Tomsk and Kemerovo areas is spent: Strezhevoj (Str), Seversk (Sev), Tomsk (Т) and Mezhdurechensk (М). Within the limits of 2 factor dispersing models EGCHMR (4 level of the factor "CITY" and 2 level of the factor "MEDIUM") influence of factors "CITY" and "MEDIUM" on EGCHMR is investigated. Outcomes EGCHMR are highly significantly inhomogeneous on cities and media at the expense of significant scope of average measurements radioactive elements U, Th. For everyone radioactive elements are selected homogeneous (differing not significant) groups of media in different cities. Distinction of outcomes EGCHMR on cities is estimated as highly significant (р <0,0005) at the expense of highly significant difference of outcomes of Str from remaining at insignificant (р > 0,10) distinction of outcomes Sev, Т and M. Interaction influence between considered factors "CITY" and "MEDIUM" on EGCHMR is investigated. Comparison of outcomes of research by nonparametric and parametrical criteria is conducted. Outcomes of the spent statistical analysis can be considered in frameworks.

radioactive elements

ekologo-geochemical measurement

analysis of variance

Развитие атомной промышленности и топливной энергетики сопровождается поступлением в окружающую среду радиоактивных элементов [3; 7]. Во время работы этих предприятий происходят пылевые выбросы в атмосферу, содержащие радиоактивные элементы, которые первоначально накапливаются в снеговом покрове, а затем переходят в почву [2; 4; 6; 8]. Томская область по степени радиационной опасности отличается от других регионов Западной Сибири тем, что на ее территории в 30 км от г. Томска располагается г. Северск, в котором размещается один из самых крупных в мире ядерно-топливных комплексов – Сибирский химический комбинат (СХК). В качестве фонового города используются результаты исследований на территории г. Стрежевого, спецификой которого являются предприятия нефтегазодобычи севера Томской области. Кемеровская область является центром угледобывающей промышленности. Для исследования была выбрана территория г. Междуреченска, предприятия которого специализируются на добыче угля открытым и закрытым способами. Контрастность специфики промышленных предприятий и определяет содержание радиоактивных элементов в компонентах природной среды урбанизированных территорий городов Западной Сибири [9; 10].

В связи с этим представляет интерес статистический анализ [1; 5] результатов эколого-геохимических измерений радиоактивных элементов (ЭГХИР) в снеговом покрове и почвогрунтах разных городов Западной Сибири. Для определения содержаний радиоактивных элементов в твердом осадке снега (131 проба) и почвогрунтах (115 проб) использовали инструментальный нейтронно-активационный анализ (ИНАА), выполненный в ядерно-геохимической лаборатории (аттестат аккредитации № РОСС RU.0001.511901) кафедры геоэкологии и геохимии Томского политехнического университета (ТПУ).

Для выявления особенностей содержания радиоактивных элементов исходная база данных (табл. 1) была разделена по средам (фактор СРЕДА с двумя уровнями: снег (с) и почва (п)) на разных территориях (фактор ГОРОД с четырьмя уровнями: Стрежевой (Стр), Северск (Сев), Томск (Т) и Междуреченск (М)).

Таблица 1

Числовые характеристики (объем выборки N, среднее, стандартная ошибка и ±95% границы доверительного интервала) содержаний радиоактивных элементов U, Th и их отношения Th/U в почвогрунтах и твердом осадке снега городов Стрежевой (Стр), Северск (Сев), Томск (Т) и Междуреченск (М), полученных методом ИНАА.

На рис. 1 изображена диаграмма рассеяния с 95%-ным эллипсом рассеяния (замкнутая кривая) результатов эколого-геохимических измерений радиоактивных элементов (ЭГХИР) урана и тория 2-факторной модели СРЕДА* ГОРОД.

Рис. 1. Диаграмма рассеяния ЭГХИР

Созданная таким образом база данных ЭГХИР использовалась далее в пакете Statistica [1] для статистического анализа данных. Согласно рис. 1 очевидна неоднородность распределения радиоактивных элементов по средам в разных городах. Графики соответствующих выборочных средних распределений радиоактивных элементов U, Th и их отношение Th/U с указанием 95%-ного доверительного интервала приведены на рис. 2. В данном случае четко просматривается особенность нефтегазодобывающего района (г. Стрежевой), где отсутствуют специфические производства, а следовательно, фиксируются низкие концентрации радиоактивных элементов при повышенном торий-урановом отношении.

Рис. 2. Средние m радиоактивных элементов U, Th и их отношения Th/U по средам в разных городах с ±95%-ными доверительными интервалами

На основании двухфакторного дисперсионного анализа согласно параметрическому F-критерию сделан вывод о высоко значимой (на уровне значимости p < 0,0005) неоднородности распределения радиоактивных элементов по совокупности сред и городов.

Согласно апостериорному критерию наименьшей значимой разности (НЗР), эквивалентному t-критерию для числа независимых выборок больше двух, выделены для каждого радиоактивного элемента (U, Th) и их отношения (Th/U) однородные (различающиеся незначимо, то есть на уровне значимости р > 0,10) группы выборок СРЕДА*ГОРОД (с*Стр, с*Сев, с*Т, с*М, п*Стр, п*Сев, п*Т и п*М), расположенные в порядке возрастания средних:

• U (рис. 2): {с*Стр, п*Стр}, { п*М, п*Т}, {п*Сев}, { с*Сев, с*М}, {с*Т}. При этом, например, среднее выборки п*Сев (содержание U в почве г. Северска) m_п*Сев ≈ 3,34 отличается от m_с*Сев ≈ 3,78 слабо значимо (0,05 < p ≈ 0,07 < 0,10), а от m_с*М ≈ 3,95 - статистически значимо (0,005 < p ≈ 0,04 < 0,05); различия между m_п*Стр ≈ 0,79 и m_п*М ≈ 2,22 или m_п*М ≈ 2,22 и m_п*Сев ≈ 3,34 или m_с*М ≈ 3,95 и m_с*Т ≈ 4,84 оцениваются как сильно значимые (0,0005 < p»0,0035 < 0,005).
• Th (рис. 2): {п*Стр, с*Стр}, {п*Сев}, { п*Т, п*М}, { с*Т, с*М}, {с*Сев}. При этом m_п*Сев ≈ 5,90 отличается статистически значимо (0,005 < p ≈ 0,04 < 0,05) как от m_с*Стр ≈ 4,82, так и от m_п*Т ≈ 6,83; m_п*М ≈ 7,13 отличается сильно значимо (0,0005 < p ≈ 0,0035 < 0,005) как от m_с*Стр » 4,82, так и от m_с*Т ≈ 9,40; различия между m_п*Стр ≈ 4,15 и m_п*Сев ≈ 5,90 (p » 0,024) или m_с*М ≈ 10,38 и m_с*Сев ≈ 11,72 (p » 0,016) оцениваются как статистически значимые (0,005 < p < 0,05).
• Th/U (рис. 2): {п*Сев, с*Т, с*М, п*Т, п*М, }, {с*Т, с*М, п*Т, п*М, с*Сев}, {п*Стр}, {с*Стр}. При этом m_с*Сев ≈ 3,38 отличается от m_п*Сев ≈ 1,96 слабо значимо (0,05 < p < 0,10), а от m_п*Стр ≈ 5,81 - статистически значимо (0,005 < p < 0,05).

Для достоверности полученных результатов параметрического дисперсионного анализа проверено предположение о нормальном распределении сравниваемых групп. На рис. 3 представлено сравнение двух наиболее близких к нормальному закону распределений (гистограмм) U по выборкам с*Сев и п*Т.

Рис. 3. Гистограммы распределений переменной для всех групп с соответствующими кривыми нормального распределения

Согласно χ2-критерию Пирсона только одно распределение (U _с*Сев) не значимо (на уровне значимости р ≈ 0,186 > 0,10) отличается от соответствующего теоретического нормального распределения (кривые на рис. 3).

В связи с малыми объемами выборок и нарушением предположения о нормальном распределении сравниваемых выборок СРЕДА*ГОРОД проведен также анализ данных ЭГХИР с использованием непараметрических характеристик (рис. 4). Непараметрические критерии Краскела-Уоллиса и медианный тест были применены в рамках непараметрического однофакторного дисперсионного анализа с категориальной переменной СРЕДА*ГОРОД (с*Стр, с*Сев, с*Т, с*М, п*Стр, п*Сев, п*Т и п*М) из 8 уровней взаимодействия.

Рис. 4. Диаграмма размаха U и Th по средам в разных городах (квадрат – медиана, прямоугольник – квартильный размах, усы – абсолютный размах)

Согласно критерию Краскела-Уоллиса и медианному тесту существуют высоко значимые (p < 0,0005) различия в группах взаимодействий. Это подтверждает результат параметрического дисперсионного анализа о высоко значимой неоднородности распределения U, Th и Th/U по совокупности уровней СРЕДА*ГОРОД. На основе непараметрического аналога метода множественных сравнений для каждого радиоактивного элемента U, Th и Th/U скорректировано выделение однородных групп выборок СРЕДА*ГОРОД. Результаты непараметрических множественных сравнений в целом выглядят более мягкими, размывающими грани однородности групп выборок, и приводят часто к меньшему числу пересекающихся однородных групп:

• U (рис. 4): {с*Стр, п*Стр}, { п*М, п*Т, п*Сев}, { п*Сев, с*Сев, с*М, с*Т}.
• Th (рис. 4): {п*Стр, с*Стр, п*Сев, п*Т, п*М}, {п*М, с*Т, с*М}, {с*Т, с*М, с*Сев}.
• Th/U: {п*Сев, с*Т, с*М}, {с*Т, с*М, п*Т, п*М, с*Сев}, { п*Т, п*М, с*Сев, п*Стр }, {п*Стр, с*Стр}.

Выводы

1. Средствами дисперсионного анализа (параметрический F-критерий и непараметрический критерий Краскела-Уоллиса) выявлена высокая значимость влияния факторов СРЕДА и ГОРОД на распределения U, Th и их отношений Th/U. Иными словами, распределения U, Th и их отношений Th/U в твердом осадке снега и почвогрунтах разных городов Западной Сибири можно считать значимо неоднородными.
2. Согласно критерию НЗР для каждого радиоактивного элемента U, Th и их отношения Th/U выделены однородные (различающиеся незначимо) группы выборок СРЕДА*ГОРОД (с*Стр, с*Сев, с*Т, с*М, п*Стр, п*Сев, п*Т и п*М): по 5 групп для U, Th и 4 группы для Th/U.
3. По χ2-критерию Пирсона только одно распределение (Uс*Сев) не значимо (на уровне значимости р ≈ 0,186 > 0,10) отличается от соответствующего теоретического нормального распределения.
4. На основе непараметрического метода множественных сравнений для каждого радиоактивного элемента U, Th и их отношения Th/U скорректировано выделение однородных групп выборок СРЕДА*ГОРОД. Результаты непараметрических множественных сравнений в целом выглядят более мягкими, размывающими грани однородности групп выборок и приводящими часто к меньшему числу пересекающихся однородных групп: по 3 группы для U, Th и 4 группы для Th/U.
5. Получены следующие основные результаты дисперсионного анализа эколого-геохимических измерений радиоактивных элементов по средам в разных городах – на фоне разных уровней значимости различий распределений U, Th и их отношений Th/U по средам и городам выделены:

• однородность по средам распределений для каждого радиоактивного элемента U, Th и их отношению Th/U в г. Стрежевой (выборки п*Стр и с*Стр), что связано со спецификой нефтегазодобывающего района и отсутствием источников радиоактивных элементов;
• однородность по остальным городам (Северск, Томск и Междуреченск) распределений для каждого радиоактивного элемента U и Th отдельно в почве (выборки п*Сев, п*Т, п*М) и в снеге (с*Сев, с*Т, с*М), а также их отношения Th/U в снеге (с*Сев, с*Т, с*М). Данные результаты свидетельствуют о радиационном факторе, присутствующем в данных городах. Для городов Томска и Междуреченска это обусловлено наличием теплоэлектростанций и котельных, работающих на угле. Спецификой территории г. Северска является присутствие предприятий как тепловых, так и с ядерно-топливных циклом.

Работа выполнена при поддержке Российского научного фонда.

Рецензенты:

Трифонов А.Ю., д.ф.-м.н., профессор кафедры высшей математики и математической физики, ФГБОУ ВПО «Национальный исследовательский Томский политехнический университет, г. Томск.

Арбузов С.И., д.г.-м.н., профессор кафедры геоэкологии и геохимии, ФГБОУ ВПО «Национальный исследовательский Томский политехнический университет, г. Томск.

Библиографическая ссылка