Scientific journal
Modern problems of science and education
ISSN 2070-7428
"Перечень" ВАК
ИФ РИНЦ = 0,931

ANALYSIS OF VARIANCE OF THE CONTENT OF RADIOACTIVE ELEMENTS IN DIFFERENT MEDIA OF CITIES OF WESTERN SIBERIA

Yazikov E.G. 1 Mikhalchuk A.A. 1
1 National Research Tomsk Polytechnic University
Проведен статистический анализ результатов эколого-геохимических измерений радиоактивных элементов (ЭГХИР) урана (U) и тория (Th) в твердом осадке снега и почвогрунтах городов Томской (Стрежевой (Стр), Северск (Сев), Томск (Т)) и Кемеровской (Междуреченск (М)) областей. В рамках 2-факторной дисперсионной модели ЭГХИР (4-уровневый фактор «ГОРОД» и 2-уровневый фактор «СРЕДА») исследовано влияние факторов «ГОРОД» и «СРЕДА» на ЭГХИР. Результаты ЭГХИР являются высоко значимо неоднородными по городам и средам за счет значимого размаха средних измерений радиоактивных элементов. Для каждого элемента выделены однородные (различающиеся незначимо) группы сред в разных городах. Различие результатов ЭГХИР по городам оценивается как высоко значимое (р < 0,0005) за счет высоко значимого отличия результатов Стр (район нефтегазодобычи) от остальных при незначимом (р > 0,10) различии результатов Сев (район с предприятиями ядерно-топливного цикла), Т (район многопрофильного производства) и М (район угледобычи). Исследовано влияние взаимодействия между рассматриваемыми факторами «ГОРОД» и «СРЕДА» на ЭГХИР. Проведено сопоставление результатов исследования непараметрическими и параметрическими критериями. Результаты проведенного статистического анализа могут быть учтены в рамках геохимического мониторинга территорий городов для принятия управленческих решений.
The statistical analysis of outcomes of ekologo-geochemical measurements radioactive elements (EGCHMR) U, Th in snow and soils cities Tomsk and Kemerovo areas is spent: Strezhevoj (Str), Seversk (Sev), Tomsk (Т) and Mezhdurechensk (М). Within the limits of 2 factor dispersing models EGCHMR (4 level of the factor "CITY" and 2 level of the factor "MEDIUM") influence of factors "CITY" and "MEDIUM" on EGCHMR is investigated. Outcomes EGCHMR are highly significantly inhomogeneous on cities and media at the expense of significant scope of average measurements radioactive elements U, Th. For everyone radioactive elements are selected homogeneous (differing not significant) groups of media in different cities. Distinction of outcomes EGCHMR on cities is estimated as highly significant (р <0,0005) at the expense of highly significant difference of outcomes of Str from remaining at insignificant (р > 0,10) distinction of outcomes Sev, Т and M. Interaction influence between considered factors "CITY" and "MEDIUM" on EGCHMR is investigated. Comparison of outcomes of research by nonparametric and parametrical criteria is conducted. Outcomes of the spent statistical analysis can be considered in frameworks.
radioactive elements
ekologo-geochemical measurement
analysis of variance

Развитие атомной промышленности и топливной энергетики сопровождается поступлением в окружающую среду радиоактивных элементов [3; 7]. Во время работы этих предприятий происходят пылевые выбросы в атмосферу, содержащие радиоактивные элементы, которые первоначально накапливаются в снеговом покрове, а затем переходят в почву [2; 4; 6; 8]. Томская область по степени радиационной опасности отличается от других регионов Западной Сибири тем, что на ее территории в 30 км от г. Томска располагается г. Северск, в котором размещается один из самых крупных в мире ядерно-топливных комплексов – Сибирский химический комбинат (СХК). В качестве фонового города используются результаты исследований на территории г. Стрежевого, спецификой которого являются предприятия нефтегазодобычи севера Томской области. Кемеровская область является центром угледобывающей промышленности. Для исследования была выбрана территория г. Междуреченска, предприятия которого специализируются на добыче угля открытым и закрытым способами. Контрастность специфики промышленных предприятий и определяет содержание радиоактивных элементов в компонентах природной среды урбанизированных территорий городов Западной Сибири [9; 10].

В связи с этим представляет интерес статистический анализ [1; 5] результатов эколого-геохимических измерений радиоактивных элементов (ЭГХИР) в снеговом покрове и почвогрунтах разных городов Западной Сибири. Для определения содержаний радиоактивных элементов в твердом осадке снега (131 проба) и почвогрунтах (115 проб) использовали инструментальный нейтронно-активационный анализ (ИНАА), выполненный в ядерно-геохимической лаборатории (аттестат аккредитации № РОСС RU.0001.511901) кафедры геоэкологии и геохимии Томского политехнического университета (ТПУ).

Для выявления особенностей содержания радиоактивных элементов исходная база данных (табл. 1) была разделена по средам (фактор СРЕДА с двумя уровнями: снег (с) и почва (п)) на разных территориях (фактор ГОРОД с четырьмя уровнями: Стрежевой (Стр), Северск (Сев), Томск (Т) и Междуреченск (М)).

Таблица 1

Числовые характеристики (объем выборки N, среднее, стандартная ошибка и ±95% границы доверительного интервала) содержаний радиоактивных элементов U, Th и их отношения Th/U в почвогрунтах и твердом осадке снега городов Стрежевой (Стр), Северск (Сев), Томск (Т) и Междуреченск (М), полученных методом ИНАА.

 

СРЕДА

ГОРОД

N

Среднее

Ст. ош.

-95%

+95%

U

почва

Стр

10

0,790

0,340

0,120

1,460

почва

М

10

2,220

0,340

1,550

2,890

почва

Сев

35

3,337

0,182

2,979

3,695

почва

Т

60

2,405

0,139

2,132

2,678

снег

Стр

32

0,582

0,190

0,208

0,956

снег

М

22

3,945

0,229

3,494

4,397

снег

Сев

49

3,776

0,154

3,473

4,078

снег

Т

28

4,836

0,203

4,436

5,236

Th

почва

Стр

10

4,150

0,678

2,814

5,486

почва

М

10

7,130

0,678

5,794

8,466

почва

Сев

35

5,897

0,362

5,183

6,611

почва

Т

60

6,827

0,277

6,281

7,372

снег

Стр

32

4,819

0,379

4,072

5,566

снег

М

22

10,377

0,457

9,477

11,278

снег

Сев

49

11,718

0,306

11,115

12,322

снег

Т

28

9,404

0,405

8,605

10,202

U/ Th

почва

Стр

10

5,808

1,109

3,624

7,993

почва

М

10

3,299

1,109

1,114

5,484

почва

Сев

35

1,963

0,593

0,795

3,130

почва

Т

60

3,105

0,453

2,213

3,997

снег

Стр

32

11,331

0,620

10,109

12,552

снег

М

22

2,746

0,748

1,273

4,219

снег

Сев

49

3,379

0,501

2,392

4,366

снег

Т

28

2,109

0,663

0,804

3,415

На рис. 1 изображена диаграмма рассеяния с 95%-ным эллипсом рассеяния (замкнутая кривая) результатов эколого-геохимических измерений радиоактивных элементов (ЭГХИР) урана и тория 2-факторной модели СРЕДА* ГОРОД.

Рис. 1. Диаграмма рассеяния ЭГХИР

Созданная таким образом база данных ЭГХИР использовалась далее в пакете Statistica [1] для статистического анализа данных. Согласно рис. 1 очевидна неоднородность распределения радиоактивных элементов по средам в разных городах. Графики соответствующих выборочных средних распределений радиоактивных элементов U, Th и их отношение Th/U с указанием 95%-ного доверительного интервала приведены на рис. 2. В данном случае четко просматривается особенность нефтегазодобывающего района (г. Стрежевой), где отсутствуют специфические производства, а следовательно, фиксируются низкие концентрации радиоактивных элементов при повышенном торий-урановом отношении.

Рис. 2. Средние m радиоактивных элементов U, Th и их отношения Th/U по средам в разных городах с ±95%-ными доверительными интервалами

На основании двухфакторного дисперсионного анализа согласно параметрическому F-критерию сделан вывод о высоко значимой (на уровне значимости p < 0,0005) неоднородности распределения радиоактивных элементов по совокупности сред и городов.

Согласно апостериорному критерию наименьшей значимой разности (НЗР), эквивалентному t-критерию для числа независимых выборок больше двух, выделены для каждого радиоактивного элемента (U, Th) и их отношения (Th/U) однородные (различающиеся незначимо, то есть на уровне значимости р > 0,10) группы выборок СРЕДА*ГОРОД (с*Стр, с*Сев, с*Т, с*М, п*Стр, п*Сев, п*Т и п*М), расположенные в порядке возрастания средних:

  • U (рис. 2): {с*Стр, п*Стр}, { п*М, п*Т}, {п*Сев}, { с*Сев, с*М}, {с*Т}. При этом, например, среднее выборки п*Сев (содержание U в почве г. Северска) mп*Сев ≈ 3,34 отличается от mс*Сев ≈ 3,78 слабо значимо (0,05 < p ≈ 0,07 < 0,10), а от mс*М ≈ 3,95 - статистически значимо (0,005 < p ≈ 0,04 < 0,05); различия между mп*Стр ≈ 0,79 и mп*М ≈ 2,22 или mп*М ≈ 2,22 и mп*Сев ≈ 3,34 или mс*М ≈ 3,95 и mс*Т ≈ 4,84 оцениваются как сильно значимые (0,0005 < p»0,0035 < 0,005).
  • Th (рис. 2): {п*Стр, с*Стр}, {п*Сев}, { п*Т, п*М}, { с*Т, с*М}, {с*Сев}. При этом mп*Сев ≈ 5,90 отличается статистически значимо (0,005 < p ≈ 0,04 < 0,05) как от mс*Стр ≈ 4,82, так и от mп*Т ≈ 6,83; mп*М ≈ 7,13 отличается сильно значимо (0,0005 < p ≈ 0,0035 < 0,005) как от mс*Стр » 4,82, так и от mс*Т ≈ 9,40; различия между mп*Стр ≈ 4,15 и mп*Сев ≈ 5,90 (p » 0,024) или mс*М ≈ 10,38 и mс*Сев ≈ 11,72 (p » 0,016) оцениваются как статистически значимые (0,005 < p < 0,05).
  • Th/U (рис. 2): {п*Сев, с*Т, с*М, п*Т, п*М, }, {с*Т, с*М, п*Т, п*М, с*Сев}, {п*Стр}, {с*Стр}. При этом mс*Сев ≈ 3,38 отличается от mп*Сев ≈ 1,96 слабо значимо (0,05 < p < 0,10), а от mп*Стр ≈ 5,81 - статистически значимо (0,005 < p < 0,05).

Для достоверности полученных результатов параметрического дисперсионного анализа проверено предположение о нормальном распределении сравниваемых групп. На рис. 3 представлено сравнение двух наиболее близких к нормальному закону распределений (гистограмм) U по выборкам с*Сев и п*Т.

Рис. 3. Гистограммы распределений переменной для всех групп с соответствующими кривыми нормального распределения

Согласно χ2-критерию Пирсона только одно распределение (U с*Сев) не значимо (на уровне значимости р ≈ 0,186 > 0,10) отличается от соответствующего теоретического нормального распределения (кривые на рис. 3).

В связи с малыми объемами выборок и нарушением предположения о нормальном распределении сравниваемых выборок СРЕДА*ГОРОД проведен также анализ данных ЭГХИР с использованием непараметрических характеристик (рис. 4). Непараметрические критерии Краскела-Уоллиса и медианный тест были применены в рамках непараметрического однофакторного дисперсионного анализа с категориальной переменной СРЕДА*ГОРОД (с*Стр, с*Сев, с*Т, с*М, п*Стр, п*Сев, п*Т и п*М) из 8 уровней взаимодействия.

Рис. 4. Диаграмма размаха U и Th по средам в разных городах (квадрат – медиана, прямоугольник – квартильный размах, усы – абсолютный размах)

Согласно критерию Краскела-Уоллиса и медианному тесту существуют высоко значимые (p < 0,0005) различия в группах взаимодействий. Это подтверждает результат параметрического дисперсионного анализа о высоко значимой неоднородности распределения U, Th и Th/U по совокупности уровней СРЕДА*ГОРОД. На основе непараметрического аналога метода множественных сравнений для каждого радиоактивного элемента U, Th и Th/U скорректировано выделение однородных групп выборок СРЕДА*ГОРОД. Результаты непараметрических множественных сравнений в целом выглядят более мягкими, размывающими грани однородности групп выборок, и приводят часто к меньшему числу пересекающихся однородных групп:

  • U (рис. 4): {с*Стр, п*Стр}, { п*М, п*Т, п*Сев}, { п*Сев, с*Сев, с*М, с*Т}.
  • Th (рис. 4): {п*Стр, с*Стр, п*Сев, п*Т, п*М}, {п*М, с*Т, с*М}, {с*Т, с*М, с*Сев}.
  • Th/U: {п*Сев, с*Т, с*М}, {с*Т, с*М, п*Т, п*М, с*Сев}, { п*Т, п*М, с*Сев, п*Стр }, {п*Стр, с*Стр}.

Выводы

  1. Средствами дисперсионного анализа (параметрический F-критерий и непараметрический критерий Краскела-Уоллиса) выявлена высокая значимость влияния факторов СРЕДА и ГОРОД на распределения U, Th и их отношений Th/U. Иными словами, распределения U, Th и их отношений Th/U в твердом осадке снега и почвогрунтах разных городов Западной Сибири можно считать значимо неоднородными.
  2. Согласно критерию НЗР для каждого радиоактивного элемента U, Th и их отношения Th/U выделены однородные (различающиеся незначимо) группы выборок СРЕДА*ГОРОД (с*Стр, с*Сев, с*Т, с*М, п*Стр, п*Сев, п*Т и п*М): по 5 групп для U, Th и 4 группы для Th/U.
  3. По χ2-критерию Пирсона только одно распределение (Uс*Сев) не значимо (на уровне значимости р ≈ 0,186 > 0,10) отличается от соответствующего теоретического нормального распределения.
  4. На основе непараметрического метода множественных сравнений для каждого радиоактивного элемента U, Th и их отношения Th/U скорректировано выделение однородных групп выборок СРЕДА*ГОРОД. Результаты непараметрических множественных сравнений в целом выглядят более мягкими, размывающими грани однородности групп выборок и приводящими часто к меньшему числу пересекающихся однородных групп: по 3 группы для U, Th и 4 группы для Th/U.
  5. Получены следующие основные результаты дисперсионного анализа эколого-геохимических измерений радиоактивных элементов по средам в разных городах – на фоне разных уровней значимости различий распределений U, Th и их отношений Th/U по средам и городам выделены:
  • однородность по средам распределений для каждого радиоактивного элемента U, Th и их отношению Th/U в г. Стрежевой (выборки п*Стр и с*Стр), что связано со спецификой нефтегазодобывающего района и отсутствием источников радиоактивных элементов;
  • однородность по остальным городам (Северск, Томск и Междуреченск) распределений для каждого радиоактивного элемента U и Th отдельно в почве (выборки п*Сев, п*Т, п*М) и в снеге (с*Сев, с*Т, с*М), а также их отношения Th/U в снеге (с*Сев, с*Т, с*М). Данные результаты свидетельствуют о радиационном факторе, присутствующем в данных городах. Для городов Томска и Междуреченска это обусловлено наличием теплоэлектростанций и котельных, работающих на угле. Спецификой территории г. Северска является присутствие предприятий как тепловых, так и с ядерно-топливных циклом.

Работа выполнена при поддержке Российского научного фонда.

Рецензенты:

Трифонов А.Ю., д.ф.-м.н., профессор кафедры высшей математики и математической физики, ФГБОУ ВПО «Национальный исследовательский Томский политехнический университет, г. Томск.

Арбузов С.И., д.г.-м.н., профессор кафедры геоэкологии и геохимии, ФГБОУ ВПО «Национальный исследовательский Томский политехнический университет, г. Томск.