Scientific journal
Modern problems of science and education
ISSN 2070-7428
"Перечень" ВАК
ИФ РИНЦ = 0,813

MATHEMATICAL MODEL CRYODESTRUCTION OF BIOLOGICAL TISSUE

Kaygermazov A.A. 1 Kudaeva F.Kh. 1 Karmokov M.M. 1 Mambetov M.Zh. 1 Dolova M.Kh. 2
1 Kabardino-Balkaria State University H.M. Berbekov
2 Nalchik City clinical hospital №1
Работа посвящена исследованию задачи со свободными границами для нелинейного эволюционного уравнения, возникающей при математическом моделировании проблем криохирургии. В работе рассмотрена задача криодеструкции, когда присутствует замороженная область биологической ткани. Для решения задачи в предлагаемой работе применяются методы нелинейных интегральных, интегро-дифференциальных уравнений, метод Ротэ, метод эквивалентной линеаризации, а также проведена конечномерная аппроксимация. Исследуемая задача с помощью функции Грина и формулы Грина на каждом временном слое сведена к нелинейному интегральному уравнению Вольтерра и уравнению для определения свободной границы, которые с помощью конечномерной аппроксимации сведены к системе нелинейных алгебраических уравнений. В работе получены точное аналитическое решение стационарной задачи, а также приближенное решение нестационарной задачи. Полученное точное аналитическое решение соответствующей стационарной задачи позволяет определить очень важные для хирурга максимальные размеры замораживания, криопоражения и теплового возмущения, а также полученные в работе результаты можно использовать при конструировании и совершенствовании криоинструментов.
The research deals with problems with free boundaries for nonlinear evolution equations arising in mathematical modeling of problems of cryosurgery. In the paper we consider the problem of hypothermia, when there is no frozen biological tissue. To solve the problem in the present work we apply methods of nonlinear integral and integro-differential equations, the Rote method, the method of equivalent linearization and finite-dimensional approximation. Studied the problem using the green´s function and green´s formula on each temporal layer is reduced to a nonlinear integral equation of Volterra and the equation to determine the free boundary, which by means of a nite-dimensional approximation is reduced to a system of nonlinear algebraic equations.In this paper we obtain an exact analytical solution of the stationary problem and the approximate solution of a nonstationary problem. The obtained exact analytical solution of the corresponding stationary problem, allows to determine very important for the surgeon the maximum dimensions of freezing, and croporate thermal perturbations and obtained results can be used in the design and improvement of cryo-instruments.
the initial-boundary value problem
a one-dimensional problem
the condition of the pairing
the differential equation
the problem with free boundaries
cryotherapy
hypothermia
temperature field

В работе проводится исследование краевой задачи со свободными границами, описывающей динамику температурного поля при деструкции тканей плоскопараллельными аппликаторами. Рассмотрена задача криодеструкции, когда присутствует замороженная область и определению подлежат функция , и неизвестные границы . Для решения задачи в работе применяются методы нелинейных интегральных, интегро-дифференциальных уравнений, метод Ротэ, метод эквивалентной линеаризации, а также проведена конечномерная аппроксимация.

Получено точное аналитическое решение соответствующей стационарной задачи, которое определяет очень важные для хирурга максимальные размеры замораживания, криопоражения и теплового возмущения.

Конечномерной аппроксимацией решение полученной системы сведено к решению системы нелинейных алгебраических уравнений.

1. Постановка задачи

В различных областях медицины при деструкции тканей применяются достаточно протяженные плоские аппликаторы. Определение динамики температурного поля в этом случае сводится к решению следующей задачи со свободными границами для нелинейных эволюционных уравнений [1, 2, 6]:

(1)

(2)

(3)

В задаче (1)–(3) искомыми являются температурное поле и границы остальные параметры и функции известные, .

Аналитическое решение стационарной задачи (1)–(3) имеет вид [6]:

(4)

где

(5)

2. Задача криодеструкции биологической ткани

Если , то при будет возникать замороженная область биоткани . В этом случае метод Ротэ для задачи (1)–(3) приводит к системе краевых задач со свободными границами и :

(6)

(7)

. (8)

С помощью функций Грина и

(9)

определяемые как решение краевых задач:

(10)

В (9)

(11)

.

С помощью функций Грина (9) и формул Грина [3, 4]:

; (12)

(6)–(8) сводится к решению нелинейного интегрального уравнения типа Гаммерштейна, системе двух нелинейных уравнений относительно и и квадратуре:

(13)

(14)

Конечномерная аппроксимация уравнений (13), (14) позволяет свести задачу к нелинейной алгебре относительно узловых значений и чисел и .

Так как задача не содержит явно времени , то с определенной погрешностью в качестве ее приближенного решения можно принять:

(15)

где — решение задачи Коши:

(16)

Конечномерная аппроксимация квадратуры (14) и замена уравнений (16) разностными в данном случае приводят к системе нелинейных уравнений относительно узловых значений и чисел и :

(17)

где

(18)

Приближенное решение задачи (1)–(2) будем искать в виде соответствующего стационарного решения, считая и :

(19)

.

Краевые условия при выполняются автоматически. Дифференциальные уравнения и краевые условия удовлетворимы в смысле общих тепловых балансов с учетом условия сопряжения [4, 5]:

(20)

Полагая , после вычисления производных и интегралов для определения и приходим к задаче Коши:

(21)

Заменяя производные конечными разностями, получаем систему нелинейных уравнений относительно и на данном временном слое:

Приведенные алгоритмы получения приближенных решений реализованы на ЭВМ. Результаты численных расчетов сведены в таблицы.

1

1

2

2

2

3

2

3

1.89

2.05

1.50

1.66

3.08

3.24

2.12

2.30

1

1

2

2

2

3

2

3

2.48

2.64

1.91

2.08

3.71

3.87

2.33

2.72

Рецензенты:

Шхануков-Лафишев М.Х., д.ф.-м.н., профессор, ФГБУН Институт информатики и проблем регионального управления Кабардино-Балкарского научного центра РАН, г. Нальчик;

Ашабоков Б.А., д.ф.-м.н., профессор Высокогорного Геофизического Институт, г. Нальчик.