All issues
- 2024 Vol. 16
- 2023 Vol. 15
- 2022 Vol. 14
- 2021 Vol. 13
- 2020 Vol. 12
- 2019 Vol. 11
- 2018 Vol. 10
- 2017 Vol. 9
- 2016 Vol. 8
- 2015 Vol. 7
- 2014 Vol. 6
- 2013 Vol. 5
- 2012 Vol. 4
- 2011 Vol. 3
- 2010 Vol. 2
- 2009 Vol. 1
-
Физические исследования и численное моделирование воздействия мощного потока радиоизлучения на нижнюю ионосферу. Часть 1. Краткий обзор состояния вопроса и постановка задачи
Компьютерные исследования и моделирование, 2023, т. 15, № 3, с. 619-637В первой части статьи сформулирована общая цель работы, состоящая в численном исследовании химических, ионизационных, оптических и температурных характеристик нижней ионосферы, возмущенной мощным потоком радиоизлучения. Дан краткий обзор основных экспериментальных и теоретических исследований физических явлений в ионосфере при воздействии на нее потока радиоволн коротковолнового диапазона, генерируемого нагревными стендами различной мощности. Показана определяющая роль $D$-области ионосферы в поглощении энергии радиолуча. Выполнен подробный анализ кинетических процессов в возмущенной $D$-области ионосферы, которая является наиболее сложной в кинетическом отношении. Показано, что для полного описания ионизационно-химических и оптических характеристик возмущенной области необходимо учитывать более 70 компонент, которые по своему основному физическому содержанию удобно разделить на пять групп. Представлена кинетическая модель для описания изменения концентраций взаимодействующих между собой компонентов (общее число реакций — 259). Система кинетических уравнений решалась с помощью специально адаптированного к такого рода задачам полунеявного численного метода. На основе предложенной структуры разработан программный комплекс, в котором схема алгоритма допускала менять как содержимое отдельных блоков программы, так и их количество, что позволило проводить подробные численные исследования отдельных процессов в поведении параметров возмущенной области. Полный численный алгоритм основан на двухтемпературном приближении, в котором главное внимание уделялось расчету электронной температуры, так как на ее поведение определяющее влияние оказывают неупругие кинетические процессы с участием электронов. Постановка задачи носит общий характер и позволяет рассчитывать параметры возмущенной ионосферы в широком диапазоне мощностей и частот радиоизлучения. На основе разработанной численной методики можно исследовать широкий круг явлений как в естественной, так и в возмущенной ионосфере.
Ключевые слова: активные эксперименты, нижняя ионосфера, КВ-радиоволны, нагревные стенды, численное моделирование, температура, кинетика.
Physical research and numerical modeling of the lower ionosphere perturbed by powerful radio emission. Part 1. Brief review and problem statement
Computer Research and Modeling, 2023, v. 15, no. 3, pp. 619-637The main aim, formulated in the first part of article, is to carry out detailed numerical studies of the chemical, ionization, optical, and temperature characteristics of the lower ionosphere perturbed by powerful radio emission. The brief review of the main experimental and theoretical researches of physical phenomena occurring in the ionosphere when it is heated by high-power high-frequency radio waves from heating facilities is given. The decisive role of the $D$-region of the ionosphere in the absorption of radio beam energy is shown. A detailed analysis of kinetic processes in the disturbed $D$-region, which is the most complex in kinetic terms, has been performed. It is shown that for a complete description of the ionization-chemical and optical characteristics of the disturbed region, it is necessary to take into account more than 70 components, which, according to their main physical content, can be conveniently divided into five groups. A kinetic model is presented to describe changes in the concentrations of components interacting (the total number of reactions is 259). The system of kinetic equations was solved using a semi-implicit numerical method specially adapted to such problems. Based on the proposed structure, a software package was developed in which the algorithm scheme allowed changing both the content of individual program blocks and their number, which made it possible to conduct detailed numerical studies of individual processes in the behavior of the parameters of the perturbed region. The complete numerical algorithm is based on the two-temperature approximation, in which the main attention was paid to the calculation of the electron temperature, since its behavior is determined by inelastic kinetic processes involving electrons. The formulation of the problem is of a rather general nature and makes it possible to calculate the parameters of the disturbed ionosphere in a wide range of powers and frequencies of radio emission. Based on the developed numerical technique, it is possible to study a wide range of phenomena both in the natural and disturbed ionosphere.
-
Численное исследование механизмов распространения пульсирующей газовой детонации в неоднородной среде
Компьютерные исследования и моделирование, 2023, т. 15, № 5, с. 1263-1282В последние несколько лет наблюдаются значительные успехи в области создания двигательных установок для летательных аппаратов, основанных на сжигании топлива во вращающейся детонационной волне. В научных лабораторияхпо всему миру проводятся как фундаментальные исследования, связанные, например, с вопросами смесеобразования при раздельной подаче топлива и окислителя, так и прикладные по доводке уже существующих прототипов. В работе приводится краткий обзор основных результатов наиболее значимых недавних расчетных работ по изучению распространения одномерной пульсирующей волны газовой детонации в среде с неравномерным распределением параметров. Отмечаются общие тенденции, которые наблюдали авторы данных работ. В этих работах показано, что наличие возмущений параметров перед фронтом волны может приводить к регуляризации и к резонансному усилению пульсаций параметров за ее фронтом. В результате возникает привлекательная с практической точки зрения возможность влиять на устойчивость детонационной волны и управлять ею. Настоящая работа направлена на создание инструмента, который позволяет изучать газодинамические механизмы данных эффектов.
Математическая модель основана на одномерных уравнениях Эйлера, дополненных одностадийной моделью кинетики химических реакций. Определяющая система уравнений записана в системе координат, связанной с лидирующим скачком, что приводит к необходимости добавить уравнение для скорости лидирующей волны. Предложен способ интегрирования данного уравнения, учитывающий изменение плотности среды перед фронтом волны. Таким образом, предложен вычислительный алгоритм для моделирования распространения детонации в неоднородной среде.
С использованием разработанного алгоритма проведено численное исследование распространения устойчивой детонации в среде с переменной плотностью. Исследован режим с относительно небольшой амплитудой колебаний плотности, при котором колебания параметров за фронтом детонационной волны происходят с частотой колебаний плотности среды. Показана связь периода колебаний параметров со временем прохождения характеристик C+ и C0 по области, которую условно можно считать зоной индукции. Сдвиг по фазе между колебаниями скорости детонационной волны и плотности газа перед волной оценен как максимальное время прохождения характеристики C+ по зоне индукции.
Ключевые слова: математическое моделирование, детонационная волна, уравнения Эйлера, одностадийная химическая кинетика, пульсации, неоднородная среда.
Numerical study of the mechanisms of propagation of pulsating gaseous detonation in a non-uniform medium
Computer Research and Modeling, 2023, v. 15, no. 5, pp. 1263-1282In the last few years, significant progress has been observed in the field of rotating detonation engines for aircrafts. Scientific laboratories around the world conduct both fundamental researches related, for example, to the issues of effective mixing of fuel and oxidizer with the separate supply, and applied development of existing prototypes. The paper provides a brief overview of the main results of the most significant recent computational work on the study of propagation of a onedimensional pulsating gaseous detonation wave in a non-uniform medium. The general trends observed by the authors of these works are noted. In these works, it is shown that the presence of parameter perturbations in front of the wave front can lead to regularization and to resonant amplification of pulsations behind the detonation wave front. Thus, there is an appealing opportunity from a practical point of view to influence the stability of the detonation wave and control it. The aim of the present work is to create an instrument to study the gas-dynamic mechanisms of these effects.
The mathematical model is based on one-dimensional Euler equations supplemented by a one-stage model of the kinetics of chemical reactions. The defining system of equations is written in the shock-attached frame that leads to the need to add a shock-change equations. A method for integrating this equation is proposed, taking into account the change in the density of the medium in front of the wave front. So, the numerical algorithm for the simulation of detonation wave propagation in a non-uniform medium is proposed.
Using the developed algorithm, a numerical study of the propagation of stable detonation in a medium with variable density as carried out. A mode with a relatively small oscillation amplitude is investigated, in which the fluctuations of the parameters behind the detonation wave front occur with the frequency of fluctuations in the density of the medium. It is shown the relationship of the oscillation period with the passage time of the characteristics C+ and C0 over the region, which can be conditionally considered an induction zone. The phase shift between the oscillations of the velocity of the detonation wave and the density of the gas before the wave is estimated as the maximum time of passage of the characteristic C+ through the induction zone.
-
Исследование образования комплекса флаводоксина и фотосистемы 1 методами прямого многочастичного компьютерного моделирования
Компьютерные исследования и моделирование, 2009, т. 1, № 1, с. 85-91С помощью компьютерной модели, основанной на методах многочастичного прямого моделирования и броуновской динамики, изучается кинетика образования комплекса между компонентами фотосинтетической электронтранспортной цепи — белком флаводоксином и мембранным комплексом фотосистемы 1. Моделируется броуновское движение нескольких сотен молекул флаводоксина, учитываются электростатические взаимодействия и сложная форма молекул. С помощью данной модели удалось воспроизвести экспериментальную немонотонную зависимость константы связывания флаводоксина с фотосистемой 1. Это говорит о том, что для описания такого вида зависимости достаточно учета только электростатических взаимодействий.
Investigation of complex formation of flavodoxin and photosystem 1 by means of direct multiparticle computer simulation
Computer Research and Modeling, 2009, v. 1, no. 1, pp. 85-91Views (last year): 4. Citations: 2 (RSCI).Kinetics of complex formation between components of the photosynthetic electron transport chain — flavodoxin and membrane complex photosystem I has been studied using computer model based on methods of multiparticle simulation and Brownian dynamics. We simulated Brownian motion of several hundreds of flavodoxin molecules, taking into account electrostatic interactions and complex shape of the molecules. Our model could describe experimental nonmonotonic dependence of the association rate constant for flavodoxin and photosystem I. This lets us conclude that electrostatic interactions are sufficient to form such kind of nonmonotonic dependence.
-
Математическая модель гидридного фазового перехода в частице порошка симметричной формы
Компьютерные исследования и моделирование, 2012, т. 4, № 3, с. 569-584В статье предложена математическая модель фазового перехода на примере гидрирования/дегидрирования порошка металла. Рассматривается одна частица, форма которой обладает некоторой симметрией. Шар, цилиндр и плоская пластина являются частными случаями симметричных форм. Модель описывает как сценарий «сжимающегося ядра» (формирование слоя новой фазы на поверхности частицы с его последующим утолщением), так и сценарий «образования и роста зародышей», при которых сплошной слой не формируется до полного исчезновения старой фазы. Модель представляет собой неклассическую диффузионную краевую задачу со свободной границей и нелинейными граничными условими III рода. Предположения симметрии позволяют свести задачу к одной пространственной переменной. Модель апробирована на серии экспериментальных данных. Показано, что влияние формы частиц на кинетику несущественно. Также показано, что ансамбль частиц различных форм с распределением по размерам может быть аппроксимирован одной частицей «среднего» размера простой формы, что оправдывает использование в моделях упрощающих предположений.
Ключевые слова: гидрирование, дегидрирование, фазовый переход, математическое моделирование, симметрия формы.
Mathematical model of hydride phase change in a symmetrical powder particle
Computer Research and Modeling, 2012, v. 4, no. 3, pp. 569-584Views (last year): 2. Citations: 2 (RSCI).In the paper we construct the model of phase change. Process of hydriding / dehydriding is taken as an example. A single powder particle is considered under the assumption about its symmetry. A ball, a cylinder, and a flat plate are examples of such symmetrical shapes. The model desribes both the "shrinking core"(when the skin of the new phase appears on the surface of the particle) and the "nucleation and growth"(when the skin does not appear till complete vanishing of the old phase) scenarios. The model is the non-classical boundary-value problem with the free boundary and nonlinear Neumann boundary condition. The symmetry assumptions allow to reduce the problem to the single spatial variable. The model was tested on the series of experimental data. We show that the particle shape’s influence on the kinetics is insignificant. We also show that a set of particles of different shapes with size distribution can be approxomated by the single particle of the "average" size and of a simple shape; this justifies using single particle approximation and simple shapes in mathematical models.
-
Высокопроизводительная идентификация моделей кинетики гидридного фазового перехода
Компьютерные исследования и моделирование, 2020, т. 12, № 1, с. 171-183Гидриды металлов представляют собой интересный класс соединений, способных обратимо связывать большое количество водорода и потому представляющих интерес для приложений энергетики. Особенно важно понимание факторов, влияющих на кинетику формирования и разложения гидридов. Особенности материала, экспериментальной установки и условий влияют на математическое описание процессов, которое может претерпевать существенные изменения в ходе обработки экспериментальных данных. В статье предложен общий подход к численному моделированию формирования и разложения гидридов металлов и решения обратных задач оценки параметров материала по данным измерений. Модели делятся на два класса: диффузионные, принимающие во внимание градиент концентрации водорода в решетке металла, и модели с быстрой диффузией. Первые более сложны и имеют форму неклассических краевых задач параболического типа. Описан подход к сеточному решению таких задач. Вторые решаются сравнительно просто, но могут сильно меняться при изменении модельных предположений. Опыт обработки экспериментальных данных показывает, что необходимо гибкое программное средство, позволяющее, с одной стороны, строить модели из стандартных блоков, свободно изменяя их при необходимости, а с другой — избегать реализации рутинных алгоритмов, причем приспособленное для высокопроизводительных систем различной парадигмы. Этим условиям удовлетворяет представленная в работе библиотека HIMICOS, протестированная на большом числе экспериментальных данных. Она позволяет моделировать кинетику формирования и разложения гидридов металлов (и других соединений) на трех уровнях абстракции. На низком уровне пользователь определяет интерфейсные процедуры, такие как расчет слоя по времени на основании предыдущего слоя или всей предыстории, вычисление наблюдаемой величины и независимой переменной по переменным задачи, сравнение кривой с эталонной. При этом могут использоваться алгоритмы, решающие краевые задачи параболического типа со свободными границами в весьма общей постановке, в том числе с разнообразными квазилинейными (линейными по производной) граничными условиями, а также вычисляющие расстояние между кривыми в различных метрических пространствах и с различной нормировкой. Это средний уровень абстракции. На высоком уровне достаточно выбрать готовую модель для того или иного материала и модифицировать ее применительно к условиям эксперимента.
Ключевые слова: гидриды металлов, моделирование кинетики фазового перехода, численное моделирование химической кинетики.
High-throughput identification of hydride phase-change kinetics models
Computer Research and Modeling, 2020, v. 12, no. 1, pp. 171-183Metal hydrides are an interesting class of chemical compounds that can reversibly bind a large amount of hydrogen and are, therefore, of interest for energy applications. Understanding the factors affecting the kinetics of hydride formation and decomposition is especially important. Features of the material, experimental setup and conditions affect the mathematical description of the processes, which can undergo significant changes during the processing of experimental data. The article proposes a general approach to numerical modeling of the formation and decomposition of metal hydrides and solving inverse problems of estimating material parameters from measurement data. The models are divided into two classes: diffusive ones, that take into account the gradient of hydrogen concentration in the metal lattice, and models with fast diffusion. The former are more complex and take the form of non-classical boundary value problems of parabolic type. A rather general approach to the grid solution of such problems is described. The second ones are solved relatively simply, but can change greatly when model assumptions change. Our experience in processing experimental data shows that a flexible software tool is needed; a tool that allows, on the one hand, building models from standard blocks, freely changing them if necessary, and, on the other hand, avoiding the implementation of routine algorithms. It also should be adapted for high-performance systems of different paradigms. These conditions are satisfied by the HIMICOS library presented in the paper, which has been tested on a large number of experimental data. It allows simulating the kinetics of formation and decomposition of metal hydrides, as well as related tasks, at three levels of abstraction. At the low level, the user defines the interface procedures, such as calculating the time layer based on the previous layer or the entire history, calculating the observed value and the independent variable from the task variables, comparing the curve with the reference. Special algorithms can be used for solving quite general parabolic-type boundary value problems with free boundaries and with various quasilinear (i.e., linear with respect to the derivative only) boundary conditions, as well as calculating the distance between the curves in different metric spaces and with different normalization. This is the middle level of abstraction. At the high level, it is enough to choose a ready tested model for a particular material and modify it in relation to the experimental conditions.
-
Исследование усредненной модели окислительной регенерации закоксованного катализатора
Компьютерные исследования и моделирование, 2021, т. 13, № 1, с. 149-161Статья посвящена построению и исследованию усредненной математической модели окислительной регенерации алюмокобальтмолибденового катализатора гидрокрекинга. Окислительная регенерация является эффективным средством восстановления активности катализатора при покрытии его гранул коксовыми отложениями.
Математическая модель указанного процесса представляет собой нелинейную систему обыкновенных дифференциальных уравнений, в которую включены кинетические уравнения для концентраций реагентов и уравнения для учета изменения температуры зерна катализатора и реакционной смеси в результате протекания неизотермических реакций и теплообмена между газом и слоем катализатора. Вследствие гетерогенности процесса окислительной регенерации часть уравнений отличается от стандартных кинетических и построена на основе эмпирических данных. В статье рассмотрена схема химического взаимодействия в процессе регенерации, на основе которой составлены уравнения материального баланса. В ней отражены непосредственное взаимодействие кокса и кислорода с учетом степени покрытия гранулы кокса углерод-водородным и углерод-кислородным комплексами, выделение монооксида и диоксида углерода в процессе горения, а также освобождение кислорода и водорода внутри зерна катализатора. При построении модели учитывается изменение радиуса, а следовательно, и площади поверхности коксовых гранул. Адекватность разработанной усредненной модели подтверждена анализом динамики концентраций веществ и температуры.
В статье приведен численный эксперимент для математической модели окислительной регенерации алюмокобальтмолибденового катализатора гидрокрекинга. Эксперимент проведен с использованием метода Кутты–Мерсона. Этот метод относится к методам семейства Рунге–Кутты, но разработан для решения жестких систем обыкновенных дифференциальных уравнений. Результаты вычислительного эксперимента визуализированы.
В работе приведена динамика концентраций веществ, участвующих в процессе окислительной регенерации. На основании соответствия полученных результатов физико-химическим законам сделан вывод об адекватности построенной математической модели. Проанализирован разогрев зерна катализатора и выделение монооксида углерода при изменении радиуса зерна для различных степеней начальной закоксованности. Дано описание полученных результатов.
В заключении отмечены основные результаты, приведены примеры задач, для решения которых может быть применена разработанная математическая модель.
Ключевые слова: окислительная регенерация катализатора, химическая кинетика, нелинейные системы обыкновенных дифференциальных уравнений, численный метод Кутты–Мерсона.
Investigation of the averaged model of coked catalyst oxidative regeneration
Computer Research and Modeling, 2021, v. 13, no. 1, pp. 149-161The article is devoted to the construction and investigation of an averaged mathematical model of an aluminum-cobalt-molybdenum hydrocracking catalyst oxidative regeneration. The oxidative regeneration is an effective means of restoring the activity of the catalyst when its granules are coating with coke scurf.
The mathematical model of this process is a nonlinear system of ordinary differential equations, which includes kinetic equations for reagents’ concentrations and equations for changes in the temperature of the catalyst granule and the reaction mixture as a result of isothermal reactions and heat transfer between the gas and the catalyst layer. Due to the heterogeneity of the oxidative regeneration process, some of the equations differ from the standard kinetic ones and are based on empirical data. The article discusses the scheme of chemical interaction in the regeneration process, which the material balance equations are compiled on the basis of. It reflects the direct interaction of coke and oxygen, taking into account the degree of coverage of the coke granule with carbon-hydrogen and carbon-oxygen complexes, the release of carbon monoxide and carbon dioxide during combustion, as well as the release of oxygen and hydrogen inside the catalyst granule. The change of the radius and, consequently, the surface area of coke pellets is taken into account. The adequacy of the developed averaged model is confirmed by an analysis of the dynamics of the concentrations of substances and temperature.
The article presents a numerical experiment for a mathematical model of oxidative regeneration of an aluminum-cobalt-molybdenum hydrocracking catalyst. The experiment was carried out using the Kutta–Merson method. This method belongs to the methods of the Runge–Kutta family, but is designed to solve stiff systems of ordinary differential equations. The results of a computational experiment are visualized.
The paper presents the dynamics of the concentrations of substances involved in the oxidative regeneration process. A conclusion on the adequacy of the constructed mathematical model is drawn on the basis of the correspondence of the obtained results to physicochemical laws. The heating of the catalyst granule and the release of carbon monoxide with a change in the radius of the granule for various degrees of initial coking are analyzed. There are a description of the results.
In conclusion, the main results and examples of problems which can be solved using the developed mathematical model are noted.
-
Физический анализ и математическое моделирование параметров области взрыва, произведенного в разреженной ионосфере
Компьютерные исследования и моделирование, 2022, т. 14, № 4, с. 817-833В работе выполнен физический и численный анализ динамики и излучения продуктов взрыва, образующихся при проведении российско-американского эксперимента в ионосфере с использованием взрывного генератора на основе гексогена и тротила. Основное внимание уделяется анализу взаимосвязи излучения возмущенной области с динамикой процессов взрывчатого вещества и плазменной струи на поздней стадии. Проанализирован подробный химический состав продуктов взрыва и определены начальные концентрации наиболее важных молекул, способных излучать в инфракрасном диапазоне спектра, и приведены их излучательные константы. Определены начальная температура продуктов взрыва и показатель адиабаты. Проанализирован характер взаимопроникновения атомов и молекул сильно разреженной ионосферы в сферически расширяющееся облако продуктов. Разработана приближенная математическая модель динамики продуктов взрыва в условиях подмешивания к ним разреженного воздуха ионосферы и рассчитаны основные термодинамические характеристики системы. Показано, что на время 0,3–3 с происходит существенное повышение температуры разлетающейся смеси в результате ее торможения. Для анализа и сравнения на основе лагранжевого подхода разработан численный алгоритм решения двухобластной газодинамической задачи, в которой продукты взрыва и фоновый газ разделены контактной границей. Требовалось выполнение специальных условий на контактной границе при ее движении в покоящемся газе. В данном случае существуют определенные трудности в описании параметров продуктов взрыва вблизи контактной границы, что связано с большим различием в размерах массовых ячеек продуктов взрыва и фона из-за перепада плотности на 13 порядков. Для сокращения времени расчета данной задачи в области продуктов взрыва применялась неравномерная расчетная сетка. Расчеты выполнялись с различными показателями адиабаты. Получены результаты, наиболее важным из которых является температура, хорошо согласуется с результатами, полученными по методике, приближенно учитывающей взаимопроникновение. Получено поведение во времени коэффициентов излучения ИК-активных молекул в широком диапазоне спектра. Данное поведение качественно согласуется с экспериментами по ИК-свечению разлетающихся продуктов взрыва.
Ключевые слова: ионосфера, численное моделирование, активный геофизический эксперимент, взрывной генератор, высокоскоростная плазменная струя, инфракрасное излучение, плазма, ионизация, околоземное пространство, кинетика.
Physical analysis and mathematical modeling of the parameters of explosion region produced in a rarefied ionosphere
Computer Research and Modeling, 2022, v. 14, no. 4, pp. 817-833The paper presents a physical and numerical analysis of the dynamics and radiation of explosion products formed during the Russian-American experiment in the ionosphere using an explosive generator based on hexogen (RDX) and trinitrotoluene (TNT). The main attention is paid to the radiation of the perturbed region and the dynamics of the products of explosion (PE). The detailed chemical composition of the explosion products is analyzed and the initial concentrations of the most important molecules capable of emitting in the infrared range of the spectrum are determined, and their radiative constants are given. The initial temperature of the explosion products and the adiabatic exponent are determined. The nature of the interpenetration of atoms and molecules of a highly rarefied ionosphere into a spherically expanding cloud of products is analyzed. An approximate mathematical model of the dynamics of explosion products under conditions of mixing rarefied ionospheric air with them has been developed and the main thermodynamic characteristics of the system have been calculated. It is shown that for a time of 0,3–3 sec there is a significant increase in the temperature of the scattering mixture as a result of its deceleration. In the problem under consideration the explosion products and the background gas are separated by a contact boundary. To solve this two-region gas dynamic problem a numerical algorithm based on the Lagrangian approach was developed. It was necessary to fulfill special conditions at the contact boundary during its movement in a stationary gas. In this case there are certain difficulties in describing the parameters of the explosion products near the contact boundary which is associated with a large difference in the size of the mass cells of the explosion products and the background due to a density difference of 13 orders of magnitude. To reduce the calculation time of this problem an irregular calculation grid was used in the area of explosion products. Calculations were performed with different adiabatic exponents. The most important result is temperature. It is in good agreement with the results obtained by the method that approximately takes into account interpenetration. The time behavior of the IR emission coefficients of active molecules in a wide range of the spectrum is obtained. This behavior is qualitatively consistent with experiments for the IR glow of flying explosion products.
-
Кинетическая модель репарации двунитевых разрывов ДНК в первичных фибробластах человека при действии редкоионизирующего излучения с различной мощностью дозы
Компьютерные исследования и моделирование, 2015, т. 7, № 1, с. 159-176В настоящей работе представлены результаты кинетического моделирования индукции и репарации двунитевых разрывов ДНК, а также формирования скоплений (фокусов) фосфорилированного гистона H2AX ($\gamma$-H2AX) и белка Rad 51 в местах образования двунитевых разрывов, индуцированных воздействием редкоионизирующего излучения с различной мощностью и продолжительностью, в первичных фибробластах человека. Модель описывает основные механизмы репарации двунитевых разрывов: НГСК (негомологичное соединение концов) и ГР (гомологическая рекомбинация) и учитывает взаимодействия ряда белков (ДНК-ПКкс, ATM, Ku70/80, XRCC1, XRCC4, Rad51, ФРА и др.), участвующих в репарации двунитевых разрывов ДНК, на основе закона действующих масс и кинетики Михаэлиса-Ментен. Для тренировки и подтверждения статистической достоверности модели были использованы литературные данные по кинетике репарации двунитевых разрывов, а также данные по кинетике формирования и деградации фокусов белков репарации $\gamma$-H2AX и Rad51 в местах репарации двунитевых разрывов ДНК после облучения с различной мощностью дозы, полученные ранее нашим коллективом.
Ключевые слова: двунитевые разрывы ДНК, репарация ДНК, кинетическое моделирование, редкоионизирующее излучение, мощность дозы излучения.
Kinetic model of DNA double-strand break repair in primary human fibroblasts exposed to low-LET irradiation with various dose rates
Computer Research and Modeling, 2015, v. 7, no. 1, pp. 159-176Views (last year): 4. Citations: 3 (RSCI).Here we demonstrate the results of kinetic modeilng of DNA double-strand breaks induction and repair and phosphorilated histone H2AX ($\gamma$-H2AX) and Rad51 foci formation in primary human fibroblasts exposed to low-LET ionizing radiation (IR). The model describes two major paths of DNA double-strand breaks repair: non-homologous end joining (NHEJ) and homologous recombination (HR) and considers interactions between DNA and several repair proteins (DNA-PKcs, ATM, Ku70/80, XRCC1, XRCC4, Rad51, RPA, etc.) using mass action equations and Michaelis–Menten kinetics. Experimental data on DNA rejoining kinetics and $\gamma$-H2AX and Rad51 foci formation in vicinity of double strand breaks in primary human fibroblasts exposed to low-LET IR with various dose rates and exposure times was utilized for training and statistical validation of the model.
-
Анализ неустойчивости системы «хищник–жертва», вызванной таксисом, на примере модели сообщества планктона
Компьютерные исследования и моделирование, 2020, т. 12, № 1, с. 185-199В работе представлена модель типа «хищник–жертва», описывающая пространственно-временную динамику планктонного сообщества с учетом биогенных элементов. Система описывается уравнениями типа «реакция–диффузия–адвекция» в одномерной области, соответствующей вертикальному столбу воды в поверхностном слое. Адвективный член уравнения хищника описывает вертикальные перемещения зоопланктона в направлении градиента фитопланктона. Исследование посвящено определению условий возникновения пространственно-неоднородных структур, генерируемых системой под воздействием этих перемещений (таксиса). В предположении равных коэффициентов диффузии всех компонент модели анализируется неустойчивость системы в окрестности гомогенного равновесия к малым пространственно-неоднородным возмущениям.
В результате линейного анализа получены условия для возникновения неустойчивости Тьюринга и волновой неустойчивости. Определено, что соотношения между параметрами локальной кинетики системы определяют возможность потери устойчивости системой и тип неустойчивости. В качестве бифуркационного параметра в исследовании рассматривается скорость таксиса. Показано, что при малых значениях этого параметра система устойчива, а начиная с некоторого критического значения устойчивость может теряться, и система способна генерировать либо стационарные пространственно-неоднородные структуры, либо структуры, неоднородные и по времени, и по пространству. Полученные результаты согласуются с ранними исследованиями подобных двухкомпонентных моделей.
В работе получен интересный результат, указывающий, что бесконечное увеличение скорости таксиса не будет существенно менять вид этих структур. Выявлено, что существует предел величины волнового числа, соответствующего самой неустойчивой моде. Это значение и определяет вид пространственной структуры. В подтверждение полученных результатов в работе приведены варианты пространственно-временной динамики компонент модели в случае неустойчивости Тьюринга и волновой неустойчивости.
Ключевые слова: пространственно-распределенная модель, неустойчивость Тьюринга, волновая неустойчивость, планктонное сообщество, трофотаксис.
Analysis of taxis-driven instability of a predator–prey system through the plankton community model
Computer Research and Modeling, 2020, v. 12, no. 1, pp. 185-199The paper deals with a prey-predator model, which describes the spatiotemporal dynamics of plankton community and the nutrients. The system is described by reaction-diffusion-advection equations in a onedimensional vertical column of water in the surface layer. Advective term of the predator equation represents the vertical movements of zooplankton with velocity, which is assumed to be proportional to the gradient of phytoplankton density. This study aimed to determine the conditions under which these movements (taxis) lead to the spatially heterogeneous structures generated by the system. Assuming diffusion coefficients of all model components to be equal the instability of the system in the vicinity of stationary homogeneous state with respect to small inhomogeneous perturbations is analyzed.
Necessary conditions for the flow-induced instability were obtained through linear stability analysis. Depending on the local kinetics parameters, increasing the taxis rate leads to Turing or wave instability. This fact is in good agreement with conditions for the emergence of spatial and spatiotemporal patterns in a minimal phytoplankton–zooplankton model after flow-induced instabilities derived by other authors. This mechanism of generating patchiness is more general than the Turing mechanism, which depends on strong conditions on the diffusion coefficients.
While the taxis exceeding a certain critical value, the wave number corresponding to the fastest growing mode remains unchanged. This value determines the type of spatial structure. In support of obtained results, the paper presents the spatiotemporal dynamics of the model components demonstrating Turing-type pattern and standing wave pattern.
-
Анализ идентифицируемости математической модели пиролиза пропана
Компьютерные исследования и моделирование, 2021, т. 13, № 5, с. 1045-1057Работа посвящена численному моделированию и исследованию кинетической модели пиролиза пропана. Изучение кинетики реакций является необходимой стадией моделирования динамики газового потока в реакторе.
Кинетическая модель представляет собой нелинейную систему обыкновенных дифференциальных уравнений первого порядка с параметрами, роль которых играют константы скоростей стадий. Математическое моделирование процесса основано на использовании закона сохранения масс. Для решения исходной (прямой) задачи используется неявный метод решения жестких систем обыкновенных дифференциальных уравнений. Модель содержит 60 входных кинетических параметров и 17 выходных параметров, соответствующих веществам реакции, из которых наблюдаемыми являются только 9. В процессе решения задачи по оценке параметров (обратная задача) возникает вопрос неединственности набора параметров, удовлетворяющего имеющимся экспериментальным данным. Поэтому перед решением обратной задачи проводится оценка возможности определения параметров модели — анализ идентифицируемости.
Для анализа идентифицируемости мы используем ортогональный метод, который хорошо себя зарекомендовал для анализа моделей с большим числом параметров. Основу алгоритма составляет анализ матрицы чувствительно- сти методами дифференциальной и линейной алгебры, показывающей степень зависимости неизвестных параметров моделей от заданных измерений. Анализ чувствительности и идентифицируемости показал, что параметры модели устойчиво определяются по заданному набору экспериментальных данных. В статье представлен список параметров модели от наиболее идентифицируемого до наименее идентифицируемого. Учитывая анализ идентифицируемости математической модели, были введены более жесткие ограничения на поиск слабоидентифицируемых параметров при решении обратной задачи.
Обратная задача по оценке параметров была решена с использованием генетического алгоритма. В статье представлены найденные оптимальные значения кинетических параметров. Представлено сравнение экспериментальных и расчетных зависимостей концентраций пропана, основных и побочных продуктов реакции от температуры для разных расходов смеси. На основании соответствия полученных результатов физико-химическим законам и экспериментальным данным сделан вывод об адекватности построенной математической модели.
Ключевые слова: пиролиз пропана, математическая модель, химическая кинетика, анализ чувствительности, анализ идентифицируемости.
Analysis of the identifiability of the mathematical model of propane pyrolysis
Computer Research and Modeling, 2021, v. 13, no. 5, pp. 1045-1057The article presents the numerical modeling and study of the kinetic model of propane pyrolysis. The study of the reaction kinetics is a necessary stage in modeling the dynamics of the gas flow in the reactor.
The kinetic model of propane pyrolysis is a nonlinear system of ordinary differential equations of the first order with parameters, the role of which is played by the reaction rate constants. Math modeling of processes is based on the use of the mass conservation law. To solve an initial (forward) problem, implicit methods for solving stiff ordinary differential equation systems are used. The model contains 60 input kinetic parameters and 17 output parameters corresponding to the reaction substances, of which only 9 are observable. In the process of solving the problem of estimating parameters (inverse problem), there is a question of non-uniqueness of the set of parameters that satisfy the experimental data. Therefore, before solving the inverse problem, the possibility of determining the parameters of the model is analyzed (analysis of identifiability).
To analyze identifiability, we use the orthogonal method, which has proven itself well for analyzing models with a large number of parameters. The algorithm is based on the analysis of the sensitivity matrix by the methods of differential and linear algebra, which shows the degree of dependence of the unknown parameters of the models on the given measurements. The analysis of sensitivity and identifiability showed that the parameters of the model are stably determined from a given set of experimental data. The article presents a list of model parameters from most to least identifiable. Taking into account the analysis of the identifiability of the mathematical model, restrictions were introduced on the search for less identifiable parameters when solving the inverse problem.
The inverse problem of estimating the parameters was solved using a genetic algorithm. The article presents the found optimal values of the kinetic parameters. A comparison of the experimental and calculated dependences of the concentrations of propane, main and by-products of the reaction on temperature for different flow rates of the mixture is presented. The conclusion about the adequacy of the constructed mathematical model is made on the basis of the correspondence of the results obtained to physicochemical laws and experimental data.
Indexed in Scopus
Full-text version of the journal is also available on the web site of the scientific electronic library eLIBRARY.RU
The journal is included in the Russian Science Citation Index
The journal is included in the RSCI
International Interdisciplinary Conference "Mathematics. Computing. Education"