All issues
- 2024 Vol. 16
- 2023 Vol. 15
- 2022 Vol. 14
- 2021 Vol. 13
- 2020 Vol. 12
- 2019 Vol. 11
- 2018 Vol. 10
- 2017 Vol. 9
- 2016 Vol. 8
- 2015 Vol. 7
- 2014 Vol. 6
- 2013 Vol. 5
- 2012 Vol. 4
- 2011 Vol. 3
- 2010 Vol. 2
- 2009 Vol. 1
-
Вычислительный алгоритм решения нелинейной краевой задачи водородопроницаемости с динамическими граничными условиями и концентрационно-зависимым коэффициентом диффузии
Компьютерные исследования и моделирование, 2024, т. 16, № 5, с. 1179-1193Рассматривается нелинейная краевая задача водородопроницаемости, соответствующая следующему эксперименту. Нагретая до достаточно высокой температуры мембрана из исследуемого конструкционного материала служит перегородкой вакуумной камеры. После предварительного вакуумирования и практически полной дегазации на входной стороне создается постоянное давление газообразного (молекулярного) водорода. С выходной стороны в условиях вакуумирования с помощью масс-спектрометра определяется проникающий поток.
Принята линейная модель зависимости коэффициента диффузии растворенного атомарного водорода в объеме от концентрации, температурная зависимость в соответствии с законом Аррениуса. Поверхностные процессы растворения и сорбции-десорбции учтены в форме нелинейных динамических краевых условий (дифференциальные уравнения динамики поверхностных концентраций атомарного водорода). Математическая особенность краевой задачи состоит в том, что производные по времени от концентраций входят как в уравнение диффузии, так и в граничные условия с квадратичной нелинейностью. В терминах общей теории функционально-дифференциальных уравнений это приводит к так называемым уравнениям нейтрального типа и требует разработки более сложного математического аппарата. Представлен итерационный вычислительный алгоритм второго (повышенного) порядка точности решения соответствующей нелинейной краевой задачи на основе явно-неявных разностных схем. Явная составляющая применяется к более медленным подпроцессам, что позволяет на каждом шаге избегать решения нелинейной системы уравнений.
Приведены результаты численного моделирования, подтверждающие адекватность модели экспериментальным данным. Определены степени влияния вариаций параметров водородопроницаемости («производные») на проникающий поток и распределение концентрации атомов H по толщине образца, что важно, в частности, для задач проектирования защитных конструкций от водородного охрупчивания и мембранных технологий получения особо чистого водорода. Вычислительный алгоритм позволяет использовать модель и при анализе экстремальных режимов для конструкционных материалов (перепады давления, высокие температуры, нестационарный нагрев), выявлять лимитирующие факторы при конкретных условиях эксплуатации и экономить на дорогостоящих экспериментах (особенно это касается дейтерий-тритиевых исследований).
Ключевые слова: водородопроницаемость, поверхностные процессы, численное моделирование, нелинейные краевые задачи, разностные схемы.
Computational algorithm for solving the nonlinear boundary-value problem of hydrogen permeability with dynamic boundary conditions and concentration-dependent diffusion coefficient
Computer Research and Modeling, 2024, v. 16, no. 5, pp. 1179-1193The article deals with the nonlinear boundary-value problem of hydrogen permeability corresponding to the following experiment. A membrane made of the target structural material heated to a sufficiently high temperature serves as the partition in the vacuum chamber. Degassing is performed in advance. A constant pressure of gaseous (molecular) hydrogen is built up at the inlet side. The penetrating flux is determined by mass-spectrometry in the vacuum maintained at the outlet side.
A linear model of dependence on concentration is adopted for the coefficient of dissolved atomic hydrogen diffusion in the bulk. The temperature dependence conforms to the Arrhenius law. The surface processes of dissolution and sorptiondesorption are taken into account in the form of nonlinear dynamic boundary conditions (differential equations for the dynamics of surface concentrations of atomic hydrogen). The characteristic mathematical feature of the boundary-value problem is that concentration time derivatives are included both in the diffusion equation and in the boundary conditions with quadratic nonlinearity. In terms of the general theory of functional differential equations, this leads to the so-called neutral type equations and requires a more complex mathematical apparatus. An iterative computational algorithm of second-(higher- )order accuracy is suggested for solving the corresponding nonlinear boundary-value problem based on explicit-implicit difference schemes. To avoid solving the nonlinear system of equations at every time step, we apply the explicit component of difference scheme to slower sub-processes.
The results of numerical modeling are presented to confirm the fitness of the model to experimental data. The degrees of impact of variations in hydrogen permeability parameters (“derivatives”) on the penetrating flux and the concentration distribution of H atoms through the sample thickness are determined. This knowledge is important, in particular, when designing protective structures against hydrogen embrittlement or membrane technologies for producing high-purity hydrogen. The computational algorithm enables using the model in the analysis of extreme regimes for structural materials (pressure drops, high temperatures, unsteady heating), identifying the limiting factors under specific operating conditions, and saving on costly experiments (especially in deuterium-tritium investigations).
-
Математическая модель гидридного фазового перехода в частице порошка симметричной формы
Компьютерные исследования и моделирование, 2012, т. 4, № 3, с. 569-584В статье предложена математическая модель фазового перехода на примере гидрирования/дегидрирования порошка металла. Рассматривается одна частица, форма которой обладает некоторой симметрией. Шар, цилиндр и плоская пластина являются частными случаями симметричных форм. Модель описывает как сценарий «сжимающегося ядра» (формирование слоя новой фазы на поверхности частицы с его последующим утолщением), так и сценарий «образования и роста зародышей», при которых сплошной слой не формируется до полного исчезновения старой фазы. Модель представляет собой неклассическую диффузионную краевую задачу со свободной границей и нелинейными граничными условими III рода. Предположения симметрии позволяют свести задачу к одной пространственной переменной. Модель апробирована на серии экспериментальных данных. Показано, что влияние формы частиц на кинетику несущественно. Также показано, что ансамбль частиц различных форм с распределением по размерам может быть аппроксимирован одной частицей «среднего» размера простой формы, что оправдывает использование в моделях упрощающих предположений.
Ключевые слова: гидрирование, дегидрирование, фазовый переход, математическое моделирование, симметрия формы.
Mathematical model of hydride phase change in a symmetrical powder particle
Computer Research and Modeling, 2012, v. 4, no. 3, pp. 569-584Views (last year): 2. Citations: 2 (RSCI).In the paper we construct the model of phase change. Process of hydriding / dehydriding is taken as an example. A single powder particle is considered under the assumption about its symmetry. A ball, a cylinder, and a flat plate are examples of such symmetrical shapes. The model desribes both the "shrinking core"(when the skin of the new phase appears on the surface of the particle) and the "nucleation and growth"(when the skin does not appear till complete vanishing of the old phase) scenarios. The model is the non-classical boundary-value problem with the free boundary and nonlinear Neumann boundary condition. The symmetry assumptions allow to reduce the problem to the single spatial variable. The model was tested on the series of experimental data. We show that the particle shape’s influence on the kinetics is insignificant. We also show that a set of particles of different shapes with size distribution can be approxomated by the single particle of the "average" size and of a simple shape; this justifies using single particle approximation and simple shapes in mathematical models.
-
Моделирование водородопроницаемости сплавов для мембранного газоразделения
Компьютерные исследования и моделирование, 2016, т. 8, № 1, с. 121-135Производство высокочистого водорода необходимо для экологически чистой энергетики и различных химико-технологических процессов. Значительная часть водорода будет производиться за счет конверсии метана. Методом измерения удельной водородопроницаемости исследуются различные сплавы, перспективные для использования в газоразделительных установках. Требуется оценить параметры диффузии и сорбции, чтобы иметь возможность численно моделировать различные сценарии и условия эксплуатации материала (включая экстремальные), выделять лимитирующие факторы. В статье представлены нелинейная модель водородопроницаемости в соответствии со спецификой эксперимента, численный метод решения краевой задачи и результаты параметрической идентификации модели для сплава V85Ni15.
Ключевые слова: взаимодействие водорода с твердым телом, поверхностные процессы, нелинейные краевые задачи, численное моделирование.
Modeling of H2-permeability of alloys for gas separation membranes
Computer Research and Modeling, 2016, v. 8, no. 1, pp. 121-135Views (last year): 1. Citations: 7 (RSCI).High-purity hydrogen is required for clean energy and a variety of chemical technology processes. A considerable part of hydrogen is to be obtained by methane conversion. Different alloys, which may be wellsuited for use in gas-separation plants, were investigated by measuring specific hydrogen permeability. One had to estimate the parameters of diffusion and sorption to numerically model the different scenarios and experimental conditions of the material usage (including extreme ones), and identify the limiting factors. This paper presents a nonlinear model of hydrogen permeability in accordance with the specifics of the experiment, the numerical method for solving the boundary-value problem, and the results of parametric identification for the alloy V85Ni15.
-
Моделирование взаимодействия стенки канала с упругозакрепленным торцевым уплотнением
Компьютерные исследования и моделирование, 2020, т. 12, № 2, с. 387-400В работе предложена новая математическая модель для исследования динамики взаимодействия продольной стенки узкого канала с его торцевым уплотнением — торцевой стенкой, имеющей упругое закрепление. В рамках данной модели взаимодействие указанных стенок происходит через слой вязкой жидкости, заполняющей канал, и ранее не исследовалось. Это потребовало постановки и решения задачи гидроупругости. Поставленная задача состоит из уравнений Навье–Стокса, уравнения неразрывности, уравнения динамики торцевой стенки как одномассовой модели и соответствующих краевых условий. На первом этапе задача исследована при ползучем течении. На втором этапе исследования данное ограничение снимается и, при использовании метода итераций, осуществлено обобщение исходной задачи с учетом инерции движения жидкости. Решение сформулированной задачи позволило определить законы распределения скоростей и давления в слое жидкости, а также закон движения торцевой стенки. Показано, что при ползучем течении физические свойства слоя жидкости и геометрические размеры канала полностью определяют демпфирование в рассматриваемой колебательной системе. При этом на демпфирующие свойства слоя жидкости оказывает влияние как скорость движения торцевой стенки, так и скорость движения продольной стенки. Найдены выражения для коэффициентов демпфирования слоя жидкости в продольном и поперечном направлении. При учете сил инерции жидкости выявлено их влияние на колебания торцевой стенки, проявляющиеся в виде двух присоединенных масс в уравнении ее движения. Определены выражения для указанных присоединенных масс. Для режима установившихся гармонических колебаний построены амплитудно-частотные и фазово-частотные характеристики торцевой стенки, учитывающие демпфирующие и инерционные свойства слоя вязкой жидкости в канале. Моделирование показало, что совместный учет инерции движения слоя жидкости в канале и его демпфирующих свойств приводит к сдвигу резонансных частот колебаний в низкочастотную область и возрастанию амплитуд колебаний торцевой стенки.
Ключевые слова: гидроупругие колебания, торцевая стенка, вязкая жидкость, сильфон, частотные характеристики.
Modeling of a channel wall interaction with an end seal flexibly restrained at the edge
Computer Research and Modeling, 2020, v. 12, no. 2, pp. 387-400The paper proposes a new mathematical model to study the interaction dynamics of the longitudinal wall of a narrow channel with its end seal. The end seal was considered as the edge wall on a spring, i.e. spring-mass system. These walls interaction occurs via a viscous liquid filling the narrow channel; thus required the formulation and solution of the hydroelasticity problem. However, this problem has not been previously studied. The problem consists of the Navier–Stokes equations, the continuity equation, the edge wall dynamics equation, and the corresponding boundary conditions. Two cases of fluid motion in a narrow channel with parallel walls were studied. In the first case, we assumed the liquid motion as the creeping one, and in the second case as the laminar, taking into account the motion inertia. The hydroelasticty problem solution made it possible to determine the distribution laws of velocities and pressure in the liquid layer, as well as the motion law of the edge wall. It is shown that during creeping flow, the liquid physical properties and the channel geometric dimensions completely determine the damping in the considered oscillatory system. Both the end wall velocity and the longitudinal wall velocity affect the damping properties of the liquid layer. If the fluid motion inertia forces were taken into account, their influence on the edge wall vibrations was revealed, which manifested itself in the form of two added masses in the equation of its motion. The added masses and damping coefficients of the liquid layer due to the joint consideration of the liquid layer inertia and its viscosity were determined. The frequency and phase responses of the edge wall were constructed for the regime of steady-state harmonic oscillations. The simulation showed that taking into account the fluid layer inertia and its damping properties leads to a shift in the resonant frequencies to the low-frequency region and an increase in the oscillation amplitudes of the edge wall.
-
Сравнительный анализ моделей Дарси и Бринкмана при исследовании нестационарных режимов сопряженной естественной конвекции в пористой цилиндрической области
Компьютерные исследования и моделирование, 2013, т. 5, № 4, с. 623-634Проведен сравнительный анализ двух моделей пористой среды (Дарси и Бринкмана) на примере математического моделирования нестационарных режимов термогравитационной конвекции в пористой вертикальной цилиндрической полости с теплопроводной оболочкой конечной толщины в условиях конвективного охлаждения со стороны окружающей среды. Краевая задача математической физики, сформулированная в безразмерных переменных «функция тока — завихренность — температура», реализована численно неявным методом конечных разностей. Представлены результаты тестовых расчетов и влияния сеточных параметров, отражающие правомерность применения предлагаемого численного подхода. Установлены особенности класса сопряженных задач при использовании рассматриваемых моделей пористой среды.
Ключевые слова: сопряженный теплоперенос, термогравитационная конвекция, приближения Дарси–Буссинеска и Бринкмана–Буссинеска, пористая вертикальная цилиндрическая полость, нестационарный режим, численное моделирование.
Comparative analysis of Darcy and Brinkman models at studying of transient conjugate natural convection in a porous cylindrical cavity
Computer Research and Modeling, 2013, v. 5, no. 4, pp. 623-634Views (last year): 1. Citations: 4 (RSCI).Comparative analysis of two models of porous medium (Dacry and Brinkman) on an example of mathematical simulation of transient natural convection in a porous vertical cylindrical cavity with heat-conducting shell of finite thickness in conditions of convective cooling from an environment has been carried out. The boundary-value problem of mathematical physics formulated in dimensionless variables such as stream function, vorticity and temperature has been solved by implicit finite difference method. The presented verification results validate used numerical approach and also confirm that the solution is not dependent on the mesh size. Features of the conjugate heat transfer problems with considered models of porous medium have been determined.
-
Высокопроизводительная идентификация моделей кинетики гидридного фазового перехода
Компьютерные исследования и моделирование, 2020, т. 12, № 1, с. 171-183Гидриды металлов представляют собой интересный класс соединений, способных обратимо связывать большое количество водорода и потому представляющих интерес для приложений энергетики. Особенно важно понимание факторов, влияющих на кинетику формирования и разложения гидридов. Особенности материала, экспериментальной установки и условий влияют на математическое описание процессов, которое может претерпевать существенные изменения в ходе обработки экспериментальных данных. В статье предложен общий подход к численному моделированию формирования и разложения гидридов металлов и решения обратных задач оценки параметров материала по данным измерений. Модели делятся на два класса: диффузионные, принимающие во внимание градиент концентрации водорода в решетке металла, и модели с быстрой диффузией. Первые более сложны и имеют форму неклассических краевых задач параболического типа. Описан подход к сеточному решению таких задач. Вторые решаются сравнительно просто, но могут сильно меняться при изменении модельных предположений. Опыт обработки экспериментальных данных показывает, что необходимо гибкое программное средство, позволяющее, с одной стороны, строить модели из стандартных блоков, свободно изменяя их при необходимости, а с другой — избегать реализации рутинных алгоритмов, причем приспособленное для высокопроизводительных систем различной парадигмы. Этим условиям удовлетворяет представленная в работе библиотека HIMICOS, протестированная на большом числе экспериментальных данных. Она позволяет моделировать кинетику формирования и разложения гидридов металлов (и других соединений) на трех уровнях абстракции. На низком уровне пользователь определяет интерфейсные процедуры, такие как расчет слоя по времени на основании предыдущего слоя или всей предыстории, вычисление наблюдаемой величины и независимой переменной по переменным задачи, сравнение кривой с эталонной. При этом могут использоваться алгоритмы, решающие краевые задачи параболического типа со свободными границами в весьма общей постановке, в том числе с разнообразными квазилинейными (линейными по производной) граничными условиями, а также вычисляющие расстояние между кривыми в различных метрических пространствах и с различной нормировкой. Это средний уровень абстракции. На высоком уровне достаточно выбрать готовую модель для того или иного материала и модифицировать ее применительно к условиям эксперимента.
Ключевые слова: гидриды металлов, моделирование кинетики фазового перехода, численное моделирование химической кинетики.
High-throughput identification of hydride phase-change kinetics models
Computer Research and Modeling, 2020, v. 12, no. 1, pp. 171-183Metal hydrides are an interesting class of chemical compounds that can reversibly bind a large amount of hydrogen and are, therefore, of interest for energy applications. Understanding the factors affecting the kinetics of hydride formation and decomposition is especially important. Features of the material, experimental setup and conditions affect the mathematical description of the processes, which can undergo significant changes during the processing of experimental data. The article proposes a general approach to numerical modeling of the formation and decomposition of metal hydrides and solving inverse problems of estimating material parameters from measurement data. The models are divided into two classes: diffusive ones, that take into account the gradient of hydrogen concentration in the metal lattice, and models with fast diffusion. The former are more complex and take the form of non-classical boundary value problems of parabolic type. A rather general approach to the grid solution of such problems is described. The second ones are solved relatively simply, but can change greatly when model assumptions change. Our experience in processing experimental data shows that a flexible software tool is needed; a tool that allows, on the one hand, building models from standard blocks, freely changing them if necessary, and, on the other hand, avoiding the implementation of routine algorithms. It also should be adapted for high-performance systems of different paradigms. These conditions are satisfied by the HIMICOS library presented in the paper, which has been tested on a large number of experimental data. It allows simulating the kinetics of formation and decomposition of metal hydrides, as well as related tasks, at three levels of abstraction. At the low level, the user defines the interface procedures, such as calculating the time layer based on the previous layer or the entire history, calculating the observed value and the independent variable from the task variables, comparing the curve with the reference. Special algorithms can be used for solving quite general parabolic-type boundary value problems with free boundaries and with various quasilinear (i.e., linear with respect to the derivative only) boundary conditions, as well as calculating the distance between the curves in different metric spaces and with different normalization. This is the middle level of abstraction. At the high level, it is enough to choose a ready tested model for a particular material and modify it in relation to the experimental conditions.
-
Численный анализ естественной конвекции кориума в условиях внутрикорпусной локализации с учетом переменного тепловыделения
Компьютерные исследования и моделирование, 2021, т. 13, № 4, с. 807-822В представленном исследовании проводится численное моделирование охлаждения кориума, расплава керамического топлива ядерного реактора и оксидов конструкционных материалов, в горизонтальной полуцилиндрической полости, стенки которой поддерживаются при постоянной температуре, в условиях естественной конвекции.
Охлаждение кориума — это процесс характерный для тяжелой аварии на ядерном реакторе, которая может быть локализована путем удержания кориума внутри корпуса реактора, испытывающего внешнее охлаждение. Такой подход обеспечивает не только сравнительно простой способ удержания радиоактивности в пределах первого контура, но и возможность реализации на действующих блоках. Это выступает альтернативой ловушке расплава, еще одному методу локализации. Точный анализ и моделирование процесса охлаждения в таких условиях оказываются перспективной областью исследований в настоящее время.
В начальный момент времени температура кориума принимается равной температуре стенки. Кориум, несмотря на останов реактора, обладает остаточным тепловыделением, которое уменьшается со временем согласно формуле Вэя–Вигнера. Процесс естественной конвекции внутри полости описывается системой уравнений в приближении Буссинеска, которая включает в себя уравнение движения, уравнение неразрывности и уравнение энергии. Конвективные потоки считаются ламинарными и двумерными, теплофизические свойства жидкости считаются независимыми от температуры.
Краевая задача математической физики формулируется в безразмерных переменных «функция тока – завихренность». Полученные дифференциальные уравнения решаются численно при помощи метода конечных разностей c использованием локально-одномерной схемы Самарского применительно к уравнениям параболического типа.
В результате исследований получены временные зависимости среднего числа Нуссельта на верхней и нижней стенках полости в широком диапазоне изменения числа Рэлея от 103 до 106. Указанные зависимости также были проанализированы при различных значениях безразмерного времени работы реактора до аварии. Исследования проведены как на основе распределений изолиний функции тока и температуры, так и с использованием временных профилей интенсивности конвективного течения и теплообмена.
Ключевые слова: естественная конвекция, кориум, ядерный реактор, тяжелая авария, численное моделирование, метод конечных разностей.
Numerical simulation of corium cooling driven by natural convection in case of in-vessel retention and time-dependent heat generation
Computer Research and Modeling, 2021, v. 13, no. 4, pp. 807-822Represented study considers numerical simulation of corium cooling driven by natural convection within a horizontal hemicylindrical cavity, boundaries of which are assumed isothermal. Corium is a melt of ceramic fuel of a nuclear reactor and oxides of construction materials.
Corium cooling is a process occurring during severe accident associated with core melt. According to invessel retention conception, the accident may be restrained and localized, if the corium is contained within the vessel, only if it is cooled externally. This conception has a clear advantage over the melt trap, it can be implemented at already operating nuclear power plants. Thereby proper numerical analysis of the corium cooling has become such a relevant area of studies.
In the research, we assume the corium is contained within a horizontal semitube. The corium initially has temperature of the walls. In spite of reactor shutdown, the corium still generates heat owing to radioactive decays, and the amount of heat released decreases with time accordingly to Way–Wigner formula. The system of equations in Boussinesq approximation including momentum equation, continuity equation and energy equation, describes the natural convection within the cavity. Convective flows are taken to be laminar and two-dimensional.
The boundary-value problem of mathematical physics is formulated using the non-dimensional nonprimitive variables «stream function – vorticity». The obtained differential equations are solved numerically using the finite difference method and locally one-dimensional Samarskii scheme for the equations of parabolic type.
As a result of the present research, we have obtained the time behavior of mean Nusselt number at top and bottom walls for Rayleigh number ranged from 103 to 106. These mentioned dependences have been analyzed for various dimensionless operation periods before the accident. Investigations have been performed using streamlines and isotherms as well as time dependences for convective flow and heat transfer rates.
-
Описание быстрых процессов вторжения на основе кинетической модели
Компьютерные исследования и моделирование, 2014, т. 6, № 5, с. 829-838В последние годы моделирование социальных, социо-биологических и исторических процессов получило большое развитие. В настоящей работе на основе кинетического подхода моделируются исторические процессы: агрессивное вторжение нацистской Германии в Польшу, Францию и СССР. Показано, что изучаемая система нелинейных уравнений полностью интегрируема: общее решение строится в виде квадратур. Вторжение (блицкриг) описывается краевой задачей Коши для двухэлементной кинетической модели с однородными по двум частям пространства начальными условиями. Решение данной задачи имеет вид бегущей волны, а скорость смещения линии фронта зависит от отношения начальных концентраций войск. Полученные оценки скорости распространения фронта согласуются с историческими фактами.
Ключевые слова: кинетическая теория, модели агрессии.
Description of the rapid invasion processes by means of the kinetic model
Computer Research and Modeling, 2014, v. 6, no. 5, pp. 829-838Recently many investigations have been devoted to theoretical models in new areas concerning description of different biological, sociological and historical processes. In the present paper we investigate the nazi Germany invasion in Poland, France and USSR from the kinetic theory point of view. We model this process with the Cauchy boundary problem for the two-element kinetic equations with spatial uniform initial conditions. The solution of the problem is given in the form of the traveling wave and the propagation velocity of a frontline depends on the quotient between initial forces concentrations. Moreover it is obtained that the general solution of the model can be obtained in terms of the quadratures and elementary functions. Finally it is shown that the frontline velocities are complied with the historical data.
Keywords: kinetic theory, models of aggression.Views (last year): 4. Citations: 1 (RSCI). -
Применение градиентных методов оптимизации для решения задачи Коши для уравнения Гельмгольца
Компьютерные исследования и моделирование, 2022, т. 14, № 2, с. 417-444Статья посвящена изучению применения методов выпуклой оптимизации для решения задачи Коши для уравнения Гельмгольца, которая является некорректной, поскольку уравнение относится к эллиптическому типу. Задача Коши формулируется как обратная задача и сводится к задаче выпуклой оптимизации в гильбертовом пространстве. Оптимизируемый функционал и его градиент вычисляются с помощью решения краевых задач, которые, в свою очередь, корректны и могут быть приближенно решены стандартными численными методами, такими как конечно-разностные схемы и разложения в ряды Фурье. Экспериментально исследуются сходимость применяемого быстрого градиентного метода и качество получаемого таким образом решения. Эксперимент показывает, что ускоренный градиентный метод — метод подобных треугольников — сходится быстрее, чем неускоренный метод. Сформулированы и доказаны теоремы о вычислительной сложности полученных алгоритмов. Установлено, что разложения в ряды Фурье превосходят конечно-разностные схемы по скорости вычислений и улучшают качество получаемого решения. Сделана попытка использовать рестарты метода подобных треугольников после уменьшения невязки функционала вдвое. В этом случае сходимость не улучшается, что подтверждает отсутствие сильной выпуклости. Эксперименты показывают, что неточность вычислений более адекватно описывается аддитивной концепцией шума в оракуле первого порядка. Этот фактор ограничивает достижимое качество решения, но ошибка не накапливается. Полученные результаты показывают, что использование ускоренных градиентных методов оптимизации позволяет эффективно решать обратные задачи.
Ключевые слова: обратные задачи, выпуклая оптимизация, оптимизация в гильбертовом пространстве, методы первого порядка, быстрые градиентные методы, неточный оракул.
Application of gradient optimization methods to solve the Cauchy problem for the Helmholtz equation
Computer Research and Modeling, 2022, v. 14, no. 2, pp. 417-444The article is devoted to studying the application of convex optimization methods to solve the Cauchy problem for the Helmholtz equation, which is ill-posed since the equation belongs to the elliptic type. The Cauchy problem is formulated as an inverse problem and is reduced to a convex optimization problem in a Hilbert space. The functional to be optimized and its gradient are calculated using the solution of boundary value problems, which, in turn, are well-posed and can be approximately solved by standard numerical methods, such as finite-difference schemes and Fourier series expansions. The convergence of the applied fast gradient method and the quality of the solution obtained in this way are experimentally investigated. The experiment shows that the accelerated gradient method — the Similar Triangle Method — converges faster than the non-accelerated method. Theorems on the computational complexity of the resulting algorithms are formulated and proved. It is found that Fourier’s series expansions are better than finite-difference schemes in terms of the speed of calculations and improve the quality of the solution obtained. An attempt was made to use restarts of the Similar Triangle Method after halving the residual of the functional. In this case, the convergence does not improve, which confirms the absence of strong convexity. The experiments show that the inaccuracy of the calculations is more adequately described by the additive concept of the noise in the first-order oracle. This factor limits the achievable quality of the solution, but the error does not accumulate. According to the results obtained, the use of accelerated gradient optimization methods can be the way to solve inverse problems effectively.
-
Персонализация математических моделей в кардиологии: трудности и перспективы
Компьютерные исследования и моделирование, 2022, т. 14, № 4, с. 911-930Большинство биомеханических задач, представляющих интерес для клиницистов, могут быть решены только с помощью персонализированных математических моделей. Такие модели позволяют формализовать и взаимоувязать ключевые патофизиологические процессы, на основе клинически доступных данных оценить неизмеряемые параметры, важные для диагностики заболеваний, спрогнозировать результат терапевтического или хирургического вмешательства. Использование моделей в клинической практике накладывает дополнительные ограничения: практикующие врачи требуют валидации модели на клинических случаях, быстроту и автоматизированность всей расчетной технологической цепочки от обработки входных данных до получения результата. Ограничения на время расчета, определяемые временем принятия врачебного решения (порядка нескольких минут), приводят к необходимости использования методов редукции, корректно описывающих исследуемые процессы в рамках численных моделей пониженной размерности или в рамках методов машинного обучения.
Персонализация моделей требует пациентоориентированной оценки параметров модели и создания персонализированной геометрии расчетной области и построения расчетной сетки. Параметры модели оцениваются прямыми измерениями, либо методами решения обратных задач, либо методами машинного обучения. Требование персонализации моделей накладывает серьезные ограничения на количество настраиваемых параметров модели, которые могут быть измерены в стандартных клинических условиях. Помимо параметров, модели включают краевые условия, которые также должны учитывать особенности пациента. Методы задания персонализированных краевых условий существенно зависят от решаемой клинической задачи, зоны ее интереса и доступных клинических данных. Построение персонализированной области посредством сегментации медицинских изображений и построение расчетной сетки, как правило, занимают значительную долю времени при разработке персонализированной вычислительной модели, так как часто выполняются в ручном или полуавтоматическом режиме. Разработка автоматизированных методов постановки персонализированных краевых условий и сегментации медицинских изображений с последующим построением расчетной сетки является залогом широкого использования математического моделирования в клинической практике.
Цель настоящей работы — обзор и анализ наших решений по персонализации математических моделей в рамках трех задач клинической кардиологии: виртуальной оценки гемодинамической значимости стенозов коронарных артерий, оценки изменений системного кровотока после гемодинамической коррекции сложных пороков сердца, расчета характеристик коаптации реконструированного аортального клапана.
Ключевые слова: вычислительная биомеханика, персонализированная модель.
Personalization of mathematical models in cardiology: obstacles and perspectives
Computer Research and Modeling, 2022, v. 14, no. 4, pp. 911-930Most biomechanical tasks of interest to clinicians can be solved only using personalized mathematical models. Such models allow to formalize and relate key pathophysiological processes, basing on clinically available data evaluate non-measurable parameters that are important for the diagnosis of diseases, predict the result of a therapeutic or surgical intervention. The use of models in clinical practice imposes additional restrictions: clinicians require model validation on clinical cases, the speed and automation of the entire calculated technological chain, from processing input data to obtaining a result. Limitations on the simulation time, determined by the time of making a medical decision (of the order of several minutes), imply the use of reduction methods that correctly describe the processes under study within the framework of reduced models or machine learning tools.
Personalization of models requires patient-oriented parameters, personalized geometry of a computational domain and generation of a computational mesh. Model parameters are estimated by direct measurements, or methods of solving inverse problems, or methods of machine learning. The requirement of personalization imposes severe restrictions on the number of fitted parameters that can be measured under standard clinical conditions. In addition to parameters, the model operates with boundary conditions that must take into account the patient’s characteristics. Methods for setting personalized boundary conditions significantly depend on the clinical setting of the problem and clinical data. Building a personalized computational domain through segmentation of medical images and generation of the computational grid, as a rule, takes a lot of time and effort due to manual or semi-automatic operations. Development of automated methods for setting personalized boundary conditions and segmentation of medical images with the subsequent construction of a computational grid is the key to the widespread use of mathematical modeling in clinical practice.
The aim of this work is to review our solutions for personalization of mathematical models within the framework of three tasks of clinical cardiology: virtual assessment of hemodynamic significance of coronary artery stenosis, calculation of global blood flow after hemodynamic correction of complex heart defects, calculating characteristics of coaptation of reconstructed aortic valve.
Keywords: computational biomechanics, personalized model.
Indexed in Scopus
Full-text version of the journal is also available on the web site of the scientific electronic library eLIBRARY.RU
The journal is included in the Russian Science Citation Index
The journal is included in the RSCI
International Interdisciplinary Conference "Mathematics. Computing. Education"