All issues
- 2026 Vol. 18
- 2025 Vol. 17
- 2024 Vol. 16
- 2023 Vol. 15
- 2022 Vol. 14
- 2021 Vol. 13
- 2020 Vol. 12
- 2019 Vol. 11
- 2018 Vol. 10
- 2017 Vol. 9
- 2016 Vol. 8
- 2015 Vol. 7
- 2014 Vol. 6
- 2013 Vol. 5
- 2012 Vol. 4
- 2011 Vol. 3
- 2010 Vol. 2
- 2009 Vol. 1
-
Численный анализ естественной конвекции кориума в условиях внутрикорпусной локализации с учетом переменного тепловыделения
Компьютерные исследования и моделирование, 2021, т. 13, № 4, с. 807-822В представленном исследовании проводится численное моделирование охлаждения кориума, расплава керамического топлива ядерного реактора и оксидов конструкционных материалов, в горизонтальной полуцилиндрической полости, стенки которой поддерживаются при постоянной температуре, в условиях естественной конвекции.
Охлаждение кориума — это процесс характерный для тяжелой аварии на ядерном реакторе, которая может быть локализована путем удержания кориума внутри корпуса реактора, испытывающего внешнее охлаждение. Такой подход обеспечивает не только сравнительно простой способ удержания радиоактивности в пределах первого контура, но и возможность реализации на действующих блоках. Это выступает альтернативой ловушке расплава, еще одному методу локализации. Точный анализ и моделирование процесса охлаждения в таких условиях оказываются перспективной областью исследований в настоящее время.
В начальный момент времени температура кориума принимается равной температуре стенки. Кориум, несмотря на останов реактора, обладает остаточным тепловыделением, которое уменьшается со временем согласно формуле Вэя–Вигнера. Процесс естественной конвекции внутри полости описывается системой уравнений в приближении Буссинеска, которая включает в себя уравнение движения, уравнение неразрывности и уравнение энергии. Конвективные потоки считаются ламинарными и двумерными, теплофизические свойства жидкости считаются независимыми от температуры.
Краевая задача математической физики формулируется в безразмерных переменных «функция тока – завихренность». Полученные дифференциальные уравнения решаются численно при помощи метода конечных разностей c использованием локально-одномерной схемы Самарского применительно к уравнениям параболического типа.
В результате исследований получены временные зависимости среднего числа Нуссельта на верхней и нижней стенках полости в широком диапазоне изменения числа Рэлея от 103 до 106. Указанные зависимости также были проанализированы при различных значениях безразмерного времени работы реактора до аварии. Исследования проведены как на основе распределений изолиний функции тока и температуры, так и с использованием временных профилей интенсивности конвективного течения и теплообмена.
Ключевые слова: естественная конвекция, кориум, ядерный реактор, тяжелая авария, численное моделирование, метод конечных разностей.
Numerical simulation of corium cooling driven by natural convection in case of in-vessel retention and time-dependent heat generation
Computer Research and Modeling, 2021, v. 13, no. 4, pp. 807-822Represented study considers numerical simulation of corium cooling driven by natural convection within a horizontal hemicylindrical cavity, boundaries of which are assumed isothermal. Corium is a melt of ceramic fuel of a nuclear reactor and oxides of construction materials.
Corium cooling is a process occurring during severe accident associated with core melt. According to invessel retention conception, the accident may be restrained and localized, if the corium is contained within the vessel, only if it is cooled externally. This conception has a clear advantage over the melt trap, it can be implemented at already operating nuclear power plants. Thereby proper numerical analysis of the corium cooling has become such a relevant area of studies.
In the research, we assume the corium is contained within a horizontal semitube. The corium initially has temperature of the walls. In spite of reactor shutdown, the corium still generates heat owing to radioactive decays, and the amount of heat released decreases with time accordingly to Way–Wigner formula. The system of equations in Boussinesq approximation including momentum equation, continuity equation and energy equation, describes the natural convection within the cavity. Convective flows are taken to be laminar and two-dimensional.
The boundary-value problem of mathematical physics is formulated using the non-dimensional nonprimitive variables «stream function – vorticity». The obtained differential equations are solved numerically using the finite difference method and locally one-dimensional Samarskii scheme for the equations of parabolic type.
As a result of the present research, we have obtained the time behavior of mean Nusselt number at top and bottom walls for Rayleigh number ranged from 103 to 106. These mentioned dependences have been analyzed for various dimensionless operation periods before the accident. Investigations have been performed using streamlines and isotherms as well as time dependences for convective flow and heat transfer rates.
-
Анализ идентифицируемости математической модели пиролиза пропана
Компьютерные исследования и моделирование, 2021, т. 13, № 5, с. 1045-1057Работа посвящена численному моделированию и исследованию кинетической модели пиролиза пропана. Изучение кинетики реакций является необходимой стадией моделирования динамики газового потока в реакторе.
Кинетическая модель представляет собой нелинейную систему обыкновенных дифференциальных уравнений первого порядка с параметрами, роль которых играют константы скоростей стадий. Математическое моделирование процесса основано на использовании закона сохранения масс. Для решения исходной (прямой) задачи используется неявный метод решения жестких систем обыкновенных дифференциальных уравнений. Модель содержит 60 входных кинетических параметров и 17 выходных параметров, соответствующих веществам реакции, из которых наблюдаемыми являются только 9. В процессе решения задачи по оценке параметров (обратная задача) возникает вопрос неединственности набора параметров, удовлетворяющего имеющимся экспериментальным данным. Поэтому перед решением обратной задачи проводится оценка возможности определения параметров модели — анализ идентифицируемости.
Для анализа идентифицируемости мы используем ортогональный метод, который хорошо себя зарекомендовал для анализа моделей с большим числом параметров. Основу алгоритма составляет анализ матрицы чувствительно- сти методами дифференциальной и линейной алгебры, показывающей степень зависимости неизвестных параметров моделей от заданных измерений. Анализ чувствительности и идентифицируемости показал, что параметры модели устойчиво определяются по заданному набору экспериментальных данных. В статье представлен список параметров модели от наиболее идентифицируемого до наименее идентифицируемого. Учитывая анализ идентифицируемости математической модели, были введены более жесткие ограничения на поиск слабоидентифицируемых параметров при решении обратной задачи.
Обратная задача по оценке параметров была решена с использованием генетического алгоритма. В статье представлены найденные оптимальные значения кинетических параметров. Представлено сравнение экспериментальных и расчетных зависимостей концентраций пропана, основных и побочных продуктов реакции от температуры для разных расходов смеси. На основании соответствия полученных результатов физико-химическим законам и экспериментальным данным сделан вывод об адекватности построенной математической модели.
Ключевые слова: пиролиз пропана, математическая модель, химическая кинетика, анализ чувствительности, анализ идентифицируемости.
Analysis of the identifiability of the mathematical model of propane pyrolysis
Computer Research and Modeling, 2021, v. 13, no. 5, pp. 1045-1057The article presents the numerical modeling and study of the kinetic model of propane pyrolysis. The study of the reaction kinetics is a necessary stage in modeling the dynamics of the gas flow in the reactor.
The kinetic model of propane pyrolysis is a nonlinear system of ordinary differential equations of the first order with parameters, the role of which is played by the reaction rate constants. Math modeling of processes is based on the use of the mass conservation law. To solve an initial (forward) problem, implicit methods for solving stiff ordinary differential equation systems are used. The model contains 60 input kinetic parameters and 17 output parameters corresponding to the reaction substances, of which only 9 are observable. In the process of solving the problem of estimating parameters (inverse problem), there is a question of non-uniqueness of the set of parameters that satisfy the experimental data. Therefore, before solving the inverse problem, the possibility of determining the parameters of the model is analyzed (analysis of identifiability).
To analyze identifiability, we use the orthogonal method, which has proven itself well for analyzing models with a large number of parameters. The algorithm is based on the analysis of the sensitivity matrix by the methods of differential and linear algebra, which shows the degree of dependence of the unknown parameters of the models on the given measurements. The analysis of sensitivity and identifiability showed that the parameters of the model are stably determined from a given set of experimental data. The article presents a list of model parameters from most to least identifiable. Taking into account the analysis of the identifiability of the mathematical model, restrictions were introduced on the search for less identifiable parameters when solving the inverse problem.
The inverse problem of estimating the parameters was solved using a genetic algorithm. The article presents the found optimal values of the kinetic parameters. A comparison of the experimental and calculated dependences of the concentrations of propane, main and by-products of the reaction on temperature for different flow rates of the mixture is presented. The conclusion about the adequacy of the constructed mathematical model is made on the basis of the correspondence of the results obtained to physicochemical laws and experimental data.
-
Компьютерное моделирование динамики валового регионального продукта: сравнительный анализ нейросетевых моделей
Компьютерные исследования и моделирование, 2025, т. 17, № 6, с. 1219-1236Анализ экономических показателей региона играет важную роль в управлении и планировании развития, при этом валовой региональный продукт (ВРП) является одним из ключевых индикаторов экономической деятельности. Применение искусственного интеллекта, в том числе нейросетевых технологий, позволяет значительно повысить точность и надежность прогнозов экономических процессов. В данном исследовании сравниваются три модели нейросетевых алгоритмов для прогнозирования ВРП одного из типичных регионов РФ — Удмуртской Республики — на основе временных рядов за период с 2000 по 2023 год. В качестве моделей выбраны нейронная сеть с алгоритмом летучей мыши (BA-LSTM), модель нейронной сети обратного распространения ошибки, оптимизированная с помощью генетического алгоритма (GA-BPNN), и нейросетевая модель Элмана, оптимизированная алгоритмом роя частиц (PSO-Elman). В ходе исследования были выполнены такие этапы нейросетевого моделирования, как подготовка исходных данных, обучение моделей и их сравнительный анализ по показателям точности и качества прогнозов. Такой подход позволяет оценить преимущества и недостатки каждой модели в контексте прогнозирования ВРП, а также определить наиболее перспективные направления для дальнейших исследований. Использование современных нейросетевых методов открывает новые возможности для автоматизации анализа региональной экономики и повышения качества прогнозных оценок, что особенно актуально при ограниченных данных и для оперативного принятия решений. В исследовании в качестве входных данных для прогнозирования ВРП используются такие факторы, как величина производственного капитала, среднегодовая численность трудовых ресурсов, доля продукции высокотехнологичных и наукоемких отраслей в ВРП, а также показатель, учитывающий инфляцию. Высокая точность прогнозов, достигнутая в результате включения этих факторов в нейросетевые модели, подтверждает наличие сильной связи между этими факторами и ВРП. Результаты исследования показали высокую точность нейросетевой модели BA-LSTM на валидационной выборке: коэффициент детерминации составил 0,82, средняя абсолютная процентная ошибка — 4,19%. Качество и надежность этой модели свидетельствуют о ее способности эффективно предсказы- вать динамику ВРП. В прогнозном периоде до 2030 года в Удмуртской Республике ожидается ежегодное увеличение ВРП +4,6% в текущих ценах или +2,5% в сопоставимых ценах 2023 года. К 2030 году прогнозируется ВРП на уровне 1264,5 млрд руб.
Ключевые слова: валовой региональный продукт (ВРП), нейросетевые модели, нейронная сеть BA-LSTM, нейронная сеть GA-BPNN, нейронная сеть PSO-Elman.
Computer modeling of the gross regional product dynamics: a comparative analysis of neural network models
Computer Research and Modeling, 2025, v. 17, no. 6, pp. 1219-1236Analysis of regional economic indicators plays a crucial role in management and development planning, with Gross Regional Product (GRP) serving as one of the key indicators of economic activity. The application of artificial intelligence, including neural network technologies, enables significant improvements in the accuracy and reliability of forecasts of economic processes. This study compares three neural network algorithm models for predicting the GRP of a typical region of the Russian Federation — the Udmurt Republic — based on time series data from 2000 to 2023. The selected models include a neural network with the Bat Algorithm (BA-LSTM), a neural network model based on backpropagation error optimized with a Genetic Algorithm (GA-BPNN), and a neural network model of Elman optimized using the Particle Swarm Optimization algorithm (PSO-Elman). The research involved stages of neural network modeling such as data preprocessing, training model, and comparative analysis based on accuracy and forecast quality metrics. This approach allows for evaluating the advantages and limitations of each model in the context of GRP forecasting, as well as identifying the most promising directions for further research. The utilization of modern neural network methods opens new opportunities for automating regional economic analysis and improving the quality of forecast assessments, which is especially relevant when data are limited and for rapid decision-making. The study uses factors such as the amount of production capital, the average annual number of labor resources, the share of high-tech and knowledge-intensive industries in GRP, and an inflation indicator as input data for predicting GRP. The high accuracy of the predictions achieved by including these factors in the neural network models confirms the strong correlation between these factors and GRP. The results demonstrate the exceptional accuracy of the BA-LSTM neural network model on validation data: the coefficient of determination was 0.82, and the mean absolute percentage error was 4.19%. The high performance and reliability of this model confirm its capacity to predict effectively the dynamics of the GRP. During the forecast period up to 2030, the Udmurt Republic is expected to experience an annual increase in Gross Regional Product (GRP) of +4.6% in current prices or +2.5% in comparable 2023 prices. By 2030, the GRP is projected to reach 1264.5 billion rubles.
-
Реакционно-диффузионная многокомпонентная модель эволюции ткани миокарда на основе параметров распределения Дирихле
Компьютерные исследования и моделирование, 2026, т. 18, № 4, с. 929-972Предлагается пространственно распределенная математическая модель эволюции пяти состояний миокардиальной ткани — здорового миокарда, воспалительного инфильтрата, некроза, замещающего фиброза и интерстициального фиброза — в виде многокомпонентной реакционно-диффузионной системы параболического типа. Разработка таких моделей имеет ключевое значение для понимания механизмов постинфарктного ремоделирования левого желудочка и прогнозирования структурных аритмогенных субстратов. В каждой точке области состояние ткани описывается вектором параметров распределения Дирихле, что позволяет одновременно учитывать средний тканевой состав и уровень неопределенности классификации, связанный с гетерогенными переходными зонами повреждения. Дополнительной особенностью предложенной постановки является использование нелинейного анизотропного тензора диффузии, интенсивность направленной компоненты которого локально управляется суммарной долей поврежденной ткани.
Для усеченной системы, совпадающей с исходной в инвариантной области, устанавливаются локальная липшицевость и квазиположительность расширенного реакционного оператора. Доказаны глобальное существование слабого решения, неотрицательность, явная априорная верхняя оценка и количественная экспоненциальная нижняя оценка. Из этих результатов следуют инвариантность допустимой области и существование глобального слабого решения исходной модели. Доказана единственность в усиленном классе решений, задаваемом дополнительной регулярностью градиентов. Для обратимого вспомогательного варианта матрицы переходов формально выводится энтропийный баланс для гладких положительных решений; для клинически обоснованной необратимой матрицы переходов формулируется модовое условие спектральной устойчивости линеаризации.
В вычислительной части получено условие положительности для реакционного подшага схемы расщепления относительно адаптивного верхнего барьера траектории и выполнены численные эксперименты для воспроизводимой калиброванной вычислительной версии. В одномерном сценарии к $60$-м суткам в центре очага доля замещающего фиброза возрастает с $0,091$ до $0,855$, а суммарный параметр концентрации $\alpha_0$ — с $11,0$ до $15,9$; в двумерном сценарии на $14$-е сутки средняя величина $\overline p_4^{}$ составляет $0,431$ в ядре повреждения против $0,097$ в здоровой зоне. Доказана корректность модели для анализа процессов рубцевания и переходных зон, что формирует математическую базу для интеграции алгоритма с данными пациент-специфической клинической визуализации.
Ключевые слова: реакционно-диффузионная система, распределение Дирихле, фиброз миокарда, глобальное существование, инвариантная область, единственность в усиленном классе, энтропийный баланс, марковская цепь.
Reaction – diffusion model of multicomponent myocardial injury based on Dirichlet concentration parameters
Computer Research and Modeling, 2026, v. 18, no. 4, pp. 929-972A spatially distributed mathematical model is proposed for the evolution of five myocardial tissue states — healthy myocardium, inflammatory infiltrate, necrosis, replacement fibrosis, and interstitial fibrosis — in the form of a multicomponent parabolic reaction – diffusion system. At each spatial point the tissue state is described by a vector of Dirichlet concentration parameters, which allows one to encode both the expected tissue composition and the uncertainty of classification associated with transition zones of damage. For a truncated system that coincides with the original one inside an invariant region, local Lipschitz continuity and quasi-positivity of the extended reaction operator are established. Global existence of a weak solution, non-negativity, an explicit a priori upper bound, and a quantitative exponential lower bound are proved. These results imply invariance of the admissible region and hence existence of a global weak solution to the original model. Uniqueness is established in a strengthened class of solutions characterized by additional gradient regularity. For an auxiliary reversible transition matrix, a formal entropy balance is derived for smooth positive solutions; for the clinically motivated irreversible transition matrix, a modal spectral stability condition is formulated for the linearized problem. On the numerical side, a positivity condition is derived for the reaction substep of a splitting scheme relative to an adaptive upper trajectory bound, and numerical experiments are conducted for a reproducible calibrated computational variant. In the one-dimensional scenario, by day $60$ the replacement-fibrosis fraction at the lesion center increases from $0.091$ to $0.855$, while the total concentration parameter $\alpha_0$ rises from $11.0$ to $15.9$; in the two-dimensional scenario, on day $14$ the mean value of $\overline p_4^{}$ is $0.431$ in the lesion core versus $0.097$ in the healthy region. These results confirm the mathematical well-posedness of the proposed model and its applicability for the quantitative description of post-infarction scar formation and heterogeneous transition zones.
-
Численная модель механического отклика самоподъемной плавучей буровой установки на сейсмические воздействия
Компьютерные исследования и моделирование, 2022, т. 14, № 4, с. 853-871В работе представлены результаты численного моделирования напряженно-деформированного состояния самоподъемных плавучих буровых установок, использующихся для освоения шельфовых месторождений углеводородов. Изучены равновесное напряженное состояние установки, погруженной в донный грунт, и его изменение, вызванное внешним механическим воздействием. Рассмотрена частная задача, в рамках которой в роли внешнего воздействия выступает поверхностная сейсмическая волна от удаленного землетрясения. Исследован отклик системы «самоподъемная плавучая буровая установка – донный грунт» на такое воздействие: проанализировано перераспределение полей напряжений и деформаций в системе, вызванное сейсмическим воздействием. Рассмотрен вопрос устойчивости установки: продемонстрировано, что приход сейсмической волны приводит к резкому росту напряжений в определенных элементах опорных колонн, что может привести к потере устойчивости. Для численного моделирования рассмотренной контактной задачи теории упругости использован метод конечных элементов. Проверка корректности постановки задачи и сходимости ее решения была выполнена путем рассмотрения известной задачи о вдавливании жесткого цилиндра в упругое полупространство. Показано, что использующаяся для анализа устойчивости самоподъемной буровой установки численная схема дает верные результаты для рассмотренной модельной задачи при условии корректного построения сетки конечных элементов. В рамках работы были исследованы роли различных факторов, определяющих условия достижения напряжениями в самоподъемной плавучей буровой установке критических значений: рассмотрены степень выраженности сейсмического воздействия, механические свойства донного грунта и глубина погружения опорных колонн установки в грунт. Сделаны предварительные выводы о необходимости заглубления опорных колонн в донный грунт с учетомег о механических свойств и характерной для региона сейсмичности. Представленный в работе подход может быть использован в качестве инструмента для прогноза рисков, связанных с освоениемм есторождений углеводородов, расположенных на континентальном шельфе, а использованная схема численного моделирования — для решения класса контактных задач теории упругости, требующих анализа динамических процессов.
Ключевые слова: сейсмическое воздействие, самоподъемная плавучая буровая установка, метод конечных элементов, механическая устойчивость, контактная задача теории упругости.
Numerical model of jack-up rig’s mechanical behavior under seismic loading
Computer Research and Modeling, 2022, v. 14, no. 4, pp. 853-871The paper presents results of numerical modeling of stress-strain state of jack-up rigs used for shelf hydrocarbon reservoirs exploitation. The work studied the equilibrium stress state of a jack-up rig standing on seafloor and mechanical behavior of the rig under seismic loading. Surface elastic wave caused by a distant earthquake acts a reason for the loading. Stability of jack-up rig is the main topic of the research, as stability can be lost due to redistribution of stresses and strains in the elements of the rig due to seismic loading. Modeling results revealed that seismic loading can indeed lead to intermittent growth of stresses in particular elements of the rig’s support legs resulting into stability loss. These results were obtained using the finite element-based numerical scheme. The paper contains the proof of modeling results convergence obtained from analysis of one problem — the problem of stresses and strains distributions for the contact problem of a rigid cylinder indenting on elastic half space. The comparison between numerical and analytical solutions proved the used numerical scheme to be correct, as obtained results converged. The paper presents an analysis of the different factors influencing the mechanical behavior of the studied system. These factors include the degree of seismic loading, mechanical properties of seafloor sediments, and depth of support legs penetration. The results obtained from numerical modeling made it possible to formulate preliminary conclusions regarding the need to take site-specific conditions into account whenever planning the use of jack-up rigs, especially, in the regions with seismic activity. The approach presented in the paper can be used to evaluate risks related to offshore hydrocarbon reservoirs exploitation and development, while the reported numerical scheme can be used to solve some contact problems of theory of elasticity with the need to analyze dynamic processes.
-
Использование приповерхностных сеток для численного моделирования вязкостных явлений в задачах гидродинамики судна
Компьютерные исследования и моделирование, 2023, т. 15, № 4, с. 995-1008Численное моделирование обтекания судового корпуса, работы гребного винта, а также решение других задач гидродинамики судна в адаптивных локально-измельченных сетках на основе прямоугольных начальных сеток обладают рядом преимуществ в области подготовки расчетов и являются весьма удобными для проведения экспресс-анализа. Однако при необходимости существенного уточнения моделирования вязкостных явлений возникает ряд сложностей, связанных с резким ростом числа неизвестных при адаптации расчетной сетки до высоких уровней, которая необходима для разрешения пограничных слоев, и снижением шага по времени в расчетах со свободной поверхностью из-за уменьшения пролетного времени проадаптированных ячеек. Для ухода от этих недостатков предлагается использовать для разрешения пограничных слоев дополнительные приповерхностные сетки, представляющие собой одномерные адаптации ближайших к стенке слоев расчетных ячеек основной сетки. Приповерхностные сетки являются дополнительными (или химерными), их объем не вычитается из объема основной сетки. Уравнения движения жидкости интегрируются в обеих сетках одновременно, а стыковка решений происходит по специальному алгоритму. В задаче моделирования обтекания судового корпуса приповерхностные сетки могут обеспечивать нормальное функционирование низкорейнольдсовых моделей турбулентности, что существенно уточняет характеристики потока в пограничном слое у гладких поверхностей при их безотрывном обтекании. При наличии на поверхности корпуса отрывов потока или других сложных явлений можно делить поверхность корпуса на участки и использовать приповерхностные сетки только на участках с простым обтеканием, что тем не менее обеспечивает большую экономию ресурсов. В задаче моделирования работы гребного винта приповерхностные сетки могут обеспечивать отказ от пристеночных функций на поверхности лопастей, что ведет к значительному уточнению получаемых на них гидродинамических сил. Путем изменения числа и конфигурации слоев приповерхностных ячеек можно варьировать разрешение в пограничном слое без изменения основной сетки, что делает приповерхностные сетки удобным инструментом исследования масштабных эффектов в рассмотренных задачах.
Ключевые слова: приповерхностная сетка, гидродинамика судна, численное моделирование обтекания корпуса, численное моделирование работы винта.
Usage of boundary layer grids in numerical simulations of viscous phenomena in of ship hydrodynamics problems
Computer Research and Modeling, 2023, v. 15, no. 4, pp. 995-1008Numerical simulation of hull flow, marine propellers and other basic problems of ship hydrodynamics using Cartesian adaptive locally-refined grids is advantageous with respect to numerical setup and makes an express analysis very convenient. However, when more accurate viscous phenomena are needed, they condition some problems including a sharp increase of cell number due to high levels of main grid adaptation needed to resolve boundary layers and time step decrease in simulations with a free surface due to decrease of transit time in adapted cells. To avoid those disadvantages, additional boundary layer grids are suggested for resolution of boundary layers. The boundary layer grids are one-dimensional adaptations of main grid layers nearest to a wall, which are built along a normal direction. The boundary layer grids are additional (or chimerical), their volumes are not subtracted from main grid volumes. Governing equations of flow are integrated in both grids simultaneously, and the solutions are merged according to a special algorithm. In simulations of ship hull flow boundary layer grids are able to provide sufficient conditions for low-Reynolds turbulence models and significantly improve flow structure in continues boundary layers along smooth surfaces. When there are flow separations or other complex phenomena on a hull surface, it can be subdivided into regions, and the boundary layer grids should be applied to the regions with simple flow only. This still provides a drastic decrease of computational efforts. In simulations of marine propellers, the boundary layer grids are able to provide refuse of wall functions on blade surfaces, what leads to significantly more accurate hydrodynamic forces. Altering number and configuration of boundary grid layers, it is possible to vary a boundary layer resolution without change of a main grid. This makes the boundary layer grids a suitable tool to investigate scale effects in both problems considered.
-
Анализ динамической системы «жертва – хищник – суперхищник»: семейство равновесий и его разрушение
Компьютерные исследования и моделирование, 2023, т. 15, № 6, с. 1601-1615В работе исследуется динамика конечномерной модели, описывающей взаимодействие трех популяций: жертвы $x(t)$, потребляющего ее хищника $y(t)$ и суперхищника $z(t)$, питающегося обоими видами. Математически задача записывается в виде системы нелинейных дифференциальных уравнений первого порядка с правой частью $[x(1-x)-(y+z)g;\,\eta_1^{}yg-d_1^{}f-\mu_1^{}y;\,\eta_2^{}zg+d_2^{}f-\mu_2^{}z]$, где $\eta_j^{}$, $d_j^{}$, $\mu_j^{}$ ($j=1,\,2$) — положительные коэффициенты. Рассматриваемая модель относится к классу кoсимметричных динамических систем при функциональном отклике Лотки – Вольтерры $g=x$, $f=yz$ и дополнительных условиях на параметры: $\mu_2^{}=d_2^{}\left(1+\frac{\mu_1^{}}{d_1^{}}\right)$, $\eta_2^{}=d_2^{}\left(1+\frac{\eta_1^{}}{d_1^{}}\right)$. В этом случае формируется семейство равновесий в виде прямой в фазовом пространстве. Проанализирована устойчивость равновесий семейства и изолированных равновесий, построены карты существования стационарных решений и предельных циклов. Изучено разрушение семейства при нарушении условий косимметрии и использовании моделей Хoллинга $g(x)=\frac x{1+b_1^{}x}$ и Беддингтона–ДеАнгелиса $f(y,\,z)=\frac{yz}{1+b_2^{}y+b_3^{}z}$. Для этого применяется аппарат теории косимметрии В.И. Юдовича, включающий вычисление косимметрических дефектов и селективных функций. С использованием численного эксперимента проанализированы инвазивные сценарии: внедрение суперхищника в систему «хищник–жертва», выдавливание хищника или суперхищника.
A dynamic analysis of a prey – predator – superpredator system: a family of equilibria and its destruction
Computer Research and Modeling, 2023, v. 15, no. 6, pp. 1601-1615The paper investigates the dynamics of a finite-dimensional model describing the interaction of three populations: prey $x(t)$, its consuming predator $y(t)$, and a superpredator $z(t)$ that feeds on both species. Mathematically, the problem is formulated as a system of nonlinear first-order differential equations with the following right-hand side: $[x(1-x)-(y+z)g;\,\eta_1^{}yg-d_1^{}f-\mu_1^{}y;\,\eta_2^{}zg+d_2^{}f-\mu_2^{}z]$, where $\eta_j^{}$, $d_j^{}$, $\mu_j^{}$ ($j=1,\,2$) are positive coefficients. The considered model belongs to the class of cosymmetric dynamical systems under the Lotka\,--\,Volterra functional response $g=x$, $f=yz$, and two parameter constraints: $\mu_2^{}=d_2^{}\left(1+\frac{\mu_1^{}}{d_1^{}}\right)$, $\eta_2^{}=d_2^{}\left(1+\frac{\eta_1^{}}{d_1^{}}\right)$. In this case, a family of equilibria is being of a straight line in phase space. We have analyzed the stability of the equilibria from the family and isolated equilibria. Maps of stationary solutions and limit cycles have been constructed. The breakdown of the family is studied by violating the cosymmetry conditions and using the Holling model $g(x)=\frac x{1+b_1^{}x}$ and the Beddington–DeAngelis model $f(y,\,z)=\frac{yz}{1+b_2^{}y+b_3^{}z}$. To achieve this, the apparatus of Yudovich's theory of cosymmetry is applied, including the computation of cosymmetric defects and selective functions. Through numerical experimentation, invasive scenarios have been analyzed, encompassing the introduction of a superpredator into the predator-prey system, the elimination of the predator, or the superpredator.
-
Разностные схемы расщепления для системы одномерных уравнений гемодинамики
Компьютерные исследования и моделирование, 2024, т. 16, № 2, с. 459-488Работа посвящена построению и анализу разностных схем для системы уравнений гемодинамики, полученной осреднением уравнений гидродинамики вязкой несжимаемой жидкости по поперечному сечению сосуда. Рассматриваются модели крови как идеальной и как вязкой ньютоновской жидкости. Предложены разностные схемы, аппроксимирующие уравнения со вторым порядком по пространственной переменной. Алгоритмы расчета по построенным схемам основаны на методе расщепления по физическим процессам, в рамках которого на одном шаге по времени уравнения модели рассматриваются раздельно и последовательно. Практическая реали- зация предложенных схем приводит к последовательному решению на каждом шаге по времени двух линейных систем с трехдиагональными матрицами. Показано, что схемы являются $\rho$-устойчивыми при незначительных ограничениях на шаг по времени в случае достаточно гладких решений.
При решении задачи с известным аналитическим решением показано, что имеет место сходимость численного решения со вторым порядком по пространственной переменной в широком диапазоне значений шага сетки. При проведении вычислительных экспериментов по моделированию течения крови в модельных сосудистых системах производилось сравнение предложенных схем с такими известными явными схемами, как схема Лакса – Вендроффа, Лакса – Фридрихса и МакКормака. При решении задач показано, что результаты, полученные с помощью предложенных схем, близки к результатам расчетов, полученных по другим вычислительными схемам, в том числе построенным на основе других методов дискретизации. Показано, что в случае разных пространственных сеток время расчетов для предложенных схем значительно меньше, чем в случае явных схем, несмотря на необходимость решения на каждом шаге систем линейных уравнений. Недостатками схем является ограничение на шаг по времени в случае разрывных или сильно меняющихся решений и необходимость использования экстраполяции значений в граничных точках сосудов. В связи с этим актуальными для дальнейших исследований являются вопросы об адаптации схем расщепления к решению задач с разрывными решениями и в случаях специальных типов условий на концах сосудов.
Difference splitting schemes for the system of one-dimensional equations of hemodynamics
Computer Research and Modeling, 2024, v. 16, no. 2, pp. 459-488The work is devoted to the construction and analysis of difference schemes for a system of hemodynamic equations obtained by averaging the hydrodynamic equations of a viscous incompressible fluid over the vessel cross-section. Models of blood as an ideal and as a viscous Newtonian fluid are considered. Difference schemes that approximate equations with second order on the spatial variable are proposed. The computational algorithms of the constructed schemes are based on the method of splitting on physical processes. According to this approach, at one time step, the model equations are considered separately and sequentially. The practical implementation of the proposed schemes at each time step leads to a sequential solution of two linear systems with tridiagonal matrices. It is demonstrated that the schemes are $\rho$-stable under minor restrictions on the time step in the case of sufficiently smooth solutions.
For the problem with a known analytical solution, it is demonstrated that the numerical solution has a second order convergence in a wide range of spatial grid step. The proposed schemes are compared with well-known explicit schemes, such as the Lax – Wendroff, Lax – Friedrichs and McCormack schemes in computational experiments on modeling blood flow in model vascular systems. It is demonstrated that the results obtained using the proposed schemes are close to the results obtained using other computational schemes, including schemes constructed by other approaches to spatial discretization. It is demonstrated that in the case of different spatial grids, the time of computation for the proposed schemes is significantly less than in the case of explicit schemes, despite the need to solve systems of linear equations at each step. The disadvantages of the schemes are the limitation on the time step in the case of discontinuous or strongly changing solutions and the need to use extrapolation of values at the boundary points of the vessels. In this regard, problems on the adaptation of splitting schemes for problems with discontinuous solutions and in cases of special types of conditions at the vessels ends are perspective for further research.
-
Паттерны возбуждения в сетях тормозных и возбуждающих нейронов в модели нейроглиоваскулярной единицы
Компьютерные исследования и моделирование, 2026, т. 18, № 2, с. 439-461Многочисленные современные исследования подтверждают, что нейроны, астроциты и кровеносные сосуды функционируют как единая динамическая система. В связи с этим в последние годы возникла и набирает все большую популярность концепция целостной нейроглиоваскулярной единицы (НГВЕ), включающей в себя данные компоненты. Согласно концепции нормальное функционирование мозга связано с широким комплексом взаимодействий между элементами НГВЕ, нарушение связей между которыми может служить причиной возникновения различных нейропатологий. Понимание процессов, протекающих внутри одной НГВЕ, а также организации связей между различными единицами является необходимым условием для успешной диагностики и терапии нейропатологий.
В работе построена модель НГВЕ, которая впервые объединяет детальное описание функционирования сетей синаптически связанных возбуждающих и тормозных нейронов (с учетом баланса возбуждения/торможения), динамику внеклеточной среды (калий, глутамат, ГАМК) и астроцитарную активность, модулируемую норадреналином, с последующей регуляцией локального кровотока.
Ключевой концептуальной особенностью модели является интеграция разномасштабных процессов — от ионной динамики на уровне отдельного нейрона Ходжкина – Хаксли до диффузии веществ в масштабе сети из 100 НГВЕ — в единую систему связанных нелинейных дифференциальных уравнений. Это позволило исследовать коллективную динамику ансамбля и выявить новые режимы его функционирования.
В результате численных экспериментов установлено, что динамика внеклеточного калия и положительная обратная связь играют определяющую роль в формировании устойчивых пространственных структур возбуждения. Показано, что при локальной стимуляции активность ограничена за счет диффузионного оттока калия, в то время как надкритическое возбуждение инициирует самоподдерживающиеся автоволновые режимы, стабилизация которых приводит к формированию пространственных паттернов, морфологически схожих со структурами Тьюринга. Такие структуры, характеризующиеся чередованием зон высокой и низкой активности, не зависят от конкретных начальных условий, но чувствительны к вариациям параметров, что указывает на функционирование системы в режиме динамической неустойчивости (хаоса), согласующемся с концепцией самоорганизованной критичности мозга в физиологической норме. Модель успешно воспроизводит экспериментально наблюдаемые явления, включая бёрстинг и чувствительность к внеклеточному калию. Полученные результаты открывают новые перспективы для анализа патофизиологических механизмов работы мозга.
Ключевые слова: нейроглиоваскулярная единица, синаптическая активность, астроциты, нейроны, нейромодуляторы, глутамат, гамма-аминомасляная кислота, норадреналин, кровоток.
Excitation patterns in the networks of inhibitory and excitatory neurons in the model of the neuroglial-vascular unit
Computer Research and Modeling, 2026, v. 18, no. 2, pp. 439-461Numerous contemporary studies confirm that neurons, astrocytes and blood vessels function as a unified dynamic system. Consequently, the concept of the integrated neurogliovascular unit (NGVU), encompassing these components, has emerged and gained significant traction in recent years. According to this framework, normal brain function relies on a broad complex of interactions between NGVU elements, while the disruption of these links may underlie various neuropathologies. Understanding the processes within a single NGVU, as well as the organization of connections between multiple units, is a prerequisite for successful diagnosis and therapy of neurological disorders.
In this work, we developed an NGVU model that, for the first time, integrates a detailed description of synaptically coupled excitatory and inhibitory neuronal networks (accounting for the E/I balance), extracellular environment dynamics (potassium, glutamate, GABA), and norepinephrine-modulated astrocytic activity, with subsequent regulation of local blood flow.
A key conceptual feature of the model is the integration of multiscale processes — ranging from ion dynamics at the level of individual Hodgkin – Huxley neurons to substance diffusion across a network of 100 NGVUs — into a single system of coupled nonlinear differential equations. This approach enabled the investigation of the ensemble’s collective dynamics and the identification of novel functional regimes.
Numerical experiments established that extracellular potassium dynamics and positive feedback play a decisive role in the formation of stable spatial excitation structures. It is shown that under local stimulation, activity remains confined due to potassium diffusion outflow; however, supercritical excitation initiates self-sustaining autowave regimes. The stabilization of these regimes leads to the formation of spatial patterns morphologically similar to Turing structures. These patterns, characterized by alternating zones of high and low activity, are independent of specific initial conditions but sensitive to parameter variations. This suggests that the system operates in a dynamic instability (chaos) regime, which is consistent with the concept of self-organized criticality of the brain under physiological conditions. The model successfully reproduces experimentally observed phenomena, including bursting and sensitivity to extracellular potassium. The results provide new perspectives for analyzing the pathophysiological mechanisms of brain function.
-
Алгоритм конечных элементов для моделирования поясничного отдела позвоночника с учетом физической нелинейности материала
Компьютерные исследования и моделирование, 2026, т. 18, № 4, с. 974-988В данной статье представлены разработка и верификация алгоритма конечных элементов для моделирования нелинейной деформации в позвоночно-двигательном сегменте (ПДС) поясничного отдела позвоночника человека. Исследование мотивировано растущей распространенностью заболеваний опорно-двигательного аппарата и необходимостью улучшения методов прогнозирования поведения сегментов позвоночника при различных условиях нагрузки и патологиях.
Современные подходы к моделированию часто используют упрощенную геометрию и линейные законы деформации (закон Гука) для всех элементов позвоночника, включая межпозвоночный диск. Однако эти модели неадекватно представляют анатомию человека и физические свойства межпозвоночного диска, который состоит из фиброзного кольца и пульпозного ядра, демонстрирующих выраженные нелинейные и вязкоупругие характеристики.
Для решения этих проблем авторы предлагают математическую модель, в которой позвонки рассматриваются как линейно упругие, неоднородные тела, а межпозвоночный диск моделируется в соответствии с теорией нелинейной деформации. Анатомически точная 3D-реконструкция поясничного отдела позвоночника была создана на основе изображений компьютерной томографии (КТ). Для дискретизации использовались объемные тетраэдрические конечные элементы. Поведение межпозвоночного диска описывается с помощью теории изгиба тонких пластин, основанной на предположениях Кирхгофа – Лава.
Ключевой особенностью алгоритма является двухэтапная процедура решения: сначала получается линейно-упругое решение, а затем вычисляются дополнительные узловые силы для элементов диска, что позволяет проводить эффективный нелинейный анализ без модификации матрицы жесткости.
Проверка модели проводилась с использованием двух геометрических представлений поясничного отдела позвоночника: упрощенной версии, включающей параллелепипеды и цилиндры, и персонализированной модели, полученной из КТ изображений конкретного пациента. Результаты численного моделирования показывают, что учет нелинейных свойств межпозвоночного диска существенно изменяет как характер, так и величину деформаций по сравнению с чисто упругими моделями, создавая нелинейные сегменты на кривых «напряжение – деформация». Расхождение между результатами, полученными с помощью предложенного алгоритма, и результатами, полученными с помощью программного обеспечения Comsol, не превышало 10%, что подтверждает достоверность модели. Данный алгоритм демонстрирует перспективность для исследования биомеханики поясничного отдела позвоночника в нормальных условиях, при дегенеративных изменениях и послеоперационном периоде.
Ключевые слова: метод конечных элементов, сходимость, поясничный отдел позвоночника, позвонки, межпозвоночный диск.
Finite element algorithm for lumbar spine modeling incorporating physical nonlinearity of material
Computer Research and Modeling, 2026, v. 18, no. 4, pp. 974-988This paper presents the development and verification of a finite element algorithm for modeling nonlinear deformation in the functional spinal unit (FSU) of the human lumbar spine. The study is motivated by the increasing prevalence of musculoskeletal disorders and the need for improved predictive methods for spinal motion segment behavior under various loading conditions and pathologies.
Current modeling approaches often employ simplified geometry and linear deformation laws (Hooke’s law) for all spinal elements, including the intervertebral disc. However, these models inadequately represent human anatomy and the physical properties of the intervertebral disc, which comprises the annulus fibrosus and nucleus pulposus exhibiting pronounced nonlinear and viscoelastic characteristics.
To address these limitations, the authors propose a mathematical model wherein vertebrae are treated as linearly elastic, heterogeneous bodies, while the intervertebral disc is modeled according to nonlinear deformation theory. An anatomically accurate 3D reconstruction of the lumbar spine was generated from computed tomography (CT) images. Volumetric tetrahedral finite elements were employed for discretization. The intervertebral disc behavior is described using thin plate bending theory based on Kirchhoff-Love assumptions.
The algorithm’s key feature is a two-step solution procedure: an initial linear elastic solution is obtained, followed by the calculation of additional nodal forces for disc elements, enabling efficient nonlinear analysis without stiffness matrix modification.
Model verification was performed using two geometric representations of the lumbar spine: a simplified version comprising parallelepipeds and cylinders, and a patient-specific realistic model derived from CT data. Numerical simulation results demonstrate that incorporating nonlinear properties of the intervertebral disc substantially alters both deformation patterns and magnitudes compared to purely elastic models, producing nonlinear segments on stress-strain curves. The discrepancy between results obtained with the proposed algorithm and those from Comsol software did not exceed 10%, confirming the model’s validity. This algorithm shows promise for investigating lumbar spine biomechanics under normal conditions, degenerative changes, and post-surgical states.
Indexed in Scopus
Full-text version of the journal is also available on the web site of the scientific electronic library eLIBRARY.RU
The journal is included in the Russian Science Citation Index
The journal is included in the RSCI
International Interdisciplinary Conference "Mathematics. Computing. Education"




