All issues
- 2026 Vol. 18
- 2025 Vol. 17
- 2024 Vol. 16
- 2023 Vol. 15
- 2022 Vol. 14
- 2021 Vol. 13
- 2020 Vol. 12
- 2019 Vol. 11
- 2018 Vol. 10
- 2017 Vol. 9
- 2016 Vol. 8
- 2015 Vol. 7
- 2014 Vol. 6
- 2013 Vol. 5
- 2012 Vol. 4
- 2011 Vol. 3
- 2010 Vol. 2
- 2009 Vol. 1
-
Простой численный метод расщепления для решения линейного кинетического уравнения Больцмана с интенсивным рассеянием
Компьютерные исследования и моделирование, 2026, т. 18, № 2, с. 315-333В работе проанализированы некоторые проблемы разработки численных методов решения задач с линейным кинетическим уравнением переноса больцмановского типа. Перечислены существующие приложения такого рода уравнения. Основное внимание уделяется задачам переноса излучения в плоском слое, имеющим важное значение для экспериментальной исследовательской практики. Даны основные определения и приведены традиционные ограничения, применяемые в задачах переноса излучения. Рассмотрены некоторые особенности постановки задач радиационного переноса для плоских слоев нерегулярных гетерогенных композиционных материалов, частично прозрачных для электромагнитного излучения. Указаны основные подходы к численному и численно-аналитическому решению линейного кинетического уравнения переноса.
Рассмотрены некоторые варианты наиболее простых сеточных численных методов установления для решения кинетических задач переноса в плоском слое среды с сильным ослаблением. Проанализированы проблемы одно- и двухшаговых вариантов таких итерационных методов, для некоторых из них исследованы и установлены причины отсутствия устойчивости и сходимости.
Показано, что в явном консервативном одношаговом методе для слоя однородной поглощающей, но не излучающей и не рассеивающей среды в спектре гармонических решений всегда существуют неустойчивые моды. Они возникают в области излучения, распространяющегося почти параллельно границам слоя, а их неустойчивость усиливается с ростом эффектов ослабления среды и обусловлена наличием в уравнении переноса малого коэффициента перед пространственной производной. Для ограничения нежелательного влияния этой компоненты рассмотрены различные варианты расщепления уравнения на два и три дробных шага. Показано, что наиболее предпочтительными являются варианты с явной организацией дробных шагов, для которых представлено доказательство устойчивости и сходимости, основанное на теореме Лакса об эквивалентности. Доказано, что правильное выстраивание последовательности дробных шагов в явных схемах численного решения линейных нестационарных кинетических задач переноса способно обеспечивать их дополнительную стабилизацию, причем важную роль стабилизирующего инструмента может играть интеграл рассеяния. Так, при решении кинетических задач переноса в средах с высоким альбедо рассеяния наиболее простым и эффективным оказался явный сеточный метод установления с расщеплением итераций на три дробных шага по физическим процессам. Метод реализован в виде кода на языке Matlab, который в процессе получения численного решения осуществляет контроль его качества.
Представлены наиболее существенные результаты моделирования, подтвердившие, что трехшаговый метод предъявляет сравнительно умеренные требования по ресурсам, точности численного интегрирования и обеспечивает условную сходимость итераций. Его математическая корректность подтверждена поведением невязок уравнения, прямым контролем сходимости численных решений, физическая — обеспечением для эргодических систем свойством сходимости к инвариантному стационарному состоянию, не зависящему от начальных условий. Перечислены некоторые обнаруженные и возможные ограничения метода.
Работа будет полезной специалистам в области математического моделирования, численных методов, кинетической теории, комбинированного тепло- и массообмена, занимающимся вопросами интерпретации экспериментальных данных, аспирантам и студентам старших курсов, специализирующимся в указанных направлениях.
Ключевые слова: математическое моделирование, линейное кинетическое уравнение, радиационный перенос, плоский слой, сильное рассеивание, явный трехшаговый численный метод расщепления, обоснование.
A simple numerical splitting method for solving the linear Boltzmann kinetic equation with intense scattering
Computer Research and Modeling, 2026, v. 18, no. 2, pp. 315-333This paper analyzes some issues in developing numerical methods for solving problems with a Boltzmann-type linear kinetic transport equation. Existing applications of this type of equation are listed. The focus is on the problem of radiative transfer in a flat layer, which are important for experimental research practice. Key definitions and traditional limitations applied to radiative transfer problems are presented. Some features of formulating radiative transfer problems for flat layers of irregular heterogeneous composite materials that are partially transparent to electromagnetic radiation are considered. The main approaches to the numerical and numerical-analytical solution of the linear kinetic transport equation are outlined.
Some variants of the simplest grid numerical methods for solving of nonstationary kinetic problems of transport a flat layer of a medium with strong attenuation are considered. Problems with one- and two-step variants of these iterative methods are analyzed, for some of them the causes of instability and convergence absence in some of them are investigated and established. It is shown that in the explicit conservative one-step method for a layer of a homogeneous absorbing, but neither radiating nor scattering, medium, unstable modes always exist in the spectrum of harmonic solutions. These modes arise in the region of radiation propagating almost parallel to the layer boundaries, and their instability increases with increasing attenuation effects and is caused by the presence of a small coefficient before the spatial derivative in the transport equation. To limit the undesirable influence of this component, various variants of splitting the equation into two and three fractional steps are considered.
It is shown that the most preferable options are those with explicitly organized fractional steps, for which a proof of their stability and convergence, that based on the Lax’s equivalence theorem is presented. It is demonstrated that the correct building of the fractional step sequence in explicit schemes for numerical solving of the nonstationary linear kinetic transport problems can provide additional stabilization, with the scattering integral plays an important role in stabilizing them. So, when solving kinetic transport problems in media with high scattering albedo, the explicit grid method of settling with splitting the iterations into three fractional steps, that were based on physical processes proved to be the simplest and most effective. The method is implemented as Matlab code, which performs quality control during the generation of the numerical solution process. The most significant modeling results are presented, confirming that the three-step method imposes relatively moderate requirements on resources and numerical integration accuracy, and ensures conditional convergence of iterations. Its mathematical correctness is confirmed by the behavior of the equation residuals and direct control of the convergence of numerical solutions. Its physical correctness is confirmed by ensuring, for ergodic systems, the property of convergence to an invariant steady state independent of the initial conditions. Some discovered and possible limitations of the method are listed.
The work will be useful to specialists in the field of mathematical modeling, numerical methods, kinetic theory, combined heat and mass transfer, dealing with issues of interpretation of experimental data, graduate students and senior students specializing in the indicated areas.
-
Гибридные модели в биомедицинских приложениях
Компьютерные исследования и моделирование, 2019, т. 11, № 2, с. 287-309В статье представлен обзор недавних работ по гибридным дискретно-непрерывным моделям в динамике клеточных популяций. В этих моделях, широко используемых в биологическом моделировании, клетки рассматриваются как отдельные объекты, которые могут делиться, умирать, дифференцироваться и двигаться под воздействием внешних сил. В простейшем представлении клетки рассматриваются как мягкие сферы, их движение описывается вторым законом Ньютона для их центров. В более полном представлении могут учитываться геометрия и структура клеток. Судьба клеток определяется концентрациями внутриклеточных веществ и различных веществ во внеклеточном матриксе, таких как питательные вещества, гормоны, факторы роста. Внутриклеточные регуляторные сети описываются обыкновенными дифференциальными уравнениями, а внеклеточные концентрации — уравнениями в частных производных. Мы проиллюстрируем применение этого подхода некоторыми примерами, в том числе бактериальными филаметами и ростом раковойоп ухоли. Далее будут приведены более детальные исследования эритропоэза и иммунного ответа. Эритроциты произодятся в костном мозге в небольших структурах, называемых эритробластными островками. Каждыйо стровок образован центральным макрофагом, окруженным эритроидными предшественниками на разных стадиях зрелости. Их выбор между самообновлением, дифференцировкойи апоптозом определяется регуляцией ERK/Fas и фактором роста, производимым макрофагами. Нормальное функционирование эритропоэза может быть нарушено развитием множественной миеломы, злокачественного заболевания крови, которое приводит к разрушению эритробластических островков и к развитию анемии. Последняя часть работы посвящена применению гибридных моделей для изучения иммунного ответа и развития вируснойинф екции. Представлена двухмасштабная модель, включающая лимфатическийу зел и другие ткани организма, включая кровеносную систему.
Hybrid models in biomedical applications
Computer Research and Modeling, 2019, v. 11, no. 2, pp. 287-309Views (last year): 25.The paper presents a review of recent developments of hybrid discrete-continuous models in cell population dynamics. Such models are widely used in the biological modelling. Cells are considered as individual objects which can divide, die by apoptosis, differentiate and move under external forces. In the simplest representation cells are considered as soft spheres, and their motion is described by Newton’s second law for their centers. In a more complete representation, cell geometry and structure can be taken into account. Cell fate is determined by concentrations of intra-cellular substances and by various substances in the extracellular matrix, such as nutrients, hormones, growth factors. Intra-cellular regulatory networks are described by ordinary differential equations while extracellular species by partial differential equations. We illustrate the application of this approach with some examples including bacteria filament and tumor growth. These examples are followed by more detailed studies of erythropoiesis and immune response. Erythrocytes are produced in the bone marrow in small cellular units called erythroblastic islands. Each island is formed by a central macrophage surrounded by erythroid progenitors in different stages of maturity. Their choice between self-renewal, differentiation and apoptosis is determined by the ERK/Fas regulation and by a growth factor produced by the macrophage. Normal functioning of erythropoiesis can be compromised by the development of multiple myeloma, a malignant blood disorder which leads to a destruction of erythroblastic islands and to sever anemia. The last part of the work is devoted to the applications of hybrid models to study immune response and the development of viral infection. A two-scale model describing processes in a lymph node and other organs including the blood compartment is presented.
-
Стохастическое моделирование химических реакций в субдиффузионной среде
Компьютерные исследования и моделирование, 2021, т. 13, № 1, с. 87-104В последние десятилетия активно развивается теория аномальной диффузии, объединяющая различные транспортные процессы, в которых характерное среднеквадратичное рассеяние растет со временем по степенному закону, а не линейно, как для нормальной диффузии. Так, к примеру, диффузия жидкостей в пористых телах, перенос зарядов в аморфных полупроводниках и молекулярный транспорт в вязких средах демонстрируют аномальное «замедление» по сравнению со стандартной моделью.
Удобным инструментом исследования таких процессов является прямое стохастическое моделирование. В работе описана одна из возможных схем такого рода, в основе которой лежит процесс восстановления с временами ожидания, имеющими степенную асимптотику. Аналитические построения показывают тесную связь между рассмотренным классом случайных процессов и уравнениями с производными нецелого порядка. Этот подход легко можно распространить ( соответствующий алгоритм представлен в тексте) на системы, в которых, помимо транспорта, возможны химические реакции. Актуальность исследований в этой области продиктована тем, что точный вид интегро-дифференциальных уравнений, описывающих химическую кинетику в системах с аномальной диффузией, остается пока предметом дискуссии.
Поскольку рассматриваемый класс случайных процессов не обладает марковским свойством, здесь возникают принципиально новые проблемы по сравнению с моделированием химических реакций при нормальной диффузии. Главная из них заключается в способе, которым определяется, какие молекулы должны «погибнуть» в ходе реакции. Поскольку точная схема, отслеживающая каждую возможную комбинацию реактантов, неприемлема с вычислительной точки зрения из-за слишком большого числа таких комбинаций, было предложено несколько простых эвристических процедур. Серия вычислительных экспериментов показала, что результаты весьма чувствительны к выбору одной из этих эвристик.
Stochastic simulation of chemical reactions in subdiffusion medium
Computer Research and Modeling, 2021, v. 13, no. 1, pp. 87-104Theory of anomalous diffusion, which describe a vast number of transport processes with power law mean squared displacement, is actively advancing in recent years. Diffusion of liquids in porous media, carrier transport in amorphous semiconductors and molecular transport in viscous environments are widely known examples of anomalous deceleration of transport processes compared to the standard model.
Direct Monte Carlo simulation is a convenient tool for studying such processes. An efficient stochastic simulation algorithm is developed in the present paper. It is based on simple renewal process with interarrival times that have power law asymptotics. Analytical derivations show a deep connection between this class of random process and equations with fractional derivatives. The algorithm is further generalized by coupling it with chemical reaction simulation. It makes stochastic approach especially useful, because the exact form of integrodifferential evolution equations for reaction — subdiffusion systems is still a matter of debates.
Proposed algorithm relies on non-markovian random processes, hence one should carefully account for qualitatively new effects. The main question is how molecules leave the system during chemical reactions. An exact scheme which tracks all possible molecule combinations for every reaction channel is computationally infeasible because of the huge number of such combinations. It necessitates application of some simple heuristic procedures. Choosing one of these heuristics greatly affects obtained results, as illustrated by a series of numerical experiments.
-
Молекулярно-динамическое исследование комплексов ДНК-аптамера с АМФ и ГМФ
Компьютерные исследования и моделирование, 2021, т. 13, № 6, с. 1191-1203В данной работе при помощи метода молекулярной динамики проводится сравнительное исследование конформационной стабильности ДНК-аптамера к аденозиновым производным в свободном состоянии и в комплексе с молекулами АМФ и ГМФ. Показано, что в свободном состоянии структура внутренней петли шпильки ДНК-аптамера за счет особой упаковки гуанинов закрывает полость сайта связывания от внешних лигандов, при этомв озникает условие специфичного отбора молекул аденозинового производного в сравнении с гуанином. В дополнение к имеющимся в литературе выявлены новые факторы стабилизации комплекса АМФ и аптамера — водородные связи между О3’ атома рибозы лигандов с кислородом ближайшей фосфатной группы. Также показано, что гуанины, которые образуют водородные связи с АМФ внутри сайта связывания, дополнительно стабилизируются водородными связями с противолежащими по цепи фосфатными группами. Предложенная схема качественно соответствует экспериментальным данным, согласно которым аптамер в растворе обретает конформацию шпильки с формированием сайта связывания, при этом образованный сайт проявляет высокую специфичность при взаимодействии только с аденозиновыми производными.
Molecular dynamics study of complexes of a DNA aptamer with AMP and GMP
Computer Research and Modeling, 2021, v. 13, no. 6, pp. 1191-1203This study is devoted to a comparative study of the conformational stability of the DNA aptamer to adenosine derivatives in a free state and in a complex with AMP and HMP molecules by use of molecular dynamics. It was shown that, in the free state, the structure of the inner loop of the DNA aptamer hairpin, due to the special packing of guanines, closes the cavity of the binding site from external ligands, and the condition for the specific selection of adenosine derivatives in comparison with guanine arises. New stabilization factors of the AMP and aptamer complex have been revealed — hydrogen bonds between the O3’ of the ribose atom of the ligands with the oxygen of the nearest phosphate group. It was also shown that guanines, which form hydrogen bonds with AMP within the binding site, are additionally stabilized by hydrogen bonds with phosphate groups opposing along the chain. The proposed scheme is in qualitative agreement with the experimental data, according to which the aptamer in solution acquires a hairpin conformation with the formation of a binding site, while the formed site exhibits high specificity when interacting only with adenosine derivatives.
-
О миграции популяции по экологической нише с пространственно неоднородной локальной емкостью
Компьютерные исследования и моделирование, 2025, т. 17, № 3, с. 483-500Статья посвящена описанию процесса миграции некоторой популяции с учетом пространственной неоднородности локальной емкости экологической ниши. Предполагается, что эта пространственная неоднородность обусловлена различными природными или искусственными факторами. Математическая модель рассматриваемого процесса миграции представляет собой задачу Коши на прямой для некоторого квазилинейного уравнения в частных производных первого порядка, которому удовлетворяет линейная плотность численности рассматриваемой популяции. В данной работе найдено общее решение этой задачи Коши для произвольной зависимости локальной емкости экологической ниши от пространственной координаты. Это общее решение было применено для описания миграции рассматриваемой популяции в двух различных случаях: в случае зависимости локальной емкости экологической ниши от пространственной координаты в виде гладкой ступеньки и в случае холмообразной зависимости локальной емкости экологической ниши от пространственной координаты. В обоих случаях решение задачи Коши выражается через высшие трансцендентные функции. Наложением специальных соотношений на параметры модели эти высшие трансцендентные функции сводятся к элементарным функциям, что позволяет получить точные решения модели в явном виде, выраженные через элементарные функции. С помощью этих точных решений реализована обширная программа вычислительных экспериментов, показывающих, как начальная плотность популяции гауссовской формы рассеивается на рассмотренных двух видах пространственной неоднородности локальной емкости экологической ниши. Эти вычислительные эксперименты показали, что при прохождении и через ступенеобразную, и через холмообразную пространственную неоднородность локальной емкости экологической ниши с узкой, по сравнению с характерным пространственным масштабом этих неоднородностей, шириной гауссоиды ее начальной плотности система забывает свое начальное состояние. В частности, если интерпретировать исследуемую систему как популяцию, обитающую в протяженной спокойной прямолинейной реке вдоль ее русла, то можно утверждать, что при таком начальном условии после того, как течение этой реки пронесет рассматриваемую популяцию через область пространственной неоднородности локальной емкости экологической ниши, плотность численности популяции становится квазипрямоугольной функцией.
Ключевые слова: метод характеристик, уравнение Бернулли, гипергеометрическая функция Гаусса, гипергеометрическая функция Аппеля.
On population migration in an ecological niche with a spatially heterogeneous local capacity
Computer Research and Modeling, 2025, v. 17, no. 3, pp. 483-500The article describes the migration process of a certain population, taking into account the spatial heterogeneity of the local capacity of the ecological niche. It is assumed that this spatial heterogeneity is caused by various natural or artificial factors. The mathematical model of the migration process under consideration is a Cauchy problem on a straight line for some quasi-linear partial differential equation of the first order, which is satisfied by the linear population density under consideration. In this paper, a general solution to this Cauchy problem is found for an arbitrary dependence of the local capacity of an ecological niche on the spatial coordinate. This general solution was applied to describe the migration of the population in question in two different cases: in the case of a dependence of the local capacity of the ecological niche on the spatial coordinate in the form of a smooth step and in the case of a hill-like dependence of the local capacity of the ecological niche on the spatial coordinate. In both cases, the solution to the Cauchy problem is expressed in terms of higher transcendental functions. By applying special relations to the model parameters, these higher transcendental functions are reduced to elementary functions, which makes it possible to obtain exact model solutions explicitly expressed in terms of elementary functions. With the help of these precise solutions, an extensive program of computational experiments has been implemented, showing how the initial population density of the Gaussian form is dispersed by the considered two types of spatial heterogeneity of the local capacity of the ecological niche. These computational experiments have shown that when passing through both step-like and hill-like spatial inhomogeneities of the local capacity of an ecological niche with a narrow Gaussian width of its initial density compared to the characteristic spatial scale of these inhomogeneities, the system forgets its initial state. In particular, if we interpret the system under study as a population living in an extended calm rectilinear river along its bed, then it can be argued that under this initial condition, after the current of this river carries the population under consideration through the area of spatial heterogeneity of the local capacity of the ecological niche, the population density becomes a quasi-rectangular function.
-
Релаксационные колебания и устойчивость тонких оболочек
Компьютерные исследования и моделирование, 2020, т. 12, № 4, с. 807-820В работе изучаются возможности прогнозирования потери устойчивости тонких цилиндрических оболочек неразрушающими методами на стадии эксплуатации. Исследуются пологие оболочки, изготовленные из высокопрочных материалов. Для таких конструктивных решений характерны перемещения поверхностей, превосходящие толщины элементов. В рассматриваемых оболочках могут генерироваться релаксационные колебания значительной амплитуды даже при сравнительно невысоком уровне внутренних напряжений. Произведено упрощенное механико-математическое моделирование задачи о колебаниях цилиндрической оболочки, сводящее проблему к обыкновенному дифференциальному уравнению. При создании модели существенно использованы исследования многих авторов по изучению геометрии поверхности, образующейся после потери устойчивости. Нелинейное обыкновенное дифференциальное уравнение колеблющейся оболочки совпадает с хорошо изученным уравнением Дуффинга. Важно, что для тонких оболочек в уравнении Дуффинга появляется малый параметр перед второй производной по времени. Последнее обстоятельство дает возможность провести детальный анализ выведенного уравнения и описать релаксационные колебания — физическое явление, присущее только тонким высокопрочным оболочкам.
Показано, что гармонические колебания оболочки вокруг положения равновесия и устойчивые релаксационные колебания определяются точкой бифуркации решений уравнения Дуффинга. Эта точка является первой в схеме Фейгенбаума по преобразованию устойчивых периодических движений в динамический хаос. Произведены вычисления амплитуды и периода релаксационных колебаний в зависимости от физических свойств и уровня внутренних напряжений в оболочке. Рассмотрены два случая нагружения: сжатие вдоль образующих и внешнее давление.
Отмечено, что если внешние силы изменяются в течение времени по гармоническому закону, то периодическое колебание оболочки (нелинейный резонанс) состоит из отрезков медленного и скачкообразного движений. Этот факт, наряду со знанием амплитуды и частоты колеблющейся оболочки, позволяет предложить экспериментальную установку для прогноза потери устойчивости оболочки неразрушающим методом. В качестве критерия безопасности принято следующее требование: максимальные комбинации нагрузок не должны вызывать перемещения, превышающие заданные пределы. Получена формула, оценивающая запас устойчивости (коэффициент безопасности) конструкции по результатам экспериментальных измерений.
Ключевые слова: упругие оболочки, потеря устойчивости, релаксационные колебания, осциллятор Дуффинга, коэффициент безопасности, экспериментальный прогноз потери устойчивости.
Relaxation oscillations and buckling of thin shells
Computer Research and Modeling, 2020, v. 12, no. 4, pp. 807-820The paper reviews possibilities to predict buckling of thin cylindrical shells with non-destructive techniques during operation. It studies shallow shells made of high strength materials. Such structures are known for surface displacements exceeding the thickness of the elements. In the explored shells relaxation oscillations of significant amplitude can be generated even under relatively low internal stresses. The problem of the cylindrical shell oscillation is mechanically and mathematically modeled in a simplified form by conversion into an ordinary differential equation. To create the model, the researches of many authors were used who studied the geometry of the surface formed after buckling (postbuckling behavior). The nonlinear ordinary differential equation for the oscillating shell matches the well-known Duffing equation. It is important that there is a small parameter before the second time derivative in the Duffing equation. The latter circumstance enables making a detailed analysis of the obtained equation and describing the physical phenomena — relaxation oscillations — that are unique to thin high-strength shells.
It is shown that harmonic oscillations of the shell around the equilibrium position and stable relaxation oscillations are defined by the bifurcation point of the solutions to the Duffing equation. This is the first point in the Feigenbaum sequence to convert the stable periodic motions into dynamic chaos. The amplitude and the period of relaxation oscillations are calculated based on the physical properties and the level of internal stresses within the shell. Two cases of loading are reviewed: compression along generating elements and external pressure.
It is highlighted that if external forces vary in time according to the harmonic law, the periodic oscillation of the shell (nonlinear resonance) is a combination of slow and stick-slip movements. Since the amplitude and the frequency of the oscillations are known, this fact enables proposing an experimental facility for prediction of the shell buckling with non-destructive techniques. The following requirement is set as a safety factor: maximum load combinations must not cause displacements exceeding specified limits. Based on the results of the experimental measurements a formula is obtained to estimate safety against buckling (safety factor) of the structure.
-
Применение алгоритма Random Forest для построения локального оператора, уточняющего результаты расчетов в задачах внешней аэродинамики
Компьютерные исследования и моделирование, 2021, т. 13, № 4, с. 761-778При моделировании турбулентных течений неизбежно приходится сталкиваться с выбором между точностью и скоростью проведения расчетов. Так, DNS- и LES-модели позволяют проводить более точные расчеты, но являются более вычислительно затратными, чем RANS-модели. Поэтому сейчас RANS- модели являются наиболее часто используемыми при проведении практических расчетов. Но и расчеты с применением RANS-моделей могут быть значительно вычислительно затратными для задач со сложной геометрией или при проведении серийных расчетов по причине необходимости разрешения пристенного слоя. Существуют подходы, позволяющие значительно ускорить вычисления для RANS-моделей. Например, пристеночные функции или методы, основанные на декомпозиции расчетной области. Тем не менее они неизбежно теряют в точности за счет упрощения модели в пристенной области. Для того чтобы одновременно получить и вычислительно эффективную и более точную модель, может быть построена суррогатная модель на основании упрощенной модели и с использованием знаний о предыдущих расчетах, полученных более точной моделью, например из некоторых результатов серийных расчетов.
В статье строится оператор перехода, позволяющий по результатам расчетов менее точной модели получить поле течения как при применении более точной модели. В данной работе результаты расчетов, полученные с помощью менее точной модели Спаларта–Аллмараса с применением пристенной декомпозиции, уточняются на основании расчетов схожих течений, полученных с помощью базовой модели Спаларта–Аллмараса с подробным разрешением пристенной области, с помощью методов машинного обучения. Оператор перехода от уточняемой модели к базовой строится локальным образом. То есть для уточнения результатов расчета в каждой точке расчетной области используются значения переменных пространства признаков (сами переменные поля и их производные) в этой точке. Для построения оператора используется алгоритм Random Forest. Эффективность и точность построенной суррогатной модели демонстрируется на примере двумерной задачи сверхзвукового турбулентного обтекания угла сжатия при различных числах Рейнольдса. Полученный оператор применяется к решению задач интерполяции и экстраполяции по числу Рейнольдса, также рассматривается топологический случай — интерполяция и экстраполяция по величине угла сжатия $\alpha$.
Ключевые слова: пристенная декомпозиция, пристенные функции, вычислительная аэродинамика, случайный лес, машинное обучение, турбулентность.
Application of Random Forest to construct a local operator for flow fields refinement in external aerodynamics problems
Computer Research and Modeling, 2021, v. 13, no. 4, pp. 761-778Numerical modeling of turbulent flows requires finding the balance between accuracy and computational efficiency. For example, DNS and LES models allow to obtain more accurate results, comparing to RANS models, but are more computationally expensive. Because of this, modern applied simulations are mostly performed with RANS models. But even RANS models can be computationally expensive for complex geometries or series simulations due to the necessity of resolving the boundary layer. Some methods, such as wall functions and near-wall domain decomposition, allow to significantly improve the speed of RANS simulations. However, they inevitably lose precision due to using a simplified model in the near-wall domain. To obtain a model that is both accurate and computationally efficient, it is possible to construct a surrogate model based on previously made simulations using the precise model.
In this paper, an operator is constructed that allows reconstruction of the flow field obtained by an accurate model based on the flow field obtained by the simplified model. Spalart–Allmaras model with approximate nearwall domain decomposition and Spalart–Allmaras model resolving the near-wall region are taken as the simplified and the base models respectively. The operator is constructed using a local approach, i. e. to reconstruct a point in the flow field, only features (flow variables and their derivatives) at this point in the field are used. The operator is constructed using the Random Forest algorithm. The efficiency and accuracy of the obtained surrogate model are demonstrated on the supersonic flow over a compression corner with different values for angle $\alpha$ and Reynolds number. The investigation has been conducted into interpolation and extrapolation both by $Re$ and $\alpha$.
-
Вычислительный алгоритм решения нелинейной краевой задачи водородопроницаемости с динамическими граничными условиями и концентрационно-зависимым коэффициентом диффузии
Компьютерные исследования и моделирование, 2024, т. 16, № 5, с. 1179-1193Рассматривается нелинейная краевая задача водородопроницаемости, соответствующая следующему эксперименту. Нагретая до достаточно высокой температуры мембрана из исследуемого конструкционного материала служит перегородкой вакуумной камеры. После предварительного вакуумирования и практически полной дегазации на входной стороне создается постоянное давление газообразного (молекулярного) водорода. С выходной стороны в условиях вакуумирования с помощью масс-спектрометра определяется проникающий поток.
Принята линейная модель зависимости коэффициента диффузии растворенного атомарного водорода в объеме от концентрации, температурная зависимость в соответствии с законом Аррениуса. Поверхностные процессы растворения и сорбции-десорбции учтены в форме нелинейных динамических краевых условий (дифференциальные уравнения динамики поверхностных концентраций атомарного водорода). Математическая особенность краевой задачи состоит в том, что производные по времени от концентраций входят как в уравнение диффузии, так и в граничные условия с квадратичной нелинейностью. В терминах общей теории функционально-дифференциальных уравнений это приводит к так называемым уравнениям нейтрального типа и требует разработки более сложного математического аппарата. Представлен итерационный вычислительный алгоритм второго (повышенного) порядка точности решения соответствующей нелинейной краевой задачи на основе явно-неявных разностных схем. Явная составляющая применяется к более медленным подпроцессам, что позволяет на каждом шаге избегать решения нелинейной системы уравнений.
Приведены результаты численного моделирования, подтверждающие адекватность модели экспериментальным данным. Определены степени влияния вариаций параметров водородопроницаемости («производные») на проникающий поток и распределение концентрации атомов H по толщине образца, что важно, в частности, для задач проектирования защитных конструкций от водородного охрупчивания и мембранных технологий получения особо чистого водорода. Вычислительный алгоритм позволяет использовать модель и при анализе экстремальных режимов для конструкционных материалов (перепады давления, высокие температуры, нестационарный нагрев), выявлять лимитирующие факторы при конкретных условиях эксплуатации и экономить на дорогостоящих экспериментах (особенно это касается дейтерий-тритиевых исследований).
Ключевые слова: водородопроницаемость, поверхностные процессы, численное моделирование, нелинейные краевые задачи, разностные схемы.
Computational algorithm for solving the nonlinear boundary-value problem of hydrogen permeability with dynamic boundary conditions and concentration-dependent diffusion coefficient
Computer Research and Modeling, 2024, v. 16, no. 5, pp. 1179-1193The article deals with the nonlinear boundary-value problem of hydrogen permeability corresponding to the following experiment. A membrane made of the target structural material heated to a sufficiently high temperature serves as the partition in the vacuum chamber. Degassing is performed in advance. A constant pressure of gaseous (molecular) hydrogen is built up at the inlet side. The penetrating flux is determined by mass-spectrometry in the vacuum maintained at the outlet side.
A linear model of dependence on concentration is adopted for the coefficient of dissolved atomic hydrogen diffusion in the bulk. The temperature dependence conforms to the Arrhenius law. The surface processes of dissolution and sorptiondesorption are taken into account in the form of nonlinear dynamic boundary conditions (differential equations for the dynamics of surface concentrations of atomic hydrogen). The characteristic mathematical feature of the boundary-value problem is that concentration time derivatives are included both in the diffusion equation and in the boundary conditions with quadratic nonlinearity. In terms of the general theory of functional differential equations, this leads to the so-called neutral type equations and requires a more complex mathematical apparatus. An iterative computational algorithm of second-(higher- )order accuracy is suggested for solving the corresponding nonlinear boundary-value problem based on explicit-implicit difference schemes. To avoid solving the nonlinear system of equations at every time step, we apply the explicit component of difference scheme to slower sub-processes.
The results of numerical modeling are presented to confirm the fitness of the model to experimental data. The degrees of impact of variations in hydrogen permeability parameters (“derivatives”) on the penetrating flux and the concentration distribution of H atoms through the sample thickness are determined. This knowledge is important, in particular, when designing protective structures against hydrogen embrittlement or membrane technologies for producing high-purity hydrogen. The computational algorithm enables using the model in the analysis of extreme regimes for structural materials (pressure drops, high temperatures, unsteady heating), identifying the limiting factors under specific operating conditions, and saving on costly experiments (especially in deuterium-tritium investigations).
-
Изучение пространственно-временных предвестников неустойчивости плотин с использованием модели CNN–BiGRU
Компьютерные исследования и моделирование, 2026, т. 18, № 2, с. 377-397Оценка безопасности плотин все в большей степени опирается на непрерывный мониторинг гидрометеорологических параметров; однако выявление ранних стадий неустойчивости остается сложной задачей вследствие сложных пространственно-временных взаимодействий и сильного дисбаланса наблюдений аварийных состояний. В настоящей работе предлагается фреймворк глубокого обучения на основе архитектуры сверточной двунаправленной рекуррентной нейронной сети с управляемыми вентилями (CNN–BiGRU) для выявления пространственно-временных предвестников неустойчивости плотин по многомерным гидрометеорологическим временным рядам. Сверточный компонент модели извлекает локальные временные паттерны, связанные с краткосрочными флуктуациями, тогда как двунаправленная рекуррентная структура позволяет моделировать долгосрочные зависимости и эволюцию динамики, предшествующие критическим состояниям.
Предложенная модель была протестирована на реальном наборе данных мониторинга плотины, включающем измерения уровня воды, метеорологические параметры и производные динамические индикаторы. Для учета дисбаланса классов применяется стоимостно-ориентированная стратегия обучения с использованием весов классов без применения синтетического увеличения выборки. Экспериментальные результаты демонстрируют высокие показатели качества классификации: точность (accuracy) — 0,961, прецизионность — 0,901, полнота — 0,757 и F1-мера — 0,823. Дополнительно модель достигает значений ROC AUC = 0,907 и PR AUC = 0,819, что свидетельствует о высокой способности к разделению классов в условиях сильного дисбаланса данных.
Анализ значимости признаков показывает, что краткосрочная и среднесрочная изменчивость уровня воды, включая скользящее стандартное отклонение, волатильность и многоуровневые градиенты, играет ключевую роль в формировании предаварийного поведения системы, обеспечивая физически интерпретируемое понимание динамики отклика плотины. Полученные результаты подтверждают, что фреймворк CNN–BiGRU эффективно выявляет значимые пространственно-временные предвестники неустойчивости и может служить надежным инструментом поддержки принятия решений в задачах мониторинга безопасности плотин в реальных эксплуатационных условиях.
Ключевые слова: безопасность плотин, системы раннего предупреждения, гидрометеорологические временные ряды, глубокое обучение, CNN–BiGRU, классификация несбалансированных данных, пространственно-временное моделирование, динамика уровня воды, прогнозирование риска аварий.
Learning spatio-temporal precursors of dam instability using a CNN–BiGRU framework
Computer Research and Modeling, 2026, v. 18, no. 2, pp. 377-397Dam safety assessment increasingly relies on continuous monitoring of hydrometeorological variables; however, identifying early-stage instability remains challenging due to complex spatio-temporal interactions and highly imbalanced failure observations. This study proposes a deep learning framework based on a Convolutional Bidirectional Gated Recurrent Unit (CNN–BiGRU) architecture to learn spatio-temporal precursors of dam instability from multivariate hydrometeorological time series. The convolutional component extracts localized temporal patterns associated with short-term fluctuations, while the bidirectional recurrent structure captures long-range dependencies and evolving dynamics preceding critical states.
The proposed model is evaluated on a real-world dam monitoring dataset comprising multiple water-level, meteorological, and derived dynamic indicators. To address class imbalance, a cost-sensitive training strategy using class weighting is adopted without synthetic oversampling. Experimental results demonstrate strong predictive performance, achieving an accuracy of 0.961, precision of 0.901, recall of 0.757, and an F1-score of 0.823. The model further attains a ROC-AUC of 0.907 and a PR-AUC of 0.819, indicating robust discrimination capability under imbalanced conditions.
Feature importance analysis reveals that short- and medium-term water level variability, including rolling standard deviation, volatility, and multi-scale gradients, play a dominant role in characterizing pre-instability behavior, providing physically interpretable insights into dam response dynamics. The findings suggest that the CNN–BiGRU framework effectively captures meaningful spatio-temporal precursors and offers a reliable data-driven tool for supporting dam safety monitoring and decision-making under real operational conditions.
-
Высокопроизводительная идентификация моделей кинетики гидридного фазового перехода
Компьютерные исследования и моделирование, 2020, т. 12, № 1, с. 171-183Гидриды металлов представляют собой интересный класс соединений, способных обратимо связывать большое количество водорода и потому представляющих интерес для приложений энергетики. Особенно важно понимание факторов, влияющих на кинетику формирования и разложения гидридов. Особенности материала, экспериментальной установки и условий влияют на математическое описание процессов, которое может претерпевать существенные изменения в ходе обработки экспериментальных данных. В статье предложен общий подход к численному моделированию формирования и разложения гидридов металлов и решения обратных задач оценки параметров материала по данным измерений. Модели делятся на два класса: диффузионные, принимающие во внимание градиент концентрации водорода в решетке металла, и модели с быстрой диффузией. Первые более сложны и имеют форму неклассических краевых задач параболического типа. Описан подход к сеточному решению таких задач. Вторые решаются сравнительно просто, но могут сильно меняться при изменении модельных предположений. Опыт обработки экспериментальных данных показывает, что необходимо гибкое программное средство, позволяющее, с одной стороны, строить модели из стандартных блоков, свободно изменяя их при необходимости, а с другой — избегать реализации рутинных алгоритмов, причем приспособленное для высокопроизводительных систем различной парадигмы. Этим условиям удовлетворяет представленная в работе библиотека HIMICOS, протестированная на большом числе экспериментальных данных. Она позволяет моделировать кинетику формирования и разложения гидридов металлов (и других соединений) на трех уровнях абстракции. На низком уровне пользователь определяет интерфейсные процедуры, такие как расчет слоя по времени на основании предыдущего слоя или всей предыстории, вычисление наблюдаемой величины и независимой переменной по переменным задачи, сравнение кривой с эталонной. При этом могут использоваться алгоритмы, решающие краевые задачи параболического типа со свободными границами в весьма общей постановке, в том числе с разнообразными квазилинейными (линейными по производной) граничными условиями, а также вычисляющие расстояние между кривыми в различных метрических пространствах и с различной нормировкой. Это средний уровень абстракции. На высоком уровне достаточно выбрать готовую модель для того или иного материала и модифицировать ее применительно к условиям эксперимента.
Ключевые слова: гидриды металлов, моделирование кинетики фазового перехода, численное моделирование химической кинетики.
High-throughput identification of hydride phase-change kinetics models
Computer Research and Modeling, 2020, v. 12, no. 1, pp. 171-183Metal hydrides are an interesting class of chemical compounds that can reversibly bind a large amount of hydrogen and are, therefore, of interest for energy applications. Understanding the factors affecting the kinetics of hydride formation and decomposition is especially important. Features of the material, experimental setup and conditions affect the mathematical description of the processes, which can undergo significant changes during the processing of experimental data. The article proposes a general approach to numerical modeling of the formation and decomposition of metal hydrides and solving inverse problems of estimating material parameters from measurement data. The models are divided into two classes: diffusive ones, that take into account the gradient of hydrogen concentration in the metal lattice, and models with fast diffusion. The former are more complex and take the form of non-classical boundary value problems of parabolic type. A rather general approach to the grid solution of such problems is described. The second ones are solved relatively simply, but can change greatly when model assumptions change. Our experience in processing experimental data shows that a flexible software tool is needed; a tool that allows, on the one hand, building models from standard blocks, freely changing them if necessary, and, on the other hand, avoiding the implementation of routine algorithms. It also should be adapted for high-performance systems of different paradigms. These conditions are satisfied by the HIMICOS library presented in the paper, which has been tested on a large number of experimental data. It allows simulating the kinetics of formation and decomposition of metal hydrides, as well as related tasks, at three levels of abstraction. At the low level, the user defines the interface procedures, such as calculating the time layer based on the previous layer or the entire history, calculating the observed value and the independent variable from the task variables, comparing the curve with the reference. Special algorithms can be used for solving quite general parabolic-type boundary value problems with free boundaries and with various quasilinear (i.e., linear with respect to the derivative only) boundary conditions, as well as calculating the distance between the curves in different metric spaces and with different normalization. This is the middle level of abstraction. At the high level, it is enough to choose a ready tested model for a particular material and modify it in relation to the experimental conditions.
Indexed in Scopus
Full-text version of the journal is also available on the web site of the scientific electronic library eLIBRARY.RU
The journal is included in the Russian Science Citation Index
The journal is included in the RSCI
International Interdisciplinary Conference "Mathematics. Computing. Education"




