All issues
- 2026 Vol. 18
- 2025 Vol. 17
- 2024 Vol. 16
- 2023 Vol. 15
- 2022 Vol. 14
- 2021 Vol. 13
- 2020 Vol. 12
- 2019 Vol. 11
- 2018 Vol. 10
- 2017 Vol. 9
- 2016 Vol. 8
- 2015 Vol. 7
- 2014 Vol. 6
- 2013 Vol. 5
- 2012 Vol. 4
- 2011 Vol. 3
- 2010 Vol. 2
- 2009 Vol. 1
-
Моделирование физических процессов воздействия мощного ядерного взрыва на астероид
Компьютерные исследования и моделирование, 2019, т. 11, № 5, с. 861-877В рамках проблемы предотвращения астероидно-кометной угрозы выполнен физический и теоретический анализ процессов воздействия различных факторов надповерхностного ядерного взрыва достаточно высокой энергии на астероид во внеатмосферных условиях космического пространства. Показано, что в соответствии с энергией и проницаемой способностью плазмы продуктов взрыва, рентгеновского и гамма-нейтронного излучения на поверхности астероида, обращенной к взрыву, образуется слоистая структура с разной плотностью энергии, зависящей от угловых координат. Для каждого слоя выяснен временной характер трансформации энергии внутри него и определены роли различных фото- и столкновительных процессов. Воздействие высокоскоростного потока плазмы носит эрозионный характер, при этом импульс плазмы передается астероиду. Показано, что в тонком слое поглощения рентгеновского излучения вещество астероида разогревается до высоких температур, и в результате его расширения формируется импульс отдачи, который не является определяющим из-за малой массы расширяющейся высокотемпературной плазмы. Расчеты показали, что основной импульс, полученный астероидом, связан с уносом разогретого слоя вещества, образованного нейтронным потоком (7.5 · 1014 г · см/с). Показано, что астероид с радиусом ~100 м приобретает при этом скорость ≈ 100 см/с. Расчеты выполнены с учетом затрат энергии взрыва на разрушение аморфной структуры вещества астероида (~1 эВ/атом = 3.8 · 1010 эрг/г) и на ионизацию в области высокотемпературного слоя. На основе аналогичного анализа получено приближенное выражение для оценки среднего размера осколков при возможном разрушении астероида ударными волнами, образующимися внутри него под действием импульсов давления. Выполнен физический эксперимент в лабораторных условиях, имитирующий фрагментацию каменного астероида и подтвердивший справедливость полученной зависимости от выбранных значений определенных параметров. В результате численных исследований воздействия взрыва, произведенных на различном расстоянии от поверхности астероида, показано, что учет реальной геометрии отколочного слоя дает оптимальную высоту для формирования максимального импульса астероида примерно в 1.5 раза большую, чем аналогичные оценки по упрощенной модели. Предложена двухэтапная концепция воздействия ядерных взрывов на астероид с использованием радиолокационных средств наведения. Проанализировано возможное влияние возникающих ионизационных помех на радиолокационное слежение за разлетом крупных осколков астероида в условиях пространственно-временной эволюции всех элементов исследуемой динамической системы.
Modeling the physical processes of a powerful nuclear explosion on an asteroid
Computer Research and Modeling, 2019, v. 11, no. 5, pp. 861-877As part of the paper, a physical and theoretical analysis of the impact processes of various factors of a highaltitude and high-energy nuclear explosion on the asteroid in extra-atmospheric conditions of open space is done. It is shown that, in accordance with the energy and permeability of the plasma of explosion products, X-ray and gamma-neutron radiation, a layered structure with a different energy density depending on angular coordinates is formed on the surface of the asteroid. The temporal patterns of the energy transformation for each layer is clarified and the roles of various photo- and collision processes are determined. The effect of a high-speed plasma flow is erosive in nature, and the plasma pulse is transmitted to the asteroid. The paper presents that in a thin layer of x-ray absorption, the asteroid substance is heated to high temperatures and as a result of its expansion, a recoil impulse is formed, which is not decisive due to the small mass of the expanding high-temperature plasma. Calculations shows that the main impulse received by an asteroid is associated with the entrainment of a heated layer of a substance formed by a neutron flux (7.5 E 1014 g E cm/s). It is shown that an asteroid with a radius of ~100 m acquires a velocity of . 100 cm/s. The calculations were performed taking into account the explosion energy spent on the destruction of the amorphous structure of the asteroid material (~1 eV/atom = 3.8 E 1010 erg/g) and ionization in the region of the high-temperature layer. Based on a similar analysis, an approximation is obtained for estimating the average size of fragments in the event of the possible destruction of the asteroid by shock waves generated inside it under the influence of pressure impulses. A physical experiment was conducted in laboratory conditions, simulating the fragmentation of a stone asteroid and confirming the validity of the obtained dependence on the selected values of certain parameters. As a result of numerical studies of the effects of the explosion, carried out at different distances from the surface of the asteroid, it is shown that taking into account the real geometry of the spallation layer gives the optimal height for the formation of the maximum asteroid momentum by a factor of 1.5 greater than similar estimates according to the simplified model. A two-stage concept of the impact of nuclear explosions on an asteroid using radar guidance tools is proposed. The paper analyzes the possible impact of the emerging ionization interference on the radar tracking of the movement of large fragments of the asteroid in the space-time evolution of all elements of the studied dynamic system.
-
Модифицированный метод Гаусса–Ньютона для решения гладкой системы нелинейных уравнений
Компьютерные исследования и моделирование, 2021, т. 13, № 4, с. 697-723В работе предлагается новая версия метода Гаусса–Ньютона для решения системы нелинейных уравнений, основанная на идеях использования верхней оценки нормы невязки системы уравнений и квадратичной регуляризации. Предложенная версия метода Гаусса–Ньютона на практике фактически задает целое параметризованное семейство методов решения систем нелинейных уравнений и задач восстановления регрессионной зависимости. Разработанное семейство методов Гаусса–Ньютона состоит целиком из итеративных методов, включающих в себя также специальные формы алгоритмов Левенберга–Марквардта, с обобщением на случаи применения в неевклидовых нормированных пространствах. В разработанных методах используется локальная модель, осуществляющая параметризованное проксимальное отображение и допускающая на практике применение неточного оракула в формате «черного ящика» с ограничением на точность вычисления и на сложность вычисления. Для разработанного семейства методов приведен анализ эффективности в терминах количества итераций алгоритма, точности и сложности представления локальной модели и вычисления оракула, параметров размерности решаемой задачи с выводом локальной и глобальной сходимости при использовании произвольного оракула. В работе представлены условия глобальной сублинейной сходимости для предложенного семейства методов решения системы нелинейных уравнений, состоящих из гладких по Липшицу функций. В рамках дополнительных естественных предположений о невырожденности системы нелинейных функций установлена локальная суперлинейная сходимость для рассмотренного семейства методов. При выполнении условия Поляка–Лоясиевича для системы нелинейных уравнений доказана локальная и глобальная линейная сходимость рассмотренных методов Гаусса–Ньютона. Помимо теоретического обоснования методов, в работе рассматриваются вопросы их практической реализации. В частности, в проведенных экспериментах для точного оракула приводятся схемы эффективного вычисления в зависимости от параметров размерности решаемой задачи. Предложенное семейство методов объединяет в себе несколько существующих и часто используемых на практике модификаций метода Гаусса–Ньютона, позволяя получить гибкий и удобный в использовании метод, реализуемый на практике с помощью стандартных техник выпуклой оптимизации и вычислительной линейной алгебры.
Ключевые слова: системы нелинейных уравнений, нелинейная регрессия, метод Гаусса–Ньютона, алгоритм Левенберга–Марквардта, методы доверительной области, невыпуклая оптимизация, неточное проксимальное отображение, неточный оракул, условие Поляка–Лоясиевича, оценка сложности.
Modified Gauss–Newton method for solving a smooth system of nonlinear equations
Computer Research and Modeling, 2021, v. 13, no. 4, pp. 697-723In this paper, we introduce a new version of Gauss–Newton method for solving a system of nonlinear equations based on ideas of the residual upper bound for a system of nonlinear equations and a quadratic regularization term. The introduced Gauss–Newton method in practice virtually forms the whole parameterized family of the methods solving systems of nonlinear equations and regression problems. The developed family of Gauss–Newton methods completely consists of iterative methods with generalization for cases of non-euclidean normed spaces, including special forms of Levenberg–Marquardt algorithms. The developed methods use the local model based on a parameterized proximal mapping allowing us to use an inexact oracle of «black–box» form with restrictions for the computational precision and computational complexity. We perform an efficiency analysis including global and local convergence for the developed family of methods with an arbitrary oracle in terms of iteration complexity, precision and complexity of both local model and oracle, problem dimensionality. We present global sublinear convergence rates for methods of the proposed family for solving a system of nonlinear equations, consisting of Lipschitz smooth functions. We prove local superlinear convergence under extra natural non-degeneracy assumptions for system of nonlinear functions. We prove both local and global linear convergence for a system of nonlinear equations under Polyak–Lojasiewicz condition for proposed Gauss– Newton methods. Besides theoretical justifications of methods we also consider practical implementation issues. In particular, for conducted experiments we present effective computational schemes for the exact oracle regarding to the dimensionality of a problem. The proposed family of methods unites several existing and frequent in practice Gauss–Newton method modifications, allowing us to construct a flexible and convenient method implementable using standard convex optimization and computational linear algebra techniques.
-
Оптимизация планирования выполнения пакетов заданий в многостадийных системах при ограничениях и формировании комплектов
Компьютерные исследования и моделирование, 2021, т. 13, № 5, с. 917-946Современные методы комплексного планирования выполнения пакетов заданий в многостадийных системах характеризуются наличием ограничений на размерность решаемой задачи, невозможностью гарантированного получения эффективных решений при различных значениях ее входных параметров, а также невозможностью учета условия формирования комплектов из результатов и ограничения на длительности интервалов времени функционирования системы. Для решения задачи планирования выполнения пакетов заданий при формировании комплектов результатов и ограничении на длительности интервалов времени функционирования системы реализована декомпозиция обобщенной функции системы на совокупность иерархически взаимосвязанных подфункций. Применение декомпозиции позволило использовать иерархический подход для планирования выполнения пакетов заданий в многостадийных системах, предусматривающий определение решений по составам пакетов заданий на первом уровне иерархии, решений по составам групп пакетов заданий, выполняемых в течение временных интервалов ограниченной длительности, на втором уровне и расписаний выполнения пакетов на третьем уровне иерархии. С целью оценки оптимальности решений по составам пакетов результаты их выполнения, полученные в течение заданных временных интервалов, распределяются по комплектам. Для определения комплексных решений применен аппарат теории иерархических игр. Построена модель иерархической игры для принятия решений по составам пакетов, групп пакетов и расписаниям выполнения пакетов, представляющая собой систему иерархически взаимосвязанных критериев оптимизации решений. В модели учтены условие формирования комплектов из результатов выполнения пакетов заданий и ограничение на длительность интервалов времени ее функционирования. Задача определения составов пакетов заданий и групп пакетов заданий является NP-трудной, поэтому для ее решения требуется применение приближенных методов оптимизации. С целью оптимизации групп пакетов заданий реализовано построение метода формирования начальных решений по их составам, которые в дальнейшем оптимизируются. Также сформулирован алгоритм распределения по комплектам результатов выполнения пакетов заданий, полученных в течение временных интервалов ограниченной длительности. Предложен метод локальной оптимизации решений по составам групп пакетов, в соответствии с которым из групп исключаются пакеты, результаты выполнения которых не входят в комплекты, и добавляются пакеты, не включенные ни в одну из групп. Выполнена программная реализация рассмотренного метода комплексной оптимизации составов пакетов заданий, групп пакетов заданий и расписаний выполнения пакетов заданий из групп (в том числе реализация метода оптимизации составов групп пакетов заданий). С ее использованием проведены исследования особенностей рассматриваемой задачи планирования. Сформулированы выводы, касающиеся зависимости эффективности планирования выполнения пакетов заданий в многостадийных системах при введенных условиях от входных параметров задачи. Использование метода локальной оптимизации составов групп пакетов заданий позволяет в среднем на 60% увеличить количество формируемых комплектов из результатов выполнения заданий в пакетах из групп по сравнению с фиксированными группами (не предполагающими оптимизацию).
Ключевые слова: пакеты заданий, многостадийная система, комплекты результатов, расписание, ограничение длительности временных интервалов работы системы.
Optimization of task package execution planning in multi-stage systems under restrictions and the formation of sets
Computer Research and Modeling, 2021, v. 13, no. 5, pp. 917-946Modern methods of complex planning the execution of task packages in multistage systems are characterized by the presence of restrictions on the dimension of the problem being solved, the impossibility of guaranteed obtaining effective solutions for various values of its input parameters, as well as the impossibility of registration the conditions for the formation of sets from the result and the restriction on the interval duration of time of the system operating. The decomposition of the generalized function of the system into a set of hierarchically interconnected subfunctions is implemented to solve the problem of scheduling the execution of task packages with generating sets of results and the restriction on the interval duration of time for the functioning of the system. The use of decomposition made it possible to employ the hierarchical approach for planning the execution of task packages in multistage systems, which provides the determination of decisions by the composition of task groups at the first level of the hierarchy decisions by the composition of task packages groups executed during time intervals of limited duration at the second level and schedules for executing packages at the third level the hierarchy. In order to evaluate decisions on the composition of packages, the results of their execution, obtained during the specified time intervals, are distributed among the packages. The apparatus of the theory of hierarchical games is used to determine complex solutions. A model of a hierarchical game for making decisions by the compositions of packages, groups of packages and schedules of executing packages is built, which is a system of hierarchically interconnected criteria for optimizing decisions. The model registers the condition for the formation of sets from the results of the execution of task packages and restriction on duration of time intervals of its operating. The problem of determining the compositions of task packages and groups of task packages is NP-hard; therefore, its solution requires the use of approximate optimization methods. In order to optimize groups of task packages, the construction of a method for formulating initial solutions by their compositions has been implemented, which are further optimized. Moreover, a algorithm for distributing the results of executing task packages obtained during time intervals of limited duration by sets is formulated. The method of local solutions optimization by composition of packages groups, in accordance with which packages are excluded from groups, the results of which are not included in sets, and packages, that aren’t included in any group, is proposed. The software implementation of the considered method of complex optimization of the compositions of task packages, groups of task packages, and schedules for executing task packages from groups (including the implementation of the method for optimizing the compositions of groups of task packages) has been performed. With its use, studies of the features of the considered planning task are carried out. Conclusion are formulated concerning the dependence of the efficiency of scheduling the execution of task packages in multistage system under the introduced conditions from the input parameters of the problem. The use of the method of local optimization of the compositions of groups of task packages allows to increase the number of formed sets from the results of task execution in packages from groups by 60% in comparison with fixed groups (which do not imply optimization).
-
Редукция дисперсии для минимаксных задач с небольшой размерностью одной из переменных
Компьютерные исследования и моделирование, 2022, т. 14, № 2, с. 257-275Статья посвящена выпукло-вогнутым седловым задачам, в которых целевая функция является суммой большого числа слагаемых. Такие задачи привлекают значительное внимание математического сообщества в связи с множеством приложений в машинном обучении, включая adversarial learning, adversarial attacks и robust reinforcement learning, и это лишь некоторые из них. Отдельные функции в сумме обычно представляют собой ошибку, связанную с объектом из выборки. Кроме того, формулировка допускает (возможно, негладкий) композитный член. Такие слагаемые часто отражают регуляризацию в задачах машинного обучения. Предполагается, что размерность одной из групп переменных относительно мала (около сотни или меньше), а другой — велика. Такой случай возникает, например, при рассмотрении двойственной формулировки задачи минимизации с умеренным числом ограничений. Предлагаемый подход основан на использовании метода секущей плоскости Вайды для минимизации относительно внешнего блока переменных. Этот алгоритм оптимизации особенно эффективен, когда размерность задачи не очень велика. Неточный оракул для метода Вайды вычисляется через приближенное решение внутренней задачи максимизации, которая решается ускоренным алгоритмом с редукцией дисперсии Katyusha. Таким образом, мы используем структуру задачи для достижения быстрой сходимости. В исследовании получены отдельные оценки сложности для градиентов различных компонент относительно различных переменных. Предложенный подход накладывает слабые предположения о целевой функции. В частности, не требуется ни сильной выпуклости, ни гладкости относительно низкоразмерной группы переменных. Количество шагов предложенного алгоритма, а также арифметическая сложность каждого шага явно зависят от размерности внешней переменной, отсюда предположение, что она относительно мала.
Ключевые слова: седловые задачи, методы первого порядка, методы секущей плоскости, редукция дисперсии.
Variance reduction for minimax problems with a small dimension of one of the variables
Computer Research and Modeling, 2022, v. 14, no. 2, pp. 257-275The paper is devoted to convex-concave saddle point problems where the objective is a sum of a large number of functions. Such problems attract considerable attention of the mathematical community due to the variety of applications in machine learning, including adversarial learning, adversarial attacks and robust reinforcement learning, to name a few. The individual functions in the sum usually represent losses related to examples from a data set. Additionally, the formulation admits a possibly nonsmooth composite term. Such terms often reflect regularization in machine learning problems. We assume that the dimension of one of the variable groups is relatively small (about a hundred or less), and the other one is large. This case arises, for example, when one considers the dual formulation for a minimization problem with a moderate number of constraints. The proposed approach is based on using Vaidya’s cutting plane method to minimize with respect to the outer block of variables. This optimization algorithm is especially effective when the dimension of the problem is not very large. An inexact oracle for Vaidya’s method is calculated via an approximate solution of the inner maximization problem, which is solved by the accelerated variance reduced algorithm Katyusha. Thus, we leverage the structure of the problem to achieve fast convergence. Separate complexity bounds for gradients of different components with respect to different variables are obtained in the study. The proposed approach is imposing very mild assumptions about the objective. In particular, neither strong convexity nor smoothness is required with respect to the low-dimensional variable group. The number of steps of the proposed algorithm as well as the arithmetic complexity of each step explicitly depend on the dimensionality of the outer variable, hence the assumption that it is relatively small.
-
Идентификация модели объекта при наличии неизвестных возмущений с широким частотным диапазоном на основе перехода к приращениям сигналов и отбора данных
Компьютерные исследования и моделирование, 2024, т. 16, № 2, с. 315-337Работа посвящена проблеме создания модели со стационарными параметрами по ретроспективным данным в условиях неизвестных возмущений. Рассматривается случай, когда представительная выборка состояний объекта может быть сформирована с использованием ретроспективных данных, накопленных только в течение значительного интервала времени. При этом допускается, что неизвестные возмущения могут действовать в широком частотном диапазоне и могут иметь низкочастотные и трендовые составляющие. В такой ситуации включение в выборку данных разных временных периодов может привести к противоречиям и чрезвычайно снизить точность модели. В работе дан обзор подходов и способов согласования данных. При этом основное внимание уделено отбору данных. Дана оценка применимости различных вариантов отбора данных как инструмента снижения уровня неопределенности. Предложен метод идентификации модели объекта с самовыравниванием по данным, накопленным за значительный период времени в условиях неизвестных возмущений с широким частотным диапазоном. Метод ориентирован на создание модели со стационарными параметрами, не требующей периодической перенастройки под новые условия. Метод основан на совместном применении отбора данных и представлении данных отдельных периодов времени в виде приращений относительно начального для периода момента времени. Это позволяет уменьшить число параметров, которые характеризуют неизвестные возмущения при минимуме допущений, ограничивающих применение метода. В результате снижается размерность поисковой задачи и минимизируются вычислительные затраты, связанные с настройкой модели. Рассмотрены особенности применения метода при нелинейной модели. Метод использован при разработке модели закрытого охлаждения стали на агрегате непрерывного горячего оцинковании стальной полосы. Модель может использоваться при упреждающем управлении тепловыми процессами и при выборе скорости движения полосы. Показано, что метод делает возможным разработку модели тепловых процессов с секции закрытого охлаждения в условиях неизвестных возмущений, имеющих в том числе низкочастотные составляющие.
Ключевые слова: идентификация, большие данные, глобальная модель, приращения, неизвестные воздействия, отбор данных.
Identification of an object model in the presence of unknown disturbances with a wide frequency range based on the transition to signal increments and data sampling
Computer Research and Modeling, 2024, v. 16, no. 2, pp. 315-337The work is devoted to the problem of creating a model with stationary parameters using historical data under conditions of unknown disturbances. The case is considered when a representative sample of object states can be formed using historical data accumulated only over a significant period of time. It is assumed that unknown disturbances can act in a wide frequency range and may have low-frequency and trend components. In such a situation, including data from different time periods in the sample can lead to inconsistencies and greatly reduce the accuracy of the model. The paper provides an overview of approaches and methods for data harmonization. In this case, the main attention is paid to data sampling. An assessment is made of the applicability of various data sampling options as a tool for reducing the level of uncertainty. We propose a method for identifying a self-leveling object model using data accumulated over a significant period of time under conditions of unknown disturbances with a wide frequency range. The method is focused on creating a model with stationary parameters that does not require periodic reconfiguration to new conditions. The method is based on the combined use of sampling and presentation of data from individual periods of time in the form of increments relative to the initial point in time for the period. This makes it possible to reduce the number of parameters that characterize unknown disturbances with a minimum of assumptions that limit the application of the method. As a result, the dimensionality of the search problem is reduced and the computational costs associated with setting up the model are minimized. It is possible to configure both linear and, in some cases, nonlinear models. The method was used to develop a model of closed cooling of steel on a unit for continuous hot-dip galvanizing of steel strip. The model can be used for predictive control of thermal processes and for selecting strip speed. It is shown that the method makes it possible to develop a model of thermal processes from a closed cooling section under conditions of unknown disturbances, including low-frequency components.
-
Подходы к созданию точных геометрических моделей стальных канатов в среде Gmsh с использованием ядра OpenCascade Core Technology
Компьютерные исследования и моделирование, 2024, т. 16, № 6, с. 1399-1415В статье рассмотрены проблемы подготовки точных геометрических моделей стальных канатов, то есть геометрических моделей, основанных на математических моделях, позволяющих повторять геометрию моделируемого каната в трехмерном пространстве без существенных упрощений или условностей, с учетом целевого назначения модели. Предложены подходы к созданию точных геометрических моделей стальных канатов, не имеющих принципиальных ограничений по внедрению в расчетные области и дальнейшему построению конечно-элементных моделей на их основе. Рассмотрены обобщенная параметризованная геометрическая модель канатов одинарной и двойной свивки и ее алгоритмическая реализация с помощью ядра геометрического моделирования ОpenCASCADE Core Technology в среде Gmsh (свободно распространяемое программное обеспечение с открытым исходным кодом). Обозначена проблематика использования табличных данных из государственных и отраслевых стандартов сортамента стальных канатов как исходных данных для построения геометрических моделей стальных канатов. Разработаны методы априорной проверки коллизий геометрической модели на основе исходных данных геометрической модели и методы апостериорной проверки на основе булевых операций над телами проволок каната для выявления некорректных результатов генерации моделей тел проволок с криволинейными боковыми поверхностями на основе алгоритма последовательного иерархического построения отдельных проволок пряди и последовательного копирования прядей. Показаны особенности процесса построения геометрических моделей проволок каната различными методами экструзии: через последовательность образующих с формированием тела, ограниченного криволинейными поверхностями, через последовательность образующих с формированием тела, ограниченного линейно-аппроксимированными поверхностями, и экструзией одной образующей вдоль направляющей. Выполнена оценка вычислительной сложности процесса построения геометрических моделей и необходимого объема оперативной памяти ЭВМ для двух наиболее универсальных методов экструзии тел проволок. Разработан метод оценки значения шага расстановки образующих и исследовано влияние его значения на вычислительную сложность процедуры построения отдельных проволок каната. Даны рекомендации по выбору значения радиального зазора между проволоками. Показана алгоритмическая реализация метода поиска коллизий геометрической модели стального каната в неинтерактивном режиме и предложены подходы к формированию процедур обработки коллизий. Предложенные методы и подходы могут быть представлены в виде программных модулей как для исполнения в среде Gmsh, так и для иной среды, использующей ядро геометрического моделирования OpenCascade Core Technology, и позволяют автоматизировать построение точных геометрических моделей стальных канатов в любой конфигурации без принципиальных ограничений по последующему применению, как обособленному, так и в виде объектов (примитивов), пригодных для внедрения в стороннюю модель.
Ключевые слова: стальной канат, геометрическаямо дель, экструзия, булевы операции, метод конечных элементов.
Approaches to creating precise geometric models of steel wire ropes in the Gmsh environment using the OpenCascade Core Technology engine
Computer Research and Modeling, 2024, v. 16, no. 6, pp. 1399-1415A review of the problems of preparing accurate geometric models of steel ropes based on mathematical models without significant simplifications, taking into account the intended purpose of the model, is carried out. Possible approaches to the generation of precise geometric models of steel ropes that have no fundamental limitations on their integration in computational domains and the subsequent construction of finite element models based on them are shown. A generalized parameterized geometric model of single and double twist ropes and its algorithmic implementation using the OpenCASCADE Core Technology geometric modeling kernel in the Gmsh environment (open source software) is considered. The problems of using generic tabular data from steel rope assortment standards as initial data for constructing geometric models are considered. Methods of preliminary verification of collisions of a geometric model based on the initial data of a geometric model are given. Post-verification methods based on Boolean operations over rope wire bodies are given to identify incorrect results of generating models of wire bodies with curvilinear side surfaces based on the algorithm of sequential hierarchical construction of individual wires of single strand and sequential copying of it. Various methods of the process of constructing geometric models of rope wires by extrusion are shown: through a sequence of generatrix with the formation of a body limited by curvilinear surfaces, through a sequence of generatrix with the formation of a body limited by linearly approximated surfaces, and extrusion of one generatrix along a single guideline. The computational complexity of the geometric model generation and the required volume of RAM for the two most universal methods of creating a body of wire are investigated. A method for estimating the value of the step of the arrangement of the generatrix of a single wire is shown, and the influence of its value on the computational complexity of the procedure of wire construction is investigated. Recommendations are given for choosing the value of the radial gap between the layers of wires. An algorithmic implementation of the method for searching for collisions of a geometric model of a steel rope in a non-interactive mode is shown. Approaches to the formation of procedures for processing collisions are proposed. Approaches presented in the article can be implemented in the form of software modules for execution in the Gmsh environment, as well as for another environment using the OpenCascade Core Technology geometric modeling kernel. Such modules allow automation of the construction of accurate geometric models of steel ropes in any configuration without fundamental restrictions on subsequent use, both stand-alone and in the form of objects (primitives) suitable for integration in a third-party model.
-
Компенсация собственных нелинейных помех на основе смешанного метода Ньютона
Компьютерные исследования и моделирование, 2024, т. 16, № 7, с. 1579-1592В статье исследуется одно из возможных решений задачи компенсации собственных помех (SIC, Self-Interference Cancellation), возникающей при проектировании полнодуплексных (IBFD, In-band Full-Duplex) систем связи. Подавление собственных помех осуществляется в цифровой области с помощью многослойных нелинейных моделей, которые адаптируются на основе метода градиентного спуска. Наличие локальных оптимумов и седловых точек при адаптации многослойных моделей делает невозможным использование методов второго порядка ввиду знаконеопределенности матрицы Гессе.
В данной работе предложено использовать смешанный метод Ньютона (MNM, mixed Newton method), который учитывает информацию о смешанных производных второго порядка функции потерь и, как следствие, обеспечивает высокую скорость сходимости по сравнению с традиционными методами первого порядка. Использование лишь только смешанных частных производных второго порядка при построении матрицы Гессе позволяет избежать проблемы «застревания» в седловых точках при использовании смешанного метода Ньютона для адаптации многослойных нелинейных компенсаторов собственных помех при проектировании полнодуплексных систем связи.
В качестве модели собственных нелинейных помех выбрана модель Гаммерштейна с комплексными параметрами. Данный выбор обусловлен тем, что модель эффективно описывает физические свойства, лежащие в основе формирования собственных помех. Благодаря свойству голоморфности выхода модели смешанный метод Ньютона обеспечивает свойство «отталкивания» от седловых точек в ландшафте функции потерь.
В работе приводятся кривые сходимости при адаптации модели Гаммерштейна смешанным методом Ньютона, а также при помощи классических подходов на основе метода градиентного спуска. Кроме того, приводится вывод предложенного метода, а также оценка вычислительной сложности.
Ключевые слова: метод второго порядка, комплекснозначный гессиан, полнодуплексные системы связи, компенсация собственных помех.
Non-linear self-interference cancellation on base of mixed Newton method
Computer Research and Modeling, 2024, v. 16, no. 7, pp. 1579-1592The paper investigates a potential solution to the problem of Self-Interference Cancellation (SIC) encountered in the design of In-Band Full-Duplex (IBFD) communication systems. The suppression of selfinterference is implemented in the digital domain using multilayer nonlinear models adapted via the gradient descent method. The presence of local optima and saddle points in the adaptation of multilayer models prevents the use of second-order methods due to the indefinite nature of the Hessian matrix.
This work proposes the use of the Mixed Newton Method (MNM), which incorporates information about the second-order mixed partial derivatives of the loss function, thereby enabling a faster convergence rate compared to traditional first-order methods. By constructing the Hessian matrix solely with mixed second-order partial derivatives, this approach mitigates the issue of “getting stuck” at saddle points when applying the Mixed Newton Method for adapting multilayer nonlinear self-interference compensators in full-duplex system design.
The Hammerstein model with complex parameters has been selected to represent nonlinear selfinterference. This choice is motivated by the model’s ability to accurately describe the underlying physical properties of self-interference formation. Due to the holomorphic property of the model output, the Mixed Newton Method provides a “repulsion” effect from saddle points in the loss landscape.
The paper presents convergence curves for the adaptation of the Hammerstein model using both the Mixed Newton Method and conventional gradient descent-based approaches. Additionally, it provides a derivation of the proposed method along with an assessment of its computational complexity.
-
Моделирование нелинейных аэроупругих колебаний стенки канала, взаимодействующей с пульсирующим слоем вязкого газа
Компьютерные исследования и моделирование, 2025, т. 17, № 4, с. 583-600В работе предложена математическая модель аэроупругих колебаний стенки узкого канала, имеющей нелинейно-упругий подвес и взаимодействующей с пульсирующим слоем вязкого газа. В рамках данной модели определены и исследованы аэроупругий отклик стенки канала и соответствующий ему фазовый сдвиг. Сформулированная авторами модель позволяет одновременно исследовать влияние на колебания стенки нелинейной жесткости ее упругого подвеса, сжимаемости и диссипативных свойств газа, а также инерции его движения в канале под действием пульсирующего перепада давления. Модель разработана на базе постановки и решения плоской начально-краевой задачи математической физики, включающей систему уравнений динамики баротропного вязкого газа, уравнения динамики жесткой стенки как одномассового нелинейного осциллятора. Используя метод возмущений, проведен асимптотический анализ задачи с последующим решением уравнений динамики тонкого слоя вязкого газа методом итерации. В результате определен закон распределения давления газа в канале и исходная задача аэроупругости сведена к исследованию обобщенного уравнения Дуффинга. Его решение осуществлено методом гармонического баланса, что позволило определить аэроупругий и фазовый отклики стенки канала в виде неявных функций. Проведено численное исследование данных откликов для оценки влияния инерции движения газа и его сжимаемости, а также сравнение полученных результатов с частными случаями ползущего движения вязкого газа и несжимаемой вязкой жидкости. Результаты проведенного исследования показали важность одновременного учета сжимаемости и инерции движения вязкого газа при моделировании аэроупругих колебаний стенки рассматриваемого канала.
Ключевые слова: моделирование, вязкий газ, нелинейные аэроупругие колебания, стенка канала, пульсирующий перепад давления, аэроупругий отклик, фазовый сдвиг.
Modeling of nonlinear aeroelastic oscillations of a channel wall interacting with a pulsating viscous gas layer
Computer Research and Modeling, 2025, v. 17, no. 4, pp. 583-600The mathematical model for aeroelastic oscillations of a narrow channel wall with a nonlinear-elastic suspension and interacting with a pulsating viscous gas layer is proposed. Within the framework of this model, the aeroelastic response of the channel wall and its phase response were determined and investigated. The authors simultaneously studied the influence of the nonlinear stiffness elastic suspension of the wall, compressibility and dissipative properties of gas, as well as the inertia of its motion on the wall oscillations. The model was elaborated based on the formulation and solution of the initial boundary-value plane problem of mathematical physics. The problem governing equations include the equations of dynamics for barotropic viscous gas, equation of dynamics for the rigid wall as the spring-mass nonlinear oscillator. Using the perturbation method, the asymptotic analysis of the problem was carried out. The solution of the equations of dynamics for the thin layer of viscous gas was obtained by the iteration method. As a result, the law of gas pressure distribution in the channel was determined and the initial problem of aeroelasticity was reduced to the study of the generalized Duffing equation. Its solution was realized by the harmonic balance method, which allowed us to determine the aeroelastic and phase responses of the channel wall in the form of implicit functions. The numerical study of these responses was carried out to evaluate the influence for inertia of gas motion and its compressibility, as well as a comparison of the results obtained with the special cases of creeping motion of viscous gas and incompressible viscous fluid. The results of this study have shown the importance of simultaneous consideration of compressibility and inertia of viscous gas motion when modeling aeroelastic oscillations of the considered channel wall.
-
Применение алгоритма QUBO для отбора траекторий обучения с подкреплением методом Монте-Карло
Компьютерные исследования и моделирование, 2026, т. 18, № 2, с. 273-288Метод Монте-Карло (Monte Carlo, MC) в обучении с подкреплением показывает низкую эффективность при высокой сложности обучающей выборки — в средах с редким вознаграждением, большим пространством состояний и коррелирующими траекториями. Эти ограничения приводят к повышенной вариативности оценок возврата и существенно замедляют процесс сходимости, особенно в задачах, где требуется выделить наиболее информативные эпизоды из большого множества доступных данных. При прямом использовании всех траекторий возникает избыток информации, что ухудшает качество итоговых оценок и увеличивает вычислительную нагрузку. В данной работе мы предлагаем подход, позволяющий преодолеть указанные проблемы за счет оптимизации отбора обучающих данных и структурирования выборки перед применением классического метода Монте-Карло. Задача отбора обучающих траекторий формулируется как квадратичная неограниченная бинарная оптимизация (Quadratic Unconstrained Binary Optimization, QUBO) и решается с помощью алгоритма квантового отжига. Предлагаемый метод MC+QUBO интегрирует комбинаторный фильтрующий шаг в стандартную процедуру оценки: из множества потенциальных траекторий выбирается поднабор, максимизирующий суммарное вознаграждение, обеспечивая при этом достаточное покрытие пространства состояний и снижение взаимной корреляции эпизодов. В QUBO-формулировке линейные члены поощряют включение эпизодов с высоким значением возврата, тогда как квадратичные члены регулируют разнообразие и баланс траекторий, уменьшая риск переобучения на узком подмножестве данных. В качестве решателей из категории «черного ящика» используются алгоритмы симуляции квантового отжига (Simulated Quantum Annealing, SQA) и симулированная бифуркация (Simulated Bifurcation, SB), что позволяет эффективно решать задачи с большим числом потенциальных эпизодов и быстро находить приближенные оптимальные решения. Эксперименты в среде GridWorld показывают, что MC+QUBO превосходит классический метод Монте-Карло по скорости сходимости, устойчивости оценок и качеству итогового обучения, демонстрируя потенциал квантовой оптимизации как инструмента повышения эффективности принятия решений в задачах обучения с подкреплением.
Ключевые слова: метод Монте-Карло, квантовый отжиг, квантовые вычисления, обучение с подкреплением, QUBO.
Quantum-inspired episode selection for Monte Carlo reinforcement learning via QUBO optimization
Computer Research and Modeling, 2026, v. 18, no. 2, pp. 273-288Monte Carlo (MC) reinforcement learning suffers from high sample complexity, especially in environments with sparse rewards, large state spaces, and strongly correlated trajectories that reduce the statistical efficiency of return estimation. These well-known limitations often lead to slow convergence and unstable learning dynamics, particularly in settings where only a small fraction of collected trajectories is actually informative for policy improvement. A key challenge is therefore to identify a compact yet diverse subset of episodes that contributes most to the accuracy of value estimates while preserving sufficient exploration of the environment. To address this challenge, we reformulate episode selection as a Quadratic Unconstrained Binary Optimization (QUBO) problem and solve it using quantum-inspired sampling techniques. Our method, MC+ QUBO, inserts a combinatorial filtering step into the standard MC policy-evaluation pipeline: given a batch of trajectories, it selects a subset that maximizes cumulative reward and encourages broad state-space coverage. This selection procedure is expressed as a QUBO model, where linear terms favor high-return episodes, quadratic terms penalize redundancy between trajectories, and additional coupling terms can be used to enforce coverage-related constraints or promote structural diversity. Within this framework, we investigate two black-box QUBO solvers: Simulated Quantum Annealing (SQA), which emulates tunneling-based exploration of the search landscape, and Simulated Bifurcation (SB), a dynamical-systems-based iterative optimization method. Both solvers demonstrate the ability to efficiently navigate the combinatorial structure of the trajectory-selection problem and to handle batch sizes that are otherwise computationally expensive for exhaustive or deterministic search. Experiments in a finite-horizon GridWorld environment show that MC+QUBO consistently outperforms vanilla MC in convergence speed, stability of return estimates, and final policy quality. These results highlight the promise of quantum-inspired optimization as a practical decision-making subroutine within reinforcement-learning algorithms, offering a scalable way to improve sample efficiency without modifying the underlying learning paradigm.
-
Физически информированная нейросеть для оценки перепада давления при артериальных стенозах на основе данных моделирования
Компьютерные исследования и моделирование, 2026, т. 18, № 3, с. 621-641В данной работе описана методика генерации синтетической базы данных стенозов, состоящей из 1620 записей. Каждая запись представляет собой результаты численного эксперимента по моделированию трехмерного течения вязкой несжимаемой жидкости через трубку с переменным сечением: перепад давлений, средний поток, усредненная по сечению скорость кровотока на входе в трубку, максимальная степень сужения стеноза, длина стеноза, асимметрия стеноза, радиус трубки, число Рейнольдса. База данных валидировалась путем сравнения с другими моделями (с эластичными стенками) и стендовыми экспериментами и показала отклонение перепадов давлений не выше 4%. База данных синтетических стенозов использовалась для обучения физически информированной нейронной сети для быстрой оценки перепада давления по четырем ключевым входным показателям: число Рейнольдса, длина стеноза, степень стеноза, степень асимметрии стеноза. Физическая информированность достигалась за счет введения штрафов в функцию потерь за отсутствие положительного перепада давления и за отсутствие монотонности перепада давления по входным параметрам. Физически информированная нейронная сеть показала более высокую точность на гемодинамических значимых стенозах при тестировании на валидационной выборке и на новых стенозах, не представленных в базе данных. Средняя относительная ошибка на стенозах длиной в 8 радиусов здорового сосуда составила 6% для физически информированной сети и 13% для классической нейронной сети. Ошибки на коротких стенозах длиной в 4 радиуса оказались почти одинаковы: 9,5% для физически информированной сети и 10% для классической нейронной сети. Разработанный метод функциональной оценки гемодинамической значимости стенозов может использоваться как самостоятельный инструмент для клинической оценки стенозов и как компонент сетевых моделей кровотока. Наибольшую актуальность подход приобретает при моделировании многососудистых поражений, которые доминируют в клинической практике. Ключевое преимущество метода заключается в физической корректности результатов и точности, сопоставимой с классическим моделированием, при значительно меньших вычислительных затратах.
Ключевые слова: физически информированная нейронная сеть, синтетическая база данных, стеноз, гемодинамика.
Physics-informed neural network for evaluating pressure drop in arterial stenoses based on simulation data
Computer Research and Modeling, 2026, v. 18, no. 3, pp. 621-641This paper describes a method for generating a synthetic database of stenoses, consisting of 1620 entries. Each entry represents the results of a numerical experiment simulating the three-dimensional flow of a viscous incompressible fluid through a tube with a variable cross-section: pressure drop, mean flow rate, cross-sectionally averaged inlet blood flow velocity, maximum stenosis severity, stenosis length, stenosis asymmetry, tube radius, and Reynolds number. The database was validated by comparison with other models (with elastic walls) and bench experiments, showing a deviation in pressure drops of no more than 4%. The synthetic stenosis database was used to train a physics-informed neural network for the rapid estimation of pressure drop based on four key input parameters: Reynolds number, stenosis length, stenosis severity, and stenosis asymmetry coefficient. The physics-informed aspect was achieved by introducing penalties into the loss function for the absence of a positive pressure drop and for the lack of monotonicity of the pressure drop with respect to the input parameters. The physics-informed neural network demonstrated higher accuracy on hemodynamically significant stenoses when tested on a validation set and on new stenoses not represented in the database. The mean relative error for stenoses with a length of 8 healthy vessel radii was 6% for the physics-informed network and 13% for a classical neural network. The errors for short stenoses with a length of 4 radii were nearly identical: 9.5% for the physics-informed network and 10% for the classical neural network. The developed method for the functional assessment of the hemodynamic significance of stenoses can be used both as a standalone tool for clinical stenosis evaluation and as a component of network blood flow models. The approach becomes most relevant when modeling multi-vessel disease, which is predominant in clinical practice. The key advantage of the method lies in the physical correctness of the results and accuracy comparable to classical modeling, but with significantly lower computational costs.
Indexed in Scopus
Full-text version of the journal is also available on the web site of the scientific electronic library eLIBRARY.RU
The journal is included in the Russian Science Citation Index
The journal is included in the RSCI
International Interdisciplinary Conference "Mathematics. Computing. Education"




