All issues

В работе предлагается новая версия метода Гаусса–Ньютона для решения системы нелинейных уравнений, основанная на идеях использования верхней оценки нормы невязки системы уравнений и квадратичной регуляризации. Предложенная версия метода Гаусса–Ньютона на практике фактически задает целое параметризованное семейство методов решения систем нелинейных уравнений и задач восстановления регрессионной зависимости. Разработанное семейство методов Гаусса–Ньютона состоит целиком из итеративных методов, включающих в себя также специальные формы алгоритмов Левенберга–Марквардта, с обобщением на случаи применения в неевклидовых нормированных пространствах. В разработанных методах используется локальная модель, осуществляющая параметризованное проксимальное отображение и допускающая на практике применение неточного оракула в формате «черного ящика» с ограничением на точность вычисления и на сложность вычисления. Для разработанного семейства методов приведен анализ эффективности в терминах количества итераций алгоритма, точности и сложности представления локальной модели и вычисления оракула, параметров размерности решаемой задачи с выводом локальной и глобальной сходимости при использовании произвольного оракула. В работе представлены условия глобальной сублинейной сходимости для предложенного семейства методов решения системы нелинейных уравнений, состоящих из гладких по Липшицу функций. В рамках дополнительных естественных предположений о невырожденности системы нелинейных функций установлена локальная суперлинейная сходимость для рассмотренного семейства методов. При выполнении условия Поляка–Лоясиевича для системы нелинейных уравнений доказана локальная и глобальная линейная сходимость рассмотренных методов Гаусса–Ньютона. Помимо теоретического обоснования методов, в работе рассматриваются вопросы их практической реализации. В частности, в проведенных экспериментах для точного оракула приводятся схемы эффективного вычисления в зависимости от параметров размерности решаемой задачи. Предложенное семейство методов объединяет в себе несколько существующих и часто используемых на практике модификаций метода Гаусса–Ньютона, позволяя получить гибкий и удобный в использовании метод, реализуемый на практике с помощью стандартных техник выпуклой оптимизации и вычислительной линейной алгебры.

In this paper, we introduce a new version of Gauss–Newton method for solving a system of nonlinear equations based on ideas of the residual upper bound for a system of nonlinear equations and a quadratic regularization term. The introduced Gauss–Newton method in practice virtually forms the whole parameterized family of the methods solving systems of nonlinear equations and regression problems. The developed family of Gauss–Newton methods completely consists of iterative methods with generalization for cases of non-euclidean normed spaces, including special forms of Levenberg–Marquardt algorithms. The developed methods use the local model based on a parameterized proximal mapping allowing us to use an inexact oracle of «black–box» form with restrictions for the computational precision and computational complexity. We perform an efficiency analysis including global and local convergence for the developed family of methods with an arbitrary oracle in terms of iteration complexity, precision and complexity of both local model and oracle, problem dimensionality. We present global sublinear convergence rates for methods of the proposed family for solving a system of nonlinear equations, consisting of Lipschitz smooth functions. We prove local superlinear convergence under extra natural non-degeneracy assumptions for system of nonlinear functions. We prove both local and global linear convergence for a system of nonlinear equations under Polyak–Lojasiewicz condition for proposed Gauss– Newton methods. Besides theoretical justifications of methods we also consider practical implementation issues. In particular, for conducted experiments we present effective computational schemes for the exact oracle regarding to the dimensionality of a problem. The proposed family of methods unites several existing and frequent in practice Gauss–Newton method modifications, allowing us to construct a flexible and convenient method implementable using standard convex optimization and computational linear algebra techniques.

В статье представлены результаты численного исследования структуры течения в двухмерном плоском диффузоре. Особенностью диффузоров является то, что в них наблюдается сложное анизотропное турбулентное течение, которое возникает за счет рециркуляционных потоков. Турбулентные модели RANS, в основе которых лежит гипотеза Буссинеска, не способны описывать с достаточной точностью течение в диффузорах. Потому что гипотеза Буссинеска основана на изотропной турбулентности. Поэтому для расчета анизотропных турбулентных течений привлекаются модели, в которых не используется данная гипотеза. Одним из таких направлений в моделировании турбулентности являются методы рейнольдсовых напряжений. Эти методы сложны и требуют довольно больших вычислительных ресурсов. В работе для исследования течения в плоском диффузоре использована сравнительно недавно разработанная двухжидкостная модель турбулентности. Данная модель разработана на основе двухжидкостного подхода к проблеме турбулентности. В отличие от подхода Рейнольдса двухжидкостный подход позволяет получить замкнутую систему уравнений турбулентности с использованием динамики двух жидкостей. Следовательно, если в RANS-моделях для замыкания используются эмпирические уравнения, то в двухжидкостной модели используемые уравненияя вляются точными уравнениями динамики. Одно из главных преимуществ двухжидкостной модели заключаетсяв том, что она способна описывать сложные анизотропные турбулентные течения. В работе полученные численные результаты для профилей продольной скорости, турбулентных напряжений в различных сечениях канала, а также коэффициента трениясравнив аются с известными экспериментальными данными. Для демонстрации достоинства использованной модели турбулентности представлены и численные результаты метода рейнольдсовых напряжений EARSM. Для численной реализации систем уравнений двухжидкостной модели использована нестационарная система уравнений, решение которой асимптотически приближалось к стационарному решению. Дляэтой цели использована конечно-разностная схема, где вязкостные члены аппроксимировались центральной разностью неявным образом, а для конвективных членов использована явная схема против потока второго порядка точности. Результаты получены для числа Рейнольдса Re = 20 000. Показано, что двухжидкостная модель, несмотря на использование равномерной расчетной сетки без сгущенияо коло стенок, способна давать более точное решение, чем достаточно сложный метод рейнольдсовых напряжений с большим разрешением расчетных сеток.

The article presents the results of a numerical study of the flow structure in a two-dimensional flat diffuser. A feature of diffusers is that they have a complex anisotropic turbulent flow, which occurs due to recirculation flows. The turbulent RANS models, which are based on the Boussinesq hypothesis, are not able to describe the flow in diffusers with sufficient accuracy. Because the Boussinesq hypothesis is based on isotropic turbulence. Therefore, to calculate anisotropic turbulent flows, models are used that do not use this hypothesis. One of such directions in turbulence modeling is the methods of Reynolds stresses. These methods are complex and require rather large computational resources. In this work, a relatively recently developed two-fluid turbulence model was used to study the flow in a flat diffuser. This model is developed on the basis of a two-fluid approach to the problem of turbulence. In contrast to the Reynolds approach, the two-fluid approach allows one to obtain a closed system of turbulence equations using the dynamics of two fluids. Consequently, if empirical equations are used in RANS models for closure, then in the two-fluid model the equations used are exact equations of dynamics. One of the main advantages of the two-fluid model is that it is capable of describing complex anisotropic turbulent flows. In this work, the obtained numerical results for the profiles of the longitudinal velocity, turbulent stresses in various sections of the channel, as well as the friction coefficient are compared with the known experimental data. To demonstrate the advantages of the used turbulence model, the numerical results of the Reynolds stress method EARSM are also presented. For the numerical implementation of the systems of equations of the two-fluid model, a non-stationary system of equations was used, the solution of which asymptotically approached the stationary solution. For this purpose, a finite-difference scheme was used, where the viscosity terms were approximated by the central difference implicitly, and for the convective terms, an explicit scheme against the flow of the second order of accuracy was used. The results are obtained for the Reynolds number Re = 20 000. It is shown that the two-fluid model, despite the use of a uniform computational grid without thickening near the walls, is capable of giving a more accurate solution than the rather complex Reynolds stress method with a high resolution of computational grids.

В настоящее время ведутся активные разработки ядерных реакторов 4-го поколения с жидкометаллическими теплоносителями, в связи с чем актуальными являются расчеты их элементов и узлов с использованием программ трехмерного моделирования. Теплогидравлический анализ реакторных установок с жидкометаллическим теплоносителем признается одним из важнейших направлений комплекса взаимосвязанных задач по обоснованию параметров реакторных установок, включая обоснование безопасности. Сложность получения необходимой информации об условиях эксплуатации реакторного оборудования с жидкометаллическими теплоносителями на основе экспериментальных исследований требует привлечения численного моделирования. В качестве инструмента, описанного в статье исследования, использован отечественный CFD-код FlowVision, который имеет аттестат НТЦ ЯРБ для расчетного обеспечения безопасности ядерных реакторов. Ранее было доказано успешное применение данного расчетного кода для моделирования процессов в ядерных реакторах с натриевым теплоносителем. Поскольку на данный момент в ядерной отрасли в качестве перспективных реакторов рассматриваются установки со свинцово-висмутовым теплоносителем, необходимо обосновать пригодность кода FlowVision также и для моделирования течения такого теплоносителя, что и являлось целью данной работы. В статье приведены результаты численного моделирования потока свинцово-висмутовой эвтектики в пучке теплообменных труб парогенератора АЭС. В рамках CFD-моделирования процессов гидродинамики и теплообмена в пучке теплообменных труб произведены исследования сходимости по сетке, по шагу, выбрана модель турбулентности, определены коэффициенты гидравлического сопротивления решеток и проведено сравнение расчетов с использованием модели $k_\theta^{}$-$e_\theta^{}$ и без нее. По итогам исследования получено, что результаты расчета с использованием $k_\theta^{}$-$e_\theta^{}$-модели турбулентности более точно согласуются с корреляциями. В качестве дополнительной проверки точности результатов выполнена кросс-верификация с ПО STAR-CCM+, полученные результаты лежат в пределах погрешностей использованных для сравнения корреляций.

Nowadays, active development of 4th generation nuclear reactors with liquid metal coolants takes place. Therefore, simulation of their elements and units in 3D modelling software are relevant. The thermal-hydraulic analysis of reactor units with liquid metal coolant is recognized as one of the most important directions of the complex of interconnected tasks on reactor unit parameters justification. The complexity of getting necessary information about operating conditions of reactor equipment with liquid-metal coolant on the base of experimental investigations requires the involvement of numerical simulation. The domestic CFD code FlowVision has been used as a research tool. FlowVision software has a certificate of the Scientific and Engineering Centre for Nuclear and Radiation Safety for the nuclear reactor safety simulations. Previously it has been proved that this simulation code had been successfully used for modelling processes in nuclear reactors with sodium coolant. Since at the moment the nuclear industry considers plants with lead-bismuth coolant as promising reactors, it is necessary to justify the FlowVision code suitability also for modeling the flow of such coolant, which is the goal of this work. The paper presents the results of lead-bismuth eutectic flow numerical simulation in the heat exchange tube bundle of NPP steam generator. The convergence studies on a grid and step have been carried out, turbulence model has been selected, hydraulic resistance coefficients of lattices have been determined and simulations with and without $k_\theta^{}$-$e_\theta^{}$ model are compared within the framework of fluid dynamics and heat exchange modeling in the heat-exchange tube bundle. According to the results of the study, it was found that the results of the calculation using the $k_\theta^{}$-$e_\theta^{}$ turbulence model are more precisely consistent with the correlations. A cross-verification with STAR-CCM+ software has been performed as an additional verification on the accuracy of the results, the results obtained are within the error limits of the correlations used for comparison.

Разработан вычислительный алгоритм для изучения химических процессов во внутренних течениях многокомпонентного газа при воздействии лазерного излучения. Математическая модель представляет собой уравнения газовой динамики с химическими реакциями при малых числах Маха с учетом диссипативных членов, которые описывают динамику вязкой теплопроводной среды с диффузией, химическими реакциями и подводом энергии посредством лазерного излучения. Для данной математической модели характерно наличие нескольких сильно различающихся между собой временных и пространственных масштабов. Вычислительный алгоритм построен на основе схемы расщепления по физическим процессам. Каждый шаг интегрирования по времени разбивается на следующие блоки: решение уравнений химической кинетики, решение уравнения для интенсивности излучения, решение уравнений конвекции – диффузии, расчет динамической составляющей давления и расчет коррекции вектора скорости. Решение жесткой системы уравнений химической кинетики проводится с помощью специализированной явной схемы второго порядка точности или подключаемым модулем RADAU5. Для нахождения конвективных членов в уравнениях применяются численные потоки Русанова и WENO-схема повышенного порядка аппроксимации. На основе полученного алгоритма разработан код с использованием технологии параллельных вычислений MPI. Созданный код использован для расчетов пиролиза этана с радикальными реакциями. Детально изучается формирование сверхравновесных концентраций радикалов по объему реактора. Проведено численное моделирование течения реакционного газа в плоской трубе с подводом лазерного излучения, востребованное для интерпретации экспериментальных результатов. Показано, что лазерное излучение увеличивает в разы конверсию этана и выходы целевых продуктов на коротких длинах ближе к входу в реакционную зону. Сокращение эффективной длины реакционной зоны позволяет предложить новые решения при проектировании реакторов конверсии этана в ценные углеводороды. Разработанные алгоритм и программа найдут свое применение в создании новых технологий лазерной термохимии.

The article presented the computational algorithm developed to study chemical processes in the internal flows of a multicomponent gas under the influence of laser radiation. The mathematical model is the gas dynamics’ equations with chemical reactions at low Mach numbers. It takes into account dissipative terms that describe the dynamics of a viscous heat-conducting medium with diffusion, chemical reactions and energy supply by laser radiation. This mathematical model is characterized by the presence of several very different time and spatial scales. The computational algorithm is based on a splitting scheme by physical processes. Each time integration step is divided into the following blocks: solving the equations of chemical kinetics, solving the equation for the radiation intensity, solving the convection-diffusion equations, calculating the dynamic component of pressure and calculating the correction of the velocity vector. The solution of a stiff system of chemical kinetics equations is carried out using a specialized explicit second-order accuracy scheme or a plug-in RADAU5 module. Numerical Rusanov flows and a WENO scheme of an increased order of approximation are used to find convective terms in the equations. The code based on the obtained algorithm has been developed using MPI parallel computing technology. The developed code is used to calculate the pyrolysis of ethane with radical reactions. The superequilibrium concentrations’ formation of radicals in the reactor volume is studied in detail. Numerical simulation of the reaction gas flow in a flat tube with laser radiation supply is carried out, which is in demand for the interpretation of experimental results. It is shown that laser radiation significantly increases the conversion of ethane and yields of target products at short lengths closer to the entrance to the reaction zone. Reducing the effective length of the reaction zone allows us to offer new solutions in the design of ethane conversion reactors into valuable hydrocarbons. The developed algorithm and program will find their application in the creation of new technologies of laser thermochemistry.

Рассмотрена модель горения предварительно перемешанной смеси газов с одной глобальной химической реакцией, включающая в себя уравнения второго порядка относительно температуры смеси и концентраций топлива и окислителя, в правые части которых входит функция скорости реакции. Эта функция зависит от пяти неизвестных параметров глобальной реакции и служит приближением для многоступенчатого механизма реакций. Модель сводится к одному уравнению второго порядка относительно температуры смеси, которое после замены переменных преобразуется к уравнению первого порядка относительно производной температуры, зависящей от температуры, в которое входит параметр скорости распространения пламени. Таким образом, для вычисления параметра скорости распространения пламени необходимо решить задачу Дирихле для уравнения первого порядка, в результате чего получится модельная зависимость скорости распространения пламени от эквивалентного отношения смеси при заданных параметрах скорости реакции. При наличии экспериментальных данных зависимости скорости распространения пламени от эквивалентного отношения смеси ставится задача оптимального подбора параметров скорости реакции, исходя из минимизации среднеквадратичного отклонения модельных значений скорости распространения пламени от эксперимента. Целью работы является исследование однозначности решения этой задачи. Для этого применяется вычислительный эксперимент, в ходе которого решается задача глобального поиска оптимумов с помощью мультистарта градиентного спуска. В ходе вычислительного эксперимента выяснено, что обратная задача в такой постановке является недоопределенной, и всякий раз при запуске градиентного метода из новой точки получается новая предельная точка. Исследована структура множества предельных точек в пятимерном пространстве параметров и показано, что это множество может быть описано тремя линейными уравнениями. Таким образом, будет некорректным табулировать все пять параметров скорости реакции исходя из одного лишь критерия соответствия модели данным скорости распространения пламени. Вывод исследования заключается в том, что для корректного табулирования параметров необходимо указать значения двух из них исходя из дополнительных критериев оптимальности.

A model of combustion of premixed mixture of gases with one global chemical reaction is considered, the model includes equations of the second order for temperature of mixture and concentrations of fuel and oxidizer, and the right-hand sides of these equations contain the reaction rate function. This function depends on five unknown parameters of the global reaction and serves as approximation to multistep reaction mechanism. The model is reduced, after replacement of variables, to one equation of the second order for temperature of mixture that transforms to a first-order equation for temperature derivative depending on temperature that contains a parameter of flame propagation velocity. Thus, for computing the parameter of burning velocity, one has to solve Dirichlet problem for first-order equation, and after that a model dependence of burning velocity on mixture equivalence ratio at specified reaction rate parameters will be obtained. Given the experimental data of dependence of burning velocity on mixture equivalence ratio, the problem of optimal selection of reaction rate parameters is stated, based on minimization of the mean square deviation of model values of burning velocity on experimental ones. The aim of our study is analysis of uniqueness of this problem solution. To this end, we apply computational experiment during which the problem of global search of optima is solved using multistart of gradient descent. The computational experiment clarifies that the inverse problem in this statement is underdetermined, and every time, when running gradient descent from a selected starting point, it converges to a new limit point. The structure of the set of limit points in the five-dimensional space is analyzed, and it is shown that this set can be described with three linear equations. Therefore, it might be incorrect to tabulate all five parameters of reaction rate based on just one match criterion between model and experimental data of flame propagation velocity. The conclusion of our study is that in order to tabulate reaction rate parameters correctly, it is necessary to specify the values of two of them, based on additional optimality criteria.

Работа посвящена проблеме создания модели со стационарными параметрами по ретроспективным данным в условиях неизвестных возмущений. Рассматривается случай, когда представительная выборка состояний объекта может быть сформирована с использованием ретроспективных данных, накопленных только в течение значительного интервала времени. При этом допускается, что неизвестные возмущения могут действовать в широком частотном диапазоне и могут иметь низкочастотные и трендовые составляющие. В такой ситуации включение в выборку данных разных временных периодов может привести к противоречиям и чрезвычайно снизить точность модели. В работе дан обзор подходов и способов согласования данных. При этом основное внимание уделено отбору данных. Дана оценка применимости различных вариантов отбора данных как инструмента снижения уровня неопределенности. Предложен метод идентификации модели объекта с самовыравниванием по данным, накопленным за значительный период времени в условиях неизвестных возмущений с широким частотным диапазоном. Метод ориентирован на создание модели со стационарными параметрами, не требующей периодической перенастройки под новые условия. Метод основан на совместном применении отбора данных и представлении данных отдельных периодов времени в виде приращений относительно начального для периода момента времени. Это позволяет уменьшить число параметров, которые характеризуют неизвестные возмущения при минимуме допущений, ограничивающих применение метода. В результате снижается размерность поисковой задачи и минимизируются вычислительные затраты, связанные с настройкой модели. Рассмотрены особенности применения метода при нелинейной модели. Метод использован при разработке модели закрытого охлаждения стали на агрегате непрерывного горячего оцинковании стальной полосы. Модель может использоваться при упреждающем управлении тепловыми процессами и при выборе скорости движения полосы. Показано, что метод делает возможным разработку модели тепловых процессов с секции закрытого охлаждения в условиях неизвестных возмущений, имеющих в том числе низкочастотные составляющие.

The work is devoted to the problem of creating a model with stationary parameters using historical data under conditions of unknown disturbances. The case is considered when a representative sample of object states can be formed using historical data accumulated only over a significant period of time. It is assumed that unknown disturbances can act in a wide frequency range and may have low-frequency and trend components. In such a situation, including data from different time periods in the sample can lead to inconsistencies and greatly reduce the accuracy of the model. The paper provides an overview of approaches and methods for data harmonization. In this case, the main attention is paid to data sampling. An assessment is made of the applicability of various data sampling options as a tool for reducing the level of uncertainty. We propose a method for identifying a self-leveling object model using data accumulated over a significant period of time under conditions of unknown disturbances with a wide frequency range. The method is focused on creating a model with stationary parameters that does not require periodic reconfiguration to new conditions. The method is based on the combined use of sampling and presentation of data from individual periods of time in the form of increments relative to the initial point in time for the period. This makes it possible to reduce the number of parameters that characterize unknown disturbances with a minimum of assumptions that limit the application of the method. As a result, the dimensionality of the search problem is reduced and the computational costs associated with setting up the model are minimized. It is possible to configure both linear and, in some cases, nonlinear models. The method was used to develop a model of closed cooling of steel on a unit for continuous hot-dip galvanizing of steel strip. The model can be used for predictive control of thermal processes and for selecting strip speed. It is shown that the method makes it possible to develop a model of thermal processes from a closed cooling section under conditions of unknown disturbances, including low-frequency components.

В статье рассмотрены проблемы подготовки точных геометрических моделей стальных канатов, то есть геометрических моделей, основанных на математических моделях, позволяющих повторять геометрию моделируемого каната в трехмерном пространстве без существенных упрощений или условностей, с учетом целевого назначения модели. Предложены подходы к созданию точных геометрических моделей стальных канатов, не имеющих принципиальных ограничений по внедрению в расчетные области и дальнейшему построению конечно-элементных моделей на их основе. Рассмотрены обобщенная параметризованная геометрическая модель канатов одинарной и двойной свивки и ее алгоритмическая реализация с помощью ядра геометрического моделирования ОpenCASCADE Core Technology в среде Gmsh (свободно распространяемое программное обеспечение с открытым исходным кодом). Обозначена проблематика использования табличных данных из государственных и отраслевых стандартов сортамента стальных канатов как исходных данных для построения геометрических моделей стальных канатов. Разработаны методы априорной проверки коллизий геометрической модели на основе исходных данных геометрической модели и методы апостериорной проверки на основе булевых операций над телами проволок каната для выявления некорректных результатов генерации моделей тел проволок с криволинейными боковыми поверхностями на основе алгоритма последовательного иерархического построения отдельных проволок пряди и последовательного копирования прядей. Показаны особенности процесса построения геометрических моделей проволок каната различными методами экструзии: через последовательность образующих с формированием тела, ограниченного криволинейными поверхностями, через последовательность образующих с формированием тела, ограниченного линейно-аппроксимированными поверхностями, и экструзией одной образующей вдоль направляющей. Выполнена оценка вычислительной сложности процесса построения геометрических моделей и необходимого объема оперативной памяти ЭВМ для двух наиболее универсальных методов экструзии тел проволок. Разработан метод оценки значения шага расстановки образующих и исследовано влияние его значения на вычислительную сложность процедуры построения отдельных проволок каната. Даны рекомендации по выбору значения радиального зазора между проволоками. Показана алгоритмическая реализация метода поиска коллизий геометрической модели стального каната в неинтерактивном режиме и предложены подходы к формированию процедур обработки коллизий. Предложенные методы и подходы могут быть представлены в виде программных модулей как для исполнения в среде Gmsh, так и для иной среды, использующей ядро геометрического моделирования OpenCascade Core Technology, и позволяют автоматизировать построение точных геометрических моделей стальных канатов в любой конфигурации без принципиальных ограничений по последующему применению, как обособленному, так и в виде объектов (примитивов), пригодных для внедрения в стороннюю модель.

A review of the problems of preparing accurate geometric models of steel ropes based on mathematical models without significant simplifications, taking into account the intended purpose of the model, is carried out. Possible approaches to the generation of precise geometric models of steel ropes that have no fundamental limitations on their integration in computational domains and the subsequent construction of finite element models based on them are shown. A generalized parameterized geometric model of single and double twist ropes and its algorithmic implementation using the OpenCASCADE Core Technology geometric modeling kernel in the Gmsh environment (open source software) is considered. The problems of using generic tabular data from steel rope assortment standards as initial data for constructing geometric models are considered. Methods of preliminary verification of collisions of a geometric model based on the initial data of a geometric model are given. Post-verification methods based on Boolean operations over rope wire bodies are given to identify incorrect results of generating models of wire bodies with curvilinear side surfaces based on the algorithm of sequential hierarchical construction of individual wires of single strand and sequential copying of it. Various methods of the process of constructing geometric models of rope wires by extrusion are shown: through a sequence of generatrix with the formation of a body limited by curvilinear surfaces, through a sequence of generatrix with the formation of a body limited by linearly approximated surfaces, and extrusion of one generatrix along a single guideline. The computational complexity of the geometric model generation and the required volume of RAM for the two most universal methods of creating a body of wire are investigated. A method for estimating the value of the step of the arrangement of the generatrix of a single wire is shown, and the influence of its value on the computational complexity of the procedure of wire construction is investigated. Recommendations are given for choosing the value of the radial gap between the layers of wires. An algorithmic implementation of the method for searching for collisions of a geometric model of a steel rope in a non-interactive mode is shown. Approaches to the formation of procedures for processing collisions are proposed. Approaches presented in the article can be implemented in the form of software modules for execution in the Gmsh environment, as well as for another environment using the OpenCascade Core Technology geometric modeling kernel. Such modules allow automation of the construction of accurate geometric models of steel ropes in any configuration without fundamental restrictions on subsequent use, both stand-alone and in the form of objects (primitives) suitable for integration in a third-party model.

В статье исследуется одно из возможных решений задачи компенсации собственных помех (SIC, Self-Interference Cancellation), возникающей при проектировании полнодуплексных (IBFD, In-band Full-Duplex) систем связи. Подавление собственных помех осуществляется в цифровой области с помощью многослойных нелинейных моделей, которые адаптируются на основе метода градиентного спуска. Наличие локальных оптимумов и седловых точек при адаптации многослойных моделей делает невозможным использование методов второго порядка ввиду знаконеопределенности матрицы Гессе.

В данной работе предложено использовать смешанный метод Ньютона (MNM, mixed Newton method), который учитывает информацию о смешанных производных второго порядка функции потерь и, как следствие, обеспечивает высокую скорость сходимости по сравнению с традиционными методами первого порядка. Использование лишь только смешанных частных производных второго порядка при построении матрицы Гессе позволяет избежать проблемы «застревания» в седловых точках при использовании смешанного метода Ньютона для адаптации многослойных нелинейных компенсаторов собственных помех при проектировании полнодуплексных систем связи.

В качестве модели собственных нелинейных помех выбрана модель Гаммерштейна с комплексными параметрами. Данный выбор обусловлен тем, что модель эффективно описывает физические свойства, лежащие в основе формирования собственных помех. Благодаря свойству голоморфности выхода модели смешанный метод Ньютона обеспечивает свойство «отталкивания» от седловых точек в ландшафте функции потерь.

В работе приводятся кривые сходимости при адаптации модели Гаммерштейна смешанным методом Ньютона, а также при помощи классических подходов на основе метода градиентного спуска. Кроме того, приводится вывод предложенного метода, а также оценка вычислительной сложности.

The paper investigates a potential solution to the problem of Self-Interference Cancellation (SIC) encountered in the design of In-Band Full-Duplex (IBFD) communication systems. The suppression of selfinterference is implemented in the digital domain using multilayer nonlinear models adapted via the gradient descent method. The presence of local optima and saddle points in the adaptation of multilayer models prevents the use of second-order methods due to the indefinite nature of the Hessian matrix.

This work proposes the use of the Mixed Newton Method (MNM), which incorporates information about the second-order mixed partial derivatives of the loss function, thereby enabling a faster convergence rate compared to traditional first-order methods. By constructing the Hessian matrix solely with mixed second-order partial derivatives, this approach mitigates the issue of “getting stuck” at saddle points when applying the Mixed Newton Method for adapting multilayer nonlinear self-interference compensators in full-duplex system design.

The Hammerstein model with complex parameters has been selected to represent nonlinear selfinterference. This choice is motivated by the model’s ability to accurately describe the underlying physical properties of self-interference formation. Due to the holomorphic property of the model output, the Mixed Newton Method provides a “repulsion” effect from saddle points in the loss landscape.

The paper presents convergence curves for the adaptation of the Hammerstein model using both the Mixed Newton Method and conventional gradient descent-based approaches. Additionally, it provides a derivation of the proposed method along with an assessment of its computational complexity.

Рассмотрены основные теоретические представления о динамических сменах лесной растительности — сукцессиях. Показано, что динамика растительности и почвы взаимосвязаны, и она определяется особенностями биологического круговорота элементов питания. Рассмотрены основные модельные подходы, формулируются нерешенные задачи. Приведен пример вычислительного эксперимента по сравнению роста леса при стационарном климате и потеплении.

Main theoretical considerations of dynamical changes of forest vegetation are discussed. It is shown that vegetation dynamics (succession) and soil dynamics are linked, and common dynamics is a result of biological turnover of nutrition elements. Main modelling approaches are examined and unsolved problems are formulated. An example of computer experiment on comparison of forest growth at stationary and global warming scenario is considered.

The paper is an example of computer simulation in mechanical engineering. Velocity field in a hydrocyclone are determined numerically, because for direct measurements it is difficult to achieve them. The numerical simulation of 3D fluid dynamics based on the k-eps RNG model of turbulence in the hydrocyclone with the injector, containing 5 tangentially directed nozzles is considered. It is shown that the direction of movement of
injected fluid in the hydrocyclone depends on the water flow rate through the injector. The calculations show in accordance with the experiments that the dependence of the Split-parameter on the injected water flow rate has a non-monotone character associated with the ratio of power of the main flow and the injected fluid.

Статья представляет собой пример компьютерного моделирования в области инженерной механики. Численным методом находятся поля скорости в гидроциклоне, которые недоступны прямому измерению. Рассматривается численное моделирование трехмерной гидродинамики на основе k-ε RNG модели турбулентности в гидроциклоне со встроенным инжектором, содержащим 5 тангенциально направленных сопла. Показано, что направление движения инжектируемой жидкости зависит от расхода жидкости через инжектор. Расчеты показывают в соответствии с экспериментами, что зависимость сплит-параметра от расхода инжектируемой жидкости имеет немонотонный характер, связанный с отношением мощности основного потока и инжектируемой жидкости.