Результаты поиска по 'β)</i>-производная':
Найдено статей: 92
  1. Силаев Д.А., Коротаев Д.О.
    Решение краевых задач с помощью S-сплайна
    Компьютерные исследования и моделирование, 2009, т. 1, № 2, с. 161-171

    Данная работа посвящена применению теории S-сплайнов для решения уравнений в частных производных на примере уравнения Пуассона. S-сплайн — кусочно-полиномиальная функция, коэффициенты полиномов которой определяются из двух условий: первая часть коэффициентов определяется условиями гладкой склейки, остальные определяются методом наименьших квадратов. В зависимости от порядка рассматриваемых полиномов и соотношения между количеством условий первого и второго типов мы получаем S-сплайны с разными свойствами. На настоящий момент изучены сплайны 3-й степени класса C1 и сплайны 5-й степени класса C2(т.е. на них накладывались условия гладкой склейки вплоть до первой и второй производных соответственно). Мы рассмотрим, каким образом могут быть применены сплайны 3-й степени класса C1 при решении уравнения Пуассона на круге и в других областях.

    Silaev D.A., Korotaev D.O.
    Solving of boundary tasks by using S-spline
    Computer Research and Modeling, 2009, v. 1, no. 2, pp. 161-171

    This article is dedicated to use of S-spline theory for solving equations in partial derivatives. For example, we consider solution of the Poisson equation. S-spline — is a piecewise-polynomial function. Its coefficients are defined by two states. The first part of coefficients are defined by smoothness of the spline. The second coefficients are determined by least-squares method. According to order of considered polynomial and number of conditions of first and second type we get S-splines with different properties. At this moment we have investigated order 3 S-splines of class C1 and order 5 S-splines of class C2 (they meet conditions of smoothness of order 1 and 2 respectively). We will consider how the order 3 S-splines of class C1 can be applied for solving equation of Poisson on circle and other areas.

    Views (last year): 8. Citations: 8 (RSCI).
  2. Новиков О.А., Ровенская О.Г.
    Приближение периодических функций высокой гладкости прямоугольными линейными методами
    Компьютерные исследования и моделирование, 2011, т. 3, № 3, с. 255-264

    Получены асимптотические формулы для верхних граней уклонений прямоугольных сумм Валле Пуссена на классах периодических функций двух переменных высокой гладкости. Эти соотношения в некоторых важных случаях обеспечивают решение известной задачи Колмогорова–Никольского для прямоугольных сумм Валле Пуссена и указанных классов функций.

    Novikov O.A., Rovenska O.G.
    Approximation of the periodical functions of hight smoothness by the right-angled
    linear methods

    Computer Research and Modeling, 2011, v. 3, no. 3, pp. 255-264

    We obtain asymptotic equalities for upper bounds of the deviations of the right-angled de la Vallee Poussin sums taken over classes of periodical functions of two variables of high smoothness. These equalities guarantee the solvability of the Kolmogorov–Nikol’skii problem for the right-angled de la Vallee Poussin sums on the specified classes of functions.

    Citations: 2 (RSCI).
  3. Ровенская О.Г., Новиков О.А.
    Приближение периодических функций высокой гладкости прямоугольными линейными средними рядов Фурье
    Компьютерные исследования и моделирование, 2012, т. 4, № 3, с. 521-529

    Получены асимптотические формулы для верхних граней уклонений прямоугольных сумм Валле Пуссена на классах периодических функций многих переменных высокой гладкости. Эти соотношения в некоторых важных случаях обеспечивают решение известной задачи Колмогорова–Никольского для прямоугольных сумм Валле Пуссена и указанных классов функций.

    Rovenska O.G., Novikov O.A.
    Approximation of the periodical functions of high smoothness by the right-angled linear means of Fourier series
    Computer Research and Modeling, 2012, v. 4, no. 3, pp. 521-529

    We obtain asymptotic equalities for upper bounds of the deviations of the right-angled de la Vallee Poussin sums taken over classes of periodical functions of many variables of high smoothness. These equalities guarantee the solvability of the Kolmogorov–Nikol’skii problem for the right-angled de la Vallee Poussin sums on the specified classes of functions.

    Citations: 2 (RSCI).
  4. Свириденко А.Б., Зеленков Г.А.
    Взаимосвязь и реализация квазиньютоновских и ньютоновских методов безусловной оптимизации
    Компьютерные исследования и моделирование, 2016, т. 8, № 1, с. 55-78

    Рассмотрены ньютоновские и квазиньютоновские методы безусловной оптимизации, основанные на факторизации Холесского, с регулировкой шага и с конечно-разностной аппроксимацией первых и вторых производных. Для увеличения эффективности квазиньютоновских методов предложено модифицированное разложение Холесского квазиньютоновской матрицы, определяющее и решение проблемы масштабирования шагов при спуске, и аппроксимацию неквадратичными функциями, и интеграцию с методом доверительной окрестности. Предложен подход к увеличению эффективности ньютоновских методов с конечно-разностной аппроксимацией первых и вторых производных. Приведены результаты численного исследования эффективности алгоритмов.

    Sviridenko A.B., Zelenkov G.A.
    Correlation and realization of quasi-Newton methods of absolute optimization
    Computer Research and Modeling, 2016, v. 8, no. 1, pp. 55-78

    Newton and quasi-Newton methods of absolute optimization based on Cholesky factorization with adaptive step and finite difference approximation of the first and the second derivatives. In order to raise effectiveness of the quasi-Newton methods a modified version of Cholesky decomposition of quasi-Newton matrix is suggested. It solves the problem of step scaling while descending, allows approximation by non-quadratic functions, and integration with confidential neighborhood method. An approach to raise Newton methods effectiveness with finite difference approximation of the first and second derivatives is offered. The results of numerical research of algorithm effectiveness are shown.

    Views (last year): 7. Citations: 5 (RSCI).
  5. Схемы WENO (взвешенные, существенно не осциллирующие схемы) в настоящее время имеют достаточно обширную область применения для аппроксимации разрывных решений в уравнениях в частных производных. Данные схемы применялись для прямого численного моделирования и моделирования динамики больших вихрей в задачах газовой динамики, задачах МГД и даже для задач нейтронной кинетики. Данная работа посвящена уточнению некоторых характеристик схем WENO и численному моделированию характерных задач, которые позволяют сделать выводы обоб ласти применимости данных схем. Первая часть работы содержала результаты по доказательству свойств аппроксимации, устойчивости и сходимости схем WENO5, WENO7, WENO9, WENO11 и WENO13. Во второй части работы проводится модифицированный волновой анализ, позволяющий сделать вывод о дисперсионных и диссипативных свойствах схем. Далее, проводится численное моделирование ряда характерных задач для уравнений гиперболического типа: уравнений переноса (одномерное и двухмерное), уравнения Хопфа, уравнения Бюргерса (с малой диссипацией) и уравнения динамики невязкого газа (одномерное и двухмерное). Для каждой из задач, подразумевающих гладкое решение, приведено практическое вычисление порядка аппроксимации с помощью метода Рунге. Во всех задачах проверяются выводы, сделанные в первой части работы по влиянию шага по времени на нелинейные свойства схем. В частности, для уравнений переноса разрывной функции и уравнений Хопфа показано, что невыполнение указанных рекомендаций ведет вначале к росту вариации решения, а затем включается диссипативный нелинейный механизм схемы и аппроксимация падает. Практически подтверждены выводы первой части по условиям устойчивости. Для одномерного уравнения Бюргерса проведено моделирование затухания случайно распределенных начальных условий в периодической области и выполнено сопоставление со спектральным методом. Делается вывод о применимости схем WENO7–WENO13 для прямого численного моделирования турбулентности. В конце демонстрируются возможности схем на начально-краевых задачах для уравнений динамики невязкого газа: неустойчивость Рэлея–Тейлора и отражение ударной волны от клина с образованием сложной конфигурации ударных волн и разрывов.

    WENO schemes (weighted, essentially non oscillating) are currently having a wide range of applications as approximate high order schemes for discontinuous solutions of partial differential equations. These schemes are used for direct numerical simulation (DNS) and large eddy simmulation in the gas dynamic problems, problems for DNS in MHD and even neutron kinetics. This work is dedicated to clarify some characteristics of WENO schemes and numerical simulation of specific tasks. Results of the simulations can be used to clarify the field of application of these schemes. The first part of the work contained proofs of the approximation properties, stability and convergence of WENO5, WENO7, WENO9, WENO11 and WENO13 schemes. In the second part of the work the modified wave number analysis is conducted that allows to conclude the dispersion and dissipative properties of schemes. Further, a numerical simulation of a number of specific problems for hyperbolic equations is conducted, namely for advection equations (one-dimensional and two-dimensional), Hopf equation, Burgers equation (with low dissipation) and equations of non viscous gas dynamics (onedimensional and two-dimensional). For each problem that is implying a smooth solution, the practical calculation of the order of approximation via Runge method is performed. The influence of a time step on nonlinear properties of the schemes is analyzed experimentally in all problems and cross checked with the first part of the paper. In particular, the advection equations of a discontinuous function and Hopf equations show that the failure of the recommendations from the first part of the paper leads first to an increase in total variation of the solution and then the approximation is decreased by the non-linear dissipative mechanics of the schemes. Dissipation of randomly distributed initial conditions in a periodic domain for one-dimensional Burgers equation is conducted and a comparison with the spectral method is performed. It is concluded that the WENO7–WENO13 schemes are suitable for direct numerical simulation of turbulence. At the end we demonstrate the possibility of the schemes to be used in solution of initial-boundary value problems for equations of non viscous gas dynamics: Rayleigh–Taylor instability and the reflection of the shock wave from a wedge with the formation a complex configuration of shock waves and discontinuities.

    Views (last year): 13.
  6. Волохова А.В., Земляная Е.В., Качалов В.В., Сокотущенко В.Н., Рихвицкий В.С.
    Численное исследование фильтрации газоконденсатной смеси в пористой среде
    Компьютерные исследования и моделирование, 2018, т. 10, № 2, с. 209-219

    В последние десятилетия важное значение приобретает разработка методов повышения эффективности извлечения углеводородов в месторождениях с нетрадиционными запасами, содержащими в больших количествах газовый конденсат. Это делает актуальным развитие методов математического моделирования, реалистично описывающих процессы фильтрации газоконденсатной смеси в пористой среде.

    В данной работе рассматривается математическая модель, описывающая динамику изменения давления, скорости и концентрации компонент двухкомпонентной двухфазовой смеси, поступающей в лабораторную модель пласта, заполненную пористым веществом с известными физико-химическими свойствами. Математическая модель описывается системой нелинейных пространственно-одномерных дифференциальных уравнений в частных производных с соответствующими начальными и граничными условиями. Лабораторные эксперименты показывают, что в течение конечного времени система стабилизируется, что дает основание перейти к стационарной постановке задачи.

    Численное решение сформулированной системы обыкновенных дифференциальных уравнений реализовано в среде Maple на основе метода Рунге–Кутты с автоматическим выбором шага. Показано, что полученные на этой основе физические параметры двухкомпонентной газоконденсатной смеси из метана и н-бутана, характеризующие моделируемую систему в режиме стабилизации, хорошо согласуются с имеющимися экспериментальными данными.

    Это подтверждает реалистичность выбранного подхода и обоснованность его дальнейшего развития и применения для компьютерного моделирования неравновесных физических процессов в газоконденсатных смесях в пористой среде с целью выработки в перспективе практических рекомендаций по увеличению извлекаемости углеводородного газоконденсата из природных месторождений. В работе представлена математическая постановка системы нелинейных уравнений в частных производных и соответствующей стационарной задачи, описан метод численного исследования, обсуждаются полученные численные результаты в сравнении с экспериментальными данными.

    Volokhova A.V., Zemlyanay E.V., Kachalov V.V., Sokotushchenko V.N., Rikhvitskiy V.S.
    Numerical investigation of the gas-condensate mixture flow in a porous medium
    Computer Research and Modeling, 2018, v. 10, no. 2, pp. 209-219

    In the last decades, the development of methods for increasing the efficiency of hydrocarbon extraction in fields with unconventional reserves containing large amounts of gas condensate is of great importance. This makes important the development of methods of mathematical modeling that realistically describe physical processes in a gas-condensate mixture in a porous medium.

    In the paper, a mathematical model which describes the dynamics of the pressure, velocity and concentration of the components of a two-component two-phase mixture entering a laboratory model of plast filled with a porous substance with known physicochemical properties is considered. The mathematical model is based on a system of nonlinear spatially one-dimensional partial differential equations with the corresponding initial and boundary conditions. Laboratory experiments show that during a finite time the system stabilizes, what gives a basis to proceed to the stationary formulation of the problem.

    The numerical solution of the formulated system of ordinary differential equations is realized in the Maple environment on the basis of the Runge–Kutta procedure. It is shown that the physical parameters of the gascondensate mixture, which characterize the modeled system in the stabilization regime, obtained on this basis, are in good agreement with the available experimental data. This confirms the correctness of the chosen approach and the validity of its further application and development for computer modeling of physical processes in gas-condensate mixtures in a porous medium. The paper presents a mathematical formulation of the system of partial differential equations and of respective system stationary equations, describes the numerical approach, and discusses the numerical results obtained in comparison with experimental data.

    Views (last year): 18. Citations: 2 (RSCI).
  7. Говорухин В.Н., Филимонова А.М.
    Расчет плоских геофизических течений невязкой несжимаемой жидкости бессеточно-спектральным методом
    Компьютерные исследования и моделирование, 2019, т. 11, № 3, с. 413-426

    Предложен бессеточно-спектральный метод расчета динамики плоских вихревых течений невязкой несжимаемой жидкости в геофизических приближениях с учетом планетарного вращения. Математически задача описывается системой двух уравнений в частных производных относительно функций тока и завихренности с различными граничными условиями (замкнутая область течения и периодические условия). В основе метода лежат следующие положения: поле завихренности задано значениями на множестве частиц; функция завихренности приближается с помощью кусочно-непрерывной аппроксимации кубическими полиномами от двух пространственных переменных; коэффициенты полиномов находятся методом наименьших квадратов; функция тока на каждом временном шаге находится методом Бубнова–Галёркина; динамика жидких частиц рассчитывается псевдосимплектическим методом Рунге–Кутты. В статье впервые подробно описан вариант метода для периодических граничных условий. Адекватность численной схемы проверена на тестовых примерах.

    В численном эксперименте исследована динамика конфигурации четырех круглых вихревых пятен с одинаковымр адиусоми постоянной завихренностью, расположенных в вершинах квадрата с центром в полюсе. Изучено влияние планетарного вращения и радиуса пятен на динамику и формирование вихревых структур. Показано, что в случае достаточно большого расстояния между границами вихревых пятен их динамика близка к поведению точечных вихрей с той же интенсивностью. При росте радиуса возникает взаимодействие между вихрями, которое приводит к их слиянию. В зависимости от направления вращения сила Кориолиса может усиливать или замедлять процессы взаимодействия и перемешивания вихрей. Так, вихревая структура из четырех вихрей при небольших радиусах пятен стабилизируется в случае сонаправленности собственного и планетарного вращений и разрушается на меньших временах при противоположных направлениях. При больших радиусах вихревая структура не стабилизируется.

    Govorukhin V.N., Filimonova A.M.
    Numerical calculation of planar geophysical flows of an inviscid incompressible fluid by a meshfree-spectral method
    Computer Research and Modeling, 2019, v. 11, no. 3, pp. 413-426

    In this article, a meshfree-spectral method for numerical investigation of dynamics of planar geophysical flows is proposed. We investigate inviscid incompressible fluid flows with the presence of planetary rotation. Mathematically this problem is described by the non-steady system of two partial differential equations in terms of stream and vorticity functions with different boundary conditions (closed flow region and periodic conditions). The proposed method is based on several assumptions. First of all, the vorticity field is given by its values on the set of particles. The function of vorticity distribution is approximated by piecewise cubic polynomials. Coefficients of polynomials are found by least squares method. The stream function is calculated by using the spectral global Bubnov –Galerkin method at each time step.

    The dynamics of fluid particles is calculated by pseudo-symplectic Runge –Kutta method. A detailed version of the method for periodic boundary conditions is described in this article for the first time. The adequacy of numerical scheme was examined on test examples. The dynamics of the configuration of four identical circular vortex patches with constant vorticity located at the vertices of a square with a center at the pole is investigated by numerical experiments. The effect of planetary rotation and the radius of patches on the dynamics and formation of vortex structures is studied. It is shown that, depending on the direction of rotation, the Coriolis force can enhance or slow down the processes of interaction and mixing of the distributed vortices. At large radii the vortex structure does not stabilize.

    Views (last year): 16.
  8. Распространение устойчивых когерентных образований электромагнитного поля в нелинейных средах с меняющимися в пространстве параметрами может быть описано в рамках итераций нелинейных интегральных преобразований. Показано что для ряда актуальных геометрий задач нелинейной оптики численное моделирование путем сведения к динамическим системам с дискретным временем и непрерывными пространственными переменными, основанное на итерациях локальных нелинейных отображений Фейгенбаума и Икеды, а также нелокальных диффузионно-дисперсионных линейных интегральных преобразований, эквивалентно в довольно широком диапазоне параметров дифференциальным уравнениям в частных производных типа Гинзбурга–Ландау. Такие нелокальные отображения, представляющие собой при численной реализации произведения матричных операторов, оказываются устойчивыми численно-разностными схемами, обеспечивают быструю сходимость и адекватную аппроксимацию решений. Реалистичность данного подхода позволяет учитывать влияние шумов на нелинейную динамику путем наложения на расчетный массив чисел при каждой итерации пространственного шума, задаваемого в виде многомодового случайного процесса, и производить отбор устойчивых волновых конфигураций. Нелинейные волновые образования, описываемые данным методом, включают оптические фазовые сингулярности, пространственные солитоны и турбулентные состояния с быстрым затуханием корреляций. Определенный интерес представляют полученные данным численным методом периодические конфигурации электромагнитного поля, возникающие в результате фазовой синхронизации, такие как оптические решетки и самоорганизованные вихревые кластеры.

    Okulov A.Y.
    Numerical investigation of coherent and turbulent structures of light via nonlinear integral mappings
    Computer Research and Modeling, 2020, v. 12, no. 5, pp. 979-992

    The propagation of stable coherent entities of an electromagnetic field in nonlinear media with parameters varying in space can be described in the framework of iterations of nonlinear integral transformations. It is shown that for a set of geometries relevant to typical problems of nonlinear optics, numerical modeling by reducing to dynamical systems with discrete time and continuous spatial variables to iterates of local nonlinear Feigenbaum and Ikeda mappings and nonlocal diffusion-dispersion linear integral transforms is equivalent to partial differential equations of the Ginzburg–Landau type in a fairly wide range of parameters. Such nonlocal mappings, which are the products of matrix operators in the numerical implementation, turn out to be stable numerical- difference schemes, provide fast convergence and an adequate approximation of solutions. The realism of this approach allows one to take into account the effect of noise on nonlinear dynamics by superimposing a spatial noise specified in the form of a multimode random process at each iteration and selecting the stable wave configurations. The nonlinear wave formations described by this method include optical phase singularities, spatial solitons, and turbulent states with fast decay of correlations. The particular interest is in the periodic configurations of the electromagnetic field obtained by this numerical method that arise as a result of phase synchronization, such as optical lattices and self-organized vortex clusters.

  9. Гренкин Г.В.
    Об однозначности идентификации параметров скорости реакции в модели горения
    Компьютерные исследования и моделирование, 2023, т. 15, № 6, с. 1469-1476

    Рассмотрена модель горения предварительно перемешанной смеси газов с одной глобальной химической реакцией, включающая в себя уравнения второго порядка относительно температуры смеси и концентраций топлива и окислителя, в правые части которых входит функция скорости реакции. Эта функция зависит от пяти неизвестных параметров глобальной реакции и служит приближением для многоступенчатого механизма реакций. Модель сводится к одному уравнению второго порядка относительно температуры смеси, которое после замены переменных преобразуется к уравнению первого порядка относительно производной температуры, зависящей от температуры, в которое входит параметр скорости распространения пламени. Таким образом, для вычисления параметра скорости распространения пламени необходимо решить задачу Дирихле для уравнения первого порядка, в результате чего получится модельная зависимость скорости распространения пламени от эквивалентного отношения смеси при заданных параметрах скорости реакции. При наличии экспериментальных данных зависимости скорости распространения пламени от эквивалентного отношения смеси ставится задача оптимального подбора параметров скорости реакции, исходя из минимизации среднеквадратичного отклонения модельных значений скорости распространения пламени от эксперимента. Целью работы является исследование однозначности решения этой задачи. Для этого применяется вычислительный эксперимент, в ходе которого решается задача глобального поиска оптимумов с помощью мультистарта градиентного спуска. В ходе вычислительного эксперимента выяснено, что обратная задача в такой постановке является недоопределенной, и всякий раз при запуске градиентного метода из новой точки получается новая предельная точка. Исследована структура множества предельных точек в пятимерном пространстве параметров и показано, что это множество может быть описано тремя линейными уравнениями. Таким образом, будет некорректным табулировать все пять параметров скорости реакции исходя из одного лишь критерия соответствия модели данным скорости распространения пламени. Вывод исследования заключается в том, что для корректного табулирования параметров необходимо указать значения двух из них исходя из дополнительных критериев оптимальности.

    Grenkin G.V.
    On the uniqueness of identification of reaction rate parameters in a combustion model
    Computer Research and Modeling, 2023, v. 15, no. 6, pp. 1469-1476

    A model of combustion of premixed mixture of gases with one global chemical reaction is considered, the model includes equations of the second order for temperature of mixture and concentrations of fuel and oxidizer, and the right-hand sides of these equations contain the reaction rate function. This function depends on five unknown parameters of the global reaction and serves as approximation to multistep reaction mechanism. The model is reduced, after replacement of variables, to one equation of the second order for temperature of mixture that transforms to a first-order equation for temperature derivative depending on temperature that contains a parameter of flame propagation velocity. Thus, for computing the parameter of burning velocity, one has to solve Dirichlet problem for first-order equation, and after that a model dependence of burning velocity on mixture equivalence ratio at specified reaction rate parameters will be obtained. Given the experimental data of dependence of burning velocity on mixture equivalence ratio, the problem of optimal selection of reaction rate parameters is stated, based on minimization of the mean square deviation of model values of burning velocity on experimental ones. The aim of our study is analysis of uniqueness of this problem solution. To this end, we apply computational experiment during which the problem of global search of optima is solved using multistart of gradient descent. The computational experiment clarifies that the inverse problem in this statement is underdetermined, and every time, when running gradient descent from a selected starting point, it converges to a new limit point. The structure of the set of limit points in the five-dimensional space is analyzed, and it is shown that this set can be described with three linear equations. Therefore, it might be incorrect to tabulate all five parameters of reaction rate based on just one match criterion between model and experimental data of flame propagation velocity. The conclusion of our study is that in order to tabulate reaction rate parameters correctly, it is necessary to specify the values of two of them, based on additional optimality criteria.

  10. Дегтярев А.А., Бахурин С.А.
    Компенсация собственных нелинейных помех на основе смешанного метода Ньютона
    Компьютерные исследования и моделирование, 2024, т. 16, № 7, с. 1579-1592

    В статье исследуется одно из возможных решений задачи компенсации собственных помех (SIC, Self-Interference Cancellation), возникающей при проектировании полнодуплексных (IBFD, In-band Full-Duplex) систем связи. Подавление собственных помех осуществляется в цифровой области с помощью многослойных нелинейных моделей, которые адаптируются на основе метода градиентного спуска. Наличие локальных оптимумов и седловых точек при адаптации многослойных моделей делает невозможным использование методов второго порядка ввиду знаконеопределенности матрицы Гессе.

    В данной работе предложено использовать смешанный метод Ньютона (MNM, mixed Newton method), который учитывает информацию о смешанных производных второго порядка функции потерь и, как следствие, обеспечивает высокую скорость сходимости по сравнению с традиционными методами первого порядка. Использование лишь только смешанных частных производных второго порядка при построении матрицы Гессе позволяет избежать проблемы «застревания» в седловых точках при использовании смешанного метода Ньютона для адаптации многослойных нелинейных компенсаторов собственных помех при проектировании полнодуплексных систем связи.

    В качестве модели собственных нелинейных помех выбрана модель Гаммерштейна с комплексными параметрами. Данный выбор обусловлен тем, что модель эффективно описывает физические свойства, лежащие в основе формирования собственных помех. Благодаря свойству голоморфности выхода модели смешанный метод Ньютона обеспечивает свойство «отталкивания» от седловых точек в ландшафте функции потерь.

    В работе приводятся кривые сходимости при адаптации модели Гаммерштейна смешанным методом Ньютона, а также при помощи классических подходов на основе метода градиентного спуска. Кроме того, приводится вывод предложенного метода, а также оценка вычислительной сложности.

    Degtyarev A.A., Bakhurin S.A.
    Non-linear self-interference cancellation on base of mixed Newton method
    Computer Research and Modeling, 2024, v. 16, no. 7, pp. 1579-1592

    The paper investigates a potential solution to the problem of Self-Interference Cancellation (SIC) encountered in the design of In-Band Full-Duplex (IBFD) communication systems. The suppression of selfinterference is implemented in the digital domain using multilayer nonlinear models adapted via the gradient descent method. The presence of local optima and saddle points in the adaptation of multilayer models prevents the use of second-order methods due to the indefinite nature of the Hessian matrix.

    This work proposes the use of the Mixed Newton Method (MNM), which incorporates information about the second-order mixed partial derivatives of the loss function, thereby enabling a faster convergence rate compared to traditional first-order methods. By constructing the Hessian matrix solely with mixed second-order partial derivatives, this approach mitigates the issue of “getting stuck” at saddle points when applying the Mixed Newton Method for adapting multilayer nonlinear self-interference compensators in full-duplex system design.

    The Hammerstein model with complex parameters has been selected to represent nonlinear selfinterference. This choice is motivated by the model’s ability to accurately describe the underlying physical properties of self-interference formation. Due to the holomorphic property of the model output, the Mixed Newton Method provides a “repulsion” effect from saddle points in the loss landscape.

    The paper presents convergence curves for the adaptation of the Hammerstein model using both the Mixed Newton Method and conventional gradient descent-based approaches. Additionally, it provides a derivation of the proposed method along with an assessment of its computational complexity.

Pages: « first previous next last »

Indexed in Scopus

Full-text version of the journal is also available on the web site of the scientific electronic library eLIBRARY.RU

The journal is included in the Russian Science Citation Index

The journal is included in the RSCI

International Interdisciplinary Conference "Mathematics. Computing. Education"