Результаты поиска по 'численный анализ':
Найдено статей: 189
  1. В работе дается обзор существующих методов обработки сигналов в условиях применения статистической модели Райса. Рассмотрены основные направления развития, существующие ограничения и возможности совершенствования методов решения задачи шумоподавления и фильтрации анализируемых сигналов на примере магнитно-резонансной визуализации. Развита концепция нового подхода к решению задачи одновременного определения основных статистических параметров райсовского случайного сигнала на основе метода моментов в двух вариантах его осуществления. Проведено компьютерное моделирование и проведен сравнительный анализ полученных численных результатов.

    Yakovleva T.V.
    Review of MRI processing techniques and elaboration of a new two-parametric method of moments
    Computer Research and Modeling, 2014, v. 6, no. 2, pp. 231-244

    The paper provides a review of the existing methods of signals’ processing within the conditions of the Rice statistical model applicability. There are considered the principle development directions, the existing limitations and the improvement possibilities concerning the methods of solving the tasks of noise suppression and analyzed signals’ filtration by the example of magnetic-resonance visualization. A conception of a new approach to joint calculation of Rician signal’s both parameters has been developed based on the method of moments in two variants of its implementation. The computer simulation and the comparative analysis of the obtained numerical results have been conducted.

    Citations: 10 (RSCI).
  2. Мартюшев С.Г., Шеремет М.А.
    Численный анализ конвективно-радиационного теплопереноса в замкнутой воздушной полости с локальным источником энергии
    Компьютерные исследования и моделирование, 2014, т. 6, № 3, с. 383-396

    Проведено математическое моделирование естественной конвекции и теплового излучения в квадратной замкнутой воздушной полости с изотермическими вертикальными стенками при наличии локального источника энергии постоянной температуры. Математическая модель построена в безразмерных переменных «функция тока – завихренность скорости – температура» в приближении Буссинеска и с учетом диатермичности воздушной среды. Получены распределения изолиний функции тока и температуры в широком диапазоне изменения определяющих параметров: число Рэлея $10^3 \leqslant Ra \leqslant 10^6$, приведенная степень черноты ограждающих стенок $0\leqslant\varepsilon < 1$, отношение длины источника энергии к размеру полости $0.2\leqslant l/L\leqslant0.6$ и время $0\leqslantτ\leqslant 100$. Установлены корреляционные соотношения для интегрального коэффициента теплообмена в зависимости от $Ra$, $ε$ и $l/L$.

    Martyushev S.G., Sheremet M.A.
    Numerical analysis of convective-radiative heat transfer in an air enclosure with a local heat source
    Computer Research and Modeling, 2014, v. 6, no. 3, pp. 383-396

    Mathematical simulation of natural convection and surface radiation in a square air enclosure having isothermal vertical walls with a local heat source of constant temperature has been carried out. Mathematical model has been formulated on the basis of the dimensionless variables such as stream function, vorticity and temperature by using the Boussinesq approximation and diathermancy of air. Distributions of streamlines and isotherms reflecting an effect of Rayleigh number $ 10^3 \leqslant Ra \leqslant 10^6 $, surface emissivity $0 \leqslant ε < 1$, ratio between the length of heat source and the size of enclosure $0.2 \leqslant l/L \leqslant 0.6$ and dimensionless time $0 \leqslant τ \leqslant 100$ on fluid flow and heat transfer have been obtained. Correlations for the average heat transfer coefficient in dependence on $Ra$, $ε$ and $l/L$ have been ascertained.

    Views (last year): 1. Citations: 5 (RSCI).
  3. Суховольский В.Г., Ковалев А.В., Пальникова Е.Н., Тарасова О.В.
    Моделирование рисков воздействия насекомых на лесные насаждения при возможных климатических изменениях
    Компьютерные исследования и моделирование, 2016, т. 8, № 2, с. 241-253

    Модель динамики численности популяций лесных насекомых использована для моделирования взаимодействий «лес–насекомые» и оценки возможных повреждений лесных насаждений насекомыми-вредителями. Согласно этой модели популяция рассматривалась как система автоматической регуляции, в которой входные переменные характеризуют влияние модифицирующих (прежде всего климатических) факторов, а цепи обратной связи описывают влияние регулирующих факторов (паразитов и хищников, внутрипопуляционных взаимодействий). На основе этой модели популяционной динамики предложена методика стресс-тестирования — оценки рисков повреждений и гибели лесных насаждений по отношению к вспышкам массового размножения насекомых. Такой опасный вид лесных вредителей, как сосновая пяденица (Bupalus piniarius L.), рассматривался в качестве объекта анализа; проводились компьютерные эксперименты по оценке рисков возникновения вспышек массового размножения при возможных климатических изменениях на территории Средней Сибири. Модельные эксперименты по- казали, что при достаточно умеренном потеплении (не более 4 °С в летний период) риск воздействия насекомых на лес существенно не возрастает. Однако более сильное потепление на территории Средней Сибири в сочетании с уменьшением количества осадков в летний период может вызвать существенное увеличение частоты вспышек массового размножения основного вредителя сосновых лесов — сосновой пяденицы.

    Soukhovolsky V.G., Kovalev A.V., Palnikova E.N., Tarasova O.V.
    Modelling the risk of insect impacts on forest stands after possible climate changes
    Computer Research and Modeling, 2016, v. 8, no. 2, pp. 241-253

    A model of forest insect population dynamics used to simulate of “forest-insect” interactions and for estimation of possible damages of forest stand by pests. This model represented a population as control system where the input variables characterized the influence of modifier (climatic) factors and the feedback loop describes the effect of regulatory factors (parasites, predators and population interactions). The technique of stress testing on the basis of population dynamics model proposed for assessment of the risks of forest stand damage and destruction after insect impact. The dangerous forest pest pine looper Bupalus piniarius L. considered as the object of analysis. Computer experiments were conducted to assess of outbreak risks with possible climate change in the territory of Central Siberia. Model experiments have shown that risk of insect impact on the forest is not increased significantly in condition of sufficiently moderate warming (not more than 4 °C in summer period). However, a stronger warming in the territory of Central Siberia, combined with a dry summer condition could cause a significant increase in the risk of pine looper outbreaks.

    Views (last year): 3. Citations: 1 (RSCI).
  4. Горр Г.В., Щетинина Е.К.
    Новая форма уравнений в моделировании движения тяжелого твердого тела
    Компьютерные исследования и моделирование, 2016, т. 8, № 6, с. 873-884

    В динамике тяжелого твердого тела с неподвижной точкой известны различные типы редуцированных уравнений. Поскольку уравнения Эйлера–Пуассона допускают три первых интеграла, то в первом подходе получение новых форм уравнений, как правило, основано на этих интегралах. С их помощью можно систему шести скалярных уравнений преобразовать к системе третьего порядка. Однако редуцированная система при указанном подходе будет иметь особенность в виде радикальных выражений относительно компонент вектора угловой скорости. Это обстоятельство препятствует эффективному применению численных и асимптотических методов исследования решения. Во втором подходе используют различные виды переменных задачи: углы Эйлера, переменные Гамильтона и другие. При таком подходе уравнения Эйлера–Пуассона редуцируются либо к системе дифференциальных уравнений второго порядка, либо к системе, для которой эффективны специальные методы. В статье применен метод нахождения приведенной системы, основанный на введении вспомогательной переменной. Эта переменная характеризует смешанное произведение вектора момента количества движения, вектора вертикали и единичного вектора барицентрической оси тела. Получена система четырех дифференциальных уравнений, два из которых являются линейными дифференциальными уравнениями. Данная система не имеет аналога и не содержит особенностей, что позволяет применять к ней аналитические и численные методы исследования. Указанная форма уравнений применена для анализа специального класса решений в случае, когда центр масс тела принадлежит барицентрической оси. Рассмотрен вариант, при котором сумма квадратов двух компонент вектора кинематического момента относительно небарицентрических осей постоянна. Доказано, что этот вариант имеет место только в решении В.А. Стеклова. Найденная форма уравнений Эйлера–Пуассона может быть применена к исследованию условий существования других классов решений. Определенная перспектива полученных уравнений состоит в записи всех решений, для которых центр масс лежит на барицентрической оси, в переменных данной статьи. Это позволяет провести классификацию решений уравнений Эйлера–Пуассона в зависимости от порядка инвариантных соотношений. Поскольку указанная в статье система уравнений не имеет особенностей, то она может рассматриваться при компьютерном моделировании с помощью численных методов.

    Gorr G.V., Shchetinina E.K.
    A new form of differential equations in modeling of the motion of a heavy solid
    Computer Research and Modeling, 2016, v. 8, no. 6, pp. 873-884

    The different types of the reduced equations are known in the dynamics a heavy rigid body with a fixed point. Since the Euler−Poisson’s equations admit the three first integrals, then for the first approach the obtaining new forms of equations are usually based on these integrals. The system of six scalar equations can be transformed to a third-order system with them. However, in indicated approach the reduced system will have a feature as in the form of radical expressions a relatively the components of the angular velocity vector. This fact prevents the effective the effective application of numerical and asymptotic methods of solutions research. In the second approach the different types of variables in a problem are used: Euler’s angles, Hamilton’s variables and other variables. In this approach the Euler−Poisson’s equations are reduced to either the system of second-order differential equations, or the system for which the special methods are effective. In the article the method of finding the reduced system based on the introduction of an auxiliary variable is applied. This variable characterizes the mixed product of the angular momentum vector, the vector of vertical and the unit vector barycentric axis of the body. The system of four differential equations, two of which are linear differential equations was obtained. This system has no analog and does not contain the features that allows to apply to it the analytical and numerical methods. Received form of equations is applied for the analysis of a special class of solutions in the case when the center of mass of the body belongs to the barycentric axis. The variant in which the sum of the squares of the two components of the angular momentum vector with respect to not barycentric axes is constant. It is proved that this variant exists only in the Steklov’s solution. The obtained form of Euler−Poisson’s equations can be used to the investigation of the conditions of existence of other classes of solutions. Certain perspectives obtained equations consists a record of all solutions for which the center of mass is on barycentric axis in the variables of this article. It allows to carry out a classification solutions of Euler−Poisson’s equations depending on the order of invariant relations. Since the equations system specified in the article has no singularities, it can be considered in computer modeling using numerical methods.

    Views (last year): 6.
  5. Жаркова В.В., Щеляев А.Е., Дядькин А.А., Павлов А.О., Симакова Т.В.
    Расчет гидродинамических воздействий на возвращаемый аппарат при посадке на воду
    Компьютерные исследования и моделирование, 2017, т. 9, № 1, с. 37-46

    В работе представлены результаты моделирования расчетных случаев приводнения возвращаемого аппарата (ВА) пилотируемого транспортного корабля нового поколения в условиях штиля. Рассмотрены случаи посадки ВА с работающими и с выключенными двигательными установками.

    Задача приводнения ВА моделировалась в рамках двухфазной постановки с наличием двух несмешивающихся фаз: воды и газа, состоящего из воздуха и продуктов сгорания, поступающих из двигательной установки. Параметры течения в каждой фазе резко отличаются друг от друга по величине плотности и скорости распространения звука. Истечение продуктов сгорания из сопловых установок характеризуется высокими скоростями и давлениями, что усложняет задачу, по сравнению со свободным падением ВА в воду. В расчетах используется упрощение постановки задачи, в котором при взаимодействии горячих струй с водой кипение, испарение и образование водяного пара не учитываются. Газовые струи только нагревают и вытесняют воду.

    Для моделирования переноса межфазных границ применяется метод VOF (Volume of fluid), где перенос контактной поверхности описывается конвективным уравнением, а поверхностное натяжение на межфазной границе учитывается давлением Лапласа. Ключевой особенностью метода является расщепление поверхностных ячеек, куда заносятся данные соответствующей фазы. Уравнения для обеих фаз (уравнения неразрывности, импульса, энергии и другие) в поверхностных ячейках решаются совместно.

    Моделирование приводнения ВА занимает длительное время, что связанно с особенностями явного расчета уровня границы раздела фаз (свободной поверхности). Для получения качественных результатов свободная поверхность должна быть разрешена большим количеством расчетных ячеек, но при этом за один шаг интегрирования перемещаться не более чем на одну ячейку.

    В процессе приземления исследовались гидродинамическое воздействие на ВА, динамика его движения и остойчивость ВА после приводнения, оценивались продольные перегрузки. Полученные данные использовались для анализа нагружения и прочности конструкции корпуса ВА, а также его отдельных элементов.

    Zharkova V.V., Schelyaev A.E., Dyadkin A.A., Pavlov A.O., Simakova T.V.
    The calculation of hydrodynamic impact on reentry vehicle during splashdown
    Computer Research and Modeling, 2017, v. 9, no. 1, pp. 37-46

    The reentry vehicle of the transportation spacecraft that is being created by RSC Energia in regular mode makes soft landing on land surface using a parachute system and thruster devices. But in not standard situations the reentry vehicle also is capable of executing a splashdown. In that case, it becomes important to define the hydrodynamics impact on the reentry vehicle at the moment of the first contact with the surface of water and during submersion into water medium, and to study the dynamics of the vehicle behavior at more recent moments of time.

    This article presents results of numerical studies of hydrodynamics forces on the conical vehicle during splashdown, done with the FlowVision software. The paper reviews the cases of the splashdown with inactive solid rocket motors on calm sea and the cases with interactions between rocket jets and the water surface. It presents data on the allocation of pressure on the vehicle in the process of the vehicle immersion into water medium and dynamics of the vehicle behavior after splashdown. The paper also shows flow structures in the area of the reentry vehicle at the different moments of time, and integral forces and moments acting on the vehicle.

    For simulation process with moving interphases in the FlowVision software realized the model VOF (volume of fluid). Transfer of the phase boundary is described by the equation of volume fraction of this continuous phase in a computational cell. Transfer contact surface is described by the convection equation, and at the surface tension is taken into account by the Laplace pressure. Key features of the method is the splitting surface cells where data is entered the corresponding phase. Equations for both phases (like the equations of continuity, momentum, energy and others) in the surface cells are accounted jointly.

    Views (last year): 30.
  6. Крат Ю.Г., Потапов И.И.
    Движение влекомых наносов над периодическим дном
    Компьютерные исследования и моделирование, 2018, т. 10, № 1, с. 47-60

    Движение влекомых наносов по дну напорного канала может приводить к потере устойчивости донной поверхности, когда на дне канала возникают донные волны. Исследование процесса развития донных волн связано с возможностью определения характера движения влекомых наносов по дну периодической формы. Несмотря на большое внимание многих исследователей к данной проблеме, вопрос о развитии процесса донных волн остается открытым и в настоящее время. В значительной мере это связано с тем, что при анализе данного процесса многие исследователи используют в своих работах феноменологические формулы движения влекомых наносов. Полученные в таких моделях результаты позволяют лишь качественно оценить процесс развития донных волн. По этой причине представляет интерес проведение анализа развития донных волн с использованием аналитической модели движения влекомых наносов.

    В работе предложена двумерная профильная математическая русловая модель, позволяющая исследовать движение влекомых наносов над периодическим дном. Особенностью математической модели является возможность расчета расхода влекомых наносов по аналитической модели с реологией Кулона–Прандтля, учитывающей влияние уклонов поверхности дна, придонных нормальных и касательных напряжений на процесс движения донного материала. Показано, что при движении донного материла по дну периодической формы диффузионные и напорные расходы влекомых наносов являются разнонаправленными и доминирующими по отношению к транзитному расходу. Изучались влияния параметра перекошенности донной волны на вклад транзитного, диффузионного и напорного расходов в полный расход влекомых наносов. Выполнено сравнение полученных результатов с численными решениями других авторов для донной поверхности косинусоидальной формы.

    Krat Y.G., Potapov I.I.
    Movement of sediment over periodic bed
    Computer Research and Modeling, 2018, v. 10, no. 1, pp. 47-60

    The movement of bed load along the closed conduit can lead to a loss of stability of the bed surface, when bed waves arise at the bed of the channel. Investigation of the development of bed waves is associated with the possibility of determining of the bed load nature along the bed of the periodic form. Despite the great attention of many researchers to this problem, the question of the development of bed waves remains open at the present time. This is due to the fact that in the analysis of this process many researchers use phenomenological formulas for sediment transport in their work. The results obtained in such models allow only assess qualitatly the development of bed waves. For this reason, it is of interest to carry out an analysis of the development of bed waves using the analytical model for sediment transport.

    The paper proposed two-dimensional profile mathematical riverbed model, which allows to investigate the movement of sediment over a periodic bed. A feature of the mathematical model is the possibility of calculating the bed load transport according to an analytical model with the Coulomb–Prandtl rheology, which takes into account the influence of bottom surface slopes, bed normal and tangential stresses on the movement of bed material. It is shown that when the bed material moves along the bed of periodic form, the diffusion and pressure transport of bed load are multidirectional and dominant with respect to the transit flow. Influence of the effects of changes in wave shape on the contribution of transit, diffusion and pressure transport to the total sediment transport has been studied. Comparison of the received results with numerical solutions of the other authors has shown their good qualitative initiation.

    Views (last year): 9.
  7. Михайленко С.А., Шеремет М.А.
    Моделирование конвективно-радиационного теплопереноса в дифференциально обогреваемой вращающейся полости
    Компьютерные исследования и моделирование, 2018, т. 10, № 2, с. 195-207

    Проведено математическое моделирование нестационарных режимов естественной конвекции и поверхностного излучения в замкнутой вращающейся квадратной полости. Рассматриваемая область решения имела две противоположные изотермические стенки, поддерживаемые при постоянных низкой и высокой температурах, остальные стенки являлись адиабатическими. Стенки считались диффузно-серыми. Анализируемая полость вращалась с постоянной угловой скоростью относительно оси, проходящей через центр полости и ориентированной ортогонально области решения. Математическая модель, сформулированная в безразмерных преобразованных переменных «функция тока – завихренность скорости» на основе приближений Буссинеска и диатермичности рабочей среды, была реализована численно методом конечных разностей. Уравнения дисперсии завихренности и энергии решались на основе локально-одномерной схемы А. А. Самарского. Диффузионные слагаемые аппроксимировались центральными разностями, конвективные — с использованием монотонной аппроксимации А. А. Самарского. Разностные уравнения решались методом прогонки. Разностное уравнение Пуассона для функции тока решалось отдельно с применением метода последовательной верхней релаксации. Оптимальное значение параметра релаксации подбиралось на основе вычислительных экспериментов. Анализ радиационного теплообмена проведен с использованием метода сальдо в варианте Поляка. Разработанный вычислительный код был протестирован на множестве сеток, а также верифицирован путем сопоставления полученных результатов при решении модельной задачи с экспериментальными и численными данными других авторов.

    Численные исследования нестационарных режимов естественной конвекции и поверхностного теплового излучения в замкнутой вращающейся полости проведены при следующих значениях безразмерных параметров: Ra = 103–106, Ta = 0–105, Pr = 0.7, ε = 0–0.9. Все распределения были получены для двадцатого полного оборота полости, когда наблюдается установление периодической картины течения и теплопереноса. В результате анализа установлено, что при малой угловой скорости вращения полости возможна интенсификация течения, а дальнейший рост скорости вращения приводит к ослаблению конвективного течения. Радиационное число Нуссельта незначительно изменяется при варьировании числа Тейлора.

    Mikhailenko S.A., Sheremet M.A.
    Simulation of convective-radiative heat transfer in a differentially heated rotating cavity
    Computer Research and Modeling, 2018, v. 10, no. 2, pp. 195-207

    Mathematical simulation of unsteady natural convection and thermal surface radiation within a rotating square enclosure was performed. The considered domain of interest had two isothermal opposite walls subjected to constant low and high temperatures, while other walls are adiabatic. The walls were diffuse and gray. The considered cavity rotated with constant angular velocity relative to the axis that was perpendicular to the cavity and crossed the cavity in the center. Mathematical model, formulated in dimensionless transformed variables “stream function – vorticity” using the Boussinesq approximation and diathermic approach for the medium, was performed numerically using the finite difference method. The vorticity dispersion equation and energy equation were solved using locally one-dimensional Samarskii scheme. The diffusive terms were approximated by central differences, while the convective terms were approximated using monotonic Samarskii scheme. The difference equations were solved by the Thomas algorithm. The approximated Poisson equation for the stream function was solved by successive over-relaxation method. Optimal value of the relaxation parameter was found on the basis of computational experiments. Radiative heat transfer was analyzed using the net-radiation method in Poljak approach. The developed computational code was tested using the grid independence analysis and experimental and numerical results for the model problem.

    Numerical analysis of unsteady natural convection and thermal surface radiation within the rotating enclosure was performed for the following parameters: Ra = 103–106, Ta = 0–105, Pr = 0.7, ε = 0–0.9. All distributions were obtained for the twentieth complete revolution when one can find the periodic behavior of flow and heat transfer. As a result we revealed that at low angular velocity the convective flow can intensify but the following growth of angular velocity leads to suppression of the convective flow. The radiative Nusselt number changes weakly with the Taylor number.

    Views (last year): 20.
  8. Грачев В.А., Найштут Ю.С.
    Задачи устойчивости тонких упругих оболочек
    Компьютерные исследования и моделирование, 2018, т. 10, № 6, с. 775-787

    В работе рассматриваются различные математические постановки, относящиеся к задаче упругой устойчивости оболочек в связи с обнаруженными в последнее время несоответствиями между экспериментальными данными и предсказаниями, основанными на теории пологих оболочек. Отмечается, что противоречия возникли в связи с появлением новых алгоритмов, позволивших уточнить вычисленные в двадцатом веке так называемые нижние критические напряжения, которые приняты техническими стандартами в качестве критерия глобальной потери устойчивости тонких пологих оболочек. Новые вычисления часто оценивают нижнее критическое напряжение близким к нулю. Следовательно, нижнее критическое напряжение не может приниматься в качестве расчетного значения для анализа потери устойчивости тонкостенной конструкции, а уравнения теории пологих оболочек должны быть заменены другими дифференциальными уравнениями. В новой теории следует также определить критерий потери устойчивости, обеспечивающий совпадение вычислений и экспериментов.

    В работе показано, что в рамках динамической нелинейной трехмерной теории упругости противоречие с новыми экспериментами может быть устранено. В качестве критерия глобальной потери устойчивости следует принять напряжение, при котором имеет место бифуркация динамических мод. Нелинейный характер исходных уравнений порождает уединенные (солитонные) волны, которым соответствуют негладкие перемещения оболочек (патерны, вмятины). Существенно, что влияния солитонов проявляются на всех этапах нагружения и резко возрастают, приближаясь к бифуркации. Солитонные решения иллюстрируются на примере тонкой цилиндрической безмоментной оболочки, трехмерный объем которой моделируется двумерной поверхностью с заданной толщиной. В статье отмечается, что волны, формирующие патерны, могут быть обнаружены (а их амплитуды определены) путем акустических или электромагнитных измерений.

    Таким образом, появляется техническая возможность снизить риск разрушения оболочек, если проводить мониторинг формы поверхности современными акустическими средствами. Статья завершается формулировкой математических проблем, требующих решения для надежной численной оценки критерия потери устойчивости тонких упругих оболочек.

    Grachev V.A., Nayshtut Yu.S.
    Buckling problems of thin elastic shells
    Computer Research and Modeling, 2018, v. 10, no. 6, pp. 775-787

    The article covers several mathematical problems relating to elastic stability of thin shells in view of inconsistencies that have been recently identified between the experimental data and the predictions based on the shallow- shell theory. It is highlighted that the contradictions were caused by new algorithms that enabled updating the values of the so called “low critical stresses” calculated in the 20th century and adopted as a buckling criterion for thin shallow shells by technical standards. The new calculations often find the low critical stress close to zero. Therefore, the low critical stress cannot be used as a safety factor for the buckling analysis of the thinwalled structure, and the equations of the shallow-shell theory need to be replaced with other differential equations. The new theory also requires a buckling criterion ensuring the match between calculations and experimental data.

    The article demonstrates that the contradiction with the new experiments can be resolved within the dynamic nonlinear three-dimensional theory of elasticity. The stress when bifurcation of dynamic modes occurs shall be taken as a buckling criterion. The nonlinear form of original equations causes solitary (solitonic) waves that match non-smooth displacements (patterns, dents) of the shells. It is essential that the solitons make an impact at all stages of loading and significantly increase closer to bifurcation. The solitonic solutions are illustrated based on the thin cylindrical momentless shell when its three-dimensional volume is simulated with twodimensional surface of the set thickness. It is noted that the pattern-generating waves can be detected (and their amplitudes can by identified) with acoustic or electromagnetic devices.

    Thus, it is technically possible to reduce the risk of failure of the thin shells by monitoring the shape of the surface with acoustic devices. The article concludes with a setting of the mathematical problems requiring the solution for the reliable numerical assessment of the buckling criterion for thin elastic shells.

    Views (last year): 23.
  9. Рукавишников В.А., Мосолапов А.О.
    Весовой векторный метод конечных элементов и его приложения
    Компьютерные исследования и моделирование, 2019, т. 11, № 1, с. 71-86

    Математические модели многих естественных процессов описываются дифференциальными уравнениями с особенностями решения. Классические численные методы для нахождения приближенного решения таких задач оказываются неэффективными. В настоящей работе рассмотрена краевая задача для векторного волнового уравнения в двумерной L-образной области. Наличие входящего угла величиной  $3\pi/2$ на границе расчетной области обусловливает сильную сингулярность задачи, то есть ее решение не принадлежит пространству Соболева $H^1$, в результате чего классические и специализированные численные методы имеют скорость сходимости ниже чем $O(h)$. Поэтому в работе введено специальное весовое множество вектор-функций. В этом множестве решение рассматриваемой краевой задачи определено как $R_ν$-обобщенное.

    Для численного нахождения $R_ν$-обобщенного решения построен весовой векторный метод конечных элементов. Основным отличием этого метода является введение в базисные функции в качестве сомножителя специальной весовой функции в степени, определяемой свойствами решения исходной краевой задачи. Это позволило существенно повысить скорость сходимости приближенного решения к точному при измельчении конечноэлементной сетки. Кроме того, введенные базисные функции соленоидальны, что обеспечило точный учет условия соленоидальности искомого решения и предотвратило появление ложных численных решений.

    Представлены результаты численного эксперимента для серии модельных задач различных типов: для задач, решение которых содержит только сингулярную составляющую, и для задач, решение которых содержит как сингулярную, так и регулярную составляющие. Результаты численного анализа показали, что при измельчении конечноэлементной сетки скорость сходимости построенного весового векторного метода конечных элементов составляет $O(h)$, что по порядку степени в полтора раза выше, чем в разработанных к настоящему времени специализированных методах решения рассматриваемой задачи: методе сингулярных дополнений и методе регуляризации. Другие особенности построенного метода — его алгоритмическая простота и естественность определения решения, что является преимуществом при проведении численных расчетов.

    Rukavishnikov V.A., Mosolapov A.O.
    Weighthed vector finite element method and its applications
    Computer Research and Modeling, 2019, v. 11, no. 1, pp. 71-86

    Mathematical models of many natural processes are described by partial differential equations with singular solutions. Classical numerical methods for determination of approximate solution to such problems are inefficient. In the present paper a boundary value problem for vector wave equation in L-shaped domain is considered. The presence of reentrant corner of size $3\pi/2$ on the boundary of computational domain leads to the strong singularity of the solution, i.e. it does not belong to the Sobolev space $H^1$ so classical and special numerical methods have a convergence rate less than $O(h)$. Therefore in the present paper a special weighted set of vector-functions is introduced. In this set the solution of considered boundary value problem is defined as $R_ν$-generalized one.

    For numerical determination of the $R_ν$-generalized solution a weighted vector finite element method is constructed. The basic difference of this method is that the basis functions contain as a factor a special weight function in a degree depending on the properties of the solution of initial problem. This allows to significantly raise a convergence speed of approximate solution to the exact one when the mesh is refined. Moreover, introduced basis functions are solenoidal, therefore the solenoidal condition for the solution is taken into account precisely, so the spurious numerical solutions are prevented.

    Results of numerical experiments are presented for series of different type model problems: some of them have a solution containing only singular component and some of them have a solution containing a singular and regular components. Results of numerical experiment showed that when a finite element mesh is refined a convergence rate of the constructed weighted vector finite element method is $O(h)$, that is more than one and a half times better in comparison with special methods developed for described problem, namely singular complement method and regularization method. Another features of constructed method are algorithmic simplicity and naturalness of the solution determination that is beneficial for numerical computations.

    Views (last year): 37.
  10. Усанов М.С., Кульберг Н.С., Морозов С.П.
    Разработка алгоритма анизотропной нелинейной фильтрации данных компьютерной томографии с применением динамического порога
    Компьютерные исследования и моделирование, 2019, т. 11, № 2, с. 233-248

    В статье рассматривается разработка алгоритма шумоподавления на основе анизотропной нелинейной фильтрации данных. Анализ отечественной и зарубежной литературы показал, что наиболее эффективные алгоритмы шумоподавления данных рентгеновской компьютерной томографии применяют комплекс нелинейных методик анализа и обработки данных, таких как билатеральная, адаптивная, трехмерная фильтрации. Однако комбинация таких методик редко применяется на практике ввиду большого времени обработки данных. В связи с этим было принято решение разработать эффективный и быстродейственный алгоритм шумоподавления на основе упрощенных билатеральных фильтров с трехмерным накоплением данных. Алгоритм был разработан на языке C++11 в программной среде Microsoft Visual Studio 2015. Основным отличием разработанного алгоритма шумоподавления является применение в нем улучшенной математической модели шума на основе распределения Пуассона и Гаусса от логарифмической величины, разработанной ранее. Это позволило точнее определить уровень шума и тем самым порог обработки данных. В результате работы алгоритма шумоподавления были получены обработанные данные компьютерной томографии с пониженным уровнем шума. При визуальной оценке работы алгоритма были отмечены повышенная информативность обработанных данных по сравнению с оригиналом, четкость отображения гомогенных областей и значительное сокращение шума в областях обработки. При оценке численных результатов обработки было выявлено снижение уровня среднеквадратичного отклонения более чем в 6 раз в областях, подвергшихся шумоподавлению, а высокие показатели коэффициента детерминации показали, что данные не подверглись искажению и изменились только из-за удаления шумов. Применение разработанного универсального динамического порога, принцип работы которого основан на пороговых критериях, позволил снизить уровень шума во всем массиве данных более чем в 6 раз. Динамический порог хорошо вписывается как в разработанный алгоритм шумоподавления на основе анизотропной нелинейной фильтрации, так и другой алгоритм шумоподавления. Алгоритм успешно функционирует в составе рабочей станции MultiVox, получил высокую оценку своей работы от специалистов-рентгенологов, а также готовится к внедрению в единую радиологическую сеть города Москвы в качестве модуля.

    Usanov M.S., Kulberg N.S., Morozov S.P.
    Development of anisotropic nonlinear noise-reduction algorithm for computed tomography data with context dynamic threshold
    Computer Research and Modeling, 2019, v. 11, no. 2, pp. 233-248

    The article deals with the development of the noise-reduction algorithm based on anisotropic nonlinear data filtering of computed tomography (CT). Analysis of domestic and foreign literature has shown that the most effective algorithms for noise reduction of CT data use complex methods for analyzing and processing data, such as bilateral, adaptive, three-dimensional and other types of filtrations. However, a combination of such techniques is rarely used in practice due to long processing time per slice. In this regard, it was decided to develop an efficient and fast algorithm for noise-reduction based on simplified bilateral filtration method with three-dimensional data accumulation. The algorithm was developed on C ++11 programming language in Microsoft Visual Studio 2015. The main difference of the developed noise reduction algorithm is the use an improved mathematical model of CT noise, based on the distribution of Poisson and Gauss from the logarithmic value, developed earlier by our team. This allows a more accurate determination of the noise level and, thus, the threshold of data processing. As the result of the noise reduction algorithm, processed CT data with lower noise level were obtained. Visual evaluation of the data showed the increased information content of the processed data, compared to original data, the clarity of the mapping of homogeneous regions, and a significant reduction in noise in processing areas. Assessing the numerical results of the algorithm showed a decrease in the standard deviation (SD) level by more than 6 times in the processed areas, and high rates of the determination coefficient showed that the data were not distorted and changed only due to the removal of noise. Usage of newly developed context dynamic threshold made it possible to decrease SD level on every area of data. The main difference of the developed threshold is its simplicity and speed, achieved by preliminary estimation of the data array and derivation of the threshold values that are put in correspondence with each pixel of the CT. The principle of its work is based on threshold criteria, which fits well both into the developed noise reduction algorithm based on anisotropic nonlinear filtration, and another algorithm of noise-reduction. The algorithm successfully functions as part of the MultiVox workstation and is being prepared for implementation in a single radiological network of the city of Moscow.

    Views (last year): 21.
Pages: « first previous next last »

Indexed in Scopus

Full-text version of the journal is also available on the web site of the scientific electronic library eLIBRARY.RU

The journal is included in the Russian Science Citation Index

The journal is included in the RSCI

International Interdisciplinary Conference "Mathematics. Computing. Education"