All issues
- 2024 Vol. 16
- 2023 Vol. 15
- 2022 Vol. 14
- 2021 Vol. 13
- 2020 Vol. 12
- 2019 Vol. 11
- 2018 Vol. 10
- 2017 Vol. 9
- 2016 Vol. 8
- 2015 Vol. 7
- 2014 Vol. 6
- 2013 Vol. 5
- 2012 Vol. 4
- 2011 Vol. 3
- 2010 Vol. 2
- 2009 Vol. 1
-
Исследование порядка аппроксимации инвариантных дифференциальных операторов на нерегулярной четырехугольной сетке
Компьютерные исследования и моделирование, 2011, т. 3, № 4, с. 353-364Проведен априорный анализ аппроксимации уравнений магнитной гидродинамики на нерегулярной четырехугольной сетке. Вычислены значения коэффициентов, определяющих норму невязки для разностных аналогов операторов градиента и дивергенции. Изучено влияние свойств ячеек сетки на невязку. Для численного подтверждения полученных оценок приведены примеры вычислений с заданием одинаковых начальных данных на разных сетках.
Investigation of approximation order of invariant differential operators on movable irregular quadrangular grid
Computer Research and Modeling, 2011, v. 3, no. 4, pp. 353-364Views (last year): 2.The a priori analysis of approximation of magnetohydrodynamic equations on irregular quadrangular analysis was performed. The values of coefficients wich determine the misalignment norm for difference analogs of operators gradient and divergence were calculated. Was studied the influence of properties of grid cells on misalignment. For the numerical confirmation of obtained estimations were cited the examples of calculations with specifying identical initial data on different grids.
-
Численное решение двумерного нелинейного уравнения теплопроводности с использованием радиальных базисных функций
Компьютерные исследования и моделирование, 2022, т. 14, № 1, с. 9-22Работа посвящена численному решению задачи о движении тепловой волны для вырождающегося нелинейного уравнения второго порядка параболического типа с источником. Нелинейность уравнения обусловлена степенной зависимостью коэффициента теплопроводности от температуры. Рассматривается задача для случая двух пространственных переменных при краевом условии, задающем закон движения фронта тепловой волны. Предложен новый алгоритм решения на основе разложения по радиальным базисным функциям и метода граничных элементов. Решение строится по шагам по времени с разностной аппроксимацией по времени. На каждом шаге решается краевая задача для уравнения Пуассона, соответствующего исходному уравнению для фиксированного момента времени. Решение такой задачи строится итерационно в виде суммы частного решения, удовлетворяющего неоднородному уравнению, и решения соответствующего однородного уравнения, удовлетворяющего граничным условиям. Однородное уравнение решается методом граничных элементов, частное решение ищется методом коллокаций с помощью разложения неоднородности по радиальным базисным функциям. Вычислительный алгоритм оптимизирован за счет распараллеливания вычислений. Алгоритм реализован в виде программы, написанной на языке программирования С++. Организация параллельных вычислений построена с использованием открытого стандарта OpenCL, что позволило запускать одну и ту же программу, выполняющую параллельные вычисления, как на центральных многоядерных процессорах, так и на графических процессорах. Для оценки эффективности предложенного метода решения и корректности разработанной вычислительной технологии были решены тестовые примеры. Результаты расчетов сравнивались как с известными точными решениями, так и с данными, полученными авторами ранее в других работах. Проведена оценка точности решений и времени проведения расчетов. Проведен анализ эффективности использования различных систем радиальных базисных функций для решения задач рассматриваемого типа. Определена наиболее подходящая система функций. Проведенный комплексный вычислительный эксперимент показал более высокую точность расчетов по предложенному новому алгоритму по сравнению с разработанным ранее.
Ключевые слова: нелинейное уравнение параболического типа с источником, уравнение теплопроводности, метод граничных элементов, радиальные базисные функции, метод двойственной взаимности, метод коллокаций.
Numerical solution to a two-dimensional nonlinear heat equation using radial basis functions
Computer Research and Modeling, 2022, v. 14, no. 1, pp. 9-22The paper presents a numerical solution to the heat wave motion problem for a degenerate second-order nonlinear parabolic equation with a source term. The nonlinearity is conditioned by the power dependence of the heat conduction coefficient on temperature. The problem for the case of two spatial variables is considered with the boundary condition specifying the heat wave motion law. A new solution algorithm based on an expansion in radial basis functions and the boundary element method is proposed. The solution is constructed stepwise in time with finite difference time approximation. At each time step, a boundary value problem for the Poisson equation corresponding to the original equation at a fixed time is solved. The solution to this problem is constructed iteratively as the sum of a particular solution to the nonhomogeneous equation and a solution to the corresponding homogeneous equation satisfying the boundary conditions. The homogeneous equation is solved by the boundary element method. The particular solution is sought by the collocation method using inhomogeneity expansion in radial basis functions. The calculation algorithm is optimized by parallelizing the computations. The algorithm is implemented as a program written in the C++ language. The parallel computations are organized by using the OpenCL standard, and this allows one to run the same parallel code either on multi-core CPUs or on graphic CPUs. Test cases are solved to evaluate the effectiveness of the proposed solution method and the correctness of the developed computational technique. The calculation results are compared with known exact solutions, as well as with the results we obtained earlier. The accuracy of the solutions and the calculation time are estimated. The effectiveness of using various systems of radial basis functions to solve the problems under study is analyzed. The most suitable system of functions is selected. The implemented complex computational experiment shows higher calculation accuracy of the proposed new algorithm than that of the previously developed one.
-
Двухстадийные однократные ROW-методы с комплексными коэффициентами для автономных систем ОДУ
Компьютерные исследования и моделирование, 2010, т. 2, № 1, с. 19-32Для автономных систем ОДУ рассмотрено простейшее подмножество двухстадийных схем Розенброка с комплексными коэффициентами, численная реализация которых требует одного LU-разложения и одного вычисления Якобиана за шаг интегрирования.
Проведено теоретическое исследование точности и устойчивости таких методов. Получены новые A-устойчивые методы 3-го порядка точности с различными свойствами и возможностью простой оценки главного терма локальной погрешности, что необходимо для автоматического выбора шага. Проведено тестирование новых методов.
Two-stage single ROW methods with complex coefficients for autonomous systems of ODE
Computer Research and Modeling, 2010, v. 2, no. 1, pp. 19-32Citations: 1 (RSCI).The basic subset of two-stage Rosenbrock schemes with complex coefficients for numerical solution of autonomous systems of ordinary differential equations (ODE) has been considered. Numerical realization of such schemes requires one LU-decomposition, two computations of right side function and one computation of Jacoby matrix of the system per one step. The full theoretical investigation of accuracy and stability of such schemes have been done. New A-stable methods of the 3-rd order of accuracy with different properties have been constructed. There are high order L-decremented schemes as well as schemes with simple estimation of the main term of truncation error which is necessary for automatic evaluation of time step. Testing of new methods has been performed.
-
Интерактивный реестр геосенсоров на основе веб-приложения
Компьютерные исследования и моделирование, 2016, т. 8, № 4, с. 621-632Выбор и корректное использование инструмента минеральной геотермобарометрии — геосенсора — является сложной задачей из-за большого разнообразия существующих сенсоров, с одной стороны, и наличия специфических требований к их использованию с другой. Для снижения трудоемкости и обеспечения информационной поддержки использования геосенсоров в статье предлагается организация набора геосенсоров в рамках компьютерной системы, называемой интерактивным реестром. В статье дается формальное описание термодинамического геосенсора как функции состава минералов и независимых параметров, а также рассматриваются основные этапы получения оценок давления и температуры, общие для всех сенсоров: переход к коэффициентам формул, расчет дополнительных параметров и непосредственное вычисление искомого значения. Рассматриваются существующие программы — коллекции геосенсоров, выполненные как в виде отдельных приложений, так и в виде электронных таблиц, анализируются достоинства и недостатки этих подходов. Дается описание справочной информации, необходимой для использования геосенсора: в минеральном парагенезисе, в точности и пределах значений параметров, в литературной ссылке и др. Предлагается реализации реестра геосенсоров на базе веб-приложения, использующего технологию вики. Применение технологии вики позволяет эффективно организовать плохо формализуемую справочную информацию о сенсоре и его алгоритм, записанный на языке программирования в рамках единой информационной системы. Для структурирования информации используются ссылки, пространства имен и вики-разметка. В статье рассматривается реализация данного приложения на основе вики-системы DokuWiki и специально разработанного RESTful-сервера, позволяющего пользователю использовать геосенсоры, описанные в реестре для обработки собственных данных. В качестве языка описания геосенсоров в приложении используется язык R, для выполнения расчетов используется сервер RServe. Для контроля корректности работы сенсоров каждый из них снабжается юнит-тестом. Пользовательский интерфейс приложения разработан в виде плагинов к системе DokuWiki. Приводится пример использования разработанного приложения. В заключение рассматриваются вопросы безопасности и производительности разработанного приложения, а также возможность его масштабирования.
Web-based interactive registry of the geosensors
Computer Research and Modeling, 2016, v. 8, no. 4, pp. 621-632Views (last year): 5.Selection and correct applying of the geosensor — the instrument of mineral geothermobarometry is challenging because of the wide variety of existing geosensors on the one hand and the availability of specific requirements for their use on the other. In this paper, organization of the geosensors within the computer system called interactive registry was proposed for reducing the labor intensity of the geosensors usage and providing information support for them. The article provides a formal description of the thermodynamic geosensor, as a function of the minerals composition and independent parameters, as well as the basic steps of pressure and temperature estimation which are common for all geosensors: conversion to the formula units, calculation of the additional parameters and the calculation of the required values. Existing collections of geosensors made as standalone applications, or as spreadsheets was examined for advantages and disadvantages of these approaches. Additional information necessary to use the geosensor was described: paragenesis, accuracy and range of parameter values, reference and others. Implementation of the geosensors registry as the webbased application which uses wiki technology was proposed. Usage of the wiki technology allows to effectively organize not so well formalized additional information about the geosensor and it’s algorithm which had written in a programming language into a single information system. For information organization links, namespaces and wiki markup was used. The article discusses the implementation of the applications on the top of DokuWiki system with specially designed RESTful server, allowing users to apply the geosensors from the registry to their own data. Programming language R uses as a geosensors description language. RServe server uses for calculations. The unittest for each geosensor allows to check the correctness of it’s implementation. The user interface of the application was developed as DokuWiki plug-in. The example of usage was given. In the article conclusion, the questions of the application security, performance and scaling was discussed.
-
Выбор граничных условий при моделировании процессов турбулентного переноса в приземном слое атмосферы
Компьютерные исследования и моделирование, 2018, т. 10, № 1, с. 27-46Рассмотрены одномерная и двумерная гидродинамические модели турбулентного переноса внутри приземного слоя атмосферы в условиях нейтральной атмосферной стратификации. Обе модели основаны на решении системы усредненных уравнений Навье – Стокса и неразрывности с использованием 1.5-го порядка замыкания, а также уравнений для турбулентной кинетической энергии и скорости ее диссипации. С помощью одномерной модели, применимой в случае однородной подстилающей поверхности, проведено исследование по оценке влияния граничных условий на верхней и нижней границах модельной области на результаты расчетов вертикальных профилей скорости ветра и параметров турбулентности. В предложенной модели граничные условия ставились таким образом, чтобы она была согласована с широко используемой классической одномерной моделью, основанной на логарифмическом распределении скорости ветра по высоте, линейной зависимости коэффициента турбулентного обмена от высоты и постоянстве турбулентной кинетической энергии в приземном слое атмосферы в условиях нейтральной атмосферной стратификации. На основе классической модели можно получить ряд соотношений, связывающих градиент скорости ветра, турбулентную кинетическую энергию и скорость ее диссипации, каждое из которых может быть использовано в качестве граничного условия в гидродинамической модели. Из нескольких возможных вариантов постановки граничных условий для скорости ветра и скорости диссипации турбулентной кинетической энергии выбраны те, при которых достигается наименьшее отклонение смоделированных с помощью гидродинамической модели вертикальных профилей искомых величин от классических распределений. Соответствующие граничные условия на верхней и нижней границах использованы при постановке начально-краевой задачи в двумерной гидродинамической модели, позволяющей учитывать сложную структуру рельефа и горизонтальную неоднородность растительности. На основе предложенной двумерной модели с выбранными оптимальными граничными условиями исследована динамика установления турбулентного потока в зависимости от расстояния при обтекании воздушным потоком опушки леса. Для всех рассмотренных начально-краевых задач разработаны и реализованы безусловно устойчивые неявные разностные схемы их численного решения.
Ключевые слова: приземный слой атмосферы, турбулентный перенос, гидродинамическая модель, граничные условия.
Selection of boundary conditions for modeling the turbulent exchange processes within the atmospheric surface layer
Computer Research and Modeling, 2018, v. 10, no. 1, pp. 27-46Views (last year): 19.One- and two-dimensional hydrodynamic models of turbulent transfer within the atmospheric surface layer under neutral thermal stratification are considered. Both models are based on the solution of system of the timeaveraged equations of Navier – Stokes and continuity using a 1.5-order closure scheme as well as equations for turbulent kinetic energy and the rate of its dissipation. The influence of the upper and lower boundary conditions on vertical profiles of wind speed and turbulence parameters within the atmospheric surface layer was derived using an one-dimensional model usually applied in case of an uniform ground surface. The boundary conditions in the model were prescribed in such way that the vertical wind and turbulence patterns were well agreed with widely used logarithmic vertical profile of wind speed, linear dependence of turbulent exchange coefficient on height above ground surface level and constancy of turbulent kinetic energy within the atmospheric surface layer under neutral atmospheric conditions. On the basis of the classical one-dimensional model it is possible to obtain a number of relationships which link the vertical wind speed gradient, turbulent kinetic energy and the rate of its dissipation. Each of these relationships can be used as a boundary condition in our hydrodynamic model. The boundary conditions for the wind speed and the rate of dissipation of turbulent kinetic energy were selected as parameters to provide the smallest deviations of model calculations from classical distributions of wind and turbulence parameters. The corresponding upper and lower boundary conditions were used to define the initial and boundary value problem in the two-dimensional hydrodynamic model allowing to consider complex topography and horizontal vegetation heterogeneity. The two-dimensional model with selected optimal boundary conditions was used to describe the spatial pattern of turbulent air flow when it interacted with the forest edge. The dynamics of the air flow establishment depending on the distance from the forest edge was analyzed. For all considered initial and boundary value problems the unconditionally stable implicit finite-difference schemes of their numerical solution were developed and implemented.
-
Методические аспекты численного решения задач внешнего обтекания на локально-адаптивных сетках с использованием пристеночных функций
Компьютерные исследования и моделирование, 2020, т. 12, № 6, с. 1269-1290Работа посвящена исследованию возможности повышения эффективности решения задач внешней аэродинамики. Изучаются методические аспекты применения локально-адаптивных неструктурированных расчетных сеток и пристеночных функций для численного моделирования турбулентных течений около летательных аппаратов. Интегрируются осредненные по Рейнольдсу уравнения Навье–Стокса, которые замыкаются стандартной моделью турбулентности $k–\varepsilon$. Рассматривается обтекание крылового профиля RAE 2822 турбулентным дозвуковым потоком вязкого сжимаемого газа. Расчеты проводятся в программном ВГД-комплексе FlowVision. Анализируется эффективность применения технологии сглаживания диффузионных потоков и формулы Брэдшоу для турбулентной вязкости в качестве мер, повышающих точность решения аэродинамических задач на локально-адаптивных сетках. Результаты исследования показывают, что использование технологии сглаживания диффузионных потоков приводит к существенному уменьшению расхождений в величине коэффициента лобового сопротивления между результатами расчетов и экспериментальными данными. Кроме того, обеспечивается регуляризация распределения коэффициента поверхностного трения на криволинейной поверхности профиля. Эти результаты позволяют сделать вывод о том, что данная технология является эффективным способом повышения точности расчетов на локально-адаптивных сетках. Формула Брэдшоу для динамического коэффициента турбулентной вязкости традиционно используется в модели SST $k–\omega$. В настоящей работе исследуется возможность ее применения в стандартной $k–\varepsilon$-модели турбулентности. Результаты расчетов показывают, что, с одной стороны, данная формула обеспечивает хорошее согласование суммарных аэродинамических характеристик и распределения коэффициента давления по поверхности профиля с экспериментом. Помимо этого, она значительно повышает точность моделирования течения в пограничном слое и в следе. С другой стороны, использование формулы Брэдшоу при моделировании обтекания профиля RAE 2822 приводит к занижению коэффициента поверхностного трения. Поэтому в работе делается вывод о том, что практическое применение формулы Брэдшоу требует ее предварительной валидации и калибровки на надежных экспериментальных данных для рассматриваемого класса задач. Результаты работы в целом показывают, что при использовании рассмотренных технологий численное решение задач внешнего обтекания на локально-адаптивных сетках с применением пристеночных функций обеспечивает точность, приемлемую для оперативной оценки аэродинамических характеристик, а ПК FlowVision является эффективным инструментом решения задач предварительного аэродинамического проектирования, концептуального проектирования и оптимизации аэродинамических форм.
Ключевые слова: профиль крыла, осредненные по Рейнольдсу уравнения Навье–Стокса, модель турбулентности, формула Брэдшоу, локально-адаптивная расчетная сетка, ПК FlowVision.
Methodical questions of numerical simulation of external flows on locally-adaptive grids using wall functions
Computer Research and Modeling, 2020, v. 12, no. 6, pp. 1269-1290The work is dedicated to investigation of possibility to increase the efficiency of solving external aerodynamic problems. Methodical questions of using locally-adaptive grids and wall functions for numerical simulation of turbulent flows past flying vehicles are studied. Reynolds-averaged Navier–Stokes equations are integrated. The equations are closed by standard $k–\varepsilon$ turbulence model. Subsonic turbulent flow of perfect compressible viscous gas past airfoil RAE 2822 is considered. Calculations are performed in CFD software FlowVision. The efficiency of using the technology of smoothing diffusion fluxes and the Bradshaw formula for turbulent viscosity is analyzed. These techniques are regarded as means of increasing the accuracy of solving aerodynamic problems on locally-adaptive grids. The obtained results show that using the technology of smoothing diffusion fluxes essentially decreases the discrepancy between computed and experimental values of the drag coefficient. In addition, the distribution of the skin friction coefficient over the curvilinear surface of the airfoil becomes more regular. These results indicate that the given technology is an effective way to increase the accuracy of calculations on locally-adaptive grids. The Bradshaw formula for the dynamic coefficient of turbulent viscosity is traditionally used in the SST $k–\omega$ turbulence model. The possibility to implement it in the standard $k–\varepsilon$ turbulence model is investigated in the present article. The calculations show that this formula provides good agreement of integral aerodynamic characteristics and the distribution of the pressure coefficient over the airfoil surface with experimental data. Besides that, it essentially augments the accuracy of simulation of the flow in the boundary layer and in the wake. On the other hand, using the Bradshaw formula in the simulation of the air flow past airfoil RAE 2822 leads to under-prediction of the skin friction coefficient. For this reason, the conclusion is made that practical use of the Bradshaw formula requires its preliminary validation and calibration on reliable experimental data available for the considered flows. The results of the work as a whole show that using the technologies discussed in numerical solution of external aerodynamic problems on locally-adaptive grids together with wall functions provides the computational accuracy acceptable for quick assessment of the aerodynamic characteristics of a flying vehicle. So, one can deduce that the FlowVision software is an effective tool for preliminary design studies, for conceptual design, and for aerodynamic shape optimization.
-
Совершенствование метода парных сравнений для реализации в компьютерных программах, применяемых при оценке качества технических систем
Компьютерные исследования и моделирование, 2021, т. 13, № 6, с. 1125-1135Представлен усовершенствованный метод парных сравнений, в котором посредством табличных форм систематизированы правила логических выводов при сравнении технических систем и формулы проверочных значений. Для этого сформулированы рациональные правила логических выводов при парном сравнении систем. С целью проверки результатов оценки на непротиворечивость введены понятия количества баллов, набранных одной системой, и коэффициента качества систем, а также разработаны формулы расчетов. Для целей практического использования данного метода при разработке программ для ЭВМ предлагаются формализованные варианты взаимосвязанных таблиц: таблица обработки и систематизации экспертной информации, таблица возможных логических выводов по результатам сравнения заданного количества технических систем и таблица проверочных значений при использовании метода парных сравнений при оценке качества определенного количества технических систем. Таблицы позволяют более рационально организовать процедуры обработки информации и в значительной степени исклю- чить влияние ошибок при вводе данных на результаты оценки качества технических систем. Основной положительный эффект от внедрения усовершенствованного метода парных сравнений состоит в существенном сокращении времени и ресурсов на организацию работы с экспертами, обработку экспертной информации, а также на подготовку и проведение дистанционного опроса экспертов по сети Интернет или локальной вычислительной сети предприятия (организации) за счет рационального использования исходных данных о качестве оцениваемых систем. Предлагаемый усовершенствованный метод реали- зован в программах для ЭВМ, предназначенных для оценки эффективности и устойчивости больших технических систем.
Ключевые слова: усовершенствованный метод парных сравнений, оценка, проверочные значения, коэффициент качества, таблица, систематизация.
Improvement of the paired comparison method for implementation in computer programs used in assessment of technical systems’ quality
Computer Research and Modeling, 2021, v. 13, no. 6, pp. 1125-1135The article describes an improved paired comparison method, which systematizes in tables the rules of logical conclusions and formulas of checking indices for comparison of technical systems. To achieve this goal, the authors formulate rational rules of logical conclusions in making a paired comparison of the systems. In addition, for the purpose of consistency check of the results of the assessment, the authors introduce parameters such as «the number of scores gained by one system» and «systems’ quality index»; moreover, they design corresponding calculation formulas. For the purposes of practical application of this method to design computer programs, the authors propose to use formalized variants of interconnected tables: a table for processing and systematization of expert information, a table of possible logical conclusions based on the results of comparison of a set number of technical systems and a table of check values in the paired comparison method used in quality assessment of a definite number of technical systems. These tables allow one to organize procedures of the information processing in a more rational way and to predominantly exclude the influence of mistakes on the results of quality assessment of technical systems at the stage of data input. The main positive effect from the implementation of the paired comparison method is observed in a considerable reduction of time and resources needed to organize experts work, process expert information, and to prepare and conduct distant interviews with experts (on the Internet or a local computer network of an organization). This effect is achieved by a rational use of input data of the quality of the systems to be assessed. The proposed method is applied to computer programs used in assessing the effectiveness and stability of large technical systems.
-
Сопряженные сеточные параболические квазилинейные краевые задачи
Компьютерные исследования и моделирование, 2012, т. 4, № 2, с. 275-291В работе построены сопряженные задачи для явной и неявной параболической квазилинейной сеточной пространственно-одномерной краевой задачи: коэффициенты задачи зависят от решения в текущий и предыдущие моменты времени. Зависимость от предыстории осуществляется через вектор состояния, эволюция которого описывается дифференциальным уравнением. К подобным задачам сводятся многие модели диффузионного массопереноса. Решения исходной и сопряженной краевых задач дают возможность получить точное значение градиента некоторого функционала в пространстве параметров, от которых также зависят коэффициенты задачи. Предложены алгоритмы решения задач, в том числе с использованием высокопроизводительных вычислительных систем.
Ключевые слова: сопряженная задача, оценка параметров, математическое моделирование, градиентные методы.
Adjoint grid parabolic quazilinear boundary-value problems
Computer Research and Modeling, 2012, v. 4, no. 2, pp. 275-291Views (last year): 1.In the paper we construct the adjoint problem for the explicit and implicit parabolic quazi-linear grid boundary-value problems with one spatial variable; the coefficients of the problems depend on the solution at the same time and earlier times. Dependence on the history of the solution is via the state vector; its evolution is described by the differential equation. Many models of diffusion mass transport are reduced to such boundary-value problems. Having solutions to the direct and adjoint problems, one can obtain the exact value of the gradient of a functional in the space of parameters the problem also depends on. We present solving algorithms, including the parallel one.
-
Разработка алгоритма анизотропной нелинейной фильтрации данных компьютерной томографии с применением динамического порога
Компьютерные исследования и моделирование, 2019, т. 11, № 2, с. 233-248В статье рассматривается разработка алгоритма шумоподавления на основе анизотропной нелинейной фильтрации данных. Анализ отечественной и зарубежной литературы показал, что наиболее эффективные алгоритмы шумоподавления данных рентгеновской компьютерной томографии применяют комплекс нелинейных методик анализа и обработки данных, таких как билатеральная, адаптивная, трехмерная фильтрации. Однако комбинация таких методик редко применяется на практике ввиду большого времени обработки данных. В связи с этим было принято решение разработать эффективный и быстродейственный алгоритм шумоподавления на основе упрощенных билатеральных фильтров с трехмерным накоплением данных. Алгоритм был разработан на языке C++11 в программной среде Microsoft Visual Studio 2015. Основным отличием разработанного алгоритма шумоподавления является применение в нем улучшенной математической модели шума на основе распределения Пуассона и Гаусса от логарифмической величины, разработанной ранее. Это позволило точнее определить уровень шума и тем самым порог обработки данных. В результате работы алгоритма шумоподавления были получены обработанные данные компьютерной томографии с пониженным уровнем шума. При визуальной оценке работы алгоритма были отмечены повышенная информативность обработанных данных по сравнению с оригиналом, четкость отображения гомогенных областей и значительное сокращение шума в областях обработки. При оценке численных результатов обработки было выявлено снижение уровня среднеквадратичного отклонения более чем в 6 раз в областях, подвергшихся шумоподавлению, а высокие показатели коэффициента детерминации показали, что данные не подверглись искажению и изменились только из-за удаления шумов. Применение разработанного универсального динамического порога, принцип работы которого основан на пороговых критериях, позволил снизить уровень шума во всем массиве данных более чем в 6 раз. Динамический порог хорошо вписывается как в разработанный алгоритм шумоподавления на основе анизотропной нелинейной фильтрации, так и другой алгоритм шумоподавления. Алгоритм успешно функционирует в составе рабочей станции MultiVox, получил высокую оценку своей работы от специалистов-рентгенологов, а также готовится к внедрению в единую радиологическую сеть города Москвы в качестве модуля.
Ключевые слова: компьютерная томография (КТ), низкодозовая компьютерная томография (НДКТ), доза облучения, шумоподавление, анизотропия, динамическая фильтрация.
Development of anisotropic nonlinear noise-reduction algorithm for computed tomography data with context dynamic threshold
Computer Research and Modeling, 2019, v. 11, no. 2, pp. 233-248Views (last year): 21.The article deals with the development of the noise-reduction algorithm based on anisotropic nonlinear data filtering of computed tomography (CT). Analysis of domestic and foreign literature has shown that the most effective algorithms for noise reduction of CT data use complex methods for analyzing and processing data, such as bilateral, adaptive, three-dimensional and other types of filtrations. However, a combination of such techniques is rarely used in practice due to long processing time per slice. In this regard, it was decided to develop an efficient and fast algorithm for noise-reduction based on simplified bilateral filtration method with three-dimensional data accumulation. The algorithm was developed on C ++11 programming language in Microsoft Visual Studio 2015. The main difference of the developed noise reduction algorithm is the use an improved mathematical model of CT noise, based on the distribution of Poisson and Gauss from the logarithmic value, developed earlier by our team. This allows a more accurate determination of the noise level and, thus, the threshold of data processing. As the result of the noise reduction algorithm, processed CT data with lower noise level were obtained. Visual evaluation of the data showed the increased information content of the processed data, compared to original data, the clarity of the mapping of homogeneous regions, and a significant reduction in noise in processing areas. Assessing the numerical results of the algorithm showed a decrease in the standard deviation (SD) level by more than 6 times in the processed areas, and high rates of the determination coefficient showed that the data were not distorted and changed only due to the removal of noise. Usage of newly developed context dynamic threshold made it possible to decrease SD level on every area of data. The main difference of the developed threshold is its simplicity and speed, achieved by preliminary estimation of the data array and derivation of the threshold values that are put in correspondence with each pixel of the CT. The principle of its work is based on threshold criteria, which fits well both into the developed noise reduction algorithm based on anisotropic nonlinear filtration, and another algorithm of noise-reduction. The algorithm successfully functions as part of the MultiVox workstation and is being prepared for implementation in a single radiological network of the city of Moscow.
Indexed in Scopus
Full-text version of the journal is also available on the web site of the scientific electronic library eLIBRARY.RU
The journal is included in the Russian Science Citation Index
The journal is included in the RSCI
International Interdisciplinary Conference "Mathematics. Computing. Education"