All issues

Как правило, данные конфокальной и многофотонной лазерной сканирующей микроскопии страдают от низкого уровня полезного сигнала и высокого вклада дробового шума, связанного со стохастическим характером испускания фотонов флуорофором. Это осложняет задачу подавления шума и выделения полезного сигнала в таких данных. В настоящее время популярны нейросетевые алгоритмы улучшения изображений, однако они часто представляют собой «черный ящик» и требуют длительного обучения на конкретных наборах данных. В работе предлагается алгоритм подавления шума для данных динамической флуоресцентной микроскопии, опирающийся на наличие пространственно-временных локальных корреляций в полезном сигнале и на отсутствие пространственных корреляций в шумовой компоненте. Сингулярное разложение матриц (SVD), производящее спектральное разложение матрицы ковариации, — распространенный способ низкоранговой аппроксимации двумерных массивов, концентрирующий скоррелированный сигнал в нескольких первых компонентах разложения. Однако данные динамической микроскопии представляют собой трехмерные массивы или тензоры большей размерности, поэтому использование тензорных разложений потенциально может улучшить результат подавления шума по сравнению с обычным SVD. В основе алгоритма — двухэтапное применение усеченного сингулярного разложения высшего порядка (HOSVD) с введением порога для коэффициентов и последующим обратным преобразованием, сначала для локальных трехмерных окон в пространстве TXY (3D-HOSVD), а затем для пространственно объединенных групп трехмерных окон (4D-HOSVD). Для валидации алгоритма используются синтетические данные кальциевой сигнализации в астроцитах, в которых концентрация кальция транслируется в сигнал флуоресценции, значения которого в каждом кадре и каждом пикселе затем служат математическим ожиданием и дисперсией для сэмплирования случайной величины из непрерывного аналога пуассоновского распределения. Проведен анализ чувствительности алгоритма от параметров понижения ранга вдоль размерности временных компонент и группового ранга, длины локального окна и порога коэффициентов разложения. Несмотря на наличие мультипликативного шума, предлагаемый алгоритм демонстрирует значительное улучшение анализируемого сигнала, увеличивая соотношение «сигнал/шум» (PSNR) более чем на 20 дБ. Данный метод не опирается на предположения относительно разреженности или гладкости сигнала и может быть использован в качестве одного из этапов обработки данных динамической флуоресцентной микроскопии для самых различных типов данных.

Fluorescent imaging data are currently widely used in neuroscience and other fields. Genetically encoded sensors, based on fluorescent proteins, provide a wide inventory enabling scientiests to image virtually any process in a living cell and extracellular environment. However, especially due to the need for fast scanning, miniaturization, etc, the imaging data can be severly corrupred with multiplicative heteroscedactic noise, reflecting stochastic nature of photon emission and photomultiplier detectors. Deep learning architectures demonstrate outstanding performance in image segmentation and denoising, however they can require large clean datasets for training, and the actual data transformation is not evident from the network architecture and weight composition. On the other hand, some classical data transforms can provide for similar performance in combination with more clear insight in why and how it works. Here we propose an algorithm for denoising fluorescent dynamical imaging data, which is based on multilinear higher-order singular value decomposition (HOSVD) with optional truncation in rank along each axis and thresholding of the tensor of decomposition coefficients. In parallel, we propose a convenient paradigm for validation of the algorithm performance, based on simulated flurescent data, resulting from biophysical modeling of calcium dynamics in spatially resolved realistic 3D astrocyte templates. This paradigm is convenient in that it allows to vary noise level and its resemblance of the Gaussian noise and that it provides ground truth fluorescent signal that can be used to validate denoising algorithms. The proposed denoising method employs truncated HOSVD twice: first, narrow 3D patches, spanning the whole recording, are processed (local 3D-HOSVD stage), second, 4D groups of 3D patches are collaboratively processed (non-local, 4D-HOSVD stage). The effect of the first pass is twofold: first, a significant part of noise is removed at this stage, second, noise distribution is transformed to be more Gaussian-like due to linear combination of multiple samples in the singular vectors. The effect of the second stage is to further improve SNR. We perform parameter tuning of the second stage to find optimal parameter combination for denoising.

В работе представлены результаты теоретического исследования особенностей статистического распределения фазы квазигармонического сигнала, формируемого в результате воздействия гауссовского шума на исходно гармонический сигнал. Выявленные особенности распределения фазы легли в основу развиваемого оригинального метода оценивания параметров исходного, неискаженного сигнала. Показано, что задача оценивания исходного значения фазы может эффективно решаться расчетом математического ожидания результатов выборочных измерений фазы, в то время как для решения задачи оценивания второго параметра распределения фазы — параметра уровня сигнала относительно шума — предлагается использовать зависимость дисперсии выборочных значений фазы от данного параметра. Для решения этой задачи используются полученные в явном виде аналитические формулы для моментов низших порядков распределения фазы, развит и обоснован новый подход к оцениванию параметров квазигармонического сигнала на основе измерения величины второго центрального момента, т. е. разброса выборочных значений фазы. В частности, применение данного метода обеспечивает высокоточное измерение амплитудных характеристик анализируемого сигнала посредством проведения лишь фазовых измерений. Численные результаты, полученные в ходе проведенного компьютерного моделирования, подтверждают теоретические выводы и эффективность разработанного метода. В работе обоснованы существование и единственность решения задачи оценивания параметров сигнала методом моментов. Показано, что функция, отображающая зависимость второго центрального момента от искомого параметра отношения сигнала к шуму, является монотонно убывающей и тем самым однозначной функцией искомого параметра. Разработанный метод оценивания параметров сигнала представляет интерес для решения широкого круга научных и прикладных задач, связанных с необходимостью измерения уровня сигнала и его фазы, в таких областях, как обработка данных в системах медицинской диагностической визуализации, обработка радиосигналов, радиофизика, оптика, радионавигация, метрология.

The paper presents the results of theoretical investigation of the peculiarities of the quasi-harmonic signal’s phase statistical distribution, while the quasi-harmonic signal is formed as a result of the Gaussian noise impact on the initially harmonic signal. The revealed features of the phase distribution became a basis for the original technique elaborated for estimating the parameters of the initial, undistorted signal. It has been shown that the task of estimation of the initial phase value can be efficiently solved by calculating the magnitude of the mathematical expectation of the results of the phase sampled measurements, while for solving the task of estimation of the second parameter — the signal level respectively to the noise level — the dependence of the phase sampled measurements variance upon the sough-for parameter is proposed to be used. For solving this task the analytical formulas having been obtained in explicit form for the moments of lower orders of the phase distribution, are applied. A new approach to quasi-harmonic signal’s parameters estimation based on the method of moments has been developed and substantiated. In particular, the application of this method ensures a high-precision measuring the amplitude characteristics of a signal by means of the phase measurements only. The numerical results obtained by means of conducted computer simulation of the elaborated technique confirm both the theoretical conclusions and the method’s efficiency. The existence and the uniqueness of the task solution by the method of moments is substantiated. It is shown that the function that describes the dependence of the phase second central moment on the sough-for parameter, is a monotonically decreasing and thus the single-valued function. The developed method may be of interest for solving a wide range of scientific and applied tasks, connected with the necessity of estimation of both the signal level and the phase value, in such areas as data processing in systems of medical diagnostic visualization, radio-signals processing, radio-physics, optics, radio-navigation and metrology.

В работе рассматривается задача оценивания состояния парных марковских моделей с гауссовыми шумами. Класс парных марковских моделей является обобщением класса классических скрытых марковских моделей. Ключевое отличие заключается в том, что марковским предполагается не скрытый процесс, а пара «состояние – наблюдение», что позволяет моделировать более сложные зависимости и, в частности, отказаться от требования марковости скрытого процесса. При этом для линейных гауссовских парных моделей сохраняется возможность применения методов калмановской фильтрации, что приводит к понятию парного фильтра Калмана.

Представлена новая модификация парного фильтра Калмана, основанная на применении модифицированной взвешенной ортогонализации Грама–Шмидта и LD-разложении ковариационных матриц. Основными результатами данной работы являются: новая LD-модификация парного фильтра Калмана (теорема 1); новый алгоритм LD-ПФК для оценки состояния парных марковских моделей на основе прямой процедуры модифицированной взвешенной ортогонализации Грама–Шмидта и LD-разложения ковариационных матриц (алгоритм 2); результаты сравнительного анализа вычислительных свойств алгоритмов парной фильтрации. Полученные теоретические результаты дополняют теорию парной фильтрации в классе линейных дискретных парных марковских моделей с гауссовыми шумами.

Разработанный алгоритм реализован на языке MATLAB. Проведены серии численных экспериментов, результаты которых демонстрируют его работоспособность и численные преимущества перед другими существующими модификациями парного фильтра Калмана.

Представленные результаты могут быть в дальнейшем использованы для построения новых методов параметрической идентификации парных марковских моделей.

The paper addresses the state estimation problem for pairwise Markov models with Gaussian noises. The class of pairwise Markov models generalizes the classical hidden Markov models. The key difference lies in the assumption that the Markov property holds not for the hidden process alone, but for the pair consisting of the state and the observation. This allows modeling more complex dependencies and, in particular, eliminates the requirement of Markovianity for the hidden process. For linear Gaussian pairwise models, Kalman filtering methods remain applicable, leading to the concept of the pairwise Kalman filter.

This work proposes a new modification of the pairwise Kalman filter based on the application of modified weighted Gram – Schmidt orthogonalization and the LD decomposition of covariance matrices. The main results are as follows: a novel LD modification of the pairwise Kalman filter (Theorem 1); a new LD-PKF algorithm for state estimation of pairwise Markov models, based on a direct procedure of modified weighted Gram–Schmidt orthogonalization and LD decomposition of covariance matrices (algorithm 2); results of comparative analysis on the numerical properties of pairwise discrete filtering algorithms.

The obtained theoretical results complement the theory of pairwise filtering in the class of linear discrete pairwise Markov models with Gaussian noises.

The developed algorithm is implemented in MATLAB. A series of numerical experiments are conducted, and the results demonstrate its effectiveness and numerical advantages over other existing modifications of the pairwise Kalman filter.

The presented results can be further used to develop new methods for parameter identification of pairwise Markov models.

Описаны отличия технологии программирования для параллельных вычислительных систем от технологии последовательного программирования, аргументировано появление новых этапов в технологии: декомпозиция алгоритмов, назначение работ исполнителям, дирижирование и отображение логических исполнителей на физические. Затем кратко рассмотрены вопросы оценки производительности алгоритмов. Обсуждаются вопросы декомпозиции алгоритмов и программ на работы, которые могут бытьвы полнены параллельно.

Difference of software development for parallel computing technology from sequential programming is dicussed. Arguements for introduction of new phases into technology of software engineering are given. These phases are: decomposition of algorithms, assignment of jobs to performers, conducting and mapping of logical to physical performers. Issues of performance evaluation of algorithms are briefly discussed. Decomposition of algorithms and programs into parts that can be executed in parallel is dicussed.

В данной работе проведено исследование возникновения диффузионной неустойчивости в системе из трех уравнений типа «реакция–диффузия». В общем виде получены условия как тьюринговской, так и волновой неустойчивостей. Выявлены качественные свойства, которыми должна обладать система для того, чтобы в ней могла произойти та или другая бифуркация. В численных экспериментах показано, что при выполнении соответствующих условий в нелинейной модели возникают структуры, которые предсказываются линейным анализом.

Investigation of occurrence of diffusion instability in a set of three reaction–diffusion equations is carried out. In the general case the condition for both Turing and wave instabilities are obtained. Qualitative properties of the system, in which the bifurcation of each of the two types can take place, are clarified. In numerical experiments it is shown that if the corresponding conditions are met in the nonlinear model, spatiotemporal patterns are formed, which are predicted by linear analysis.

Данная работа посвящена сравнению двух критериев однородности: критерия χ², основанного на таблицах сопряженности признаков 2 × 2, и критерия однородности, основанного на асимптотических распределениях суммируемых квадратичных уклонений оценок функции распределения в модели зависимости «доза–эффект». Оценка мощности критериев производится при помощи компьютерного моделирования. Для построения функций эффективности используется метод ядерной оценки регрессии, основанный на оценке Надарая–Ватсона.

The given work is devoted to the comparison of two tests for homogeneity: chi-square test based on contingency tables of 2 × 2 and test for homogeneity based on asymptotic distributions of the summarized square error of a distribution function estimators in the model of ”dose–effect” dependence. The evaluation of test power is performed by means of computer simulation. In order to design efficiency functions the method of kernel regression estimator based on Nadaray–Watson estimator is used.

В работе решается двухпараметрическая задача совместного расчета параметров сигнала и шума в условиях распределения Райса методами математической статистики: методом максимума правдоподобия и вариантами метода моментов. Рассматриваемые варианты метода моментов включают в себя совместный расчет сигнала и шума на основе измерений 2-го и 4-го моментов (ММ24) и на основе измерений 1-го и 2-го моментов (ММ12). В рамках каждого из рассматриваемых методов получены в явном виде системы уравнений для искомых параметров сигнала и шума. Важный математический результат проведенного исследования состоит в том, что решение системы двух нелинейных уравнений с двумя неизвестными — искомыми параметрами сигнала и шума — сведено к решению одного уравнения с одной неизвестной, что важно с точки зрения как теоретического исследования метода, так и его практического применения, позволяя существенно сократить необходимые для реализации метода вычислительные ресурсы. Задача является значимой для целей обработки райсовских данных, в частности, в системах магнитно-резонансной визуализации. В результате проведенного теоретического анализа получен важный практический вывод: решение двухпараметрической задачи не приводит к увеличению требуемых вычислительных ресурсов по сравнению с однопараметрическим приближением. Теоретические выводы подтверждаются результатами численного эксперимента.

The paper provides a solution of the two-parameter task of joint signal and noise estimation at data analysis within the conditions of the Rice distribution by the techniques of mathematical statistics: the maximum likelihood method and the variants of the method of moments. The considered variants of the method of moments include the following techniques: the joint signal and noise estimation on the basis of measuring the 2-nd and the 4-th moments (MM24) and on the basis of measuring the 1-st and the 2-nd moments (MM12). For each of the elaborated methods the explicit equations’ systems have been obtained for required parameters of the signal and noise. An important mathematical result of the investigation consists in the fact that the solution of the system of two nonlinear equations with two variables — the sought for signal and noise parameters — has been reduced to the solution of just one equation with one unknown quantity what is important from the view point of both the theoretical investigation of the proposed technique and its practical application, providing the possibility of essential decreasing the calculating resources required for the technique’s realization. The implemented theoretical analysis has resulted in an important practical conclusion: solving the two-parameter task does not lead to the increase of required numerical resources if compared with the one-parameter approximation. The task is meaningful for the purposes of the rician data processing, in particular — the image processing in the systems of magnetic-resonance visualization. The theoretical conclusions have been confirmed by the results of the numerical experiment.

В приближении однородной намагниченности построена математическая модель трехслойной ячейки памяти MRAM c осью анизотропии, расположенной перпендикулярно запоминающему ферромагнитному слою ячейки (перпендикулярная анизотропия). Предполагается, что первоначально намагниченность свободного слоя ячейки ориентирована вдоль оси анизотропии и соответствует состоянию «нуль». Одновременное мгновенное включение спин-поляризованного тока и магнитного поля воздействует на намагниченность свободного слоя и может перевести ее в противоположное положение, соответствующее состоянию «единица». Математическое описание эффекта основано на классическом векторном уравнении Ландау–Лифшица с диссипативным членом в форме Гильберта. В нашей модели учтены взаимодействия намагниченности с внешним магнитным полем и эффективными полями анизотропии и размагничивания, а также с током инжекции в форме Слончевского–Берже. Выведена система обыкновенных дифференциальных уравнений, описывающая динамику намагниченности в трехслойной вентильной структуре Co/Cu/Co в зависимости от управляющих параметров: величины тока инжекции и внешнего магнитного поля, параллельного оси анизотропии магнитных слоев. Показано, что при любых токах и полях система имеет два основных состояния равновесия, расположенных на оси, совпадающей с осью анизотропии. Установлено, что в данной системе, в отличие от системы с продольной анизотропией, дополнительные состояния равновесия отсутствуют. Проведен анализ устойчивости основных состояний равновесия по первому приближению. Построены бифуркационные диаграммы, характеризующие типы динамики вектора намагниченности свободного слоя. Проведена классификация фазовых портретов на единичной сфере в зависимости от управляющих параметров (тока и поля). Изучены особенности динамики вектора намагниченности в каждой из характерных областей бифуркационной диаграммы и численно, методом Рунге–Кутты, построены траектории переключения. Найдены комбинации управляющих параметров, при которых переключение невозможно. Найдены области существования устойчивых и неустойчивых предельных циклов системы. Аналитически определены значения пороговых токов переключения в зависимости от внешнего магнитного поля. Проведено сравнение значений порогового тока в моделях с продольной и перпендикулярной анизотропией при нулевом магнитном поле и показано, что в модели с перпендикулярной анизотропией ток переключения почти на порядок ниже, чем в модели с продольной анизотропией.

The mathematical model of a three-layered Co/Cu/Co nanopillar for MRAM cell with one fixed and one free layer was investigated in the approximation of uniformly distributed magnetization. The anisotropy axis is perpendicular to the layers (so-called perpendicular anisotropy). Initially the magnetization of the free layer is oriented along the anisotropy axis in the position accepted to be “zero”. Simultaneous magnetic field and spinpolarized current engaging can reorient the magnetization to another position which in this context can be accepted as “one”. The mathematical description of the effect is based on the classical vector Landau–Lifshits equation with the dissipative term in the Gilbert form. In our model we took into account the interactions of the magnetization with an external magnetic field and such effective magnetic fields as an anisotropy and demagnetization ones. The influence of the spin-polarized injection current is taken into account in the form of Sloczewski–Berger term. The model was reduced to the set of three ordinary differential equations with the first integral. It was shown that at any current and field the dynamical system has two main equilibrium states on the axis coincident with anisotropy axis. It was ascertained that in contrast with the longitudinal-anisotropy model, in the model with perpendicular anisotropy there are no other equilibrium states. The stability analysis of the main equilibrium states was performed. The bifurcation diagrams characterizing the magnetization dynamics at different values of the control parameters were built. The classification of the phase portraits on the unit sphere was performed. The features of the dynamics at different values of the parameters were studied and the conditions of the magnetization reorientation were determined. The trajectories of magnetization switching were calculated numerically using the Runge–Kutta method. The parameter values at which limit cycles exist were determined. The threshold values for the switching current were found analytically. The threshold values for the structures with longitudinal and perpendicular anisotropy were compared. It was established that in the structure with the perpendicular anisotropy at zero field the switching current is an order lower than in the structure with the longitudinal one.

В настоящей работе приводятся результаты численного моделирования свободного сдвигового течения с помощью схемы «КАБАРЕ», реализованной в приближении слабой сжимаемости. Анализ схемы проводится на основе изучения свойств неустойчивости Кельвина–Гельмгольца и порождаемой ею двумерной турбулентности, с использованием интегральных кривых кинетической энергии и энстрофии, картин временной эволюции завихренности, спектров энстрофии и энергии, а также дисперсионного соотношения для инкремента неустойчивости. Расчеты проводились для числа Рейнольдса $\text{Re} = 4 \times 10^5$, на квадратных последовательно сгущаемых сетках в диапазоне $128^2-2048^2$ ячеек. Внимание уделено проблеме «недоразрешенности слоев», проявляющейся в возникновении лишнего вихря при свертывании двух вихревых листов (слоев вихревой пелены). Данное явление существует только на грубых сетках $(128^2)$, однако, полностью симметричная картина эволюции завихренности начинает наблюдаться только при переходе к сетке $1024^2$ ячеек. Размерные оценки отношения вихрей на границах инерционного интервала показывают, что наиболее подробная сетка $2048^2$ ячеек оказывается достаточной для качественного отображения мелкомасштабных сгустков завихренности. Тем не менее можно говорить о достижении хорошей сходимости при отображении крупномасштабных структур. Эволюция турбулентности, в полном соответствии с теоретическими представлениями, приводит к появлению крупных вихрей, в которых сосредотачивается вся кинетическая энергия движения, и уединенных мелкомасштабных образований. Последние обладают свойствами когерентных структур, выживая в процессе нитеобразования (филаментации), и практически не взаимодействуют с вихрями других масштабов. Обсуждение диссипативных характеристик схемы ведется на основе анализа графиков скорости диссипации кинетической энергии, вычисляемой непосредственно, а также на основе теоретических соотношений для моделей несжимаемой жидкости (по кривым энстрофии) и сжимаемого газа (по влиянию тензора скоростей деформации и эффектов дилатации). Асимптотическое поведение каскадов кинетической энергии и энстрофии подчиняется реализующимся в двумерной турбулентности соотношениям $E(k) \propto k^{−3}$, $\omega^2(k) \propto k^{−1}$. Исследование зависимости инкремента неустойчивости от безразмерного волнового числа показывает хорошее согласие с данными других исследователей, вместе с тем часто используемый способ расчета инкремента неустойчивости не всегда оказывается достаточно точным, вследствие чего была предложена его модификация.

Таким образом, реализованная схема, отличаясь малой диссипативностью и хорошим вихреразрешением, оказывается вполне конкурентоспособной в сравнении с методами высокого порядка точности.

In present paper we reexamine the properties of CABARET numerical scheme formulated for a weakly compressible fluid flow basing the results of free shear layer modeling. Kelvin–Helmholtz instability and successive generation of two-dimensional turbulence provide a wide field for a scheme analysis including temporal evolution of the integral energy and enstrophy curves, the vorticity patterns and energy spectra, as well as the dispersion relation for the instability increment. The most part of calculations is performed for Reynolds number $\text{Re} = 4 \times 10^5$ for square grids sequentially refined in the range of $128^2-2048^2$ nodes. An attention is paid to the problem of underresolved layers generating a spurious vortex during the vorticity layers roll-up. This phenomenon takes place only on a coarse grid with $128^2$ nodes, while the fully regularized evolution pattern of vorticity appears only when approaching $1024^2$-node grid. We also discuss the vorticity resolution properties of grids used with respect to dimensional estimates for the eddies at the borders of the inertial interval, showing that the available range of grids appears to be sufficient for a good resolution of small–scale vorticity patches. Nevertheless, we claim for the convergence achieved for the domains occupied by large-scale structures.

The generated turbulence evolution is consistent with theoretical concepts imposing the emergence of large vortices, which collect all the kinetic energy of motion, and solitary small-scale eddies. The latter resemble the coherent structures surviving in the filamentation process and almost noninteracting with other scales. The dissipative characteristics of numerical method employed are discussed in terms of kinetic energy dissipation rate calculated directly and basing theoretical laws for incompressible (via enstrophy curves) and compressible (with respect to the strain rate tensor and dilatation) fluid models. The asymptotic behavior of the kinetic energy and enstrophy cascades comply with two-dimensional turbulence laws $E(k) \propto k^{−3}, \omega^2(k) \propto k^{−1}$. Considering the instability increment as a function of dimensionless wave number shows a good agreement with other papers, however, commonly used method of instability growth rate calculation is not always accurate, so some modification is proposed. Thus, the implemented CABARET scheme possessing remarkably small numerical dissipation and good vorticity resolution is quite competitive approach compared to other high-order accuracy methods

Снижение пожарной опасности при использовании полимерных материалов является одной из актуальных научно-технических задач. В связи со сложностью проведения экспериментальных исследований в данной области важным направлением современной фундаментальной науки является развитие теоретических основ описания реагирующих течений. Для решения вопросов, связанных с распространением пламени по поверхности горючего материала, необходимо совершенствовать методы математического моделирования, что обусловлено большим количеством протекающих физико-химических процессов, требующих моделирования каждого из них в отдельности, и сложным характером взаимодействия между этими процессами как в газовой среде, так и в твердом теле.

Распространение пламени вверх по вертикальной поверхности твердого горючего материала сопровождается нестационарными вихревыми структурами течения газа вблизи области горения, образование которых происходит в результате тепловой нестабильности и за счет действия сил естественной конвекции, ускоряющей горячие продукты сгорания. За счет вихревых структур от горячего газофазного пламени в твердый материал в каждый момент времени поступает разное количество тепловой энергии. Поэтому адекватный расчет теплового потока и, соответственно, вихревого течения имеет важное значение для оценки скорости распространения пламени.

Данная работа появящена оценкам параметров численного метода решения задачи распространения пламени по поверхности горючего материала, учитывающего сопряженный характер взаимодействия газовой среды и твердого тела и вихревое течение, вызванное естественной конвекцией. В работе рассмотрены особенности использования различных аппроксимационных схем, используемых при интегрировании исходных дифференциальных уравнений по пространству и во времени, релаксации полей при итерировании внутри шага по времени, различных шагов интегрирования по времени.

Сформулированная в работе математическая модель позволяет описывать процесс распространения пламени по поверхности горючего материала. Газодинамика моделируется системой уравнений Навье – Стокса, вихревое течение описывается комбинированной моделью турбулентности RANS–LES (DDES), турбулентное горение — комбинированной моделью горения Eddy Break-Up с учетом кинетических эффектов, теплопередача излучением — методом сферических гармоник первого порядка аппроксимации (P1). Решение уравнений производится в программном пакете OpenFOAM.

Reduction of the fire hazard of polymeric materials is one of the important scientific and technical problems. Since complexity of experimental procedures associated with flame spread, establishing reacting flows theoretical basics turned out to be crucial field of modern fundamental science. In order to determine parameters of flame spread over solid combustible materials numerical modelling methods have to be improved. Large amount of physical and chemical processes taking place needed to be resolved not just separately one by one but in connection with each other in gas and solid phases.

Upward flame spread over vertical solid combustible material is followed by unsteady eddy structures of gas flow in the vicinity of flame zone caused by thermal instability and natural convection forces accelerating hot combustion products. At every moment different amount of heat energy is transferred from hot gas-phase flame to solid material because of eddy flow structures. Therefore, satisfactory heat flux and eddy flow modelling are important to estimate flame spread rate.

In the current study we evaluated parameters of numerical method for flame spread over solid combustible material problem taking into account coupled nature of complex interaction between gas phase, solid material and eddy flow resulted from natural convection. We studied aspects of different approximation schemes used in differential equations integration process over space and time, of fields relaxation during iterations procedure carried out inside time step, of different time step values.

Mathematical model formulated allows to simulate flame spread over solid combustible material. Fluid dynamics is modeled by Navier – Stokes system of equations, eddy flow is described by combined turbulent model RANS–LES (DDES), turbulent combustion is resolved by modified turbulent combustion model Eddy Break-Up taking into account kinetic effects, radiation transfer is modeled by spherical harmonics method of first order approximation (P1). The equations presented are solved in OpenFOAM software.