All issues

В работе экспериментально исследовалось среднее время между элементарными прыжками доходности различных акций на российском фондовом рынке. Исходя из скейлинга плотности распределения доходностей на разных временных масштабах, удалось показать, что элементарным прыжком в модели случайных блужданий для доходностей финансовых инструментов является единичное изменение цены (тик), соответствующее совершению одной сделки с инструментом на фондовой бирже.

In this paper average times between elementary jumps of stock returns on the Russian market were experimentally studied. Considering the scaling of the probability density function of stock returns on different time intervals it is shown that an elementary jump in the random walks scheme for financial instrument returns is a unit price change (tick) that corresponds to a single deal on the stock market.

Статья посвящена созданию математического управления процессами вложения средств банка в его деятельность. Весь процесс построения оптимального управления можно разбить на две составляющие: первая, выявление функций, описывающих движение ликвидного капитала в банке, и вторая, использование полученных функций в схеме динамического программирования. Прежде эта задача была рассмотрена в статье «Оптимальное управление вложением средств банка как фактор экономической стабильности» в № 4 за 2012 год. В существующей статье рассмотрена модификация этого решения, в частности, вводится дополнительная функция реинвестирования ℜ(φ), где φ — это приток ликвидных средств от предшествующего шага.

Article is devoted to the creation of a mathematical control of the bank investment process. The whole process of building optimal control may be divided into two components: in the first place, there is the identification of the functions describing the liquid capital movement in the bank and, in the second place, the use of these functions in the scheme of dynamic programming. Before this problem was discussed in the article "Optimal control of the bank investment as a factor of economic stability" in the 4^th issue for 2012. In the present article considers this modification of the solution, in particular, we use ℜ(φ) as a function of reinvestment, where φ is inflow of liquid capital realized at the previous step of control.

В работе предлагается математическая модель возникновения раковых образований в двумерной ткани эпителия. Базисная модель роста эпителия описывает возникновение интенсивного движения и роста ткани при ее повреждении. Для этого в схеме расчета предусмотрена возможность деления и интеркаляции клеток. Предполагается, что движение клеток растущего эпителия вызывается волной митоген-активируемой протеинкиназы, которая в свою очередь активируется химико-механическим сигналом, распространяющимся по ткани из-за ее локального повреждения. В работе предполагается, что раковые клетки возникают из-за локального сбоя пространственной синхронизации циркадианных ритмов. Изучение эволюционной динамики модели позволяет изучить физико-химические свойства опухоли и определить связь между возникновением раковых клеток и параметрами развития всей ткани, координирующей свою эволюцию посредством обмена химико-механическими сигналами.

In this paper we propose a mathematical model of cancer tumour occurrence in a quasi twodimensional epithelial tissue. Basic model of the epithelium growth describes the appearance of intensive movement and growth of tissue when it is damaged. The model includes the effects of division of cells and intercalation. It is assumed that the movement of cells is caused by the wave of mitogen-activated protein kinase (MAPK), which in turn activated by the chemo-mechanical signal propagating along tissue due to its local damage. In this paper it is assumed that cancer cells arise from local failure of spatial synchronization of circadian rhythms. The study of the evolutionary dynamics of the model could determine the chemo-physical properties of a tumour, and spatial relationship between the occurrence of cancer cells and development of the entire tissue parameters coordinating its evolution through the exchange of chemical and mechanical signals.

В статье проанализированы результаты компьютерного эксперимента по оценке влияния пространственного размещения (схем посадки) деревьев на продукционный процесс и динамику почвенного плодородия в лесных плантациях. Для имитации роста плантаций нативной формы осины (Populus tremula L.) с коротким (30 лет) оборотом рубки использована система моделей EFIMOD и почвенно-климатические данные, соответствующие условиям лесной зоны Республики Марий Эл. По результатам модельных оценок, схемы посадки с расстоянием между деревьями в ряду 1–4 м и междурядьями 4–6 м характеризуются наибольшими показателями продукции биомассы, повышением почвенных запасов органического вещества и минимальными потерями азота почв за оборот рубки.

The article presents the results of computer simulations aimed to assess the influence of tree spatial locations (planting schemes) on the productivity and the dynamics of soil fertility in forest plantations. The growth of aspen (Populus tremula L.) in plantations with short rotation (30 years) was simulated in the EFIMOD system of models with the soil and climatic data matching forested lands in the Mari El Republic. The outcome reveals that higher biomass rates, increase in soil organic matter stocks, and the minimal loss of soil nitrogen can be obtained when the distance between trees in the row equals 1–4 m and 4–6 м in aisles.

В статье проведен критический анализ существующих методов и моделей, предназначенных для решения задачи планирования распределения финансовых ресурсов в цикле оперативного управления предприятием. Выявлен ряд существенных недостатков представленных моделей, ограничивающих сферу их применения: статический характер моделей, не учитывается вероятностный характер финансовых потоков, не выявляются существенно влияющие на платежеспособность и ликвидность предприятия ежедневные суммы остатков дебиторской и кредиторской задолженности. Это обуславливает необходи- мость разработки новой модели, отражающей существенные свойства системы планирования финансо- вых потоков — стохастичность, динамичность, нестационарность. Назначением такой модели является информационная поддержка принимаемых решений при формировании плана расходования финансовых ресурсов по критериям экономической эффективности.

Разработана модель распределения финансовых потоков, основанная на принципах оптимального динамического управления и методе динамического программирования, обеспечивающая планирование распределения финансовых ресурсов с учетом достижения достаточного уровня ликвидности и платежеспособности предприятия в условиях неопределенности исходных данных. Предложена алгоритмическая схема формирования целевого остатка денежных средств на принципах обеспечения финансовой устойчивости предприятия в условиях изменяющихся финансовых ограничений.

Особенностью предложенной модели является представление процесса распределения денежных средств в виде дискретного динамического процесса, для которого определяется план распределения финансовых ресурсов, обеспечивающий экстремум критерия эффективности. Формирование такого плана основано на согласовании платежей (финансовых оттоков) с их поступлениями (финансовыми притоками). Такой подход позволяет синтезировать разные планы, отличающиеся разным сочетанием финансовых оттоков, а затем осуществлять поиск наилучшего по заданному критерию. В качестве критерия эффективности приняты минимальные суммарные затраты, связанные с уплатой штрафов за несвоевременное финансирование расходных статей. Ограничениями в модели являются требование обеспечения минимально допустимой величины остатков накопленных денежных средств по подпериодам планового периода, а также обязательность осуществления платежей в течение планового периода с учетом сроков погашения этих платежей. Модель позволяет с высокой степенью эффективности решать задачу планирования распределения финансовых ресурсов в условиях неопределенности сроков и объемов их поступления, согласования притоков и оттоков финансовых ресурсов. Практическая значимость модели состоит в возможности улучшить качество финансового планирования, повысить эффективность управления и операционную эффективность предприятия.

A critical analysis of existing approaches, methods and models to solve the problem of financial resources operational management has been carried out in the article. A number of significant shortcomings of the presented models were identified, limiting the scope of their effective usage. There are a static nature of the models, probabilistic nature of financial flows are not taken into account, daily amounts of receivables and payables that significantly affect the solvency and liquidity of the company are not identified. This necessitates the development of a new model that reflects the essential properties of the planning financial flows system — stochasticity, dynamism, non-stationarity.

The model for the financial flows distribution has been developed. It bases on the principles of optimal dynamic control and provides financial resources planning ensuring an adequate level of liquidity and solvency of a company and concern initial data uncertainty. The algorithm for designing the objective cash balance, based on principles of a companies’ financial stability ensuring under changing financial constraints, is proposed.

Characteristic of the proposed model is the presentation of the cash distribution process in the form of a discrete dynamic process, for which a plan for financial resources allocation is determined, ensuring the extremum of an optimality criterion. Designing of such plan is based on the coordination of payments (cash expenses) with the cash receipts. This approach allows to synthesize different plans that differ in combinations of financial outflows, and then to select the best one according to a given criterion. The minimum total costs associated with the payment of fines for non-timely financing of expenses were taken as the optimality criterion. Restrictions in the model are the requirement to ensure the minimum allowable cash balances for the subperiods of the planning period, as well as the obligation to make payments during the planning period, taking into account the maturity of these payments. The suggested model with a high degree of efficiency allows to solve the problem of financial resources distribution under uncertainty over time and receipts, coordination of funds inflows and outflows. The practical significance of the research is in developed model application, allowing to improve the financial planning quality, to increase the management efficiency and operational efficiency of a company.

В данной работе с помощью методов математического моделирования решается задача о построении электронного аналога неоднородной ДНК. Такие электронные аналоги, наряду с другими физическими моделями живых систем, широко используются в качестве инструмента для изучения динамических и функциональных свойств этих систем. Решение задачи строится на основе алгоритма, разработанного ранее для однородной (синтетической) ДНК и модифицированного таким образом, чтобы его можно было использовать для случая неоднородной (природной) ДНК. Этот алгоритм включает следующие шаги: выбор модели, имитирующей внутреннюю подвижность ДНК; построение преобразования, позволяющего перейти от модели ДНК к ее электронному аналогу; поиск условий, обеспечивающих аналогию уравнений ДНК и уравнений электронного аналога; расчет параметров эквивалентной электрической цепи. Для описания неоднородной ДНК была выбрана модель, представляющая собой систему дискретных нелинейных дифференциальных уравнений, имитирующих угловые отклонения азотистых оснований, и соответствующий этим уравнениям гамильтониан. Значения коэффициентов в модельных уравнениях полностью определяются динамическими параметрами молекулы ДНК, включая моменты инерции азотистых оснований, жесткость сахаро-фосфатной цепи, константы, характеризующие взаимодействия между комплементарными основаниями внутри пар. В качестве основы для построения электронной модели была использована неоднородная линия Джозефсона, эквивалентная схема которой содержит четыре типа ячеек: A-, T-, G- и C-ячейки. Каждая ячейка, в свою очередь, состоит из трех элементов: емкости, индуктивности и джозефсоновского контакта. Важно, чтобы A-, T-, G- и C-ячейки джозефсоновской линии располагались в определенном порядке, который аналогичен порядку расположения азотистых оснований (A, T, G и C) в последовательности ДНК. Переход от ДНК к электронному аналогу осуществлялся с помощью А-преобразования, что позволило рассчитать значения емкости, индуктивности и джозефсоновского контакта в A-ячейках. Значения параметров для T-, G- и C-ячеек эквивалентной электрической цепи были получены из условий, накладываемых на коэффициенты модельных уравнений и обеспечивающих аналогию между ДНК и электронной моделью.

In this work, the problem of constructing an electronic analogue of heterogeneous DNA is solved with the help of the methods of mathematical modeling. Electronic analogs of that type, along with other physical models of living systems, are widely used as a tool for studying the dynamic and functional properties of these systems. The solution to the problem is based on an algorithm previously developed for homogeneous (synthetic) DNA and modified in such a way that it can be used for the case of inhomogeneous (native) DNA. The algorithm includes the following steps: selection of a model that simulates the internal mobility of DNA; construction of a transformation that allows you to move from the DNA model to its electronic analogue; search for conditions that provide an analogy of DNA equations and electronic analogue equations; calculation of the parameters of the equivalent electrical circuit. To describe inhomogeneous DNA, the model was chosen that is a system of discrete nonlinear differential equations simulating the angular deviations of nitrogenous bases, and Hamiltonian corresponding to these equations. The values of the coefficients in the model equations are completely determined by the dynamic parameters of the DNA molecule, including the moments of inertia of nitrous bases, the rigidity of the sugar-phosphate chain, and the constants characterizing the interactions between complementary bases in pairs. The inhomogeneous Josephson line was used as a basis for constructing an electronic model, the equivalent circuit of which contains four types of cells: A-, T-, G-, and C-cells. Each cell, in turn, consists of three elements: capacitance, inductance, and Josephson junction. It is important that the A-, T-, G- and C-cells of the Josephson line are arranged in a specific order, which is similar to the order of the nitrogenous bases (A, T, G and C) in the DNA sequence. The transition from DNA to an electronic analog was carried out with the help of the A-transformation which made it possible to calculate the values of the capacitance, inductance, and Josephson junction in the A-cells. The parameter values for the T-, G-, and C-cells of the equivalent electrical circuit were obtained from the conditions imposed on the coefficients of the model equations and providing an analogy between DNA and the electronic model.

Статья посвящена построению и исследованию усредненной математической модели окислительной регенерации алюмокобальтмолибденового катализатора гидрокрекинга. Окислительная регенерация является эффективным средством восстановления активности катализатора при покрытии его гранул коксовыми отложениями.

Математическая модель указанного процесса представляет собой нелинейную систему обыкновенных дифференциальных уравнений, в которую включены кинетические уравнения для концентраций реагентов и уравнения для учета изменения температуры зерна катализатора и реакционной смеси в результате протекания неизотермических реакций и теплообмена между газом и слоем катализатора. Вследствие гетерогенности процесса окислительной регенерации часть уравнений отличается от стандартных кинетических и построена на основе эмпирических данных. В статье рассмотрена схема химического взаимодействия в процессе регенерации, на основе которой составлены уравнения материального баланса. В ней отражены непосредственное взаимодействие кокса и кислорода с учетом степени покрытия гранулы кокса углерод-водородным и углерод-кислородным комплексами, выделение монооксида и диоксида углерода в процессе горения, а также освобождение кислорода и водорода внутри зерна катализатора. При построении модели учитывается изменение радиуса, а следовательно, и площади поверхности коксовых гранул. Адекватность разработанной усредненной модели подтверждена анализом динамики концентраций веществ и температуры.

В статье приведен численный эксперимент для математической модели окислительной регенерации алюмокобальтмолибденового катализатора гидрокрекинга. Эксперимент проведен с использованием метода Кутты–Мерсона. Этот метод относится к методам семейства Рунге–Кутты, но разработан для решения жестких систем обыкновенных дифференциальных уравнений. Результаты вычислительного эксперимента визуализированы.

В работе приведена динамика концентраций веществ, участвующих в процессе окислительной регенерации. На основании соответствия полученных результатов физико-химическим законам сделан вывод об адекватности построенной математической модели. Проанализирован разогрев зерна катализатора и выделение монооксида углерода при изменении радиуса зерна для различных степеней начальной закоксованности. Дано описание полученных результатов.

В заключении отмечены основные результаты, приведены примеры задач, для решения которых может быть применена разработанная математическая модель.

The article is devoted to the construction and investigation of an averaged mathematical model of an aluminum-cobalt-molybdenum hydrocracking catalyst oxidative regeneration. The oxidative regeneration is an effective means of restoring the activity of the catalyst when its granules are coating with coke scurf.

The mathematical model of this process is a nonlinear system of ordinary differential equations, which includes kinetic equations for reagents’ concentrations and equations for changes in the temperature of the catalyst granule and the reaction mixture as a result of isothermal reactions and heat transfer between the gas and the catalyst layer. Due to the heterogeneity of the oxidative regeneration process, some of the equations differ from the standard kinetic ones and are based on empirical data. The article discusses the scheme of chemical interaction in the regeneration process, which the material balance equations are compiled on the basis of. It reflects the direct interaction of coke and oxygen, taking into account the degree of coverage of the coke granule with carbon-hydrogen and carbon-oxygen complexes, the release of carbon monoxide and carbon dioxide during combustion, as well as the release of oxygen and hydrogen inside the catalyst granule. The change of the radius and, consequently, the surface area of coke pellets is taken into account. The adequacy of the developed averaged model is confirmed by an analysis of the dynamics of the concentrations of substances and temperature.

The article presents a numerical experiment for a mathematical model of oxidative regeneration of an aluminum-cobalt-molybdenum hydrocracking catalyst. The experiment was carried out using the Kutta–Merson method. This method belongs to the methods of the Runge–Kutta family, but is designed to solve stiff systems of ordinary differential equations. The results of a computational experiment are visualized.

The paper presents the dynamics of the concentrations of substances involved in the oxidative regeneration process. A conclusion on the adequacy of the constructed mathematical model is drawn on the basis of the correspondence of the obtained results to physicochemical laws. The heating of the catalyst granule and the release of carbon monoxide with a change in the radius of the granule for various degrees of initial coking are analyzed. There are a description of the results.

In conclusion, the main results and examples of problems which can be solved using the developed mathematical model are noted.

В статье приводятся результаты трехмерного моделирования экологического состояния мелководного водоема на примере Азовского моря с использованием схем повышенного порядка точности на многопроцессорной вычислительной системе Южного федерального университета. Для решения поставленной задачи были построены и изучены дискретные аналоги операторов конвективного и диффузионного переносов четвертого порядка точности в случае частичной заполненности ячеек расчетной области. Разработанные схемы повышенного (четвертого) порядка точности были использованы при решении задач водной экологии для моделирования пространственного распределения загрязняющих биогенных веществ, вызывающих бурный рост фитопланктона, многие виды которого являются токсичными и вредоносными. Использование схем повышенного порядка точности позволило повысить качество входных данных, а также уменьшить значение погрешности при решении модельных задач водной экологии. Были проведены численные эксперименты для задачи транспорта веществ на основе схем второго и четвертого порядков точностей, которые показали, что для задачи диффузии-конвекции удалось повысить точность в 48,7 раз. Предложен и численно реализован математический алгоритм, предназначенный для восстановления рельефа дна мелководного водоема на основе гидрографической информации (глубины водоема в отдельных точках или изолиний уровня), с помощью которого была получена карта рельефа дна Азовского моря, используемая для построения полей течений, рассчитанных на основе гидродинамической модели. Поля течений водного потока используются в работе в качестве входной информации для моделей водной экологии. Была разработана библиотека двухслойных итерационных методов, предназначенная для решения девятидиагональных сеточных уравнений, возникающих при дискретизации модельных задач изменения концентраций загрязняющих веществ, планктона и рыб на многопроцессорной вычислительной системе, что позволило повысить точность расчетных данных и дало возможность получать оперативные прогнозы изменения экологического состояния мелководного водоема в кратчайшие временные промежутки.

The article covered results of three-dimensional modeling of ecologic situation of shallow water on the example of the Azov Sea with using schemes of increased order of accuracy on multiprocessor computer system of Southern Federal University. Discrete analogs of convective and diffusive transfer operators of the fourth order of accuracy in the case of partial occupancy of cells were constructed and studied. The developed scheme of the high (fourth) order of accuracy were used for solving problems of aquatic ecology and modeling spatial distribution of polluting nutrients, which caused growth of phytoplankton, many species of which are toxic and harmful. The use of schemes of the high order of accuracy are improved the quality of input data and decreased the error in solutions of model tasks of aquatic ecology. Numerical experiments were conducted for the problem of transportation of substances on the basis of the schemes of the second and fourth orders of accuracy. They’re showed that the accuracy was increased in 48.7 times for diffusion-convection problem. The mathematical algorithm was proposed and numerically implemented, which designed to restore the bottom topography of shallow water on the basis of hydrographic data (water depth at individual points or contour level). The map of bottom relief of the Azov Sea was generated with using this algorithm. It’s used to build fields of currents calculated on the basis of hydrodynamic model. The fields of water flow currents were used as input data of the aquatic ecology models. The library of double-layered iterative methods was developed for solving of nine-diagonal difference equations. It occurs in discretization of model tasks of challenges of pollutants concentration, plankton and fish on multiprocessor computer system. It improved the precision of the calculated data and gave the possibility to obtain operational forecasts of changes in ecologic situation of shallow water in short time intervals.

Одна из трудностей разработки газоконденсатных месторождений обусловлена тем, что часть углеводородов газоносного слоя присутствует в немв виде конденсата, который застревает в порах пласта и извлечению не подлежит. В этой связи активно ведутся исследования, направленные на повышение извлекаемости углеводородов в подобных месторождениях. В том числе значительное количество публикаций посвящено развитию методов математического моделирования прохождения многокомпонентных газоконденсатных смесей через пористую среду в различных условиях.

В настоящей работе в рамках классического подхода, основанного на законе Дарси и законе неразрывности потоков, сформулирована математическая постановка начально-граничной задачи для системы нелинейных дифференциальных уравнений, описывающая прохождение многокомпонентной газоконденсатной смеси через пористую среду в режиме истощения. Разработанная обобщенная вычислительная схема на основе конечно-разностной аппроксимации и метода Рунге – Кутты четвертого порядка может использоваться для расчетов как в пространственно одномерном случае, соответствующемусловиям лабораторного эксперимента, так и в двумерном случае, когда речь идет о моделировании плоского газоносного пласта с круговой симметрией.

Численное решение упомянутой системы уравнений реализовано на основе комбинированного использования C++ и Maple с применением технологии параллельного программирования MPI для ускорения вычислений. Расчеты выполнены на кластере HybriLIT Многофункционального информационно-вычислительного комплекса Лаборатории информационных технологий Объединенного института ядерных исследований.

Численные результаты сопоставлены с данными о динамике выхода девятикомпонентной углеводородной смеси в зависимости от давления, полученными на лабораторной установке (ВНИИГАЗ, Ухта). Расчеты проводились для двух типов пористого наполнителя в лабораторной модели пласта: терригенного (при 25 ^◦С) и карбонатного (при 60 ^◦С). Показано, что используемый подход обеспечивает согласие полученных численных результатов с экспериментальными данными. Путем подгонки к экспериментальным данным по истощению лабораторной модели пласта получены значения параметров, определяющих коэффициент межфазного перехода для моделируемой системы. С использованием тех же параметров было проведено компьютерное моделирование истощения тонкого газоносного слоя в приближении круговой симметрии.

One of problems in developing the gas condensate fields lies on the fact that the condensed hydrocarbons in the gas-bearing layer can get stuck in the pores of the formation and hence cannot be extracted. In this regard, research is underway to increase the recoverability of hydrocarbons in such fields. This research includes a wide range of studies on mathematical simulations of the passage of gas condensate mixtures through a porous medium under various conditions.

In the present work, within the classical approach based on the Darcy law and the law of continuity of flows, we formulate an initial-boundary value problem for a system of nonlinear differential equations that describes a depletion of a multicomponent gas-condensate mixture in porous reservoir. A computational scheme is developed on the basis of the finite-difference approximation and the fourth order Runge .Kutta method. The scheme can be used for simulations both in the spatially one-dimensional case, corresponding to the conditions of the laboratory experiment, and in the two-dimensional case, when it comes to modeling a flat gas-bearing formation with circular symmetry.

The computer implementation is based on the combination of C++ and Maple tools, using the MPI parallel programming technique to speed up the calculations. The calculations were performed on the HybriLIT cluster of the Multifunctional Information and Computing Complex of the Laboratory of Information Technologies of the Joint Institute for Nuclear Research.

Numerical results are compared with the experimental data on the pressure dependence of output of a ninecomponent hydrocarbon mixture obtained at a laboratory facility (VNIIGAZ, Ukhta). The calculations were performed for two types of porous filler in the laboratory model of the formation: terrigenous filler at 25 .„R and carbonate one at 60 .„R. It is shown that the approach developed ensures an agreement of the numerical results with experimental data. By fitting of numerical results to experimental data on the depletion of the laboratory reservoir, we obtained the values of the parameters that determine the inter-phase transition coefficient for the simulated system. Using the same parameters, a computer simulation of the depletion of a thin gas-bearing layer in the circular symmetry approximation was carried out.

В представленном исследовании проводится численное моделирование охлаждения кориума, расплава керамического топлива ядерного реактора и оксидов конструкционных материалов, в горизонтальной полуцилиндрической полости, стенки которой поддерживаются при постоянной температуре, в условиях естественной конвекции.

Охлаждение кориума — это процесс характерный для тяжелой аварии на ядерном реакторе, которая может быть локализована путем удержания кориума внутри корпуса реактора, испытывающего внешнее охлаждение. Такой подход обеспечивает не только сравнительно простой способ удержания радиоактивности в пределах первого контура, но и возможность реализации на действующих блоках. Это выступает альтернативой ловушке расплава, еще одному методу локализации. Точный анализ и моделирование процесса охлаждения в таких условиях оказываются перспективной областью исследований в настоящее время.

В начальный момент времени температура кориума принимается равной температуре стенки. Кориум, несмотря на останов реактора, обладает остаточным тепловыделением, которое уменьшается со временем согласно формуле Вэя–Вигнера. Процесс естественной конвекции внутри полости описывается системой уравнений в приближении Буссинеска, которая включает в себя уравнение движения, уравнение неразрывности и уравнение энергии. Конвективные потоки считаются ламинарными и двумерными, теплофизические свойства жидкости считаются независимыми от температуры.

Краевая задача математической физики формулируется в безразмерных переменных «функция тока – завихренность». Полученные дифференциальные уравнения решаются численно при помощи метода конечных разностей c использованием локально-одномерной схемы Самарского применительно к уравнениям параболического типа.

В результате исследований получены временные зависимости среднего числа Нуссельта на верхней и нижней стенках полости в широком диапазоне изменения числа Рэлея от 10³ до 10⁶. Указанные зависимости также были проанализированы при различных значениях безразмерного времени работы реактора до аварии. Исследования проведены как на основе распределений изолиний функции тока и температуры, так и с использованием временных профилей интенсивности конвективного течения и теплообмена.

Represented study considers numerical simulation of corium cooling driven by natural convection within a horizontal hemicylindrical cavity, boundaries of which are assumed isothermal. Corium is a melt of ceramic fuel of a nuclear reactor and oxides of construction materials.

Corium cooling is a process occurring during severe accident associated with core melt. According to invessel retention conception, the accident may be restrained and localized, if the corium is contained within the vessel, only if it is cooled externally. This conception has a clear advantage over the melt trap, it can be implemented at already operating nuclear power plants. Thereby proper numerical analysis of the corium cooling has become such a relevant area of studies.

In the research, we assume the corium is contained within a horizontal semitube. The corium initially has temperature of the walls. In spite of reactor shutdown, the corium still generates heat owing to radioactive decays, and the amount of heat released decreases with time accordingly to Way–Wigner formula. The system of equations in Boussinesq approximation including momentum equation, continuity equation and energy equation, describes the natural convection within the cavity. Convective flows are taken to be laminar and two-dimensional.

The boundary-value problem of mathematical physics is formulated using the non-dimensional nonprimitive variables «stream function – vorticity». The obtained differential equations are solved numerically using the finite difference method and locally one-dimensional Samarskii scheme for the equations of parabolic type.

As a result of the present research, we have obtained the time behavior of mean Nusselt number at top and bottom walls for Rayleigh number ranged from 10³ to 10⁶. These mentioned dependences have been analyzed for various dimensionless operation periods before the accident. Investigations have been performed using streamlines and isotherms as well as time dependences for convective flow and heat transfer rates.