All issues

В данной работе изучаются вращательные колебания азотистых оснований, образующих центральную пару в коротком фрагменте ДНК, состоящем из трех пар оснований. Построен простой механический аналог фрагмента, в котором основания имитируются маятниками, а взаимодействия между основаниями — пружинками. Получен лагранжиан модельной системы и уравнения движения. Получены решения уравнений движения для однородного случая, когда рассматриваемый фрагмент ДНК состоит из одинаковых пар оснований: из пар аденин-тимин (AT) или гуанинцитозин (GC). Построены траектории модельной системы в конфигурационном пространстве.

In this paper we study the rotational oscillations of the nitrous bases forming a central pair in a short DNA fragment consisting of three base pairs. A simple mechanical analog of the fragment where the bases are imitated by pendulums and the interactions between pendulums — by springs, has been constructed. We derived Lagrangian of the model system and the nonlinear equations of motions. We found solutions in the homogeneous case when the fragment considered consists of identical base pairs: Adenine-Thymine (AT- pair) or Guanine-Cytosine (GC-pair). The trajectories of the model system in the configuration space were also constructed.

В работе рассмотрено приложение методов кинетической теории к задачам гемодинамики. Для моделирования выбраны решеточные уравнения Больцмана. Данные модели описывают дискретизированную по пространственной и временной координате динамику движения частиц на одномерной решетке. Хорошо известно, что в пределе малых длин свободного пробега решеточные уравнения Больцмана описывают уравнения гидродинамики. Если течение достаточно медленное (мало число Маха), то данные уравнения гидродинамики переходят в уравнения Навье – Стокса для сжимаемого газа. Если в получающихся гидродинамических уравнениях переменные, отвечающие плотности и скорости звука, считать площадью поперечного сечения сосуда и скоростью распространения пульсовой волны давления, то выводятся хорошо известные в биомеханике нелинейные уравнения распространения несжимаемой вязкой жидкости (крови) в эластичном сосуде для частного случая постоянной пульсовой скорости.

В общем случае скорость распространения пульсовой волны зависит от площади просвета сосуда. Следует отметить интересную аналогию: уравнение состояния решеточного газа в новых переменных становится законом, связывающим давление и площадь поперечного сечения сосуда. Таким образом, в общем случае требуется модифицировать уравнение состояния для решеточного уравнения Больцмана. Данная процедура хорошо известна в теории неидеального газа и многофазных течений и эквивалентна введению в уравнения виртуальной силы. Получающиеся уравнения могут использоваться для моделирования любых законов, связывающих скорость пульсовой волны и площадь просвета сосуда.

В качестве тестовых задач рассмотрено распространение уединенной нелинейной пульсовой волны в сосуде с упругими свойствами, описываемыми законом Лапласа. Во второй задаче рассмотрено распространение пульсовых волн для бифуркации сосудов. Показано, что результаты расчетов хорошо совпадают с данными из предыдущих исследований.

In the present paper the application of the kinetic methods to the blood flow problems in elastic vessels is studied. The Lattice Boltzmann (LB) kinetic equation is applied. This model describes the discretized in space and time dynamics of particles traveling in a one-dimensional Cartesian lattice. At the limit of the small times between collisions LB models describe hydrodynamic equations which are equivalent to the Navier – Stokes for compressible if the considered flow is slow (small Mach number). If one formally changes in the resulting hydrodynamic equations the variables corresponding to density and sound wave velocity by luminal area and pulse wave velocity then a well-known 1D equations for the blood flow motion in elastic vessels are obtained for a particular case of constant pulse wave speed.

In reality the pulse wave velocity is a function of luminal area. Here an interesting analogy is observed: the equation of state (which defines sound wave velocity) becomes pressure-area relation. Thus, a generalization of the equation of state is needed. This procedure popular in the modeling of non-ideal gas and is performed using an introduction of a virtual force. This allows to model arbitrary pressure-area dependence in the resulting hemodynamic equations.

Two test case problems are considered. In the first problem a propagation of a sole nonlinear pulse wave is studied in the case of the Laplace pressure-area response. In the second problem the pulse wave dynamics is considered for a vessel bifurcation. The results show good precision in comparison with the data from literature.

В работе предложена новая математическая модель для исследования динамики взаимодействия продольной стенки узкого канала с его торцевым уплотнением — торцевой стенкой, имеющей упругое закрепление. В рамках данной модели взаимодействие указанных стенок происходит через слой вязкой жидкости, заполняющей канал, и ранее не исследовалось. Это потребовало постановки и решения задачи гидроупругости. Поставленная задача состоит из уравнений Навье–Стокса, уравнения неразрывности, уравнения динамики торцевой стенки как одномассовой модели и соответствующих краевых условий. На первом этапе задача исследована при ползучем течении. На втором этапе исследования данное ограничение снимается и, при использовании метода итераций, осуществлено обобщение исходной задачи с учетом инерции движения жидкости. Решение сформулированной задачи позволило определить законы распределения скоростей и давления в слое жидкости, а также закон движения торцевой стенки. Показано, что при ползучем течении физические свойства слоя жидкости и геометрические размеры канала полностью определяют демпфирование в рассматриваемой колебательной системе. При этом на демпфирующие свойства слоя жидкости оказывает влияние как скорость движения торцевой стенки, так и скорость движения продольной стенки. Найдены выражения для коэффициентов демпфирования слоя жидкости в продольном и поперечном направлении. При учете сил инерции жидкости выявлено их влияние на колебания торцевой стенки, проявляющиеся в виде двух присоединенных масс в уравнении ее движения. Определены выражения для указанных присоединенных масс. Для режима установившихся гармонических колебаний построены амплитудно-частотные и фазово-частотные характеристики торцевой стенки, учитывающие демпфирующие и инерционные свойства слоя вязкой жидкости в канале. Моделирование показало, что совместный учет инерции движения слоя жидкости в канале и его демпфирующих свойств приводит к сдвигу резонансных частот колебаний в низкочастотную область и возрастанию амплитуд колебаний торцевой стенки.

The paper proposes a new mathematical model to study the interaction dynamics of the longitudinal wall of a narrow channel with its end seal. The end seal was considered as the edge wall on a spring, i.e. spring-mass system. These walls interaction occurs via a viscous liquid filling the narrow channel; thus required the formulation and solution of the hydroelasticity problem. However, this problem has not been previously studied. The problem consists of the Navier–Stokes equations, the continuity equation, the edge wall dynamics equation, and the corresponding boundary conditions. Two cases of fluid motion in a narrow channel with parallel walls were studied. In the first case, we assumed the liquid motion as the creeping one, and in the second case as the laminar, taking into account the motion inertia. The hydroelasticty problem solution made it possible to determine the distribution laws of velocities and pressure in the liquid layer, as well as the motion law of the edge wall. It is shown that during creeping flow, the liquid physical properties and the channel geometric dimensions completely determine the damping in the considered oscillatory system. Both the end wall velocity and the longitudinal wall velocity affect the damping properties of the liquid layer. If the fluid motion inertia forces were taken into account, their influence on the edge wall vibrations was revealed, which manifested itself in the form of two added masses in the equation of its motion. The added masses and damping coefficients of the liquid layer due to the joint consideration of the liquid layer inertia and its viscosity were determined. The frequency and phase responses of the edge wall were constructed for the regime of steady-state harmonic oscillations. The simulation showed that taking into account the fluid layer inertia and its damping properties leads to a shift in the resonant frequencies to the low-frequency region and an increase in the oscillation amplitudes of the edge wall.

В работе рассматривается вопрос математического моделирования робототехнических структур на основе напряженно-связных конструкций, известных в англоязычных источниках как tensegrity structures (тенсегрити-структуры). Определяющим свойством таких конструкций является то, что образующие их элементы работают только на сжатие или растяжение, что позволяет использовать материалы и конструктивные решения для выполнения этих элементов, минимизирующие вес структуры, сохраняя ее прочность.

Тенсегрити-структуры отличаются рядом свойств, важных для коллаборативной робототехники, задач разведывания и движения в недетерминированных средах: естественной податливостью, компактностью при транспортировке, малым весом при значительной удароустойчивости и жесткости. При этом открытыми остаются многие вопросы управления такими структурами, что в свою очередь связано со сложностью описания их динамики.

В работе предложен подход к описанию и составлению динамических уравнений для таких конструкций, основанный на описании динамики второго порядка декартовых координат элементов структуры (стержней), динамики первого порядка для угловых скоростей стержней и динамики первого порядка для кватернионов, используемых для описания ориентации стержней. Предложен подход к численному решению составленных динамических уравнений. Предложенные методы реализованы в виде свободно распространяемого математического пакета с открытым исходным кодом.

В работе продемонстрировано, как разработанный программный комплекс может использоваться для моделирования динамики и определения режимов работы тенсегрити-структур. Рассмотрен пример тенсегрити-структуры с тремя жесткими стержнями и девятью упругими элементами, работающими на растяжение (тросами), движущейся в невесомости. Показаны особенности динамики структуры в процессе достижения положения равновесия, определены области начальных значений параметров ориентации стержней, при которых структура работает в штатном режиме, и значения, при которых растяжение тросов превышает выбранное критическое значение или происходит провисание тросов. Полученные результаты могут непосредственно использоваться при анализе характера пассивных динамических движений роботов, основанных на трехзвенной тенсегрити-структуре, рассмотренный в работе; предложенные методы моделирования и разработанное программное обеспечение пригодны для моделирования значительного многообразия тенсегрити-роботов.

In this paper, we address the mathematical modeling of robots based on tensegrity structures. The pivotal property of such structures is the forming elements working only for compression or tension, which allows the use of materials and structural solutions that minimize the weight of the structure while maintaining its strength.

Tensegrity structures hold several properties important for collaborative robotics, exploration and motion tasks in non-deterministic environments: natural compliance, compactness for transportation, low weight with significant impact resistance and rigidity. The control of such structures remains an open research problem, which is associated with the complexity of describing the dynamics of such structures.

We formulate an approach for describing the dynamics of such structures, based on second-order dynamics of the Cartesian coordinates of structure elements (rods), first-order dynamics for angular velocities of rods, and first-order dynamics for quaternions that are used to describe the orientation of rods. We propose a numerical method for solving these dynamic equations. The proposed methods are implemented in the form of a freely distributed mathematical package with open source code.

Further, we show how the provided software package can be used for modeling the dynamics and determining the operating modes of tensegrity structures. We present an example of a tensegrity structure moving in zero gravity with three rigid rods and nine elastic elements working in tension (cables), showing the features of the dynamics of the structure in reaching the equilibrium position. The range of initial conditions for which the structure operates in the normal mode is determined. The results can be directly used to analyze the nature of passive dynamic movements of the robots based on a three-link tensegrity structure, considered in the paper; the proposed modeling methods and the developed software are suitable for modeling a significant variety of tensegrity robots.

Предлагается простая модель на основе уравнения кинетического типа для описания распространения вируса в пространстве посредством миграции носителей вируса из выделенного центра. Рассматриваются страны, для которых применима одномерная модель: Россия, Италия, Чили. Одномерный подход возможен из-за географического расположения этих стран и их протяженности в направлениях от центров заражения (Москвы, Ломбардии и Сантьяго соответственно). Определяется изменение плотности зараженных во времени и пространстве. Применяется двухпараметрическая модель. Первый параметр — величина средней скорости распространения, соответствующий переносу инфицированных транспортными средствами. Второй параметр — частота уменьшения количества инфицированных элементов по мере продвижения по территории страны, что связано с прибытием пассажиров в места назначения, а также с карантинными мерами, препятствующими их перемещению по стране. Параметры модели определяются по фактически известным данным. Строится аналитическое решение, для получения серии расчетов применяются также простые численные методы. В модели рассматривается пространственное распространение заболевания, при этом заражения на местах не учитываются. Поэтому вычисленные значения на начальном этапе хорошо соответствуют экспериментальным данным, а затем плотность заболевших начинает быстрее возрастать из-за заражений на местах. Тем не менее модельные расчеты позволяют делать некоторые предсказания. Помимо скорости заражения, возможна аналогичная «скорость выздоровления». По моменту времени достижения охвата большей части населения страны при движении фронта выздоровления делается вывод о начале глобального выздоровления, что соответствует реальным данным.

A simple model based on a kinetic-type equation is proposed to describe the spread of a virus in space through the migration of virus carriers from a certain center. The consideration is carried out on the example of three countries for which such a one-dimensional model is applicable: Russia, Italy and Chile. The geographical location of these countries and their elongation in the direction from the centers of infection (Moscow, Milan and Lombardia in general, as well as Santiago, respectively) makes it possible to use such an approximation. The aim is to determine the dynamic density of the infected in time and space. The model is two-parameter. The first parameter is the value of the average spreading rate associated with the transfer of infected moving by transport vehicles. The second parameter is the frequency of the decrease of the infected as they move through the country, which is associated with the passengers reaching their destination, as well as with quarantine measures. The parameters are determined from the actual known data for the first days of the spatial spread of the epidemic. An analytical solution is being built; simple numerical methods are also used to obtain a series of calculations. The geographical spread of the disease is a factor taken into account in the model, the second important factor is that contact infection in the field is not taken into account. Therefore, the comparison of the calculated values with the actual data in the initial period of infection coincides with the real data, then these data become higher than the model data. Those no less model calculations allow us to make some predictions. In addition to the speed of infection, a similar “speed of recovery” is possible. When such a speed is found for the majority of the country's population, a conclusion is made about the beginning of a global recovery, which coincides with real data.

Перспективным методом повышения количества осадков в засушливом климате является способ создания вертикальной высокотемпературной струи, насыщенной гигроскопическим аэрозолем. Такая установка позволяет создавать искусственные облака с возможностью образования осадков в безоблачной атмосфере, в отличие от традиционных способов искусственного увеличения осадков, в которых предусматривается повышение эффективности осадко-образования только в естественных облаках путем их засева ядрами кристаллизации и конденсации. Для увеличения мощности струи добавляются хлорид кальция, карбамид, пищевая соль в виде грубодисперсного аэрозоля, а также нанопорошок NaCl/TiO₂, который способен конденсировать значительно больше водяного пара, чем перечисленные типы аэрозолей. Дисперсные включения в струе также являются центрами кристаллизации и конденсации в создаваемом облаке для повышения возможности осадкообразования. Для моделирования конвективных течений в атмосфере применяется математическая модель атмосферных течений большого масштаба FlowVision, решение уравнений движения, энергии и массопереноса проводится в относительных переменных. Рассматриваемая постановка задачи разделена на две части: модель начальной струи и постановка атмосферных течений большого масштаба FlowVision. Нижняя область, где происходит течение начальной высокоскоростной струи, моделируется в сжимаемой постановке с решением уравнения энергии относительно полной энтальпии. Данное разделение задачи на две отдельные подобласти необходимо, чтобы корректно провести численный расчет начальной турбулентной струи при высокой скорости (M > 0,3). Приводятся основные математические зависимости модели. С использованием представленной модели проведены численные эксперименты, для исходных данных взяты экспериментальные данные из натурных испытаний установки по созданию искусственных облаков, проведенные в Объединенных Арабских Эмиратах. Получено хорошее согласие с экспериментом: в 55% проведенных расчетов значение вертикальной скорости на высоте 400 м (более 2 м/с) и высота подъема струи (более 600 м) находятся в пределах погрешности 30% от экспериментальных характеристик, а в 30% расчетах — полностью согласуются с экспериментом. Результаты численного моделирования позволяют оценить возможность использования метода высокоскоростной струи для стимулирования искусственной конвекции и, в конечном итоге, для создания осадков. Расчеты проведены с использованием программного комплекса FlowVision на суперкомпьютере «Торнадо ЮУрГУ».

A promising method of increasing precipitation in arid climates is the method of creating a vertical high-temperature jet seeded by hygroscopic aerosol. Such an installation makes it possible to create artificial clouds with the possibility of precipitation formation in a cloudless atmosphere, unlike traditional methods of artificial precipitation enhancement, which provide for increasing the efficiency of precipitation formation only in natural clouds by seeding them with nuclei of crystallization and condensation. To increase the power of the jet, calcium chloride, carbamide, salt in the form of a coarse aerosol, as well as NaCl/TiO₂ core/shell novel nanopowder, which is capable of condensing much more water vapor than the listed types of aerosols, are added. Dispersed inclusions in the jet are also centers of crystallization and condensation in the created cloud to increase the possibility of precipitation. To simulate convective flows in the atmosphere, a mathematical model of FlowVision large-scale atmospheric flows is used, the solution of the equations of motion, energy and mass transfer is carried out in relative variables. The statement of the problem is divided into two parts: the initial jet model and the FlowVision large-scale atmospheric model. The lower region, where the initial high-speed jet flows, is calculated using a compressible formulation with the solution of the energy equation with respect to the total enthalpy. This division of the problem into two separate subdomains is necessary in order to correctly carry out the numerical calculation of the initial turbulent jet at high velocity (M > 0.3). The main mathematical dependencies of the model are given. Numerical experiments were carried out using the presented model, experimental data from field tests of the installation for creating artificial clouds were taken for the initial data. A good agreement with the experiment is obtained: in 55% of the calculations carried out, the value of the vertical velocity at a height of 400 m (more than 2 m/s) and the height of the jet rise (more than 600 m) is within an deviation of 30% of the experimental characteristics, and in 30% of the calculations it is completely consistent with the experiment. The results of numerical simulation allow evaluating the possibility of using the high-speed jet method to stimulate artificial updrafts and to create precipitation. The calculations were carried out using FlowVision CFD software on SUSU Tornado supercomputer.

В работе предложена математическая модель для одномерного неравновесного руслового процесса. Модель учитывает движение наносов во взвешенном и влекомом состоянии. Транспорт влекомых наносов определен с помощью оригинальной формулы, аналитически полученной из уравнения движения тонкого придонного водогрунтового слоя. Данная формула не содержит новых феноменологических параметров и учитывает влияние уклона дна, физико-механических и гранулометрических параметров донного материала на процесс транспорта влекомых наносов. Для верификации предложенной модели был решен ряд классических тестовых задач. Выполнено сравнение результатов численных расчетов с известными экспериментальными данными и результатами других авторов. Показано, что, несмотря на относительную простоту предложенной математической модели, полученные численные решения хорошо согласуются с экспериментальными данными.

In the paper the model for a one-dimensional non-equilibrium riverbed process is proposed. The model takes into account the suspended and bed-load sediment transport. The bed-load transport is determined by using the original formula. This formula was derived from the thin bottom layer motion equation. The formula doesn’t contain new phenomenological parameters and takes into account the influence of bed slope, granulometric and physical mechanical parameters on the bed-load transport. A number of the model test problems are solved for the verification of the proposed mathematical model. The comparison of the calculation results with the established experimental data and the results of other authors is made. It was shown, that the obtained results have a good agreement with the experimental data in spite of the relative simplicity of the proposed mathematical model.

В 2007 году Касман провел серию оригинальных компьютерных экспериментов с кинками уравнения синус-Гордона, движущимися вдоль искусственных последовательностей ДНК. Были рассмотрены две последовательности. Каждая состояла из двух частей, разделенных границей. Левая часть первой из последовательностей содержала повторяющиеся триплеты TTA, кодирующие лейцины, а правая часть содержала повторяющиеся триплеты CGC, кодирующие аргинины. Во второй последовательности левая часть содержала повторяющиеся триплеты CTG, кодирующие лейцины, а правая часть содержала повторяющиеся триплеты AGA, кодирующие аргинины. При моделировании движения кинка в этих последовательностях был обнаружен интересный эффект. Оказалось, что кинк, движущийся в одной из последовательностей, останавливался, не достигнув конца, а затем «отскакивал», как будто ударялся об стенку. В то же время в другой последовательности движение кинка не прекращалось в течение всего времени проведения эксперимента. В этих компьютерных экспериментах, однако, использовалась простая модель ДНК, предложенная Салерно. Она учитывает различия во взаимодействиях комплементарных оснований внутри пар, но пренебрегает различием в моментах инерции азотистых оснований и расстояниях между центрами масс оснований и сахарно-фосфатной цепочкой. Вопрос о том, сохранится ли эффект Касмана при использовании более точных моделей ДНК, до сих пор остается открытым. В настоящей работе мы исследуем эффект Касмана на основе более точной модели ДНК, которая учитывает оба эти различия. Мы получили энергетические профили последовательностей Касмана и построили траектории движения кинков, запущенных в этих последовательностях при разных начальных значениях энергии. Результаты наших исследований подтвердили существование эффекта Касмана, но только в ограниченном интервале начальных значений энергии кинков и при определенном направлении движения кинков. В других случаях этот эффект не наблюдался. Мы обсудили, какие из исследованных последовательностей энергетически были более предпочтительны для возбуждения и распространения кинков.

In 2007 Kasman conducted a series of original computer experiments with sine-Gordon kinks moving along artificial DNA sequences. Two sequences were considered. Each consisted of two parts separated by a boundary. The left part of the first sequence contained repeating TTA triplets that encode leucines, and the right part contained repeating CGC triplets that encode arginines. In the second sequence, the left part contained repeating CTG triplets encoding leucines, and the right part contained repeating AGA triplets encoding arginines. When modeling the kink movement, an interesting effect was discovered. It turned out that the kink, moving in one of the sequences, stopped without reaching the end of the sequence, and then “bounced off” as if he had hit a wall. At the same time, the kink movement in the other sequence did not stop during the entire time of the experiment. In these computer experiments, however, a simple DNA model proposed by Salerno was used. It takes into account differences in the interactions of complementary bases within pairs, but does not take into account differences in the moments of inertia of nitrogenous bases and in the distances between the centers of mass of the bases and the sugar-phosphate chain. The question of whether the Kasman effect will continue with the use of more accurate DNA models is still open. In this paper, we investigate the Kasman effect on the basis of a more accurate DNA model that takes both of these differences into account. We obtained the energy profiles of Kasman's sequences and constructed the trajectories of the motion of kinks launched in these sequences with different initial values of the energy. The results of our investigations confirmed the existence of the Kasman effect, but only in a limited interval of initial values of the kink energy and with a certain direction of the kinks movement. In other cases, this effect did not observe. We discussed which of the studied sequences were energetically preferable for the excitation and propagation of kinks.

Выведены основные уравнения нестационарной математической модели одномерных (осредненных по высоте капли) течений в высыхающей капле, покоящейся на твердом основании. В результате численных расчетов показано, что процессы в капле определяются законом испарения и значением капиллярного числа. При малых значениях капиллярного числа результаты, полученные с использованием нестационарной модели, мало отличаются от полученных при квазистационарном описании явления. При больших значениях капиллярного числа необходимо пользоваться полной формой записи уравнения.

The work aims to study the admissibility of the quasi-steady approach application in fluid flow modeling inside of evaporating drops placed on a solid horizontal substrate. Non-steady model has been developed to compare results with a quasi-steady model. For the first time one-dimensional motion equation of fluid in a drop is proposed from a momentum conservation law. We have shown that inward flow is possible on the edge of drop in one-dimensional models. It may be explained by existence of stagnation points.

В представленном исследовании проводится численное моделирование охлаждения кориума, расплава керамического топлива ядерного реактора и оксидов конструкционных материалов, в горизонтальной полуцилиндрической полости, стенки которой поддерживаются при постоянной температуре, в условиях естественной конвекции.

Охлаждение кориума — это процесс характерный для тяжелой аварии на ядерном реакторе, которая может быть локализована путем удержания кориума внутри корпуса реактора, испытывающего внешнее охлаждение. Такой подход обеспечивает не только сравнительно простой способ удержания радиоактивности в пределах первого контура, но и возможность реализации на действующих блоках. Это выступает альтернативой ловушке расплава, еще одному методу локализации. Точный анализ и моделирование процесса охлаждения в таких условиях оказываются перспективной областью исследований в настоящее время.

В начальный момент времени температура кориума принимается равной температуре стенки. Кориум, несмотря на останов реактора, обладает остаточным тепловыделением, которое уменьшается со временем согласно формуле Вэя–Вигнера. Процесс естественной конвекции внутри полости описывается системой уравнений в приближении Буссинеска, которая включает в себя уравнение движения, уравнение неразрывности и уравнение энергии. Конвективные потоки считаются ламинарными и двумерными, теплофизические свойства жидкости считаются независимыми от температуры.

Краевая задача математической физики формулируется в безразмерных переменных «функция тока – завихренность». Полученные дифференциальные уравнения решаются численно при помощи метода конечных разностей c использованием локально-одномерной схемы Самарского применительно к уравнениям параболического типа.

В результате исследований получены временные зависимости среднего числа Нуссельта на верхней и нижней стенках полости в широком диапазоне изменения числа Рэлея от 10³ до 10⁶. Указанные зависимости также были проанализированы при различных значениях безразмерного времени работы реактора до аварии. Исследования проведены как на основе распределений изолиний функции тока и температуры, так и с использованием временных профилей интенсивности конвективного течения и теплообмена.

Represented study considers numerical simulation of corium cooling driven by natural convection within a horizontal hemicylindrical cavity, boundaries of which are assumed isothermal. Corium is a melt of ceramic fuel of a nuclear reactor and oxides of construction materials.

Corium cooling is a process occurring during severe accident associated with core melt. According to invessel retention conception, the accident may be restrained and localized, if the corium is contained within the vessel, only if it is cooled externally. This conception has a clear advantage over the melt trap, it can be implemented at already operating nuclear power plants. Thereby proper numerical analysis of the corium cooling has become such a relevant area of studies.

In the research, we assume the corium is contained within a horizontal semitube. The corium initially has temperature of the walls. In spite of reactor shutdown, the corium still generates heat owing to radioactive decays, and the amount of heat released decreases with time accordingly to Way–Wigner formula. The system of equations in Boussinesq approximation including momentum equation, continuity equation and energy equation, describes the natural convection within the cavity. Convective flows are taken to be laminar and two-dimensional.

The boundary-value problem of mathematical physics is formulated using the non-dimensional nonprimitive variables «stream function – vorticity». The obtained differential equations are solved numerically using the finite difference method and locally one-dimensional Samarskii scheme for the equations of parabolic type.

As a result of the present research, we have obtained the time behavior of mean Nusselt number at top and bottom walls for Rayleigh number ranged from 10³ to 10⁶. These mentioned dependences have been analyzed for various dimensionless operation periods before the accident. Investigations have been performed using streamlines and isotherms as well as time dependences for convective flow and heat transfer rates.