All issues
- 2026 Vol. 18
- 2025 Vol. 17
- 2024 Vol. 16
- 2023 Vol. 15
- 2022 Vol. 14
- 2021 Vol. 13
- 2020 Vol. 12
- 2019 Vol. 11
- 2018 Vol. 10
- 2017 Vol. 9
- 2016 Vol. 8
- 2015 Vol. 7
- 2014 Vol. 6
- 2013 Vol. 5
- 2012 Vol. 4
- 2011 Vol. 3
- 2010 Vol. 2
- 2009 Vol. 1
-
Численно-аналитическое моделирование гравитационного линзирования электромагнитных волн в случайно-неоднородной космической плазме
Компьютерные исследования и моделирование, 2024, т. 16, № 2, с. 433-443Для интерпретации данных измерений астрофизических прецизионных инструментов нового поколения разработан аппарат численно-аналитического моделирования характеристик распространения электромагнитных волн в хаотической космической плазме с учетом эффектов гравитации. Задача распространения волн в искривленном (римановом) пространстве решена в евклидовом пространстве путем введения эффективного показателя преломления вакуума, выраженного через потенциал тяготения. Задавая различные модели плотности распределения массы астрофизических объектов и решая уравнение Пуассона, можно рассчитать гравитационный потенциал и вычислить эффективный показатель преломления вакуума. В предположении аддитивности вкладов различных объектов в общее гравитационное поле предложена приближенная модель эффективного показателя преломления. Считая пространственные масштабы показателя преломления много больше длины волны, расчет характеристик электромагнитных волн в поле тяготения астрофизических объектов проводится в приближении геометрической оптики. В основу численно-аналитического аппарата моделирования траекторных характеристик волн положены лучевые дифференциальные уравнения в форме Эйлера. Хаотические неоднородности космической плазмы заданы моделью пространственной корреляционной функции показателя преломления. Расчеты рефракционного рассеяния волн выполнены в приближении метода возмущений. Получены интегральные выражения для статистических моментов боковых отклонений лучей в картинной плоскости наблюдателя. С помощью аналитических преобразований интегралы для моментов сведены к системе обыкновенных дифференциальных уравнений первого порядка для совместного численного расчета средних и среднеквадратичных отклонений лучей. Приведены результаты численно-аналитического моделирования траекторной картины распространения электромагнитных волн в межзвездной среде с учетом воздействий полей тяготения космических объектов и рефракционного рассеяния волн на неоднородностях показателя преломления окружающей плазмы. На основе результатов моделирования сделана количественная оценка условий стохастического замывания эффектов гравитационного линзирования электромагнитных волн в различных частотных диапазонах. Показано, что рабочие частоты метрового диапазона длин волн представляют собой условную низкочастотную границу для наблюдений эффекта гравитационного линзирования в стохастической космической плазме. Предложенный аппарат численно-аналитического моделирования можно использовать для анализа структуры электромагнитного излучения квазаров, прошедшего группу галактик.
Ключевые слова: математическое моделирование, асимптотические разложения, электромагнитные волны, гравитационное поле, космическая плазма, численные методы, стохастические процессы, лучевое приближение.
Numerical-analytical modeling of gravitational lensing of the electromagnetic waves in random-inhomogeneous space plasma
Computer Research and Modeling, 2024, v. 16, no. 2, pp. 433-443Instrument of numerical-analytical modeling of characteristics of propagation of electromagnetic waves in chaotic space plasma with taking into account effects of gravitation is developed for interpretation of data of measurements of astrophysical precision instruments of new education. The task of propagation of waves in curved (Riemann’s) space is solved in Euclid’s space by introducing of the effective index of refraction of vacuum. The gravitational potential can be calculated for various model of distribution of mass of astrophysical objects and at solution of Poisson’s equation. As a result the effective index of refraction of vacuum can be evaluated. Approximate model of the effective index of refraction is suggested with condition that various objects additively contribute in total gravitational field. Calculation of the characteristics of electromagnetic waves in the gravitational field of astrophysical objects is performed by the approximation of geometrical optics with condition that spatial scales of index of refraction a lot more wavelength. Light differential equations in Euler’s form are formed the basis of numerical-analytical instrument of modeling of trajectory characteristic of waves. Chaotic inhomogeneities of space plasma are introduced by model of spatial correlation function of index of refraction. Calculations of refraction scattering of waves are performed by the approximation of geometrical optics. Integral equations for statistic moments of lateral deviations of beams in picture plane of observer are obtained. Integrals for moments are reduced to system of ordinary differential equations the firsts order with using analytical transformations for cooperative numerical calculation of arrange and meansquare deviations of light. Results of numerical-analytical modeling of trajectory picture of propagation of electromagnetic waves in interstellar space with taking into account impact of gravitational fields of space objects and refractive scattering of waves on inhomogeneities of index of refraction of surrounding plasma are shown. Based on the results of modeling quantitative estimation of conditions of stochastic blurring of the effect of gravitational lensing of electromagnetic waves at various frequency ranges is performed. It’s shown that operating frequencies of meter range of wavelengths represent conditional low-frequency limit for observational of the effect of gravitational lensing in stochastic space plasma. The offered instrument of numerical-analytical modeling can be used for analyze of structure of electromagnetic radiation of quasar propagating through group of galactic.
-
Моделирование реологических характеристик водных суспензий на основе наноразмерных частиц диоксида кремния
Компьютерные исследования и моделирование, 2024, т. 16, № 5, с. 1217-1252Реологическое поведение водных суспензий на основе наноразмерных частиц диоксида кремния сильно зависит от динамической вязкости, которая непосредственно влияет на применение наножидкостей. Целью данной работы являются разработка и валидация моделей для прогнозирования динамической вязкости от независимых входных параметров: концентрации диоксида кремния SiO2, кислотности рН, а также скорости сдвига $\gamma$. Проведен анализ влияния состава суспензии на ее динамическую вязкость. Выявлены статистически однородные по составу группы суспензий, в рамках которых возможна взаимозаменяемость составов. Показано, что при малых скоростях сдвига реологические свойства суспензий существенно отличаются от свойств, полученных на более высоких скоростях. Установлены значимые положительные корреляции динамической вязкости суспензии с концентрацией SiO2 и кислотностью рН, отрицательные — со скоростью сдвига $\gamma$. Построены регрессионные модели с регуляризацией зависимости динамической вязкости $\eta$ от концентраций SiO2, NaOH, H3PO4, ПАВ (поверхностно-активное вещество), ЭДА (этилендиамин), скорости сдвига $\gamma$. Для более точного прогнозирования динамической вязкости были обучены модели с применением алгоритмов нейросетевых технологий и машинного обучения (многослойного перцептрона MLP, сети радиальной базисной функции RBF, метода опорных векторов SVM, метода случайного леса RF). Эффективность построенных моделей оценивалась с использованием различных статистических метрик, включая среднюю абсолютную ошибку аппроксимации (MAE), среднюю квадратическую ошибку (MSE), коэффициент детерминации $R^2$, средний процент абсолютного относительного отклонения (AARD%). Модель RF показала себя как лучшая модель на обучающей и тестовой выборках. Определен вклад каждой компоненты в построенную модель, показано, что наибольшее влияние на динамическую вязкость оказывает концентрация SiO2, далее кислотность рН и скорость сдвига $\gamma$. Точность предлагаемых моделей сравнивается с точностью ранее опубликованных в литературе моделей. Результаты подтверждают, что разработанные модели можно рассматривать как практический инструмент для изучения поведения наножидкостей, в которых используются водные суспензии на основе наноразмерных частиц диоксида кремния.
Ключевые слова: наножидкость, концентрация SiO$_2$, кислотность рН, динамическая вязкость, регрессия, нейронные сети, машинное обучение.
Modeling of rheological characteristics of aqueous suspensions based on nanoscale silicon dioxide particles
Computer Research and Modeling, 2024, v. 16, no. 5, pp. 1217-1252The rheological behavior of aqueous suspensions based on nanoscale silicon dioxide particles strongly depends on the dynamic viscosity, which affects directly the use of nanofluids. The purpose of this work is to develop and validate models for predicting dynamic viscosity from independent input parameters: silicon dioxide concentration SiO2, pH acidity, and shear rate $\gamma$. The influence of the suspension composition on its dynamic viscosity is analyzed. Groups of suspensions with statistically homogeneous composition have been identified, within which the interchangeability of compositions is possible. It is shown that at low shear rates, the rheological properties of suspensions differ significantly from those obtained at higher speeds. Significant positive correlations of the dynamic viscosity of the suspension with SiO2 concentration and pH acidity were established, and negative correlations with the shear rate $\gamma$. Regression models with regularization of the dependence of the dynamic viscosity $\eta$ on the concentrations of SiO2, NaOH, H3PO4, surfactant (surfactant), EDA (ethylenediamine), shear rate γ were constructed. For more accurate prediction of dynamic viscosity, the models using algorithms of neural network technologies and machine learning (MLP multilayer perceptron, RBF radial basis function network, SVM support vector method, RF random forest method) were trained. The effectiveness of the constructed models was evaluated using various statistical metrics, including the average absolute approximation error (MAE), the average quadratic error (MSE), the coefficient of determination $R^2$, and the average percentage of absolute relative deviation (AARD%). The RF model proved to be the best model in the training and test samples. The contribution of each component to the constructed model is determined. It is shown that the concentration of SiO2 has the greatest influence on the dynamic viscosity, followed by pH acidity and shear rate γ. The accuracy of the proposed models is compared to the accuracy of models previously published. The results confirm that the developed models can be considered as a practical tool for studying the behavior of nanofluids, which use aqueous suspensions based on nanoscale particles of silicon dioxide.
-
Оптимизация протонной терапии с радиосенсибилизирующими наночастицами и антиангиогенной терапии с помощью математического моделирования
Компьютерные исследования и моделирование, 2025, т. 17, № 4, с. 697-715Оптимизация противоопухолевой радиотерапии является актуальной проблемой, поскольку примерно половина пациентов с диагнозом рак проходят радиотерапию во время лечения. Протонная терапия потенциально более эффективна, чем традиционная фотонная терапия из-за фундаментальных различий в физике распределения дозы, которые приводит к лучшему нацеливанию на опухоли и меньшему сопутствующему повреждению здоровых тканей. В настоящее время наблюдается растущий интерес к использованию нерадиоактивных радиосенсибилизирующих опухолеспецифических наночастиц, использование которых может повысить эффективность протонной терапии. Такие наночастицы представляют собой небольшие объемы сенсибилизатора, например, бора-10 или различных оксидов металлов, заключенных в полимерный слой, содержащий опухолеспецифические антитела, что позволяет осуществлять их направленную доставку к злокачественным клеткам. Кроме того, сочетание протонной терапии с антиангиогенной терапией, которая нормализует микрососудистую сеть, связанную с опухолью, может дать дальнейшее синергетическое увеличение общей эффективности лечения.
Мы разработали пространственно распределенную математическую модель, имитирующую рост неинвазивной опухоли, проходящей лечение фракционированной протонной терапией с наносенсибилизаторами и антиангиогенной терапией. Результаты моделирования показывают, что наиболее эффективный способ комбинирования этих методов лечения должен существенно зависеть от скорости пролиферации опухолевых клеток и их собственной радиочувствительности. А именно, сочетание антиангиогенной терапии с протонной терапией, независимо от того, используются ли радиосенсибилизирующие наночастицы, должно повысить эффективность лечения быстрорастущих опухолей, а также радиорезистентных опухолей с умеренной скоростью роста. В этих случаях применение протонной терапии одновременно с антиангиогенными препаратами после первоначальной однократной инъекции наносенсибилизаторов является наиболее эффективным вариантом лечения среди проанализированных. Напротив, для медленнорастущих опухолей максимизация количества инъекций наносенсибилизаторов без антиангиогенной терапии оказывается более эффективным вариантом, причем повышение эффективности лечения растет с ростом радиочувствительности опухоли. Однако результаты также показывают, что общая эффективность протонной терапии, вероятно, должна увеличиться лишь умеренно при добавлении наносенсибилизаторов и антиангиогенных препаратов.
Ключевые слова: математическая онкология, численная оптимизация.
Optimization of proton therapy with radiosensitizing nanoparticles and antiangiogenic therapy via mathematical modeling
Computer Research and Modeling, 2025, v. 17, no. 4, pp. 697-715Optimization of antitumor radiotherapy represents an urgent issue, as approximately half of the patients diagnosed with cancer undergo radiotherapy during their treatment. Proton therapy is potentially more efficient than traditional X-ray radiotherapy due to fundamental differences in physics of dose deposition, leading to better targeting of tumors and less collateral damage to healthy tissue. There is increasing interest in the use of non-radioactive radiosensitizing tumor-specific nanoparticles the use of which can boost the performance of proton therapy. Such nanoparticles are small volumes of a sensitizer, such as boron-10 or various metal oxides, enclosed in a polymer layer containing tumor-specific antibodies, which allows for their targeted delivery to malignant cells. Furthermore, a combination of proton therapy with antiangiogenic therapy that normalizes tumor-associated microvasculature may yield further synergistic increase in overall treatment efficacy.
We have developed a spatially distributed mathematical model simulating the growth of a non-invasive tumor undergoing treatment by fractionated proton therapy with nanosensitizers and antiangiogenic therapy. The modeling results suggest that the most effective way to combine these treatment modalities should strongly depend on the tumor cells’ proliferation rate and their intrinsic radiosensitivity. Namely, a combination of antiangiogenic therapy with proton therapy, regardless of whether radiosensitizing nanoparticles are used, benefits treatment efficacy of rapidly growing tumors as well as radioresistant tumors with moderate growth rate. In these cases, administration of proton therapy simultaneously with antiangiogenic drugs after the initial single injection of nanosensitizers is the most effective option among those analyzed. Conversely, for slowly growing tumors, maximization of the number of nanosensitizer injections without antiangiogenic therapy proves to be a more efficient option, with enhancement in treatment efficacy growing with the increase of tumor radiosensitivity. However, the results also show that the overall efficacy of proton therapy is likely to increase only modestly with the addition of nanosensitizers and antiangiogenic drugs.
Keywords: mathematical oncology, numerical optimization. -
Математическое моделирование действия лазерного излучения ближнего ИК-спектра на раковые клетки
Компьютерные исследования и моделирование, 2025, т. 17, № 6, с. 1205-1218В последние десятилетия внедрение достижений биофотоники и квантовой электроники в медицинскую практику привело к развитию новых методов диагностики и терапии многих заболеваний. В области онкологии сегодня успешно применяется метод фотодинамической терапии (ФДТ) для лечения различных типов рака. Наряду с дальнейшим совершенствованием ФДТ в настоящее время ведутся исследования по разработке прямой лазерной терапии, при которой генерация молекул синглетного кислорода ($^{1}$О$_2^{}$) в раковых клетках происходит при действии лазерного излучения ближнего ИК-спектра (ЛИ БИК) с длиной волны $\lambda=1267$ нм без необходимости введения фотосенсибилизаторов в организм пациентов. С целью теоретического исследования прямого действия ЛИ БИК-спектра на раковые клетки и описания большого набора экспериментальных данных разработана математическая модель, включающая основные клеточные процессы, активируемые в раковых клетках при действии ЛИ и определяющие эффективность его цитотоксического действия на раковые клетки. В результате моделирования получена оценка скорости генерации $^{1}$О$_2^{}$ при ЛИ с $\lambda =1267$ нм и описана кинетика генерации вторичных молекул активных форм кислорода (АФК), деградация которых определяется действием учтенной в модели антиоксидантной системы защиты клетки. Показано, что при действии лазерного излучения индуцируются процессы перекисного окисления липидов, приводящие к повреждению клеточных мембран и гибели клеток путем ферроптоза. В результате моделирования установлено, что каскад свободнорадикальных и ферментативных реакций трансформации и накопления АФК приводит к пролонгированному ответу раковых клеток шейки матки на действие лазерного излучения с $\lambda=1267$ нм, в течение которого в раковых клетках развивается окислительный стресс, вызывающий их гибель в результате апоптоза и ферроптоза.
Ключевые слова: биофотоника, лазерная терапия, онкология, компьютерное моделирование, синглетный кислород, активные формы кислорода.
Mathematical modeling of near-infrared laser irradiation effects on cancer cells
Computer Research and Modeling, 2025, v. 17, no. 6, pp. 1205-1218In recent decades, the introduction of biophotonics and quantum electronics advance into medical practice led to the development of new diagnostic and therapeutic approaches for many diseases. In the field of oncology, photodynamic therapy (PDT) is successfully used today in the treatment of various types of cancer. Along with further improvement of PDT, the development of direct laser therapy is currently underway, in which the generation of singlet oxygen molecules ($^{1}$О$_2^{}$) in cancer cells occurs under NIR laser irradiation with a wavelength of $\lambda=1267$ nm without the need to introduce photosensitizers into the patient's body. For the purpose of a~theoretical investigation of the direct effect of NIR laser irradiation on cancer cells and the description of a~large set of experimental data, a mathematical model has been developed. The model includes the main cellular processes activated in cancer cells by NIR laser irradiation that determine the effectiveness of its cytotoxic effect on cancer cells. As a result of modeling, the rate of $^{1}$О$_2^{}$ generation under NIR laser irradiation was estimated, and the kinetics of active oxygen species (ROS) molecules was described. The ROS degradation due to the action of the antioxidant system of cell protection was taken into account in the model. It was shown that NIR laser irradiation induces lipid peroxidation that leads to cellular membrane damage and cell death through ferroptosis. As a result of modeling, it was established that a cascade of free-radical and enzymatic reactions of ROS transformation and accumulation leads to a prolonged response of cervical adenocarcinoma cells HeLa to the action of laser irradiation with $\lambda=1267$ nm, during which oxidative stress develops, causing cancer cell death through apoptosis and ferroptosis.
-
Одномерная вычислительная модель теплового состояния молочной железы с внутритканевым новообразованием
Компьютерные исследования и моделирование, 2026, т. 18, № 1, с. 169-184В данной работе разработана вычислительная модель теплового состояния молочной железы с внутритканевым новообразованием. Модель базируется на модифицированном биотепловом уравнении Пеннеса и описывает пятислойную биологическую структуру, включающую кожу, жировую, железистую и мышечную ткани, а также зону опухоли. На внешней границе области моделируется конвективный теплообмен с окружающей средой, на внутренней границе задается фиксированная температура тела. Дополнительно учитывается пространственный нагрев поверхности, описываемый экспоненциально затухающим законом Бугера – Ламберта – Бера. Теплопроводность тканей и перфузия крови зависят от температуры по линейным законам, что отражает механизмы физиологической терморегуляции. Краевая задача для дифференциального уравнения в частных производных решалась численно с использованием явно-неявной конечно-разностной схемы; полученная после дискретизации система линейных алгебраических уравнений решалась методом прогонки. Численные эксперименты показали, что наличие даже небольшой опухоли приводит к локальному повышению температуры тканей на 0,5–1 ◦C вследствие увеличения метаболической активности и снижения кровотока. Эта температурная аномалия становится выраженной при диаметре опухоли свыше 10 мм. Установлено, что глубина расположения новообразования существенно влияет на распределение температурного поля: при поверхностном залегании тепловой максимум смещается к коже, тогда как при более глубоком — формируется в железистой ткани. Эффективность гипертермического воздействия оценивалась с помощью интегрального критерия термального некроза, основанного на законе Аррениуса. Показано, что при поверхностной тепловой нагрузке около 5 кВт/м2 и коэффициенте ослабления 100 м−1 разрушение опухолевых тканей начинается через 2–3 минуты облучения, при этом здоровые ткани сохраняются в пределах безопасного температурного диапазона. Уменьшение коэффициента ослабления приводит к более глубокому распространению тепла и раннему повреждению железистой ткани, что сужает терапевтическое окно. Построены карты распределения температуры, времени до наступления некроза и глубины термического поражения в зависимости от мощности облучения, диаметра и положения опухоли.
Ключевые слова: модель Пеннеса, многослойная биологическая система, процесс гипертермии, математическое моделирование.
One-dimensional computational model of thermal state of the breast with an interstitial tumor
Computer Research and Modeling, 2026, v. 18, no. 1, pp. 169-184The paper presents a computational model of the thermal state of the breast with an interstitial tumor. The model is based on the modified Pennes biothermal equation and describes a five-layered biological area including skin, subcutaneous fat, glandular and muscular tissues, as well as a neoplasm zone. Convective heat exchange with the environment is taken into account at the outer boundary, and body temperature is maintained at the internal boundary. In addition, the fabric surface is exposed to exponentially attenuating effects of spatial heating, such a heating scheme is actually based on the Bouguer – Lambert – Baer law. Tissue thermal conductivity and blood perfusion are modeled by linear functions of temperature, reflecting physiological thermoregulation. The boundary-value problem for the partial differential equation has been solved numerically using an explicit-implicit finite difference scheme; the system of algebraic equations getting after an approximation of the mentioned boundary-value problem is solved by the Thomas procedure. Numerical experiments have shown that even a small tumor increases the local temperature of tissues by half a degree due to increased metabolism and delayed blood perfusion. This anomaly is clearly manifested in tumors larger than ten millimeters. It was found that the depth of occurrence critically affects the thermal response: when the tumor is located closer to the surface, the maximum temperature shifts to the skin, whereas at a deeper position, a thermal peak forms inside the glandular tissue. The effectiveness of hyperthermic exposure was assessed by the integral criterion of thermal necrosis based on the Arrhenius law. At a radiation intensity that creates a surface thermal load of about five kilowatts per square meter and an attenuation factor of one hundred, tumor destruction begins after two to three minutes of exposure, while the surrounding healthy tissues remain within safe temperatures. Reducing the attenuation coefficient leads to the opposite effect: heat spreads deeper, and the glandular tissue is damaged first, which limits the therapeutic window. Additionally, maps of the distribution of temperature, time to necrosis, and the depth of thermal damage were constructed depending on the irradiation power, diameter, and position of the tumor.
-
Охрана биоресурсов в морском прибрежном пространстве: математическая модель
Компьютерные исследования и моделирование, 2015, т. 7, № 5, с. 1109-1125Охрана водных биоресурсов в морском прибрежном пространстве имеет существенные особенности (большое количество маломерных промысловых судов, динамизм обстановки, использование береговых средств охраны), в силу чего выделяется в отдельный класс прикладных задач. Представлена математическая модель охраны, предназначенная для определения состава средств обнаружения нарушителей и средств реализации обстановки в интересах обеспечения функции сдерживания незаконной деятельности. Решена тактическая теоретико-игровая задача: найден оптимальный рубеж патрулирования (стоянки) средств реализации (катеров охраны) и оптимальное удаление мест промысла нарушителей от берега. С использованием методов теории планирования эксперимента получены линейные регрессионные модели, позволяющие оценить вклад основных факторов, влияющих на результаты моделирования.
В интересах повышения устойчивости и адекватности модели предложено использовать механизм ранжирования средств охраны, основанный на границах и рангах Парето и позволяющий учесть принципы охраны и дополнительные характеристики средств охраны. Для учета изменчивости обстановки предложены несколько сценариев, по которым целесообразно выполнять расчеты.
Ключевые слова: морское прибрежное пространство, водные биоресурсы, математическая модель, оптимизационные задачи, механизм ранжирования, сценарный подход.
Protection of biological resources in the coastal area: the mathematical model
Computer Research and Modeling, 2015, v. 7, no. 5, pp. 1109-1125Views (last year): 1. Citations: 1 (RSCI).Protection of aquatic biological resources in the coastal area has significant features (a large number of small fishing vessels, the dynamism of the situation, the use of coastal protection), by virtue of which stands in a class of applications. A mathematical model of protection designed for the determination of detection equipment and means of violators of the situation in order to ensure the function of deterrence of illegal activities. Resolves a tactical game-theoretic problem - find the optimal line patrol (parking) means of implementation (guard boats) and optimal removal of seats from the shore fishing violators. Using the methods of the theory of experimental design, linear regression models to assess the contribution of the main factors affecting the results of the simulation.
In order to enhance the sustainability and adequacy of the model is proposed to use the mechanism of rankings means of protection, based on the borders and the rank and Pareto allows to take into account the principles of protection and further means of protection. To account for the variability of the situation offered several scenarios in which it is advisable to perform calculations.
-
Численное моделирование экологического состояния Азовского моря с применением схем повышенного порядка точности на многопроцессорной вычислительной системе
Компьютерные исследования и моделирование, 2016, т. 8, № 1, с. 151-168В статье приводятся результаты трехмерного моделирования экологического состояния мелководного водоема на примере Азовского моря с использованием схем повышенного порядка точности на многопроцессорной вычислительной системе Южного федерального университета. Для решения поставленной задачи были построены и изучены дискретные аналоги операторов конвективного и диффузионного переносов четвертого порядка точности в случае частичной заполненности ячеек расчетной области. Разработанные схемы повышенного (четвертого) порядка точности были использованы при решении задач водной экологии для моделирования пространственного распределения загрязняющих биогенных веществ, вызывающих бурный рост фитопланктона, многие виды которого являются токсичными и вредоносными. Использование схем повышенного порядка точности позволило повысить качество входных данных, а также уменьшить значение погрешности при решении модельных задач водной экологии. Были проведены численные эксперименты для задачи транспорта веществ на основе схем второго и четвертого порядков точностей, которые показали, что для задачи диффузии-конвекции удалось повысить точность в 48,7 раз. Предложен и численно реализован математический алгоритм, предназначенный для восстановления рельефа дна мелководного водоема на основе гидрографической информации (глубины водоема в отдельных точках или изолиний уровня), с помощью которого была получена карта рельефа дна Азовского моря, используемая для построения полей течений, рассчитанных на основе гидродинамической модели. Поля течений водного потока используются в работе в качестве входной информации для моделей водной экологии. Была разработана библиотека двухслойных итерационных методов, предназначенная для решения девятидиагональных сеточных уравнений, возникающих при дискретизации модельных задач изменения концентраций загрязняющих веществ, планктона и рыб на многопроцессорной вычислительной системе, что позволило повысить точность расчетных данных и дало возможность получать оперативные прогнозы изменения экологического состояния мелководного водоема в кратчайшие временные промежутки.
Ключевые слова: математическая модель, схема повышенного порядка точности, рельеф дна, транспорт веществ, задачи водной экологии, Азовское море, многопроцессорная вычислительная система.
Numerical modeling of ecologic situation of the Azov Sea with using schemes of increased order of accuracy on multiprocessor computer system
Computer Research and Modeling, 2016, v. 8, no. 1, pp. 151-168Views (last year): 4. Citations: 31 (RSCI).The article covered results of three-dimensional modeling of ecologic situation of shallow water on the example of the Azov Sea with using schemes of increased order of accuracy on multiprocessor computer system of Southern Federal University. Discrete analogs of convective and diffusive transfer operators of the fourth order of accuracy in the case of partial occupancy of cells were constructed and studied. The developed scheme of the high (fourth) order of accuracy were used for solving problems of aquatic ecology and modeling spatial distribution of polluting nutrients, which caused growth of phytoplankton, many species of which are toxic and harmful. The use of schemes of the high order of accuracy are improved the quality of input data and decreased the error in solutions of model tasks of aquatic ecology. Numerical experiments were conducted for the problem of transportation of substances on the basis of the schemes of the second and fourth orders of accuracy. They’re showed that the accuracy was increased in 48.7 times for diffusion-convection problem. The mathematical algorithm was proposed and numerically implemented, which designed to restore the bottom topography of shallow water on the basis of hydrographic data (water depth at individual points or contour level). The map of bottom relief of the Azov Sea was generated with using this algorithm. It’s used to build fields of currents calculated on the basis of hydrodynamic model. The fields of water flow currents were used as input data of the aquatic ecology models. The library of double-layered iterative methods was developed for solving of nine-diagonal difference equations. It occurs in discretization of model tasks of challenges of pollutants concentration, plankton and fish on multiprocessor computer system. It improved the precision of the calculated data and gave the possibility to obtain operational forecasts of changes in ecologic situation of shallow water in short time intervals.
-
Концентрация мощных акустических пучков в вязкоупругом материале с неоднородным распределением воздушных полостей
Компьютерные исследования и моделирование, 2017, т. 9, № 3, с. 517-533Известно, что скорость звука в средах, содержащих сильно сжимаемые включения, например воздушные поры в упругой среде или газовые пузырьки в жидкости, может существенно уменьшиться по сравнению с однородной средой. Эффективный нелинейный параметр такой среды, описывающий проявление нелинейных эффектов, возрастает в сотни и тысячи раз из-за большого различия сжимаемости включений и окружающей среды. Пространственное изменение концентрации таких включений приводит к переменной локальной скорости звука, что, в свою очередь, вызывает пространственно-временное перераспределение акустической энергии в волне и искажению ее временных профилей и поперечной структуры ограниченных пучков. В частности, могут образовываться области фокусировок. При определенных условиях возможно формирование звукового канала, обеспечивающего волноводное распространение акустических сигналов в среде с подобными включениями. Таким образом, возможно управление пространственно-временной структурой акустических волн с помощью введения сильно сжимаемых включений с заданным пространственным распределением и концентрацией. Целью работы является исследование распространения акустических волн в резиноподобном материале с неоднородным пространственным распределением воздушных полостей. Основной задачей является развитие адекватной теории таких структурно-неоднородных сред, теории распространения нелинейных акустических волн и пучков в этих средах, расчет акустических полей и выявление связи параметров среды и включений с характеристиками распространяющихся волн. В работе выведено эволюционное самосогласованное уравнение с интегро-дифференциальным членом, описывающее в низкочастотном приближении распространение интенсивных акустических пучков в среде с сильно сжимаемым полостями. В этом уравнении учтено вторичное акустическое поле, вызванное динамикой колебаний полостей. Развит метод, позволяющий получить точные аналитические решения для поля нелинейного акустического пучка на его оси и правильно рассчитать поле в фокальных областях. Полученные результаты применены для теоретического моделирования материала с неоднородным распределением сильно сжимаемых включений.
The concentration of powerful acoustic beams in a viscoelastic medium with non-uniform distribution of the air cavities
Computer Research and Modeling, 2017, v. 9, no. 3, pp. 517-533Views (last year): 6.It is known that the sound speed in medium that contain highly compressible inclusions, e.g. air pores in an elastic medium or gas bubbles in the liquid may be significantly reduced compared to a homogeneous medium. Effective nonlinear parameter of medium, describing the manifestation of nonlinear effects, increases hundreds and thousands of times because of the large differences in the compressibility of the inclusions and the medium. Spatial change in the concentration of such inclusions leads to the variable local sound speed, which in turn calls the spatial-temporal redistribution of acoustic energy in the wave and the distortion of its temporal profiles and cross-section structure of bounded beams. In particular, focal areas can form. Under certain conditions, the sound channel is formed that provides waveguide propagation of acoustic signals in the medium with similar inclusions. Thus, it is possible to control spatial-temporal structure of acoustic waves with the introduction of highly compressible inclusions with a given spatial distribution and concentration. The aim of this work is to study the propagation of acoustic waves in a rubberlike material with non-uniform spatial air cavities. The main objective is the development of an adequate theory of such structurally inhomogeneous media, theory of propagation of nonlinear acoustic waves and beams in these media, the calculation of the acoustic fields and identify the communication parameters of the medium and inclusions with characteristics of propagating waves. In the work the evolutionary self-consistent equation with integro-differential term is obtained describing in the low-frequency approximation propagation of intense acoustic beams in a medium with highly compressible cavities. In this equation the secondary acoustic field is taken into account caused by the dynamics of the cavities oscillations. The method is developed to obtain exact analytical solutions for nonlinear acoustic field of the beam on its axis and to calculate the field in the focal areas. The obtained results are applied to theoretical modeling of a material with non-uniform distribution of strongly compressible inclusions.
-
Перспективы использования космоснимков для прогнозирования загрязнения воздуха тяжелыми металлами
Компьютерные исследования и моделирование, 2018, т. 10, № 4, с. 535-544Контроль за загрязнением воздуха имеет большое значение для стран Европы и Азии. В рамках Конвенции ООН по дальнему трансграничному переносу воздушных загрязнений (СLRTAP) реализуется программа UNECE ICP Vegetation, направленная на определение наиболее неблагополучных областей, создание региональных карт и улучшение понимания природы долгосрочных трансграничных загрязнений. В Объединенном институте ядерных исследований была разработана облачная платформа, предоставляющая участникам программы ICP Vegetation удобные инструменты для сбора, анализа и обработки данных мониторинга. В настоящее время в системе содержится информация о более чем 6000 точках пробоотбора в 40 регионах различных стран Европы и Азии.
Важным этапом контроля является моделирование загрязнений в местах, где частота исследований или плотность покрытия сети сбора образцов недостаточны. Одним из подходов к прогнозированию загрязнений является использование специализированных статистических моделей и методов машинного обучения совместно с различными количественными показателями точек сбора образцов и информацией о концентрациях элементов. Наиболее перспективным источником количественных показателей для обучения моделей являются космические снимки в различных спектрах. Обученная должным образом модель позволит получать прогноз по концентрациям элементов, используя исключительно космоснимки. Специализированная платформа Google Earth Engine предоставляет широкие возможности для анализа и обработки данных от более чем 100 различных проектов дистанционного зондирования земли, удобный интерфейс разработчика на JavaScript и программный интерфейс на Python для использования в сторонних приложениях.
В работе рассматривается возможность использования статистических показателей космоснимков, полученных от платформы Google Earth Engine, совместно с данными мониторинга состояния окружающей среды проекта ICP Vegetation для обучения моделей, способных прогнозировать концентрацию тяжелых металлов в определенных регионах.
Views (last year): 21.
Perspectives of using a satellite imagery data for prediction of heavy metals contamination
Computer Research and Modeling, 2018, v. 10, no. 4, pp. 535-544 -
Оценивание параметров моделей временных рядов с марковскими переключениями режимов
Компьютерные исследования и моделирование, 2018, т. 10, № 6, с. 903-918В работе рассматривается задача оценивания параметров временных рядов, описываемых регрессионными моделями с марковскими переключениями двух режимов в случайные моменты времени и независимыми гауссовскими шумами. Для решения предлагается вариант EM-алгоритма, основанный на итерационной процедуре, в ходе которой происходит чередование оценивания параметров регрессии при заданной последовательности переключений режимов и оценивания последовательности переключений при заданных параметрах моделей регрессии. В отличие от известных методов оценивания параметров регрессий с марковскими переключениями режимов, которые основаны на вычислении апостериорных вероятностей дискретных состояний последовательности переключений, в работе находятся оптимальные по критерию максимума апостериорной вероятности оценки процесса переключений. В результате предлагаемый алгоритм оказывается более простым и требует меньшее количество расчетов. Компьютерное моделирование позволяет выявить факторы, влияющие на точность оценивания. К таким факторам относятся число наблюдений, количество неизвестных параметров регрессии, степень их различия в разных режимах работы, а также величина отношения сигнала к шуму, которую в моделях регрессии можно связать с величиной коэффициента детерминации. Предложенный алгоритм применяется для задачи оценивания параметров в моделях регрессии для доходности индекса РТС в зависимости от доходностей индекса S&P 500 и акций «Газпрома» за период с 2013 года по 2018 год. Проводится сравнение оценок параметров, найденных с помощью предлагаемого алгоритма, с оценками, которые формируются с использованием эконометрического пакета EViews, и с оценками обычного метода наименьших квадратов без учета переключений режимов. Учет переключений позволяет получить более точное представление о структуре статистической зависимости исследуемых переменных. В моделях с переключениями рост отношения сигнала к шуму приводит к тому, что уменьшаются различия в оценках, вырабатываемых предлагаемым алгоритмом и с помощью программы EViews.
Ключевые слова: оценивание параметров, модели регрессии, модели с марковскими переключениями, функция правдоподобия, метод максимума правдоподобия, дисперсия шума, отношение сигнала к шуму.
Estimation of models parameters for time series with Markov switching regimes
Computer Research and Modeling, 2018, v. 10, no. 6, pp. 903-918Views (last year): 36.The paper considers the problem of estimating the parameters of time series described by regression models with Markov switching of two regimes at random instants of time with independent Gaussian noise. For the solution, we propose a variant of the EM algorithm based on the iterative procedure, during which an estimation of the regression parameters is performed for a given sequence of regime switching and an evaluation of the switching sequence for the given parameters of the regression models. In contrast to the well-known methods of estimating regression parameters in the models with Markov switching, which are based on the calculation of a posteriori probabilities of discrete states of the switching sequence, in the paper the estimates are calculated of the switching sequence, which are optimal by the criterion of the maximum of a posteriori probability. As a result, the proposed algorithm turns out to be simpler and requires less calculations. Computer modeling allows to reveal the factors influencing accuracy of estimation. Such factors include the number of observations, the number of unknown regression parameters, the degree of their difference in different modes of operation, and the signal-to-noise ratio which is associated with the coefficient of determination in regression models. The proposed algorithm is applied to the problem of estimating parameters in regression models for the rate of daily return of the RTS index, depending on the returns of the S&P 500 index and Gazprom shares for the period from 2013 to 2018. Comparison of the estimates of the parameters found using the proposed algorithm is carried out with the estimates that are formed using the EViews econometric package and with estimates of the ordinary least squares method without taking into account regimes switching. The account of regimes switching allows to receive more exact representation about structure of a statistical dependence of investigated variables. In switching models, the increase in the signal-to-noise ratio leads to the fact that the differences in the estimates produced by the proposed algorithm and using the EViews program are reduced.
Indexed in Scopus
Full-text version of the journal is also available on the web site of the scientific electronic library eLIBRARY.RU
The journal is included in the Russian Science Citation Index
The journal is included in the RSCI
International Interdisciplinary Conference "Mathematics. Computing. Education"




