All issues
- 2024 Vol. 16
- 2023 Vol. 15
- 2022 Vol. 14
- 2021 Vol. 13
- 2020 Vol. 12
- 2019 Vol. 11
- 2018 Vol. 10
- 2017 Vol. 9
- 2016 Vol. 8
- 2015 Vol. 7
- 2014 Vol. 6
- 2013 Vol. 5
- 2012 Vol. 4
- 2011 Vol. 3
- 2010 Vol. 2
- 2009 Vol. 1
-
Применимость приближения однократного рассеяния при импульсном зондировании неоднородной среды
Компьютерные исследования и моделирование, 2020, т. 12, № 5, с. 1063-1079В работе рассмотрена математическая модель, основанная на линейном интегро-дифференциальном уравнении Больцмана, описывающая перенос излучения в рассеивающей среде, подвергающейся импульсному облучению точечным источником. Сформулирована обратная задача для уравнения переноса, заключающаяся в определении коэффициента рассеяния по временно-угловому распределению плотности потока излучения в заданной точке пространства. При исследовании обратной задачи анализируется представление решения уравнения в виде ряда Неймана. Нулевой член ряда описывает нерассеянное излучение, первый член ряда — однократно рассеянное поле, остальные члены — многократно рассеянное поле. Для областей с небольшой оптической толщиной и невысоким уровнем рассеяния при нахождении приближенного решения уравнения переноса излучения широкое распространение получило приближение однократного рассеяния. При использовании этого подхода к задаче с дополнительными ограничениями на исходные данные получена аналитическая формула для нахождения коэффициента рассеяния. Для проверки адекватности полученной формулы построен и программно реализован весовой метод Монте-Карло решения уравнения переноса, учитывающий многократное рассеяние в среде и пространственно-временную сингулярность источника излучения. Применительно к проблемам высокочастотного акустического зондирования в океане проведены вычислительные эксперименты. Показано, что применение приближения однократного рассеяния оправдано по крайней мере на дальности зондирования порядка ста метров, причем основное влияние на погрешность формулы вносят двукратно и трехкратно рассеянные поля. Для областей большего размера приближение однократного рассеяния в лучшем случае дает лишь качественное представление о структуре среды, иногда не позволяя определить даже порядок количественных характеристик параметров взаимодействия излучения с веществом.
Ключевые слова: уравнение перенос излучения, обратная задача, коэффициент рассеяния, приближение однократного рассеяния, метод Монте-Карло.
The applicability of the approximation of single scattering in pulsed sensing of an inhomogeneous medium
Computer Research and Modeling, 2020, v. 12, no. 5, pp. 1063-1079The mathematical model based on the linear integro-differential Boltzmann equation is considered in this article. The model describes the radiation transfer in the scattering medium irradiated by a point source. The inverse problem for the transfer equation is defined. This problem consists of determining the scattering coefficient from the time-angular distribution of the radiation flux density at a given point in space. The Neumann series representation for solving the radiation transfer equation is analyzed in the study of the inverse problem. The zero member of the series describes the unscattered radiation, the first member of the series describes a single-scattered field, the remaining members of the series describe a multiple-scattered field. When calculating the approximate solution of the radiation transfer equation, the single scattering approximation is widespread to calculated an approximate solution of the equation for regions with a small optical thickness and a low level of scattering. An analytical formula is obtained for finding the scattering coefficient by using this approximation for problem with additional restrictions on the initial data. To verify the adequacy of the obtained formula the Monte Carlo weighted method for solving the transfer equation is constructed and software implemented taking into account multiple scattering in the medium and the space-time singularity of the radiation source. As applied to the problems of high-frequency acoustic sensing in the ocean, computational experiments were carried out. The application of the single scattering approximation is justified, at least, at a sensing range of about one hundred meters and the double and triple scattered fields make the main impact on the formula error. For larger regions, the single scattering approximation gives at the best only a qualitative evaluation of the medium structure, sometimes it even does not allow to determine the order of the parameters quantitative characteristics of the interaction of radiation with matter.
-
От однородного к неоднородному электронному аналогу ДНК
Компьютерные исследования и моделирование, 2020, т. 12, № 6, с. 1397-1407В данной работе с помощью методов математического моделирования решается задача о построении электронного аналога неоднородной ДНК. Такие электронные аналоги, наряду с другими физическими моделями живых систем, широко используются в качестве инструмента для изучения динамических и функциональных свойств этих систем. Решение задачи строится на основе алгоритма, разработанного ранее для однородной (синтетической) ДНК и модифицированного таким образом, чтобы его можно было использовать для случая неоднородной (природной) ДНК. Этот алгоритм включает следующие шаги: выбор модели, имитирующей внутреннюю подвижность ДНК; построение преобразования, позволяющего перейти от модели ДНК к ее электронному аналогу; поиск условий, обеспечивающих аналогию уравнений ДНК и уравнений электронного аналога; расчет параметров эквивалентной электрической цепи. Для описания неоднородной ДНК была выбрана модель, представляющая собой систему дискретных нелинейных дифференциальных уравнений, имитирующих угловые отклонения азотистых оснований, и соответствующий этим уравнениям гамильтониан. Значения коэффициентов в модельных уравнениях полностью определяются динамическими параметрами молекулы ДНК, включая моменты инерции азотистых оснований, жесткость сахаро-фосфатной цепи, константы, характеризующие взаимодействия между комплементарными основаниями внутри пар. В качестве основы для построения электронной модели была использована неоднородная линия Джозефсона, эквивалентная схема которой содержит четыре типа ячеек: A-, T-, G- и C-ячейки. Каждая ячейка, в свою очередь, состоит из трех элементов: емкости, индуктивности и джозефсоновского контакта. Важно, чтобы A-, T-, G- и C-ячейки джозефсоновской линии располагались в определенном порядке, который аналогичен порядку расположения азотистых оснований (A, T, G и C) в последовательности ДНК. Переход от ДНК к электронному аналогу осуществлялся с помощью А-преобразования, что позволило рассчитать значения емкости, индуктивности и джозефсоновского контакта в A-ячейках. Значения параметров для T-, G- и C-ячеек эквивалентной электрической цепи были получены из условий, накладываемых на коэффициенты модельных уравнений и обеспечивающих аналогию между ДНК и электронной моделью.
Ключевые слова: моделирование динамики ДНК, уравнение синус-Гордона, линия Джозефсона, неоднородный электронный аналог.
From homogeneous to inhomogeneous electronic analogue of DNA
Computer Research and Modeling, 2020, v. 12, no. 6, pp. 1397-1407In this work, the problem of constructing an electronic analogue of heterogeneous DNA is solved with the help of the methods of mathematical modeling. Electronic analogs of that type, along with other physical models of living systems, are widely used as a tool for studying the dynamic and functional properties of these systems. The solution to the problem is based on an algorithm previously developed for homogeneous (synthetic) DNA and modified in such a way that it can be used for the case of inhomogeneous (native) DNA. The algorithm includes the following steps: selection of a model that simulates the internal mobility of DNA; construction of a transformation that allows you to move from the DNA model to its electronic analogue; search for conditions that provide an analogy of DNA equations and electronic analogue equations; calculation of the parameters of the equivalent electrical circuit. To describe inhomogeneous DNA, the model was chosen that is a system of discrete nonlinear differential equations simulating the angular deviations of nitrogenous bases, and Hamiltonian corresponding to these equations. The values of the coefficients in the model equations are completely determined by the dynamic parameters of the DNA molecule, including the moments of inertia of nitrous bases, the rigidity of the sugar-phosphate chain, and the constants characterizing the interactions between complementary bases in pairs. The inhomogeneous Josephson line was used as a basis for constructing an electronic model, the equivalent circuit of which contains four types of cells: A-, T-, G-, and C-cells. Each cell, in turn, consists of three elements: capacitance, inductance, and Josephson junction. It is important that the A-, T-, G- and C-cells of the Josephson line are arranged in a specific order, which is similar to the order of the nitrogenous bases (A, T, G and C) in the DNA sequence. The transition from DNA to an electronic analog was carried out with the help of the A-transformation which made it possible to calculate the values of the capacitance, inductance, and Josephson junction in the A-cells. The parameter values for the T-, G-, and C-cells of the equivalent electrical circuit were obtained from the conditions imposed on the coefficients of the model equations and providing an analogy between DNA and the electronic model.
-
Исследование усредненной модели окислительной регенерации закоксованного катализатора
Компьютерные исследования и моделирование, 2021, т. 13, № 1, с. 149-161Статья посвящена построению и исследованию усредненной математической модели окислительной регенерации алюмокобальтмолибденового катализатора гидрокрекинга. Окислительная регенерация является эффективным средством восстановления активности катализатора при покрытии его гранул коксовыми отложениями.
Математическая модель указанного процесса представляет собой нелинейную систему обыкновенных дифференциальных уравнений, в которую включены кинетические уравнения для концентраций реагентов и уравнения для учета изменения температуры зерна катализатора и реакционной смеси в результате протекания неизотермических реакций и теплообмена между газом и слоем катализатора. Вследствие гетерогенности процесса окислительной регенерации часть уравнений отличается от стандартных кинетических и построена на основе эмпирических данных. В статье рассмотрена схема химического взаимодействия в процессе регенерации, на основе которой составлены уравнения материального баланса. В ней отражены непосредственное взаимодействие кокса и кислорода с учетом степени покрытия гранулы кокса углерод-водородным и углерод-кислородным комплексами, выделение монооксида и диоксида углерода в процессе горения, а также освобождение кислорода и водорода внутри зерна катализатора. При построении модели учитывается изменение радиуса, а следовательно, и площади поверхности коксовых гранул. Адекватность разработанной усредненной модели подтверждена анализом динамики концентраций веществ и температуры.
В статье приведен численный эксперимент для математической модели окислительной регенерации алюмокобальтмолибденового катализатора гидрокрекинга. Эксперимент проведен с использованием метода Кутты–Мерсона. Этот метод относится к методам семейства Рунге–Кутты, но разработан для решения жестких систем обыкновенных дифференциальных уравнений. Результаты вычислительного эксперимента визуализированы.
В работе приведена динамика концентраций веществ, участвующих в процессе окислительной регенерации. На основании соответствия полученных результатов физико-химическим законам сделан вывод об адекватности построенной математической модели. Проанализирован разогрев зерна катализатора и выделение монооксида углерода при изменении радиуса зерна для различных степеней начальной закоксованности. Дано описание полученных результатов.
В заключении отмечены основные результаты, приведены примеры задач, для решения которых может быть применена разработанная математическая модель.
Ключевые слова: окислительная регенерация катализатора, химическая кинетика, нелинейные системы обыкновенных дифференциальных уравнений, численный метод Кутты–Мерсона.
Investigation of the averaged model of coked catalyst oxidative regeneration
Computer Research and Modeling, 2021, v. 13, no. 1, pp. 149-161The article is devoted to the construction and investigation of an averaged mathematical model of an aluminum-cobalt-molybdenum hydrocracking catalyst oxidative regeneration. The oxidative regeneration is an effective means of restoring the activity of the catalyst when its granules are coating with coke scurf.
The mathematical model of this process is a nonlinear system of ordinary differential equations, which includes kinetic equations for reagents’ concentrations and equations for changes in the temperature of the catalyst granule and the reaction mixture as a result of isothermal reactions and heat transfer between the gas and the catalyst layer. Due to the heterogeneity of the oxidative regeneration process, some of the equations differ from the standard kinetic ones and are based on empirical data. The article discusses the scheme of chemical interaction in the regeneration process, which the material balance equations are compiled on the basis of. It reflects the direct interaction of coke and oxygen, taking into account the degree of coverage of the coke granule with carbon-hydrogen and carbon-oxygen complexes, the release of carbon monoxide and carbon dioxide during combustion, as well as the release of oxygen and hydrogen inside the catalyst granule. The change of the radius and, consequently, the surface area of coke pellets is taken into account. The adequacy of the developed averaged model is confirmed by an analysis of the dynamics of the concentrations of substances and temperature.
The article presents a numerical experiment for a mathematical model of oxidative regeneration of an aluminum-cobalt-molybdenum hydrocracking catalyst. The experiment was carried out using the Kutta–Merson method. This method belongs to the methods of the Runge–Kutta family, but is designed to solve stiff systems of ordinary differential equations. The results of a computational experiment are visualized.
The paper presents the dynamics of the concentrations of substances involved in the oxidative regeneration process. A conclusion on the adequacy of the constructed mathematical model is drawn on the basis of the correspondence of the obtained results to physicochemical laws. The heating of the catalyst granule and the release of carbon monoxide with a change in the radius of the granule for various degrees of initial coking are analyzed. There are a description of the results.
In conclusion, the main results and examples of problems which can be solved using the developed mathematical model are noted.
-
Нейросетевая модель распознавания знаков дорожного движения в интеллектуальных транспортных системах
Компьютерные исследования и моделирование, 2021, т. 13, № 2, с. 429-435В данной статье проводится анализ проблемы распознавания знаков дорожного движения в интеллектуальных транспортных системах. Рассмотрены основные понятия компьютерного зрения и задачи распознавания образов. Самым эффективным и популярным подходом к решению задач анализа и распознавания изображений на данный момент является нейросетевой, а среди возможных нейронных сетей лучше всего показала себя искусственная нейронная сеть сверточной архитектуры. Для решения задачи классификации при распознавании дорожных знаков использованы такие функции активации, как Relu и SoftMax. В работе предложена технология распознавания дорожных знаков. Выбор подхода для решения поставленной задачи на основе сверточной нейронной сети обусловлен возможностью эффективно решать задачу выделения существенных признаков и классификации изображений. Проведена подготовка исходных данных для нейросетевой модели, сформирована обучающая выборка. В качестве платформы для разработки интеллектуальной нейросетевой модели распознавания использован облачный сервис Google Colaboratory с подключенными библиотеками для глубокого обучения TensorFlow и Keras. Разработана и протестирована интеллектуальная модель распознавания знаков дорожного движения. Использованная сверточная нейронная сеть включала четыре каскада свертки и подвыборки. После сверточной части идет полносвязная часть сети, которая отвечает за классификацию. Для этого используются два полносвязных слоя. Первый слой включает 512 нейронов с функцией активации Relu. Затем идет слой Dropout, который используется для уменьшения эффекта переобучения сети. Выходной полносвязный слой включает четыре нейрона, что соответствует решаемой задаче распознавания четырех видов знаков дорожного движения. Оценка эффективности нейросетевой модели распознавания дорожных знаков методом трехблочной кроссалидации показала, что ее ошибка минимальна, следовательно, в большинстве случаев новые образы будут распознаваться корректно. Кроме того, у модели отсутствуют ошибки первого рода, а ошибка второго рода имеет низкое значение и лишь при сильно зашумленном изображении на входе.
Ключевые слова: сверточная нейронная сеть, анализ данных, распознавание дорожных знаков, интеллектуальные транспортные системы.
A neural network model for traffic signs recognition in intelligent transport systems
Computer Research and Modeling, 2021, v. 13, no. 2, pp. 429-435This work analyzes the problem of traffic signs recognition in intelligent transport systems. The basic concepts of computer vision and image recognition tasks are considered. The most effective approach for solving the problem of analyzing and recognizing images now is the neural network method. Among all kinds of neural networks, the convolutional neural network has proven itself best. Activation functions such as Relu and SoftMax are used to solve the classification problem when recognizing traffic signs. This article proposes a technology for recognizing traffic signs. The choice of an approach for solving the problem based on a convolutional neural network due to the ability to effectively solve the problem of identifying essential features and classification. The initial data for the neural network model were prepared and a training sample was formed. The Google Colaboratory cloud service with the external libraries for deep learning TensorFlow and Keras was used as a platform for the intelligent system development. The convolutional part of the network is designed to highlight characteristic features in the image. The first layer includes 512 neurons with the Relu activation function. Then there is the Dropout layer, which is used to reduce the effect of overfitting the network. The output fully connected layer includes four neurons, which corresponds to the problem of recognizing four types of traffic signs. An intelligent traffic sign recognition system has been developed and tested. The used convolutional neural network included four stages of convolution and subsampling. Evaluation of the efficiency of the traffic sign recognition system using the three-block cross-validation method showed that the error of the neural network model is minimal, therefore, in most cases, new images will be recognized correctly. In addition, the model has no errors of the first kind, and the error of the second kind has a low value and only when the input image is very noisy.
-
Тензорные методы для сильно выпуклых сильно вогнутых седловых задач и сильно монотонных вариационных неравенств
Компьютерные исследования и моделирование, 2022, т. 14, № 2, с. 357-376В данной статье предлагаются методы оптимизации высокого порядка (тензорные методы) для решения двух типов седловых задач. Первый тип — это классическая мин-макс-постановка для поиска седловой точки функционала. Второй тип — это поиск стационарной точки функционала седловой задачи путем минимизации нормы градиента этого функционала. Очевидно, что стационарная точка не всегда совпадает с точкой оптимума функции. Однако необходимость в решении подобного типа задач может возникать в случае, если присутствуют линейные ограничения. В данном случае из решения задачи поиска стационарной точки двойственного функционала можно восстановить решение задачи поиска оптимума прямого функционала. В обоих типах задач какие-либо ограничения на область определения целевого функционала отсутствуют. Также мы предполагаем, что целевой функционал является $\mu$-сильно выпуклыми $\mu$-сильно вогнутым, а также что выполняется условие Липшица для его $p$-й производной.
Для задач типа «мин-макс» мы предлагаем два алгоритма. Так как мы рассматриваем сильно выпуклую и сильно вогнутую задачу, первый алгоритмиспо льзует существующий тензорный метод для решения выпуклых вогнутых седловых задач и ускоряет его с помощью техники рестартов. Таким образом удается добиться линейной скорости сходимости. Используя дополнительные предположения о выполнении условий Липшица для первой и второй производных целевого функционала, можно дополнительно ускорить полученный метод. Для этого можно «переключиться» на другой существующий метод для решения подобных задач в зоне его квадратичной локальной сходимости. Так мы получаем второй алгоритм, обладающий глобальной линейной сходимостью и локальной квадратичной сходимостью. Наконец, для решения задач второго типа существует определенная методология для тензорных методов в выпуклой оптимизации. Суть ее заключается в применении специальной «обертки» вокруг оптимального метода высокого порядка. Причем для этого условие сильной выпуклости не является необходимым. Достаточно лишь правильным образом регуляризовать целевой функционал, сделав его таким образом сильно выпуклым и сильно вогнутым. В нашей работе мы переносим эту методологию на выпукло-вогнутые функционалы и используем данную «обертку» на предлагаемом выше алгоритме с глобальной линейной сходимостью и локальной квадратичной сходимостью. Так как седловая задача является частным случаем монотонного вариационного неравенства, предлагаемые методы также подойдут для поиска решения сильно монотонных вариационных неравенств.
Ключевые слова: вариационное неравенство, седловая задача, гладкость высокого порядка, тензорные методы, минимизация нормы градиента.
Tensor methods for strongly convex strongly concave saddle point problems and strongly monotone variational inequalities
Computer Research and Modeling, 2022, v. 14, no. 2, pp. 357-376In this paper we propose high-order (tensor) methods for two types of saddle point problems. Firstly, we consider the classic min-max saddle point problem. Secondly, we consider the search for a stationary point of the saddle point problem objective by its gradient norm minimization. Obviously, the stationary point does not always coincide with the optimal point. However, if we have a linear optimization problem with linear constraints, the algorithm for gradient norm minimization becomes useful. In this case we can reconstruct the solution of the optimization problem of a primal function from the solution of gradient norm minimization of dual function. In this paper we consider both types of problems with no constraints. Additionally, we assume that the objective function is $\mu$-strongly convex by the first argument, $\mu$-strongly concave by the second argument, and that the $p$-th derivative of the objective is Lipschitz-continous.
For min-max problems we propose two algorithms. Since we consider strongly convex a strongly concave problem, the first algorithm uses the existing tensor method for regular convex concave saddle point problems and accelerates it with the restarts technique. The complexity of such an algorithm is linear. If we additionally assume that our objective is first and second order Lipschitz, we can improve its performance even more. To do this, we can switch to another existing algorithm in its area of quadratic convergence. Thus, we get the second algorithm, which has a global linear convergence rate and a local quadratic convergence rate.
Finally, in convex optimization there exists a special methodology to solve gradient norm minimization problems by tensor methods. Its main idea is to use existing (near-)optimal algorithms inside a special framework. I want to emphasize that inside this framework we do not necessarily need the assumptions of strong convexity, because we can regularize the convex objective in a special way to make it strongly convex. In our article we transfer this framework on convex-concave objective functions and use it with our aforementioned algorithm with a global linear convergence and a local quadratic convergence rate.
Since the saddle point problem is a particular case of the monotone variation inequality problem, the proposed methods will also work in solving strongly monotone variational inequality problems.
-
Сравнение оценок онлайн- и офлайн-подходов для седловой задачи в билинейной форме
Компьютерные исследования и моделирование, 2023, т. 15, № 2, с. 381-391Стохастическая оптимизация является актуальным направлением исследования в связи со значительными успехами в области машинного обучения и их применениями для решения повседневных задач. В данной работе рассматриваются два принципиально различных метода решения задачи стохастической оптимизации — онлайн- и офлайн-алгоритмы. Соответствующие алгоритмы имеют свои качественные преимущества перед друг другом. Так, для офлайн-алгоритмов требуется решать вспомогательную задачу с высокой точностью. Однако это можно делать распределенно, и это открывает принципиальные возможности, как, например, построение двойственной задачи. Несмотря на это, и онлайн-, и офлайн-алгоритмы преследуют общую цель — решение задачи стохастической оптимизации с заданной точностью. Это находит отражение в сравнении вычислительной сложности описанных алгоритмов, что демонстрируется в данной работе.
Сравнение описанных методов проводится для двух типов стохастических задач — выпуклой оптимизации и седел. Для задач стохастической выпуклой оптимизации существующие решения позволяют довольно подробно сравнить онлайн- и офлайн-алгоритмы. В частности, для сильно выпуклых задач вычислительная сложность алгоритмов одинаковая, причем условие сильной выпуклости может быть ослаблено до условия $\gamma$-роста целевой функции. С этой точки зрения седловые задачи являются гораздо менее изученными. Тем не менее существующие решения позволяют наметить основные направления исследования. Так, значительные продвижения сделаны для билинейных седловых задач с помощью онлайн-алгоритмов. Оффлайн-алгоритмы представлены всего одним исследованием. В данной работе на этом примере демонстрируется аналогичная с выпуклой оптимизацией схожесть обоих алгоритмов. Также был проработан вопрос точности решения вспомогательной задачи для седел. С другой стороны, седловая задача стохастической оптимизации обобщает выпуклую, то есть является ее логичным продолжением. Это проявляется в том, что существующие результаты из выпуклой оптимизации можно перенести на седла. В данной работе такой перенос осуществляется для результатов онлайн-алгоритма в выпуклом случае, когда целевая функция удовлетворяет условию $\gamma$-роста.
Ключевые слова: стохастическая оптимизация, выпуклая оптимизация, выпукло-вогнутая оптимизация, острый минимум, условие квадратичного роста.
Comparsion of stochastic approximation and sample average approximation for saddle point problem with bilinear coupling term
Computer Research and Modeling, 2023, v. 15, no. 2, pp. 381-391Stochastic optimization is a current area of research due to significant advances in machine learning and their applications to everyday problems. In this paper, we consider two fundamentally different methods for solving the problem of stochastic optimization — online and offline algorithms. The corresponding algorithms have their qualitative advantages over each other. So, for offline algorithms, it is required to solve an auxiliary problem with high accuracy. However, this can be done in a distributed manner, and this opens up fundamental possibilities such as, for example, the construction of a dual problem. Despite this, both online and offline algorithms pursue a common goal — solving the stochastic optimization problem with a given accuracy. This is reflected in the comparison of the computational complexity of the described algorithms, which is demonstrated in this paper.
The comparison of the described methods is carried out for two types of stochastic problems — convex optimization and saddles. For problems of stochastic convex optimization, the existing solutions make it possible to compare online and offline algorithms in some detail. In particular, for strongly convex problems, the computational complexity of the algorithms is the same, and the condition of strong convexity can be weakened to the condition of $\gamma$-growth of the objective function. From this point of view, saddle point problems are much less studied. Nevertheless, existing solutions allow us to outline the main directions of research. Thus, significant progress has been made for bilinear saddle point problems using online algorithms. Offline algorithms are represented by just one study. In this paper, this example demonstrates the similarity of both algorithms with convex optimization. The issue of the accuracy of solving the auxiliary problem for saddles was also worked out. On the other hand, the saddle point problem of stochastic optimization generalizes the convex one, that is, it is its logical continuation. This is manifested in the fact that existing results from convex optimization can be transferred to saddles. In this paper, such a transfer is carried out for the results of the online algorithm in the convex case, when the objective function satisfies the $\gamma$-growth condition.
-
Распознавание эффектов и механизма действия препаратов на основе анализа внутричерепной ЭЭГ с помощью методов глубокого обучения
Компьютерные исследования и моделирование, 2024, т. 16, № 3, с. 755-772Прогнозирование новых свойств лекарственных средств является основной задачей в рамках решения проблем полифармакологии, репозиционирования, а также изучения биологически активных веществ на доклиническом этапе. Идентификация фармакологических эффектов и взаимодействий «препарат – мишень» с использованием машинного обучения (включая методы глубокого обучения) набирает популярность в последние годы.
Цель работы состояла в разработке метода распознавания психотропных эффектов и механизма действия (взаимодействий препарата с мишенью) на основании анализа биоэлектрической активности мозга с применением технологий искусственного интеллекта.
Выполнялась регистрация электроэнцефалографических (ЭЭГ) сигналов крыс (4 канала, частота дискретизации — 500 Гц) после введения психотропных препаратов (габапентин, диазепам, карбамазепин, прегабалин, эсликарбазепин, феназепам, ареколин, коразол, пикротоксин, пилокарпин, хлоралгидрат). Сигналы (эпохи продолжительностью 2 с) преобразовывались в изображения $(2000 \times 4)$ и затем поступали на вход автоэнкодера. Выходные данные слоя «бутылочного горлышка» классифицировались и кластеризовались (с применением алгоритма t-SNE), а затем вычислялись расстояния между кластерами в пространстве параметров. В качестве альтернативны использовался подход, основанный на извлечении признаков с размерной редукцией при помощи метода главных компонент и классификацией методом опорных векторов с ядерной функцией (kSVM). Модели валидировались путем 5-кратной кроссвалидации.
Точность классификации для 11 препаратов, полученная в ходе кросс-валидации, достигала $0,580 \pm 0,021$, что значительно превышает точность случайного классификатора, которая составляла $0,091 \pm 0,045$ $(p < 0,0001)$, и точность kSVM, равную $0,441 \pm 0,035$ $(p < 0,05)$. Получены t-SNE-карты параметров «бутылочного горлышка» сигналов интракраниальной ЭЭГ. Определена относительная близость кластеров сигналов в параметрическом пространстве.
В настоящем исследовании представлен оригинальный метод биопотенциал-опосредованного прогнозирования эффектов и механизма действия (взаимодействия лекарственного средства с мишенью). Метод использует сверточные нейронные сети в сочетании с модифицированным алгоритмом избирательной редукции параметров. ЭЭГ-сигналы, зарегистрированные после введения препаратов, были представлены в едином пространстве параметров в сжатой форме. Полученные данные указывают на возможность распознавания паттернов нейронального отклика в ответ на введение различных психотропных препаратов с помощью предложенного нейросетевого классификатора и кластеризации.
Ключевые слова: глубокое обучение, машинное обучение, ЭЭГ, сверточная нейронная сеть, классификация, кластеризация, прогнозирование взаимодействия препарата с мишенью.
Deep learning analysis of intracranial EEG for recognizing drug effects and mechanisms of action
Computer Research and Modeling, 2024, v. 16, no. 3, pp. 755-772Predicting novel drug properties is fundamental to polypharmacology, repositioning, and the study of biologically active substances during the preclinical phase. The use of machine learning, including deep learning methods, for the identification of drug – target interactions has gained increasing popularity in recent years.
The objective of this study was to develop a method for recognizing psychotropic effects and drug mechanisms of action (drug – target interactions) based on an analysis of the bioelectrical activity of the brain using artificial intelligence technologies.
Intracranial electroencephalographic (EEG) signals from rats were recorded (4 channels at a sampling frequency of 500 Hz) after the administration of psychotropic drugs (gabapentin, diazepam, carbamazepine, pregabalin, eslicarbazepine, phenazepam, arecoline, pentylenetetrazole, picrotoxin, pilocarpine, chloral hydrate). The signals were divided into 2-second epochs, then converted into $2000\times 4$ images and input into an autoencoder. The output of the bottleneck layer was subjected to classification and clustering using t-SNE, and then the distances between resulting clusters were calculated. As an alternative, an approach based on feature extraction with dimensionality reduction using principal component analysis and kernel support vector machine (kSVM) classification was used. Models were validated using 5-fold cross-validation.
The classification accuracy obtained for 11 drugs during cross-validation was $0.580 \pm 0.021$, which is significantly higher than the accuracy of the random classifier $(0.091 \pm 0.045, p < 0.0001)$ and the kSVM $(0.441 \pm 0.035, p < 0.05)$. t-SNE maps were generated from the bottleneck parameters of intracranial EEG signals. The relative proximity of the signal clusters in the parametric space was assessed.
The present study introduces an original method for biopotential-mediated prediction of effects and mechanism of action (drug – target interaction). This method employs convolutional neural networks in conjunction with a modified selective parameter reduction algorithm. Post-treatment EEGs were compressed into a unified parameter space. Using a neural network classifier and clustering, we were able to recognize the patterns of neuronal response to the administration of various psychotropic drugs.
-
Численное моделирование экологического состояния Азовского моря с применением схем повышенного порядка точности на многопроцессорной вычислительной системе
Компьютерные исследования и моделирование, 2016, т. 8, № 1, с. 151-168В статье приводятся результаты трехмерного моделирования экологического состояния мелководного водоема на примере Азовского моря с использованием схем повышенного порядка точности на многопроцессорной вычислительной системе Южного федерального университета. Для решения поставленной задачи были построены и изучены дискретные аналоги операторов конвективного и диффузионного переносов четвертого порядка точности в случае частичной заполненности ячеек расчетной области. Разработанные схемы повышенного (четвертого) порядка точности были использованы при решении задач водной экологии для моделирования пространственного распределения загрязняющих биогенных веществ, вызывающих бурный рост фитопланктона, многие виды которого являются токсичными и вредоносными. Использование схем повышенного порядка точности позволило повысить качество входных данных, а также уменьшить значение погрешности при решении модельных задач водной экологии. Были проведены численные эксперименты для задачи транспорта веществ на основе схем второго и четвертого порядков точностей, которые показали, что для задачи диффузии-конвекции удалось повысить точность в 48,7 раз. Предложен и численно реализован математический алгоритм, предназначенный для восстановления рельефа дна мелководного водоема на основе гидрографической информации (глубины водоема в отдельных точках или изолиний уровня), с помощью которого была получена карта рельефа дна Азовского моря, используемая для построения полей течений, рассчитанных на основе гидродинамической модели. Поля течений водного потока используются в работе в качестве входной информации для моделей водной экологии. Была разработана библиотека двухслойных итерационных методов, предназначенная для решения девятидиагональных сеточных уравнений, возникающих при дискретизации модельных задач изменения концентраций загрязняющих веществ, планктона и рыб на многопроцессорной вычислительной системе, что позволило повысить точность расчетных данных и дало возможность получать оперативные прогнозы изменения экологического состояния мелководного водоема в кратчайшие временные промежутки.
Ключевые слова: математическая модель, схема повышенного порядка точности, рельеф дна, транспорт веществ, задачи водной экологии, Азовское море, многопроцессорная вычислительная система.
Numerical modeling of ecologic situation of the Azov Sea with using schemes of increased order of accuracy on multiprocessor computer system
Computer Research and Modeling, 2016, v. 8, no. 1, pp. 151-168Views (last year): 4. Citations: 31 (RSCI).The article covered results of three-dimensional modeling of ecologic situation of shallow water on the example of the Azov Sea with using schemes of increased order of accuracy on multiprocessor computer system of Southern Federal University. Discrete analogs of convective and diffusive transfer operators of the fourth order of accuracy in the case of partial occupancy of cells were constructed and studied. The developed scheme of the high (fourth) order of accuracy were used for solving problems of aquatic ecology and modeling spatial distribution of polluting nutrients, which caused growth of phytoplankton, many species of which are toxic and harmful. The use of schemes of the high order of accuracy are improved the quality of input data and decreased the error in solutions of model tasks of aquatic ecology. Numerical experiments were conducted for the problem of transportation of substances on the basis of the schemes of the second and fourth orders of accuracy. They’re showed that the accuracy was increased in 48.7 times for diffusion-convection problem. The mathematical algorithm was proposed and numerically implemented, which designed to restore the bottom topography of shallow water on the basis of hydrographic data (water depth at individual points or contour level). The map of bottom relief of the Azov Sea was generated with using this algorithm. It’s used to build fields of currents calculated on the basis of hydrodynamic model. The fields of water flow currents were used as input data of the aquatic ecology models. The library of double-layered iterative methods was developed for solving of nine-diagonal difference equations. It occurs in discretization of model tasks of challenges of pollutants concentration, plankton and fish on multiprocessor computer system. It improved the precision of the calculated data and gave the possibility to obtain operational forecasts of changes in ecologic situation of shallow water in short time intervals.
-
Концентрация мощных акустических пучков в вязкоупругом материале с неоднородным распределением воздушных полостей
Компьютерные исследования и моделирование, 2017, т. 9, № 3, с. 517-533Известно, что скорость звука в средах, содержащих сильно сжимаемые включения, например воздушные поры в упругой среде или газовые пузырьки в жидкости, может существенно уменьшиться по сравнению с однородной средой. Эффективный нелинейный параметр такой среды, описывающий проявление нелинейных эффектов, возрастает в сотни и тысячи раз из-за большого различия сжимаемости включений и окружающей среды. Пространственное изменение концентрации таких включений приводит к переменной локальной скорости звука, что, в свою очередь, вызывает пространственно-временное перераспределение акустической энергии в волне и искажению ее временных профилей и поперечной структуры ограниченных пучков. В частности, могут образовываться области фокусировок. При определенных условиях возможно формирование звукового канала, обеспечивающего волноводное распространение акустических сигналов в среде с подобными включениями. Таким образом, возможно управление пространственно-временной структурой акустических волн с помощью введения сильно сжимаемых включений с заданным пространственным распределением и концентрацией. Целью работы является исследование распространения акустических волн в резиноподобном материале с неоднородным пространственным распределением воздушных полостей. Основной задачей является развитие адекватной теории таких структурно-неоднородных сред, теории распространения нелинейных акустических волн и пучков в этих средах, расчет акустических полей и выявление связи параметров среды и включений с характеристиками распространяющихся волн. В работе выведено эволюционное самосогласованное уравнение с интегро-дифференциальным членом, описывающее в низкочастотном приближении распространение интенсивных акустических пучков в среде с сильно сжимаемым полостями. В этом уравнении учтено вторичное акустическое поле, вызванное динамикой колебаний полостей. Развит метод, позволяющий получить точные аналитические решения для поля нелинейного акустического пучка на его оси и правильно рассчитать поле в фокальных областях. Полученные результаты применены для теоретического моделирования материала с неоднородным распределением сильно сжимаемых включений.
The concentration of powerful acoustic beams in a viscoelastic medium with non-uniform distribution of the air cavities
Computer Research and Modeling, 2017, v. 9, no. 3, pp. 517-533Views (last year): 6.It is known that the sound speed in medium that contain highly compressible inclusions, e.g. air pores in an elastic medium or gas bubbles in the liquid may be significantly reduced compared to a homogeneous medium. Effective nonlinear parameter of medium, describing the manifestation of nonlinear effects, increases hundreds and thousands of times because of the large differences in the compressibility of the inclusions and the medium. Spatial change in the concentration of such inclusions leads to the variable local sound speed, which in turn calls the spatial-temporal redistribution of acoustic energy in the wave and the distortion of its temporal profiles and cross-section structure of bounded beams. In particular, focal areas can form. Under certain conditions, the sound channel is formed that provides waveguide propagation of acoustic signals in the medium with similar inclusions. Thus, it is possible to control spatial-temporal structure of acoustic waves with the introduction of highly compressible inclusions with a given spatial distribution and concentration. The aim of this work is to study the propagation of acoustic waves in a rubberlike material with non-uniform spatial air cavities. The main objective is the development of an adequate theory of such structurally inhomogeneous media, theory of propagation of nonlinear acoustic waves and beams in these media, the calculation of the acoustic fields and identify the communication parameters of the medium and inclusions with characteristics of propagating waves. In the work the evolutionary self-consistent equation with integro-differential term is obtained describing in the low-frequency approximation propagation of intense acoustic beams in a medium with highly compressible cavities. In this equation the secondary acoustic field is taken into account caused by the dynamics of the cavities oscillations. The method is developed to obtain exact analytical solutions for nonlinear acoustic field of the beam on its axis and to calculate the field in the focal areas. The obtained results are applied to theoretical modeling of a material with non-uniform distribution of strongly compressible inclusions.
-
Оценивание параметров моделей временных рядов с марковскими переключениями режимов
Компьютерные исследования и моделирование, 2018, т. 10, № 6, с. 903-918В работе рассматривается задача оценивания параметров временных рядов, описываемых регрессионными моделями с марковскими переключениями двух режимов в случайные моменты времени и независимыми гауссовскими шумами. Для решения предлагается вариант EM-алгоритма, основанный на итерационной процедуре, в ходе которой происходит чередование оценивания параметров регрессии при заданной последовательности переключений режимов и оценивания последовательности переключений при заданных параметрах моделей регрессии. В отличие от известных методов оценивания параметров регрессий с марковскими переключениями режимов, которые основаны на вычислении апостериорных вероятностей дискретных состояний последовательности переключений, в работе находятся оптимальные по критерию максимума апостериорной вероятности оценки процесса переключений. В результате предлагаемый алгоритм оказывается более простым и требует меньшее количество расчетов. Компьютерное моделирование позволяет выявить факторы, влияющие на точность оценивания. К таким факторам относятся число наблюдений, количество неизвестных параметров регрессии, степень их различия в разных режимах работы, а также величина отношения сигнала к шуму, которую в моделях регрессии можно связать с величиной коэффициента детерминации. Предложенный алгоритм применяется для задачи оценивания параметров в моделях регрессии для доходности индекса РТС в зависимости от доходностей индекса S&P 500 и акций «Газпрома» за период с 2013 года по 2018 год. Проводится сравнение оценок параметров, найденных с помощью предлагаемого алгоритма, с оценками, которые формируются с использованием эконометрического пакета EViews, и с оценками обычного метода наименьших квадратов без учета переключений режимов. Учет переключений позволяет получить более точное представление о структуре статистической зависимости исследуемых переменных. В моделях с переключениями рост отношения сигнала к шуму приводит к тому, что уменьшаются различия в оценках, вырабатываемых предлагаемым алгоритмом и с помощью программы EViews.
Ключевые слова: оценивание параметров, модели регрессии, модели с марковскими переключениями, функция правдоподобия, метод максимума правдоподобия, дисперсия шума, отношение сигнала к шуму.
Estimation of models parameters for time series with Markov switching regimes
Computer Research and Modeling, 2018, v. 10, no. 6, pp. 903-918Views (last year): 36.The paper considers the problem of estimating the parameters of time series described by regression models with Markov switching of two regimes at random instants of time with independent Gaussian noise. For the solution, we propose a variant of the EM algorithm based on the iterative procedure, during which an estimation of the regression parameters is performed for a given sequence of regime switching and an evaluation of the switching sequence for the given parameters of the regression models. In contrast to the well-known methods of estimating regression parameters in the models with Markov switching, which are based on the calculation of a posteriori probabilities of discrete states of the switching sequence, in the paper the estimates are calculated of the switching sequence, which are optimal by the criterion of the maximum of a posteriori probability. As a result, the proposed algorithm turns out to be simpler and requires less calculations. Computer modeling allows to reveal the factors influencing accuracy of estimation. Such factors include the number of observations, the number of unknown regression parameters, the degree of their difference in different modes of operation, and the signal-to-noise ratio which is associated with the coefficient of determination in regression models. The proposed algorithm is applied to the problem of estimating parameters in regression models for the rate of daily return of the RTS index, depending on the returns of the S&P 500 index and Gazprom shares for the period from 2013 to 2018. Comparison of the estimates of the parameters found using the proposed algorithm is carried out with the estimates that are formed using the EViews econometric package and with estimates of the ordinary least squares method without taking into account regimes switching. The account of regimes switching allows to receive more exact representation about structure of a statistical dependence of investigated variables. In switching models, the increase in the signal-to-noise ratio leads to the fact that the differences in the estimates produced by the proposed algorithm and using the EViews program are reduced.
Indexed in Scopus
Full-text version of the journal is also available on the web site of the scientific electronic library eLIBRARY.RU
The journal is included in the Russian Science Citation Index
The journal is included in the RSCI
International Interdisciplinary Conference "Mathematics. Computing. Education"