All issues

Рассматривается пространственно-временная модель тритрофической системы, описывающая взаимодействие жертвы, хищника и суперхищника в среде с неоднородным распределением ресурса. Учитываются всеядность суперхищника (Intraguild Predation, IGP), диффузия и направленная миграция (таксис), который моделируется с помощью логарифмической функции от ресурса и плотности жертвы. Основное внимание уделено анализу мультистабильности системы и роли косимметрии в формировании континуальных семейств стационарных решений. С использованием численно-аналитического подхода изучаются пространственно-однородные и неоднородные стационарные решения. Установлено, что при выполнении дополнительных соотношений между параметрами, характеризующими локальное взаимодействие хищников, и коэффициентами диффузии система обладает косимметрией, что приводит к возникновению семейства устойчивых стационарных решений, пропорциональных функции ресурса. Показано, что косимметрия не зависит от функции ресурса в случае неоднородной среды. Проведено исследование устойчивости стационарных распределений с помощью спектрального метода. Нарушение условий косимметрии приводит к разрушению семейства и появлению изолированных стационарных состояний, а также к длительным переходным процессам, отражающим память системы об исчезнувшем семействе. В зависимости от начальных условий и параметров в системе реализуются переходы к режимам с одним хищником (выживание хищника или суперхищника) или к сосуществованию хищников. Численные эксперименты на основе метода прямых (разностная схема по пространственной переменной и метод Рунге – Кутты для интегрирования по времени) подтверждают мультистабильность системы и иллюстрируют исчезновение семейства решений при разрушении косимметрии.

We consider a spatiotemporal model of a tritrophic system describing the interaction between prey, predator, and superpredator in an environment with nonuniform resource distribution. The model incorporates superpredator omnivory (Intraguild Predation, IGP), diffusion, and directed migration (taxis), the latter modeled using a logarithmic function of resource availability and prey density. The primary focus is on analyzing the multistability of the system and the role of cosymmetry in the formation of continuous families of steady-state solutions. Using a numerical-analytical approach, we study both spatially homogeneous and inhomogeneous steady-state solutions. It is established that under additional relations between the parameters governing local predator interactions and diffusion coefficients, the system exhibits cosymmetry, leading to the emergence of a family of stable steady-state solutions proportional to the resource function. We demonstrate that the cosymmetry is independent of the resource function in the case of a heterogeneous environment. The stability of stationary distributions is investigated using spectral methods. Violation of the cosymmetry conditions results in the breakdown of the solution family and the emergence of isolated equilibria, as well as prolonged transient dynamics reflecting the system’s “memory” of the vanished states. Depending on initial conditions and parameters, the system exhibits transitions to single-predator regimes (survival of either the predator or superpredator) or predator coexistence. Numerical experiments based on the method of lines, which involves finite difference discretization in space and Runge –Kutta integration in time, confirm the system’s multistability and illustrate the disappearance of solution families when cosymmetry is broken.

Представлена математическая модель, описывающая динамику инфекции ВИЧ-1 в отдельно взятом лимфоузле в начальный период развития инфекции. В рамках модели инфицирование индивидуума задается неотрицательной финитной функцией, описывающей скорость поступления первоначальных вирусных частиц в лимфоузел. Уравнения модели построены с учетом следующих факторов: 1) взаимодействие вирусных частиц с наивными Т-лимфоцитами CD4+, находящимися в различных фазах клеточного цикла; 2) контактное взаимодействие между размножающимися наивными Т-лимфоцитами CD4+ и инфицированными Т-лимфоцитами CD4+, производящими вирусные частицы. Спецификой контактных межклеточных взаимодействий является образование комплексов, состоящих из пар указанных клеток. Длительности существования комплексов задаются функциями распределения на конечных промежутках времени. Модель записана в форме высокоразмерной системы нелинейных дифференциальных уравнений с запаздыванием, включая два уравнения с распределенным запаздыванием, и дополнена неотрицательными начальными данными. При отсутствии инфекции ВИЧ-1 модель сводится к четырем дифференциальным уравнениям с запаздыванием, описывающим численность наивных Т-лимфоцитов CD4+ в различных фазах клеточного цикла. Показана глобальная разрешимость модели (существование и единственность решения на полуоси) и установлена неотрицательность компонент решения. Для проведения вычислительных экспериментов с моделью разработан алгоритм численного решения используемой системы дифференциальных уравнений на основе полунеявной схемы Эйлера для случая равномерного распределения длительностей существования комплексов. Представлены результаты вычислительных экспериментов, направленных на приближение численного решения модели к описанию кинетики развития инфекции ВИЧ-1 в ее острой фазе, включая фазу эклипса. В качестве наблюдаемой использована переменная, описывающая количество вирусных частиц на один миллилитр крови на 10–12-е сутки после начала острой инфекции. Численно исследована динамика наблюдаемой переменной в зависимости от вариации параметров модели, отражающих закономерности формирования комплексов и образования клеток, производящих вирусные частицы. Показана возможность затухания инфекции ВИЧ-1 в лимфоузле при определенных значениях некоторых из параметров модели.

A mathematical model describing the dynamics of HIV-1 infection in a single lymph node during the initial period of infection development is presented. Within the framework of the model, the infection of an individual is set by a nonnegative finite function describing the rate of entry of the initial viral particles into the lymph node. The equations of the model are derived with consideration of two factors: 1) the interaction of viral particles with naive CD4+ T lymphocytes in various phases of the cell cycle; 2) contact interaction between multiplying naive CD4+ T lymphocytes and infected CD4+ T lymphocytes producing viral particles. The specific feature of intercellular contact interactions is the formation of complexes consisting of pairs of these cells. The duration of the complexes’ existence is determined by the distribution functions over finite time intervals. The model is presented as a high-dimensional system of nonlinear delay differential equations, including two equations with distributed delay, and is supplemented with non-negative initial data. In the absence of HIV-1 infection, the model is reduced to four delay differential equations describing the number of naive CD4+ T-lymphocytes in different phases of the cell cycle. The global solvability of the model (the existence and uniqueness of the solution on the semi-axis) is determined, and the non-negativity of the solution components is established. To carry out computational experiments with the model, an algorithm for numerically solving the used system of differential equations are developed based on the semi-implicit Euler scheme for the case of uniform distribution of durations of the complexes existence. The results of computational experiments aimed at approximation the numerical solution of the model to describing the kinetics of HIV-1 infection spread in its acute phase, including the eclipse phase, are presented. The variable used as the observable is the variable describing the number of viral particles per milliliter of blood on days 10–12 after the onset of acute infection. The dynamics of the observable variable is numerically studied depending on the variation of the model parameters reflecting the patterns of complex formation and the formation of cells producing viral particles. The possibility of attenuation of HIV-1 infection in the lymph node at certain values of some of the model parameters is shown.

Проведен сравнительный анализ двух моделей пористой среды (Дарси и Бринкмана) на примере математического моделирования нестационарных режимов термогравитационной конвекции в пористой вертикальной цилиндрической полости с теплопроводной оболочкой конечной толщины в условиях конвективного охлаждения со стороны окружающей среды. Краевая задача математической физики, сформулированная в безразмерных переменных «функция тока — завихренность — температура», реализована численно неявным методом конечных разностей. Представлены результаты тестовых расчетов и влияния сеточных параметров, отражающие правомерность применения предлагаемого численного подхода. Установлены особенности класса сопряженных задач при использовании рассматриваемых моделей пористой среды.

Comparative analysis of two models of porous medium (Dacry and Brinkman) on an example of mathematical simulation of transient natural convection in a porous vertical cylindrical cavity with heat-conducting shell of finite thickness in conditions of convective cooling from an environment has been carried out. The boundary-value problem of mathematical physics formulated in dimensionless variables such as stream function, vorticity and temperature has been solved by implicit finite difference method. The presented verification results validate used numerical approach and also confirm that the solution is not dependent on the mesh size. Features of the conjugate heat transfer problems with considered models of porous medium have been determined.

Статья посвящена созданию математического управления процессами вложения средств банка в его деятельность. Весь процесс построения оптимального управления можно разбить на две составляющие: первая, выявление функций, описывающих движение ликвидного капитала в банке, и вторая, использование полученных функций в схеме динамического программирования. Прежде эта задача была рассмотрена в статье «Оптимальное управление вложением средств банка как фактор экономической стабильности» в № 4 за 2012 год. В существующей статье рассмотрена модификация этого решения, в частности, вводится дополнительная функция реинвестирования ℜ(φ), где φ — это приток ликвидных средств от предшествующего шага.

Article is devoted to the creation of a mathematical control of the bank investment process. The whole process of building optimal control may be divided into two components: in the first place, there is the identification of the functions describing the liquid capital movement in the bank and, in the second place, the use of these functions in the scheme of dynamic programming. Before this problem was discussed in the article "Optimal control of the bank investment as a factor of economic stability" in the 4^th issue for 2012. In the present article considers this modification of the solution, in particular, we use ℜ(φ) as a function of reinvestment, where φ is inflow of liquid capital realized at the previous step of control.

В работе рассматривается квадратичная дискретная модель популяционной динамики с запаздыванием под воздействием случайных возмущений. Анализ стохастических аттракторов модели проводится с помощью методов прямого численного моделирования и техники функций стохастической чувствительности. Показана деформация вероятностных распределений случайных состояний вокруг устойчивых равновесий и циклов при изменении параметров. Продемонстрировано явление индуцированных шумом переходов в зоне дискретных циклов.

We consider a time-delayed quadratic discrete model of population dynamics under the influence of random perturbations. Analysis of stochastic attractors of the model is performed using the methods of direct numerical simulation and the stochastic sensitivity function technique. A deformation of the probability distribution of random states around the stable equilibria and cycles is studied parametrically. The phenomenon of noise-induced transitions in the zone of discrete cycles is demonstrated.

Транспорт дыхательных газов дыхательной и кровеносной системами является одним из основных процессов, связанных с жизнедеятельностью организма человека. Значительные и/или длительные отклонения от нормальных значений концентраций кислорода и углекислого газа в крови могут приводить к существенным патологическим изменениям, вызывающим необратимые последствия: недостаток кислорода (гипоксия и ишемические явления), изменение кислотно-щелочного баланса крови (ацидоз или алкалоз) и др. В условиях меняющейся внешней среды и внутреннего состояния организма действие его регуляторных систем направлено на поддержание гомеостаза. Одним из основных механизмов поддержания концентраций (парциальных давлений) кислорода и углекислого газа в крови на нормальном уровне является регуляция минутной вентиляции, частоты и глубины дыхания за счет активности центрального и периферического регуляторов.

В данной работе предложена математическая модель регуляции параметров легочной вентиляции, которая затем используется для расчета минутной вентиляции легких при гипоксии и гиперкапнии. Модель построена с использованием однокомпонентной модели легкого и уравнений биохимического равновесия кислорода в крови и альвеолярном объеме легких. Приводится сопоставление с данными лабораторных исследований. Анализ полученных результатов показывает, что модель удовлетворительно воспроизводит динамику минутной вентиляции при гиперкапнии. Анализируются факторы, которые необходимо учесть для более точного моделирования регуляции минутной вентиляции при гипоксии.

Респираторная функция является одним из главных лимитирующих факторов организма при интенсивных физических нагрузках, характерных для спорта высших достижений. Поэтому результаты данной работы имеют значимое прикладное значения в области математического моделирования в спорте. Условия гипоксии и гиперкапнии отчасти воспроизводят тренировки в условиях высокогорья и гипоксии, целью которых является легальное повышение гемоглобина в крови у спортсменов.

Transport of respiratory gases by respiratory and circulatory systems is one of the most important processes associated with living conditions of the human body. Significant and/or long-term deviations of oxygen and carbon dioxide concentrations from the normal values in blood can be a reason of significant pathological changes with irreversible consequences: lack of oxygen (hypoxia and ischemic events), the change in the acidbase balance of blood (acidosis or alkalosis), and others. In the context of a changing external environment and internal conditions of the body the action of its regulatory systems aimed at maintaining homeostasis. One of the major mechanisms for maintaining concentrations (partial pressures) of oxygen and carbon dioxide in the blood at a normal level is the regulation of minute ventilation, respiratory rate and depth of respiration, which is caused by the activity of the central and peripheral regulators.

In this paper we propose a mathematical model of the regulation of pulmonary ventilation parameter. The model is used to calculate the minute ventilation adaptation during hypoxia and hypercapnia. The model is developed using a single-component model of the lungs, and biochemical equilibrium conditions of oxygen and carbon dioxide in the blood and the alveolar lung volume. A comparison with laboratory data is performed during hypoxia and hypercapnia. Analysis of the results shows that the model reproduces the dynamics of minute ventilation during hypercapnia with sufficient accuracy. Another result is that more accurate model of regulation of minute ventilation during hypoxia should be developed. The factors preventing from satisfactory accuracy are analysed in the final section.

Respiratory function is one of the main limiting factors of the organism during intense physical activities. Thus, it is important characteristic of high performance sport and extreme physical activity conditions. Therefore, the results of this study have significant application value in the field of mathematical modeling in sport. The considered conditions of hypoxia and hypercapnia are partly reproduce training at high altitude and at hypoxia conditions. The purpose of these conditions is to increase the level of hemoglobin in the blood of highly qualified athletes. These conditions are the only admitted by sport committees.

Для изучения нелинейных эффектов взаимодействия биологических видов развивается численно-аналитический подход, основанный на теории косимметрии, объясняющей явление возникновения непрерывных семейств решений дифференциальных уравнений, когда каждое решение может быть реализовано из соответствующего бассейна начальных данных. В задачах математической экологии возникновение косимметрии обычно связано с выполнением ряда соотношений между параметрами системы. При нарушении этих соотношений происходит разрушение семейств, когда вместо континуума решений возникает конечное число изолированных решений, а процесс установления может занимать большое время. При этом динамический процесс происходит в окрестности семейства, исчезнувшего в результате разрушения косимметрии.

Рассматривается модель пространственно-временной конкуренции хищников и жертв с учетом направленной миграции, функционального отклика Холлинга типа II и нелинейной функции роста жертв, допускающей эффект Олли. Найдены условия на параметры системы, при которых существует линейная по плотностям популяций косимметрия. Показано, что косимметричность не зависит от вида функции ресурса в случае неоднородного ареала. Для расчета стационарных решений и колебательных режимов и случая пространственной неоднородности применяется вычислительный эксперимент в среде MATLAB.

Рассмотрены важные случаи взаимодействия трех популяций (жертва и два хищника, две жертвы и хищник). В случае однородного ареала исследованы возникновение семейств стационарных распределений и ответвление предельных циклов от теряющих устойчивость равновесий семейства. Для системы двух жертв и хищника обнаружены области параметров, при которых реализуются три семейства устойчивых решений: сосуществование двух жертв без хищника, стационарные и колебательные распределения трех сосуществующих видов. В численном эксперименте проанализировано разрушение косимметрии и установлено долгое установление, приводящее к решениям с вытеснением одной из жертв или вымиранием хищника.

To study nonlinear effects of biological species interactions numerical-analytical approach is being developed. The approach is based on the cosymmetry theory accounting for the phenomenon of the emergence of a continuous family of solutions to differential equations where each solution can be obtained from the appropriate initial state. In problems of mathematical ecology the onset of cosymmetry is usually connected with a number of relationships between the parameters of the system. When the relationships collapse families vanish, we get a finite number of isolated solutions instead of a continuum of solutions and transient process can be long-term, dynamics taking place in a neighborhood of a family that has vanished due to cosymmetry collapse.

We consider a model for spatiotemporal competition of predators or prey with an account for directed migration, Holling type II functional response and nonlinear prey growth function permitting Alley effect. We found out the conditions on system parameters under which there is linear with respect to population densities cosymmetry. It is demonstated that cosymmetry exists for any resource function in case of heterogeneous habitat. Numerical experiment in MATLAB is applied to compute steady states and oscillatory regimes in case of spatial heterogeneity.

The dynamics of three population interactions (two predators and a prey, two prey and a predator) are considered. The onset of families of stationary distributions and limit cycle branching out of equlibria of a family that lose stability are investigated in case of homogeneous habitat. The study of the system for two prey and a predator gave a wonderful result of species coexistence. We have found out parameter regions where three families of stable solutions can be realized: coexistence of two prey in absence of a predator, stationary and oscillatory distributions of three coexisting species. Cosymmetry collapse is analyzed and long-term transient dynamics leading to solutions with the exclusion of one of prey or extinction of a predator is established in the numerical experiment.

В работе предлагается двумерная хемомеханическая модель роста инвазивной карциномы в ткани эпителия. Каждая клетка ткани представляет собой эластичный многоугольник, изменяющий свою форму и размеры под действием сил давления со стороны ткани. Средние размер и форма клеток были откалиброваны на основе экспериментальных данных. Модель позволяет описывать динамические деформации в ткани эпителия как коллективную эволюцию клеток, взаимодействующих посредством обмена механическими и химическими сигналами. Общее направление роста опухоли задается линейным градиентом концентрации питательного элемента. Рост и деформация ткани осуществляются за счет механизмов деления и интеркаляции клеток. В модели предполагается, что карцинома представляет собой гетерогенное образование, составленное из клеток с разным фенотипом, которые выполняют в опухоли различные функции. Основным параметром, определяющим фенотип клетки, является степень ее адгезии к примыкающей ткани. Выделено три основных фенотипа раковых клеток: эпителиальный (Э) фенотип представлен внутренними клетками опухоли, мезенхимальный (М) фенотип представлен одиночными клетками, промежуточный фенотип представлен фронтальными клетками опухоли. При этом в модели предполагается, что фенотип каждой клетки при определенных условиях может динамически меняться за счет эпителиально-мезенхимального (ЭМ) и обратного к нему (МЭ) переходов. Для здоровых клеток выделен основной Э-фенотип, который представлен обычными клетками с сильной адгезией друг к другу. Предполагается, что здоровые клетки, которые примыкают к опухоли, под воздействием последней испытывают вынужденный ЭМ-переход и образуют М-фенотип здоровых клеток. Численное моделирование показало, что в зависимости от значений управляющих параметров, а также комбинации возможных фенотипов здоровых и раковых клеток эволюция опухоли может приводить к разнообразным структурам, отражающим самоорганизацию клеток опухоли. Проводится сравнение структур, полученных в численном эксперименте, с морфологическими структурами, ранее выявленными в клинических исследованиях карциномы молочной железы: трабекулярной, солидной, тубулярной и альвеолярной структурами, а также дискретными клетками с амебоидным поведением. Обсуждается возможный сценарий морфогенеза и типа инвазивного поведения для каждой структуры. Описан процесс метастазирования, при котором одиночная раковая клетка амебоидного фенотипа, перемещающаяся за счет интеркаляций в ткани здорового эпителия, делится и испытывает МЭ-переход с появлением вторичной опухоли.

In this paper, we proposed a two-dimensional chemo-mechanical model of the growth of invasive carcinoma in epithelial tissue. Each cell is modeled by an elastic polygon, changing its shape and size under the influence of pressure forces acting from the tissue. The average size and shape of the cells have been calibrated on the basis of experimental data. The model allows to describe the dynamic deformations in epithelial tissue as a collective evolution of cells interacting through the exchange of mechanical and chemical signals. The general direction of tumor growth is controlled by a pre-established linear gradient of nutrient concentration. Growth and deformation of the tissue occurs due to the mechanisms of cell division and intercalation. We assume that carcinoma has a heterogeneous structure made up of cells of different phenotypes that perform various functions in the tumor. The main parameter that determines the phenotype of a cell is the degree of its adhesion to the adjacent cells. Three main phenotypes of cancer cells are distinguished: the epithelial (E) phenotype is represented by internal tumor cells, the mesenchymal (M) phenotype is represented by single cells and the intermediate phenotype is represented by the frontal tumor cells. We assume also that the phenotype of each cell under certain conditions can change dynamically due to epithelial-mesenchymal (EM) and inverse (ME) transitions. As for normal cells, we define the main E-phenotype, which is represented by ordinary cells with strong adhesion to each other. In addition, the normal cells that are adjacent to the tumor undergo a forced EM-transition and form an M-phenotype of healthy cells. Numerical simulations have shown that, depending on the values of the control parameters as well as a combination of possible phenotypes of healthy and cancer cells, the evolution of the tumor can result in a variety of cancer structures reflecting the self-organization of tumor cells of different phenotypes. We compare the structures obtained numerically with the morphological structures revealed in clinical studies of breast carcinoma: trabecular, solid, tubular, alveolar and discrete tumor structures with ameboid migration. The possible scenario of morphogenesis for each structure is discussed. We describe also the metastatic process during which a single cancer cell of ameboid phenotype moves due to intercalation in healthy epithelial tissue, then divides and undergoes a ME transition with the appearance of a secondary tumor.

Важнейшим принципом военной науки и пограничной безопасности является принцип сосредоточения основных усилий на главных направлениях и задачах. На тактическом уровне имеется множество математических моделей для вычисления оптимального распределения ресурса по направлениям и объектам, тогда как на уровне государства соответствующие модели отсутствуют. Используя статистические данные о результатах охраны границы США, вычислен параметр пограничной производственной функции экспоненциального типа, отражающий организационно-технологические возможности пограничной охраны. Производственная функция определяет зависимость вероятности задержания нарушителей от плотности пограничников на километр границы. Финансовые показатели в производственной функции не учитываются, поскольку бюджет на содержание пограничников и оборудование границы коррелирует с количеством пограничных агентов. Определена целевая функция пограничной охраны — суммарный предотвращенный ущерб от задержанных нарушителей с учетом их ожидаемой опасности для государства и общества, подлежащий максимизации. Используя условие Слейтера, найдено решение задачи — вычислены оптимальные плотности пограничной охраны по регионам государства. Имея модель распределения ресурсов, на примере трех пограничных регионов США решена и обратная задача — оценены угрозы в регионах по известному распределению ресурсов. Ожидаемая опасность от отдельного нарушителя на американо-канадской границе в 2–5 раз выше, чем от нарушителя на американо-мексиканской границе. Результаты расчетов соответствуют взглядам специалистов по безопасности США — на американо-мексиканской границе в основном задерживаются нелегальные мигранты, тогда как потенциальные террористы предпочитают использовать другие каналы проникновения в США (включая американо-канадскую границу), где риски быть задержанными минимальны. Также результаты расчетов соответствуют сложившейся практике охраны границы: в 2013 г. численность пограничников вне пунктов пропуска на американо-мексиканской границе увеличилась в 2 раза по сравнению с 2001 г., тогда как на американо-канадской границе — в 4 раза. Практика охраны границы и взгляды специалистов дают основания для утверждения о верификации модели.

The most important principle of military science and border security is the principle of concentrating the main efforts on the main directions and tasks. At the tactical level, there are many mathematical models for computing the optimal resource allocation by directions and objects, whereas at the state level there are no corresponding models. Using the statistical data on the results of the protection of the US border, an exponential type border production function parameter is calculated that reflects the organizational and technological capabilities of the border guard. The production function determines the dependence of the probability of detaining offenders from the density of border guards per kilometer of the border. Financial indicators in the production function are not taken into account, as the border maintenance budget and border equipment correlate with the number of border agents. The objective function of the border guards is defined — the total prevented damage from detained violators taking into account their expected danger for the state and society, which is to be maximized. Using Slater's condition, the solution of the problem was found — optimal density of border guard was calculated for the regions of the state. Having a model of resource allocation, the example of the three border regions of the United States has also solved the reverse problem — threats in the regions have been assessed based on the known allocation of resources. The expected danger from an individual offender on the US-Canada border is 2–5 times higher than from an offender on the US-Mexican border. The results of the calculations are consistent with the views of US security experts: illegal migrants are mostly detained on the US-Mexican border, while potential terrorists prefer to use other channels of penetration into the US (including the US-Canadian border), where the risks of being detained are minimal. Also, the results of the calculations are consistent with the established practice of border protection: in 2013 the number of border guards outside the checkpoints on the US-Mexican border increased by 2 times compared with 2001, while on the American-Canadian border — 4 times. The practice of border protection and the views of specialists give grounds for approval of the verification of the model.

В данной статье проводится анализ проблемы распознавания знаков дорожного движения в интеллектуальных транспортных системах. Рассмотрены основные понятия компьютерного зрения и задачи распознавания образов. Самым эффективным и популярным подходом к решению задач анализа и распознавания изображений на данный момент является нейросетевой, а среди возможных нейронных сетей лучше всего показала себя искусственная нейронная сеть сверточной архитектуры. Для решения задачи классификации при распознавании дорожных знаков использованы такие функции активации, как Relu и SoftMax. В работе предложена технология распознавания дорожных знаков. Выбор подхода для решения поставленной задачи на основе сверточной нейронной сети обусловлен возможностью эффективно решать задачу выделения существенных признаков и классификации изображений. Проведена подготовка исходных данных для нейросетевой модели, сформирована обучающая выборка. В качестве платформы для разработки интеллектуальной нейросетевой модели распознавания использован облачный сервис Google Colaboratory с подключенными библиотеками для глубокого обучения TensorFlow и Keras. Разработана и протестирована интеллектуальная модель распознавания знаков дорожного движения. Использованная сверточная нейронная сеть включала четыре каскада свертки и подвыборки. После сверточной части идет полносвязная часть сети, которая отвечает за классификацию. Для этого используются два полносвязных слоя. Первый слой включает 512 нейронов с функцией активации Relu. Затем идет слой Dropout, который используется для уменьшения эффекта переобучения сети. Выходной полносвязный слой включает четыре нейрона, что соответствует решаемой задаче распознавания четырех видов знаков дорожного движения. Оценка эффективности нейросетевой модели распознавания дорожных знаков методом трехблочной кроссалидации показала, что ее ошибка минимальна, следовательно, в большинстве случаев новые образы будут распознаваться корректно. Кроме того, у модели отсутствуют ошибки первого рода, а ошибка второго рода имеет низкое значение и лишь при сильно зашумленном изображении на входе.

This work analyzes the problem of traffic signs recognition in intelligent transport systems. The basic concepts of computer vision and image recognition tasks are considered. The most effective approach for solving the problem of analyzing and recognizing images now is the neural network method. Among all kinds of neural networks, the convolutional neural network has proven itself best. Activation functions such as Relu and SoftMax are used to solve the classification problem when recognizing traffic signs. This article proposes a technology for recognizing traffic signs. The choice of an approach for solving the problem based on a convolutional neural network due to the ability to effectively solve the problem of identifying essential features and classification. The initial data for the neural network model were prepared and a training sample was formed. The Google Colaboratory cloud service with the external libraries for deep learning TensorFlow and Keras was used as a platform for the intelligent system development. The convolutional part of the network is designed to highlight characteristic features in the image. The first layer includes 512 neurons with the Relu activation function. Then there is the Dropout layer, which is used to reduce the effect of overfitting the network. The output fully connected layer includes four neurons, which corresponds to the problem of recognizing four types of traffic signs. An intelligent traffic sign recognition system has been developed and tested. The used convolutional neural network included four stages of convolution and subsampling. Evaluation of the efficiency of the traffic sign recognition system using the three-block cross-validation method showed that the error of the neural network model is minimal, therefore, in most cases, new images will be recognized correctly. In addition, the model has no errors of the first kind, and the error of the second kind has a low value and only when the input image is very noisy.