All issues

При моделировании турбулентных течений в практических приложениях часто приходится проводить серии расчетов для тел близкой топологии. Например, тел, отличающихся формой обтекателя. Применение сверточных нейронных сетей позволяет сократить количество расчетов серии, восстановив часть из них по уже проведенным расчетам. В работе предлагается метод, позволяющий применить сверточную нейронную сеть независимо от способа построения вычислительной сетки. Для этого проводится переинтерполяция поля течения на равномерную сетку вместе с самим телом. Геометрия тела задается с помощью функции расстояния со знаком и маскирования. Восстановление поля течения на основании части расчетов для схожих геометрий проводится с помощью нейронной сети типа UNet с пространственным механизмом внимания. Разрешение пристенной области, являющееся критически важным условием при турбулентном моделировании, производится на основании уравнений, полученных в методе пристенной декомпозиции.

Демонстрация метода приводится для случая обтекания скругленной пластины турбулентным потоком воздуха с различным скруглением при фиксированных параметрах набегающего потока с числом Рейнольдса $Re = 10^5$ и числом Маха $M = 0,15$. Поскольку течения с такими параметрами набегающего потока можно считать несжимаемыми, исследуются непосредственно только компоненты скорости. Проводится сравнение полей течения, профилей скорости и трения на стенке, полученных суррогатной моделью и численно. Анализ проводится как на пластине, так и на скруглении. Результаты моделирования подтверждают перспективность предлагаемого подхода. В частности, было показано, что даже в случае использования модели на максимально допустимых границах ее применимости трение может быть получено с точностью до 90%. Также в работе проводится анализ построенной архитектуры нейронной сети. Полученная суррогатная модель сравнивается с альтернативными моделями, построенными на основании вариационного автоэнкодера или метода главных компонент с использованием радиальных базисных функций. На основании этого сравнения демонстрируются преимущества предложенного метода.

When modeling turbulent flows in practical applications, it is often necessary to carry out a series of calculations of bodies of similar topology. For example, bodies that differ in the shape of the fairing. The use of convolutional neural networks allows to reduce the number of calculations in a series, restoring some of them based on calculations already performed. The paper proposes a method that allows to apply a convolutional neural network regardless of the method of constructing a computational mesh. To do this, the flow field is reinterpolated to a uniform mesh along with the body itself. The geometry of the body is set using the signed distance function and masking. The restoration of the flow field based on part of the calculations for similar geometries is carried out using a neural network of the UNet type with a spatial attention mechanism. The resolution of the nearwall region, which is a critical condition for turbulent modeling, is based on the equations obtained in the nearwall domain decomposition method.

A demonstration of the method is given for the case of a flow around a rounded plate by a turbulent air flow with different rounding at fixed parameters of the incoming flow with the Reynolds number $Re = 10^5$ and the Mach number $M = 0.15$. Since flows with such parameters of the incoming flow can be considered incompressible, only the velocity components are studied directly. The flow fields, velocity and friction profiles obtained by the surrogate model and numerically are compared. The analysis is carried out both on the plate and on the rounding. The simulation results confirm the prospects of the proposed approach. In particular, it was shown that even if the model is used at the maximum permissible limits of its applicability, friction can be obtained with an accuracy of up to 90%. The work also analyzes the constructed architecture of the neural network. The obtained surrogate model is compared with alternative models based on a variational autoencoder or the principal component analysis using radial basis functions. Based on this comparison, the advantages of the proposed method are demonstrated.

Рассматривается пространственно-временная модель тритрофической системы, описывающая взаимодействие жертвы, хищника и суперхищника в среде с неоднородным распределением ресурса. Учитываются всеядность суперхищника (Intraguild Predation, IGP), диффузия и направленная миграция (таксис), который моделируется с помощью логарифмической функции от ресурса и плотности жертвы. Основное внимание уделено анализу мультистабильности системы и роли косимметрии в формировании континуальных семейств стационарных решений. С использованием численно-аналитического подхода изучаются пространственно-однородные и неоднородные стационарные решения. Установлено, что при выполнении дополнительных соотношений между параметрами, характеризующими локальное взаимодействие хищников, и коэффициентами диффузии система обладает косимметрией, что приводит к возникновению семейства устойчивых стационарных решений, пропорциональных функции ресурса. Показано, что косимметрия не зависит от функции ресурса в случае неоднородной среды. Проведено исследование устойчивости стационарных распределений с помощью спектрального метода. Нарушение условий косимметрии приводит к разрушению семейства и появлению изолированных стационарных состояний, а также к длительным переходным процессам, отражающим память системы об исчезнувшем семействе. В зависимости от начальных условий и параметров в системе реализуются переходы к режимам с одним хищником (выживание хищника или суперхищника) или к сосуществованию хищников. Численные эксперименты на основе метода прямых (разностная схема по пространственной переменной и метод Рунге – Кутты для интегрирования по времени) подтверждают мультистабильность системы и иллюстрируют исчезновение семейства решений при разрушении косимметрии.

We consider a spatiotemporal model of a tritrophic system describing the interaction between prey, predator, and superpredator in an environment with nonuniform resource distribution. The model incorporates superpredator omnivory (Intraguild Predation, IGP), diffusion, and directed migration (taxis), the latter modeled using a logarithmic function of resource availability and prey density. The primary focus is on analyzing the multistability of the system and the role of cosymmetry in the formation of continuous families of steady-state solutions. Using a numerical-analytical approach, we study both spatially homogeneous and inhomogeneous steady-state solutions. It is established that under additional relations between the parameters governing local predator interactions and diffusion coefficients, the system exhibits cosymmetry, leading to the emergence of a family of stable steady-state solutions proportional to the resource function. We demonstrate that the cosymmetry is independent of the resource function in the case of a heterogeneous environment. The stability of stationary distributions is investigated using spectral methods. Violation of the cosymmetry conditions results in the breakdown of the solution family and the emergence of isolated equilibria, as well as prolonged transient dynamics reflecting the system’s “memory” of the vanished states. Depending on initial conditions and parameters, the system exhibits transitions to single-predator regimes (survival of either the predator or superpredator) or predator coexistence. Numerical experiments based on the method of lines, which involves finite difference discretization in space and Runge –Kutta integration in time, confirm the system’s multistability and illustrate the disappearance of solution families when cosymmetry is broken.

Проведен сравнительный анализ двух моделей пористой среды (Дарси и Бринкмана) на примере математического моделирования нестационарных режимов термогравитационной конвекции в пористой вертикальной цилиндрической полости с теплопроводной оболочкой конечной толщины в условиях конвективного охлаждения со стороны окружающей среды. Краевая задача математической физики, сформулированная в безразмерных переменных «функция тока — завихренность — температура», реализована численно неявным методом конечных разностей. Представлены результаты тестовых расчетов и влияния сеточных параметров, отражающие правомерность применения предлагаемого численного подхода. Установлены особенности класса сопряженных задач при использовании рассматриваемых моделей пористой среды.

Comparative analysis of two models of porous medium (Dacry and Brinkman) on an example of mathematical simulation of transient natural convection in a porous vertical cylindrical cavity with heat-conducting shell of finite thickness in conditions of convective cooling from an environment has been carried out. The boundary-value problem of mathematical physics formulated in dimensionless variables such as stream function, vorticity and temperature has been solved by implicit finite difference method. The presented verification results validate used numerical approach and also confirm that the solution is not dependent on the mesh size. Features of the conjugate heat transfer problems with considered models of porous medium have been determined.

Статья посвящена созданию математического управления процессами вложения средств банка в его деятельность. Весь процесс построения оптимального управления можно разбить на две составляющие: первая, выявление функций, описывающих движение ликвидного капитала в банке, и вторая, использование полученных функций в схеме динамического программирования. Прежде эта задача была рассмотрена в статье «Оптимальное управление вложением средств банка как фактор экономической стабильности» в № 4 за 2012 год. В существующей статье рассмотрена модификация этого решения, в частности, вводится дополнительная функция реинвестирования ℜ(φ), где φ — это приток ликвидных средств от предшествующего шага.

Article is devoted to the creation of a mathematical control of the bank investment process. The whole process of building optimal control may be divided into two components: in the first place, there is the identification of the functions describing the liquid capital movement in the bank and, in the second place, the use of these functions in the scheme of dynamic programming. Before this problem was discussed in the article "Optimal control of the bank investment as a factor of economic stability" in the 4^th issue for 2012. In the present article considers this modification of the solution, in particular, we use ℜ(φ) as a function of reinvestment, where φ is inflow of liquid capital realized at the previous step of control.

В работе рассматривается квадратичная дискретная модель популяционной динамики с запаздыванием под воздействием случайных возмущений. Анализ стохастических аттракторов модели проводится с помощью методов прямого численного моделирования и техники функций стохастической чувствительности. Показана деформация вероятностных распределений случайных состояний вокруг устойчивых равновесий и циклов при изменении параметров. Продемонстрировано явление индуцированных шумом переходов в зоне дискретных циклов.

We consider a time-delayed quadratic discrete model of population dynamics under the influence of random perturbations. Analysis of stochastic attractors of the model is performed using the methods of direct numerical simulation and the stochastic sensitivity function technique. A deformation of the probability distribution of random states around the stable equilibria and cycles is studied parametrically. The phenomenon of noise-induced transitions in the zone of discrete cycles is demonstrated.

Транспорт дыхательных газов дыхательной и кровеносной системами является одним из основных процессов, связанных с жизнедеятельностью организма человека. Значительные и/или длительные отклонения от нормальных значений концентраций кислорода и углекислого газа в крови могут приводить к существенным патологическим изменениям, вызывающим необратимые последствия: недостаток кислорода (гипоксия и ишемические явления), изменение кислотно-щелочного баланса крови (ацидоз или алкалоз) и др. В условиях меняющейся внешней среды и внутреннего состояния организма действие его регуляторных систем направлено на поддержание гомеостаза. Одним из основных механизмов поддержания концентраций (парциальных давлений) кислорода и углекислого газа в крови на нормальном уровне является регуляция минутной вентиляции, частоты и глубины дыхания за счет активности центрального и периферического регуляторов.

В данной работе предложена математическая модель регуляции параметров легочной вентиляции, которая затем используется для расчета минутной вентиляции легких при гипоксии и гиперкапнии. Модель построена с использованием однокомпонентной модели легкого и уравнений биохимического равновесия кислорода в крови и альвеолярном объеме легких. Приводится сопоставление с данными лабораторных исследований. Анализ полученных результатов показывает, что модель удовлетворительно воспроизводит динамику минутной вентиляции при гиперкапнии. Анализируются факторы, которые необходимо учесть для более точного моделирования регуляции минутной вентиляции при гипоксии.

Респираторная функция является одним из главных лимитирующих факторов организма при интенсивных физических нагрузках, характерных для спорта высших достижений. Поэтому результаты данной работы имеют значимое прикладное значения в области математического моделирования в спорте. Условия гипоксии и гиперкапнии отчасти воспроизводят тренировки в условиях высокогорья и гипоксии, целью которых является легальное повышение гемоглобина в крови у спортсменов.

Transport of respiratory gases by respiratory and circulatory systems is one of the most important processes associated with living conditions of the human body. Significant and/or long-term deviations of oxygen and carbon dioxide concentrations from the normal values in blood can be a reason of significant pathological changes with irreversible consequences: lack of oxygen (hypoxia and ischemic events), the change in the acidbase balance of blood (acidosis or alkalosis), and others. In the context of a changing external environment and internal conditions of the body the action of its regulatory systems aimed at maintaining homeostasis. One of the major mechanisms for maintaining concentrations (partial pressures) of oxygen and carbon dioxide in the blood at a normal level is the regulation of minute ventilation, respiratory rate and depth of respiration, which is caused by the activity of the central and peripheral regulators.

In this paper we propose a mathematical model of the regulation of pulmonary ventilation parameter. The model is used to calculate the minute ventilation adaptation during hypoxia and hypercapnia. The model is developed using a single-component model of the lungs, and biochemical equilibrium conditions of oxygen and carbon dioxide in the blood and the alveolar lung volume. A comparison with laboratory data is performed during hypoxia and hypercapnia. Analysis of the results shows that the model reproduces the dynamics of minute ventilation during hypercapnia with sufficient accuracy. Another result is that more accurate model of regulation of minute ventilation during hypoxia should be developed. The factors preventing from satisfactory accuracy are analysed in the final section.

Respiratory function is one of the main limiting factors of the organism during intense physical activities. Thus, it is important characteristic of high performance sport and extreme physical activity conditions. Therefore, the results of this study have significant application value in the field of mathematical modeling in sport. The considered conditions of hypoxia and hypercapnia are partly reproduce training at high altitude and at hypoxia conditions. The purpose of these conditions is to increase the level of hemoglobin in the blood of highly qualified athletes. These conditions are the only admitted by sport committees.

Для изучения нелинейных эффектов взаимодействия биологических видов развивается численно-аналитический подход, основанный на теории косимметрии, объясняющей явление возникновения непрерывных семейств решений дифференциальных уравнений, когда каждое решение может быть реализовано из соответствующего бассейна начальных данных. В задачах математической экологии возникновение косимметрии обычно связано с выполнением ряда соотношений между параметрами системы. При нарушении этих соотношений происходит разрушение семейств, когда вместо континуума решений возникает конечное число изолированных решений, а процесс установления может занимать большое время. При этом динамический процесс происходит в окрестности семейства, исчезнувшего в результате разрушения косимметрии.

Рассматривается модель пространственно-временной конкуренции хищников и жертв с учетом направленной миграции, функционального отклика Холлинга типа II и нелинейной функции роста жертв, допускающей эффект Олли. Найдены условия на параметры системы, при которых существует линейная по плотностям популяций косимметрия. Показано, что косимметричность не зависит от вида функции ресурса в случае неоднородного ареала. Для расчета стационарных решений и колебательных режимов и случая пространственной неоднородности применяется вычислительный эксперимент в среде MATLAB.

Рассмотрены важные случаи взаимодействия трех популяций (жертва и два хищника, две жертвы и хищник). В случае однородного ареала исследованы возникновение семейств стационарных распределений и ответвление предельных циклов от теряющих устойчивость равновесий семейства. Для системы двух жертв и хищника обнаружены области параметров, при которых реализуются три семейства устойчивых решений: сосуществование двух жертв без хищника, стационарные и колебательные распределения трех сосуществующих видов. В численном эксперименте проанализировано разрушение косимметрии и установлено долгое установление, приводящее к решениям с вытеснением одной из жертв или вымиранием хищника.

To study nonlinear effects of biological species interactions numerical-analytical approach is being developed. The approach is based on the cosymmetry theory accounting for the phenomenon of the emergence of a continuous family of solutions to differential equations where each solution can be obtained from the appropriate initial state. In problems of mathematical ecology the onset of cosymmetry is usually connected with a number of relationships between the parameters of the system. When the relationships collapse families vanish, we get a finite number of isolated solutions instead of a continuum of solutions and transient process can be long-term, dynamics taking place in a neighborhood of a family that has vanished due to cosymmetry collapse.

We consider a model for spatiotemporal competition of predators or prey with an account for directed migration, Holling type II functional response and nonlinear prey growth function permitting Alley effect. We found out the conditions on system parameters under which there is linear with respect to population densities cosymmetry. It is demonstated that cosymmetry exists for any resource function in case of heterogeneous habitat. Numerical experiment in MATLAB is applied to compute steady states and oscillatory regimes in case of spatial heterogeneity.

The dynamics of three population interactions (two predators and a prey, two prey and a predator) are considered. The onset of families of stationary distributions and limit cycle branching out of equlibria of a family that lose stability are investigated in case of homogeneous habitat. The study of the system for two prey and a predator gave a wonderful result of species coexistence. We have found out parameter regions where three families of stable solutions can be realized: coexistence of two prey in absence of a predator, stationary and oscillatory distributions of three coexisting species. Cosymmetry collapse is analyzed and long-term transient dynamics leading to solutions with the exclusion of one of prey or extinction of a predator is established in the numerical experiment.

В работе предлагается двумерная хемомеханическая модель роста инвазивной карциномы в ткани эпителия. Каждая клетка ткани представляет собой эластичный многоугольник, изменяющий свою форму и размеры под действием сил давления со стороны ткани. Средние размер и форма клеток были откалиброваны на основе экспериментальных данных. Модель позволяет описывать динамические деформации в ткани эпителия как коллективную эволюцию клеток, взаимодействующих посредством обмена механическими и химическими сигналами. Общее направление роста опухоли задается линейным градиентом концентрации питательного элемента. Рост и деформация ткани осуществляются за счет механизмов деления и интеркаляции клеток. В модели предполагается, что карцинома представляет собой гетерогенное образование, составленное из клеток с разным фенотипом, которые выполняют в опухоли различные функции. Основным параметром, определяющим фенотип клетки, является степень ее адгезии к примыкающей ткани. Выделено три основных фенотипа раковых клеток: эпителиальный (Э) фенотип представлен внутренними клетками опухоли, мезенхимальный (М) фенотип представлен одиночными клетками, промежуточный фенотип представлен фронтальными клетками опухоли. При этом в модели предполагается, что фенотип каждой клетки при определенных условиях может динамически меняться за счет эпителиально-мезенхимального (ЭМ) и обратного к нему (МЭ) переходов. Для здоровых клеток выделен основной Э-фенотип, который представлен обычными клетками с сильной адгезией друг к другу. Предполагается, что здоровые клетки, которые примыкают к опухоли, под воздействием последней испытывают вынужденный ЭМ-переход и образуют М-фенотип здоровых клеток. Численное моделирование показало, что в зависимости от значений управляющих параметров, а также комбинации возможных фенотипов здоровых и раковых клеток эволюция опухоли может приводить к разнообразным структурам, отражающим самоорганизацию клеток опухоли. Проводится сравнение структур, полученных в численном эксперименте, с морфологическими структурами, ранее выявленными в клинических исследованиях карциномы молочной железы: трабекулярной, солидной, тубулярной и альвеолярной структурами, а также дискретными клетками с амебоидным поведением. Обсуждается возможный сценарий морфогенеза и типа инвазивного поведения для каждой структуры. Описан процесс метастазирования, при котором одиночная раковая клетка амебоидного фенотипа, перемещающаяся за счет интеркаляций в ткани здорового эпителия, делится и испытывает МЭ-переход с появлением вторичной опухоли.

In this paper, we proposed a two-dimensional chemo-mechanical model of the growth of invasive carcinoma in epithelial tissue. Each cell is modeled by an elastic polygon, changing its shape and size under the influence of pressure forces acting from the tissue. The average size and shape of the cells have been calibrated on the basis of experimental data. The model allows to describe the dynamic deformations in epithelial tissue as a collective evolution of cells interacting through the exchange of mechanical and chemical signals. The general direction of tumor growth is controlled by a pre-established linear gradient of nutrient concentration. Growth and deformation of the tissue occurs due to the mechanisms of cell division and intercalation. We assume that carcinoma has a heterogeneous structure made up of cells of different phenotypes that perform various functions in the tumor. The main parameter that determines the phenotype of a cell is the degree of its adhesion to the adjacent cells. Three main phenotypes of cancer cells are distinguished: the epithelial (E) phenotype is represented by internal tumor cells, the mesenchymal (M) phenotype is represented by single cells and the intermediate phenotype is represented by the frontal tumor cells. We assume also that the phenotype of each cell under certain conditions can change dynamically due to epithelial-mesenchymal (EM) and inverse (ME) transitions. As for normal cells, we define the main E-phenotype, which is represented by ordinary cells with strong adhesion to each other. In addition, the normal cells that are adjacent to the tumor undergo a forced EM-transition and form an M-phenotype of healthy cells. Numerical simulations have shown that, depending on the values of the control parameters as well as a combination of possible phenotypes of healthy and cancer cells, the evolution of the tumor can result in a variety of cancer structures reflecting the self-organization of tumor cells of different phenotypes. We compare the structures obtained numerically with the morphological structures revealed in clinical studies of breast carcinoma: trabecular, solid, tubular, alveolar and discrete tumor structures with ameboid migration. The possible scenario of morphogenesis for each structure is discussed. We describe also the metastatic process during which a single cancer cell of ameboid phenotype moves due to intercalation in healthy epithelial tissue, then divides and undergoes a ME transition with the appearance of a secondary tumor.

Важнейшим принципом военной науки и пограничной безопасности является принцип сосредоточения основных усилий на главных направлениях и задачах. На тактическом уровне имеется множество математических моделей для вычисления оптимального распределения ресурса по направлениям и объектам, тогда как на уровне государства соответствующие модели отсутствуют. Используя статистические данные о результатах охраны границы США, вычислен параметр пограничной производственной функции экспоненциального типа, отражающий организационно-технологические возможности пограничной охраны. Производственная функция определяет зависимость вероятности задержания нарушителей от плотности пограничников на километр границы. Финансовые показатели в производственной функции не учитываются, поскольку бюджет на содержание пограничников и оборудование границы коррелирует с количеством пограничных агентов. Определена целевая функция пограничной охраны — суммарный предотвращенный ущерб от задержанных нарушителей с учетом их ожидаемой опасности для государства и общества, подлежащий максимизации. Используя условие Слейтера, найдено решение задачи — вычислены оптимальные плотности пограничной охраны по регионам государства. Имея модель распределения ресурсов, на примере трех пограничных регионов США решена и обратная задача — оценены угрозы в регионах по известному распределению ресурсов. Ожидаемая опасность от отдельного нарушителя на американо-канадской границе в 2–5 раз выше, чем от нарушителя на американо-мексиканской границе. Результаты расчетов соответствуют взглядам специалистов по безопасности США — на американо-мексиканской границе в основном задерживаются нелегальные мигранты, тогда как потенциальные террористы предпочитают использовать другие каналы проникновения в США (включая американо-канадскую границу), где риски быть задержанными минимальны. Также результаты расчетов соответствуют сложившейся практике охраны границы: в 2013 г. численность пограничников вне пунктов пропуска на американо-мексиканской границе увеличилась в 2 раза по сравнению с 2001 г., тогда как на американо-канадской границе — в 4 раза. Практика охраны границы и взгляды специалистов дают основания для утверждения о верификации модели.

The most important principle of military science and border security is the principle of concentrating the main efforts on the main directions and tasks. At the tactical level, there are many mathematical models for computing the optimal resource allocation by directions and objects, whereas at the state level there are no corresponding models. Using the statistical data on the results of the protection of the US border, an exponential type border production function parameter is calculated that reflects the organizational and technological capabilities of the border guard. The production function determines the dependence of the probability of detaining offenders from the density of border guards per kilometer of the border. Financial indicators in the production function are not taken into account, as the border maintenance budget and border equipment correlate with the number of border agents. The objective function of the border guards is defined — the total prevented damage from detained violators taking into account their expected danger for the state and society, which is to be maximized. Using Slater's condition, the solution of the problem was found — optimal density of border guard was calculated for the regions of the state. Having a model of resource allocation, the example of the three border regions of the United States has also solved the reverse problem — threats in the regions have been assessed based on the known allocation of resources. The expected danger from an individual offender on the US-Canada border is 2–5 times higher than from an offender on the US-Mexican border. The results of the calculations are consistent with the views of US security experts: illegal migrants are mostly detained on the US-Mexican border, while potential terrorists prefer to use other channels of penetration into the US (including the US-Canadian border), where the risks of being detained are minimal. Also, the results of the calculations are consistent with the established practice of border protection: in 2013 the number of border guards outside the checkpoints on the US-Mexican border increased by 2 times compared with 2001, while on the American-Canadian border — 4 times. The practice of border protection and the views of specialists give grounds for approval of the verification of the model.

В данной статье проводится анализ проблемы распознавания знаков дорожного движения в интеллектуальных транспортных системах. Рассмотрены основные понятия компьютерного зрения и задачи распознавания образов. Самым эффективным и популярным подходом к решению задач анализа и распознавания изображений на данный момент является нейросетевой, а среди возможных нейронных сетей лучше всего показала себя искусственная нейронная сеть сверточной архитектуры. Для решения задачи классификации при распознавании дорожных знаков использованы такие функции активации, как Relu и SoftMax. В работе предложена технология распознавания дорожных знаков. Выбор подхода для решения поставленной задачи на основе сверточной нейронной сети обусловлен возможностью эффективно решать задачу выделения существенных признаков и классификации изображений. Проведена подготовка исходных данных для нейросетевой модели, сформирована обучающая выборка. В качестве платформы для разработки интеллектуальной нейросетевой модели распознавания использован облачный сервис Google Colaboratory с подключенными библиотеками для глубокого обучения TensorFlow и Keras. Разработана и протестирована интеллектуальная модель распознавания знаков дорожного движения. Использованная сверточная нейронная сеть включала четыре каскада свертки и подвыборки. После сверточной части идет полносвязная часть сети, которая отвечает за классификацию. Для этого используются два полносвязных слоя. Первый слой включает 512 нейронов с функцией активации Relu. Затем идет слой Dropout, который используется для уменьшения эффекта переобучения сети. Выходной полносвязный слой включает четыре нейрона, что соответствует решаемой задаче распознавания четырех видов знаков дорожного движения. Оценка эффективности нейросетевой модели распознавания дорожных знаков методом трехблочной кроссалидации показала, что ее ошибка минимальна, следовательно, в большинстве случаев новые образы будут распознаваться корректно. Кроме того, у модели отсутствуют ошибки первого рода, а ошибка второго рода имеет низкое значение и лишь при сильно зашумленном изображении на входе.

This work analyzes the problem of traffic signs recognition in intelligent transport systems. The basic concepts of computer vision and image recognition tasks are considered. The most effective approach for solving the problem of analyzing and recognizing images now is the neural network method. Among all kinds of neural networks, the convolutional neural network has proven itself best. Activation functions such as Relu and SoftMax are used to solve the classification problem when recognizing traffic signs. This article proposes a technology for recognizing traffic signs. The choice of an approach for solving the problem based on a convolutional neural network due to the ability to effectively solve the problem of identifying essential features and classification. The initial data for the neural network model were prepared and a training sample was formed. The Google Colaboratory cloud service with the external libraries for deep learning TensorFlow and Keras was used as a platform for the intelligent system development. The convolutional part of the network is designed to highlight characteristic features in the image. The first layer includes 512 neurons with the Relu activation function. Then there is the Dropout layer, which is used to reduce the effect of overfitting the network. The output fully connected layer includes four neurons, which corresponds to the problem of recognizing four types of traffic signs. An intelligent traffic sign recognition system has been developed and tested. The used convolutional neural network included four stages of convolution and subsampling. Evaluation of the efficiency of the traffic sign recognition system using the three-block cross-validation method showed that the error of the neural network model is minimal, therefore, in most cases, new images will be recognized correctly. In addition, the model has no errors of the first kind, and the error of the second kind has a low value and only when the input image is very noisy.