All issues

Одна из серьезных проблем, ограничивающих применение импульсных нейронных сетей в прикладных информационных системах, — это кодирование числовых данных в виде последовательностей спайков — бескачественных атомарных объектов, которыми обмениваются нейроны в импульсных нейросетях. Особенно остро эта проблема стоит в задачах обучения с подкреплением агентов, функционирующих в динамичном реальном мире, так как кроме точности кодирования надо учитывать еще его динамические характеристики. Одним из распространенных является метод кодирования гауссовыми рецептивными полями (ГРП). В этом методе одна числовая переменная, подаваемая на вход импульсной нейронной сети, представляется потоками спайков, испускаемых некоторым количеством входных узлов сети. При этом частота генерации спайков каждым входным узлом отражает близость текущего значения этой переменой к значению — центру рецептивного поля, соответствующего данному входному узлу. В стандартном методе ГРП центры рецептивных полей расположены эквидистантно. Это оказывается неэффективным в случае очень неравномерного распределения кодируемой величины. В настоящей работе предлагается усовершенствование этого метода, основанное на адаптивном выборе центров рецептивных полей и вычислении частот потоков спайков. Производится сравнение предлагаемого усовершенствованного метода ГРП с его стандартным вариантом с точки зрения объема сохраняемой при кодировании информации и с точки зрения точности классификационной модели, построенной на закодированных в виде спайков данных. Доля сохраняемой при спайковом кодировании информации для стандартного и адаптивного ГРП оценивается с помощью процедуры прямого и обратного кодирования большой выборки числовых значений из треугольного распределения вероятности и сравнения числа совпадающих бит в исходной и восстановленной выборке. Сравнение на основе точности классификации проводилось на задаче оценки текущего состояния, возникающей при реализации обучения с подкреплением. При этом классификационные модели строились тремя принципиально различными алгоритмами машинного обучения — алгоритмом ближайших соседей, случайным лесом решений и многослойным персептроном. В статье демонстрируется преимущество предложенного нами метода во всех проведенных тестах.

Conversion of numeric data to the spiking form and information losses in this process are serious problems limiting usage of spiking neural networks in applied informational systems. While physical values are represented by numbers, internal representation of information inside spiking neural networks is based on spikes — elementary objects emitted and processed by neurons. This problem is especially hard in the reinforcement learning applications where an agent should learn to behave in the dynamic real world because beside the accuracy of the encoding method, its dynamic characteristics should be considered as well. The encoding algorithm based on the Gaussian receptive fields (GRF) is frequently used. In this method, one numeric variable fed to the network is represented by spike streams emitted by a certain set of network input nodes. The spike frequency in each stream is determined by proximity of the current variable value to the center of the receptive field corresponding to the given input node. In the standard GRF algorithm, the receptive field centers are placed equidistantly. However, it is inefficient in the case of very uneven distribution of the variable encoded. In the present paper, an improved version of this method is proposed which is based on adaptive selection of the Gaussian centers and spike stream frequencies. This improved GRF algorithm is compared with its standard version in terms of amount of information lost in the coding process and of accuracy of classification models built on spike-encoded data. The fraction of information retained in the process of the standard and adaptive GRF encoding is estimated using the direct and reverse encoding procedures applied to a large sample from the triangular probability distribution and counting coinciding bits in the original and restored samples. The comparison based on classification was performed on a task of evaluation of current state in reinforcement learning. For this purpose, the classification models were created by machine learning algorithms of very different nature — nearest neighbors algorithm, random forest and multi-layer perceptron. Superiority of our approach is demonstrated on all these tests.

Традиционные методы решения задачи коммивояжера не являются эффективными для задач высокой размерности из-за их высокой вычислительной сложности. Одним из эффективных способов решения этой проблемы является декомпозиционный подход, который включает в себя три основных этапа: кластеризацию вершин, решение подзадач внутри каждого кластера и последующее объединение полученных решений в итоговое. В данной статье основное внимание уделяется третьему этапу — объединению циклов решений подзадач, поскольку этому этапу не всегда уделяется должное внимание, что приводит к менее точному итоговому решению. В статье предлагается новый модифицированный алгоритм Сигала для объединения циклов. Для оценки его эффективности проводится сравнение с двумя алгоритмами объединения циклов: метод соединения средних точек ребер и алгоритм на основе близости центроидов кластеров. Исследуется зависимость качества решения подзадач на алгоритмы объединения циклов. Модифицированный алгоритм Сигала выполняет попарное объединение кластеров, минимизируя количество пересечений и общее расстояние. Метод центроидов ориентирован на соединение кластеров на основе близости центроидов, а алгоритм с использованием средних точек оценивает расстояние между средними точками ребер. Также были рассмотрены два типа кластеризации: алгоритмы k-means и affinity propagation. Для проверки эффективности предложенного алгоритма были проведены численные эксперименты на наборе данных TSPLIB с различным количеством городов. В исследовании анализируются ошибки, вызванные порядком объединения кластеров, качеством решения подзадач и количеством кластеров. Эксперименты показали, что модифицированный алгоритм Сигала демонстрирует наименьшую медиану итогового расстояния и наиболее устойчивые результаты по сравнению с другими методами. Результаты указывают на большую устойчивость качества конечного решения, полученным модифицированным алгоритмом Сигала, от последовательности объединения кластеров. Повышение качества решения подзадачи обычно приводит к линейному улучшению конечного решения, но используемый алгоритм объединения редко влияет на степень этого улучшения.

Traditional methods for solving the traveling salesman problem are not effective for high-dimensional problems due to their high computational complexity. One of the most effective ways to solve this problem is the decomposition approach, which includes three main stages: clustering vertices, solving subproblems within each cluster and then merging the obtained solutions into a final solution. This article focuses on the third stage — merging cycles of solving subproblems — since this stage is not always given sufficient attention, which leads to less accurate final solutions of the problem. The paper proposes a new modified Sigal algorithm for merging cycles. To evaluate its effectiveness, it is compared with two algorithms for merging cycles — the method of connecting midpoints of edges and an algorithm based on closeness of cluster centroids. The dependence of quality of solving subproblems on algorithms used for merging cycles is investigated. Sigal’s modified algorithm performs pairwise clustering and minimizes total distance. The centroid method focuses on connecting clusters based on closeness of centroids, and an algorithm using mid-points estimates the distance between mid-points of edges. Two types of clustering — k-means and affinity propagation — were also considered. Numerical experiments were performed using the TSPLIB dataset with different numbers of cities and topologies to test effectiveness of proposed algorithm. The study analyzes errors caused by the order in which clusters were merged, the quality of solving subtasks and number of clusters. Experiments show that the modified Sigal algorithm has the smallest median final distance and the most stable results compared to other methods. Results indicate that the quality of the final solution obtained using the modified Sigal algorithm is more stable depending on the sequence of merging clusters. Improving the quality of solving subproblems usually results in linear improvement of the final solution, but the pooling algorithm rarely affects the degree of this improvement.

Рассматривается математическая модель, описывающая конкуренцию за неоднородный ресурс двух близкородственных видов на одномерном ареале. Распространение популяций определяется диффузией и направленной миграцией, а рост подчиняется логистическому закону. Исследуются решения соответствующей начально-краевой задачи для нелинейных уравнений параболического типа с переменными коэффициентами (функция ресурса, параметры роста, диффузии и миграции). Для анализа формирования популяционных структур применяется подход на основе теории косимметричных динамических систем В. И. Юдовича. Аналитически получены условия на параметры системы, при выполнении которых у системы имеется нетривиальная косимметрия. В численном эксперименте подтверждено возникновение непрерывного семейства стационарных решений при выполнении условий существования косимметрии. Расчетная схема основана на конечно-разностной дискретизации по пространственной переменной с использованием интегро-интерполяционного метода и интегрировании по времени методом Рунге–Кутты. Далее численно исследовано влияние параметров диффузии и миграции на пространственно-временные сценарии развития популяций. В окрестности многообразия, соответствующего косимметрии задачи, рассчитаны нейтральные кривые диффузионных параметров, отвечающих границам устойчивости решений с одной популяцией. Для ряда значений параметров миграции и функций ресурса с одним и двумя максимумами построены карты областей параметров, которые соответствуют различным сценариям сосуществования и вытеснения видов. В частности, найдены области параметров, при которых выживание того или иного вида определяется условиями начального размещения. Отмечено, что реализуемая при этом динамика может быть нетривиальна: после начального снижения плотностей обоих видов наблюдается последующий рост одной популяции и убывание другой. Проведенный анализ показал, что области диффузионных параметров, отвечающих различным сценариям формирования популяционных структур, группируются вблизи линий, соответствующих косимметрии рассматриваемой математической модели. Полученные карты позволяют объяснить медленную динамику системы близостью к косимметричному случаю и дать трактовку эффекта выживания популяции за счет изменения диффузионной мобильности при исчерпании ресурса.

We consider a mathematical model describing the competition for a heterogeneous resource of two populations on a one-dimensional area. Distribution of populations is governed by diffusion and directed migration, species growth obeys to the logistic law. We study the corresponding problem of nonlinear parabolic equations with variable coefficients (function of a resource, parameters of growth, diffusion and migration). Approach on the theory the cosymmetric dynamic systems of V. Yudovich is applied to the analysis of population patterns. Conditions on parameters for which the problem under investigation has nontrivial cosymmetry are analytically derived. Numerical experiment is used to find an emergence of continuous family of steady states when cosymmetry takes place. The numerical scheme is based on the finite-difference discretization in space using the balance method and integration on time by Runge-Kutta method. Impact of diffusive and migration parameters on scenarios of distribution of populations is studied. In the vicinity of the line, corresponding to cosymmetry, neutral curves for diffusive parameters are calculated. We present the mappings with areas of diffusive parameters which correspond to scenarios of coexistence and extinction of species. For a number of migration parameters and resource functions with one and two maxima the analysis of possible scenarios is carried out. Particularly, we found the areas of parameters for which the survival of each specie is determined by initial conditions. It should be noted that dynamics may be nontrivial: after starting decrease in densities of both species the growth of only one population takes place whenever another specie decreases. The analysis has shown that areas of the diffusive parameters corresponding to various scenarios of population patterns are grouped near the cosymmetry lines. The derived mappings allow to explain, in particular, effect of a survival of population due to increasing of diffusive mobility in case of starvation.