All issues

В данной работе изучаются механизмы рабочей памяти в импульсных нейронных сетях, состоящих из нейронов – интеграторов с утечкой и адаптивным порогом при включенной синаптической пластичности. Исследовались относительно небольшие сети, включающие тысячи нейронов. Рабочая память трактовалась как способность нейронной сети удерживать в своем состоянии информацию о предъявленных ей в недавнем прошлом стимулах, так что по этой информации можно было бы определить, какой стимул был предъявлен. Под состоянием сети в данном исследовании понимаются только характеристики активности сети, не включая внутреннего состояния ее нейронов. Для выявления нейронных структур, которые могли бы выполнять функцию носителей рабочей памяти, была проведена оптимизация параметров и структуры импульсной нейронной сети с помощью генетического алгоритма. Были обнаружены два типа таких нейронных структур: пары нейронов, соединенных связями с большими весами, и длинные древовидные нейронные цепи. Было показано, что качественная рабочая память может быть реализована только с помощью сильно связанных нейронных пар. В работе исследованы свойства таких ячеек памяти и образуемых ими структур. Показано, что характеристики изучаемых двухнейронных ячеек памяти легко задаются параметрами входящих в них нейронов и межнейронных связей. Выявлен интересный эффект повышения селективности пары нейронов за счет несовпадения наборов их афферентных связей и взаимной активации. Продемонстрировано также, что ансамбли таких структур могут быть использованы для реализации обучения без учителя распознаванию паттернов во входном сигнале.

Working memory mechanisms in spiking neural networks consisting of leaky integrate-and-fire neurons with adaptive threshold and synaptic plasticity are studied in this work. Moderate size networks including thousands of neurons were explored. Working memory is a network ability to keep in its state the information about recent stimuli presented to the network such that this information is sufficient to determine which stimulus has been presented. In this study, network state is defined as the current characteristics of network activity only — without internal state of its neurons. In order to discover the neuronal structures serving as a possible substrate of the memory mechanism, optimization of the network parameters and structure using genetic algorithm was carried out. Two kinds of neuronal structures with the desired properties were found. These are neuron pairs mutually connected by strong synaptic links and long tree-like neuronal ensembles. It was shown that only the neuron pairs are suitable for efficient and reliable implementation of working memory. Properties of such memory units and structures formed by them are explored in the present study. It is shown that characteristics of the studied two-neuron memory units can be set easily by the respective choice of the parameters of its neurons and synaptic connections. Besides that, this work demonstrates that ensembles of these structures can provide the network with capability of unsupervised learning to recognize patterns in the input signal.

Задача вероятностного тематического моделирования заключается в том, чтобы по заданной коллекции текстовых документов найти две матрицы: матрицу условных вероятностей тем в документах и матрицу условных вероятностей слов в темах. Каждый документ представляется в виде мультимножества слов, то есть предполагается, что для выявления тематики документа не важен порядок слов в нем, а важна только их частота. При таком предположении задача сводится к вычислению низкорангового неотрицательного матричного разложения, наилучшего по критерию максимума правдоподобия. Данная задача имеет в общем случае бесконечное множество решений, то есть является некорректно поставленной. Для регуляризации ее решения к логарифму правдоподобия добавляется взвешенная сумма оптимизационных критериев, с помощью которых формализуются дополнительные требования к модели. При моделировании больших текстовых коллекций хранение первой матрицы представляется нецелесообразным, поскольку ее размер пропорционален числу документов в коллекции. В то же время тематические векторные представления документов необходимы для решения многих задач текстовой аналитики — информационного поиска, кластеризации, классификации, суммаризации текстов. На практике тематический вектор вычисляется для каждого документа по необходимости, что может потребовать десятков итераций по всем словам документа. В данной работе предлагается способ быстрого вычисления тематического вектора для произвольного текста, требующий лишь одной итерации, то есть однократного прохода по всем словам документа. Для этого в модель вводится дополнительное ограничение в виде уравнения, позволяющего вычислять первую матрицу через вторую за линейное время. Хотя формально данное ограничение не является оптимизационным критерием, фактически оно выполняет роль регуляризатора и может применяться в сочетании с другими критериями в рамках теории аддитивной регуляризации тематических моделей ARTM. Эксперименты на трех свободно доступных текстовых коллекциях показали, что предложенный метод улучшает качество модели по пяти оценкам качества, характеризующим разреженность, различность, информативность и когерентность тем. Для проведения экспериментов использовались библиотеки с открытымк одомB igARTM и TopicNet.

The probabilistic topic model of a text document collection finds two matrices: a matrix of conditional probabilities of topics in documents and a matrix of conditional probabilities of words in topics. Each document is represented by a multiset of words also called the “bag of words”, thus assuming that the order of words is not important for revealing the latent topics of the document. Under this assumption, the problem is reduced to a low-rank non-negative matrix factorization governed by likelihood maximization. In general, this problem is ill-posed having an infinite set of solutions. In order to regularize the solution, a weighted sum of optimization criteria is added to the log-likelihood. When modeling large text collections, storing the first matrix seems to be impractical, since its size is proportional to the number of documents in the collection. At the same time, the topical vector representation (embedding) of documents is necessary for solving many text analysis tasks, such as information retrieval, clustering, classification, and summarization of texts. In practice, the topical embedding is calculated for a document “on-the-fly”, which may require dozens of iterations over all the words of the document. In this paper, we propose a way to calculate a topical embedding quickly, by one pass over document words. For this, an additional constraint is introduced into the model in the form of an equation, which calculates the first matrix from the second one in linear time. Although formally this constraint is not an optimization criterion, in fact it plays the role of a regularizer and can be used in combination with other regularizers within the additive regularization framework ARTM. Experiments on three text collections have shown that the proposed method improves the model in terms of sparseness, difference, logLift and coherence measures of topic quality. The open source libraries BigARTM and TopicNet were used for the experiments.

Современная цифровизация городов происходит по законам, которые пока не четко определены. Сложность понимания этих законов связана с высокой неопределенностью городских событий и трудностей формирования их адекватных аналитических моделей. Для обоснования целесообразных управляющих решений по цифровизации городов в этих условиях необходимо наличие эффективных методов обработки многомерных временных рядов. Ставится задача по разработке одного из перспективных методов. Основу предлагаемого метода составляют новая модель нейросетевой системы управления и алгоритмы реализации ее основных функций. К отличительным особенностям модели относятся как структурные аспекты, так и новые правила нейросетевого обоснования управляющих решений по цифровизации города с обучением применяемой рекуррентной нейронной сети без учителя. Эта модель предусматривает адаптивное нейросетевое управление цифровизацией города по скользящей программе. Предложены новые правила прямого и обратного преобразования многомерных временных рядов, моделирования работы потоковой импульсной рекуррентной нейронной сети, поиска целесообразных программ цифровизации города. Предложенные правила позволяют исключить потери информации в такой сети и обеспечить ее устойчивое функционирование. Отражены особенности работы этой нейронной сети при обосновании целесообразных программ цифровизации города. Обоснованы требования к программной реализации предложенного метода. Приведены результаты экспериментов на данных по Санкт-Петербургу. В качестве этих данных выступали месячные объемы отгруженных компьютеров, электронных и оптических изделий, а также месячные объемы отгруженной продукции по всем обрабатывающим производствам за вычетом значений первого ряда на интервале с января 2021 года по декабрь 2025 года. Прогнозирование эффективности управляющих решений по цифровизации города осуществлялось по суммарным объемам отгруженной продукции на горизонт с января по декабрь 2026 года. Показано, что применение предложенного метода позволяет расширить возможности по адаптивному обоснованию целесообразных управляющих решений по цифровизации города со снижением затрат на компьютерное моделирование.

The modern digitalization of cities occurs according to laws that are not yet clearly defined. The difficulty in understanding these laws is due to the high uncertainty of urban events and the difficulties in developing adequate analytical models for them. To substantiate management decisions on city digitalization in these conditions, effective methods for processing multidimensional time series are necessary. The objective is to develop a promising method. The proposed method is based on a new model of a neural network control system and algorithms for implementing its main functions. Distinctive features of the model include both structural aspects and new rules for neural network-based substantiation of management decisions on city digitalization, using unsupervised training of the applied recurrent neural network. This model provides for adaptive neural network management of city digitalization according to a sliding program. New rules are proposed for the forward and backward transformation of multidimensional time series, modeling the operation of a streaming recurrent neural network, and identifying feasible programs for city digitalization. By adhering to the proposed rules, it is possible not only to eliminate information loss in such a network but also to ensure its stable operation. The features of this neural network’s operation in substantiating feasible urban digitalization programs are described. The requirements for the software implementation of the proposed method are substantiated. The results of experiments using data for St. Petersburg are presented. These data included monthly volumes of shipped computers, electronic and optical products, as well as monthly volumes of shipped products for all manufacturing industries minus the first-time series values ??for the period from January 2021 to December 2025. The effectiveness of management decisions on the city’s digitalization was predicted based on the total volumes of shipped products to the horizon from January to December 2026. It is shown that the application of the proposed method allows for expanded capabilities for adaptively substantiating feasible management decisions on the city’s digitalization while reducing computer modeling costs.