All issues

В предлагаемой статье приводятся результаты аналитического и компьютерного исследования коллективных динамических свойств цепочки автоколебательных систем (условно — осцилляторов). Предполагается, что связи отдельных элементов цепочки являются невзаимными, однонаправленными. Точнее, предполагается, что каждый элемент цепочки находится под воздействием предыдущего, в то время как обратная реакция отсутствует (физически несущественна). В этом состоит главная особенность цепочки. Данную систему можно интерпретировать как активную дискретную среду с однонаправленным переносом, в частности переносом вещества. Подобные цепочки могут являться математическими моделями реальных систем с решеточной структурой, имеющих место в самых различных областях естествознания и техники: в физике, химии, биологии, радиотехнике, экономике и др. Также они могут быть моделями технологических и вычислительных процессов. В качестве элементов решетки выбраны нелинейные автоколебательные системы (условно — осцилляторы) с широким спектром потенциально возможных индивидуальных автоколебаний: от периодических до хаотических. Это позволяет исследовать различные динамические режимы цепочки от регулярных до хаотических, меняя параметры элементов и не меняя природу самих элементов. Совместное применение качественных методов теории динамических систем и качественно-численных методов позволяет получить обозримую картину всевозможных динамических режимов цепочки. Исследуются условия существования и устойчивости пространственно однородных динамических режимов (детерминированных и хаотических) цепочки. Аналитические результаты иллюстрированы численным экспериментом. Исследуются динамические режимы цепочки при возмущениях параметров на ее границе. Показывается возможность управления динамическими режимами цепочки путем включения необходимого возмущения на границе. Рассматриваются различные случаи динамики цепочек, составленных из неоднородных (различных по своим параметрам) элементов. Аналитически и численно исследуется глобальная (всех осцилляторов цепочки) хаотическая синхронизация.

This article presents the results of an analytical and computer study of the collective dynamic properties of a chain of self-oscillating systems (conditionally — oscillators). It is assumed that the couplings of individual elements of the chain are non-reciprocal, unidirectional. More precisely, it is assumed that each element of the chain is under the influence of the previous one, while the reverse reaction is absent (physically insignificant). This is the main feature of the chain. This system can be interpreted as an active discrete medium with unidirectional transfer, in particular, the transfer of a matter. Such chains can represent mathematical models of real systems having a lattice structure that occur in various fields of natural science and technology: physics, chemistry, biology, radio engineering, economics, etc. They can also represent models of technological and computational processes. Nonlinear self-oscillating systems (conditionally, oscillators) with a wide “spectrum” of potentially possible individual self-oscillations, from periodic to chaotic, were chosen as the “elements” of the lattice. This allows one to explore various dynamic modes of the chain from regular to chaotic, changing the parameters of the elements and not changing the nature of the elements themselves. The joint application of qualitative methods of the theory of dynamical systems and qualitative-numerical methods allows one to obtain a clear picture of all possible dynamic regimes of the chain. The conditions for the existence and stability of spatially-homogeneous dynamic regimes (deterministic and chaotic) of the chain are studied. The analytical results are illustrated by a numerical experiment. The dynamical regimes of the chain are studied under perturbations of parameters at its boundary. The possibility of controlling the dynamic regimes of the chain by turning on the necessary perturbation at the boundary is shown. Various cases of the dynamics of chains comprised of inhomogeneous (different in their parameters) elements are considered. The global chaotic synchronization (of all oscillators in the chain) is studied analytically and numerically.

Методы оптимизации первого порядка являются важным рабочим инструментов для широкого спектра современных приложений в разных областях, среди которых можно выделить экономику, физику, биологию, машинное обучение и управление. Среди методов первого порядка особого внимания заслуживают ускоренные (моментные) методы в силу их практической эффективности. Метод тяжелого шарика (heavy-ball method — HB) — один из первых ускоренных методов. Данный метод был разработан в 1964 г., и для него был проведен анализ сходимости для квадратичных сильно выпуклых функций. С тех пор были предложены и проанализированы разные варианты HB. В частности, HB известен своей простотой реализации и эффективностью при решении невыпуклых задач. Однако, как и другие моментные методы, он имеет немонотонное поведение; более того, при сходимости HB с оптимальными параметрами наблюдается нежелательное явление, называемое пик-эффектом. Чтобы решить эту проблему, в этой статье мы рассматриваем усредненную версию метода тяжелого шарика (averaged heavy-ball method — AHB). Мы показываем, что для квадратичных задач AHB имеет меньшее максимальное отклонение от решения, чем HB. Кроме того, для общих выпуклых и сильно выпуклых функций доказаны неускоренные скорости глобальной сходимости AHB, его версии WAHB cо взвешенным усреднением, а также для AHB с рестартами R-AHB. Насколько нам известно, такие гарантии для HB с усреднением не были явно доказаны для сильно выпуклых задач в существующих работах. Наконец, мы проводим несколько численных экспериментов для минимизации квадратичных и неквадратичных функций, чтобы продемонстрировать преимущества использования усреднения для HB. Кроме того, мы также протестировали еще одну модификацию AHB, называемую методом tail-averaged heavy-ball (TAHB). В экспериментах мы наблюдали, что HB с правильно настроенной схемой усреднения сходится быстрее, чем HB без усреднения, и имеет меньшие осцилляции.

First-order optimization methods are workhorses in a wide range of modern applications in economics, physics, biology, machine learning, control, and other fields. Among other first-order methods accelerated and momentum ones obtain special attention because of their practical efficiency. The heavy-ball method (HB) is one of the first momentum methods. The method was proposed in 1964 and the first analysis was conducted for quadratic strongly convex functions. Since then a number of variations of HB have been proposed and analyzed. In particular, HB is known for its simplicity in implementation and its performance on nonconvex problems. However, as other momentum methods, it has nonmonotone behavior, and for optimal parameters, the method suffers from the so-called peak effect. To address this issue, in this paper, we consider an averaged version of the heavy-ball method (AHB). We show that for quadratic problems AHB has a smaller maximal deviation from the solution than HB. Moreover, for general convex and strongly convex functions, we prove non-accelerated rates of global convergence of AHB, its weighted version WAHB, and for AHB with restarts R-AHB. To the best of our knowledge, such guarantees for HB with averaging were not explicitly proven for strongly convex problems in the existing works. Finally, we conduct several numerical experiments on minimizing quadratic and nonquadratic functions to demonstrate the advantages of using averaging for HB. Moreover, we also tested one more modification of AHB called the tail-averaged heavy-ball method (TAHB). In the experiments, we observed that HB with a properly adjusted averaging scheme converges faster than HB without averaging and has smaller oscillations.

В работе предлагается многоагентная локально-нелокальная модель образования глобальной структуры городов с условным названием Technoscape. Technoscape можно в определенной степени считать также моделью возникновения глобальной экономики. Текущий вариант модели рассматривает очень простые способы поведения и взаимодействия агентов, при этом модель демонстрирует весьма интересные пространственно-временные паттерны.

Под локальностью и нелокальностью понимаются пространственные характеристики способа взаимодействия агентов друг с другом и с географическим пространством, на котором разворачивается эволюция системы. Под агентом понимается условный ремесленник, семья или промышленно-торговая фирма, причем не делается разницы между производством и торговлей. Агенты размещены на ограниченном двумерном пространстве, разбитом на квадратные ячейки, и перемещаются по нему. Модель демонстрирует процессы высокой концентрации агентов в выделенных ячейках, что трактуется как образование Technoscape: мультиагентная модель эволюции «сетигородов». Происходит постоянный процесс как возникновения, так и исчезновения городов. Агенты живут Technoscape: мультиагентная модель эволюции «сетивечно», не мутируют и не эволюционируют, хотя это перспективное направление развития модели.

Система Technoscape демонстрирует качественно новый вид самоорганизации. Частично эта самоорганизация напоминает поведение модели сегрегации по Томасу Шеллингу, однако эволюционные правила Technoscape существенно иные. В модели Шеллинга существуют лавины, но без добавления новых агентов в системе существуют простые равновесия, в то время как в Technoscape не существует даже строгих равновесий, в лучшем случае квазиравновесные, медленно изменяющиеся состояния.

Нетривиальный результат в модели Technoscape, также контрастирующий с моделью сегрегации Шеллинга, состоит в том, что агенты проявляют склонность к концентрации в больших городах даже при полном игнорировании локальных связей.

При этом, хотя агенты и стремятся в большие города, размер города не является гарантией стабильности. По ходу эволюции системы происходит постоянное Technoscape: мультиагентная модель эволюции «сетипереманивание» жителей в другие города такого же класса.

The paper presents agent-based model for city formation named Technoscape which is both local and nonlocal. Technoscape can, to a certain degree, be also assumed as a model for emergence of global economy. The current version of the model implements very simple way of agents’ behavior and interaction, still the model provides rather interesting spatio-temporal patterns.

Locality and non-locality mean here the spatial features of the way the agents interact with each other and with geographical space upon which the evolution takes place. Technoscape agent is some conventional artisan, family, or а producing and trading firm, while there is no difference between production and trade. Agents are located upon and move through bounded two-dimensional space divided into square cells. The model demonstrates processes of agents’ concentration in a small set of cells, which is interpreted as «city» formation. Agents are immortal, they don’t mutate and evolve, though this is interesting perspective for the evolution of the model itself.

Technoscape provides some distinctively new type of self-organization. Partially, this type of selforganization resembles the behavior of segregation model by Thomas Shelling, still that model has evolution rules substantially different from Technoscape. In Shelling model there exist avalanches still simple equilibria exist if no new agents are added to the game board, while in Technoscape no such equilibria exist. At best, we can observe quasi-equilibrium, slowly changing global states.

One non-trivial phenomenon Technoscape exhibits, which also contrasts to Shelling segregation model, is the ability of agents to concentrate in local cells (interpreted as cities) even explicitly and totally ignoring local interactions, using non-local interactions only.

At the same time, while the agents tend to concentrate in large one-cell cities, large scale of such cities does not guarantee them from decay: there always exists a process of «enticement» of agents and their flow to new cities.