All issues

Интерпретируемость моделей глубокого обучения стала центром исследований, особенно в таких областях, как здравоохранение и финансы. Модели с «бутылочным горлышком», используемые для выявления концептов, стали перспективным подходом для достижения прозрачности и интерпретируемости за счет использования набора известных пользователю понятий в качестве промежуточного представления перед слоем предсказания. Однако ручное аннотирование понятий не затруднено из-за больших затрат времени и сил. В нашей работе мы исследуем потенциал больших языковых моделей (LLM) для создания высококачественных банков концептов и предлагаем мультимодальную метрику для оценки качества генерируемых концептов. Мы изучили три ключевых вопроса: способность LLM генерировать банки концептов, сопоставимые с существующими базами знаний, такими как ConceptNet, достаточность унимодального семантического сходства на основе текста для оценки ассоциаций концептов с метками, а также эффективность мультимодальной информации для количественной оценки качества генерации концептов по сравнению с унимодальным семантическим сходством концепт-меток. Наши результаты показывают, что мультимодальные модели превосходят унимодальные подходы в оценке сходства между понятиями и метками. Более того, сгенерированные нами концепты для наборов данных CIFAR-10 и CIFAR-100 превосходят те, что были получены из ConceptNet и базовой модели, что демонстрирует способность LLM генерировать высококачественные концепты. Возможность автоматически генерировать и оценивать высококачественные концепты позволит исследователям работать с новыми наборами данных без дополнительных усилий.

Interpretability in recent deep learning models has become an epicenter of research particularly in sensitive domains such as healthcare, and finance. Concept bottleneck models have emerged as a promising approach for achieving transparency and interpretability by leveraging a set of humanunderstandable concepts as an intermediate representation before the prediction layer. However, manual concept annotation is discouraged due to the time and effort involved. Our work explores the potential of large language models (LLMs) for generating high-quality concept banks and proposes a multimodal evaluation metric to assess the quality of generated concepts. We investigate three key research questions: the ability of LLMs to generate concept banks comparable to existing knowledge bases like ConceptNet, the sufficiency of unimodal text-based semantic similarity for evaluating concept-class label associations, and the effectiveness of multimodal information in quantifying concept generation quality compared to unimodal concept-label semantic similarity. Our findings reveal that multimodal models outperform unimodal approaches in capturing concept-class label similarity. Furthermore, our generated concepts for the CIFAR-10 and CIFAR-100 datasets surpass those obtained from ConceptNet and the baseline comparison, demonstrating the standalone capability of LLMs in generating highquality concepts. Being able to automatically generate and evaluate high-quality concepts will enable researchers to quickly adapt and iterate to a newer dataset with little to no effort before they can feed that into concept bottleneck models.

Для моделирования гравитационной конвекции жидкости, насыщающей пористую среду, развивается компактная конечно-разностная схема. На основе закона Дарси с учетом анизотропии свойств проницаемости и теплопроводности рассматривается задача для прямоугольной области в переменных «функция тока» и «температура». На границах заданы условия непроницаемости и линейный по высоте профиль температуры. При определенных соотношениях между коэффициентами обратной проницаемости и теплопроводности данная система является косимметричной, при потере устойчивости механического равновесия от него ответвляется однопараметрическое семейство стационарных конвективных режимов. Разработана численная схема с конечно-разностной аппроксимацией четвертого порядка точности по пространственным координатам и с использованием метода Рунге – Кутты. Доказано, что построенная на девятиточечном шаблоне численная схема сохраняет свойство косимметрии исходной системы. Представлены результаты численного решения спектральной задачи по определению критических чисел Рэлея, отвечающих возникновению конвективных движений. Проведено сравнение с расчетами методом второго порядка точности и на основе комбинированной разностной схемы, обеспечивающей четвертый порядок аппроксимации по вертикальной координате. Показано, что с большой точностью критические числа являются двукратными при коэффициентах, обеспечивающих свойство косимметрии. Приведены результаты вычисления конвективных режимов и спектров устойчивости стационарных решений. Дана оценка эффективности предложенной компактной схемы.

A compact finite difference scheme has been developed for modeling convection in a porous medium saturated with a fluid. We consider the problem for a rectangular domain with anisotropic permeability and thermal conductivity properties in terms of stream function and temperature deviation, taking into account Darcy's law. Boundary conditions of impenetrability and a linear distribution of temperature are set. This model is cosymmetric when certain conditions are imposed on the permeability and thermal conductivities. One parametric family of stationary convection regimes arises when mechanical equilibrium loses stability. A numerical method with a fourth-order finite difference approximation for spatial variables and a Runge – Kutta integrator for time has been developed. It has been proved that this scheme preserves cosymmetry. Numerical results for evaluating the critical Rayleigh number have been presented. We compare them with results obtained using a second-order finite-difference method. We show that critical Rayleigh numbers are repeated twice with very high accuracy, which proves cosymmetry preservation. Numerical evaluation of convective regimes and spectral properties are presented. The efficiency of the developed compact finite difference scheme on a nine-point stencil is assessed.

Поиск оптимальной траектории движения является нетривиальной задачей, на решение которой направлено большое число исследований. Большинство этих исследований посвящено решению задачи в общем виде вне зависимости от модели движения объекта. В такой постановке поиск оптимальной траектории возможен только численными методами. Вместе с тем в некоторых случаях возможно нахождение оптимальной траектории в аналитическом виде. В данной статье рассмотрена задача быстродействия с фазовыми ограничениями для колесного мобильного робота, движущегося по горизонтальной плоскости. Математическая модель робота является кинематической. Фазовые ограничения соответствуют препятствиям на плоскости, заданным в виде непересекающихся кругов, которые требуется избегать при движении. Независимыми управляющими воздействиями являются скорости колес, которые ограничены по абсолютной величине. Такая постановка часто применяется в тех случаях, когда динамические переходные процессы несущественны, например при управлении медленно движущимися гусеничными или колесными устройствами, в которых приоритет отдается мощности двигателей, а не их скорости. В статье показывается, что оптимальная траектория движения из начальной точки в конечную в выбранной кинематической постановке представляет собой последовательность отрезков общих касательных к парам кругов и дуг окружностей этих кругов. Геометрически кратчайший путь между начальной и конечной точками также состоит из отрезков касательных и дуг окружностей, поэтому оптимальное по быстродействию движение соответствует одному из локальных минимумов при поиске кратчайшего пути. Предложен аналитический метод поиска оптимальной траектории движения, основанный на построении графа возможных траекторий, где ребрами являются прямолинейные отрезки и дуги, а вершинами — точки их соединений, и поиска кратчайшего (быстрейшего) пути на графе с помощью метода Дейкстры. Представлено обоснование метода. Приведены результаты численных экспериментов по нахождению оптимальной траектории.

Searching optimal trajectory of motion is a complex problem that is investigated in many research studies. Most of the studies investigate methods that are applicable to such a problem in general, regardless of the model of the object. With such general approach, only numerical solution can be found. However, in some cases it is possible to find an optimal trajectory in a closed form. Current article considers a time optimal problem with state limitations for a wheeled mobile differential robot that moves on a horizontal plane. The mathematical model of motion is kinematic. The state constraints correspond to the obstacles on the plane defined as circles that need to be avoided during motion. The independent control inputs are the wheel speeds that are limited in absolute value. Such model is commonly used in problems where the transients are considered insignificant, for example, when controlling tracked or wheeled devices that move slowly, prioritizing traction power over speed. In the article it is shown that the optimal trajectory from the starting point to the finishing point in such kinematic approach is a sequence of straight segments of tangents to the obstacles and arcs of the circles that limit the obstacles. The geometrically shortest path between the start and the finish is also a sequence of straight lines and arcs, therefore the time-optimal trajectory corresponds to one of the local minima when searching for the shortest path. The article proposes a method of search for the time-optimal trajectory based on building a graph of possible trajectories, where the edges are the possible segments of the tajectory, and the vertices are the connections between them. The optimal path is sought using Dijkstra’s algorithm. The theoretical foundation of the method is given, and the results of computer investigation of the algorithm are provided.

Целью данной работы является оценка механического поведения коронарных сосудов и ангиопластических баллонов при проведении процедуры ангиопластики на основании данных внутрисосудистого ультразвукового исследования и ангиографии, полученных для каждого пациента индивидуально. Для лечения атеросклероза, представляющего собой серьезное хроническое воспалительное заболевание артерий с образованием атеросклеротических бляшек и вызывающего сужение сосудов и ухудшение кровоснабжения тканей и органов, в современной медицинской практике применяют малоинвазивную эндоваскулярную процедуру — баллонную ангиопластику, ключевым аспектом моделирования которой является понимание поведения артерий пациентов и баллонов, которые используют для ее проведения. На основании данных внутрисосудистого ультразвукового исследования и ангиографии была разработана биомеханическая модель артерии, пораженной атеросклерозом. Построена конечно-элементная модель участка артерии, учитывающая ее нелинейное гиперупругое поведение. Для моделирования поведения ангиопластического баллона была разработана математическая модель баллона, проведена валидация с экспериментальными данными. Проведена оценка напряженно-деформированного состояния коронарной артерии конкретного пациента и ангиопластического баллона. На основании разработанных математических моделей отдельных объектов в дальнейшем будет построена полномасштабная математическая модель процесса ангиопластики, включающая три рассмотренных выше объекта: персонифицированную за счет использования данных реального пациента модель артерии; построенную на основе персонифицированной модели конечно-элементную модель артерии, учитывающую ее нелинейное поведение и конечно-элементную модель ангиопластического баллона, а также их взаимосвязь. Разработанные математические модели и полученные на их основе результаты в дальнейшем позволят получить зависимости ключевых параметров ангиопластики, которые могут быть использованы для усовершенствования методики ангиопластики на основе данных внутрисосудистой визуализации, а применение методов математического моделирования позволит снизить число клинических испытаний в данной области.

Тhe aim of this work is to assess the mechanical behavior of coronary vessels and angioplasty balloons during the angioplasty procedure, based on intravascular ultrasound (IVUS) and angiography data obtained for each patient individually. To treat atherosclerosis, a serious chronic inflammatory disease of the arteries characterized by the formation of atherosclerotic plaques, which causes vessel narrowing and impairs blood supply to tissues and organs, modern medical practice employs a minimally invasive endovascular procedure known as balloon angioplasty. Key aspects of modeling this procedure include understanding the behavior of patients’ arteries and the balloons used during the intervention. Based on intravascular ultrasound and angiography data, a biomechanical model of an artery affected by atherosclerosis is developed. A finite element model of the arterial segment is constructed, accounting for its nonlinear hyperelastic behavior. To simulate the behavior of the angioplasty balloon, a mathematical model of the balloon is developed and validated against experimental data. An assessment of the stress-strain state of a specific patient’s coronary artery and angioplasty balloon is performed. For a full-scale simulation of the angioplasty process, a mathematical model is developed that incorporates all three objects considered above: personalization of the artery model through the use of real patient data; a finite element model of the artery built based on of the personalized model, accounting for its nonlinear behavior; a finite element model of the angioplasty balloon. The developed mathematical models and the results obtained from them will further allow us to derive dependencies of key angioplasty parameters. These dependencies can be used to improve angioplasty techniques based on intravascular imaging data. Furthermore, the application of mathematical modeling methods will help reduce the number of clinical trials in this field.

Целью данной работы является построение макроскопической гидродинамической модели, описывающей автомобильное движение на автодорожном перекрестке и учитывающей как распределение светофорных фаз, так и существующую дорожную разметку на перекрестке.

The purpose of this paper is to develop a macroscopic hydrodynamic model describing the vehicular traffic on a road junction and taking into account the distribution of traffic light phases and the existing road markings.

В статье сформулирован обобщенный подход к выбору значений структурных параметров искусственной нейронной сети (ИНС) и объема обучающий выборки, основанный на принципе минимизации количества элементов структуры ИНС и объема обучающей выборки при ограничении на значение показателя качества работы нейросетевой модели динамики объекта. Реализован алгоритм выбора структурных параметров ИНС и построения нейросетевой модели.
Проведена серия вычислительных экспериментов, демонстрирующая применимость алгоритма для построения моделей динамических объектов, в основе которых лежит нелинейная автокорреляционная нейронная сеть.

The article presents an approach to configuration of an artificial neural network architecture and a training set size. Configuration is based on parameter minimization with constraints specifying neural network model quality criteria. The algorithm of artificial neural network architecture and training set size configuration is applied to dynamic object artificial neural network approximation.
Series of computational experiments were performed. The method is applicable to construction of dynamic object models based on non-linear autocorrelation neural networks.

В данной статье исследуются методы машинного обучения с определенным видом решающего правила. К ним относятся интерполяция по методу обратно взвешенных расстояний, метод интерполяции радиальными базисными функциями, метод многомерной интерполяции и аппроксимации на основе теории случайных функций, кригинг. Показано, что для данных методов существует способ быстрого переобучения «модели» при добавлении новых данных к существующим. Под «моделью» понимается построенная по обучающим данным интерполирующая или аппроксимирующая функция. Данный подход позволяет уменьшить вычислительную сложность построения обновленной «модели» с $O(n^3)$ до $O(n^2)$. Также будет исследована возможность быстрого оценивания обобщающих возможностей «модели» на обучающей выборке при помощи метода скользящего контроля leave-one-out cross-validation, устранив главный недостаток такого подхода — необходимость построения новой «модели» при каждом удалении элемента из обучающей выборки.

We investigate machine learning methods with a certain kind of decision rule. In particular, inverse-distance method of interpolation, method of interpolation by radial basis functions, the method of multidimensional interpolation and approximation, based on the theory of random functions, the last method of interpolation is kriging. This paper shows a method of rapid retraining “model” when adding new data to the existing ones. The term “model” means interpolating or approximating function constructed from the training data. This approach reduces the computational complexity of constructing an updated “model” from $O(n^3)$ to $O(n^2)$. We also investigate the possibility of a rapid assessment of generalizing opportunities “model” on the training set using the method of cross-validation leave-one-out cross-validation, eliminating the major drawback of this approach — the necessity to build a new “model” for each element which is removed from the training set.

В данной статье исследуется метод машинного обучения на основе теории случайных функций. Одной из основных проблем данного метода является то, что вид решающего правила модели метода, построенной на данных обучающей выборки, становится более громоздким при увеличении количества примеров выборки. Решающее правило модели является наиболее вероятной реализацией случайной функции и представляется в виде многочлена с количеством слагаемых, равным количеству обучающих элементов выборки. В статье будет показано, что для рассматриваемого метода существует быстрый способ сокращения обучающей выборки и, соответственно, вида решающего правила. Уменьшение примеров обучающей выборки происходит за счет поиска и удаления малоинформативных (слабых) элементов, которые незначительно влияют на итоговый вид решающей функции, и шумовых элементов выборки. Для каждого $(x_i,y_i)$-го элемента выборки было введено понятие значимости, выражающееся величиной отклонения оцененного значения решающей функции модели в точке $x_i$, построенной без $i$-го элемента, от реального значения $y_i$. Будет показана возможность косвенного использования найденных слабых элементов выборки при обучении модели метода, что позволяет не увеличивать количество слагаемых в полученной решающей функции. Также в статье будут описаны проведенные эксперименты, в которых показано, как изменение количества обучающих данных влияет на обобщающую способность решающего правила модели в задаче классификации.

This article explores a method of machine learning based on the theory of random functions. One of the main problems of this method is that decision rule of a model becomes more complicated as the number of training dataset examples increases. The decision rule of the model is the most probable realization of a random function and it's represented as a polynomial with the number of terms equal to the number of training examples. In this article we will show the quick way of the number of training dataset examples reduction and, accordingly, the complexity of the decision rule. Reducing the number of examples of training dataset is due to the search and removal of weak elements that have little effect on the final form of the decision function, and noise sampling elements. For each $(x_i,y_i)$-th element sample was introduced the concept of value, which is expressed by the deviation of the estimated value of the decision function of the model at the point $x_i$, built without the $i$-th element, from the true value $y_i$. Also we show the possibility of indirect using weak elements in the process of training model without increasing the number of terms in the decision function. At the experimental part of the article, we show how changed amount of data affects to the ability of the method of generalizing in the classification task.

В работе представлена численная методика определения спектральных электромагнитных характеристик (эффективных электрической проводимости и относительной диэлектрической проницаемости) насыщенных пористых сред. Их определение находит применение при интерпретации данных петрофизических исследований скважин, а также при изучении кернового материала. Особенностью настоящей работы является использование трехмерных цифровых моделей насыщенных пористых сред, построенных на основе комбинированной информации о микроструктуре среды и капиллярном равновесии двухфазной смеси типа «нефть–вода» в поровом пространстве. Данные о микроструктуре модели получаются путем использования методов рентгеновской микротомографии. Многофазное многокомпонентное распределение флюидов в поровом пространстве модели находится с помощью метода функционала плотности. Для определения непосредственно электромагнитных характеристик модели выполняется фурье-преобразование по времени уравнения Максвелла, выражающего обобщенную теорему Ампера о циркуляции. В низкочастотном приближении задача сводится к решению уравнения эллиптического типа на комплексный потенциал. Для конечно- разностной аппроксимации используется дискретизация модели на изотропной равномерной ортогональной сетке. При этом считается, что в каждой расчетной ячейке сетки содержится либо вода, либо нефть, либо по- рода со своими электрическими параметрами. Для этого выполняется процедура сегментации, в результате которой в модели отсутствуют ячейки, содержащие несколько фаз (нефть–вода). Подобная модификация модели позволяет избежать использования сложноструктурированных расчетных сеток, а также дает возможность исключить влияние способа задания свойств ячеек, заполненных смесью различных фаз, на результаты расчета. Полученная система разностных уравнений решается с использованием стабилизированного метода бисопряженных градиентов с многосеточным предобуславливателем. На основе вычисленных распределений комплексного потенциала находятся средние значения электрической проводимости и относительной диэлектрической проницаемости. Для простоты в настоящей работе рассматривался случай отсутствия спектральной зависимости проводимости и проницаемости компонентов от частоты. Результаты расчетов частотных зависимостей эффективных характеристик неоднородно насыщенных пористых сред (электрической проводимости и относительной диэлектрической проницаемости) в широком диапазоне частот и водонасыщенностей представлены на графиках и в таблице. В заключение делается вывод об эффективности предложенного подхода для задачи определения дисперсионных электромагнитных характеристик насыщенных горных пород.

This article represents numerical simulation technique for determining effective spectral electromagnetic properties (effective electrical conductivity and relative dielectric permittivity) of saturated porous media. Information about these properties is vastly applied during the interpretation of petrophysical exploration data of boreholes and studying of rock core samples. The main feature of the present paper consists in the fact, that it involves three-dimensional saturated digital rock models, which were constructed based on the combined data considering microscopic structure of the porous media and the information about capillary equilibrium of oil-water mixture in pores. Data considering microscopic structure of the model are obtained by means of X-ray microscopic tomography. Information about distributions of saturating fluids is based on hydrodynamic simulations with density functional technique. In order to determine electromagnetic properties of the numerical model time-domain Fourier transform of Maxwell equations is considered. In low frequency approximation the problem can be reduced to solving elliptic equation for the distribution of complex electric potential. Finite difference approximation is based on discretization of the model with homogeneous isotropic orthogonal grid. This discretization implies that each computational cell contains exclusively one medium: water, oil or rock. In order to obtain suitable numerical model the distributions of saturating components is segmented. Such kind of modification enables avoiding usage of heterogeneous grids and disregards influence on the results of simulations of the additional techniques, required in order to determine properties of cells, filled with mixture of media. Corresponding system of differential equations is solved by means of biconjugate gradient stabilized method with multigrid preconditioner. Based on the results of complex electric potential computations average values of electrical conductivity and relative dielectric permittivity is calculated. For the sake of simplicity, this paper considers exclusively simulations with no spectral dependence of conductivities and permittivities of model components. The results of numerical simulations of spectral dependence of effective characteristics of heterogeneously saturated porous media (electrical conductivity and relative dielectric permittivity) in broad range of frequencies and multiple water saturations are represented in figures and table. Efficiency of the presented approach for determining spectral electrical properties of saturated rocks is discussed in conclusion.

Эффективность производственного процесса непосредственно зависит от качества управления технологией, которая, в свою очередь, опирается на точность и оперативность обработки контрольно- измерительной информации. Разработка математических методов исследования системных связей и закономерностей функционирования и построение математических моделей с учетом структурных особенностей объекта исследований, а также написание программных продуктов для реализации данных методов являются актуальными задачами. Практика показала, что список параметров, имеющих место при исследовании сложного объекта современного производства, варьируется от нескольких десятков до нескольких сот наименований, причем степень воздействия каждого из факторов в начальный момент не ясна. Приступать к работе по непосредственному определению модели в этих условиях нельзя — объем требуемой информации может оказаться слишком велик, причем бóльшая часть работы по сбору этой информации будет проделана впустую из-за того, что степень влияния на параметры оптимизации большинства факторов из первоначального списка окажется пренебрежимо малой. Поэтому необходимым этапом при определении модели сложного объекта является работа по сокращению размерности факторного пространства. Большинство промышленных производств являются групповыми иерархическими процессами массового и крупносерийного производства, характеризующимися сотнями факторов. (Для примера реализации математических методов и апробации построенных моделей в основу были взяты данные Молдавского металлургического завода.) С целью исследования системных связей и закономерностей функционирования таких сложных объектов обычно выбираются несколько информативных параметров и осуществляется их выборочный контроль. В данной статье описывается последовательность приведения исходных показателей технологического процесса выплавки стали к виду, пригодному для построения математической модели с целью прогнозирования, внедрения новых видов стали и создание основы для разработки системы автоматизированного управления качеством продукции. В процессе преобразования выделяются следующие этапы: сбор и анализ исходных данных, построение таблицы слабокоррелированных параметров, сокращение факторного пространства с помощью корреляционных плеяд и метода весовых коэффициентов. Полученные результаты позволяют оптимизировать процесс построения модели многофакторного процесса.

Efficiency of production directly depends on quality of the management of technology which, in turn, relies on the accuracy and efficiency of the processing of control and measuring information. Development of the mathematical methods of research of the system communications and regularities of functioning and creation of the mathematical models taking into account structural features of object of researches, and also writing of the software products for realization of these methods are an actual task. Practice has shown that the list of parameters that take place in the study of complex object of modern production, ranging from a few dozen to several hundred names, and the degree of influence of each factor in the initial time is not clear. Before working for the direct determination of the model in these circumstances, it is impossible — the amount of the required information may be too great, and most of the work on the collection of this information will be done in vain due to the fact that the degree of influence on the optimization of most factors of the original list would be negligible. Therefore, a necessary step in determining a model of a complex object is to work to reduce the dimension of the factor space. Most industrial plants are hierarchical group processes and mass volume production, characterized by hundreds of factors. (For an example of realization of the mathematical methods and the approbation of the constructed models data of the Moldavian steel works were taken in a basis.) To investigate the systemic linkages and patterns of functioning of such complex objects are usually chosen several informative parameters, and carried out their sampling. In this article the sequence of coercion of the initial indices of the technological process of the smelting of steel to the look suitable for creation of a mathematical model for the purpose of prediction is described. The implementations of new types became also creation of a basis for development of the system of automated management of quality of the production. In the course of weak correlation the following stages are selected: collection and the analysis of the basic data, creation of the table the correlated of the parameters, abbreviation of factor space by means of the correlative pleiads and a method of weight factors. The received results allow to optimize process of creation of the model of multiple-factor process.