All issues

Программа SAS является стандартным инструментом для обработки данных на спектрометре малоуглового рассеяния ЮМО. В статье представлен ретроспективный анализ ее двадцатилетнего развития — от фортрановского прототипа до современной системы. Основное внимание уделено архитектурным решениям, которые обеспечили программе долгосрочную жизнеспособность и возможность адаптации к модернизациям установки.

Ключевым решением стала модульная архитектура, абстрагирующая детекторную систему. Это позволило бесшовно интегрировать данные с двух детекторов, а позднее — и с позиционно-чувствительного детектора. Строгий конвейер преобразований и единое внутреннее представление данных легли в основу физически обоснованных алгоритмов: весового объединения спектров, сглаживания с учетом аппаратного разрешения и встроенного статистического контроля качества. Интерфейсы программы (командная строка для пакетной обработки и графический для интерактивной работы) построены на едином вычислительном ядре, что гарантирует идентичность результатов и гибкость использования.

Длительная эксплуатация подтвердила, что заложенные архитектурные принципы естественным образом соответствуют ключевым характеристикам международного стандарта качества программного обеспечения, включая те, которые критичны для его долгосрочной жизнеспособности. Таким образом, опыт разработки и эволюции SAS демонстрирует универсальный набор архитектурных принципов, которые могут служить основой для создания устойчивого научного программного обеспечения в смежных областях экспериментальной физики.

The SAS program is the primary data processing tool for the YuMO small-angle neutron scattering spectrometer. The paper presents a retrospective analysis of its two-decade evolution, from a Fortran prototype to a modern software system. The analysis focuses on the architectural decisions that have ensured the program’s long-term viability and its ability to adapt to instrument upgrades.

The core solution was a modular architecture that abstracts the detector system. This enabled the seamless integration of data from two scattering detectors and, later, from a position-sensitive detector. A strict processing pipeline and a unified internal data representation formed the basis for physically grounded algorithms, including weighted merging of spectra, resolution-aware smoothing, and built-in statistical quality control. The program’s interfaces—a command line for batch processing and a graphical user interface for interactive work—are built upon a single computational core, ensuring result consistency and flexibility in use.

Long-term operation has confirmed that the underlying architectural principles naturally align with the key characteristics of international software quality standards, particularly those critical for long-term sustainability. Therefore, the development and evolution of SAS demonstrates a universal set of architectural principles that can serve as a foundation for building sustainable scientific software in related fields of experimental physics.

Получено аналитическое решение для сейсмических волновых полей в сферически-симметричной Земле. В случае произвольной слоистой среды решение, в которое входят функции Бесселя, строится с помощью дифференциальной прогонки. Для устойчивого вычисления волновых полей используется асимптотика функций Бесселя. Показано, что классическая асимптотика в случае высоких частот дает погрешность в решении. Для эффективного вычисления решения без погрешностей с высокой детальностью используется оригинальная асимптотика. Создана программа, позволяющая проводить расчеты для высокочастотных (1 герц и выше) телесейсмических волновых полей в дискретном (слоистом) шаре планетарных размеров. Расчеты можно осуществлять даже на персональных компьютерах с распараллеливанием OpenMP.

В работе Бурмина (2019 г.) предложена сферически-симметричная модель Земли. Она характеризуется тем, что в ней внешнее ядро обладает вязкостью и, следовательно, эффективным модулем сдвига, отличным от нуля. Для этой модели Земли проведен расчет с высокой детальностью с несущей частотой в 1 герц. В результате аналитического расчета обнаружено, что впереди PKP-волн возникают высокочастотные колебания небольшой амплитуды, так называемые предвестники. Аналитический расчет показал, что теоретические сейсмограммы для этой модели Земли во многом похожи на экспериментальные данные. При этом ключевым моментом сравнения является возникновение предвестников впереди PKP-волн. Это подтверждает правильность идей, положенных в основу ее построения.

An analytical solution is obtained for seismic wave fields in a spherically symmetric Earth. In the case of an arbitrary layered medium, the solution, which includes Bessel functions, is constructed by means of a differential sweep method. Asymptotic of Bessel functions is used for stable calculation of wave fields. It is shown that the classical asymptotic in the case of a sphere of large (in wavelengths) dimensions gives an error in the solution. The new asymptotic is used for efficient calculation of a solution without errors with high detail. A program has been created that makes it possible to carry out calculations for high-frequency (1 hertz and higher) teleseismic wave fields in a discrete (layered) sphere of planetary dimensions. Calculations can be carried even out on personal computers with OpenMP parallelization.

In the works of Burmin (2019) proposed a spherically symmetric model of the Earth. It is characterized by the fact that in it the outer core has a viscosity and, therefore, an effective shear modulus other than zero. For this model of the Earth, a highly detailed calculation was carried out with a carrier frequency of 1 hertz. As a result of the analytical calculation, it was found that highfrequency oscillations of small amplitude, the so-called “precursors”, appear ahead of the PKP waves. An analytical calculation showed that the theoretical seismograms for this model of the Earth are in many respects similar to the experimental data. This confirms the correctness of the ideas underlying its construction.

В статье предложена математическая модель фазового перехода на примере гидрирования/дегидрирования порошка металла. Рассматривается одна частица, форма которой обладает некоторой симметрией. Шар, цилиндр и плоская пластина являются частными случаями симметричных форм. Модель описывает как сценарий «сжимающегося ядра» (формирование слоя новой фазы на поверхности частицы с его последующим утолщением), так и сценарий «образования и роста зародышей», при которых сплошной слой не формируется до полного исчезновения старой фазы. Модель представляет собой неклассическую диффузионную краевую задачу со свободной границей и нелинейными граничными условими III рода. Предположения симметрии позволяют свести задачу к одной пространственной переменной. Модель апробирована на серии экспериментальных данных. Показано, что влияние формы частиц на кинетику несущественно. Также показано, что ансамбль частиц различных форм с распределением по размерам может быть аппроксимирован одной частицей «среднего» размера простой формы, что оправдывает использование в моделях упрощающих предположений.

In the paper we construct the model of phase change. Process of hydriding / dehydriding is taken as an example. A single powder particle is considered under the assumption about its symmetry. A ball, a cylinder, and a flat plate are examples of such symmetrical shapes. The model desribes both the "shrinking core"(when the skin of the new phase appears on the surface of the particle) and the "nucleation and growth"(when the skin does not appear till complete vanishing of the old phase) scenarios. The model is the non-classical boundary-value problem with the free boundary and nonlinear Neumann boundary condition. The symmetry assumptions allow to reduce the problem to the single spatial variable. The model was tested on the series of experimental data. We show that the particle shape’s influence on the kinetics is insignificant. We also show that a set of particles of different shapes with size distribution can be approxomated by the single particle of the "average" size and of a simple shape; this justifies using single particle approximation and simple shapes in mathematical models.

Хотя эпоха экспоненциального роста производительности компьютерных микросхем закончилась, даже настольные процессоры общего назначения сегодня имеют 16 и больше ядер. Поскольку пропускная способность памяти DRAM растет не с такой скоростью, как вычислительная мощность ядер, разработчики процессоров должны искать пути уменьшения частоты обменов с памятью на одну инструкцию. Непосредственным путем к этому является снижение частоты промахов в кэш последнего уровня. Предполагая уже реализованной схему «неинклюзивный кэш с инклюзивным справочником» (NCID), три способа дальнейшего снижения частоты промахов были исследованы.

Первый способ — это достижение более равномерного использования банков и наборов кэша применением хэш-функций для интерливинга и индексирования. В экспериментах в тестах SPEC CPU2017 refrate, даже простейшие хэш-функции на основе XOR показали увеличение производительности на 3,2%, 9,1% и 8,2% в конфигурациях процессора с 16, 32 и 64 ядрами и банками общего кэша, сравнимое с результатами для более сложных функций на основе матриц, деления и CRC.

Вторая оптимизация нацелена на уменьшение дублирования на разных уровнях кэшей путем автоматического переключения на эксклюзивную схему, когда она выглядит оптимальной. Известная схема этого типа, FLEXclusion, была модифицирована для использования в NCID-кэшах и показала улучшение производительности в среднемна 3,8%, 5,4% и 7,9% для 16-, 32- и 64-ядерных конфигураций.

Третьей оптимизацией является увеличение фактической емкости кэша использованием компрессии. Частота сжатия недорогим и быстрыма лгоритмом B DI*-HL (Base-Delta-Immediate Modified, Half-Line), разработанным для NCID, была измерена, и соответствующее увеличение емкости кэша дало около 1% среднего повышения производительности.

Все три оптимизации могут сочетаться и продемонстрировали прирост производительности в 7,7%, 16% и 19% для конфигураций с 16, 32 и 64 ядрами и банками соответственно.

Although the era of exponential performance growth in computer chips has ended, processor core numbers have reached 16 or more even in general-purpose desktop CPUs. As DRAM throughput is unable to keep pace with this computing power growth, CPU designers need to find ways of lowering memory traffic per instruction. The straightforward way to do this is to reduce the miss rate of the last-level cache. Assuming “non-inclusive cache, inclusive directory” (NCID) scheme already implemented, three ways of reducing the cache miss rate further were studied.

The first is to achieve more uniform usage of cache banks and sets by employing hash-based interleaving and indexing. In the experiments in SPEC CPU2017 refrate tests, even the simplest XOR-based hash functions demonstrated a performance increase of 3.2%, 9.1%, and 8.2% for CPU configurations with 16, 32, and 64 cores and last-level cache banks, comparable to the results of more complex matrix-, division- and CRC-based functions.

The second optimisation is aimed at reducing replication at different cache levels by means of automatically switching to the exclusive scheme when it appears optimal. A known scheme of this type, FLEXclusion, was modified for use in NCID caches and showed an average performance gain of 3.8%, 5.4 %, and 7.9% for 16-, 32-, and 64-core configurations.

The third optimisation is to increase the effective cache capacity using compression. The compression rate of the inexpensive and fast BDI*-HL (Base-Delta-Immediate Modified, Half-Line) algorithm, designed for NCID, was measured, and the respective increase in cache capacity yielded roughly 1% of the average performance increase.

All three optimisations can be combined and demonstrated a performance gain of 7.7%, 16% and 19% for CPU configurations with 16, 32, and 64 cores and banks, respectively.

Перспективным методом повышения количества осадков в засушливом климате является способ создания вертикальной высокотемпературной струи, насыщенной гигроскопическим аэрозолем. Такая установка позволяет создавать искусственные облака с возможностью образования осадков в безоблачной атмосфере, в отличие от традиционных способов искусственного увеличения осадков, в которых предусматривается повышение эффективности осадко-образования только в естественных облаках путем их засева ядрами кристаллизации и конденсации. Для увеличения мощности струи добавляются хлорид кальция, карбамид, пищевая соль в виде грубодисперсного аэрозоля, а также нанопорошок NaCl/TiO₂, который способен конденсировать значительно больше водяного пара, чем перечисленные типы аэрозолей. Дисперсные включения в струе также являются центрами кристаллизации и конденсации в создаваемом облаке для повышения возможности осадкообразования. Для моделирования конвективных течений в атмосфере применяется математическая модель атмосферных течений большого масштаба FlowVision, решение уравнений движения, энергии и массопереноса проводится в относительных переменных. Рассматриваемая постановка задачи разделена на две части: модель начальной струи и постановка атмосферных течений большого масштаба FlowVision. Нижняя область, где происходит течение начальной высокоскоростной струи, моделируется в сжимаемой постановке с решением уравнения энергии относительно полной энтальпии. Данное разделение задачи на две отдельные подобласти необходимо, чтобы корректно провести численный расчет начальной турбулентной струи при высокой скорости (M > 0,3). Приводятся основные математические зависимости модели. С использованием представленной модели проведены численные эксперименты, для исходных данных взяты экспериментальные данные из натурных испытаний установки по созданию искусственных облаков, проведенные в Объединенных Арабских Эмиратах. Получено хорошее согласие с экспериментом: в 55% проведенных расчетов значение вертикальной скорости на высоте 400 м (более 2 м/с) и высота подъема струи (более 600 м) находятся в пределах погрешности 30% от экспериментальных характеристик, а в 30% расчетах — полностью согласуются с экспериментом. Результаты численного моделирования позволяют оценить возможность использования метода высокоскоростной струи для стимулирования искусственной конвекции и, в конечном итоге, для создания осадков. Расчеты проведены с использованием программного комплекса FlowVision на суперкомпьютере «Торнадо ЮУрГУ».

A promising method of increasing precipitation in arid climates is the method of creating a vertical high-temperature jet seeded by hygroscopic aerosol. Such an installation makes it possible to create artificial clouds with the possibility of precipitation formation in a cloudless atmosphere, unlike traditional methods of artificial precipitation enhancement, which provide for increasing the efficiency of precipitation formation only in natural clouds by seeding them with nuclei of crystallization and condensation. To increase the power of the jet, calcium chloride, carbamide, salt in the form of a coarse aerosol, as well as NaCl/TiO₂ core/shell novel nanopowder, which is capable of condensing much more water vapor than the listed types of aerosols, are added. Dispersed inclusions in the jet are also centers of crystallization and condensation in the created cloud to increase the possibility of precipitation. To simulate convective flows in the atmosphere, a mathematical model of FlowVision large-scale atmospheric flows is used, the solution of the equations of motion, energy and mass transfer is carried out in relative variables. The statement of the problem is divided into two parts: the initial jet model and the FlowVision large-scale atmospheric model. The lower region, where the initial high-speed jet flows, is calculated using a compressible formulation with the solution of the energy equation with respect to the total enthalpy. This division of the problem into two separate subdomains is necessary in order to correctly carry out the numerical calculation of the initial turbulent jet at high velocity (M > 0.3). The main mathematical dependencies of the model are given. Numerical experiments were carried out using the presented model, experimental data from field tests of the installation for creating artificial clouds were taken for the initial data. A good agreement with the experiment is obtained: in 55% of the calculations carried out, the value of the vertical velocity at a height of 400 m (more than 2 m/s) and the height of the jet rise (more than 600 m) is within an deviation of 30% of the experimental characteristics, and in 30% of the calculations it is completely consistent with the experiment. The results of numerical simulation allow evaluating the possibility of using the high-speed jet method to stimulate artificial updrafts and to create precipitation. The calculations were carried out using FlowVision CFD software on SUSU Tornado supercomputer.

В современной кардиологии точная оценка функциональной значимости стенозов коронарных артерий является критическим фактором для выбора тактики лечения и принятия обоснованных клинических решений. В данной работе представлен автоматизированный алгоритм для обработки динамических последовательностей рентгеновских ангиографических изображений, направленный на оценку скорости кровотока. Данный параметр служит основой для определения количественного соотношения кровотока (QFR), выступающего эффективной неинвазивной альтернативой традиционному инвазивному измерению фракционного резерва кровотока. Предложенная методика успешно преодолевает классические трудности ангиографического анализа, такие как артефакты движения сосудов в ходе сердечно-дыхательного цикла, неравномерная контрастная плотность и геометрическая сложность сосудистого дерева в двумерных проекциях.

Представленный алгоритм обработки включает в себя несколько ключевых стадий. Первоначально выполняется предобработка кадров для подавления шумов и фильтрации анатомического фона. Далее проводится сегментация с использованием фильтра Сато и пороговой обработки Оцу, после чего производится скелетонизация для извлечения центральных линий сосудов. Особое внимание уделено алгоритму автоматической идентификации точек бифуркации и фильтрации артефактных пересечений, возникающих при наложении сосудов. Для обеспечения непрерывности данных применяется метод временного отслеживания целевого сегмента на основе корреляции шаблонов, что особенно важно в фазах с низкой концентрацией контрастного вещества. Математическое ядро алгоритма основано на решении обратной одномерной задачи для уравнения адвекции – диффузии, что позволяет восстановить скорость кровотока по временным кривым интенсивности.

В рамках исследования проведена детальная валидация метода путем сопоставления результатов автоматического расчета с ручными экспертными измерениями на десяти наборах клинических данных. Полученные результаты подтверждают устойчивость вычислительной схемы в физиологически значимых диапазонах и ее способность значительно снижать межэкспертную вариабельность. Разработанный подход минимизирует необходимость врачебного вмешательства в процесс обработки данных, открывая перспективы для создания систем поддержки принятия врачебных решений в реальном времени в условиях катетеризационной лаборатории.

In modern cardiology, accurate assessment of the functional significance of coronary artery stenoses is a critical factor for selecting treatment strategies and making informed clinical decisions. This paper presents an automated algorithm for processing dynamic X-ray angiographic image sequences aimed at estimating blood flow velocity. This parameter serves as the basis for determining the Quantitative Flow Ratio (QFR), which acts as an effective noninvasive alternative to traditional invasive fractional flow reserve (FFR) measurements. The proposed methodology successfully overcomes classic challenges of angiographic analysis, such as vessel motion artifacts during the cardio-respiratory cycle, variable contrast opacification, and the geometric complexity of the vascular tree in two-dimensional projections.

The presented processing workflow includes several key stages. Initially, frame preprocessing is performed to suppress noise and filter out the anatomical background. Subsequently, segmentation is implemented using a Sato filter and Otsu thresholding, followed by skeletonization to extract vessel centerlines. Particular attention is paid to the algorithm for automated identification of bifurcation points and the filtration of artifactual intersections caused by vessel overlapping. To ensure data continuity, a temporal tracking method for the target segment based on template correlation is applied, which is especially important during phases with low contrast agent concentration. The mathematical core of the algorithm is based on solving a 1D inverse problem for the advection-diffusion equation, allowing for the recovery of blood flow velocity from temporal intensity curves.

As part of the study, a detailed validation of the method was conducted by comparing automated calculation results with manual expert measurements across ten clinical datasets. The results confirm the robustness of the computational scheme within physiologically relevant ranges and its ability to significantly reduce inter-observer variability. The developed approach minimizes the need for physician intervention in the data processing stage, opening up prospects for creating real-time clinical decision support systems in the catheterization laboratory setting.

Новый асинхронный алгоритм дифференциальной эволюции использован для определения параметров микроскопического оптического потенциала упругого рассеяния пионов на ядрах ²⁸Si, ⁵⁸Ni и ²⁰⁸Pb при энергиях 130, 162 и 180 МэВ.

New Asynchronous Differential Evolution algorithm is used to determine the parameters of microscopic optical potential of elastic pion scattering on ²⁸Si, ⁵⁸Ni and ²⁰⁸Pb nuclei at energy 130, 162 and 180 MeV.

Данная работа посвящена исследованию закрученных течений. Течения с закруткой потока находят широкое применение в различных технологических процессах. Закрученные течения могут сопровождаться такими нестационарными эффектами, как прецессия вихревого ядра. В свою очередь крупномасштабные пульсации, вызванные прецессией вихря, могут привести к повреждению конструкций и снижению надежности оборудования. Таким образом, для инженерных расчетов требуются подходы, достаточно хорошо описывающие подобные течения. В данной работе представлена методика описания закрученных потоков апробированная в рамках программных комплексов Fluent и SigmaFlow. Проведено численное моделирование нескольких тестовых задач с закруткой потока. Полученные результаты сопоставлены между собой, а также с экспериментальными данными.

This paper is devoted to investigation of the swirl flows. Such flows are widely used in various industrial processes. Swirl flows can be accompanied by time-dependent effects, for example, precession of the vortex core. In turn, the large-scale fluctuations due to the precession of the vortex can cause damage of structures and reduce of equipment reliability. Thus, for engineering calculations approaches that sufficiently well described such flows are required. This paper presents the technique of swirl flows calculation, tested for CFD packages Fluent and SigmaFlow. A numerical simulation of several swirl flow test problems was carried out. Obtained results are compared with each other and with the experimental data.

Предлагается пространственно распределенная математическая модель эволюции пяти состояний миокардиальной ткани — здорового миокарда, воспалительного инфильтрата, некроза, замещающего фиброза и интерстициального фиброза — в виде многокомпонентной реакционно-диффузионной системы параболического типа. Разработка таких моделей имеет ключевое значение для понимания механизмов постинфарктного ремоделирования левого желудочка и прогнозирования структурных аритмогенных субстратов. В каждой точке области состояние ткани описывается вектором параметров распределения Дирихле, что позволяет одновременно учитывать средний тканевой состав и уровень неопределенности классификации, связанный с гетерогенными переходными зонами повреждения. Дополнительной особенностью предложенной постановки является использование нелинейного анизотропного тензора диффузии, интенсивность направленной компоненты которого локально управляется суммарной долей поврежденной ткани.

Для усеченной системы, совпадающей с исходной в инвариантной области, устанавливаются локальная липшицевость и квазиположительность расширенного реакционного оператора. Доказаны глобальное существование слабого решения, неотрицательность, явная априорная верхняя оценка и количественная экспоненциальная нижняя оценка. Из этих результатов следуют инвариантность допустимой области и существование глобального слабого решения исходной модели. Доказана единственность в усиленном классе решений, задаваемом дополнительной регулярностью градиентов. Для обратимого вспомогательного варианта матрицы переходов формально выводится энтропийный баланс для гладких положительных решений; для клинически обоснованной необратимой матрицы переходов формулируется модовое условие спектральной устойчивости линеаризации.

В вычислительной части получено условие положительности для реакционного подшага схемы расщепления относительно адаптивного верхнего барьера траектории и выполнены численные эксперименты для воспроизводимой калиброванной вычислительной версии. В одномерном сценарии к $60$-м суткам в центре очага доля замещающего фиброза возрастает с $0,091$ до $0,855$, а суммарный параметр концентрации $\alpha_0$ — с $11,0$ до $15,9$; в двумерном сценарии на $14$-е сутки средняя величина $\overline p_4^{}$ составляет $0,431$ в ядре повреждения против $0,097$ в здоровой зоне. Доказана корректность модели для анализа процессов рубцевания и переходных зон, что формирует математическую базу для интеграции алгоритма с данными пациент-специфической клинической визуализации.

A spatially distributed mathematical model is proposed for the evolution of five myocardial tissue states — healthy myocardium, inflammatory infiltrate, necrosis, replacement fibrosis, and interstitial fibrosis — in the form of a multicomponent parabolic reaction – diffusion system. At each spatial point the tissue state is described by a vector of Dirichlet concentration parameters, which allows one to encode both the expected tissue composition and the uncertainty of classification associated with transition zones of damage. For a truncated system that coincides with the original one inside an invariant region, local Lipschitz continuity and quasi-positivity of the extended reaction operator are established. Global existence of a weak solution, non-negativity, an explicit a priori upper bound, and a quantitative exponential lower bound are proved. These results imply invariance of the admissible region and hence existence of a global weak solution to the original model. Uniqueness is established in a strengthened class of solutions characterized by additional gradient regularity. For an auxiliary reversible transition matrix, a formal entropy balance is derived for smooth positive solutions; for the clinically motivated irreversible transition matrix, a modal spectral stability condition is formulated for the linearized problem. On the numerical side, a positivity condition is derived for the reaction substep of a splitting scheme relative to an adaptive upper trajectory bound, and numerical experiments are conducted for a reproducible calibrated computational variant. In the one-dimensional scenario, by day $60$ the replacement-fibrosis fraction at the lesion center increases from $0.091$ to $0.855$, while the total concentration parameter $\alpha_0$ rises from $11.0$ to $15.9$; in the two-dimensional scenario, on day $14$ the mean value of $\overline p_4^{}$ is $0.431$ in the lesion core versus $0.097$ in the healthy region. These results confirm the mathematical well-posedness of the proposed model and its applicability for the quantitative description of post-infarction scar formation and heterogeneous transition zones.

В данной статье представлены разработка и верификация алгоритма конечных элементов для моделирования нелинейной деформации в позвоночно-двигательном сегменте (ПДС) поясничного отдела позвоночника человека. Исследование мотивировано растущей распространенностью заболеваний опорно-двигательного аппарата и необходимостью улучшения методов прогнозирования поведения сегментов позвоночника при различных условиях нагрузки и патологиях.

Современные подходы к моделированию часто используют упрощенную геометрию и линейные законы деформации (закон Гука) для всех элементов позвоночника, включая межпозвоночный диск. Однако эти модели неадекватно представляют анатомию человека и физические свойства межпозвоночного диска, который состоит из фиброзного кольца и пульпозного ядра, демонстрирующих выраженные нелинейные и вязкоупругие характеристики.

Для решения этих проблем авторы предлагают математическую модель, в которой позвонки рассматриваются как линейно упругие, неоднородные тела, а межпозвоночный диск моделируется в соответствии с теорией нелинейной деформации. Анатомически точная 3D-реконструкция поясничного отдела позвоночника была создана на основе изображений компьютерной томографии (КТ). Для дискретизации использовались объемные тетраэдрические конечные элементы. Поведение межпозвоночного диска описывается с помощью теории изгиба тонких пластин, основанной на предположениях Кирхгофа – Лава.

Ключевой особенностью алгоритма является двухэтапная процедура решения: сначала получается линейно-упругое решение, а затем вычисляются дополнительные узловые силы для элементов диска, что позволяет проводить эффективный нелинейный анализ без модификации матрицы жесткости.

Проверка модели проводилась с использованием двух геометрических представлений поясничного отдела позвоночника: упрощенной версии, включающей параллелепипеды и цилиндры, и персонализированной модели, полученной из КТ изображений конкретного пациента. Результаты численного моделирования показывают, что учет нелинейных свойств межпозвоночного диска существенно изменяет как характер, так и величину деформаций по сравнению с чисто упругими моделями, создавая нелинейные сегменты на кривых «напряжение – деформация». Расхождение между результатами, полученными с помощью предложенного алгоритма, и результатами, полученными с помощью программного обеспечения Comsol, не превышало 10%, что подтверждает достоверность модели. Данный алгоритм демонстрирует перспективность для исследования биомеханики поясничного отдела позвоночника в нормальных условиях, при дегенеративных изменениях и послеоперационном периоде.

This paper presents the development and verification of a finite element algorithm for modeling nonlinear deformation in the functional spinal unit (FSU) of the human lumbar spine. The study is motivated by the increasing prevalence of musculoskeletal disorders and the need for improved predictive methods for spinal motion segment behavior under various loading conditions and pathologies.

Current modeling approaches often employ simplified geometry and linear deformation laws (Hooke’s law) for all spinal elements, including the intervertebral disc. However, these models inadequately represent human anatomy and the physical properties of the intervertebral disc, which comprises the annulus fibrosus and nucleus pulposus exhibiting pronounced nonlinear and viscoelastic characteristics.

To address these limitations, the authors propose a mathematical model wherein vertebrae are treated as linearly elastic, heterogeneous bodies, while the intervertebral disc is modeled according to nonlinear deformation theory. An anatomically accurate 3D reconstruction of the lumbar spine was generated from computed tomography (CT) images. Volumetric tetrahedral finite elements were employed for discretization. The intervertebral disc behavior is described using thin plate bending theory based on Kirchhoff-Love assumptions.

The algorithm’s key feature is a two-step solution procedure: an initial linear elastic solution is obtained, followed by the calculation of additional nodal forces for disc elements, enabling efficient nonlinear analysis without stiffness matrix modification.

Model verification was performed using two geometric representations of the lumbar spine: a simplified version comprising parallelepipeds and cylinders, and a patient-specific realistic model derived from CT data. Numerical simulation results demonstrate that incorporating nonlinear properties of the intervertebral disc substantially alters both deformation patterns and magnitudes compared to purely elastic models, producing nonlinear segments on stress-strain curves. The discrepancy between results obtained with the proposed algorithm and those from Comsol software did not exceed 10%, confirming the model’s validity. This algorithm shows promise for investigating lumbar spine biomechanics under normal conditions, degenerative changes, and post-surgical states.