ISSN 1998-6629 

ВЕСТНИК 

САМАРСКОГО 

ГОСУДАРСТВЕННОГО 

АЭРОКОСМИЧЕСКОГО 

УНИВЕРСИТЕТА 

имени академика С. П. КОРОЛЁВА 

№ 2 (15) 

2008

УДК 05 

ББК Я5 


САМАРСКОГО ГОСУДАРСТВЕННОГО 

АЭРОКОСМИЧЕСКОГО УНИВЕРСИТЕТА 

имени АКАДЕМИКА С. П. КОРОЛЁВА 

№ 2 (15) 

2008 

Главный редактор 

В. А. Сойфер, член-корр. РАН 

Заместитель главного редактора 

Е. В. Шахматов, д.т.н., профессор 

Ответственный секретарь 

А. Г. Прохоров, к.т.н., доцент 

Редакционная коллегия 

Г. П. Аншаков, член-корр. РАН, В. Л. Балакин, д.т.н., профессор, 

В. А. Барвинок, член-корр. РАН, д.т.н., профессор, В. П. Бездухов, член-корр. 

РАО, д.п.н., профессор, В. Д. Богатырёв, д.э.н., профессор, Ф. В. Гречников, 

член-корр. РАН, д.т.н., профессор, Н. Л. Казанский, д.ф.-м.н., А. Н. Кирилин, 

д.т.н., профессор, В. А. Комаров, д.т.н., профессор, А. Н. Коптев, д.т.н., 

профессор, В. С. Кузьмичёв, д.т.н., профессор, С. В. Лукачёв, д.т.н., профессор, 

В. А. Михеев, д.т.н., профессор, В. С. Павельев, д.ф.-м.н., М. Н. Пиганов, д.т.н., 

профессор, С. А. Прохоров, д.т.н., профессор, С. В. Фалалеев, д.т.н., профессор, 

В. П. Шорин, академик РАН 

Журнал входит в утверждённый ВАК Минобрнауки РФ Перечень ведущих рецензируемых научных 

журналов и изданий, выпускаемых в Российской Федерации, в которых должны быть опубликованы 

основные научные результаты диссертаций на соискание учёных степеней доктора и кандидата наук. 

Журнал включён в общероссийский каталог ОАО “Роспечать”. Подписной индекс - 18264. 

© Самарский государственный аэрокосмический университет 

443086, Самара, Московское шоссе, 34 

Тел.: (846) 267 48 41 

Электронная почта: vest@ssau.ru 

Самара 

2008

СОДЕРЖАНИЕ 

УПРАВЛЕНИЕ, ВЫЧИСЛИТЕЛЬНАЯ ТЕХНИКА И ИНФОРМАТИКА 

70 ЛЕТ ПРОФЕССОРУ ИОСИФУ НОРАЙРОВИЧУ СИСАКЯНУ 

Н.Л. Казанский 9 

ОПТИЧЕСКАЯ МИКРОМАНИПУЛЯЦИЯ 

Р.В. Скиданов 35 

РЕЗОНАНСНЫЙ ИНТЕНСИВНОСТНЫЙ ЭФФЕКТ В ДИФРАКЦИОННЫХ 

РЕШЕТКАХ С НАМАГНИЧЕННЫМ СЛОЕМ 

Е.А. Безус, Д.А. Быков 51 

РАСПРОСТРАНЕНИЕ ВИХРЕВЫХ ЛАЗЕРНЫХ ПУЧКОВ С ПРОИЗВОЛЬНЫМ 

ТОПОЛОГИЧЕСКИМ ЗАРЯДОМ В ГРАДИЕНТНОМ ПАРАБОЛИЧЕСКОМ 

ВОЛОКНЕ 

А.С. Стрилец 59 

ЗОННАЯ СТРУКТУРА ФОТОННОГО КРИСТАЛЛА С СИММЕТРИЕЙ 

РЕШЕТКИ КЛАТРАТА SI34 

П.Н. Дьяченко, Н. Д. Кундикова, Ю.В. Микляев, В.С. Павельев 65 

ДИФРАКЦИЯ ПРОСТРАНСТВЕННО-ОГРАНИЧЕННОГО ПУЧКА 

НА РАДИАЛЬНО-СИММЕТРИЧНЫХ ДИФРАКЦИОННЫХ 

ОПТИЧЕСКИХ ЭЛЕМЕНТАХ 

С.И. Харитонов, Н.Л. Казанский, А.Ю. Дмитриев 72 

ОПРЕДЕЛЕНИЕ СВОЙСТВ ОПТИЧЕСКИХ «ВИХРЕЙ» ДЛЯ РЕШЕНИЯ 

ЗАДАЧ МИКРОМАНИПУЛИРОВАНИЯ 

А.А. Морозов 87 

МОДЕЛИРОВАНИЕ РАСПРОСТРАНЕНИЯ ГИПЕРГЕОМЕТРИЧЕСКИХ 

ЛАЗЕРНЫХ ПУЧКОВ С ИСПОЛЬЗОВАНИЕМ ПАРАЛЛЕЛЬНЫХ 

ВЫЧИСЛЕНИЙ НА МНОГОЯДЕРНЫХ АРХИТЕКТУРАХ 

С.А. Балалаев 94 

ИССЛЕДОВАНИЕ ВЛИЯНИЯ ИСКАЖЕНИЙ НА СВОЙСТВА МОДОВЫХ 

ЛАЗЕРНЫХ ПОЛЕЙ 

А.О. Шевин, С.Н. Хонина 101 

ВЫБОР ГЕОМЕТРИЧЕСКИХ ПАРАМЕТРОВ ПРОФИЛЯ ГАЛОГЕНИДНОЙ 

АНТИОТРАЖАЮЩЕЙ РЕШЕТКИ С УЧЕТОМ ВОЗМОЖНОСТЕЙ 

ТЕХНОЛОГИИ ТРАВЛЕНИЯ 

Ю.А. Орехова, О.Ю. Моисеев, Д.Л. Головашкин 112 

МОДЕЛИРОВАНИЕ ВЛИЯНИЯ ПОКРОВНЫХ ТКАНЕЙ РАСТЕНИЯ НА 

ХАРАКТЕРСТИКИ РАССЕЯНОГО ОБРАТНОГО ИЗЛУЧЕНИЯ 

И.А Братченко, В.П.Захаров, Е.В.Тимченко 117 

3

ПРИМЕНЕНИЕ МЕТОДА КОНТРОЛЬНОГО ОБЪЕМА ДЛЯ РАСЧЕТА 

ТЕМПЕРАТУРНОГО ПОЛЯ ПРИ ЛАЗЕРНОМ ВОЗДЕЙСТВИИ 

С.П. Мурзин, А.В. Меженин, Е.Л. Осетров 123 

РАЗУПРОЧНЕНИЕ ЗАГОТОВОК ИЗ НИЗКОЛЕГИРОВАННЫХ ТИТАНОВЫХ 

СПЛАВОВ ЛАЗЕРНЫМ ОТЖИГОМ 

С.П. Мурзин, В.И. Трегуб, А.В. Меженин, Е.Л. Осетров 130 

УСТАНОВКА ВЫРАЩИВАНИЯ МОНОКРИСТАЛЛОВ ГЕРМАНИЯ НА ОСНОВЕ 

КОНТАКТНОГО МЕТОДА ИЗМЕРЕНИЯ 

С.П. Саханский 135 

ПАРАМЕТРИЧЕСКАЯ ФУНКЦИЯ ДИФФЕРЕНЦИАЛЬНОГО ОБРАТНОГО 

РАССЕЯНИЯ МУТНЫХ СРЕД 

В.П. Захаров, А.Р. Синдяева 145 

УСЛОВИЯ СУЩЕСТВОВАНИЯ ДИССИПАТИВНЫХ СТРУКТУР В ПОЛЕ 

ФЛУКТУАЦИЙ ДИНАМИЧЕСКИХ ПЕРЕМЕННЫХ В МОДЕЛИ МОРФОГЕНЕЗА 

ГИРЕРА-МАЙНХАРДТА 

С.Е. Курушина 156 

ПАРАЛЛЕЛЬНЫЙ АЛГОРИТМ МЕТОДА ЦИКЛИЧЕСКИХ ВСТРЕЧНЫХ 

ПРОГОНОК ДЛЯ ДВУМЕРНОЙ ОБЛАСТИ 

Л.В. Логанова 167 

РЕШЕНИЕ ЗАДАЧИ НАИМЕНЬШИХ КВАДРАТОВ НА ОСНОВЕ МЕТОДА 

РАСШИРЕННОЙ СИСТЕМЫ УРАВНЕНИЙ С РАЗРЕЖЕННОЙ МАТРИЦЕЙ 

С.Ю. Гоголева, О.В. Зотеева 175 

РЕШЕНИЕ ЗАДАЧИ ПОЛИНОМИАЛЬНОЙ АППРОКСИМАЦИИ 

С ИСПОЛЬЗОВАНИЕМ ИТЕРАЦИОННОГО МЕТОДА КАЧМАЖА 

А.А. Иванов 179 

ИССЛЕДОВАНИЕ ДИДАКТИЧЕСКИХ СВОЙСТВ 3D МОДЕЛИ 

ДЛЯ ОБУЧЕНИЯ ОСНОВАМ ГЕОМЕТРИЧЕСКОГО МОДЕЛИРОВАНИЯ 

В.И. Иващенко 183 

МЕТОДЫ И МОДЕЛИ АВТОНОМНОГО УПРАВЛЕНИЯ ЖИВУЧЕСТЬЮ 

АВТОМАТИЧЕСКИХ КОСМИЧЕСКИХ АППАРАТОВ 

ДИСТАНЦИОННОГО ЗОНДИРОВАНИЯ ЗЕМЛИ 

Р.Н. Ахметов 194 

ПРИМЕНЕНИЕ СХЕМЫ ИНТЕГРИРОВАНИЯ С РАЗНЫМИ ШАГАМИ 

В МЕТОДЕ РАСЩЕПЛЕНИЯ ЗАВИХРЁННОСТИ ПРИ МОДЕЛИРОВАНИИ 

АЭРОДИНАМИЧЕСКОГО СЛЕДА ЗА ПЛОСКОЙ ПЛАСТИНОЙ 

В.В. Никонов, В.Г. Шахов 211 

АЛГОРИТМ ИЗВЛЕЧЕНИЯ СКРЫТОЙ ИНФОРМАЦИИ 

ИЗ ОТСКАНИРОВАННЫХ ПОЛИГРАФИЧЕСКИХ ИЗДЕЛИЙ 

Н.И. Глумов, В.А. Митекин, А.В. Сергеев, В.А. Федосеев 216 

4

РАЗРАБОТКА ИНФОРМАЦИОННОЙ ТЕХНОЛОГИИ ОЦЕНИВАНИЯ 

ГЕОМЕТРИЧЕСКИХ ПАРАМЕТРОВ ИЗОБРАЖЕНИЙ ГЛАЗНОГО ДНА 

А.В. Куприянов, Н.Ю. Ильясова 221 

ОБНАРУЖЕНИЕ ГРАНИЦ РАДУЖНОЙ ОБОЛОЧКИ С ИСПОЛЬЗОВАНИЕМ 

ПРЕОБРАЗОВАНИЯ ХОУ 

А.О. Корепанов 235 

АНАЛИЗ ИЗОБРАЖЕНИЯ РАДУЖНОЙ ОБОЛОЧКИ ГЛАЗА 

С ИСПОЛЬЗОВАНИЕМ ПРЕОБРАЗОВАНИЯ РАДОНА 

А.В. Кузнецов, А.В. Куприянов, Н.Ю. Ильясова 240 

СЕГМЕНТАЦИЯ ТЕКСТУРНЫХ ИЗОБРАЖЕНИЙ НА ОСНОВЕ 

ОЦЕНИВАНИЯ ЛОКАЛЬНЫХ СТАТИСТИЧЕСКИХ ПРИЗНАКОВ 

А.В. Куприянов 245 

МОДЕЛЬ МАРКОВСКОГО СЛУЧАЙНОГО ПОЛЯ В ЗАДАЧАХ СИНТЕЗА 

И АНАЛИЗА ТЕКСТУРНЫХ ИЗОБРАЖЕНИЙ 

А.И. Пластинин, А.В. Куприянов 252 

МЕТОД ОЦЕНИВАНИЯ МОРФОЛОГИЧЕСКИХ ПАРАМЕТРОВ СОСУДОВ 

НА ИЗОБРАЖЕНИЯХ ГЛАЗНОГО ДНА НА ОСНОВЕ МАТРИЦ 

ВИДИМОСТИ КРИВЫХ 

М.А. Ананьин, Н.Ю. Ильясова 258 

ЭКОЛОГИЧЕСКИЙ МОНИТОРИНГ ГОРОДА САМАРЫ С ПОМОЩЬЮ МЕТОДА 

ДИФФЕРЕНЦИАЛЬНОГО ОБРАТНОГО РАССЕЯНИЯ 

В.П. Захаров, О.Н. Макурина, Е.В.Тимченко, П.Е.Тимченко, С.П. Котова, 

Р.В. Валиуллов 261 

СОЗДАНИЕ ТЕРРИТОРИАЛЬНОЙ КОМПЛЕКСНОЙ, МНОГОСТУПЕНЧАТОЙ 

СИСТЕМЫ МОНИТОРИНГА И ПРОГНОЗИРОВАНИЯ ЧРЕЗВЫЧАЙНЫХ 

СИТУАЦИЙ ПРИРОДНОГО, ТЕХНОГЕННОГО И БИОЛОГО-СОЦИАЛЬНОГО 

ХАРАКТЕРА НА ТЕРРИТОРИИ САМАРСКОЙ ОБЛАСТИ 

Т.Г. Габричидзе, П.М. Фомин, И.М. Янников 272 

5

CONTENT 

MECHANICAL AND POWER ENGINEERING SCIENCES 

70TH ANNIVERSARY OF PROFESSOR IOSIF NORAIROVICH SISAKIAN 

N.L. Kazanskiy 9 

OPTICAL MICROMANIPULATION 

R.V. Skidanov 34 

INTENSITY EFFECT IN DIFFRACTION GRATINGS WITH MAGNETIC LAYER 

E.A. Bezus, D.A. Bykov 51 

PROPAGATION OF LASER VORTEX BEAMS WITH AN ARBITRARY 

TOPOLOGICAL CHARGE IN A CRADED-INDEX PARABOLIC FIBER 

A.S. Strilets 59 

BAND STRUCTURE OF A PHOTONIC CRYSTAL WITH THE CLATHRATE 

SI-34 CRYSTAL LATTICE 

P.N. Dyachenko, N.D. Kundikova, Yu.V. Miklyayev, V.S. Pavelyev 65 

DIFFRACTION OF THE SPATIALLY BOUNDED BEAM BY RADIALLY 

SYMMETRIC DIFFRACTIVE OPTICAL ELEMENTS 

S.I. Kharitonov, N.L. Kazanskiy, A.Yu. Dmitriev 72 

CHARACTERIZATION OF OPTICAL VORTICES FOR MICROMANIPULATION 

PURPOSES 

A.A. Morozov 87 

MODELING THE HYPERGEOMETRIC LASER BEAM PROPAGATION USING 

PARALLEL COMPUTING ON MULTI-KERNEL ARCHITECTURES 

S.A. Balalayev 94 

EXAMINATION OF DISTORTION EFFECTS ON MODE LASER BEAM 

PROPERTIES 

A.O. Shevin, S.N.Khonina 101 

SELECTING THE GEOMETRY OF A HALOGENIDE ANTIREFLECTION 

GRATING PROFILE WITH REGARD FOR THE ETCHING TECHNOLOGY 

CAPABILITIES 

Yu.A. Orekhova, O.Yu. Moiseev, D.L. Golovashkin 112 

MODELING OF PLANT INTEGUMENTARY TISSUE INFLUENCE ON 

BACKSCATTERED RADIATION 

I.A. Bratchenco, V.P. Zaharov, E.V.Timchenko 117 

USE OF CONTROL VOLUME METHOD FOR THE TEMPERATURE FIELD 

CALCULATION BY LASER INFLUENCE 

S.P. Murzin, A.V. Mezhenin, E.L. Osetrov 123 

6

SOFTENING OF HALF-FINISHED PRODUCTS FROM TITANIC LOW-ALLOY 

BY LASER ANNEAL 

S.P.Murzin, V.I.Tregub, A.V.Mezhenin, E.L. Osetrov 130 

GERMANUIM MONOCRYSTALS GROWING SYSTEM BASED ON CONTACT 

METHOD OF MEASUREMENT 

S.P. Sahanski 135 

PARAMETRIC FUNCTION OF DIFFERENTIAL BACKSCATTERING 

IN MULTIPLE-SCATTERING MEDIA 

V.P. Zakharov, A.R. Sindyaeva 145 

DISSIPATIVE STRUCTURES OF THE GIERER - MEINHARDT MODEL 

OF MORPHOGENESIS IN THE STOCHASTIC FIELD 

S.E. Kurushina 156 

A PARALLEL ALGORITHM IN THE CYCLIC COUNTER-SWEEP METHOD 

FOR A TWO-DIMENSIONAL DOMAIN 

L.V. Loganova 167 

SOLVING THE LEAST SQUARES PROBLEM USING THE METHOD 

OF AN EXTENDED SET OF EQUATIONS WITH SPARSE MATRIX 

S.Yu. Gogoleva, O.V. Zoteeva 175 

SOLVING THE POLYNOMIAL APPROXIMATION PROBLEM WITH USE 

OF THE ITERATIVE KACHMAGE METHOD 

A.A. Ivanov 179 

3D MODEL DIDACTIC PROPERTIES INVESTIGATIONS FOR GEOMETRICAL 

MODELING PRINCIPLES TRAINING 

V.I. Ivashchenko 183 

METHODS AND MODELS OF AUTONOMOUS CONTROL OVER EARTH 

REMOTE SENSING SPACECRAFT SURVIVABILITY 

R.N. Akhmetov 194 

MULTI-TIME-STEP SCHEME IN THE VORTICITY SPLITTING METHOD 

APPLIED TO THE SIMULATION OF THE WAKE BEHIND THE FLAT PLATE 

V.V. Nikonov, V.G. Shakhov 211 

AN ALGORITHM FOR EXTRACTING INVISIBLE INFORMATION 

FROM SCANNED POLYGRAPHIC PRODUCTS 

N.I. Glumov, V.A. Mitekin, A.V. Sergeev, V.A. Fedoseev 216 

DEVELOPMENT OF THE INFORMATION TECHNOLOGY FOR ESTIMATION 

OF FUNDUS IMAGE GEOMETRIC PARAMETERS 

A.V. Kuprijanov, N.Yu. Ilyasova 221 

IRIS BOUNDARY DETECTION USING HOUGH TRANSFORM 

A.O. Korepanov 235 

7

IRIS IMAGE ANALYSIS USING THE RADON TRANSFORM 

A.V. Kuznetsov, A.V. Kupriyanov, N.Yu. Ilyasova 240 

TEXTURE IMAGE SEGMENTATION BASED ON ESTIMATING THE LOCAL 

STATISTICAL FEATURES 

A.V. Kuprijanov 245 

A MODEL OF MARKOV RANDOM FIELD IN TEXTURE IMAGE SYNTHESIS 

AND ANALYSIS 

A.I. Plastinin, A.V. Kuprijanov 252 

A METHOD FOR ESTIMATING MORPHOLOGICAL PARAMETERS OF VESSELS 

IN FUNDUS IMAGES BASED ON CURVE VISIBILITY MATRIX 

M.A. Ananyin, N.Yu. Ilyasova 258 

ECOLOGICAL MONITORING OF MEGAPOLIS ON THE BASIS OF DIFFERENTIAL 

BACKSCATTERING CONTROL OF THE WOOD CULTURE 

V.P. Zakharov, O.N. Makurina, E.V. Timchenko, P.E. Timchenko, S.P. Kotova, 

R.V. Valliulov 261 

CREATION OF TERRITORIAL COMPLEX, MULTISTAGE SYSTEM OF 

MONITORING AND FORECASTING OF EXTREME SITUATIONS OF NATURAL, 

TECHNOGENIC AND BIOLOGO-SOCIAL CHARACTER FOR TERRITORIES 

OF THE SAMARA AREA 

T.G. Gabrichidze, P.M. Fomin, I.M. Yannikov 272 

8

Управление, вычислительная техника и информатика 

УДК 004.932 

70 ЛЕТ ПРОФЕССОРУ ИОСИФУ НОРАЙРОВИЧУ СИСАКЯНУ 

© 2008 Н.Л. Казанский 

Институт систем обработки изображений РАН, 

Самарский государственный аэрокосмический университет 

Приводится расширенная (добавлением литературных источников) стенограмма доклада 20 июня 2008 года 

на семинаре, посвящённом 70-летию профессора И.Н. Сисакяна и 20-летию Института систем обработки изображений 

РАН. В докладе после рассказа об основных этапах жизни и карьере профессора И.Н. Сисакяна (08.03.1938 – 

09.11.1995) дан обзор основных научных результатов И.Н. Сисакяна, а также рассказывается о развитии созданного 

его усилиями научного направления «компьютерная оптика» после его безвременной кончины. 

Дифракционная компьютерная оптика, фокусировка лазерного излучения, оптические антенны, бессельоптика, 

модовый состав лазерного излучения, защитные голограммы 

Дорогие коллеги! 

Очень многое связывает наш коллектив 

с Иосифом Норайровичем Сисакяном, которому 

в этом году исполнилось бы 70 лет. Я 

планирую построить свой доклад в соответствии 

с предлагаемым планом (слайд 2), 

кратко рассказав о жизни Иосифа Норайровича, 

остановиться на некоторых научных 

результатах Сисакяна в области оптики, а 

также рассказать о развитии идей Иосифа 

Норайровича в наши дни. 

Иосиф Норайрович Сисакян родился в 

Москве 8 марта 1938 года. Отец – Норайр 

Мартиросович Сисакян (слайд 3), уроженец 

Аштарака, крупнейший ученый-биохимик, 

основоположник космической биомедицины, 

академик АН СССР, в 1964-1966 годах был 

президентом XIII сессии Генеральной конференции 

ЮНЕСКО. В течение ряда лет 

академик Н.М. Сисакян был членом Президиума 

АН СССР, являясь академикомсекретарём 

Отделения биологических наук и 

главным ученым секретарём Президиума АН 

СССР. Норайр Мартиросович являлся действительным 

членом и вице-президентом Международной 

академии астронавтики, председателем 

Комитета по биоастронавтике 

Международной федерации астронавтики. 

Он стоял у истоков Пагуошского движения 

учёных за мир. Мать – Варвара Петровна 

Сисакян (Алексеева), уроженка Твери, научный 

работник, агрохимик. По линии отца 

предки – виноделы и виноградари. По линии 

матери дед – военный, строитель, бабушка – 

мастер ткацкого производства. 

Норайр Мартиросович и Варвара Петровна 

создали семью с большими научными 

традициями (слайд 4). Дочь, Людмила Норайровна 

Будагова-Сисакян – профессорфилолог, 

младший сын, Алексей Норайрович 

Сисакян – физик-ядерщик, академик, член 

Президиума РАН, с 2005 года возглавляет 

Объединённый институт ядерных исследований 

в Дубне. 

Иосиф Норайрович Сисакян в 1955 году 

окончил с серебряной медалью московскую 

среднюю школу № 110 г. Москвы (слайд 5), 

одну из лучших мужских школ того времени. 

При этом преуспел не только в учебе, но и в 

спорте. Школьные рекорды Иосифа Сисакяна 

– 175 см в прыжках в высоту и 11 секунд на 

стометровке – сохранялись около 20 лет. В 

1961 году И.Н. Сисакян окончил физический 

факультет МГУ имени М.В. Ломоносова по 

специальности «физик-теоретик». 

В аспирантуре И.Н. Сисакян вместе с 

Евгением Львовичем Фейнбергом и Дмитрием 

Сергеевичем Чернавским опубликовал 

несколько блестящих теоретических работ, 

основанных на развитии гидродинамической 

теории Ландау (слайд 6). Эта теория касалась 

описания процессов с множественным рождением 

новых частиц, возникающих при соударении 

двух частиц или ядер очень высокой 

энергии. Исходя из того, что в одном акте 

рождаются сразу тысячи частиц большой 

энергии в очень малом объёме, разумно рас- 

9

Вестник Самарского государственного аэрокосмического университета, №2, 2008 

сматривать это как сгусток горячей субандронной 

материи, имеющей очень высокие 

температуру и внутреннее давление. Такой 

сгусток будет расширяться и охлаждаться, 

пока образующие его частицы не разлетятся 

настолько, что уже не будут взаимодействовать, 

и полученный газ этих частиц и определит, 

какие это частицы, их число и свойства. 

Л.Д. Ландау применил к расчёту сгустка 

развитую им совместно с Е.М. Лившицем 

релятивистскую гидродинамику и термодинамику. 

И.Н. Сисакяном была правильно 

предсказана вероятность генерации самых 

лёгких ядер (дейтрона, трития). Но главной 

работой можно считать расчёт вероятности 

генерации гамма-квантов и дилептонных 

пар. Через 20 лет энергия частиц, получаемых 

на ускорителях, приблизилась к энергии 

космических лучей, и стали возможны более 

детальные эксперименты. В результате «кощунственный 

подход» - гидродинамическая 

теория Л.Д. Ландау – стала общепризнанной, 

а испускание дилептонов (например, пар 

электрон + позитрон) и сейчас является 

предметом множества актуальных работ. 

После защиты диссертации И.Н. Сисакян 

сменил тематику, сосредоточившись на 

оптике и физике волновых процессов. Однако 

одно из направлений исследований Иосифа 

Норайровича, проводимых совместно с 

Сергеем Гельевичем Кривошлыковым, заключалось 

в использовании методов квантовой 

механики для описания распространения 

световых пучков в градиентных продольнонеоднородных 

световодах [1,2]. Эта возможность 

основана на том, что параксиальное 

уравнение Фока-Леонтовича математически 

эквивалентно уравнению Шредингера, при 

этом длина волны света соответствует постоянной 

Планка, а распространение света 

вдоль оптической оси соответствует эволюции 

квантовой системы во времени. И.Н. Сисакяном 

и С.Г. Кривошлыковым были получены 

явные выражения для траектории лучей, ширины 

мод, коэффициентов связи между модами 

для волноводов с искривленной осью. 

В годы учёбы Иосиф Норайрович активно 

занимался общественной деятельностью, 

был председателем Совета молодых 

учёных города Москвы. Организаторские 

способности И.Н. Сисакяна были замечены, 

и с 1970 года он стал исполнять обязанности 

учёного секретаря Физического института 

им. П.Н. Лебедева А.Н. СССР (ФИАН). В 

1973 году произошла реструктуризация 

ФИАНа, институт был разделён на три достаточно 

независимые части. В Отделение А, 

возглавляемое Александром Михайловичем 

Прохоровым, на должность заместителя руководителя 

Отделения был приглашён И.Н. 

Сисакян. Бурному развитию Отделения А в 

значительной степени способствовала деятельность 

Сисакяна под руководством А.М. 

Прохорова, приведшая к образованию в 1982 

году на базе Отделения А ФИАНа Института 

общей физики АН СССР, ныне – им. А.М. 

Прохорова (ИОФАН). 

В этом же году И.Н. Сисакян защитил 

докторскую диссертацию (слайд 7). Защита 

должна была состояться ещё в 1981 году, материалов 

и публикаций было достаточно, в 

конце 70-х годов совместными усилиями с 

А.М. Прохоровым и В.А. Сойфером было 

сформировано новое научное направление – 

«компьютерная оптика». К сожалению, напряжённая 

работа, гибель при проведении 

эксперимента Александра Ивановича Барчукова 

- старейшего соратника Александра 

Михайловича Прохорова (а вся ответственность 

за происшедшую трагедию легла на 

плечи И.Н. Сисакяна) привели к тяжелейшему 

инфаркту. Но Иосиф Норайрович вытащил 

себя из больницы: «Я заставил себя не 

умереть, я не мог умереть, потому что не поставил 

на ноги детей» [3]. 

После образования ИОФАНа И.Н. Сисакян 

занял в нём должность заведующего 

лабораторией (впоследствии отдела) обработки 

сигналов. 

С 1986 года по инициативе Президиума 

АН СССР И.Н. Сисакян занял пост начальника 

- главного конструктора Центрального 

конструкторского бюро уникального приборостроения 

АН СССР (ЦКБ УП АН СССР). 

Организация, которую пришлось возглавить 

И.Н. Сисакяну, была далеко не в лучшем состоянии 

[3]. Осталась она на плаву в бурные 

годы перестройки и последующие тяжелейшие 

для науки годы за счёт титанических усилий 

И.Н. Сисакяна. Конечно, всё это не могло 

10


не сказаться на здоровье И.Н. Сисакяна и привело 

к безвременному уходу из жизни. 

Но перед этим были замечательные годы 

(слайд 8) сотрудничества с Куйбышевским 

авиационным институтом (КуАИ), с 

научной группой профессора В.А. Сойфера, 

формирование и развитие нового научного 

направления, получившего название «компьютерная 

оптика» [4]. Это направление зародилось 

на стыке информатики, лазерной 

физики и микроэлектроники и привело к 

созданию новых классов оптических элементов 

с недостижимыми в классической оптике 

свойствами. Из-за определяющего влияния 

дифракции на функционирование объектов, 

создаваемых методами компьютерной оптики, 

эти плоские пластинки с проектируемым 

на компьютере микрорельефом получили название 

дифракционных оптических элементов 

(ДОЭ). А сколько радости человеческого 

общения и биения научной мысли приносили 

блестяще организованные Иосифом Норайровичем 

рабочие совещания по компьютерной 

оптике [5-7]. В ходе первых совещаний 

после интересного доклада на сцену из 

зала могли выбежать 3-4 человека и продолжить 

вызванный докладом яростный научный 

спор с мелом у доски, забыв про докладчика 

и остальных слушателей… Последняя 

конференция по компьютерной оптике, в 

подготовке которой успел принять участие 

И.Н. Сисакян, прошла в рамках большого 

международного симпозиума «Информационная 

оптика» (председатель оргкомитета – 

академик Андрей Леонович Микаэлян) уже 

без Иосифа Норайровича… 

По результатам первого рабочего совещания 

(Звенигород, 26-28 мая 1986 г.) по инициативе 

И.Н. Сисакяна, академика А.М. Прохорова 

и академика Е.П. Велихова начал выходить 

международный сборник «Компьютерная 

оптика» [8], сразу вызвавший большой 

интерес и появление английского переводного 

варианта в издательстве «Пергамон Пресс». 

Сотрудничество с группой профессора 

В.А. Сойфера началось с расчёта и изготовления 

фазовых компенсаторов – оптических 

элементов, предназначенных для корректировки 

и преобразования формы волнового 

фронта [9-10]. Компенсаторы используются 

в специальных оптических установках 

(обычно интерферометрах) для контроля 

формы оптических поверхностей [11]. В результате 

сотрудничества удалось создать такие 

оптические элементы, которые заменяли 

целые оптические системы и обеспечивали 

преобразование сферического волнового 

фронта в заданный асферический (соответствующий 

поверхности вращения с параболической, 

эллиптической или гиперболической 

образующей) или даже его внеосевой сегмент 

с заданным распределением энергии по 

нему [12-17]. В настоящее время данные исследования 

продолжают наши новосибирские 

коллеги из Института автоматики и 

электрометрии СО РАН в лаборатории, возглавляемой 

доктором технических наук 

Александром Григорьевичем Полещуком. В 

последние годы в лаборатории А.Г. Полещука 

созданы уникальные компенсаторы для 

контроля больших астрономических зеркал, 

изготавливаемых в США [18-20]. 

Продолжение активного сотрудничества 

с куйбышевскими учеными привело к 

созданию в 1988 году по инициативе И.Н. 

Сисакяна (решением Президиума АН СССР) 

Куйбышевского филиала ЦКБ уникального 

приборостроения АН СССР во главе с В.А. 

Сойфером. В 1992 году результаты этого сотрудничества 

были отмечены заслуженной 

наградой – государственной премией России 

за выдающиеся достижения в области науки 

и техники («за разработку лазерных технологий 

и их внедрение при создании новой 

авиационно-космической техники») в составе 

коллектива с преобладающим представительством 

ученых КуАИ-СГАУ – В.П. Шорина, 

В.А. Сойфера, В.А. Барвинка, В.И. Богдановича, 

В.И. Мордасова, Г.А. Цидулко. 

Какие же научные результаты послужили 

основанием к получению государственной 

премии? 

В первую очередь, это создание фокусаторов 

лазерного излучения (слайд 9). Идея 

создания фокусатора в соосный отрезок, своего 

рода лазерного скальпеля, принадлежит 

А.М. Прохорову, И.Н. Сисакяну и В.А. Сойферу. 

Эту задачу удалось решить буквально 

в течение 3-4 месяцев, и в 1981 году была 

опубликована соответствующая работа с 

11


участием также молодых ученых КуАИ Михаила 

Ароновича Голуба и Сергея Владимировича 

Карпеева [21]. В этот период к работам 

активно подключились молодые сотрудники 

ФИАНа – теоретик Виктор Анатольевич 

Данилов и экспериментатор Владимир 

Викторович Попов. Ось Москва-Самара укреплялась, 

и именно в это время была решена 

задача фокусировки лазерного излучения 

в произвольную кривую в фокальной плоскости 

с заданным распределением интенсивности 

на кривой – задача синтеза фокусаторов 

[22]. Примеры оптических экспериментов 

с фокусаторами [23-25] представлены на 

слайде 10. В публикациях [23-25] сообщается 

о создании фокусатора в кольцо, о развитии 

методов расчёта и технологий формирования 

дифракционного микрорельефа, что 

привело к великолепным результатам испытаний 

в ноябре 1989 года в США в Институте 

«Дженерал Моторос» фокусатора в поперечный 

отрезок для термоупрочнения стали 

с использованием трехкиловатного лазера 

фирмы «Спектрофизикс». Производительность 

лазерного термоупрочнения (по сравнению 

с фокусировкой в точку) повысилась в 10 

раз, а срок службы упрочнённой полоски стали 

увеличился в 5-7 раз. 

Другой пример – создание моданов – оптических 

элементов, осуществляющих спектральный 

анализ поперечных мод (слайд 11). 

Если призмы или дифракционные решетки 

пространственно разделяют хроматические 

спектральные составляющие света, то моданы 

пространственно разделяют поперечные модовые 

составляющие лазерных пучков [26]. Были 

рассчитаны, синтезированы и исследованы 

(слайд 12) моданы для селекции мод Гаусса- 

Лагерра и Гаусса-Эрмита [26-29]. 

В последнее время успешно развивается 

новое научное направление - сингулярная 

оптика, в которой исследуются световые поля 

вблизи нулевых значений интенсивностей 

[30]. Одной из первых работ в данной области 

была статья [31], ссылка на которую приведена 

на слайде 13. В статье говорилось о 

создании дифракционных оптических элементов, 

формирующих пучки, описываемые 

функциями Бесселя. Такие пучки 

имеют сохраняющийся на большом расстоянии 

вдоль оптической оси узкий пик, 

что позволяет использовать их для юстировки 

оптических систем. 

Другой пример – это дифракционные 

оптические антенны (слайд 14), обеспечивающие 

формирование требуемой диаграммы 

направленности излучения [32]. Если фокусатор 

концентрирует излучение в заданную 

фигуру в фокальной плоскости, то оптические 

антенны формируют излучение в 

форме лепестков, сохраняющих свою форму 

и угол распространения при удалении от оптического 

элемента. 

На слайде 15 приведена одна из первых 

работ, посвященных итерационному расчету 

дифракционных оптических элементов [33]. 

Сейчас благодаря усилиям В.А. Сойфера, 

В.В. Котляра, Л.Л. Досколовича, В.С. Павельева, 

С.Н. Хониной, М.А. Воронцова, 

Я. Турунена, Ф. Вировского это мощнейшее 

направление расчёта дифракционных оптических 

элементов, которому посвящены целые 

монографии и главы учебников [34-36]. 

Иосиф Норайрович – автор более 300 

статей, о полученных им результатах можно 

было бы рассказывать долго, но я уже плавно 

перешел к развитию идей и начинаний 

И.Н. Сисакяна в настоящее время. 

В год своего 20-летия сборник «Компьютерная 

оптика» стал академическим научным 

журналом (слайд 16) с солидной редколлегией, 

в состав которой входят 3 академика, 

а главным редактором Постановлением 

бюро Отделения нанотехнологий и информационных 

технологий РАН назначен 

член-корреспондент РАН В.А. Сойфер. Выходят 

4 номера в год. Первый номер за 2008 

год содержит материалы, посвященные 70- 

летию И.Н. Сисакяна. Сейчас Вы уже можете 

видеть сигнальные экземпляры 2-го номера 

за 2008 год, открывающегося статьей В.А. 

Сойфера «Дифракционная оптика и нанофотоника» 

[37]. 

ЦКБ уникального приборостроения 

РАН успешно развивается, став научно-технологическим 

центром не только приборостроения, 

но и фундаментальной науки. Нынешний 

директор В.И. Пустовойт и бывший 

сотрудник ЦКБ В.Ю. Хомич стали академиками, 

а Владислав Иванович вместе с акаде- 

12


миком Юрием Васильевичем Гуляевым получили 

в прошлом году из рук В.В. Путина 

Государственную премию за выдающиеся 

достижения в области науки и техники. 

Развивается и тематика фокусировки 

лазерного излучения с помощью дифракционных 

оптических элементов. В 2000-ые годы 

в сотрудничестве нашего коллектива с 

Центром естественно-научных исследований 

Института общей физики им. А.М. Прохорова 

РАН были созданы (слайд 17) фокусаторы 

на поликристаллических алмазных пленках 

[38-42], что было отмечено Государственной 

премией России для молодых ученых (лауреаты 

- Д.Л. Головашкин, В.В. Кононенко и 

В.С. Павельев). А вот другой пример (слайд 

18) – статья «Элементы дифракционной оптики 

как формирователи лазерных пучков 

для сверления пластика» [43] полугодовой 

давности в хорошем американском журнале 

“Optical Engineering” (США) – это журнал 

Общества по оптической технике SPIE с неплохим 

импакт-фактором. В статье американские 

учёные Давид Гривел и Абрахам 

Бинэтар из двух приличных американских 

университетов – Айовы и Огайо – сообщают 

о создании и исследовании дифракционных 

оптических элементов, фокусирующих в 

кольцо и предназначенных для сверления 

круглых дырок в пластике. Посмотрите на 

приведённый в статье результат фокусировки 

(слайд 18) и сравните с фотографией из 

уже упомянутой мною статьи [23] Сисакяна, 

Сойфера и Ко в «Письмах в ЖТФ» 1982 года 

(на том же слайде 18 слева). При этом посмотрите, 

какой безобразный пучок фокусировал 

наш оптический элемент 25-летней 

давности - современные американские лазеры, 

продающиеся на жёстко конкурентном 

рынке, не могут позволить себе формирование 

пучков такой ужасной конфигурации. 

Вот это научный уровень результатов, сохраняющих 

актуальность более 25 лет! 

В последние несколько лет мы научились 

формировать микрорельеф на торце волокон 

без искажения показателя преломления 

волокна (слайд 19). Формирование моданов 

на торце волокна сразу создаёт основной 

узел оптического устройства, например, 

волоконного датчика давления [44-46]. 

Тот научный задел, который был создан 

при синтезе оптических антенн, в 90-ые 

и нулевые годы в сотрудничестве с Исследовательским 

центром ФИАТ (Италия) был использован 

при проектировании малогабаритных 

высокоэффективных фар и светосигнальных 

устройств [47-53]. На слайде 20 

приведена фотография с автомобильного салона 

в Женеве 2006 года фиатовской модели, 

расчёт фар которой основан на результатах 

нашего коллектива и был выполнен Л.Л. Досколовичем. 

Резюмируя вышесказанное, можно сказать, 

что информационная оптика произвела 

в последние десятилетия революцию не 

только в ряде научных областей, но и во 

многих направлениях современной техники 

(слайд 21). Цифровые камеры, сотовые телефоны, 

DVD- и CD-проигрыватели, устройства 

оптической памяти, ЖК-проекторы, мониторы 

и многое другое невозможно без использования 

дифракционной компьютерной 

оптики. При этом новые устройства сами порождают 

новые области науки и техники, 

оказывая активное влияние, например, на 

развитие информационных технологий. 

Если в классической оптике дифракционные 

эффекты искажали качество работы 

оптических устройств, то сейчас новые информационные 

технологии не только позволяют 

учесть и минимизировать влияние дифракционных 

эффектов на работу оптической 

системы, но и использовать дифракцию 

для придания системе требуемых, недостижимых 

в классической оптике, свойств или 

существенно меньших массогабаритных характеристик, 

как в объективе для профессиональной 

камеры Canon, представленной 

на слайде 22 (сверху – классический объектив, 

внизу – с использованием дифракционных 

оптических элементов). 

Еще один бытовой пример проникновения 

дифракционной оптики в нашу жизнь 

– это защитные голограммы (слайд 23). На 

самом деле, это никакие не голограммы, потому 

что здесь нет никакой опорной волны. 

Это наборы (см. рисунок в левой верхней 

части слайда 23) различной формы и направленности 

дифракционных решёток «с блеском» 

(так называется дифракционная решётка 

с формой микрорельефа, представленной 

в нижней левой части слайда 23), отра- 

13


жающих падающее излучение под различными 

углами. В результате получаются заранее 

рассчитанные красивые картины, примеры 

которых представлены на слайде 23 

справа. Тиражируются тоненькие пленки с голограммами 

с помощью устройств, представленных 

на слайде 24. В результате мы получаем 

защищённые от подделок продукты, примеры 

которых представлены на слайде 25. 

Все эти годы друзья не забывали про 

Иосифа Норайровича. К 10-летию со дня его 

смерти был выпущен сборник «Прыжок перекатом» 

[54], посвящённый памяти профессора 

И.Н. Сисакяна. В этом году в конце апреля 

в Москве прошли мемориальные мероприятия, 

посвященные 70-летию И.Н. Сисакяна 

(слайд 26). В рамках этих мероприятий 

в ФИАНе, первом месте работы И.Н. Сисакяна, 

состоялся научный семинар, программа 

которого представлена на слайде 27. На семинаре 

теплые воспоминания о друге, ученике 

или руководителе перемежались с научными 

докладами. В конце семинара был 

показан фильм, подготовленный в прошлом 

году к 100-летию Норайра Мартиросовича 

Сисакяна. Для меня самым важным в этом 

фильме было снова увидеть и услышать Иосифа 

Норайровича – в фильме он рассказывал, 

как во время своей поездки в Париж попал в 

представительство Генеральной конференции 

ЮНЕСКО, где сохранялась добрая память о 

его отце, и как это доброе отношение к отцу 

неожиданно спроецировалось на него… 

В заключение хотелось бы отметить, 

что у нас в Самаре - основной центр по развитию 

идей и продолжению дел Иосифа Норайровича 

Сисакяна, предыдущие докладчики 

продемонстрировали мировой научный 

уровень наших результатов. Давайте и в 

дальнейшем будем достойны его памяти 

(слайд 28). 

Библиографический список 

1. Кривошлыков, С.Г. Когерентные 

состояния и распространение света в неоднородных 

средах / С.Г. Кривошлыков, 

И.Н. Сисакян // Квантовая электроника, 

1980. – Том 7, вып. 3. – С. 553-565. 

2. Кривошлыков, С.Г. Когерентные 

состояния и непараксиальное распространение 

света в градиентных средах / С.Г. Кривошлыков, 

И.Н. Сисакян // Квантовая электроника, 

1983. – Том 10, вып. 4. – С. 735-741. 

3. Щербаков, И.А. Несколько слов 

об Иве / И.А. Щербаков // В кн.: Прыжок 

перекатом. Памяти профессора И.Н. Сисакяна 

/ Под ред. В.А. Сойфера и В.Ю. Хомича. – 

Дубна: ОИЯИ, 2005. – С. 16-20. 

4. Сисакян, И.Н. Компьютерная оптика. 

Достижения и проблемы / И.Н. Сисакян, 

В.А. Сойфер // Компьютерная оптика. – 

М.: МЦНТИ, 1987. – Вып.1. – С.5-19. 

5. Семенов, А.С. Рабочее совещание 

по компьютерной оптике (Звенигород, 26-28 

мая 1986 г.) / А.С. Семенов // Квантовая 

электроника, 1986. – Том 13, № 12. – 

С. 2552-2560. 

6. Семенов, А.С. IV рабочее совещание 

по компьютерной оптике (Тольятти, 19- 

24 февраля 1990 г.) / А.С. Семенов, Н.Л. Казанский 

// Квантовая электроника, 1990. – 

Том 17, № 12. – С.1644-1649. 

7. The 5th International Workshop on 

Digital Image Processing and Computer Graphics 

"Image Processing and Computer Optics" / 

N.L. Kazanskiy, N.S. Merzlyakov, V.V. Sergeev 

, V.A. Soifer // Pattern Recognition and Image 

Analysis, 1995. – № 2. – P.325-329. 

8. Казанский, Н.Л. 20 лет научному 

изданию «Компьютерная оптика» / Н.Л. Казанский 

// Компьютерная оптика, 2007. –Том 

31, № 4. – С.4-6. 

9. Голуб, М.А. Получение асферических 

волновых фронтов при помощи машинных 

голограмм / М.А. Голуб [и др.] // Доклады 

Академии наук СССР, 1980. – Т. 253, 

№ 5. – С. 1104-1108. 

10. Голуб, М.А. Машинный синтез оптических 

компенсаторов для получения 

асферических волновых фронтов / М.А. Голуб 

[и др.] // Препринт ФИАН СССР № 29. – 

М.: 1981. 

11. Пуряев, Д.Т. Методы контроля оптических 

асферических поверхностей. / Д.Т. Пуряев 

– М.: Машиностроение, 1976. – 264 с. 

12. Устройство для контроля оптических 

асферических поверхностей / Голуб 

М.А., Казанский Н.Л., Сисакян И.Н., Сойфер 

В.А. // А.с. 1516767 СССР // Бюлл. изобретений. 

- 1989. - № 39. 

14


Слайд 1 

Слайд 2 

15


Слайд 3 

Слайд 4 

16


Слайд 5 

Слайд 6 

17


Слайд 7 

Слайд 8 

18


Слайд 9 

Слайд 10 

19


Слайд 11 

Слайд 12 

20


Слайд 13 

Слайд 14 

21


Слайд 15 

Слайд 16 

22


Слайд 17 

Слайд 18 

23


Слайд 19 

Слайд 20 

24


Слайд 21 

Слайд 22 

25


Слайд 23 

Слайд 24 

26


Слайд 25 

Слайд 26 

27


Слайд 27 

Слайд 28 

28


13. Голуб, М.А. Синтез эталонов для 

контроля внеосевых сегментов асферических 

поверхностей / М.А. Голуб [и др.] // Оптика и 

спектроскопия, 1990. – Т.68, № 2. – C.461-466. 

14. Голуб, М.А. Формирование эталонных 

волновых фронтов элементами компьютерной 

оптики / М.А. Голуб [и др.] // 

Компьютерная оптика. – М.: МЦНТИ, 1990. 

– Вып.7. – С.3-26. 

15. Способ изготовления асферических 

зеркал / Голуб М.А., Казанский Н.Л., Сисакян 

И.Н., Сойфер В.А. // А.с. 1675812 СССР 

// Бюлл. изобретений. - 1991. - № 33. 

16. Голуб, М.А. Расчет элементов компьютерной 

оптики для формирования волновых 

фронтов с пространственно-модулированной 

интенсивностью / М.А. Голуб, И.Н. Сисакян, 

В.А. Сойфер // Оптика и спектроскопия, 

1990. – Т. 69, № 5. – C.1151-1156. 

17. Kazanskiy, N.L. Wave Front Correction 

/ N.L. Kazanskiy, V.V. Kotlyar, V.A. Soifer 

// In the book "Methods for Computer Design 

of Diffractive Optical Elements" edited by 

Victor A. Soifer. – A Wiley Interscience Publication, 

John Wiley & Sons, Inc., 2002. – 

p.607-649. 

18. Pan, F. Efficient testing of segmented 

aspherical mirrors by use of a reference plate 

and computer-generated holograms. II. Case 

study, error analysis, and experimental validation 

/ F. Pan [and others] // Applied Optics, 

2004. – Vol. 43, Issue 28. – P. 5313-5322. 

19. Asfour, J.-M. Asphere testing with a 

Fizeau interferometer based on combined computer-generated 

hologram / J.-M. Asfour, A.G. Poleshchuk 

// Journal of Optical Society of America 

A, 2006. – Vol. 23, Issue 1. – P. 172-178. 

20. Полещук, А.Г. Методы и системы 

для интерферометрического контроля асферической 

оптики с помощью синтезированных 

голограмм / А.Г. Полещук // Сборник 

трудов и официальные материалы научнопрактической 

конференции «Голография в 

России и за рубежом. Наука и практика», 

Санкт-Петербург, 1-2 июля 2008 г. – М.: 

ООО «Голография-Сервис». – С. 21-24. 

21. Голуб, М.А. Фокусировка когерентного 

излучения в заданную область пространства 

с помощью синтезированных на 

ЭВМ голограмм / М.А. Голуб [и др.] // Письма 

в ЖТФ, 1981. – Т. 7, вып. 10. – С. 618-623. 

22. Данилов, В.А. Синтез оптических 

элементов, создающих фокальную линию 

произвольной формы / В.А. Данилов [и др.] 

// Письма в ЖТФ, 1982. – Т. 8, № 13. – 

С. 810-815. 

23. Голуб, М.А. Машинный синтез 

фокусирующих элементов для CO 2 -лазера / 

М.А. Голуб [и др.] // Письма в ЖТФ, 1982. – 

Т. 8, вып. 13. – С.449-451. 

24. Golub, M.A. Infra-red radiation focusators 

/ M.A. Golub, I.N. Sisakian, V.A. Soifer 

// Optics and Lasers in Engineering, 1991. – 

Vol. 15, № 5. – P.297-309. 

25. Golub, M.A. Focusators at letters diffraction 

design / M.A. Golub [and others] // 

Proceedings SPIE, 1991. – Vol. 1500. – P.211- 

221. 

26. Голуб, М.А. Синтез пространственных 

фильтров для исследования поперечного 

модового сотава когерентного излучения 

/ М.А. Голуб [и др.] // Квантовая электроника, 

1982. – Том 9, № 9. – С. 1866-1868. 

27. Голуб, М.А. Экспериментальное 

исследование распределение мощности по 

поперечным модам в волоконном световоде 

с помощью пространственных фильтров / 

М.А. Голуб [и др.] // Квантовая электроника, 

1984. – Том 11, № 9. – С. 1869-1871. 

28. Голуб, М.А. Фазовые пространственные 

фильтры, согласованные с поперечными 

модами / М.А. Голуб [и др.] // Квантовая 

электроника, 1988. – Том 15, № 3. – 

С. 617-618. 

29. Сисакян, И.Н. Моданы – оптические 

элементы для анализа и формирования 

поперечно-модового состава лазерного излучения 

/ И.Н. Сисакян, В.А. Сойфер // Компьютерная 

оптика. – М.: МЦНТИ, 1989. – 

Вып. 4. – С. 3-9. 

30. Котляр, В.В. Формирование самовоспроизводящихся 

многомодовых лазерных 

пучков / В.В. Котляр, В.А. Сойфер, С.Н. Хонина 

// В.кн.: Дифракционная компьютерная 

оптика. / Под редакцией В.А. Сойфера. – М.: 

Физматлит, 2007. – С. 559-656. 

29


31. Березный, А.Е. Бессель-оптика / 

А.Е. Березный [и др.] // Доклады АН СССР, 

1984. – Том 274, вып. 3. – С. 623-627. 

32. Голуб, М.А. Синтез оптической 

антенны / Голуб М.А. [и др.] // Компьютерная 

оптика. - М.: МЦНТИ, 1987. – Вып. 1. – 

С.35-40. 

33. Березный, А.Е. Фазовые дифракционные 

решетки с заданными параметрами 

— об одной обратной задаче оптики / 

А.Е. Березный [и др.] // Доклады АН СССР, 

1986. – Т. 287, вып. 3. – С. 623-627. 

34. Soifer, V.A. Iterative Methods for 

Diffractive Optical Elements Computation. / 

V.A. Soifer, V.V. Kotlyar, L.L. Doskolovich – 

“Taylor and Francis”, London, 1997. – 250 p. 

35. Досколович, Л.Л. Итеративные 

методы расчета ДОЭ / Л.Л. Досколович, 

В.В. Котляр, В.А. Сойфер // В.кн.: Методы 

компьютерной оптики. / под редакцией В.А. 

Сойфера (издание 2-ое, исправленное. Допущено 

Министерством образования РФ в 

качестве учебника для студентов высших 

учебных заведений). – М.: Физматлит, 2003. 

– С.49-141. 

36. Котляр, В.В. Расчет ДОЭ в скалярном 

приближении теории дифракции / 

В.В. Котляр, Л.Л. Досколович, В.А. Сойфер 

// В.кн.: Дифракционная компьютерная оптика 

/ под редакцией В.А. Сойфера. – М.: 

Физматлит, 2007, с. 175-253. 

37. Сойфер, В.А. Дифракционная оптика 

и нанофотоника / В.А. Сойфер // Компьютерная 

оптика, 2008. – Том 32, № 2. – 

С.110-118. 

38. Кононенко, В.В. Алмазная дифракционная 

оптика для мощных СО 2 - 

лазеров / В.В. Кононенко [и др.] // Квантовая 

электроника, 1999. – Том 26, № 1. – С.9-10. 

39. Kononenko, V.V. CVD diamond 

transmissive diffractive optics for CO 2 lasers / 

V.V. Kononenko [and others] // New Diamond 

and Frontier Carbon Technology (Japan), 2000. 

– Vol.10. – Pp.97-107. 

40. Kononenko, V.V. Laser shaping of 

diamond for IR diffractive optical elements / 

V.V. Kononenko [and others] // RIKEN Review, 

2002. – No 43. – Pp. 49-55. 

41. Pavelyev, V.S. Formation of diffractive 

microrelief on diamond film surface / 

V.S. Pavelyev [and others] // Optics & Laser Technology, 

2007. – Vol.39, №6. – Pp.1234-1238. 

42. Павельев, В.С. Синтез ДОЭ на 

алмазных поликристаллических пленках / 

В.С. Павельев, Д.Л. Головашкин, В.А. Сойфер 

// В.кн.: Дифракционная компьютерная 

оптика. Под редакцией В.А. Сойфера. – М.: 

Физматлит, 2007. – C.697-736. 

43. Grewell, D. Diffractive optics as 

beam-shaping elements for plastics laser welding 

/ D. Grewell , A. Benatar // Optical Engineering, 

2007, Vol. 46, No 11 (November). 

44. Karpeev, S.V. Fibre sensors based on 

transverse mode selection / S.V. Karpeev [and 

others] // Journal of Modern Optics, 2007. – 

Vol. 54, № 6. – Pp. 833-844. 

45. Моисеев, О.Ю. Полуавтоматическая 

установка для формирования микрорельефов 

на торцах галогенидных ИК– 

волноводов / О.Ю. Моисеев // Компьютерная 

оптика, 2008. – Том 32, № 1. – C.62-63. 

46. Гаврилов, А.В. Интегральные волоконные 

датчики давления на основе селективного 

возбуждения поперечных мод / 

А.В. Гаврилов, В.С. Павельев, В.А. Сойфер // 

Компьютерная оптика, 2008. – Том 32, № 2. 

– C.175-179. 

47. Казанский, Н.Л. Математическое 

моделирование светотехнических устройств с 

ДОЭ / Н.Л. Казанский, В.А. Сойфер, С.И. Харитонов 

// Компьютерная оптика. - М.: 

МЦНТИ, 1995. – Вып.14-15, ч.2. – С.107-116. 

48. Досколович, Л.Л. Проектирование 

светотехнических устройств с ДОЭ / Л.Л. Досколович, 

Н.Л. Казанский, С.И. Харитонов // 

Компьютерная оптика, 1998. – №18. – С.91-96. 

49. Kazanskiy, N.L. DOE-based Lighting 

Devices // In the book "Methods for Computer 

Design of Diffractive Optical Elements" 

edited by Victor A. Soifer. – A Wiley Interscience 

Publication. John Wiley & Sons, Inc., 

2002. – Pp.651-671. 

50. Doskolovich, L.L. A DOE to form a 

line-shaped directivity diagram / 

L.L. Doskolovich [and others] // Journal of 

Modern Optics, 2004. – Vol. 51, № 13. – Pp. 

1999-2005. 

51. Doskolovich, L.L. Designing reflectors 

to generate a line-shaped directivity diagram 

/ L.L. Doskolovich [and others] // Journal 

30


of Modern Optics, 2005. – Vol. 52, № 11. – 

Pp.1529-1536. 

52. Казанский, Н.Л. Математическое 

моделирование оптических систем / Н.Л. Казанский 

– Самара: СГАУ, 2005. – 240 с. 

53. Doskolovich, L.L. Designing a mirror 

to form a line-shaped directivity diagram / 

L.L. Doskolovich, N.L. Kazanskiy, S. Bernard // 

Journal of Modern Optics, 2007. – Vol.54, №4. 

– Pp. 589 - 597. 

54. ПРЫЖОК ПЕРЕКАТОМ. Памяти 

профессора И.Н. Сисакяна. / под ред. В.А. 

Сойфера и В.Ю. Хомича. – Дубна: ОИЯИ, 

2005. – 86 с. 

References 

1. Kryvoshlykov, S.G. Coherent states 

and light propagation in inhomogeneous media / 

S.G. Kryvoshlykov, I.N. Sisakian // Soviet 

Journal of Quantum Electronics. – 1980. – V. 7, 

No. 3. – P. 553-565. – [in Russian]. 

2. Kryvoshlykov, S.G. Coherent states 

and nonparaxial light propagation in gradientindex 

media / S.G. Kryvoshlykov, I.N. Sisakian 

// Soviet Journal of Quantum Electronics. – 1983. 

– V. 10, No. 4. – P. 735-741. – [in Russian]. 

3. Scherbakov I.A. A few words about 

the Willow / I.A. Scherbakov // in the book 

Spinner Jump. In memory of Professor I.N. Sisakian 

/ Ed. by V.A. Soifer and V.Yu. Khomich. - 

Dubna: JINR, 2005. - Pp. 16-20. – [in Russian]. 

4. Sisakian, I.N. Computer Optics. 

Achievements and challenges / I.N. Sisakian, 

V.A. Soifer // Computer Optics. - M.: ICSTI, 

1987. – No. 1. – P. 5-19. – [in Russian]. 

5. Semenov, A.S. Workshop on Computer 

Optics (Zvenigorod, 26-28 May, 1986) / 

A.S. Semenov // Soviet Journal of Quantum 

Electronics. – 1986. – V. 13, No. 12. – P. 2552- 

2560. – [in Russian]. 

6. Semenov, A.S. IV-th Workshop on 

Computer Optics (Togliatti, 19 - 24 February, 

1990) / A. S. Semenov, N. L. Kazanskiy // Soviet 

Journal of Quantum Electronics. – 1990. – 

V. 17, No. 12. – P. 1644-1649. – [in Russian]. 

7. The 5th International Workshop on 

Digital Image Processing and Computer Graphics 

"Image Processing and Computer Optics" / 

N.L. Kazanskiy, N.S. Merzlyakov, V.V. Sergeev 

, V.A. Soifer // Pattern Recognition and Image 

Analysis, 1995. – № 2. – P.325-329. 

8. Kazanskiy, N.L. 20th anniversary of 

the scientific periodical Computer Optics / N.L. 

Kazanskiy // Computer Optics. – 2007. – V. 31, 

No. 4. – P. 4-6. – [in Russian]. 

9. Golub, M.A. Generation of aspherical 

wavefronts using computer-generated holograms 

/ M.A. Golub [and other] // Doklady 

Akademii Nauk USSR. – 1980. – V. 253, No. 5. 

– P. 1104 -1108. – [in Russian]. 

10. Golub, M.A. Computer-aided synthesisof 

optical compensators to generate aspherical 

wavefronts / M. A. Golub [and other] // Preprint 

of S. Lebedev Physical Institute of the 

RAS No.29, M.: 1981. – [in Russian]. 

11. Puryaev, D.T. Methods for aspheric 

optical surface inspection / D.T. Puryaev - M.: 

Mashinostroyenie Publishers, 1976. - 264 p. – 

[in Russian]. 

12. A device for aspheric optical surface 

inspection / M. A. Golub, N. L. Kazanskiy, I. N. 

Kazanskiy, I. N. Sisakian, V. A. Soifer // USSR 

author’s certificate #1516767 // Bulletin of Inventions. 

– 1989. – No. 39. 

13. Golub, M.A. Synthesis of standards for 

checking aspheric surface off-axis segments // 

M.A. Golub [and other] // Optika I Spektroskopiya. 

– 1990. – V. 68, No.2. – P. 461-466. – 

[in Russian]. 

14. Golub, M.A. Generation of wavefront 

standards using computer optics elements / 

M. A. Golub et al. // Computer Optics. – M.: 

ICSTI, 1990. – No. 7. – P. 3-26. – [in Russian]. 

15. A technique for aspheric mirrors 

manufacturing / Golub M. A., Kazanskiy N. L., 

Sisakian I. N., Sifer V. A. // USSR author's certificate 

# 1675812 // Bulletin of Inventions. – 

1991. – No.33. – [in Russian]. 

16. Golub M.A. Design of computer optics 

elements to generate wavefronts with spatially 

modulated intensity / M. A. Golub, I. N. Sisakian, 

V. A. Soifer // Optika I Spektroskopiya. – 1990. – 


17. Kazanskiy, N.L. Wave Front Correction 

/ N.L. Kazanskiy, V.V. Kotlyar, V.A. Soifer 

// In the book "Methods for Computer De- 

31


sign of Diffractive Optical Elements" edited by 

Victor A. Soifer. – A Wiley Interscience Publication, 

John Wiley & Sons, Inc., 2002. – 

p.607-649. 

18. Pan, F. Efficient testing of segmented 

aspherical mirrors by use of a reference plate 

and computer-generated holograms. II. Case 

study, error analysis, and experimental validation 

/ F. Pan [and others] // Applied Optics, 

2004. – Vol. 43, Issue 28. – P. 5313-5322. 

19. Asfour, J.-M. Asphere testing with a 

Fizeau interferometer based on combined computer-generated 

hologram / J.-M. Asfour, A.G. Poleshchuk 

// Journal of Optical Society of America 

A, 2006. – Vol. 23, Issue 1. – P. 172-178. 

20. Poleschuk A.G. Techniques and systems 

for aspheric optics interferometric inspection 

by means of computer-generated holograms 

/ A.G. Poleschuk // Proceedings of the seminar 

"Holography in Russia and abroad. Science and 

Practice", 1-2 July, 2008. – M.: "Holography- 

Service" Ltd. – P. 21-24. – [in Russian]. 

21. Golub, M.A. Focusing coherent light 

into a designed spatial domain using computer-- 

synthesized holograms / M. A. Golub [and 

other] // Letters to the JTP. – 1981. – V. 7, No. 

10. – P. 618-623. – [in Russian]. 

22. Danilov, V.A. Synthesis of of optical 

elements to produce an arbitrary focal line / V. 

A. Danilov et al.// Letters to the JTP. – 1982. – 


23. Golub, M.A. Computer-aided synthesis 

of focusing elements for CO 2 -laser / M. A. 

Golub [and other] // Letters to the JTP. – 1982. 


24. Golub, M.A. Infra-red radiation focusators 

/ M.A. Golub, I.N. Sisakian, V.A. Soifer 

// Optics and Lasers in Engineering, 1991. – 

Vol. 15, № 5. – P.297-309. 

25. Golub, M.A. Focusators at letters diffraction 

design / M.A. Golub [and others] // 

Proceedings SPIE, 1991. – Vol. 1500. – P. 

211-221. 

26. Golub, M.A. Synthesis of spatial filters 

to investigate the transverse mode structure 

of coherent light / M. A. Golub [and other] // 

Soviet Journal of Quantum Electronics. – 1982. 


27. Golub, M.A. Experimental studies of 

power distribution between the transverse 

modes in an optical fiber using spatial filters / 

M.A. Golub [and other] // Soviet Journal of 

Quantum Electronics. – 1984. – V. 11, No. 9. – 

P. 1869-1871. – [in Russian]. 

28. Golub, M.A. Phase spatial filters 

matched with transverse modes / M.A. Golub 

[and other] // Soviet Journal of Quantum Electronics. 

– 1988. – V. 15, No. 3. – P. 617-618. – 

[in Russian]. 

29. Sisakian, I.N. Modans - optical elements 

for analysis and generation of transverse 

mode structure of laser light / I.N. Sisakian, 

V.A. Soifer // Computer Optics. – M.: ICSTI, 

1989. – No. 4. – P. 3-9. – [in Russian]. 

30. Kotlyar, V.V. Generation of selfreproducing 

multi-mode laser beams / V.V. 

Kotlyar, V.A. Soifer, S.N. Khonina // in the 

book Diffractive Computer Optics / Ed. by V.A. 

Soifer. – M.: Fizmatlit Publishers. – 2007. – P. 

559-656. – [in Russian]. 

31. Bereznyi, A.Ye. Bessel Optics / A.Y. 

Berezny [and other] // Doklady Akademii Nauk 

USSR. – 1984. – V. 274, No. 3. – P. 623-627. – 

[in Russian]. 

32. Golub, M.A. Synthesis of an optical 

antenna / M.A. Golub [and other] // Compuer 

Optics. –M.: ICSTI, 1987. – No. 1. – P. 35-40. – 

[in Russian]. 

33. Berezniy, A.Ye. Phase diffraction 

gratings with designed parameters - on an inverse 

problem of optics / A.Ye. Berezniy [and 

other] // Doklady Akademii Nauk USSR. – 

1986. – V. 287, No. 3. – P. 623-627. – [in Russian]. 

34. Soifer, V.A. Iterative Methods for 

Diffractive Optical Elements Computation. / 

V.A. Soifer, V.V. Kotlyar, L.L. Doskolovich – 

“Taylor and Francis”, London, 1997. – 250 p. 

35. Doskolovich, L.L. Iterative methods 

for DOE design / L.L. Doskolovich, V.V. 

Kotllyar, V.A. Soifer // in book: Methods of 

Computer Optics / Ed. by V.A. Soifer (2nd edition, 

revised. Approved by the RF Ministry of 

Education as a textbook for higher-education 

students). – M.: Fizmatlit, 2003. – P. 49-141. – 

[in Russian]. 

36. Kotlyar V.V. Design of DOEs in the 

scalar approximation of diffraction theory / 

V.V. Kotlyar, L.L. Doskolovich, V.A. Soifer // 

in book: Diffractive Computer Optics / Ed. by 

32


V.A. Soifer. – M.: Fizmatlit Publishers, 2007. – 

P. 175-253. – [in Russian]. 

37. Soifer, V.A. Diffractive Optics and 

Nanophotonics / V.A. Soifer // Computer Optics. 

– 2008. – V. 32, No. 2. – P. 110-118. – [in 

Russian]. 

38. Kononenko, V.V. Diamond diffractive 

optics for high-power СО2-lasers / V.V. 

Kononenko [and other] // Soviet Journal of 

Quantum Electronics. – 1999. – V. 26, No. 1. – 

P. 9-10. – [in Russian]. 

39. Kononenko, V.V. CVD diamond 

transmissive diffractive optics for CO 2 lasers / 

V.V. Kononenko [and others] // New Diamond 

and Frontier Carbon Technology (Japan), 2000. 

– Vol.10. – Pp.97-107. – [in Russian]. 

40. Kononenko, V.V. Laser shaping of 

diamond for IR diffractive optical elements / 

V.V. Kononenko [and others] // RIKEN Review, 

2002. – No 43. – Pp. 49-55. 

41. Pavelyev, V.S. Formation of diffractive 

microrelief on diamond film surface / 

V.S. Pavelyev [and others] // Optics & Laser Technology, 

2007. – Vol.39, №6. – Pp.1234-1238. 

42. Pavelyev, V.S. Synthesis of DOEs on 

polycrystalline diamond films / V.S. Pavelyev, 

D.L. Golovashkin, V.A. Soifer // in book: Diffractive 

Computer Optics / Ed. by V.A. Soifer. – 

M.: Fizmatlit Publishers, 2007. – P. 697-736. – 

[in Russian]. 

43. Grewell, D. Diffractive optics as 

beam-shaping elements for plastics laser welding 

/ D. Grewell , A. Benatar // Optical Engineering, 

2007, Vol. 46, No 11 (November). 

44. Karpeev, S.V. Fibre sensors based on 

transverse mode selection / S.V. Karpeev [and 

others] // Journal of Modern Optics, 2007. – 

Vol. 54, № 6. – Pp. 833-844. – [in Russian]. 

45. Moiseev, O.Yu. A semi-automated 

installation for fabricating a microrelief on the 

end of halogenide IR waveguides / O.Yu. 

Moiseev // Computer Optics. – 2008. – V. 32, 

No. 1. – P. 62-63. – [in Russian]. 

46. Gavrilov, A.V. Integral fiber pressure 

sensors based on selective excitation of transverse 

modes / A.V. Gavrilov, V.S. Pavelyev, 

V.A. Soifer // Computer Optics. – 2008. – V. 32, 

No. 2. – P. 175-179. – [in Russian]. 

47. Kazanskiy, N.L. Mathematical modeling 

of DOE-aided illuminating devices / N.L. 

Kazanskiy, V.A. Soifer, S.I. Kharitonov // Computer 

Optics. – M.: ICSTI, 1995. – V. 14 – 15, 

part II. – P. 107-116. – [in Russian]. 

48. Doskolovich, L.L. Design of DOEaided 

illuminating devices / L.L. Doskolovich, 

N.L. Kazanskiy, S.I. Kharitonov // Computer 

Optics. – 1998. – No. 18. – P. 91-96. – [in Russian]. 

49. Kazanskiy, N.L. DOE-based Lighting 

Devices // In the book "Methods for Computer 

Design of Diffractive Optical Elements" 

edited by Victor A. Soifer. – A Wiley Interscience 

Publication. John Wiley & Sons, Inc., 

2002. – Pp.651-671. 

50. Doskolovich, L.L. A DOE to form a 

line-shaped directivity diagram / 

L.L. Doskolovich [and others] // Journal of 

Modern Optics, 2004. – Vol. 51, № 13. – Pp. 

1999-2005. 

51. Doskolovich, L.L. Designing reflectors 

to generate a line-shaped directivity diagram 

/ L.L. Doskolovich [and others] // Journal 

of Modern Optics, 2005. – Vol. 52, № 11. – 

Pp.1529-1536. 

52. Kazanskiy, N.L. Mathematical modeling 

of optical systems / N.L. Kazanskiy – 

Samara: SSAU Press, 2005. – 240 p. – [in Russian]. 

53. Doskolovich, L.L. Designing a mirror 

to form a line-shaped directivity diagram / 

L.L. Doskolovich, N.L. Kazanskiy, S. Bernard // 

Journal of Modern Optics, 2007. – Vol.54, №4. 

– Pp. 589 - 597. 

54. SPINNER JUMP. To memory of Professor 

I.N. Sisakian / Ed. by V.A. Soifer and 

V.Yu. Khomich. – Dubna: JINR Press, 2005. – 

86 p. – [in Russian]. 

33


70TH ANNIVERSARY OF PROFESSOR IOSIF NORAIROVICH SISAKIAN 

© 2008 N.L. Kazanskiy 

Image Processing Systems Institute of the RAS, 

Samara State Aerospace University 

An extended account (including the bibliography) of the talk to commemorate the 70-th anniversary of professor 

I. N. Sisakian and mark the 20-th anniversary of the Image Processing Systems Institute of the RAS is presented. The 

narrative of milestones in professor I. N. Sisakian’s life and professional career (08.03.1938 – 09.11.1995) is followed 

by the review of his major scientific achievements. Advances made after his untimely death in the field of Computer 

Optics pioneered by professor I. N. Sisakian are also overviewed. 

Diffractive computer optics, laser light focusing, optical antennae, Bessel optics, laser beam mode structure, 

protective holograms 

Информация об авторе 

Казанский Николай Львович, Учреждение Российской академии наук Институт систем 

обработки изображений РАН, Самара, Россия, заместитель директора; Самарский государственный 

аэрокосмический университет имени академика С.П. Королева, профессор, email: 

kazansky@smr.ru. Область научных интересов - лазерные информационные технологии, компьютерная 

оптика, методы оптимизации, распределенные вычислительные системы, математическое 

моделирование, обработка изображений. 

Kazanskiy Nikolai Ljvovich, Establishment of the Russian Academy of Sciences Image Processing 

Systems Institute of the Russian Academy of Sciences, Samara, Russia, the Vice-Director; S.P. 

Korolyov Samara State Aerospace University, professor, email: kazansky@smr.ru . Research interests 

include laser information technologies, computer optics, optimization methods, distributed 

computer systems, mathematical modeling, image processing. 

34


УДК 535.42 

ОПТИЧЕСКАЯ МИКРОМАНИПУЛЯЦИЯ 

© 2008 Р.В. Скиданов 

Институт систем обработки изображений РАН 

Рассмотрена история развития тематики манипуляции микрообъектами в световых пучках. Представлены 

результаты экспериментов по вращению микрообъектов в световых пучках. 

Оптическая микроманипуляция, ДОЭ, пучки Бесселя, вихревые пучки, дифракционная оптика 

Тема моей лекции “Оптическая микроманипуляция” 


Для того, чтобы определить, что это такое, 

давайте обратимся к истории. То, что 

свет, как и любая другая электромагнитная 

волна, должен оказывать давление на предметы, 

было показано ещё в работах Максвелла, 

а также независимо от него Бартоли, который 

получил такие же выводы, основываясь на 

термодинамических представлениях (слайд 2). 

Затем Лебедеву удалось экспериментально 

подтвердить их выводы. После этого 

следует достаточно большой перерыв (более 

70 лет), в течение которого почти не было 

заметных работ, посвящённых давлению света. 

Новый толчок развитию данной тематики 

дало изобретение лазера. Появилась возможность 

создавать световые поля с высокой интенсивностью 

в микрообластях, что позволило 

использовать силы светового давления 

для перемещения объектов размером несколько 

микрометров. В дальнейшем эта тематика 

бурно развивается (слайд 2). Давайте 

рассмотрим причины возникновения светового 

давления (слайд 3). 

Световой пучок имеет импульс, который 

изменяется после взаимодействия с объектом. 

В зависимости от характера объекта 

свет может от него отражаться или поглощаться, 

либо частично отражаться, частично 

поглощаться. Рассмотрим два крайних случая, 

когда предмет все отражает и все поглощает. 

Как видите, давление света на полностью 

отражающий объект вдвое больше, 

чем на объект, полностью поглощающий. 

Давление на любой объект с коэффициентом 

отражения меньше 1 будет находиться в 

этом интервале (слайд 4). 

На следующем слайде представлена 

экспериментальная установка опыта Лебедева 

(слайд 5). В вакууме помещалась кварцевая 

нить, на которую наклеивались лепестки 

из материалов, полностью отражающих 

(светлые кружки) и полностью поглощающих 

свет (на рисунке темные кружки). На 

образец направлялся пучок света от электрической 

дуги. Величина передаваемого импульса 

(давления) определялась по углу 

скручивания нити, который измерялся с помощью 

простой оптической системы. Если 

известна жёсткость нити на закручивание, то 

можно найти вращающий момент, а, следовательно, 

и силу. Результаты опытов П.Н. Лебедева 

оказались в согласии с выводами теории 

Максвелла. В том случае, если предмет 

прозрачный и почти не отражает и не поглощает 

свет, возникают так называемые 

градиентные силы. Данные силы возникают 

в результате преломления светового пучка 

прозрачным объектом. На слайде представлены 

различные варианты действия градиентных 

сил (слайд 6). 

На рис. 1 оптически более плотный, 

чем окружающая среда, объект втягивается в 

область высокой интенсивности света. На 

рис. 2 оптически менее плотный, чем окружающая 

среда, объект выталкивается из области 

высокой интенсивности света. На рис. 3 

показана возможность трёхмерного захвата 

оптически плотного объекта при сильной 

фокусировке светового пучка. Существуют 

особые световые пучки, в которых фотоны 

обладают орбитальным угловым моментом. 

35


Так как фотон не имеет массы покоя, то его 

связанное состояние растянуто вдоль оси 

распространения (слайд 7). 

Используя такие пучки, можно осуществить 

вращение микрообъекта. В этом случае 

орбитальный угловой момент светового 

пучка как бы передается микрообъекту 


Для формирования таких пучков и 

вращения микрообъектов с их помощью была 

разработана экспериментальная установка 

(слайд 9), собранная на базе обычного оптического 

микроскопа. С помощью дифракционного 

оптического элемента (ДОЭ), представленного 

на слайде, можно сформировать 

пучок Бесселя, который также обладает орбитальным 

угловым моментом (слайд 10). На 

следующем слайде представлен ролик с захватом 

и вращением клетки дрожжей в таком 

пучке. Также этим пучком была захвачена 

пара полистироловых микрочастиц, которые 

не только вращались, но и перемещались 

вслед за пучком (слайд 12). 

Пучки с орбитальным угловым моментом 

можно создавать группами и захватывать 

и вращать микрообъекты в каждом пучке 

(слайды 13, 14). К сожалению, при формировании 

восьми таких пучков получить 

вращение не удалось, т.к. в каждом пучке 

слишком мало энергии для вращения. Поэтому 

в последующих экспериментах использовался 

ДОЭ, формирующий четыре 

пучка (слайд 15). В четырёх пучках удалось 

получить не только захват, но и вращение 

микрообъектов (слайды 16, 17, 18). 

При этом процедура периодической 

дефокусировки позволяет существенно ускорить 

вращение микрообъектов в таком 

пучке (слайд 19). Вращение микрообъектов 

возможно и в пучках более сложной формы, 

например, в пучках Гаусса-Лагерра (слайд 

20). При этом чем больший орбитальный угловой 

момент имеют фотоны в световом 

пучке, тем быстрее вращаются микрообъекты. 

Так, на представленных роликах можно 

видеть круговое движение микрообъектов в 

пучке Бесселя десятого порядка. Хорошо 

видно, что скорость этого движения существенно 

выше, чем при движении микрообъектов 

в пучках с меньшим номером порядка 


Пучки с высоким орбитальным угловым 

моментом позволяют осуществлять 

вращение микрообъектов по окружности 

больших радиусов, при этом можно двойным 

аксиконом сформировать двойное кольцо, 

которое позволит вращать не только прозрачные, 

но и непрозрачные микрообъекты 


Чтобы точно сравнить движение микрообъектов 

в разных пучках, желательно 

иметь инструмент для автоматического определения 

скорости движения. Для этого 

изображение обрабатывается, а затем строится 

корреляционная функция с изображением 

эталонного микрообъекта. Затем координаты 

микрообъекта определяются максимумами 

корреляционных пиков (слайд 23). 

Это помогло определить среднюю скорость 

движение микрообъектов в разных пучках 

(слады 24, 25). Световые пучки можно 

формировать не только с помощью ДОЭ, но и 

с помощью динамических модуляторов света. 

Оптическая схема для работы с таким модулятором 

представлена на слайде (слайд 26). 

К сожалению, малая дифракционная 

эффективность динамического модулятора 

света не позволила осуществить вращение. 

Как видно на следующем слайде, удалось 

осуществить только захват микрообъектов 

без вращения (слайд 27). 

36


Слайд 1 

Слайд 2 

37


Слайд 3 

Слайд 4 

38


Слайд 5 

Слайд 6 

39


Слайд 7 

Слайд 8 

40


Слайд 9 

Слайд 10 

41


Слайд 11 

Слайд 12 

42


Слайд 13 

Слайд 14 

43


Слайд 15 

Слайд 16 

44


Слайд 17 

Слайд 18 

45


Слайд 19 

Слайд 20 

46


Слайд 21 

Слайд 22 

47


Слайд 23 

Слайд 24 

48


Слайд 25 

Слайд 26 

49


Слайд 27 

OPTICAL MICROMANIPULATION 

© 2008 R.V. Skidanov 

Image Processing Systems Institute of the RAS 

Historical outlook into the development of the research of manipulation of microobjects in light beams is given. 

Experimental results on microparticle rotation in the light beams are discussed. 

Optical micromanipulation, DOE, Bessel beams, vortical beams, diffractive optics 


Скиданов Роман Васильевич, Учреждение Российской академии наук Институт систем обработки 

изображений РАН, Самара, Россия, доктор физико-математических наук, старший 

научный сотрудник. Область научных интересов: дифракционная оптика, оптическая манипуляция 

микрообъектами. 

Skidanov Roman Vasilyevich, Establishment of the Russian Academy of Sciences Image Processing 

Systems Institute of the RAS of the Russian Academy of Sciences, Samara, Russia. He holds 

the degree of Doctor in Physics & Mathematics. The senior scientific employee. Research interests 

are in the field of diffractive optics, optical micromanipulation 

50


УДК 535.42 

РЕЗОНАНСНЫЙ ИНТЕНСИВНОСТНЫЙ ЭФФЕКТ В ДИФРАКЦИОННЫХ 

РЕШЕТКАХ С НАМАГНИЧЕННЫМ СЛОЕМ 

© 2008 Е.А. Безус, Д.А. Быков 



Рассмотрен магнитооптический эффект, возникающий при прохождении электромагнитной волны через 

двухслойную структуру, состоящую из металлической дифракционной решетки и намагниченного диэлектрического 

слоя. В результате строгого решения задачи дифракции на структуре обнаружена сильная зависимость 

интенсивности нулевого порядка дифракции от намагниченности слоя. Предложено качественное объяснение 

возникающего эффекта, основанное на связи с волноводными модами. 

Магнитооптика, магнитооптический эффект, дифракционная решётка, строгая теория дифракции 

Введение 

Интерес к магнитооптическим материалам 

обусловлен как развитием технологий 

их производства, так и необходимостью 

новых механизмов для эффективного управления 

параметрами электромагнитного излучения. 

Материалы и структуры с ярко выраженными 

магнитооптическими свойствами 

могут найти применение в оптических изоляторах, 

модуляторах света, оптических затворах 

и других устройствах [1]. Существуют 

два основных подхода к созданию таких 

материалов. Первый заключается в надлежащем 

выборе их химического состава, так, 

например, допирование гранатов иттрия и 

гадолиния висмутом или другими редкоземельными 

металлами позволяет усилить некоторые 

магнитооптические электронные 

переходы, благодаря чему возможно увеличение 

константы Фарадея на порядок. Второй 

способ, являющийся дополнением к первому, 

– изменение свойств материалов путем 

микро- или наноструктурирования. Как правило, 

под этим подразумевают создание на 

поверхности или внутри плёнки периодической 

структуры, образованной субволновыми 

отверстиями или штрихами. Именно такой 

подход рассмотрен в настоящей работе. 

Следует отметить, что существует всего 

несколько работ, посвященных исследованию 

дифракционных периодических 

структур из магнитного материала [2-6]. В 

частности, в работах [5,6] исследуются магнитооптические 

свойства дифракционных 

решёток в случае полярной намагниченности. 

В данной работе рассматриваются аналогичные 

структуры в случае меридиональной 

намагниченности. 

Геометрия структуры и параметры 

задачи дифракции 

Геометрия исследуемой двухслойной 

структуры показана на рис. 1. Верхний слой 

представляет собой бинарную дифракционную 

решётку из золота. Под ней находится 

равномерно намагниченный слой, вектор 

намагниченности которого лежит в плоскости 

слоя и перпендикулярен штрихам решётки. 

Для решения задачи дифракции электромагнитной 

волны на данной структуре использовался 

модовый метод (rigorous 

coupled-wave analysis) [7-12]. Данный метод 

сводит решение задачи дифракции к решению 

системы линейных алгебраических 

уравнений. Решение задачи дифракции было 

основано на устойчивом алгоритме, предложенном 

в [7,10]. 

Рис. 1. Геометрия двухслойной структуры, 

содержащей дифракционную решетку 

и магнитный слой 

51


При определении поля в каждом слое 

использовались специальные правила для 

разложения в ряд Фурье произведения функций 

[9,12]. Применение этих правил значительно 

улучшает сходимость используемого 

метода в случае наличия в структуре материалов 

с высокой проводимостью. 

В решётке диэлектрическая проницаемость 

описывается кусочно-постоянной периодической 

функцией. В нижнем слое диэлектрическая 

проницаемость постоянна и 

задаётся тензором (1): 

⎡ε 

0 0 ⎤ 

ε 

m 

= 

⎢ 

0 i q 

⎥ 

⎢ 

ε 

⎥ 

, (1) 

⎢⎣ 

0 −i q ε ⎥⎦ 

где ε – главная диэлектрическая проницаемость 

среды, q – величина, характеризующая 

намагниченность среды. Магнитная проницаемость 

считалась равной единице. 

Результаты расчётов 

На рис. 2 представлена зависимость 

пропускания от длины волны для намагниченного 

слоя и при отсутствии намагниченности 

(при q = 0 в (1)). Расчёт проводился 

для нормального падения плоской волны с 

TM-поляризацией при следующих параметрах: 

период d = 886 нм, ширина отверстия 

r = 88 нм, толщина решётки h gr = 302 нм, толщина 

магнитного слоя h = 883 нм. В качестве 

значений диэлектрической проницаемости 

материала решётки использовались справочные 

данные для золота. Для магнитного слоя 

использовались параметры ε = 5,5 + 0,0025i , 

−2 

( 1 0,15i) 10 

q = − × , соответствующие материалу 

Bi:YIG (железоиттриевый гранат, допированный 

висмутом). 

Рис. 2 показывает, что в случае намагниченного 

слоя спектр пропускания структуры 

имеет резкий минимум при длине волны 

λ = 1013 í ì . Данный эффект также проявляется 

в виде пика в спектре отражения 

(рис. 3). Узкая спектральная ширина наблюдаемого 

эффекта говорит о его резонансной 

природе. По аналогии с эффектом изменения 

коэффициента отражения, возникающим при 

отражении от магнитного материала, будем 

называть данный эффект интенсивностным. 

Для объяснения природы резонансных 

пиков на рис. 2, 3 были исследованы взаимные 

зависимости параметров структуры (высота 

и ширина ступенек, период, высота 

магнитного слоя, материалы решётки и 

слоя), при которых проявляются аналогичные 

свойства. 

Рис. 2. Пропускание в случае намагниченности (сплошная линия) 

и отсутствия намагниченности (пунктирная линия) 

52


Рис. 3. Отражение в случае намагниченности (сплошная линия) 

и отсутствия намагниченности (пунктирная линия) 

Было обнаружено, что интенсивностный 

эффект не зависит от таких параметров решётки, 

как ширина и высота ступеньки. Изменение 

этих параметров влияет лишь на 

величину пика, но не на длину волны, при 

которой возникает рассматриваемый эффект. 

При изменении таких параметров 

структуры, как период, диэлектрическая 

проницаемость материала намагниченного 

слоя и его толщина, минимум пропускания 

смещается. Это позволяет сделать предположение 

о связи наблюдаемого эффекта с 

одним из порядков дифракционной решётки 

в магнитном слое. В рассматриваемом случае 

нормального падения дифракционные 

порядки симметричны. Порядки с номерами 

–k, +k распространяются под одинаковыми 

углами, и, следовательно, их влияние на 

спектр пропускания происходит при одной 

длине волны. Рассмотрим наклонное падение 

под малым углом в 0,2° (рис. 4). При 

наклонном падении, соответствующие порядки 

–k, +k будут различаться. Соответственно 

их влияние на спектр будет происходить 

при различных длинах волн. Приравнивая 

направления распространения порядков 

(1), можно установить номер порядка по 

разнице длин волн (2). 

⎛ λ1 ⎞ ⎛ λ2 

⎞ 

k0 ⎜ nsin θ + m ⎟ = −k0 

⎜ nsin θ − m ⎟, 

⎝ d ⎠ ⎝ d ⎠ 

2 1 

(2) 

2d 

sin θ 

m = , (3) 

λ − λ 

где m – номер порядка, d – период, n = 1 – показатель 

преломления над и под рассматриваемой 

структурой. 

Расстояние между минимумами на 

рис. 4 соответствует второму прошедшему 

порядку дифракции. 

На рис. 5 представлены графики зависимостей 

длин волн, при которых возникают 

различные типы резонансов, от главной компоненты 

диэлектрической проницаемости 

магнитного слоя. 

Сплошная линия на рис. 5 описывает 

интенсивностный эффект. Кривая интенсивностного 

эффекта совпадает с условием возбуждения 

ТЕ-моды 2-го порядка. 

Расчёт мод проводился аналитически в 

предположении, что над магнитным слоем 

находится однородный слой из золота. При 

53


рассматриваемых параметрах значением намагниченности 

также можно пренебречь. 

Рис. 4. Пропускание в случае намагниченности (сплошная линия) и в отсутствии намагниченности 

(пунктирная линия) при наклонном падении под углом 0,2º 

Рис. 5. Длины волн резонансов структуры в зависимости от главной диэлектрической проницаемости слоя: 

интенсивностный эффект, мода TE2 – сплошная линия; 

возбуждение 2-ым порядком решётки ПЭВ на верхней и нижней границах – точечная; 

возникновение 2-го порядка (аномалия Рэлея-Вуда) – пунктирная, 

мода TE1 – точка-тире 

Вблизи кривой интенсивностного эффекта 

пунктирной линией показана аномалия 

Рэлея-Вуда, связанная с появлением 2-го 

распространяющегося порядка дифракции. 

Остальные графики резонансов, связанных с 

возбуждением на верхней и нижней границах 

решетки поверхностных электромагнитных 

волн и условием возбуждения ТЕ-моды 1-го 

порядка, находятся на большем расстоянии. 

На рис. 6a представлена зависимость 

величины эффекта (разности пропускания 

при отсутствии и наличии намагниченности) 

54


от двух параметров структуры: периода и 

высоты слоя. Аналогичный график с наложенными 

кривыми, соответствующими рассчитанным 

модам, показан на рис. 6б. Аналитические 

кривые мод точно совпадают с 

максимумами на графике. Кроме того, максимального 

значения эффект достигает в окрестностях 

прямых d = λ и d = 2λ , которые 

соответствуют возникновению новых порядков 

дифракции. 

Таким образом, интенсивностный эффект 

возникает при той же длине волны, что 

и волноводная TE-мода, возбуждаемая одним 

из порядков дифракции в магнитном 

слое. Помимо этого, условием является близость 

к аномалиям Рэлея-Вуда для соответствующего 

порядка. Отметим, что в этом 

случае порядок распространяется почти параллельно 

плоскости слоя. Такое распространение, 

как и модовое, дает увеличение 

оптической длины пути в магнитном слое. 

а) 

б) 

Рис. 6. Величина эффекта (разности пропускания при отсутствии и наличии намагниченности) 

в зависимости от высоты слоя и периода дифракционной решётки (а); 

то же с наложенными кривыми, соответствующими возбуждению мод одним из порядков (б) 

55


Кроме указанного эффекта, обусловленного 

возбуждением TE-моды, в структурах 

данного типа могут наблюдаться эффекты, 

напрямую не связанные с конверсией поляризации. 

В частности, при наклонном падении 

при различных направлениях вектора 

намагниченности (в плоскости слоя параллельно 

и перпендикулярно штрихам решетки) 

возникают более слабые эффекты изменения 

коэффициента пропускания в окрестностях 

резонансов ненамагниченной 

структуры, которые могут быть объяснены 

изменением условий возникновения этих резонансов 

вследствие изменений тензора диэлектрической 

проницаемости среды. 

Заключение 

Рассмотрена структура, состоящая из 

золотой бинарной дифракционной решетки и 

намагниченного слоя. Показано, что такая 

система обладает выраженным магнитооптическим 

эффектом изменения коэффициента 

пропускания в зависимости от намагниченности 

нижнего слоя. Предложено качественное 

объяснение наблюдаемых эффектов. 

Изменение оптических свойств рассмотренной 

системы при изменении намагниченности 

делает перспективным использование 

данных структур в оптических изоляторах, 

модуляторах света, оптических затворах. 

Благодарности 

Работа выполнена при поддержке грантов 

РФФИ № 07-07-97601-р_офи, 07-01- 

96602-р_Поволжье_а, 07-07-91580-АСП_а, 

гранта Президента РФ № НШ-3086.2008.9, 

фонда «Фундаментальные исследования и 

высшее образование» (RUXO-014-SA-06), 

Фонда содействия отечественной науке. 


1. Dotsch, H. Applications of magnetooptical 

waveguides in integrated optics: review 

[текст] / H. Dotsch [ad others] // J. Opt. Soc. 

Am. B. – 2005. – 22 (1). – P. 240-253. 

2. Diwekar, M. Optical and magnetooptical 

studies of two-dimensional metallodielectric 

photonic crystals on cobalt films [текст] 

/ M. Diwekar [and others] // Appl. Phys. Lett. – 

2004. – 84 (16). – P.3112-3114. 

3. Belotelov, V.I. Magnetooptics and 

extraordinary transmission of the perforated metallic 

films magnetized in polar geometry 

[текст] / V.I. Belotelov , A.K. Zvezdin // 

JMMM, 2005. – 300 (1). – P.260-263. 

4. Bergman, D.J. Strong-field magnetotransport 

of conducting composites with a columnar 

microstructure [текст] / D.J. Bergman, 

Y.M. Strelniker // Phys. Rev. – 1999. – B59. – 

P.2180 – 2198. 

5. Досколович, Л.Л. Резонансные 

магнитооптические эффекты в дифракционных 

решётках с намагниченным слоем 

[текст] / Л.Л. Досколович [и др.] // Компьютерная 

оптика, 2007. – Т. 31, №1. – C.4-8. 

6. Белотелов, В.И. Магнитооптические 

эффекты дифракционных решёток, связанные 

с аномалиями Рэлея-Вуда и возбуждением 

плазмонов [текст] / В.И. Белотелов 

[и др.] // Компьютерная оптика. – 2007. – Т. 

31, №3. – C.4-8. 

7. Moharam, M. Stable implementation 

of the rigorous coupled-wave analysis for surface-relief 

gratings: enhanced transmittance matrix 

approach [текст] / M. Moharam, D. Pommet, 

E. Grann // Journal of Optical Society of America 

A. – 1995. – Vol.12, №5. – P.1077-1086. 

8. Moharam, M.G. Formulation for stable 

and efficient implementation of the rigorous 

coupled-wave analysis of binary gratings 

[текст] / M.G. Moharam [and other] // Journal 

of Optical Society of America A. – 1995. – 

Vol.12, №5. – P.1068-1076. 

9. Li, L. Use of Fourier series in the 

analysis of discontinuous periodic structures 

[текст] / L. Li // Journal of Optical Society of 

America A. – 1996. – Vol.13, № 9. – P.1870-1876. 

10. Peng, S. Efficient implementation of 

rigorous coupled-wave analysis for surfacerelief 

gratings [текст] / S. Peng, G.M. Morris // 

J. Opt. Soc. Am. A. – 1995. – Vol. 12, No. 5, – 

P.1087-1096. 

11. Li, L. Fourier modal method for 

crossed anisotropic gratings with arbitrary permittivity 

and permeability tensors [текст] / 

L. Li // J. Opt. A: Pure Appl. Opt. – 2003. – 

N 5. – P. 345–355. 

12. Li, L. New formulation of the Fourier 

modal method for crossed surface-relief gratings 

[текст] / L. Li // J. Opt. Soc. Am. A. – 1997. – 

Vol. 14, No. 10. – P.2758-2767. 

56


References 

1. Dotsch, H. Applications of magnetooptical 

waveguides in integrated optics: review / 

H. Dotsch [ad others] // J. Opt. Soc. Am. B. – 

2005. – 22 (1). – P. 240-253. 

2. Diwekar, M. Optical and magnetooptical 

studies of two-dimensional metallodielectric 

photonic crystals on cobalt films / 

M. Diwekar [and others] // Appl. Phys. Lett. – 

2004. – 84 (16). – P.3112-3114. 

3. Belotelov, V.I. Magnetooptics and 

extraordinary transmission of the perforated metallic 

films magnetized in polar geometry / V.I. 

Belotelov , A.K. Zvezdin // JMMM. – 2005. – 

300 (1). – P.260-263. 

4. Bergman, D.J. Strong-field magnetotransport 

of conducting composites with a columnar 

microstructure / D.J. Bergman, Y.M. 

Strelniker // Phys. Rev. – 1999. – V.59. – P.2180 

– 2198. 

5. Doskolovich, L.L. Resonant magnetooptical 

effects in diffractive lattices with a 

magnetised layer / L.L. Doskolovich [and other] 

// Computer Optics. – 2007. – V. 31, N1. – P.4-8. 

6. Belotelov, V.I. Magnetooptical effects 

of the diffractive lattices, connected with 

Reley-Vud anomalies and Plasmon excitation / 

V.I. Belotelov [and other] // Computer Optics. 

– 2007. - V. 31, N3. - P.4-8. 

7. Moharam, M. Stable implementation 

of the rigorous coupled-wave analysis for surface-relief 

gratings: enhanced transmittance matrix 

approach / M. Moharam, D. Pommet, E. 

Grann // Journal of Optical Society of America 

A. – 1995. – Vol.12, №5. – P.1077-1086. 

8. Moharam, M.G. Formulation for 

stable and efficient implementation of the rigorous 

coupled-wave analysis of binary gratings / 

M.G. Moharam [and other] // Journal of Optical 

Society of America A. – 1995. – Vol.12, №5. – 

P.1068-1076. 


analysis of discontinuous periodic structures / 

L. Li // Journal of Optical Society of America A. 

– 1996. – Vol.13, № 9. – P.1870-1876. 

10. Peng, S. Efficient implementation of 

rigorous coupled-wave analysis for surface-relief 

gratings / S. Peng, G.M. Morris // J. Opt. Soc. 

Am. A. – 1995. – Vol. 12, No. 5, – P.1087-1096. 

11. Li, L. Fourier modal method for 

crossed anisotropic gratings with arbitrary permittivity 

and permeability tensors / L. Li // J. Opt. A: 

Pure Appl. Opt. – 2003. – N 5. – P. 345–355. 

12. Li, L. New formulation of the Fourier 

modal method for crossed surface-relief gratings 

/ L. Li // J. Opt. Soc. Am. A. – 1997. – Vol. 14, 

No. 10. – P.2758-2767. 

INTENSITY EFFECT IN DIFFRACTION GRATINGS WITH MAGNETIC LAYER 

© 2008 E.A. Bezus, D.A. Bykov 



A magnetooptic effect which arises when the electromagnetic wave propagates through a two-layer structure 

made up of a metal diffraction grating and a magnetized dielectric layer is considered. The rigorous solution of the 

problem of diffraction by the structure suggests that there is a strong dependence between the intensity in the zero diffraction 

order and the layer magnetization. We offer a qualitative explanation that relates the said effect with waveguide 

modes. 

Magneto-optics, magnetooptical effect, diffraction grating, rigorous diffraction theory 

57


Сведения об авторах 

Быков Дмитрий Александрович, Институт систем обработки изображений РАН, техник 

лаборатории дифракционной оптики (ЛДО). Область научных интересов - дифракционная 

оптика, магнитооптика. 

Безус Евгений Анатольевич, студент, Самарский государственный аэрокосмический 

университет им. С.П. Королева (6 курс). Область научных интересов - дифракционная оптика, 

магнитооптика. 

Bukov Dmitriy Alexandrovich, Image Processing Systems Institute of the RAS, Samara, 

laboratory of diffractive optics (LDO), the technician. Area of scientific interests - diffractive optics, 

magnetooptics. 

Bezus Evgeniy Anatoljevich, S. P. Korolyov Samara State Aerospace University, the sixth 

cource student. Area of scientific interests - diffractive optics, magnetooptics. 

58


УДК 535.42 

РАСПРОСТРАНЕНИЕ ВИХРЕВЫХ ЛАЗЕРНЫХ ПУЧКОВ 

С ПРОИЗВОЛЬНЫМ ТОПОЛОГИЧЕСКИМ ЗАРЯДОМ 

В ГРАДИЕНТНОМ ПАРАБОЛИЧЕСКОМ ВОЛОКНЕ 

© 2008 А.С. Стрилец 


В работе рассматривается распространение вихревых лазерных пучков exp{ iµϕ} 

в параболическом оптическом 

волокне. Зависимость комплексной амплитуды от поперечных координат и расстояния вдоль оптической 

оси описывается результатом действия интегрального оператора распространения в параболической среде 

на распределение амплитуды входного пучка. Этот оператор является аналогом интеграла Френеля, описывающего 

распространение параксиальных лазерных пучков в однородной среде. Результат действия интегрального 

оператора на вихревой пучок аналитически можно представить двумя способами. В первом случае ядром 

аналитического выражения для амплитуды является вырожденная гипергеометрическая функция. Вторым способом 

представления является композиция бесконечного числа мод Гаусса – Лагерра, которые являются собственными 

модами параболического волокна. Полученные аналитические выражения проверяются с помощью 

численного моделирования с использованием интегрального оператора и метода распространения световых 

пучков через тонкие линзы (реализован с использованием быстрого преобразования Фурье). Результаты численного 

моделирования согласуются с результатами вычислений аналитических выражений с точностью до погрешности 

метода. 

Вихревые лазерные пучки, моды Гаусса-Лагерра, параболическое оптическое волокно, метод распространения 

световых пучков, параксиальный интегральный оператор распространения 

Световые пучки с вихревой фазовой 

особенностью являются предметом пристального 

внимания уже более десяти лет 

[1]. Такие пучки часто используются в оптических 

твизерах для передачи орбитального 

углового момента захваченным микрообъектам 

[2]. Наиболее простым типом рассматриваемых 

пучков являются чистые оптические 

вихри. Формирование и распространение 

их в свободном пространстве достаточно 

хорошо исследовано [3]. 

Предмет исследования 

В работе рассматривается распространение 

вихревого пучка Гаусса с произвольным 

начальным эффективным радиусом σ в 

параболическом волокне. 

Комплексная амплитуда вихревого 

пучка описывается выражением 

2 

⎧ r ⎫ 

E ( r, ϕ ) = C exp ⎨− ⎬exp{ iµϕ} 

, ( 1 ) 

0 0,0 2 

⎩ 

2σ 

где C 

0,0 

= 1 ( σ π) 

- нормировочный коэффициент, 

µ - произвольная вещественная 

константа. 

⎭ 

Для показателя преломления градиентного 

параболического волокна справедливо 

соотношение 

2 

2 2 

⎛ r ⎞ 

2 2 2 

n ( r) = n0 ⎜1− 2∆ n 

2 ⎟ = 

0 ( 1− α r ), ( 2 ) 

⎝ r0 

⎠ 

где 

2 2 

r = x + y - радиус цилиндрической 

системы координат; n0 

- показатель преломления 

на оптической оси волокна; r - характерный 

радиус волокна; ∆ - параметр дис- 

0 

персии показателя преломления среды; 

α = 2∆ r 0 

- константа, определяющая кривизну 

профиля показателя преломления. 

Целью работы является определение 

распределения комплексной амплитуды вихревого 

пучка на произвольном расстоянии 

вдоль оптической оси с использованием различных 

способов аналитического представления 

и методов численного моделирования. 

Параксиальный интегральный оператор 

распространения в параболической среде 

Комплексная амплитуда произвольного 

светового пучка в приближении Френеля для 

параболической среды при условии α r


ikα 

E ( ρ, θ , z) 

= − × 

2πsin 

{ ikz} 

⎪⎩ 

sin ( αz) 

где k ( 2 ) 

( αz) 

2 

× ρ × 

exp 

⎧⎪ 

ikα 

exp ⎨ 

⎪⎩ 

2 tan 

⎧ 

( αz) 

⎫⎪ 

⎬ 

⎪⎭ 

∞ ∞ 

⎪ ikα 

2 ⎪ 

× ∫ ∫ E0 

( r, ϕ ) exp ⎨ r ⎬× 

2 tan ( αz 

−∞ −∞ 

⎪ ) ⎪ 

⎩ 

⎧⎪ 

ikα 

⎫⎪ 

× exp ⎨− ρr 

cos( ϕ − θ) 

⎬r dr 

d ϕ, 

⎪⎭ 

0 0 

⎫ 

⎭ 

(3 ) 

= π λ n - волновое число в однородной 

среде с показателем преломления n 0 

. 

Распределение 

F ρ, θ , z = E ρ, θ, z exp −ikz 

имеет период 

( ) ( ) { } 

z 

T 

= 2π α . При этом на полупериоде формируется 

перевернутое распределение 

−E 0 

ρ, 

π + θ , а на четверти и трех четвертях 

( ) 

– Фурье образы. 

Действуя интегральным оператором (3) 

на вихревой пучок (1) для целых значений 

µ , можно получить аналитическое выражение, 

ядром которого является функция Куммера 

⎛ µ ⎞ 

Γ 1 

µ ⎜ + ⎟ 

− 2 σ 

2 

F ( ρ, θ , z) 

= C0,0 

2 

⎝ ⎠ 

× 

Γ µ + 

( 1) σ( z) 

µ 

µ 

4 4 

1 σ ρ 

1 tan 

2 4 

( αz) σ0 

σ( z) 

⎧ 

⎛ 1 

⎛ ⎞ ⎛ ⎞ 

× ⎜ 

+ ⎟ ⎜ ⎟ 

× 

⎝ ⎠ ⎝ ⎠ 

2 

⎪ ⎛ µ ⎞ σ ⎞⎫⎪ 

× exp ⎨i 

⎜ + 1⎟arctan 

⎬× 

⎜ ⎟ 

2 

⎪⎩ 

⎝ 2 ⎠ ⎝ tan ( αz) 

σ0 

⎠⎪⎭ 

(4 ) 

⎧ π⎫ 

⎨ i ( ) ⎬ { i } 

⎩ 2 ⎭ 

2 

⎧⎪ 

i ρ ⎫⎪ 

⎧ µ 

⎨ 2 ⎬ 1F1 

⎨ 

⎪⎩ 

2 tan ( αz) 

σ0 

⎪⎭ 

⎩ 2 

2 

2 

ρ ⎛ i σ ⎞⎫ ⎪ 

1 

2 

, 

2 

σ ( z) 

⎜ 

⎟⎬ 

n ( αz) 

σ ⎟ 

⎝ 0 ⎠⎭ ⎪ 

× exp − µ + 1 exp µθ × 

× exp + 1; µ + 1; 

− + 

2 ta 

4 

σ 

- эффективный 

радиус пучка; σ 

4 

σ 

2 

0 

= 1 kα - квадрат 

2 0 2 

где σ ( z) = σ cos ( α z) + sin ( αz) 

эффективного радиуса фундаментальной моды 

волокна. 

Композиция мод Гаусса-Лагерра 

Известно [5, 6], что решением уравнения 

Гельмгольца (3), конечным на оптической оси, 

в цилиндрических координатах является суперпозиция 

мод Гаусса-Лагерра (ГЛ) 

⎛ r ⎞ 

Ψ 

n, m ( r, ϕ , z) 

= Cn, 

m ⎜ ⎟ × 

⎝ σ0 

⎠ 

2 2 

m ⎛ r ⎞ ⎛ r ⎞ 

n ⎜ exp 

2 ⎟ ⎜ 2 ⎟ 

σ0 2σ0 

× L 

− × 

⎝ ⎠ ⎝ ⎠ 

( im ) ( i 

n, 

mz) 

× exp ϕ exp ± β , 

m 

(5 ) 

где r , ϕ , z – цилиндрические координаты; 

n – неотрицательное целое число, m – целое 

n 

m 1 ξ −m d −ξ n+ 

m 

число; Ln 

( ξ ) = e ξ 

n { e ξ } – многочлены 

Лагерра. 

n! 

dξ 

В выражение (5) входят следующие параметры: 

1 

1) σ 

0 

= – эффективный радиус фундаментальной 

kα 

моды; 

2α 

β = − + + – постоянная 

k 

распространения; 

2) 

n, 

m 

k 1 ( 2n m 1) 

3) 

C 

n, 

m 

1 n! 

= – нормировочная 

σ π + ! 

0 

( n m ) 

константа. 

Результатом действия интегрального 

оператора (3) на моды ГЛ (5) с произвольным 

начальным эффективным радиусом 

σ является выражение [4]: 

σ ⎛ r ⎞ 

Ψ 

n, m ( r, ϕ , z) 

= Cn, 

m 

× 

σ( z) ⎜ σ( z) 

⎟ ⎝ ⎠ 

2 

m 

⎛ r ⎞ 

× Ln 

⎜ 

exp 

2 

× { iβn, 

m ( r, 

z) 

− 

σ ( z) 

⎟ 

⎝ ⎠ 

2 

r ⎫⎪ 

− + imϕ⎬, 

⎪⎭ 

2 

2σ 

( z) 

где σ( z) 

m 

, (6 ) 

- эффективный радиус пучка – такой 

же, как в выражении (4); 

60


Таблица 1. Распределения интенсивности вихревого пучка для значений µ = 2, σ = σ 

0 

. 

0 

1 

z 

8 T 

1 

z 

4 T 

3 

z 

8 T 

1 

z 

2 T 

, 

( , ) ( 2 1) 

β r z kz n m 

n m 

= + + + × 

⎡ 

2 

⎧⎪ 

σ 1 ⎫⎪ 

π⎤ 

× ⎢arctan 

⎨ 2 ⎬ − ⎥ + 

⎢⎣ 

⎪⎩ 

σ0 

tan ( αz) 

⎪⎭ 

2 ⎥⎦ 

2 2 

⎛ σ ⎞ 1 r 

+ ⎜ 

1− 2 2 

( z) ⎟ 

− 

⎝ σ ⎠ tan ( αz) 

2σ0 

– функция, определяющая фазу ( ) 

Ψ 

n, m 

r, ϕ , z . 

Благодаря тому, что система функций 

ГЛ образует полный ортонормированный базис, 

любое распределение комплексной амплитуды 

с конечной энергией может быть 

представлено в виде композиции мод 

ГЛ: E ( r, ϕ , z) = ∑ An , mΨ n, 

m ( r, ϕ, 

z) 

[5]. 

n, 

m 

Коэффициенты композиции вихревого 

пучка определяются следующим образом: 

A 

n, 

m 

⎛ m ⎞ ⎛ m ⎞ 

⎜ ⎟ Γ ⎜ + 1⎟ 

⎝ 2 ⎠ 2 

n ⎝ ⎠ 

= × 

n m ! n! 

, (7 ) 

( + ) 

{ i( m) 

} 

exp 2π µ − −1 × 

, 

2π 

i 

где ( x) 

n 

( µ − m) 

– факториальное произведение; Γ ( x) 

⎧⎪ 1, n = 0 

= ⎨ 

– 

⎪⎩ x ( x + 1 ) ⋅... ⋅ ( x + n − 1 ), n ≠ 0 

– гамма-функция. 

Численное моделирование 

с использованием алгоритма FFT 

( ( ) = 

0 

+ δ ( ) , ( ) 0 

Для среды с малыми поперечными неоднородностями 

показателя преломления 

n x, y n n x, 

y δ n x, 

y n ) справедлива 

аппроксимация [7]: 

⎧ z 2 2 

1 2 ⎫ 

E ( x, y, z) 

≈ exp ⎨i ⎡∇ ⊥ 

+ k ⎤ ⎬× 

⎩ 2 ⎣ ⎦ 

⎭ 

⎧ z 2 2 

1 2 ⎫ 

× exp { izχ( x, y) 

} exp ⎨i ⎡∇ ⊥ 

+ k ⎤ ⎬× 

2 ⎣ ⎦ , (8 ) 

⎩ 

⎭ 

0 

3 

( ) ( ) 

× E x, y + O z , 

где ( x, 

y) 

( , ) 

δn x y 

χ = k . 

n0 

Результатом операции 

⎧ z 

⎫ 

⎨i k ⎬ E x y 

2 ⎣ ⎦ 

⎩ 

⎭ 

( ) 

2 2 

1 2 

exp ⎡∇ ⊥ 

+ ⎤ 

0 

, 

{ } 

является распределение комплексной амплитуды, 

формируемое при распространении 

волны в однородной среде с показателем 

преломления n0 

на расстоянии z 2 от начального 

распределения. Умножение распределения 

комплексной амплитуды на вы- 

exp izχ 

x, 

y эквивалентно дейст- 

ражение ( ) 

вию тонкого оптического элемента на проходящую 

через него световую волну. 

Многократное использование аппроксимации 

(8) с точностью до погрешности 

3 

O( z ) эквивалентно моделированию распространения 

светового пучка через периодическую 

систему одинаковых тонких оптических 

элементов с функцией пропускания 

exp izχ 

x, 

y в однородной среде с показа- 

{ ( )} 

телем преломления n 

0 

. Первый элемент расположен 

на расстоянии z 2 от начала отсчета, 

два соседних элемента располагаются на 

расстоянии z друг от друга. 

Для параболической среды (2) оптическими 

элементами являются тонкие собирающие 

линзы. 

61


( ) 

Аппроксимация (8) позволяет произвести 

численное моделирование распространения 

светового пучка в неоднородной среде 

на значительные расстояния. Для этого необходимо 

выбрать достаточно малый шаг δz 

по оптической оси, учитывая то, что погрешность 

на расстоянии z порядка 

2 

zO δ z . Использование алгоритма FFT позволяет 

получить наиболее высокую скорость 

расчета, однако этот алгоритм вносит 

дополнительную погрешность из-за необходимости 

огранечения пространственной и 

спектральной областей [7-10]. 

Сравнение полученных результатов 

Ниже приводятся сравнительные графики 

зависимости интенсивности вихревого 

пучка от радиуса на расстоянии ( 1 4) 

z T 

. 

Таблица 2. Распределения интенсивности разложения вихревого пучка для значений 

1,5 σ = 1 2 σ для конечного числа мод n max 

= 50 . 

µ = , ( ) 0 

0 

1 

z 

8 T 

1 

z 

4 T 

3 

z 

8 T 

1 

z 

2 T 

Таблица 3. Распределения интенсивности результатов численного моделирования распространения 

вихревого пучка для значений 1 σ = 1 2 σ . 

0 ( 1 8) 

T 

µ = , ( ) 0 

z ( ) z ( ) z ( ) 

1 4 T 

3 8 T 

1 2 z T 

450 

400 

350 

300 

250 

200 

150 

100 

50 

0 

0 0,01 0,02 0,03 0,04 0,05 

Analyticformula GLdecomposition Lensesalgorithm 

r,mm 

Рис. 1. Зависимость интенсивности от радиуса вихревого пучка для значений µ = 2 , σ = σ 

0 

. 


В работе получено аналитическое выражение, 

описывающее зависимость комплексной 

амплитуды вихревого пучка, распространяющегося 

в параболическом волокне 

от расстояния вдоль оптической оси в 

62


приближении Френеля. Получено аналитическое 

разложение вихревого пучка в виде 

композиции мод Гаусса – Лагерра. Проведено 

численное моделирование распространения 

вихревого пучка в параболическом волокне 

с использованием метода тонких линз. 

Сравнение полученных аналитических и 

численных результатов показывает их справедливость 

с точностью до погрешностей 

численного моделирования. 

This work was partially supported by the 

Russian-American program “Basic Research 

and Higher Education” (CRDF Project RUX0- 

014-SA-06) and by the Russian Foundation 

for Basic Research grants 07-07-97600 and 

08-07-99007. 


References 

1. M. S. Soskin and M. V. Vasnetsov, 

Progress in Optics. – 2001. – 42. – P.219. 

2. Soifer V.A., Kotlyar V.V., Khonina S. 

N., Physics of Particles and Nuclei 35(6), 733 

(2004) 

3. Kotlyar V.V., et al, J. Opt. Soc. Am. A 

22(5), 849 (2005) 

4. Strilec, A.S. The coordination and research 

of the methods based on differential and 

integrated operators of distribution of laser radiation 

in the environment with small inhomogeneity 

/ A.S. Strilec, S.N. Khonina // Computer 

Optics. – 2008. – V.32, N1. – P.33-38. 

5. Snayder, A. The theory of optical 

wave guides / A. Snayder, D. Love – Moscow, 

“Radio I Svyaz” (Radio and communication), 

1987. 

1. M. S. Soskin and M. V. Vasnetsov, 

Progress in Optics. – 2001. – 42. – P.219. 

2. Soifer V.A., Kotlyar V.V., Khonina S. 

N., Physics of Particles and Nuclei 35(6), 733 

(2004) 

3. Kotlyar V.V., et al, J. Opt. Soc. Am. A 

22(5), 849 (2005) 

4. Стрилец, А.С. Согласование и исследование 

методов, основанных на дифференциальном 

и интегральном операторах 

распространения лазерного излучения в среде 

с малыми неоднородностями [текст] / 

А.С. Стрилец, С.Н. Хонина, // Компьютерная 

оптика. – 2008. – Т.32, №1. – P.33-38. 

5. Снайдер, А. Теория оптических 

волноводов [текст] / А. Снайдер, Д. Лав – 

М.: Радио и связь, 1987. 

6. Методы компьютерной оптики 

[текст] / Под ред. В.А.Сойфера. – М.: Физматлит, 

2003. – 688с. 

7. Feit, M.D. Light Propagation in 

Graded-Index Optical Fibers [текст] / 

M.D. Feit, J.A. Fleck // Appl. Opt. – 1978. – 

Vol. 17 (24). – PP. 3990-3998. 

8. Okoshi, T. The Beam Propagation 

Method [текст] / T. Okoshi, S. Kitazawa // 

Analysis methods for electromagnetic wave problems. 

Editor E. Yamashita, Artech House, 1990. 

Chapter 10. 

9. Huand, W. The Finite-Difference 

Vector Beam Propagation Method: Analysis and 

Assesment [текст] / W. Huand [and other] // J. 

of Lightwave Technology. – 1992. – Vol. 10 (3). 

10. Lu, Y.Y. Some Techniques for Computing 

Wave Propagation in Optical 

Waveguides [текст] / Y.Y. Lu // Communications 

in Computational Physics. – 2006. – 

Vol. 1. – P. 1056-1075. 

6. Methods of Computer Optics / Edited 

by V.A.Soifer. – Moscow, Fizmatlit, 2003. – 

688p. 

7. Feit, M.D. Light Propagation in 

Graded-Index Optical Fibers / M.D. Feit, J.A. 

Fleck // Appl. Opt. – 1978. – Vol. 17 (24). – PP. 

3990-3998. 

8. Okoshi, T. The Beam Propagation 

Method / T. Okoshi, S. Kitazawa // Analysis methods 

for electromagnetic wave problems. Editor 

E. Yamashita, Artech House, 1990. Chapter 10. 

9. Huand, W. The Finite-Difference 

Vector Beam Propagation Method: Analysis and 

Assesment / W. Huand [and other] // J. of 

Lightwave Technology, 1992. Vol. 10 (3). 

10. Lu, Y.Y. Some Techniques for Computing 

Wave Propagation in Optical 

Waveguides / Y.Y. Lu // Communications in 

Computational Physics. – 2006. – Vol. 1. – P. 

1056-1075. 

63


PROPAGATION OF LASER VORTEX BEAMS WITH AN ARBITRARY TOPOLOGICAL 

CHARGE IN A CRADED-INDEX PARABOLIC FIBER 

© 2008 A. S. Strilets 


In this work, we discuss the propagation of the laser vortex beams exp{ iµϕ} 

in a parabolic fiber. The relationship 

between the complex amplitude and the transverse coordinates and the distance on the optical axis is described as 

the integral operator of propagation in a parabolic medium acting on the input beam amplitude distribution. This integral 

is analogous to the Fresnel integral that describes the propagation of paraxial laser beams in a uniform medium. 

The result of action of the integral operator onto the vortex beam can be analytically represented in two ways. In the 

first case, the kernel of the analytical expression for the amplitude is given by a degenerate hyper-geometric function. In 

the second case, the amplitude is represented as a composition of an infinite number of Gauss-Laguerre modes, which 

are eigenmodes of the parabolic fiber. The analytical relations derived are verified by numerical modeling with use of 

the integral operator and the method for propagating the light beams through thin lenses, which relies on the fast Fourier 

transform. The results of the numerical modeling and the analytical calculations agree within the method’s accuracy. 

Laser vortex beams, Gauss-Laguerre modes, parabolic optical fiber, light beam propagation method, paraxial 

integral operator of propagation 

Сведения об авторе 

Стрилец Алексей Сергеевич, студент, Самарский государственный аэрокосмический университет 

им. С.П. Королева email: axsc@inbox.ru. Область научных интересов - моделирование 

распространения лазерных полей в оптических волноводах, программирование. 

Strilec Alexey Sergeevich, S. P. Korolyov Samara State Aerospace University, the student. Area of 

research - modelling of distribution of laser fields in optical wave guides, programming. 

64


УДК 535.42 

ЗОННАЯ СТРУКТУРА ФОТОННОГО КРИСТАЛЛА 

С СИММЕТРИЕЙ РЕШЕТКИ КЛАТРАТА SI34 

© 2008 П. Н. Дьяченко 1 , Н. Д. Кундикова 2 , Ю. В. Микляев 2 , В.С. Павельев 1 

1 Институт систем обработки изображений РАН 

2 Вузовско-академический отдел нелинейной оптики ИЭФ УрО РАН и ЮУрГУ, Челябинск 

Исследована зонная структура фотонного кристалла с симметрией решетки клатрата Si34, содержащего 

34 узла в примитивной ячейке. Обнаружено, что решетка имеет большую изотропную запрещенную зону для 

широкого диапазона диэлектрической постоянной. Получена зависимость изотропности фотонных зон от диэлектрической 

постоянной. 

Фотонные кристаллы 

Фотонными кристаллами называют 

периодические структуры, состоящие из 

двух и более материалов с различными диэлектрическими 

постоянными, обладающие 

полной фотонной запрещенной зоной (ФЗЗ) 

[1]. При наличии полной ФЗЗ распространение 

света подавлено в любом направлении 

в спектральном диапазоне, совпадающем 

с запрещенной зоной. Получение трехмерных 

фотонных кристаллов макроскопических 

размеров, обладающих ФЗЗ в ближней 

инфракрасной и видимой областях 

спектра, позволяет наблюдать целый ряд 

ранее недоступных для наблюдения эффектов, 

среди которых наиболее значимым является 

возможность управления спонтанным 

излучением [2]. 

Решетка фотонных кристаллов имеет 

субмикронные размеры, поэтому для их изготовления 

требуется разработка новых методов. 

Кроме того, на данный момент наименьший 

показатель преломления материала 

решетки, которая может обладать полной 

ФЗЗ, равен n = 1,9 для симметрии алмазной 

решетки [3]. Это накладывает серьезные ограничения 

на выбор материала, поскольку, 

например, показатель преломления полимеров 

и стекол в видимой области обычно ниже 

этого значения. Одной из возможностей 

решения этой проблемы является использование 

трехмерных фотонных квазикристаллов 

и периодических структур с большим 

числом узлов («атомов») в примитивной 

ячейке. Можно ожидать, что большая изотропия 

позволит снизить порог существования 

ФЗЗ по показателю преломления. В микроволновом 

диапазоне было экспериментально 

обнаружено [4], что икосаэдрический 

фотонный квазикристалл, изготовленный 

методом стереолитографии, имеет большие 

стоп-зоны. В работе [4] были экспериментально 

измерены коэффициенты пропускания 

микроволнового излучения икосаэдрического 

фотонного квазикристалла, но теоретический 

анализ не был произведен. В работе 

[5] был теоретически исследован фотонный 

кристалл с симметрией решетки пирохлора, 

содержащий 4 «атома» в примитивной 

ячейке. Было показано, что такой фотонный 

кристалл имеет изотропные ФЗЗ, 

сравнимые по размеру с ФЗЗ алмазной решетки. 

Решетки с числом «атомов» в примитивной 

ячейке, большим четырех, до настоящего 

момента не исследовались. 

Рассмотрим в качестве фотонного кристалла 

с большим числом узлов в примитивной 

ячейке, обладающем изотропией 

свойств, кристалл с симметрией решетки 

клатрата Si34 [6,7]. Данная решетка относится 

к классу гранецентрированных кубических 

(ГЦК) и содержит 34 узла в примитивной 

ячейке (рис. 1). В Si34 каждый 

«атом» связан с соседними четырьмя «атомами» 

искаженными тетраэдрическими связями. 

Как известно, решетка алмаза, имеющая 

тетраэдрические связи «атомов», позволяет 

получать самую большую ФЗЗ из 

всех фотонных кристаллов. Икосаэдрическая 

же структура не имеет тетраэдрических 

связей [4]. 

65


Кремниевые клатраты впервые были 

синтезированы в 1965 году [8]. В последние 

годы они стали объектом интенсивных экспериментальных 

и теоретических исследований, 

прежде всего с активным поиском новых 

полупроводниковых материалов. В решетке 

клатрата Si34 расположение атомов 

наиболее изотропно, то есть форма зоны 

Бриллюэна наиболее близка к сфере, что 

благоприятно для открытия полной ФЗЗ. 

Решетка клатрата Si34 получается при упаковке 

пентагонального додекаэдра и тетракисдекаэдра. 

Пентагональный додекаэдр - 

это правильный платонов полиэдр, то есть 

такое тело, в котором все вершины эквивалентны, 

а все грани однотипны. Он имеет 

несколько осей симметрии пятого порядка, 

поэтому, согласно законам кристаллографии, 

невозможно заполнение пространства только 

этими полиэдрами, необходима их комбинация 

с полиэдрами другого типа, которые содержат 

еще и шестиугольные грани. Тетракисдекаэдр 

имеет две шестиугольные грани. 

При этом, как уже отмечалось, каждый атом 

Рис. 1. Четыре примитивных ячейки решетки Si34 

связан с соседними четырьмя атомами, искаженными 

тетраэдрическими связями. 

Все вышеизложенное дает основание 

полагать, что исследование решеток клатратов 

представляет большой интерес для создания 

на их основе фотонных кристаллов. 

Цель настоящей работы - исследование 

возможности существования полной ФЗЗ в 

фотонных кристаллах с симметрией Si34. 

При проведении исследований использовалась 

следующая модель. Диэлектрический 

материал полагался непоглощающим, 

немагнитным и изотропным, то есть показатель 

преломления среды n = ε , где ε - диэлектрическая 

проницаемость диэлектрика в 

оптическом диапазоне. Для нахождения собственных 

мод уравнений Максвелла с периодическими 

граничными условиями использовали 

метод разложения поля по плоским 

волнам [9]. Рассматривались три случая: 

1) узлами решетки являются диэлектрические 

шары, окруженные воздухом; 2) узлами 

решетки являются сферические полости 

в диэлектрике; 3) соседние узлы решетки 

соединены диэлектрическими стержнями. 

66


В результате проведенных расчетов 

оказалось, что фотонный кристалл на основе 

решетки Si34, состоящий из диэлектрических 

шаров в вакууме, не имеет больших запрещенных 

зон (порядка 5% при диэлектрической 

постоянной ε = 12 ), а фотонный кристалл, 

состоящий из воздушных шаров в диэлектрике, 

не имеет запрещенных зон. Поэтому 

более подробно исследовался фотонный 

кристалл, состоящий из диэлектрических 

стрежней в вакууме, которые соединяют 

соседние узлы решетки, образовывая тем 

самым тетраэдрические связи. 

На рис. 2 приведена зонная структура 

фотонного кристалла при ε = 12 и оптимальном 

факторе заполнения f =22% (отношения 

объема диэлектрика к полному объему ячейки). 

На графиках частота указана в безразмерных 

единицах ωa 

/ 2π c , где ω- циклическая 

частота, a - размер примитивной ячейки, c - 

скорость света в вакууме. По оси x отмечены 

точки высокой симметрии зоны Бриллюэна 

ГЦК решетки [10]. Полная ФЗЗ находится между 

34-ой и 35-ой зонами и имеет размер 

∆ω/ ω 

m 

=15,6% (при факторе заполнения 

f =22%). Под размером полной ФЗЗ 

( i) − ( i + 1) понимается выражение 

∆ω min( ωi+ 

1) − max( ω ) 

= 

i 

2 ⋅ ⋅ 100% , где 

ω min( ω ) + max( ω ) 

m i+ 

1 

i 

min( ωi+ 

1) 

и max( ω i 

) - минимальная и максимальная 

частота для зон ( i + 1) и ( i) 

соответственно. 

Таким образом, фотонный кристалл 

с решеткой симметрии клатрата, содержащий 

более 4 «атомов» в примитивной 

ячейке, и обладает полной ФЗЗ. Данный кристалл 

содержит в своей решетке полиэдр, 

имеющий оси симметрии пятого порядка. 

Рис. 2. Зонная структура Si34: диэлектрическая постоянная ε =12; 

фактор заполнения f =22%; размер запрещенной зоны ∆ωm 

/ ω =15,6% 

Для определения минимального значения 

диэлектрической постоянной ε 

th 

, при 

котором появляется полная ФЗЗ, т.е. для определения 

порога возникновения полной 

ФЗЗ рассчитана зависимость ширины запрещенной 

зоны от диэлектрической проницаемости. 

Для расчета зависимости при каждом 

значении диэлектрической проницаемости ε 

определялся фактор заполнения диэлектриком 

f , для которого полная ФЗЗ имеет минимальный 

размер. Полученные результаты 

приведены на рис. 3. Как видно из рис. 3, порог 

возникновения полной ФЗЗ по диэлектрической 

постоянной равен ε th 

=5. Значение 

порога оказалось большим, чем у фотонного 

67


кристалла с симметрией алмазной решетки, 

для которого порог ε 

th 

=4,0, но меньшим, чем 

у фотонного кристалла с симметрией инвертированного 

опала [11]. Это связано с тем, 

что ФЗЗ структуры с симметрией Si34 более 

изотропная, то есть частота граничных зон 

(зон, ограничивающих ФЗЗ) слабо зависит от 

направления распространения электромагнитной 

волны. 

Рис. 3. Зависимость размера запрещенной зоны ∆ω/ ωm 

от диэлектрической постоянной ε 

Проведено исследование изотропности 

запрещенной зоны. Параметр изотропности 

F фотонной зоны ( i) 

определялся следующим 

образом [12]: 

max( ωi 

) − min( ωi 

) 

F = 2⋅ 

max( ω ) + min( ω . ) 

i 

i 

Полученная зависимость параметра 

изотропности F для зон 34 («нижняя» зона) 

и 35 («верхняя» зона) от диэлектрической 

постоянной ε при факторе заполнения 

f =27% представлена на рис. 4. Из рис. 4 

видно, что параметр F монотонно уменьшается 

при увеличении диэлектрической постоянной. 

Это обусловлено тем, что локализация 

электромагнитного поля усиливается с 

увеличением диэлектрической постоянной. 

Из ранее известных структур фотонных кристаллов 

наиболее изотропной ФЗЗ обладал 

фотонный кристалл с симметрией гранецентрированной 

кубической решетки, состоящей 

из воздушных шаров в диэлектрике. 

При f =27% и ε =12 такая решетка имеет 

F =0,08 для «нижней» зоны и F =0,066 для 

«верхней» зоны. При тех же условиях фотонный 

кристалл с решеткой с симметрией 

Si34 имеет параметр изотропности F =0,022 

для «нижней» зоны и F =0,056 для «верхней» 

зоны. Таким образом, ФЗЗ решетки 

клатрата Si34 является самой изотропной из 

когда-либо ранее исследованных решеток. 

Известно, что групповая скорость распространения 

электромагнитных волн может 

обращаться в ноль на границе ФЗЗ. Физическое 

значение этого явления заключается в 

том, что на границе ФЗЗ рассеянные волны 

образуют стоячую волну, и за счет этого 

возможна генерация когерентного излучения 

[13]. В обычных фотонных кристаллах это 

реализуется только в некоторых направлениях, 

т. к. положение границы ФЗЗ зависит от 

направления распространения электромагнитного 

излучения. Для получения когерентного 

излучения, вне зависимости от направления 

распространения электромагнит- 

68


ного излучения, необходимо использовать 

фотонные кристаллы с изотропной ФЗЗ. 

Изотропность фотонных зон также можно 

использовать для получения всенаправленной 

негативной рефракции. Это явление было 

исследовано для двухмерных фотонных 

кристаллов [14] и квазикристаллов [15]. 

Таким образом, впервые обнаружена 

полная ФЗЗ в фотонном кристалле симметрией 

решетки клатрата, порог запрещенной 

зоны по диэлектрической постоянной равен 

ε 

th 

=5,0. Обнаруженная полная ФЗЗ является 

самой изотропной из всех известных. 

Факторы изотропности оказались равными 

F =0,022 для «нижней» зоны и 

F =0,056 для «верхней» зоны при факторе 

заполнения f =27% и ε =12. 

Рис. 4. Зависимость параметра изотропности F для зон 34 (сплошная линия) и 35 (пунктирная линия) 

от диэлектрической постоянной ε . Фактор заполнения f =27%. 


1. Joannopoulos J.D., Meade R.D., Winn 

J.N., Photonic Crystals: Molding the Flow of Light. 

Princeton University Press, Singapore, 1999. 

2. Быков В.П. // ЖЭТФ. – 1972. – 

Т. 62. – C. 505. 

3. Sharp D.N., Turberfield A.J., Denning 

R.G. // Phys. Rev. B. – 2003. – V. 68. – P. 

205102. 

4. Man W., Megens M., Steinhardt P.J., 

Chaikin P.M. // Nature. – 2005. – V. 436. – P. 

993. 

5. Garcia-Adeva A.J. // Phys. Rev. B . – 

2006. – V. 73. – P. 073107. 

6. Adams G.B., O'Keeffe M., Demkov 

A.A., Sankey O.F., Huang Y.M. // Phys. Rev. B. 

– 1994. – V. 49. – P. 8048. 

7. Blase X. // Phys. Rev. B. – 2003. – V. 

67. – P. 035211. 

8. Kasper J.S., Hagenmuller P. // C. 

Cros. Science. – 1965. – V. 150. – P. 1713. 

9. Johnson S. G., Joannopoulos J.D. // 

Optics Express. – 2001. – V. 8. – P. 173. 

10. Chutinan A., Noda S. // Phys. Rev. B. 

– 1998. – V. 57. – P. 2006. 

11. Bush K., John S. // Phys. Rev. E. – 

1998. – V. 58. – P. 3896. 

12. Takeda H., Takashima T., Yoshino K. // 

J. Phys.: Condens. Matter 2004. – V. 16. – P. 6317 

13. Meier M., Mekis A., Dodabalapur A., 

Timko A., Slusher R.E., Joannopoulos J.D. // 

Appl. Phys. Lett. – 1999. – V. 74. – P. 7. 

14. Gajic R., Meisels R., Kuchar F., Hingerl 

K. // Phys. Rev. B. – 2006. – V. 73. – P. 

165310. 

15. Feng Z., Zhang X., Wang Y., Li Z.Y., 

Cheng B., Zhang D.Z. // Phys. Rev. Lett. – 

2005. – V. 94. – P. 247402. 

69


References 

1. Joannopoulos J.D., Meade R.D., Winn 

J.N., Photonic Crystals: Molding the Flow of Light. 

Princeton University Press, Singapore, 1999. 

2. Bykov V.P. // “GETF”. – 1972. – 

Т. 62. – C. 505. 

3. Sharp D.N., Turberfield A.J., Denning 

R.G. // Phys. Rev. B. – 2003. – V. 68. – P. 

205102. 

4. Man W., Megens M., Steinhardt P.J., 

Chaikin P.M. // Nature. – 2005. –V. 436. – P. 

993. 

5. Garcia-Adeva A.J. // Phys. Rev. B. – 

2006. –V. 73. – P. 073107. 

6. Adams G.B., O'Keeffe M., Demkov 

A.A., Sankey O.F., Huang Y.M. // Phys. Rev. B. 

– 1994. – V. 49. – P. 8048. 

7. Blase X. // Phys. Rev. B. – 2003. – 

V. 67. – P. 035211. 

8. Kasper J.S., Hagenmuller P. // C. Cros. 

Science. – 1965. – V. 150. – P. 1713. 

9. Johnson S. G., Joannopoulos J.D. // 

Optics Express. – 2001. – V. 8. – P. 173. 

10. Chutinan A., Noda S. // Phys. Rev. B. 

– 1998. – V. 57. – P. 2006. 

11. Bush K., John S. // Phys. Rev. E. – 

1998. – V. 58. – P. 3896. 

12. Takeda H., Takashima T., Yoshino K. // 

J. Phys.: Condens. Matter. – 2004. – V. 16. – P. 

6317 

13. Meier M., Mekis A., Dodabalapur A., 

Timko A., Slusher R.E., Joannopoulos J.D. // 

Appl. Phys. Lett. – 1999. – V. 74. – P. 7. 

14. Gajic R., Meisels R., Kuchar F., Hingerl 

K. // Phys. Rev. B. – 2006. – V. 73. – P. 

165310. 

15. Feng Z., Zhang X., Wang Y., Li Z.Y., 

Cheng B., Zhang D.Z. // Phys. Rev. Lett., 2005. 

– V. 94. – P. 247402. 

BAND STRUCTURE OF A PHOTONIC CRYSTAL WITH THE CLATHRATE SI-34 

CRYSTAL LATTICE 

© 2008 P.N. Dyachenko 1 , N.D.Kundikova 2 , Yu.V. Miklyayev 2 , V.S. Pavelyev 1 

1 Image Processing Systems Institute of the RAS, 443001, Samara, Russia 

2 College-academic Non-linear Optics department, Experimental Physics Institute, the Ural 

Branch of the RAS and South-Ural State University, 454080, Chelyabinsk, Russia 

The band structure of a photonic crystal with the clathrate Si-34 lattice comprising 34 lattice sites in the unit 

cell is studied. The lattice is found to have a large isotropic band gap for a wide range of permittivity. The relationship 

between the photonic band isotropy and the permittivity is deduced. 

Photon crystals 


Дьяченко Павел Николаевич, Учреждение Российской академии наук Институт систем обработки 

изображений РАН, Самара, Россия, стажер-исследователь, e-mail: dyachenko@ssau.ru. 

Область научных интересов: нелинейная оптика 

Кундикова Наталия Дмитриевна, Декан физического факультета Южно-Уральского государственного 

университета. Область научных интересов: нелинейная оптика. 

70


Микляев Юрий Владимирович, Южно-Уральский государственный университет, Челябинск, 

Россия, доцент, e-mail: miklyaev@mail.ru. Область научных интересов: 

Павельев Владимир Сергеевич, Учреждение Российской академии наук Институт систем 

обработки изображений РАН, Самара, Россия, главный научный сотрудник, e-mail: 

pavelyev@smr.ru. Область научных интересов: фотонные кристаллы, нелинейная оптика 

Dyachenko Pavel Nikolaevich, Establishment of the Russian Academy of Sciences Institute of 

systems of processing of images of the Russian Academy of Sciences, Samara, Russia, the traineeresearcher, 

e-mail: dyachenko@ssau.ru. Area of scientific interests: nonlinear optics. 

Kundikova Nataliya Dmitrievna, the Ural Branch of the RAS and South-Ural State University, 

454080, Chelyabinsk, Russia. Physical faculty, the dean. Area of scientific interests: nonlinear optics. 

Miklyayev Yurii Vladimirovich the Ural Branch of the RAS and South-Ural State University, 

454080, Chelyabinsk, Russia, The senior lecturer, e-mail: miklyaev@mail.ru. Area of scientific interests: 

nonlinear optics. 

Pavelyev Vladimir Sergeevich, Establishment of the Russian Academy of Sciences Institute of 

systems of processing of images of the Russian Academy of Sciences, Samara, Russia, the main 

scientific employee, e-mail: pavelyev@smr.ru. Area of scientific interests: photon crystals, nonlinear 

optics. 

71


УДК 535.42 

ДИФРАКЦИЯ ПРОСТРАНСТВЕННО-ОГРАНИЧЕННОГО ПУЧКА 

НА РАДИАЛЬНО-СИММЕТРИЧНЫХ ДИФРАКЦИОННЫХ 

ОПТИЧЕСКИХ ЭЛЕМЕНТАХ 

© 2008 С.И. Харитонов 1 , Н.Л. Казанский 1,2 , А.Ю. Дмитриев 1 

Институт систем обработки изображения РАН 


В работе предложен метод решения задачи дифракции на оптических элементах с радиально-симметричным, 

не зависящим от продольной координаты распределением диэлектрической проницаемости. Предлагаемый 

метод является обобщением метода связанных волн (RCWA) для радиально-симметричных структур. В 

качестве базиса для разложения решения были выбраны конические волны, представляющие собой решения 

системы уравнений Максвелла в среде с постоянной диэлектрической проницаемостью. 

Фокусатор, дифракционный оптический элемент, уравнения Максвелла, дифракция 


Наряду со сферической линзой, фокусирующей 

свет в точку, широко применяются 

на практике оптические элементы, фокусирующие 

свет в кольцо. 

Имеется ряд работ, посвященных исследованию 

фокусировки в кольцо в рамках 

геометрической оптики [1-7]. Как известно, 

приближение геометрической оптики не позволяет 

оценить ширину кольца, энергетическую 

эффективность фокусировки. В статье 

[8] исследуется фокусировка в кольцо с помощью 

оптического элемента с бинарной 

⎛ 

⎞ 

sign ⎜ J krr / f ⎟ , 

фазовой структурой вида ( ) 

⎝ 

0 0 0 

который является дополнением к линзе. В 

работах [9,10] предложены несколько видов 

функций комплексного пропускания, описывающих 

оптический элемент с кольцевым 

импульсным откликом, и получены интегральные 

представления для интенсивности 

светового поля в фокальной плоскости вблизи 

кольца. В статье [11] было получено распределение 

интенсивности в фокальной 

плоскости (вблизи кольца) пары аксиконлинза. 

Дифракционный оптический элемент 

(ДОЭ) с повышенной глубиной фокуса или 

фокусатор в отрезок на оптической оси был 

впервые предложен в работе [12]. В дальнейшем 

было предложено несколько вариантов 

расчета, совершенствования и исследо- 

⎠ 

вания фазовых функций таких ДОЭ [4, 13- 

22]. Использование оптических элементов с 

повышенной глубиной фокуса актуально для 

лазерных проигрывателей компакт-дисков 

[23], для получения оптического разряда в 

газе [24], для создания опорной световой линии 

в метрологии [25], лазерных технологических 

установках [26]. 

Во всех изложенных работах прохождение 

поля через оптический элемент рассчитывался 

в приближении геометрической 

оптики. Для расчета поля после оптического 

элемента использовался интеграл Кирхгофа. 

Цель данной работы - разработать метод расчета 

поля внутри ДОЭ с радиальносимметричным 

распределением диэлектрической 

проницаемости. Предложенный метод 

является аналогом метода RCWA 

(Rigorous Coupled Wave Analysis), используемого 

для расчета дифракции полей на периодических 

структурах [27-29]. В работе 

[30] рассмотрено использование компактной 

записи для решения системы уравнений 

Максвелла с помощью многомерных матриц. 

В работе [30] рассмотрен наиболее общий 

способ решения системы уравнений Максвелла 

с помощью решения системы интегро-дифференциальных 

уравнений. В настоящей 

работе рассматривается применение 

данного метода к решению уравнений Максвелла 

в цилиндрической системе координат. 

Задача сводится к решению системы 

72


обыкновенных дифференциальных уравнений 

с постоянными коэффициентами. В качестве 

базиса для описания результирующего 

поля были выбраны конические волны c 

определенным орбитальным угловым моментом, 

представляющие собой решения 

системы уравнений Максвелла в среде с постоянной 

диэлектрической проницаемостью. 

В скалярном приближении конические волны 

с определенным угловым моментом подробно 

рассмотрены в работах [32-34]. Эти 

пучки использовались авторами для вращения 

микрочастиц [35-36]. 

1. Решение эволюционных уравнений 

в операторной форме 

Напомним основные элементы теории 

представлений, изложенной в работе [30]. 

Пусть имеется операторное уравнение, записанное 

в эволюционной форме: 

i ∂ W 

3 

k ∂x 

= H W 

, (1) 

где H - матричный дифференциальный оператор 

размерностью 4х4. В данной работе 

использованы обозначения, введенные П. 

Дираком в работе [31]. 

Пусть матричный дифференциальный 

оператор имеет вид 

⎡0 

A⎤ 

H = ⎢ 

B 0 ⎥ , (2) 

⎣ ⎦ 

где A и B - матричные дифференциальные 

операторы размерности 2x2. 

Представим решение уравнения в виде 

разложения по базису F ω 

: 

s 3 

W +∞ v ω ⎛ x ⎞ 

⎜ ⎟ Fω 

s 

−∞ ⎝ ⎠ 

s 

= d ω 

s 

∑ ∫ . (3) 

Будем 

называть 

v 

x 

ωs 

⎛ 3 ⎞ 

⎜ ⎟ 

⎝ ⎠ 

уравнения (1) в F-представлении. 

Уравнение для функции v 

вид 

ωs 

+∞ 

ωs 

⎛ 3 ⎞ αk 

⎛ 3 ⎞ 

H d 

3 αk 

⎜ x ⎟ v ⎜ x ⎟ 

−∞ ⎝ ⎠ ⎝ ⎠ 

k 

решением 

x 

ωs 

⎛ 3 ⎞ 

⎜ ⎟ 

⎝ ⎠ 

имеет 

i ∂ v 

= ∑ α 

k ∂x 

∫ , (4) 

s 

где H ω αk 

- матричные элементы оператора H 

в F-представлении. 

В результате мы получили систему интегро-дифференциальных 

уравнений. Следует 

отметить, что вследствие специфической 

структуры оператора H можно выбрать 

базис , в котором будут отличны 

V ω s 

от нуля только следующие матричные элементы: 

H = 〈 V A V , (5) 

ω1 ω1 

α3 ⎜ 

α3 

H = 〈 V A V , (6) 

ω1 ω1 

ω 

α4 ⎜ 

α α4 

H = 〈 V A V , (7) 

ω2 ω2 

ω 

α3 ⎜ 

α α3 

H = 〈 V A V , (8) 

ω2 ω2 

ω 

α4 ⎜ 

α α4 

H = 〈 V B V , (9) 

ω3 ω3 

α1 ⎜ 

α1 

H = 〈 V B V , (10) 

ω3 ω3 

α2 ⎜ 

α2 

H = 〈 V B V , (11) 

ω4 ω4 

α1 ⎜ 

α1 

H = 〈 V B V . (12) 

ω4 ω4 

α2 ⎜ 

α2 

В данном случае используются матрицы 

2× 2 , а в качестве базисных векторов используются 

столбцы из двух элементов, содержащие 

ненулевые компоненты векторов с 

размерностью, равной 4 . 

Система интегро-дифференциальных 

уравнений распадается на две части: 

i ∂ v 

k x 

ωs 

+∞ 

ωs 

3 αk 

3 

= 

3 ∑ Hαk 

( x ) v ( x ) dα 

∂ 

∫ (13) 

−∞ 

k= 3, 

4 

для s = 1, 2 , 

i ∂ v 

k 

ωs 

+∞ 

ωs 

3 αk 

3 

= 

3 ∑ Hαk 

( x ) v ( x ) dα 

∂x 

∫ (14) 

−∞ 

k= 1, 

2 

для s = 3, 4 . 

Можно также получить систему интегро-дифференциальных 

уравнений второго 

порядка: 

2 ωk 

1 ∂ v 

− = 

2 2 

k ∂ 

3 

( x ) 

⎛ +∞ 

ωk 

3 

⎞ 

βm 

3 

= ⎜ ∑ ∫ Pβ 

m ( x ) ⎟v ( x ) d β, 

−∞ 

⎝ m= 1, 

2 

⎠ 

(15) 

73


ωk ⎛ 

ωk αs 

⎞ 

Pβ m 

= ⎜ Hαs x Hβm 

x α 

−∞ 

⎝ s= 3, 

4 

⎠ 

3 3 

∑ ∫ +∞ 

( ) ( ) d ⎟ , (16) 

По аналогии 

2 ωk 

1 ∂ v 

− = 

2 2 

k ∂ 

3 

( x ) 

⎛ +∞ 

ωk 

3 

⎞ 

βm 

3 

= ⎜ ∑ ∫ Qβ 

m ( x ) ⎟v ( x ) d β, 

−∞ 

⎝ m= 3, 

4 

⎠ 

ωk ⎛ 

ωk αs 

⎞ 

Qβ m 

= ⎜ Hαs x Hβm 

x α 

−∞ 

⎝ s= 1, 

2 

⎠ 

(17) 

3 3 

∑ ∫ +∞ 

( ) ( ) d ⎟ . (18) 

2. Уравнения Максвелла 

в цилиндрических координатах 

В данном разделе используем физические 

компоненты векторов. Для обозначения 

цилиндрических координат используем обозначения 

⎛ 

⎜ 

⎝ 

x , x , x , где 

1 2 3 ⎞ 

⎟ 

⎠ 

1 

x 

- радиальная ко- 

2 

3 

ордината, x - полярный угол, x - расстояние 

вдоль оптической оси. 

В цилиндрической системе координат 

систему уравнений Максвелла для комплексных 

амплитуд можно представить в 

виде 

i ∂ W 

3 

k ∂x 

= H W 

, (19) 

_______________________________________________________________________________ 

H 

⎛ 

i ∂ i ∂ ⎞ 

⎜ 0 0 − D 

1 2 

D 

1 1+ 

ik 

εk ∂x ⎟ 

⎜ 

εk ∂x 

⎟ 

⎜ 

i 1 ∂ i 1 ∂ ⎟ 

⎜ 

0 0 − D 

1 2 2 

− ik D 

1 2 1 

k x x k x x ⎟ 

= 

ε ∂ ε ∂ 

⎜ ⎟ , (20) 

⎜ i ∂ −i 

∂ 

D 

1 2 

D 

1 1−ikε 

0 0 ⎟ 

⎜ k ∂x k ∂x 

⎟ 

⎜ 

i 1 ∂ −i 

1 ∂ 

⎟ 

⎜ D 

1 2 2 

+ ikε 

D 

1 2 1 

0 0 ⎟ 

⎝ k x ∂x k x ∂x 

⎠ 

_______________________________________________________________________________ 

W 

⎡ 

⎢ 

⎢ 

E 

⎤ 

1 ⎥ 

⎥ 

⎥ 

2 ⎥ 

⎥ 

⎥ 

1 ⎥ 

⎥ 

2 

⎥ 

⎦ 

⎢ E 

⎢ 

= ⎢ , (21) 

⎢ H 

⎢ 

⎢ 

⎢ 

⎣ 

H 

где D 

1 

, D2 

- дифференциальные операторы 

следующего вида: 

1 ∂ x 

D x ∂ x 

D 

⎛ 1 ⎞ 

⎜ ⎟ 

⎝ ⎠ 

1 

= 

1 1 

1 

= 

x 

∂ 

∂x 

2 1 2 

, (22) 

. (23) 

Оператор D1 

действует на функцию 

следующим образом: 

D1 

f = 

x 

⎛ 1 ⎞ 

1 ∂ ⎜ x f ⎟ 

⎝ ⎠ 

1 1 

∂x 

(24) 

1 2 3 

Здесь x , x , x - цилиндрические координаты, 

связанные с обычными декарто- 

x, y, z следующим 

выми координатами ( ) 

преобразованием: 

x = x cos x , (25) 

1 ⎛ 2 

⎜ 

⎞ 

⎟ 

⎝ ⎠ 

y = x sin x , (26) 

z 

1 ⎛ 2 

⎜ 

⎞ 

⎟ 

⎝ ⎠ 

3 

= x . (27) 

E 

1 

, E 

2 

, E 

3 

, H 

1 

, H 

2 

, H3 

- компоненты 

векторов электрического и магнитного полей 

в цилиндрической системе координат; ε - 

диэлектрическая проницаемость среды; 

74


k = 

ω 

- волновое число в вакууме; ω - круговая 

частота; c - скорость света. 

c 

2.1. Распространение света в среде 

с постоянной диэлектрической 

проницаемостью 

В качестве простого примера рассмотрим 

распространение волны в среде с постоянной 

диэлектрической проницаемостью. 

Представим решение системы уравнений 

Максвелла в виде 

E x , x , x = F x , x exp ikγx 

, (28) 

⎛ 1 2 3 ⎞ ⎛ 1 2 ⎞ ⎛ 3 

⎜ ⎟ ⎜ ⎟ ⎜ ⎞ 

⎟ 

⎝ ⎠ ⎝ ⎠ ⎝ ⎠ 

H x , x , x = G x , x exp ikγx 

. (29) 

⎛ 1 2 3 ⎞ ⎛ 1 2 ⎞ ⎛ 3 

⎜ ⎟ ⎜ ⎟ ⎜ ⎞ 

⎟ 

⎝ ⎠ ⎝ ⎠ ⎝ ⎠ 

Такое представление справедливо в 

случае, если свойства среды не зависят от 

координаты x 3 

; γ − константа, возникающая 

при разделении переменных. 

Для определения F1 

и G2 

используется 

следующая пара уравнений Максвелла: 

∂F3 

ikγF1 − ikG2 = , (30) 

∂ 

1 

x 

1 ∂G 

−ikε F + ikγ G = 

x ∂x 

3 

1 2 1 2 

. (31) 

Решения выражаются через определители 

Крамера ∆ 1 

, ∆, 

∆ 2 


∆ 

1 

F 1 

= , (32) 

∆ 

∆ 

2 

G 2 

= . (33) 

∆ 

Выражения для определителей приведены 

в приложении. 

По аналогии для определения G1 

и F2 

используется следующая система уравнений: 

1 ∂F 

ikγ F + ikG = x ∂ x 

3 

2 1 1 2 

, (34) 

∂G3 

ikε F2 + ikγ G1 = . (35) 

∂ 

1 

x 

Решения G1 

и F2 

выражаются через 

определители Крамера следующим образом: 

∆ 

3 

F 2 

= , (36) 

∆ 

G1 

∆ 

4 

= . (37) 

∆ 

Подставляя полученные выражения для 

E 

1 

, E 

2 

, H 

1 

, H 

2 

в третью пару уравнений 

Максвелла, получаем уравнения для компонент 

F3 , G3 

: 

1 ∂ ⎛ 1 ∂F3 

⎞ 

x 

1 1 1 + 

x ∂x ⎜ 

∂x 

⎟ 

⎝ ⎠ 

⎛ 

∂ ⎜ 

1 

∂ 

2 

3 2 2 

+ ⎟ + k β F 

2 2 2 

3 

= 

∂x ⎜ ⎛ 1 ⎞ ⎛ 2 ⎞ 

⎜ x ⎟ ∂⎜ x ⎟ 

⎟ 

⎝ ⎠ ⎝ ⎠ 

⎝ 

2 

3 2 2 

+ ⎟ + k β G 

2 2 2 

3 

= 

∂x ⎜ ⎛ 1 ⎞ ⎛ 2 ⎞ 

⎜ x ⎟ ∂⎜ x ⎟ 

⎟ 

⎝ ⎠ ⎝ ⎠ 

F 

1 ∂ ⎛ 1 ∂G3 

⎞ 

x 

1 1 ⎜ 1 ⎟ + 

x ∂x ⎝ ∂x 

⎠ 

⎛ 

∂ ⎜ 

⎝ 

1 

2 ⎛ 2 ⎞ 

⎜ ⎟ 

⎝ ⎠ 

∂ G 

⎞ 

⎠ 

⎞ 

⎠ 

0, 

0, 

(38) 

(39) 

β = ε − γ , (40) 

где β - конический параметр. 

Для решения полученных уравнений 

для функций G 

3 

, F3 

разделяем переменные 


F3 x , x = Z x exp imx , (41) 

⎛ 1 2 ⎞ ⎛ 1 ⎞ ⎛ 2 ⎞ 

⎜ ⎟ ⎜ ⎟ ⎜ ⎟ 

⎝ ⎠ ⎝ ⎠ ⎝ ⎠ 

G3 x , x = Y x exp imx , (42) 

⎛ 1 2 ⎞ ⎛ 1 ⎞ ⎛ 2 ⎞ 

⎜ ⎟ ⎜ ⎟ ⎜ ⎟ 

⎝ ⎠ ⎝ ⎠ ⎝ ⎠ 

где m - целое число, определяющее орбитальный 

угловой момент количества движения 

поля, Z ⎛ 

⎜ x 

⎞ 

1 

1 

⎟ и Y ⎛ 

⎜ x 

⎞ 

⎟ - цилиндрические 

⎝ 

⎠ 

⎝ 

функции. Подставляем это представление в 

уравнения для функций G3 

и F 3 

и получаем 

1 

уравнение для функций Z ⎛ 

⎜ x 

⎞ 

1 

⎟ и Y ⎛ 

⎜ x 

⎞ 

⎟ . Приведенные 

решения, а также линейные ком- 

⎝ ⎠ ⎝ ⎠ 

бинации с одинаковыми индексами m будем 

называть решениями с определенным угловым 

моментом: 

1 ∂ ⎛ ∂Z 

⎞ m 

x − Z + k β Z = 0 , (43) 

x x x x 

2 

1 

∂ 

1 ⎜ 

⎝ 

1 2 2 

1 ⎟ 

⎛ 1 2 

∂ ⎠ ⎜ ⎟ 

⎝ ⎠ 

⎠ 

75


1 ∂ ⎛ ∂Y 

⎞ m 

x − Y + k β Y = 0 . (44) 

x x x x 

2 

1 

∂ 

1 ⎜ 

⎝ 

1 2 2 

1 ⎟ 

⎛ 1 2 

∂ ⎠ ⎜ ⎟ 

⎝ ⎠ 

Функции 

Z ⎛ 

⎜ x 

⎝ 

1 ⎞ 

⎟ 

⎠ 

и 

Y ⎛ 

⎜ x 

⎝ 

1 ⎞ 

⎟ 

⎠ 

, как и следовало 

ожидать, удовлетворяют одному и тому 

же уравнению. 

Перепишем уравнение для функции 

1 

Z ⎛ 

⎜ x 

⎞ 

⎟ в виде 

⎝ ⎠ 

⎛ 1 ⎞ 

2 ∂ ⎛ ∂Z 

⎞ 1 ∂Z 

⎜ x ⎟ 

x 

⎝ ⎠ 1 ⎜ 1 ⎟ + 

1 + 

∂x ⎝ ∂x ⎠ ∂x 

. (45) 

⎛ 

2 2 ⎛ 1 ⎞ 

2 

2 

⎞ 

⎜ ⎟ 

⎟ 

⎝ ⎠ ⎟ 

⎠ 

+ ⎜k β x − m Z = 0. 

⎜ 

⎝ 

1 

Сделаем замену переменных kβ x = z и 

получим уравнение Бесселя 

2 ∂ ⎛ ∂Z 

⎞ ∂Z 

⎛ 2 2 ⎞ 

z ⎜ ⎟ + z + ⎜ z m ⎟ Z 0 

⎝ − 

⎠ = . (46) 

∂z ⎝ ∂z ⎠ ∂z 

Решением этого уравнения будут цилиндрические 

функции. 

Запишем теперь решение для E3 

и H 

3 

: 

E = Z kβx exp ikγ x × 

3 

⎛ 1 ⎞ ⎛ 3 ⎞ 

m ⎜ ⎟ ⎜ ⎟ 

⎝ ⎠ ⎝ ⎠ 

× = , , 

⎛ 2 ⎞ 1 2 3 

exp ⎜imx ⎟ Q( x x x ), 

⎝ ⎠ 

⎛ 1 ⎞ ⎛ 3 ⎞ ⎛ 2 ⎞ 

m ⎜ ⎟ ⎜ ⎟ ⎜ ⎟ 

⎝ ⎠ ⎝ ⎠ ⎝ ⎠ 

(47) 

H3 = Z kβx exp ikγ x exp imx . (48) 

Для дальнейших рассуждений будем 

использовать выражения для компонент F 

1 

, 

F 

2 

, G 

1, G2 

через F 

3 

, G 

3 

: 

ik ⎛ ∂F3 1 ∂G3 

⎞ 

F1 = ⎜ γ + 

1 1 2 ⎟ 

∆ ⎝ ∂x x ∂x 

⎠ , (49) 

ik ⎛ γ ∂G3 ∂F3 

⎞ 

G2 = ⎜ + ε 

1 2 1 ⎟ 

∆ ⎝ x ∂x ∂x 

⎠ , (50) 

ik ⎛ γ ∂F3 ∂G3 

⎞ 

F2 = ⎜ − 

1 2 1 ⎟ 

∆ ⎝ x ∂x ∂x 

⎠ , (51) 

ik ⎛ ∂G3 ε ∂F3 

⎞ 

G1 = ⎜ γ − 

1 1 2 ⎟ 

∆ ⎝ ∂x x ∂x 

⎠ , (52) 

⎛ 1 ⎞ 

i ⎛ 1 ∂ ⎜ x G2 ⎟ 

⎝ ⎠ 1 ∂G 

⎞ 

1 

F3 = − 

, 

1 1 1 2 

εk ⎜ x ∂x x ∂x 

⎟ 

⎝ 

⎠ 

(53) 

⎛ 1 ⎞ 

−i 

⎛ 1 ∂ ⎜ x F2 ⎟ 

⎝ ⎠ 1 ∂F 

⎞ 

1 

G3 = 1 1 − 

1 2 

. 

k ⎜ x ∂x x ∂x 

⎟ 

⎝ 

⎠ 

(54) 

Подставляем в данные выражения решения 

с разделяющимися переменными и 

получаем выражение для конических волн с 

определенным орбитальным угловым моментом: 

k ⎛ ∂F3 mG3 

⎞ 

F1 = ⎜iγ − 

1 1 ⎟ 

∆ ⎝ ∂x 

x ⎠ , (55) 

G 

ik ⎛ miγG 

∂F 

⎞ 

= ⎜ + ε ⎟ 

∆ ⎝ x ∂x 

⎠ , (56) 

3 3 

2 1 1 

ik ⎛ miγF3 ∂G3 

⎞ 

F2 = ⎜ − 

1 1 ⎟ 

∆ ⎝ x ∂x 

⎠ , (57) 

k ⎛ ∂G3 mεF3 

⎞ 

G1 = ⎜iγ + 

1 1 ⎟ 

∆ ⎝ ∂x 

x ⎠ . (58) 

1. Случай поперечной магнитной волны 

( G 

3 

= 0 ): 

ik ⎛ ∂F3 

⎞ 

F1 = ⎜ γ 

1 ⎟ 

∆ ⎝ ∂x 

⎠ , (59) 

G 

ik ⎛ ∂F 

⎞ 

= ⎜ε 

⎟ 

∆ ⎝ ∂x 

⎠ , (60) 

3 

2 0 1 

ik ⎛ γ ∂F3 

⎞ 

F2 = ⎜ 1 2 ⎟ 

∆ ⎝ x ∂x 

⎠ , (61) 

ik ⎛ ε0 ∂F3 

⎞ 

G1 = ⎜ − 

1 2 ⎟ 

∆ ⎝ x ∂x 

⎠ , (62) 

2 2 2 

∆ = k ε − k γ . (63) 

2. Случай поперечной электрической 

волны ( F 

3 

= 0 ): 

ik ⎛ 1 ∂G3 

⎞ 

F1 = ⎜ 1 2 ⎟ 

∆ ⎝ x ∂x 

⎠ , (64) 

G 

ik ⎛ γ ∂G 

⎞ 

= ⎜ ⎟ 

∆ ⎝ x ∂x 

⎠ , (65) 

3 

2 1 2 

ik ⎛ ∂G3 

⎞ 

F2 = ⎜ − 

1 ⎟ 

∆ ⎝ ∂x 

⎠ , (66) 

ik ⎛ ∂G3 

⎞ 

G1 = ⎜ γ 

1 ⎟ 

∆ ⎝ ∂x 

⎠ . (67) 

2.2. Матричное представление решений 

с определенным значением 

орбитального углового момента 

Выражение для компонент конических 

волн с определенным орбитальным угловым 

моментом можно переписать в матричном 

виде: 

76


⎡ 

⎢ 

⎢ 

F 

im 

1 Y 

x 

⎤ 

1 ⎥ 

Y 

⎥ 

⎢ ∂ 

− ⎥ 

⎥ 

1 

2 ⎥ ⎛ 3 ⎞ 

⎢ ∂ ⎥ 

⎛ 3 ⎞ ⎛ 2 ⎞ 

⎥ ⎜ ⎟ ⎜ ⎟ ⎜ ⎟ 

⎝ ⎠ ⎢ ⎥ 

⎥ 

⎝ ⎠ ⎝ ⎠ 

1 

∆ Y 

⎥ 

⎢ 

∂ 

±γ ⎥ 

⎥ 

1 

x 

2 

⎥ 

⎢ ∂ ⎥ 

⎦ 

⎢F ⎢ 

ik x 

Wh 

= ⎢ exp ikγ x = exp ikγx exp imx , 

⎢G 

⎢ 

⎢ 

⎢ 

⎣ 

G 

F 

⎡ 

⎢ 

⎢ 

⎤ 

⎥ 

⎥ 

⎢ im ⎥ 

⎢±γ 

1 Y ⎥ 

⎣ x ⎦ 

⎡ ∂Z 

⎤ 

⎢ 

±γ 

1 

∂x 

⎥ 

⎢ ⎥ 

⎢F ⎢ 

ik x 

We 

= ⎢ ikγ x = ikγx imx 

⎢G im 

⎢ 

⎢ 

Z 

⎢G 

(68) 

⎡ ⎤ 

⎢ 1 ⎥ 

im 

⎢ ⎥ 

⎢ ±γ 

1 Z ⎥ 

⎥ 

2 ⎥ ⎛ 3 ⎞ 

⎢ ⎥ 

⎛ 3 ⎞ ⎛ 2 ⎞ 

⎥ exp ⎜ ⎟ exp ⎜ ⎟ exp ⎜ ⎟. 

⎝ ⎠ ⎢ ⎥ 

(69) 

⎥ 

⎝ ⎠ ⎝ ⎠ 

1 ∆ 

⎥ 

0 

⎥ 

⎢ 

ε 

− ⎥ 

1 

x 

2 

⎥ 

⎢ ⎥ 

⎣ ⎦ 

⎢ ∂Z 

⎥ 

⎢ ε0 ⎥ 

⎣ ∂ 

1 

x ⎦ 

_______________________________________________________________________________ 

Следует отметить, что конические волны 

ортогональны между собой при различных 

конических параметрах, ортогональны 

между собой при различных индексах, определяющих 

угловой момент, и также ортогональны 

для волн различных типов (имеются 

в виду волны поперечно-электрические и 

поперечно-магнитные). Конические волны 

можно выбрать в качестве базиса. Однако 

данный базис не очень удобный, так как не 

является ортогональным. Это приводит к тому, 

что выражения для матричных элементов 

становятся достаточно сложными. В качестве 

базиса можно также выбрать систему ортогональных 

бивекторов 

_______________________________________________________________________________ 

V 

β 

∂ 

im 

⎛ 

⎞ 

⎜ 

⎛ 1 ⎞ ⎛ 1 ⎞ 

⎟ 

⎜ γ J 

1 m ⎜kβx ⎟ J 0 0 

1 m⎜ 

kβx 

⎟ 

⎟ 

⎜ 

⎝ ⎠ 

∂x 

x ⎝ ⎠ 

⎟ 

⎜ 

⎟ 

⎜ 

⎟ 

⎜ im 1 1 

0 0 

1 J 

⎛ 

m k x 

⎞ ∂ 

1 J 

⎛ 

m k x 

⎞ 

⎟ 

⎜ γ ⎜ β ⎟ − ⎟ 

⎜ 

β 

⎜ 

⎝ ⎠ 

⎟ 

⎝ ⎠ 

⎟ 

⎜ 

∂ 

⎟ 

⎜ 

⎟ 

⎜ 

im 1 1 

0 0 

0 1 J 

⎛ 

m k x 

⎞ 

1 J 

⎛ 

m k x 

⎞ 

⎟ 

⎜ 

−ε ⎜ β ⎟ γ ⎟ 

⎜ 

β 

⎜ 

⎝ ⎠ ⎟ ⎟ 

⎜ 

x 

∂x 

⎝ ⎠ 

⎟ 

⎜ 

⎟ 

⎜ 

∂ 

⎟ 

⎜ 

⎛ 1 ⎞ im ⎛ 1 ⎞ 

0 0 

0 

J 

1 m 

k x J 

1 m 

k x 

⎟ 

ε ⎜ β ⎟ γ ⎜ 

β 

⎝ ⎠ 

⎟ 

⎜ 

⎝ 

∂x 

⎝ ⎠ ⎟ 

⎠ 

ik x x 

= ∆ ∂ 

x 

W −1 

. (70) 

_______________________________________________________________________________ 

где 

Jm 

⎛ 

⎜ 

⎝ 

kβx 

1 ⎞ 

⎟ 

⎠ 

- функция Бесселя. 

Приведенные базисные векторы являются 

линейной комбинацией конических 

волн, распространяющихся в различных направлениях. 

W - диагональная матрица, 

обеспечивающая нормировку базисных 

77 

функций. Под нормой вектора будем понимать 

скалярное произведение V = 〈 V ⎜ V . 

Под скалярным произведением будем 

понимать выражение 

〈 V ⎜ V = ∫ V x V x x dx 

, (71) 

+ ⎛ 1 ⎞ ⎛ 1 ⎞ 1 1 

⎜ ⎟ ⎜ ⎟ 

⎝ ⎠ ⎝ ⎠


где 

V ⎛ 

⎜ x 

⎝ 

1 ⎞ 

⎟ 

⎠ 

- вектор-столбец, 

V 

x 

+ ⎛ 1 ⎞ 

⎜ ⎟ 

⎝ ⎠ 

- комплексно 

сопряженная вектор-строка. 

3. Распространение волн с определенным 

угловым орбитальным моментом 

в радиально-симметричной среде 

Для дальнейших выкладок представим 

оператор Гамильтона-Максвелла в виде 

⎛ 0 A⎞ 

H = ⎜ ⎟ , (72) 

⎝ B 0 ⎠ 

где 

A = 

⎛ 

⎜ 

⎜ 

⎜ 

⎜ 

⎜ 

⎜ 

⎜ 

⎜ 

⎝ 

i ∂ 1 i ∂ 1 

− + 

k x k x 

i 1 1 

− 

εk x ∂x εk x ∂x 

⎞ 

⎟ 

D 

1 2 

D 

1 1 

ik ⎟ 

∂ ε ∂ ε 

⎟ 

⎟ 

⎟ 

∂ i ∂ ⎟ 

D 

1 2 2 

− ik D 

1 2 1 

⎟ 

⎟ 

⎠ 

, (73) 

B = 

⎛ 

⎜ 

⎜ 

⎜ 

⎜ 

⎜ 

⎜ 

⎜ 

⎜ 

⎝ 

i 

∂ −i 

∂ 

⎞ 

⎟ 

D 

1 2 

D 

1 1−ikε 

⎟ 

k ∂x k ∂x 

⎟ 

⎟ 

⎟ 

∂ −i 

∂ ⎟ 

D 

1 2 2 

+ ikε 

D 

1 2 1 

⎟ 

⎟ 

⎠ 

i 1 1 

k x ∂x k x ∂x 

. (74) 

Следует отметить, что в пространстве 

состояний с определенным орбитальным 

моментом действие оператора ∂ im 

2 = , где 

∂x 

m - число, определяющее орбитальный момент. 

В качестве базиса будем использовать 

(70). Для удобства приведем матрицу из ненулевых 

компонент базисных векторов 

_______________________________________________________________________________ 

⎛ 

⎞ 

⎜ 

⎛ 1 ⎞ ⎛ 1 ⎞ ⎛ 1 ⎞ ⎛ 1 ⎞ ⎟ 

⎜ γ J 

1 m ⎜kαx ⎟ J 

1 m⎜ kαx ⎟ −ε0 

J 

1 m ⎜ kαx ⎟ γ J 

1 m ⎜ kαx 

⎟ 

⎟ 

ik ⎜ 

⎝ ⎠ 

∂x x 

⎝ ⎠ 

x 

⎝ ⎠ 

x 

⎝ ⎠ ⎟ 

⎜ 

⎟ 

α1 α2 α3 α4 

= 

∂ 

∆ 

⎜ ⎟ 

⎜ im ⎛ 1 ⎞ ∂ ⎛ 1 ⎞ ∂ ⎛ 1 ⎞ im γ ⎛ 1 ⎞ ⎟ 

⎜ γ J 

1 m ⎜kαx ⎟ 

− J 

1 m ⎜kαx ⎟ 

ε0 

J 

1 m ⎜kαx ⎟ 

J 

1 m 

⎜kαx 

⎟ ⎟ 

⎜ 

⎝ ⎠ ⎝ ⎠ ⎝ ⎠ ⎝ ⎠ ⎟ 

⎝ 

⎠ 

( V V V V ) 

∂ 

im 

x ∂x ∂x x 

im 

∂ 

. (75) 

_______________________________________________________________________________ 

На практике для упрощения вычислительной 

процедуры вместо непрерывного базиса 

необходимо использовать базис дискретный. 

Это будет соответствовать замене 

интегральных выражений интегральными 

суммами. В свою очередь это означает, что 

базисные вектора имеют вид 

∑ V ( ) . (76) 

Vα = δ α − α 

m nm nm 

n 

Здесь δ ( α − αnm 

) - функция Дирака. Величины 

разом: 

α nm 

( ) 

m n1 

0 

можно выбрать следующим об- 

J kα R = , (77) 

( ) 

J kα R = , (78) 

d 

dx 

m n2 

0 

1 

( ) 

J kα R = 0 , (79) 

m 

n3 

d 

dx 

1 

( ) 

J kα R = 0. (80) 

m 

n4 

С физической точки зрения такой выбор 

базиса означает, что оптическая система 

помещена в цилиндр радиуса R , обладающий 

абсолютной проводимостью. Наличие 

абсолютно проводящего цилиндра вносит 

искажения в первоначальную постановку задачи 

дифракции. Однако в каждом конкретном 

случае можно выбрать значение R таким 

образом, чтобы это влияние было незначительным. 

Например, в задаче фокусировки 

гауссова пучка в кольцо необходимо выбрать 

R таким образом, чтобы он был значительно 

больше поперечного размера гауссова пучка. 

В этом случае влияние цилиндра на поле в 

фокальной плоскости будет минимально. 

При дальнейшем распространении пучка будут 

наблюдаться многократные отражения 

78


от цилиндрической поверхности, что приведет 

к значительному отличию поля. Однако, 

если увеличить R , можно добиться, чтобы 

при данном расстоянии от ДОЭ искажение 

поля, вызванное наличием проводящего цилиндра, 

были минимальны. 

При таком выборе счетного базиса все 

интегралы заменяются интегральными суммами, 

а интегро-дифференциальные уравнения 

превращаются в систему обыкновенных 

дифференциальных уравнений. 

Система интегро-дифференциальных 

уравнений распадается на две части: 

ms 

i ∂v 

k x = , 

ms 3 nk 3 

= 

3 ∑ ∑ Ank 

( x ) v ( x ) , (81) 

∂ 

n 

для s = 1, 2 , 

k 

3 4 

i 

∂v 

ms 

ms 3 nk 3 

= 

3 ∑ ∑ Bnk 

( x ) v ( x ) , (82) 

∂ 

k x n k = 1, 

2 

для s = 3, 4 . 

Полученную систему необходимо свести 

к системе дифференциальных уравнений 

второго порядка. 

4. Дифракция на ДОЭ с радиальносимметричным 

распределением 

диэлектрической проницаемости 

Рассмотрим решение задачи дифракции 

на дифракционном оптическом элементе с 

радиально-симметричным распределением 

диэлектрической проницаемости. Пусть 

входной пучок падает из области 1 (рис. 1) 

на дифракционный оптический элемент. 

Распределение комплексной амплитуды 

входного пучка имеет вид 

ns 

⎛ 

3 ⎞ 

0 

= ∑ ∑ ns 

exp 

⎜ ε 1 

− αns 

⎟ , (83) 

⎝ 

⎠ 

n s= 1, 

2 

W I F ik x 

Рис. 1. Оптическая схема фокусировки с помощью 

радиально-симметричного ДОЭ 

где ε 1 

- диэлектрическая проницаемость среды 

1, I определяют вклад различных кони- 

ns 

ческих волн во входном поле, F - вектор-столбец 

из четырех элементов. Столбцы 

с различным вторым индексом запишем в 

виде матрицы 

_______________________________________________________________________________ 

ns 

F 

β 

∂ 

im 

⎛ 

⎞ 

⎜ 

⎛ 1 ⎞ ⎛ 1 ⎞ ⎛ 1 ⎞ ⎛ 1 ⎞ ⎟ 

⎜ γ J 

1 m ⎜kβx ⎟ J 

1 m ⎜kβx ⎟ 

−γ J 

1 m ⎜kβx ⎟ 

J 

1 m 

⎜kβx 

⎟ ⎟ 

⎜ 

⎝ ⎠ 

∂x x 

⎝ ⎠ 

∂x ⎝ ⎠ 

x 

⎝ ⎠ ⎟ 

⎜ 

⎟ 

⎜ 

⎟ 

⎜ im ⎛ 1 ⎞ ∂ ⎛ 1 ⎞ im ⎛ 1 ⎞ ∂ ⎛ 1 ⎞ ⎟ 

⎜ γ J 

1 m ⎜kβx ⎟ 

− J 

1 m ⎜kβx ⎟ 

−γ J 

1 m ⎜kβx ⎟ 

− J 

1 m 

⎜kβx 

⎟ ⎟ 

⎜ ⎝ ⎠ ∂ ⎝ ⎠ ⎝ ⎠ ∂ ⎝ ⎠ ⎟ −1 

⎜ 

⎟ W 

⎜ 

⎟ 

⎜ im ⎛ 1 ⎞ ⎛ 1 ⎞ im 1 1 

−ε1 J 

1 m 

⎜kβx ⎟ 

γ J 

1 m 

⎜kβx 

⎟ 

−ε1 

x ⎝ ⎠ ∂x 

⎝ ⎠ 1 J 

⎛ 

m k x 

⎞ ∂ 

1 J 

⎛ 

m k x 

⎞ ⎟ 

⎜ 

⎜ 

β ⎟ 

−γ ⎜ 

β 

⎟ ⎟ 

⎜ 

x ⎝ ⎠ ∂x 

⎝ ⎠ ⎟ 

⎜ 

⎟ 

⎜ 

⎟ 

⎜ ∂ ⎛ 1 ⎞ im ⎛ 1 ⎞ ∂ ⎛ 1 ⎞ im ⎛ 1 ⎞ ⎟ 

ε1 J 

1 m ⎜kβx ⎟ 

γ J 

1 m ⎜kβx ⎟ 

ε1 

J 

1 m ⎜kβx ⎟ 

−γ J 

1 m 

⎜kβx 

⎟ 

⎜ 

⎝ ⎠ ⎝ ⎠ ⎝ ⎠ ⎝ ⎠ ⎟ 

⎝ 

⎠ 

ik 

= 

x x x x 

∆ ∂ 

∂x x ∂x x 

∂ 

im 

. (84) 

79


Поле в области 1 представляется в виде 

суммы падающей и отраженной волн и имеет 

вид 

ns 

⎛ 

1 

exp 

ns ⎜ 

⎝ 

1 

n s= 1, 

2 

n 

∑ ∑ 

s= 3, 

4 

ns 

3 ⎞ 

⎟ 

⎠ 

W = I F ik ε − α x + 

∑ ∑ 

ns 

⎛ 

3 ⎞ 

R Fns 

exp ⎜ ik 

1 ns 

x 

⎟, 

⎝ 

⎠ 

+ − ε − α 

(85) 

ns 

где R определяют вклад различных конических 

волн в сумму, описывающую отраженное 

поле. 

Поле в области 3 за оптическим элементом 

представляется в виде 

∑ ∑ 

ns 

W3 

T Fns 

n s= 1, 

2 

= × 

3 

( ik 

1 ns ( x d )) 

× exp ε − α − , 

(86) 

где d - толщина дифракционного оптического 

элемента, T определяют вклад раз- 

ns 

личных конических волн в сумму, описывающую 

прошедшее поле. 

Рассмотрим распространение света 

внутри ДОЭ с радиально-симметричным, не 

3 

зависящим от x распределением диэлектрической 

проницаемости. Решение описывается 

с помощью системы дифференциальных 

уравнений первого порядка. Полученную 

систему уравнений можно свести к системе 

уравнений второго порядка. При этом сокращается 

размерность системы уравнений 

ml 

( x ) 

3 

2 

( x ) 

2 3 

1 ∂ v 

− = M 

2 

k ∂ 

где l = 1, 2 , 

M 

ml ml pq 

ns pq ns 

q= 3, 

4 

ml 

ns 

v 

ns 

, (87) 

= ∑ A B . (88) 

Решение системы дифференциальных 

уравнений второго порядка имеет вид 

( ) ∑ mn ( 

⎜ 

⎝ 

mn 

−mn 

( mn ( 

3 

))) 

v x = E a exp ikµ x + 

s1l 3 s1l + mn ⎛ 3 ⎞ 

mn ⎟ 

⎠ 

+ a exp − ikµ x − d 

sq pl 2 nq 

pl mn mn mn 

, 

(89) 

M E = µ E . (90) 

v 

pl 

i 

= 

k 

l = 3, 4 . 

Остальные 

pl 

v можно найти по формуле 

∂v 

ms 

pl 

∑ Oms 

(91) 

3 

m, s= 

1,2 ∂x 

pl 

Oms 

удовлетво- 

Многомерная матрица 

ряет соотношению 

∑ 

pl ms pl 

Oms Ank = δnk 

(92) 

m, s= 

1,2 

Систему дифференциальных уравнений 

первого порядка можно также свести к системе 

уравнений второго порядка следующего 

вида: 

ml 

( x ) 

3 

2 

( x ) 

2 3 

1 ∂ v 

− = N 

2 

k ∂ 

где l = 3, 4 , 

ml ml pq 

ns pq ns 

q= 3, 

4 

ml 

ab 

v 

ns 

, (93) 

N = ∑ B A . (94) 

Решение системы дифференциальных 

уравнений второго порядка имеет вид 

( ) ∑ mn ( 

⎜ 

⎝ 

mn 

−mn 

( mn ( 

3 

))) 

v x = P b exp ikµ x + 

s1l 3 s1l + mn ⎛ 3 ⎞ 

mn ⎟ 

⎠ 

+ b exp − ikµ x − d 

sq pl 2 nq 

pl mn mn mn 

, 

(95) 

N P = µ P . (96) 

Остальные v 

найти по формуле 

v 

pl 

i 

= 

k 

где l = 1, 2 . 

∂v 

pl 

в этом случае можно 

ms 

pl 

∑ Kms 

, (97) 

3 

m, s= 

3,4 ∂x 

pl 

Oms 

удовле- 

Многомерная матрица 

творяет соотношению 

∑ 

pl ms pl 

Kms Ank = δnk 

. (98) 

m, s= 

3,4 

Поле внутри оптического элемента 

представляется в виде 

ns 

W2 

v Vns 

n s= 1, 2, 3, 

4 

= ∑ ∑ , (99) 

80

где 

Vns 

- вектор-столбец из четырех эле- 

mn 

ментов (70). Набор коэффициентов a + , 

mn 

b + mn mn 

, R , T находится из условия непрерывности 

полей на границах оптического 

элемента. Далее, используя полученные коэффициенты, 

получим выражение для компонент 

электромагнитного поля на выходе 

оптического элемента. Для того чтобы получить 

поле за оптическим элементом, необходимо 

использовать теорию Кирхгофа-Котлера. 

5. Заключение 

В работе разработан метод решения задач 

дифракции полей с определенным значением 

углового момента. Предложенный 

метод является аналогом метода RCWA, используемого 

для расчета дифракции полей 

на периодических структурах. Получен вид 

системы обыкновенных дифференциальных 

уравнений для нахождения решения системы 

уравнений Максвелла в V -представлении в 

пространстве функций с определенным угловым 

моментом 


Приложение A 

Используя правила Крамера, решаем 

систему линейных уравнений относительно 

E1 

и H 

2 

. Определители Крамера имеют вид 

2 2 2 

∆ = k ε − k γ , (100) 

∂F 

ik ∂G 

∆ = ikγ + 

∂x x ∂x 

3 3 

1 1 1 2 

, (101) 

ikγ 

∂G3 ∂F3 

∆ 

2 

= + ikε 

, (102) 

1 2 1 

x ∂x ∂x 

ikγ 

∂F 

∂G 

∆ = − ik 

x ∂x ∂x 

3 3 

3 1 2 1 

∂G 

ikε 

∂F 

∆ = ikγ − 

∂x x ∂x 

3 3 

4 1 1 2 

, (103) 

. (104) 

Приложение B 

Для того чтобы вычислить матричные 

символы необходимо найти действие следующих 

операторов на вектора 

_______________________________________________________________________________ 

A V 

i ∂ 1 im ⎛ i ∂ 1 ⎞ ∂ 

⎛ ⎛ ⎞ ⎛ ⎞ ⎞ 

⎜ 

⎜ ⎛ 1 ⎞ ⎟ ⎜ ⎛ 1 ⎞ ⎟ ⎟ 

⎜ − D 

1 2 ⎜−ε0 J 

1 m ⎜kα x ⎟ ⎟ + D 

1 1 

ik ⎜ 0 

J 

1 m ⎜k x ⎟ ⎟ 

⎝ ⎠ ⎜ + ⎟ ε α ⎟ 

⎜ 

⎝ ⎠ 

ik k ∂x ε ⎜ x ⎟ k x ⎜ x 

⎟ 

⎝ ⎠ ∂ ε ⎝ ∂ 

⎟ 

⎜ 

⎝ 

⎠ 

⎠ ⎟ 

α3 

= ⎜ 

⎟ 

⎛ ⎞ ⎛ ⎞⎛ ⎞ 

∆( α) 

⎜⎛ i 1 ∂ ⎞⎜ im ⎛ 1 ⎞ ⎟ ⎜ i 1 ∂ ⎟⎜ ∂ 

⎟ 

⎜ 

⎛ 1 ⎞ ⎟ 

− D 

1 2 2 

− ik ⎜−ε0 J 

1 m ⎜kα x ⎟ ⎟+ ⎜ D 

1 2 1 ⎟⎜ε0 

J 

1 m ⎜kαx 

⎟ 

⎜ 

⎟ 

⎜ 

⎟ 

⎝ ⎠ ⎝ ⎠ 

εk x ∂x ⎟ 

⎟ 

⎜ 

⎜ x ⎟ ⎜ εk x ∂x ⎟⎜ ∂x 

⎟ ⎟ 

⎝⎝ 

⎠⎝ ⎠ ⎝ ⎠⎝ ⎠ ⎠ 

A V 

B V 

B V 

= 

ik 

( ) 

⎛ i ∂ 1 ∂ ⎛ i ∂ 1 ⎞ imγ 

⎜ − γ α + + α 

⎜ 

k ∂x ε ∂x ⎝ k ∂x ε ⎠ x 

⎜ i 1 ∂ ∂ i 1 ∂ imγ 

⎛ ⎞ ⎛ ⎞ 

⎜ ⎛ 1 ⎞ ⎟ ⎜ ⎛ 1 ⎞ ⎟ 

D 

1 2 ⎜ J 

1 m ⎜k x ⎟ ⎟ D 

1 1 

ik ⎜ J 

1 m ⎜k x ⎟ ⎟ 

⎝ ⎠ ⎜ 

⎟ 

⎜ ⎟ ⎜ ⎝ ⎠ ⎟ 

⎝ ⎠ ⎝ ⎠ 

α4 

⎛ ⎞ ⎛ ⎛ ⎞ ⎞ 

∆ α ⎛ ⎞⎜ ⎛ 1 ⎞ ⎟ ⎜ 

⎜ ⎛ 1 ⎞ ⎟ ⎟ 

− D 

1 2 2 

− ik ⎜ γ J 

1 m ⎜kα x ⎟ ⎟+ ⎜ D 

1 2 1 ⎜ J 

1 m ⎜kαx 

⎟ ⎟ ⎟ 

⎜⎜ 

⎝ ⎠ ⎝ ⎠ 

εk x ∂x ⎟⎜ 

∂x ⎟ 

k x x ⎜ x 

⎟ 

⎝ ⎠ 

⎜ ε ∂ ⎝ 

⎠ ⎟ 

⎝ ⎠ 

⎝⎝ ⎠ 

i ∂ ∂ ⎛ −i ∂ ⎞ im 

⎛ ⎛ ⎞ ⎛ ⎞ ⎛ ⎞ ⎞ 

⎜ ⎜ ⎟ ⎜ ⎛ 1 ⎞ ⎟ ⎜ ⎛ 1 ⎞ ⎟ ⎟ 

⎜ ⎜ D 

1 2 ⎟ ⎜ γ J 

1 m ⎜kα x ⎟ ⎟ + D 

1 1 

ik ⎜ J 

1 m ⎜k x ⎟ ⎟ 

⎝ ⎠ ⎜ − ε⎟ 

γ α ⎟ 

⎜ ⎜ 

ik k x ⎟ ⎜ x ⎟ k x ⎜ ⎝ ⎠ 

x 

⎟ 

⎝ ∂ ⎠ ⎝ ∂ ⎠ ∂ 

⎟ 

⎜ 

⎝ 

⎠ ⎝ ⎠ ⎟ 

α1 

= ⎜ 

⎟ 

⎛ ⎞ ⎛ ⎞⎛ ⎞ 

∆( α) 

⎜⎛ i 1 ∂ ⎞⎜ ∂ ⎛ 1 ⎞ ⎟ ⎜ −i 1 ∂ ⎟⎜ im 

⎟ 

⎜ 

⎛ 1 ⎞ ⎟ 

D 

1 2 2 

+ ikε ⎜ γ J 

1 m ⎜kα x ⎟ ⎟+ ⎜ D 

1 2 1 ⎟⎜ γ J 

1 m ⎜kαx 

⎟ 

⎜ 

⎟ 

⎜ 

⎟ 

⎝ ⎠ ⎝ ⎠ 

k x ∂x ⎟ 

⎟ 

⎜ 

⎜ ∂x ⎟ ⎜ k x ∂x ⎟⎜ x 

⎟ ⎟ 

⎝⎝ 

⎠⎝ ⎠ ⎝ ⎠⎝ ⎠ ⎠ 

i ∂ im ⎛ −i 

∂ ⎞ ∂ 

⎛ ⎛ ⎞ ⎛ ⎞ ⎛ ⎞ ⎞ 

⎜ ⎜ ⎟ ⎜ ⎛ 1 ⎞ ⎟ ⎜ ⎛ 1 ⎞ ⎟ ⎟ 

⎜ ⎜ D 

1 2 ⎟ ⎜ J 

1 m ⎜kα x ⎟ ⎟ + D 

1 1 

ik ⎜ J 

1 m ⎜k x ⎟ ⎟ 

⎝ ⎠ ⎜ − ε⎟ 

− α ⎟ 

⎜ ⎜ 

ik k x ⎟ ⎜ x ⎟ k x ⎜ ⎝ ⎠ 

x 

⎟ 

⎝ ∂ ⎠ ⎝ ⎠ ∂ ⎝ ∂ 

⎟ 

⎜ 

⎝ 

⎠ 

⎠ ⎟ 

α2 

= ⎜ 

⎟ 

⎛ ⎞ ⎛ ⎞⎛ ⎞ 

∆ ( α) 

⎜⎛ i 1 ∂ ⎞⎜ im ⎛ 1 ⎞ ⎟ ⎜ −i 

1 ∂ ⎟⎜ ∂ 

⎟ 

⎜ 

⎛ 1 ⎞ ⎟ 

D 

1 2 2 

+ ikε ⎜ J 

1 m ⎜kα x ⎟ ⎟+ ⎜ D 

1 2 1 ⎟⎜− J 

1 m ⎜kαx 

⎟ 

⎜ 

⎟ 

⎜ 

⎟ 

⎝ ⎠ ⎝ ⎠ 

k x ∂x ⎟ 

⎟ 

⎜ x ⎟ ⎜ k x ∂x ⎟⎜ alx 

⎟ 

⎝⎝ 

⎠⎝ ⎠ ⎝ ⎠⎝ ⎠ 

, (105) 

, (106) 

, (107) 

⎜ ⎟ ⎠ 

. (108) 

81


Напомним выражение для производных цилиндрических 

функций: 

∂ ⎛ 1 ⎞ 

J 

1 m ⎜kα x ⎟ = 

⎝ ⎠ 

∂x 

⎛ 

⎜ m 

= kα ⎜ J kαx − J kαx 

⎜ kαx 

⎝ 

⎞ 

⎛ 1 ⎞ ⎛ 1 ⎞ ⎟ 

. 

1 m ⎜ ⎟ m ⎜ ⎟ ⎟ 

⎝ ⎠ ⎝ ⎠ ⎟ 

⎠ 

(109) 

Действие операторов на состояния с 

определенным значением углового момента 

определяется следующим образом: 

⎛ 

⎞ 

∂ ⎜ 1 ⎟ ∂ ⎛ 1 ⎞ 

1 

⎜ D1H 

2 ⎟ = 

1 ⎜ ⎟ ( D1H 

2 ) + 

∂x 

⎜ 

⎟ 

⎝ ε ⎠ ∂x 

⎝ ε ⎠ 

(110) 

1 ∂ 

+ 

1 

( D1H 

2 ), 

ε ∂ x 

⎛ ⎞ 

∂ ⎜ 1 ⎟ ∂ ⎛ 1 ⎞ 1 ∂ 

1 

⎜ D2 ⎟ = D 

1 ⎜ ⎟ 2 

+ D 

1 2 

= 

∂x ⎜ ⎟ 

⎝ ε ⎠ ∂x ⎝ ε ⎠ ε ∂x 

⎛ 1 ∂ 1 ⎞ 1 ∂ 1 

= im⎜ 

x 

1 x 

1 ⎟ + = x 

1 x 

1 

⎝ ∂ ε ⎠ ε ∂ 

⎛ 

⎛ 

⎜ 1 ∂ ⎛ 1 ⎞ 1 ⎜ 1 ∂ 1 

= + − 

im x 

1 x 

1 x 

1 x 

1 

1 

2 

⎜ ⎜ ⎟ 

∂ ⎝ ε ⎠ ε ⎜ ∂ ⎛ ⎞ 

⎜ x ⎟ 

⎝ ⎠ 

⎝ 

⎛ 1 ⎞ 

∂ ∂ ⎛ 1 ∂ ⎜ x E2 

⎟ ⎞ 

D 

1 1 = 

1 ⎝ ⎠ 

1 1 

= 

∂x ∂x ⎜ x ∂x 

⎟ 

⎝ ⎠ 

1 ∂ ⎛ 1 ∂ ⎞ 1 

= x 

, 

1 1 ⎜ 1 ⎟ − 

x ∂x ⎝ ∂x ⎠ 

⎛ 

⎜ x 

⎝ 

⎝ 

1 ⎞ 

2 

⎟ 

⎠ 

1 

∂ x 

= = 

x x x 

⎛ 1 ⎞ 

∂ im ⎜ ⎟ 

⎝ ⎠ 

D 

1 2 1 

1 

2 

⎛ ⎞ 

1 

∂ 

⎜ x ∂ 

⎟ 

⎝ ⎠ 

im ⎛ ∂ ⎞ 

= 1 + x ⎟, 

⎛ 

⎜ x 

⎠ 

⎝ 

1 

2 ⎜ 

1 ⎞ 

1 

x 

⎟ ⎝ ∂ 

⎠ 

∂ ∂ 1 −im im ∂ 

D = im = + 

∂x ∂x x ∂x 

1 2 1 1 2 

⎛ 1 ⎞ ⎛ 1 ⎞ 1 

⎜ x ⎟ ⎜ x ⎟ 

⎝ ⎠ ⎝ ⎠ 

1 ∂ −m 

D = 

1 2 2 

1 

2 

x ∂x ⎛ 

⎜ x 

⎞ 

⎟ 

⎝ ⎠ 

2 

⎞⎞ 

⎟⎟, 

⎟⎟ 

⎠⎠ 

(111) 

(112) 

(113) 

, (114) 

. (115) 


Работа выполнена при поддержке фонда 

«Фундаментальные исследования и высшее 

образование» (RUXO-014-SA-06) и грантов 

РФФИ № 07-07-97601-р_офи, 07-01-96602- 

р_Поволжье_а, 07-07-91580-АСП_а, 07-07- 

00210, 08-07-99005-р_офи и Фонда содействия 

отечественной науке. 


1. Belanger, P.A. Ring pattern of a 

lens-axicon doublet illuminated by a Gaussian 

beam [текст] / P.A. Belanger, M. Rioux // Applied 

Optics. – 1978. – Vol. 17, № 7. – P.1080- 

1086. 

2. Belanger, P.A. Diffraction ring pattern 

at the focal plane of a spherical lens-axicon 

doublet [текст] / P.A. Belanger, M. Rioux // 

Journ. Canadien de Physique. – 1976. – Vol. 54. 

– P.1774-1780. 

3. Farn, M.W. Effect of VLSI fabrication 

errors on kinoform efficiency [текст] / 

M.W. Farn, J.W. Goodman // Proceedings SPIE. 

– 1990. – Vol. 1211. – P.1256-136. 

4. Голуб, М.А. Вычислительный эксперимент 

с элементами плоской оптики 

[текст] / М.А. Голуб [и др.] // Автометрия. – 

1988. – № 1. – С. 70-82. 

5. Голуб, М.А. Дифракционный расчет 

оптического элемента, фокусирующего в 

кольцо [текст] / М.А. Голуб [и др.] // Автометрия 

– 1987. – № 6. – С. 8-15. 

6. Казанский, Н.Л. Исследование дифракционных 

характеристик фокусатора в 

кольцо методом вычислительного эксперимента 

[текст] / Казанский Н.Л. // Компьютерная 

оптика. – М.: МЦНТИ, 1992. – Вып.10- 

11. – С.128-144. 

7. Doskolovich, L.L. Focusators into a 

ring [текст] / L.L. Doskolovich [and others] // 

Optical and Quantum Electronics. – 1993. – 

Vol. 25. – P.801-814. 

8. Fedotowsky, A. Optimal filter design 

for annular imaging [текст] / A. Fedotowsky, 

K. Lehovec // Applied Optics. – 1974. – Vol. 13, 

№ 12. – P.2919-2923. 

9. Коронкевич, В.П. Киноформные 

оптические элементы: методы расчета, технология 

изготовления, практическое применение 

[текст] / В.П. Коронкевич [и др.] // Автометрия. 

– 1985. – № 1. – С.4-25. 

82


10. Коронкевич, В.П. Киноформные 

оптические элементы с кольцевым импульсным 

откликом [текст] / В.П. Коронкевич [и 

др.] // Препринт № 265 ИАиЭ СО АН СССР. 

– Новосибирск, 1985. – 23 с. 


at the focal plane of a spherical lens - axicon 

doublet [текст] / P.A.Belanger, M. Rioux // 

Journ. Canadien de Physique. – 1976. – Vol. 54. 

– P.1774-1780. 

12. Голуб, М.А. Фокусировка когерентного 

излучения в заданную область пространства 

с помощью синтезированных на 

ЭВМ голограмм [текст] / М.А. Голуб [и др.] 

// Письма в ЖТФ. – 1981. – Т. 7, вып. 10. – 

С.618-623. 

13. Казанский, Н.Л. Анализ характеристик 

фокусаторов лазерного излучения 

методом вычислительного эксперимента 

[текст] / Н.Л. Казанский // Диссертация на соискание 

ученой степени кандидата технических 

наук. – Куйбышев: КуАИ, 1988. – 183 с. 

14. Казанский, Н.Л. Процедура корректировки 

фазовой функции фокусатора по 

результатам вычислительного эксперимента 

[текст] / Н.Л. Казанский // Компьютерная оптика. 

– М.: МЦНТИ, 1987. – Вып.1. – С.90-96. 

15. Пальчикова, И.Г. Киноформные 

оптические элементы с увеличенной глубиной 

фокуса [текст] / И.Г. Пальчикова // Компьютерная 

оптика. – М.: МЦНТИ, 1989. – 

Вып. 6. – С. 9-19. 

16. Васин, А.Г. Расчет и исследование 

когерентного волнового поля в фокальной 

области радиально-симметричных оптических 

элементов [текст] / А.Г. Васин [и др.] // 

Препринт № 304 ФИАН СССР. – М.: ФИАН, 

1983. – 38 с. 

17. Сойфер, В.А. К расчету фокусатора 

в соосный отрезок [текст] / В.А. Сойфер // 

Оптическая запись и обработка информации. 

– Куйбышев: КуАИ, 1988. – С. 45-52. 

18. Doskolovich, L.L. Analysis of quasiperiodic 

and geometric optical solutions of the 

problem of focusing into an axial segment 

[текст] / L.L. Doskolovich [and other] // Optik. 

– 1995. – Vol. 101, № 2. – P.37-41. 

19. Kazanskiy, N.L. Correction of focuser 

phase function by computer-experimental 

method [текст] / N.L. Kazanskiy // Computer 

Optics. – 1989. – Vol. 1, № 1. – P.69-73. 

20. Khonina, S.N. Calculation of the focusators 

into a longitudinal line-segment and 

study of a focal area [текст] / S.N. Khonina, 

V.V. Kotlyar, V.A. Soifer // Journal of Modern 

Optics. – 1993. – Vol. 40. – P. 761-769. 

21. Michaltsova, I.A. Kinoform axicon 

[текст] / I.A. Michaltsova, V.I. Nalivaiko, I.S.Soldatenkov 

// Optik. – 1984. – Vol. 67, № 3. – 

P. 267-270. 

22. Kolodziejczyk, A. The light sword 

optical element - a new diffraction structure 

with extended depth of focus [текст] / A. Kolodziejczyk 

[and other] // Journal of Modern 

Optics. – 1990. – Vol.37, № 8. – P.1283-1286. 

23. Brenden, B.B. Optical playback apparatus 

focusing system for producing a prescribed 

energy distribution along an axial focal 

zone [текст] / B.B. Brenden, J.T. Russel // Applied 

Optics. – 1984. – Vol. 23, № 19. – 

P. 3250-3253. 

24. Tremblay, R. Laser plasmasoptically 

pumped by focusing with axicon a CO 2 

-TEA laser 

beam in a high-pressure gas [текст] / 

R. Tremblay [and other] // Optics Communications. 

– 1979. – Vol. 28, № 2. – P. 193-196. 

25. Воронцов, М.А. К расчету фокусаторов 

лазерного излучения в дифракционном 

приближении [текст] / М.А. Воронцов, 

А.Н. Матвеев, В.П. Сивоконь // Компьютерная 

оптика. – М.: МЦНТИ, 1987. – Вып.1. – 

С.74-79. 

26. Rioux, M. Linear, annular and radial 

focusing with axicons and applications to laser 

machining [текст] / M. Rioux, R. Tremblay, 

P.A. Belanger // Applied Optics. – 1978. – 

Vol.17, № 10. – P.1532-1536. 

27. Moharam, M.G. Stable implementation 

of the rigorous coupled-wave analysis for 

surface-relief gratings: enhanced transmittance 

matrix approach [текст] / M.G. Moharam [and 

other] // J. Opt. Soc. Am. A. – 1995. – Vol. 

12(5). – P. 1077-1086. 

28. Moharam, M.G. Formulation for stable 

and efficient implementation of the rigorous 

coupled-wave analysis of binary gratings 

[текст] / M.G. Moharam [and other] // J. Opt. 

Soc. Am. A. – 1995. – Vol. 12(5). – P. 1068- 

1076. 


analysis of discontinuous periodic structures 

[текст] / L. Li // J. Opt. Soc. Am. A. – 1996. – 

Vol. 13(9) – P. 1870-1876. 

83


30. Казанский, Н.Л. Компактная запись 

решений системы уравнений Максвелла 

в пространственно-частотном представлении 

[текст] / Н.Л. Казанский, М.Л. Каляев, 

С.И. Харитонов // Антенны. – 2007. – № 10. – 

C. 13-21. 

31. Дирак, П.А.М. Принципы квантовой 

механики [текст] / П.А.М. Дирак – М.: 

Наука, 1979. 

32. Khonina, S.N. An analysis of the angular 

momentum of a light field in terms of angular 

harmonics [текст] / S.N. Khonina [and 

other] // Journal of Modern optics. – 2001. – 

48(10). – P. 1543-1557. 

33. Котляр, В.В. Измерение орбитального 

углового момента светового поля с помощью 

дифракционного оптического элемента 

[текст] / В.В. Котляр [и др.] // Автометрия. 

– 2002. – 8(3). – C. 33-44. 

34. Khonina, S.N. Astigmatic Bessel laser 

beams [текст] / S.N.Khonina [and other] // 

Journal of Modern optics. – 2004. – 51(5). – 

P. 677-686. 

35. Khonina, S.N. Rotation of microparticles 

with Bessel beams generated by diffractive 

elements [текст] / S.N.Khonina [and other] 

// Journal of Modern optics. – 2004. – 51(14). – 

P. 2167-2184. 

36. Skidanov, R.V. Micromanipulation 

in Higher-Order Bessel Beams [текст] / R.V. 

Skidanov [and other] // Optical Memory & Neural 

Networks (Information Optics), Allerton 

Press. – 2007. – 16(2). – P. 91-98. 

References 

1. Belanger, P.A. Ring pattern of a 

lens-axicon doublet illuminated by a Gaussian 

beam / P.A. Belanger, M. Rioux // Applied Optics. 

– 1978. – Vol. 17, № 7. – P.1080-1086. 


at the focal plane of a spherical lens-axicon 

doublet / P.A. Belanger, M. Rioux // Journ. Canadien 

de Physique. – 1976. – Vol. 54. – P.1774- 

1780. 

3. Farn, M.W. Effect of VLSI fabrication 

errors on kinoform efficiency / M.W. Farn, 

J.W. Goodman // Proceedings SPIE. – 1990. – 

Vol. 1211. – P.1256-136. 

4. Golub, M.A. Computing experiment 

with elements of flat optics / M.A. Golub [and 

other] // Avtometria. – 1988. – N 1. – P. 70-82. 

– [in Russian]. 

5. Golub, M.A. Diffractial calculation of 

the optical element focusing in a ring / 

M.A. Golub [and other] // Avtometria. – 1987. – 

N 6. – P. 8-15. – [in Russian]. 

6. Kazanskiy, N.L. Research diffractial 

characteristics of focusator in a ring using a 

method of computing experiment / N.L. Kazanskiy 

// Computer Optics. – 1992. – N. 10-11. – 

P.128-144. – [in Russian]. 

7. Doskolovich, L.L. Focusators into a 

ring / L.L. Doskolovich [and others] // Optical 

and Quantum Electronics. – 1993. – Vol. 25. – 

P.801-814. 

8. Fedotowsky, A. Optimal filter design 

for annular imaging / A. Fedotowsky, 

K. Lehovec // Applied Optics. – 1974. – Vol. 13, 

№ 12. – P.2919-2923. 

9. Koronkevich, V.P. Kinoform optical 

elements: calculation methods, manufacturing 

techniques, practical application / V.P. 

Koronkevich [and other] // Avtometria. – 1985. 

– N 1. – P.4-25. – [in Russian]. 

10. Koronkevich, V.P. Kinoform optical 

elements with the ring pulse response / V.P. 

Koronkevich [and other] // Preprint 265 ИАиЭ 

СО Academy of Science of USSR. – Novosibirsk, 

1985. – 23 p. – [in Russian]. 


at the focal plane of a spherical lens - axicon 

doublet / P.A.Belanger, M. Rioux // Journ. 

Canadien de Physique. – 1976. – Vol. 54. – 

P.1774-1780. 

12. Golub, M.A. Focusing of coherent 

radiation in the set area of space by means of 

the hologrammes synthesised on the computer / 

M.A. Golub [and other] // Letters for GTF. – 

1981. – V. 7, N 10. – P.618-623. – [in Russian]. 

13. Kazanskiy, N.L. The analysis of 

characteristics of laser radiation focusators by a 

method of computing experiment / N.L. Kazanskiy 

// The dissertation on competition of a scientific 

degree of a Cand. Tech. Sci. – Kujbyshev: 

KuAI, 1988. – 183 p. – [in Russian]. 

14. Kazanskiy, N.L. Procedure of updating 

of phase function of a focusator by results of 

computing experiment / N.L. Kazanskiy // 

84


Computer Optics. – 1987. – N 1. – P. 90-96. – 

[in Russian]. 

15. Paljchikova, I.G. Kinoform optical 

elements with the increased depth of focus / I.G. 

Paljchikova // Computer Optics. – 1989. – N 6. – 

P. 9-19. – [in Russian]. 

16. Vasin, A.G. Calculation and research 

of a coherent wave field in focal area of radially-symmetric 

optical elements / A.G. Vasin 

[and other] // Preprint 304 FIAN USSR. – 

Мoscow, FIAN, 1983. – 38 p. – [in Russian]. 

17. Soifer, V.A. To focusator calculation 

in a coaxial piece / V.A. Soifer // Optical recording 

and information processing. – Kuibyshev, 

KuAI, 1988. – P. 45-52. – [in Russian]. 

18. Doskolovich, L.L. Analysis of quasiperiodic 

and geometric optical solutions of the 

problem of focusing into an axial segment / L.L. 

Doskolovich [and other] // Optik. – 1995. – 

Vol. 101, № 2. – P.37-41. 

19. Kazanskiy, N.L. Correction of focuser 

phase function by computer-experimental 

method / N.L. Kazanskiy // Computer Optics. – 

1989. – Vol. 1, № 1. – P.69-73. 

20. Khonina, S.N. Calculation of the focusators 

into a longitudinal line-segment and 

study of a focal area / S.N. Khonina, 

V.V. Kotlyar, V.A. Soifer // Journal of Modern 

Optics. – 1993. – Vol. 40. – P. 761-769. 

21. Michaltsova, I.A. Kinoform axicon / 

I.A. Michaltsova, V.I. Nalivaiko, I.S.Soldatenkov 

// Optik. – 1984. – Vol. 67, № 3. – P. 267-270. 

22. Kolodziejczyk, A. The light sword 

optical element - a new diffraction structure 

with extended depth of focus / A. Kolodziejczyk 

[and other] // Journal of Modern Optics. – 1990. 

– Vol.37, № 8. – P.1283-1286. 

23. Brenden, B.B. Optical playback apparatus 

focusing system for producing a prescribed 

energy distribution along an axial focal 

zone / B.B. Brenden, J.T. Russel // Applied Optics. 

– 1984. – Vol. 23, № 19. – P. 3250-3253. 

24. Tremblay, R. Laser plasmasoptically 

pumped by focusing with axicon a CO 2 

-TEA laser 

beam in a high-pressure gas / R. Tremblay 

[and other] // Optics Communications. – 1979. – 

Vol. 28, № 2. – P. 193-196. 

25. Vorontsov, M.A. To calculation of focusators 

of laser radiation in diffracting approach 

/ M.A. Vorontsov, A.N. Matveev, V.P. Sivokonj 

// Computer Optics. – 1987. – N 1. – P.74- 


26. Rioux, M. Linear, annular and radial 

focusing with axicons and applications to laser 

machining / M. Rioux, R. Tremblay, P.A. Belanger 

// Applied Optics. – 1978. – Vol.17, № 

10. – P.1532-1536. 

27. Moharam, M.G. Stable implementation 

of the rigorous coupled-wave analysis for 

surface-relief gratings: enhanced transmittance 

matrix approach / M.G. Moharam [and other] // 

J. Opt. Soc. Am. A. – 1995. – Vol. 12(5). – P. 

1077-1086. 

28. Moharam, M.G. Formulation for 

stable and efficient implementation of the rigorous 

coupled-wave analysis of binary gratings / 

M.G. Moharam [and other] // J. Opt. Soc. Am. A. 

– 1995. – Vol. 12(5). – P. 1068-1076. 


analysis of discontinuous periodic structures / L. 

Li // J. Opt. Soc. Am. A. – 1996. – Vol. 13(9) – 

P. 1870-1876. 

30. Kazanskiy, N.L. Compact record of 

decisions of system of Maxwell equations in 

spatially-frequency representation / N.L. Kazanskiy, 

M.L. Kalyaev, S.I. Kharitonov // Aerials. – 

2007. – N 10. – P. 13-21. – [in Russian]. 

31. Dirak, P.A.M. Principles of quantum 

mechanics / P.A.M. Dirak – Moscow, Science, 


32. Khonina, S.N. An analysis of the angular 

momentum of a light field in terms of angular 

harmonics / S.N. Khonina [and other] // 

Journal of Modern optics. – 2001. – 48(10). – 

P. 1543-1557. 

33. Kotlyar, V.V. Measurement of the 

orbital angular moment of a light field with the 

help an diffractive optical element / V.V. Kotlyar 

[and other] // Avtometria. – 2002. – 8(3). – 

P. 33-44. – [in Russian]. 

34. Khonina, S.N. Astigmatic Bessel laser 

beams / S.N.Khonina [and other] // Journal 

of Modern optics. – 2004. – 51(5). – P. 677-686. 



elements / S.N.Khonina [and other] // Journal 

of Modern optics. – 2004. – 51(14). – 

P. 2167-2184. 

36. Skidanov, R.V. Micromanipulation 

in Higher-Order Bessel Beams / R.V. Skidanov 

[and other] // Optical Memory & Neural Networks 

(Information Optics), Allerton Press. – 

2007. – 16(2). – P. 91-98. 

85


DIFFRACTION OF THE SPACE-LIMITED BEAM ON THE DIFFRACTIVE 

OPTICAL ELEMENTS WITH RADIAL SYMMETRY 

© 2008 S.I. Kharitonov, N.L. Kazanskiy, A.Yu. Dmitriev 

Image Processing Systems Institute of the RAS, 

S. P. Korolyov Samara State Aerospace University 

We discuss a method for solving the diffractive problem on the optical elements with the symmetrical distribution 

of the permittivity. The method under discussion is the generalization of the rigorous coupled wave analysis 

(RCWA) for structures with the radial symmetry. As the basis for the decomposition of the solution the conic waves are 

choosen. This conic waves are the solution of the Maxwell’s equations in the medium with the constant permittivity. 

Focusator, diffractial optical element, Maxwell equations, diffraction 


Харитонов Сергей Иванович, Учреждение Российской академии наук Институт систем обработки 

изображений РАН, Самара, Россия, старший научный сотрудник (prognoz@smr.ru). 

Область научных интересов - физическая оптика, компьютерная оптика, теория оптимизации, 

оптика, фазовая проблема 

Казанский Николай Львович, Учреждение Российской академии наук Институт систем 

обработки изображений РАН, Самара, Россия, заместитель директора; Самарский государственный 

аэрокосмический университет имени академика С.П. Королева, профессор, email: kazansky@smr.ru. 

Область научных интересов - лазерные информационные технологии, компьютерная 

оптика, методы оптимизации, распределенные вычислительные системы, математическое 

моделирование, обработка изображений. 

Дмитриев Антон Юрьевич, Учреждение Российской академии наук Институт систем обработки 

изображений РАН, Самара, Россия, стажер-исследователь (tonydm@yandex.ru). Область 

научных интересов - оптика, дифракционная оптика, геометрическая оптика. 

Kharitonov Sergey Ivanovich, Establishment of the Russian Academy of Sciences Image Processing 

Systems Institute of the Russian Academy of Sciences, Samara, Russia, the senior scientific 

employee (prognoz@smr.ru). Area of scientific interests: physical optics, computer optics, the optimisation 

theory, optics, a phase problem. 

Kazanskiy Nikolay Ljvovich, Establishment of the Russian Academy of Sciences Image Processing 

Systems Institute of the Russian Academy of Sciences, Samara, Russia, the Deputy Director; S. 

P. Korolyov Samara State Aerospace University, the professor, email: kazansky@smr.ru. Area of 

scientific interests: laser information technologies, computer optics, the optimisation methods, the 

distributed computing systems, mathematical modelling, processing of images. 

Dmitriev Anton Yurjevich, Establishment of the Russian Academy of Sciences Image Processing 

Systems Institute of the Russian Academy of Sciences, Samara, Russia, the trainee-researcher 

(tonydm@yandex.ru). Area of scientific interests - optics, diffraction optics, geometrical optics. 

86


УДК 535.42 

ОПРЕДЕЛЕНИЕ СВОЙСТВ ОПТИЧЕСКИХ «ВИХРЕЙ» 

ДЛЯ РЕШЕНИЯ ЗАДАЧ МИКРОМАНИПУЛИРОВАНИЯ 

© 2008 А.А. Морозов 


Исследованы световые пучки с орбитальным угловым моментом в задаче оптического захвата и вращения 

микрообъектов. Рассмотрены дифракционные оптические элементы, формирующие систему концентрических 

колец равной яркости для оптического захвата и вращения непрозрачных микрообъектов. 

Вихревые пучки, градиентные силы, гипергеометрические пучки 


Проведен численный расчет ряда 

свойств оптических «вихрей» [1,2]. Полученные 

результаты могут быть использованы 

при выборе пучка для манипулирования [3] 

тем или иным микрообъектом, т.к. в зависимости 

от свойств частицы нужен пучок с определенными 

параметрами. Расчет проводился 

с помощью моделирующей программы, 

которая при задании комплексной амплитуды 

в исходной плоскости реализует 

преобразования Фурье и Френеля, формируя 

тем самым комплексную амплитуду в плоскости 

фокуса линзы и плоскости, отстоящей 

от исходной на определенном расстоянии. 

1. Исследование свойств 

гипергеометрических пучков 

в зависимости от их порядка 

Гипергеометрические пучки [4, 5] – это 

одна из разновидностей оптических «вихрей». 

При распространении в однородном 

пространстве эти пучки сохраняют свою 

структуру с точностью до масштаба. Они 

получаются с помощью дифракционных оптических 

элементов (ДОЭ) с определенным 

распределением фазы и формируют в фокусе 

линзы распределение интенсивности в виде 

светового кольца. 

Были получены зависимости радиуса основного 

кольца (рис. 1) и эффективности от 

порядка гипергеометрических пучков. Под 

эффективностью понимается отношение световой 

энергии, которая попадает в область 

светлого кольца, к общей энергии пучка. При 

измерении радиусов за единицу измерения 

принимался радиус первого основного 

кольца гипергеометрического пучка с номером 

n = 1. 

Как видно из табл. 1, с возрастанием 

порядка гипергеометрического пучка радиус 

кольца увеличивается, а эффективность 

падает. 

2. Измерение максимальной 

интенсивности гипергеометрического 

пучка в зависимости от его порядка 

и параметра g 

При манипулировании микрообъектами 

также важно знать мощность пучка. Например, 

при манипулировании биологическим 

микрообъектом, таким как клетка, необходимо, 

чтобы пучок был не слишком 

сильным, чтобы не повредить ее. 

И наоборот, когда рассматривается более 

массивный микрообъект, для воздействия 

на него нужна большая сила, которая напрямую 

зависит от мощности пучка. 

Гипергеометрические пучки имеют 

также параметр γ, при γ = 0 гипергеометрический 

пучок становится обычным вихревым 

пучком [6]. 

В работе были получены зависимость 

максимальной интенсивности гипергеометрического 

пучка от его порядка n при γ = 0 

(рис. 2), а также зависимости максимальной 

интенсивности от параметра γ при n = 1, 

n = 3 и n = 10 (рис. 3). Полученные результаты 

нормировались на 1 относительно пучка с 

n = 1 и γ = 0. 

87


Таблица 1. Зависимость радиуса кольца и эффективности от порядка гипергеометрического 

пучка 

Порядок оптического «вихря» Радиус кольца Эффективность ,% 

1 1,00 83,45 

2 1,54 82,08 

3 2,08 76,38 

4 2,61 75,84 

5 3,08 74,69 

6 3,54 73,46 

7 4,00 71,52 

8 4,38 70,34 

9 4,92 68,73 

10 5,31 67,84 

n = 1 R = 1,00 

n = 3 R = 2,08 

Рис. 1. Фазы ДОЭ, формирующие гипергеометрические пучки 

88


Рис. 2. Зависимость максимальной интенсивности гипергеометрического пучка от его порядка n при γ = 0 

Рис. 3. Зависимость максимальной интенсивности гипергеометрического пучка 

от параметра γ при n = 1, n = 3 и n = 10 

Как видно из рисунков, интенсивность 

убывает с возрастанием порядка n и увеличением 

модуля γ в положительном направлении 

и возрастает с увеличением модуля γ в 

отрицательном направлении. 

3. Исследование свойств 

оптических «вихрей» с несколькими 

световыми кольцами 

При всех вышерассмотренных ДОЭ в 

фокусе линзы наблюдается одно светлое 

кольцо. Для получения нескольких колец 

используются ДОЭ, подобные тем, которые 

представлены на рис. 4. Как получается такой 

рельеф, легко представить, если мысленно 

разрезать на кольца ДОЭ, рассматриваемые 

выше, и повернуть каждое второе 

кольцо на 180 градусов. В фокусе линзы 

число наблюдаемых светлых колец будет 

равно числу колец, на которые разделен используемый 

ДОЭ. 

На практике иногда бывает необходимо, 

чтобы в фокусе линзы было несколько светлых 

колец. Например, для захвата непро- 

89


зрачной частицы, которая в отличие от прозрачных 

частиц выталкивается из области 

светлого кольца, поэтому для ее захвата 

можно использовать два кольца, в результате 

чего выталкиваемая из области светлых колец 

частица будет располагаться между ними. 

Опять же, в зависимости от свойств частицы 

удобно использовать оптический 

«вихрь» с определенными характеристиками. 

Поэтому были изучены некоторые свойства 

таких оптических «вихрей». В частности, 

рассматривались ДОЭ, формирующие 

два световых кольца. Были получены зависимости 

отношения радиусов колец R1/R0, 

на которые был поделен ДОЭ (рис. 5), от порядка 

оптического «вихря», вначале при условии, 

что световые кольца в фокусе линзы 

обладают равными энергиями (рис. 6а), а затем 

при условии, что оба кольца имеют одинаковую 

яркость (рис. 6б). Результаты исследований 

представлены в табл. 2 и на 

рис. 7. 


Были получены зависимости размеров, 

эффективности световых колец от порядка 

оптического «вихря». Показано, как изменяется 

мощность световых колец в зависимости 

от порядка гипергеометрического пучка 

и параметра γ. Получен ряд свойств оптических 

пучков с мульти-«вихрями», которые 

позволяют манипулировать непрозрачными 

частицами. Все эти результаты можно использовать 

при выборе оптического «вихря» 

для манипулирования частицей с определенными 

свойствами. 

Рис. 4. ДОЭ для формирования набора световых колец 

Рис. 5. Обозначения R1 и R0 

90


а) Порядок = 3 R1/R0=0,53 

б) Порядок = 4 R1/R0=0,618 

Рис. 6. ДОЭ и соответствующие им световые кольца 

с равными энергиями (а) и равными яркостями (б) 

Таблица 2. Зависимость отношения R1 к R0 от порядка оптического «вихря» при условии 

равных энергий и при условии равных яркостей колец 

Порядок оптического «вихря» 

R1/R0 при 

равной яркости 

R1/R0 при 

равной энергии 

1 0,55 0,427 

2 0,572 0,491 

3 0,596 0,530 

4 0,618 0,567 

5 0,634 0,590 

6 0,655 0,607 

7 0,672 0,620 

8 0,685 0,636 

9 0,695 0,652 

10 0,705 0,663 

91


Рис. 7. Зависимость отношения R1 к R0 от порядка оптического «вихря» 

при условии равных энергий и при условии равных яркостей колец 


1. Durnin, J. Diffraction-free beams 

[текст] / J. Durnin, J.J.Jr Miceli, J.H. Eberly // 

Phys. Rev. Lett. – 1987. – V.58. – P.1499–1501. 

2. Sigman, A.E. Lasers, University Science 

[текст] / A.E. Sigman – Mill Valley, Calif, 

1986. 

3. Скиданов, Р.В. Расчет силы взаимодействия 

светового пучка с микрочастицами 

произвольной формы [текст] / Р.В. 

Скиданов // Компьютерная оптика. – 2005. – 

Вып.28. – С.18-22. 

4. Котляр, В.В. Гипергеометрические 

моды [текст] / В.В. Котляр [и др.] // Компьютерная 

оптика. – 2006. – Вып. 30. – С.16-22. 

5. Kotlyar, V.V. Hypergeometric modes 

[текст] / V.V. Kotlyar [and other] // Opt. Lett.. 

– 2007. – April 1. – Vol.32, No.7, – p.742-744. 

6. Kotlyar, V.V. Generation of phase 

singularity through diffracting a plane or Gaussian 

beam by a spiral phase plate, [текст] / 

V.V. Kotlyar [and other] // J. Opt. Soc. Am. A. 

– 2005. – V.22, no.5. – P. 849-861. 

References 

1. Durnin, J. Diffraction-free beams / 

J. Durnin, J.J.Jr Miceli, J.H. Eberly // Phys. Rev. 

Lett. – 1987. – V.58. – P.1499–1501. 

2. Sigman, A.E. Lasers, University Science 

/ A.E. Sigman – Mill Valley, Calif, 1986 

3. Skidanov, R.V. Calculation of interaction 

force of a light beam with microparticles of 

arbitrary shape / R.V. Skidanov // Computer Optics. 

– 2005. – N 28. – P.18-22. – [in Russian]. 

4. Kotlyar, V.V. Hypergeometrical 

modes / V.V. Kotlyar [and other] // Computer 

Optics. – 2006. – N 30. – P.16-22. – [in Russian]. 

5. Kotlyar, V.V. Hypergeometric modes 

/ V.V. Kotlyar [and other] // Opt. Lett. – 2007, 

April 1. – Vol.32, No.7. – p.742-744. 

6. Kotlyar, V.V. Generation of phase 

singularity through diffracting a plane or Gaussian 

beam by a spiral phase plate / V.V. Kotlyar 

[and other] // J. Opt. Soc. Am. A. – 2005. – 

V.22, no.5. – P. 849-861. 

92


CHARACTERIZATION OF OPTICAL VORTICES 

FOR MICROMANIPULATION PURPOSES 

© 2008 A.A. Morozov 


Light beams with the orbital angular momentum in the problem of optical trapping and rotation of micro-objects 

are studied. Diffractive optical elements that generate a set of concentric rings of equal intensity for the optical trapping 

and rotation of opaque micro-objects are considered. 

Vortical beams, gradient forces, hypergeometrical beams 


Морозов Андрей Андреевич, Самарский государственный аэрокосмический университет 

имени академика С.П. Королева, студент, лаборант НИЛ-35, e-mail: ragefalcon@mail.ru . Область 

научных интересов: дифракционная оптика. 

Morozov Andrey Andreevich, S.P. Korolyov Samara State Aerospace University, student, laboratorian 

NIL-35, e-mail: ragefalcon@mail.ru . Area of scientific interests: diffraction optics. 

93


УДК 535.42 

МОДЕЛИРОВАНИЕ РАСПРОСТРАНЕНИЯ ГИПЕРГЕОМЕТРИЧЕСКИХ 

ЛАЗЕРНЫХ ПУЧКОВ С ИСПОЛЬЗОВАНИЕМ ПАРАЛЛЕЛЬНЫХ ВЫЧИСЛЕНИЙ 

НА МНОГОЯДЕРНЫХ АРХИТЕКТУРАХ 

© 2008 С.А. Балалаев 


Выполнено численное сравнение свойств идеальных бесконечно-протяженных гипергеометрических мод 

с их ограниченными аналогами. Исследованы возможности формирования гипергеометрических пучков методами 

дифракционной оптики. 

Гипергеометрические моды, дифракционный оптический элемент, слаборасходящиеся пучки, программное 

обеспечение оценки экспериментальных данных 

В связи с большим интересом к слаборасходящимся 

пучкам много внимания последнее 

время уделяется гипергеометрическим 

(ГГ) модам. Данный тип световых пучков 

может быть получен с помощью освещения 

дифракционного оптического элемента 

(ДОЭ) лазерным пучком и может быть использован, 

например, при манипулировании 

микрочастицами [1]. Форма идеального распределения 

получается из решения уравнения 

типа Шредингера в цилиндрической 

системе координат и имеет вид (при z = 0): 

w 

En, γ 

( r, φ ) = × 

2πr 

(1) 

× exp ⎡⎣ 

iγ ln ( r / w) 

⎤⎦ 

exp( inφ), 

где n, γ – параметры моды, w – параметр, задающий 

масштаб пучка. 

Изготовление ДОЭ, формирующего необходимое 

распределение интенсивности 

света (близкое к теоретическому), довольно 

сложно [2] из-за особенности (1) в центре. 

Решение данной проблемы сводится к производству 

фазового ДОЭ конечной апертуры 

и освещением его лазерным пучком с гауссовым 

распределением интенсивности [3]. 

Также немаловажным является соблюдение 

высокой точности микрорельефа при получении 

фазовой составляющей для данных 

элементов, поскольку в фазе заложена основная 

информация о свойствах и поведении 

пучка. На рис. 1 представлены различные 

варианты кодированной фазы для 

ДОЭ. Наиболее простым с точки зрения 

возможных технологий изготовления (к 

примеру, травлением) является бинарный 

метод кодирования (рис. 1б,в). 

Изготовление фазового микрорельефа 

довольно затратно, поэтому имеет смысл предсказать 

результат с помощью моделирования 

распространения ГГ пучков. Для этого было 

изучено аналитическое решение распространения 

ГГ пучков для бесконечной апертуры: 

iγ−1 

2 

n 2 

2 

1 ⎛ 2z 

⎞ ⎛ kr ⎞ 

En, γ 

( r, φ , z) 

= ⎜ 2 ⎟ ⎜ ⎟ × 

2 πn! ⎝ kw ⎠ ⎝ 2z 

⎠ 

⎡iπ ⎤ ⎛ n + iγ + 1 ⎞ 

× exp 

⎢ 

( n − iγ + 1) Γ ⎜ ⎟ × 

⎣ 4 ⎥ 

⎦ ⎝ 2 ⎠ 

(2) 

2 

⎛ n − iγ + 1 ikr ⎞ 

× 

1F1 

⎜ , n + 1, ⎟ exp( in φ ), 

⎝ 2 2z 

⎠ 

где Г(x) – гамма-функция; 1 F 1 (a,b,x) – вырожденная 

(или конфлюэнтная) гипергеометрическая 

функция. 

Получив необходимое распределение 

интенсивности на заданном расстоянии z с 

помощью (2), можно его сравнить с распространением 

поля (1) при использовании операторов 

распространения для конечной апертуры 

пучка. В качестве наиболее подходящего 

оператора распространения был выбран 

интеграл Френеля [1]: 

∞ ∞ 

k ⎧ ik 

2 

= ⎡ x − ξ + 

E( x, y, z) exp ⎨ ( ) 

2πiz 

2z 

⎣ 

⎩ 

} 

∫ ∫ 

(3) 

−∞ −∞ 

2 

+ ( y − η) ⎤ 

⎦ E0 

( ξ, η) d ξ d η. 

Как было сказано, реальное распределение 

интенсивности (1) невозможно сформировать 

из-за особенности в центре, поэтому 

используют плоскую волну или гауссово 

распределение. Все три вида распределений 

интенсивности пучка, радиус апертуры которого 

r = 1 мм, показаны в радиальном сечении 

на рис. 2а. 

94


а б в 

Рис. 1. Различные способы кодирования фазового ДОЭ для формирования ГГ моды 

с параметрами (n=7, γ=10): полутоновой (идеальный) (а) и два бинарных, 

отличающихся методом кодирования BC (б), BPC (в) 

а) 

б) 

Рис. 2. Радиальное сечение распределения интенсивности на входе фазового полутонового ДОЭ (а) 

и СКО аналитического решения (1) и результата (3) для соответствующих 

входных распределений интенсивности с фазой из (1) (б) 

95


Сравнение различных моделей ГГ пучка 

с аналитическими и экспериментально 

полученными результатами производилось с 

помощью среднеквадратичного отклонения 

(СКО): 

δ = 

∑ 

r< 

R 

( I ( r) − I ( r) 

) 2 

0 

∑ 

r< 

R 

I 

2 

0 

( r) 

, (4) 

где R – радиус апертуры; I – распределение 

интенсивности тестируемого пучка, I 0 – распределение 

интенсивности эталонного пучка. 

Из рис. 2б видно, что картина распространения 

пучка слабо зависит от входного 

распределения интенсивности, подаваемого 

на ДОЭ, поэтому можно использовать гауссово 

распределение, т.к. этот вариант удобнее 

использовать в реальных экспериментах. 

Стоит отметить, что получить график 

на рис. 2б было значительно проще, нежели 

сравнивать одновременно результаты (3) для 

бинарного фазового ДОЭ с экспериментально 

полученными данными, а также с аналитическим 

решением и результатами (3) для 

полутонового фазового ДОЭ. Эти четыре варианта 

сильно отличаются друг от друга. 

Данное отличие можно выявить на первых 

же шагах расчета светового поля интерактивно 

и визуально. В данной ситуации линейная 

модель программирования не подходит. 

Если использовать распределенную модель, 

то при вычислениях на многоядерных 

платформах можно существенно сократить 

время расчета: ведь каждый из этапов для 

результирующего изображения размером в 

1024×1024 на компьютере с тактовой частотой 

2,2 GHz занимает приблизительно 2 мин, 

для графика на рис. 2б было получено 200 

таких изображений в 3 циклах. 

Решить задачу распараллеливания для 

четырехядерного процессора не составляет 

труда, поскольку на данный момент существует 

множество технологий, позволяющих 

это сделать. Самой известной является MPI, 

однако и достаточно трудоемкой в освоении 

и поддержке. Более простой технологией, 

которая позволит распараллеливать на низком 

уровне задачи, является OpenMP, но самым 

оптимальным вариантом оказался программный 

комплекс CAAM [4]. Данный пакет, 

начиная с версии 1.21, позволяет вести 

параллельные вычисления, которые программируются 

на визуальном, более высоком 

уровне. На рис. 3 представлен вид программы 

с используемой схемой (цепочкой) 

расчета характеристик четырех вариантов 

моделируемого пучка и их сравнения. Поскольку 

четыре ветви решений связаны слабо 

(в конце каждой происходит сравнительный 

анализ, который протекает мгновенно), 

то в данном случае достигается максимум 

эффективности распараллеливания (≈99%), 

но поскольку до этапа синхронизации цепочки 

рассчитываются за разное время, то 

реальное ускорение вычислений, которое 

было достигнуто, – 2,8 раза. 

На рис. 4 показан результат моделирования 

ГГ моды с параметрами (n = 7, γ = 10) 

для лазерного освещения с длиной волны 

λ = 532 нм ДОЭ размерами 5×5 мм (рис. 1). 

Как видно из рис. 4а-г, сравнение экспериментально 

полученного распределения с 

численно предсказанным затрудняется из-за 

разности масштабов, отсутствия фиксированного 

центра (при распространении он 

сдвигается) и поворота несимметричных распределений 

интенсивности. Для того, чтобы 

получить численные характеристики сравниваемых 

пучков с помощью (4), распределения 

необходимо стандартизировать по следующей 

схеме: 

1. Выделение области, содержащей распределение 

интенсивности только одного из 

ГГ пучков (всего их два для бинарных 

ДОЭ вместе с побочной модой). 

2. Вычисление центра пучка в первом 

приближении по формулам: 

x 

y 

c 

c 

= 

= 

∫∫ 

D 

∫∫ 

D 

D 

∫∫ 

∫∫ 

D 

I( x, y) x dx dy 

I( x, y) dx dy 

I ( x, y) y dx dy 

I ( x, y)dx dy 

. 

, 

(5) 

3. Вычисление усредненных координат 

локальных максимумов (соответствующих 

первому кольцу) и коррекция 

96


координат центра с учетом этой информации: 

xmax1 + xmax 2 

xc 

= 

, 

2 

(6) 

ymax1 + ymax 2 

yc 

= 

. 

2 

4. Перевод распределения интенсивности 

в полярную систему координат I(r, ϕ). 

5. Формирование радиального сечения с 

помощью формулы 

2π 

1 

I ( r) = I( r, φ)dφ 

2πr 

∫ (7) 

0 

6. На последнем этапе происходит нормировка 

по уровню и масштабирование 

по максимуму интенсивности. 

Рис. 3. Использование CAAM для моделирования ГГ мод 

Данная технология использовалась в программе 

дважды для расчетов по 2D картинам, 

представленным на рис. 4в-г радиальных сечений, 

показанных на рис. 5, поэтому она была 

выделена в отдельный визуальный компонент 

CAAM для многократного использования. 

По результатам, представленным на 

рис. 5, можно заключить, что модель распространения 

ГГ пучка с конечной апертурой 

может предсказать с большой точностью 

поведение реального пучка. СКО численного 

решения от результатов, полученных 

в ходе экспериментов с использованием 

реального ДОЭ, не превышало 15%. Выражение 

(1) с бинарным кодированием фазы, 

позволяющее изготавливать высокоточный 

микрорельеф ДОЭ, дает СКО от выражения 

(1) с полутоновой фазой менее 1%, 

однако приходится разделять главную и побочную 

моду, при этом происходит потеря 

эффективности. На рис. 6 показаны энергетические 

отличия смоделированных ГГ пучков, 

полученных с такими же параметрами, 

как для рис. 5. Из-за ограничений, возникающих 

при моделировании реального ГГ 

пучка с конечной апертурой и потерей амплитудной 

информации, аналитическое решение 

по сравнению с экспериментальными 

данными имеет СКО более 50%. 

97


а 

б 

в 

г 

Рис. 4. Распределения интенсивности ГГ пучка на расстоянии z = 3000 мм: аналитическое решение 

с помощью уравнения (2)(а) ; решение (3) для входной функции полутонового ДОЭ (б); 

решение (3) для бинарного BPC ДОЭ (в); экспериментальные данные для бинарного BPC ДОЭ (г) 

Аналитическое решение (2) Решение (3) для полутоновой фазы (1) 

Экран 12,0 мм; δ = 55,8 % Экран 12,0 мм; δ = 14,9 % 

Решение (3) для бинар. фазы (1) BPC 

Экспериментальные данные BPC 

Экран 12,0 мм; δ = 14,5 % Экран 12,3 мм; обрезка снизу 28%; δ = 0% 

Рис. 5. Радиальные распределения интенсивности ГГ пучков по апертуре (в мм) на расстоянии z = 3000 мм; 

ниже - дополнительные параметры стандартизации изображений и СКО δ 

с экспериментальными данными в качестве эталона 

98


Рис. 6. Радиальные распределения интенсивности ГГ пучков без нормировки по уровню 

для сравнения энергетических потерь 


1. Балалаев, С.А. Расчет гипергеометрических 

мод [текст] / С.А. Балалаев, 

С.Н. Хонина, В.В. Котляр // Известия Самарского 

научного центра РАН. – 2007. - 

№9(3). - C.584-591. 

2. Балалаев, С.А. Cравнение свойств гипергеометрических 

мод и мод Бесселя 

[текст] / С.А. Балалаев, С.Н. Хонина // 

Компьтерная оптика. – 2007. – №31(4). – 

C.23-28. 

3. Kotlyar, V.V. Family of hypergeometric 

laser beams [текст] / V.V. Kotlyar, A.A. 

Kovalev // J. Opt. Soc. Am. – 2008. – A.25. 

– P.262-270. 

4. http://byterix.net/caam [электронный ресурс]. 

References 

1. Balalayev, S.A. Расчет гипергеометрических 

мод / S.A. Balalayev, S.N. Khonina, 

V.V. Kotlyar // News of the Samara centre of 

science of the Russian Academy of Sciences. – 

2007. – N 9(3). – C.584-591. – [in Russian]. 

2. Balalayev, S.A. Properties comparison 

of hypergeometrical modes and Bessel modes / 

S.A. Balalayev, S.N. Khonina // Computer Optics. 

– 2007. – Vol. 31, N 4. – P. 23-28. – [in Russian]. 

3. Kotlyar, V.V. Family of hypergeometric 

laser beams / V.V. Kotlyar, A.A. 

Kovalev // J. Opt. Soc. Am. – 2008. – A.25. – 

P.262-270. 

4. http://byterix.net/caam 

99


MODELING THE HYPERGEOMETRIC LASER BEAM PROPAGATION USING 

PARALLEL COMPUTING ON MULTI-KERNEL ARCHITECTURES 

© 2008 S.A. Balalayev 


Numerical comparison of properties of the ideal infinite hypergeometric modes and their bounded analogs is 

made. The potentialities of diffractive optics methods in generating the hypergeometric modes are examined. 

Hypergeometrical modes, diffractive optical element, weakly diverging beam, the software of an estimation of 

experimental data 


Балалаев Сергей Анатольевич, Самарский государственный аэрокосмический университет 

имени академика С.П. Королева, аспирант, e-mail: sof.bix@mail.ru . Область научных интересов: 

моделирование работы дифракционных элементов, программирование. 

Balalayev Sergey Anatoljevich, S.P. Korolyov Samara State Aerospace University, the post-graduate 

student, e-mail: sof.bix@mail.ru . Area of scientific interests: modelling of the diffraction 

elements, programming. 

100

Управление, измерительная техника и информатика 

УДК 621.372.542 

ИССЛЕДОВАНИЕ ВЛИЯНИЯ ИСКАЖЕНИЙ НА СВОЙСТВА 

МОДОВЫХ ЛАЗЕРНЫХ ПОЛЕЙ 

© 2008 А.О. Шевин 1 , С.Н. Хонина 2 

1 Самарский государственный аэрокосмический университет 


Рассматриваются самовоспроизводящиеся модовые пучки Гаусса–Эрмита, Гаусса-Лагерра и Бесселя 

и их возможность восстановления после прохождения препятствия (непрозрачного и препятствия из материала 

с показателем преломления n = 1,5), которым может служить захваченная этими пучками микрочастица. 

Проводится сравнительный анализ свойств восстановления мод Гаусса-Эрмита, Гаусса-Лагерра и 

Бесселя и их суперпозиций. 

Модовые пучки Гаусса-Эрмита, Гаусса-Лагерра, Бесселя, оптическое манипулирование, искажение препятствием, 

самовоспроизведение, восстановление 


Манипулирование микрообъектами с 

помощью лазерных пучков – весьма бурно 

развивающееся в последнее время направление. 

Впервые возможность использования 

лазерного излучения для манипулирования 

микрочастицами была продемонстрирована в 

1970 г. При этом использовался гауссовый 

пучок (фундаментальная мода лазерного излучения). 

С тех пор идея бесконтактного 

управления процессами микро- и наномасштаба 

была успешно использована в различных 

областях: для торможения, отклонения, 

охлаждения и локализации атомов, для захвата 

и разделения различных типов бактерий, 

клеток, вирусов, для изоляции генов в 

хромосомах, спайки клеток удалением общей 

стенки при помощи «оптического 

скальпеля», в нанотехнологиях и управлении 

элементами микромеханики. 

Расширение области применения лазерных 

«ловушек» потребовало их усложнения 

с целью получения новых дополнительных 

возможностей. Такие возможности 

можно получить, например, при использовании 

гауссовых мод и мод Бесселя. Благодаря 

замечательным свойствам этих пучков можно 

производить с микрообъектами различные 

действия, такие, как: управлять движением 

потока частиц, вращать их, захватывать 

в пространственные «ловушки», расположенные 

в определённом порядке [1]. В качестве 

объектов манипуляции могут быть использованы 

самые различные частицы – отдельные 

атомы, молекулы, бактерии и 

вирусы, мелкодисперсные взвеси и аэрозоли. 

Такие свойства бесселевых пучков, как 

инвариантность при распространении в свободном 

пространстве и отсутствие расходимости 

на интервале устойчивости, а также 

способность восстановления после внесения 

в пучок объекта-препятствия [2, 3], делают 

их удобными при необходимости одновременного 

манипулирования набором расположенных 

вдоль оптической оси микрочастиц 

[4, 5]. Однако ввиду бесконечной эффективной 

ширины бесселевого пучка его 

невозможно воспроизвести точно. В результате 

ограниченности размера и энергии, 

пройдя некоторое расстояние, сформированный 

пучок теряет свои замечательные свойства 

и «разваливается», переставая сохранять 

первоначальную конфигурацию. Кроме того, 

при изображении линзовыми оптическими 

системами, что часто необходимо при микроманипулировании, 

бесселев пучок приобретает 

расходимость [6]. 

Модовые пучки Гаусса-Эрмита и Гаусса-Лагерра 

не искажаются при прохождении 

через линзовые оптические системы и сохраняют 

свою конфигурацию (с точностью 

до масштаба) на неограниченном расстоянии 

(как отдельные моды, так и их специальные 

суперпозиции). Кроме того, они имеют конечный 

эффективный радиус, а значит могут 

быть весьма точно воспроизведены оптическими 

системами. Таким образом, исследования 

возможности их восстановления после 

прохождения препятствий представляют определенный 

интерес. 

101


1. Теоретические основы 

1.1. Моды Гаусса-Эрмита 

Функции Гаусса-Эрмита (ГЭ) являются 

модами среды с параболически изменяющимся 

показателем преломления. 

Моды Гаусса-Эрмита [7] 

Ψ ( x, y) 

= 

nm 

2 2 

⎡ x + y ⎤ ⎛ 2x ⎞ ⎛ 2y 

⎞ 

= exp ⎢− H 

, 

2 ⎥ n 

⎜ ⎟ 

Hm 

⎜ ⎟ 

⎣ σ 

0 ⎦ ⎝ σ 

0 ⎠ ⎝ σ 

0 ⎠ 

(1) 

где σ – гауссовый параметр, H n (x) – полином 

Эрмита n-го порядка, являются частными 

решениями параксиального волнового уравнения. 

В свободном пространстве функции ГЭ 

сохраняют свою структуру с точностью до 

масштаба и распространяются по следующему 

закону [7]: 

σ0 

Ψ 

nm ( x, y, z) = exp [ i( n + m + 1) η ( z) 

] × 

σ( z) 

2 2 

⎡−iπ ( x + y ) ⎤ 

× exp ⎢ 

⎥ × 

⎣ λR ( z) 

⎦ 

2 2 

⎡ x + y ⎤ ⎛ 2x ⎞ ⎛ 2y 

⎞ 

× exp ⎢− H 

, 

2 ⎥ n 

Hm 

σ ( z) ⎜ σ( z) ⎟ ⎜ σ( z) 

⎟ 

⎣ ⎦ ⎝ ⎠ ⎝ ⎠ 

где 

η ( z) = arctg ( z / z0 

) , R ( z) z ( 1 z 2 2 

0 

/ z ) 

2 2 

( z) 1 z / z 

σ = σ + , 

0 0 

= + , 

z = πσ 2 

/ λ , 

0 0 

(2) 

z 0 – расстояние Релея, σ 0 – эффективная ширина 

модовой функции в плоскости перетяжки, 

λ – длина волны лазерного излучения. 

Далее в работе для исследования распространения 

лазерных пучков ГЭ в свободном 

пространстве будут использоваться аналитические 

выражения (1) и (2). 

1.2. Моды Гаусса-Лагерра 

Функции Гаусса-Лагерра (ГЛ) являются 

модами среды с параболически изменяющимся 

показателем преломления и имеют вид 

m 

2 

⎛ ⎞ ⎛ ⎞ 

r 2 r 

Ψ 

nm( r, ϕ ) = ⎜ 

⎟ 

exp⎜ − × 

2 ⎟ 

⎝ σ0 ⎠ ⎝ σ0 

⎠ 

2 

m ⎛ 2r 

⎞ 

× Ln 

⎜ exp( imϕ), 

2 ⎟ 

⎝ σ0 

⎠ 

(3) 

m 

где Ln 

( x ) – обобщённый многочлен Лагерра 

[8]. 

В свободном пространстве функции ГЛ 

сохраняют свою структуру с точностью до 

масштаба и распространяются по следующему 

закону [7]: 

m 

2 

σ ⎛ 

0 

ρ 2 ⎞ 

m ⎛ 2ρ 

⎞ 

r z Ln 

2 

Ψnm( , ϕ , ) = ⎜ ⎟× 

σ( z) ⎜ ( z) ⎟ 

⎝ σ ⎠ ⎝ σ ( z) 

⎠ 

2 2 

⎡ −ρ ikρ 

× exp ⎢ + + imθ − 

2 

⎣ σ ( z) 2 R( z) 

⎛ z ⎞⎤ 

− i (2n + m + 1)arctg ⎜ ⎟⎥ 

, 

⎝ z0 

⎠⎦ 

где 

( ) 

β ( z ) = (2 n + m + nm 

1) ⋅ arctg z / z , 0 

2 

z 

0 

= πσ0 

λ , 2 ( z) 2 ( 2 2 

0 

1 z z0 

) 

σ = σ + , 

2 2 

( 0 ) 

R( z) = z 1+ z z , 

(4) 

z 0 – расстояние Релея, σ 0 – эффективная ширина 

модовой функции в плоскости пере- 

σ = σ ), λ – длина волны 

тяжки (т.е. ( ) 

0 

z 

z= 

0 

лазерного излучения. 

Индекс n является радиальным и определяет 

количество колец в структуре моды, индекс 

m – азимутальный и соответствует номеру 

угловой гармоники (порядку винтовой фазы). 

1.3. Моды Бесселя 

Рассмотрим распространение Бесселевого 

пучка: 

Ψ ( r, ϕ ) = J ( αr)exp( inϕ ) , (5) 

n 

n 

где J n (х) – функция Бесселя первого рода n- 

го порядка [8]. 

Моды Бесселя 

n 

Ψ ( x, y, z) = i 2πsin θ J ( k sin θ r) 

× 

( kz cos ) 

× exp ⎡⎣ 

i nϕ + θ 

0 

0 n 

0 

⎤⎦ 

(6) 

являются решением уравнения Гельмгольца 

и обладают бесконечной энергией (как и 

плоская волна). Выражение (6) (θ 0 – минимальный 

угол отклонения конических волн) 

описывает скалярный непараксиальный Бесселев 

пучок, который не претерпевает дифракции 

при распространении вдоль оси z и 

сохраняет свой диаметр. 

102


Условие стабильности пучка при распространении 

записывается в следующем 

виде: 

α = const, ∀ n. 

(7) 

На практике моды Бесселя формируются 

с помощью оптических элементов, имеющих 

конечный диаметр, и сохраняют модовый 

характер на конечном расстоянии, которое 

пропорционально радиусу элемента и 

обратно пропорционально масштабному коэффициенту 

функции Бесселя α = k sin θ 

0 

: 

1 

2 2 

R k 

zmax = = R ⎛ ⎜ −1 

⎞ 

2 ⎟ 

tan θ0 

⎝ α ⎠ 

. (8) 

В оптических схемах для манипуляции 

микрочастицами с помощью Бесселевых пучков 

сферическая линза фокусирует световую 

энергию в фокальной плоскости путём отображения 

бесселевого пучка, созданного аксиконом 

или голограммой. Известно [9], что 

после отображения бесселевого пучка сферической 

линзой бесселевый пучок теряет свойство 

сохранения своего диаметра и начинает 

расходиться: 

a 

z 

⎛ k sin θ 

⎜ 

⎝ z 

0 

Ψ( ρ , z) 

= J0 

× 

2 

⎡ kρ ⎛ a ⎞⎤ 

× exp ⎢i 

⎜1 + ⎟ , 

2z 

z 

⎥ 

⎣ ⎝ ⎠⎦ 

aρ 

⎞ 

⎟ 

⎠ 

(9) 

где ρ 2 =u 2 + v 2 , a – расстояние до сферической 

линзы. 

Выражение (10) соответствует параксиальному 

бесселеву пучку, созданному с 

помощью узкой круглой диафрагмы радиуса 

α в непрозрачном экране: 

+ α ⎡ k ⎤ 

( ) 

z ⎢ 

⎣ 2z 

⎥ 

⎦ 

⎛ kα 

r ⎞ 

× J 

n ⎜ ⎟exp ( inϕ), 

⎝ z ⎠ 

n 1 2 2 

Ψ 

n( r, ϕ , z) = ( − i) exp i r + α × 

(10) 

который, в отличие от непараксиального 

бесселева пучка (6), претерпевает дифракционные 

изменения (расхождение) при распространении 

вдоль оси z. 

Как было сказано выше, на практике 

идеальный бесселев пучок не может быть 

получен ввиду конечности апертуры любой 

реальной оптической системы и конечной 

энергии любого реального источника излучения. 

Это ограничивает расстояние «устойчивости» 

модового поведения пучка, которое 

описывается формулой (5). Тем не менее, 

бесселевы пучки активно используются для 

манипулирования микрообъектами, т.к. обладают 

свойством быстро восстанавливаться 

после искажения некоторым препятствием. 

Многомодовый пучок, распространяющийся 

в свободном пространстве, имеет 

следующий вид: 

N 

∑ nm nm 

, (11) 

n, m= 

0 

( , , ) = Ψ ( , , ) 

U x y z C x y z 

где Ψ nm (x,y,z) – например, функции вида (2), 

(4) или (10), C nm – комплексные коэффициенты. 

Распространение скалярного светового 

поля в свободном пространстве с распределением 

амплитуды f ( x, y) 

на плоскости 

z = 0 и F( x, y, z) 

на плоскости z также можно 

описать с помощью преобразования Френеля: 

ik 

F( u, v, z) = − exp( ikz) 

× 

2πz 

∞ 

⎡ ik 

2 2 ⎤ 

× ∫ ∫ f ( x, y)exp ⎢ (( x − u) + ( y −v) ) d xd y. 

⎣2z 

⎥ 

⎦ 

−∞ 

(12) 

Далее в работе для численного исследования 

распространения лазерных пучков в 

свободном пространстве используется выражение 

(12). Этот способ позволяет рассчитать 

распространение любого поля, в том 

числе искаженного. 

2. Численное моделирование 

При расчётах принимались следующие 

значения параметров: 

1) σ 0 =0,55 мм – эффективный радиус пучка 

для гауссовых мод, аргумент функции 

Бесселя α = 6 ; 

2) λ = 630⋅10 −6 мм – длина волны; 

3) размер входной апертуры для гауссовых 

мод 4 × 4 мм, для мод Бесселя 6 × 6 мм; 

4) n 

0 

= 1,5 – показатель преломления материала 

препятствия. 

Для численного вычисления интеграла 

Френеля (12) использовался метод трапеций 

103


[10-12]. Отсчеты входного поля для мод ГЭ, 

ГЛ и Бесселя вычислялись по формулам (1), 

(3) и (5) соответственно. Распространение 

суперпозиции модовых пучков исследовалось 

с помощью выражения (11). 

В данной работе исследуется восстановление 

структуры мод и некоторых суперпозиций 

после искажения непрозрачным 

препятствием и после искажения препятствием 

из материала с показателем преломления 

n =1,5. Для этого в преобразование Френеля 

подставлялось искаженное входное поле 

и вычислялось распределение светового 

поля на различных расстояниях z. Степень 

восстановления поля оценивалась по следующей 

формуле: 

( z ) 

δ = 

= 

∑ 

n 

⎡ F1 ( un , vn , z) − F2 

( un , vn 

, z) 

⎣ 

∑ 

n 

1 

2 2 

F ( u , v , z) 

n 

n 

4 

⎤ 

⎦ 

2 

, 

(13) 

где F 1 (u,v,z) – распределение исходного неискаженного 

светового поля на расстоянии z, 

а F 2 (u,v,z) – распределение искаженного светового 

поля, полученное с использованием 

преобразования Френеля. 

2.1. Результаты численного моделирования 

распространения модовых пучков, 

искаженных после прохождения 

непрозрачного препятствия 

Представим далее результаты моделирования 

распространения мод, искаженных 

после прохождения непрозрачного препятствия, 

которым может являться захваченная 

полем частица, и проследим тенденцию их 

восстановления. Частица представляет собой 

шарик радиусом r 0 

= 0,16 мм . 

2.1.1. Мода Гаусса-Эрмита 

Результаты моделирования распространения 

моды ГЭ Ψ 1,1 

приведены на рис. 1 

и 2: значения относительной погрешности и 

распределения идеальной и искаженной препятствием 

моды. Относительная погрешность 

в плоскости препятствия (при z=0) составляет 

22,7%. 

Из рис. 2 видно, что мода ГЭ Ψ 1,1 

достаточно 

быстро восстанавливает свою первоначальную 

структуру, так при z = 1000 мм 

еще заметно нарушение симметрии в интенсивности 

пучка и достаточно сильное искажение 

фазы, а при z = 4000 мм и выше 

структура моды восстанавливается. 

Рис. 1. Зависимость σ( z) 


для искаженной 

2.1.2. Мода Гаусса-Лагерра 

Моды ГЛ также имеют свойство восстанавливаться 

после прохождения препятствия, 

а наблюдаемая динамика восстановления 

(рис. 3) такая же, как и у мод ГЭ. Значения 

погрешности того же порядка 

представлены на рис. 4. Относительная погрешность 

в плоскости препятствия составляет 

21,9%. К особенностям следует отнести то, 

что в распределении интенсивности сначала 

восстанавливается центральное кольцо, а затем 

- периферийные. 

2.1.3. Мода Бесселя 

Относительная погрешность (рис. 5) 

достаточно быстро уменьшается с увеличением 

расстояния z по сравнению со всеми 

рассмотренными гауссовыми модами. При 

этом относительная погрешность в плоскости 

препятствия составляла несколько 

большее значение, чем в предыдущих случаях 

– 24,1%. 

Из рис. 6 видно, что искажение практически 

не влияет на фазу, а восстановление 

интенсивности происходит как у мод Гаусса- 

Лаггера: сначала восстанавливаются центральные 

кольца, а затем - периферийные. 

104


0 мм 1000 мм 2000 мм 3000 мм 4000 мм 5000 мм 

0 мм 1000 мм 2000 мм 3000 мм 4000 мм 5000 мм 

Рис. 2. Интенсивность и фаза моды ГЭ Ψ 1,1 

на различных расстояниях, неискаженной (верхняя строка) 

и искаженной непрозрачным препятствием (нижняя строка) 

0 мм 1000 мм 2000 мм 3000 мм 4000 мм 5000 мм 

0 мм 1000 мм 2000 мм 3000 мм 4000 мм 5000 мм 

Рис. 3. Интенсивность и фаза моды ГЛ Ψ 2,3 


и искаженной непрозрачным препятствием (нижняя строка) 

105



моды ГЛ Ψ 2,3 




суперпозиции мод Бесселя (2)+(-1) 

0 мм 1000 мм 2000 мм 3000 мм 4000 мм 5000 мм 

0 мм 1000 мм 2000 мм 3000 мм 4000 мм 5000 мм 

Рис. 6. Интенсивность и фаза суперпозиции мод Бесселя (2)+(-1) на различных расстояниях, 

неискаженной (верхняя строка) и искаженной непрозрачным препятствием (нижняя строка) 

2.2. Результаты численного моделирования 

распространения модовых пучков, 

искаженных после прохождения 

прозрачного препятствия 

Далее рассмотрим искажение модовых 

пучков при захвате частицы, состоящей из 

материала с показателем преломления 

n = 1,5. Частица представляет собой шарик 

радиусом r 0 

= 0,16 мм . Рассеяния энергии в 

этом случае не происходит. Моделирование 

такого препятствия осуществляется путём 

домножения комплексной амплитуды светового 

поля на фазовую функцию Ф(r,n), 

соответствующую частице с заданными показателем 

преломления n и радиусом r 0 

: 

⎧exp in r0 − r , r ≤ r0 

, 

Φ = ⎨ 

⎪ ⎩1, r > r0 

. 

2 2 

⎪ 

( ) 

( ) 

r, 

n 

2.2.1. Мода Гаусса-Эрмита 

Картина искажений в случае прозрачного 

препятствия несколько отличается от 

рассмотренного ранее искажения непрозрачным 

препятствием. 

Искажение не так заметно затрагивает 

распределение интенсивности, но сильно 

влияет на фазовый портрет, что видно на 

106


примере моды ГЭ Ψ (рис. 7). Заметен 

3,3 

всплеск фазы в месте, где находилась захваченная 

частица. 

Значения абсолютной погрешности 

ниже (рис. 8), чем в случае непрозрачного 

препятствия (значения уменьшаются от 

8,5% до 7,6% против 21,5% и 18%), вследствие 

малого влияния рассматриваемого 

искажения на распределение интенсивности. 

0 мм 1000 мм 2000 мм 3000 мм 4000 мм 5000 мм 

0 мм 1000 мм 2000 мм 3000 мм 4000 мм 5000 мм 

Рис. 7. Интенсивность и фаза моды ГЭ Ψ 3,3 


и искаженной прозрачным препятствием (нижняя строка) 




2.2.2. Мода Гаусса-Лагерра 

Суперпозиция Ψ 

0,1 

+Ψ демонстрирует 

такую же динамику восстановления, как 

1,2 

и мода ГЛ в случае непрозрачного препятствия, 

только с меньшими значениями относительной 

погрешности (рис. 9). Распределение 

для искаженного и обычного пучка 

приведено на рис. 11. 

2.2.3. Мода Бесселя 

Мода Бесселя 3-го порядка так же, как 

в случае искажения непрозрачным препятствием, 

демонстрирует лучшую тенденцию по 

восстановлению своей структуры (рис. 12) в 

сравнении с гауссовыми модами. 

Характер искажения подобен для непрозрачного 

препятствия. За исключением 

того, что здесь искажение затрагивает 

только то кольцо интенсивности, которым 

захватывалась частица, и его структура 

восстанавливается, не затрагивая соседние 

кольца. 

Значение относительной погрешности 

(рис. 10) изменяется от 9% до 3,5% , то есть 

наблюдается ее более резкий спад при за- 

107


данных расстояниях в сравнении с гауссовыми 

пучками. 



суперпозиции мод ГЛ Ψ 0,1 

+Ψ 1,2 


моды Бесселя 3-го порядка 


0 мм 1000 мм 2000 мм 3000 мм 4000 мм 5000 мм 

0 мм 1000 мм 2000 мм 3000 мм 4000 мм 5000 мм 

Рис. 11. Интенсивность и фаза суперпозиции мод ГЛ Ψ 

0,1 

+Ψ на различных расстояниях, 

1,2 

неискаженной (верхняя строка) и искаженной 

прозрачным препятствием (нижняя строка) 

3. Заключение 

Все рассмотренные моды и суперпозиции 

мод, искаженные препятствием, восстанавливают 

свою первоначальную структуру 

с увеличением расстояния z. Замечено, 

что у мод ГЛ искажение влияет на все 

кольца интенсивности, а не только на то, 

которое взаимодействовало с частицей, 

причем сначала восстанавливается центральное 

кольцо, а затем периферийные. 

Восстановление фазы начинается с центральной 

области. 

Для мод Бесселя искажение почти не 

влияет на фазу, а восстановление интенсивности 

происходит как у мод ГЛ: сначала 

восстанавливаются центральные кольца интенсивности, 

а затем периферийные (действие 

«тени» от препятствия). Моды различных 

порядков и суперпозиции восстанавливаются 

примерно одинаково. Значение 

относительной погрешности достаточно быстро 

уменьшается с увеличением расстояния 

z по сравнению со всеми рассмотренными 

гауссовыми модами. На основании этого 

108


можно говорить о том, что моды Бесселя 

восстанавливаются значительно быстрее, 

чем гауссовы моды. 

Картина искажений в случае прозрачного 

препятствия несколько отличается. 

Искажение почти не затрагивает распределения 

интенсивности, но сильно влияет на 

фазовый портрет (для рассмотренных гауссовых 

мод). В некоторых случаях заметен 

всплеск фазы в месте, где находилась захваченная 

частица. Для мод Бесселя характер 

искажения подобен случаю с непрозрачным 

препятствием. За исключением 

того, что искажение затрагивает только 

кольцо интенсивности, которым захватывалась 

частица, и его структура восстанавливается, 

не затрагивая соседние кольца. 

Замечено, что значения относительной 

погрешности на расстоянии порядка двухсот 

входных апертур (5000 мм) для всех рассмотренных 

пучков Бесселя независимо от 

типа искажения находятся в пределах от 3% 

до 7%, в то время как у гауссовых мод они 

могут принимать совершенно разные значения 

и могут достигать более 20%. 

0 мм 1000 мм 2000 мм 3000 мм 4000 мм 5000 мм 

0 мм 1000 мм 2000 мм 3000 мм 4000 мм 5000 мм 

Рис. 12. Интенсивность и фаза моды Бесселя 3-го порядка на различных расстояниях, 

неискаженной (верхняя строка) и искаженной прозрачным препятствием (нижняя строка) 


1. Сойфер, В.А. Оптическое манипулирование 

микрообъектами: достижения и 

новые возможности, порожденные дифракционной 

оптикой [текст] / В.А. Сойфер, 

В.В. Котляр, С.Н. Хонина // Физика элементарных 

частиц и атомного ядра. 2004. – 

35(6). – С. 1368-1432. 

2. MacDonald, R.P. Interboard optical 

data distribution by Bessel beam shadowing 

[текст] / R.P. MacDonald [and other] // Optics 

Communication. – 1996. – V.122. – Р. 169-177. 

3. Soroko, L.M. What does the term 

“light beam” mean? [текст] / L.M. Soroko // 

Рreprint of JINR, E13-99-226, Dubna, 1999. 

4. Arlt, J. Optical micromanipulation using 

Bessel light beams [текст] / J. Arlt [and other] 

// Opt. Comm. – 2001. – V. 197. – Р. 239-245. 

5. Garces-Chavez, V. Simultaneous micromanipulation 

in multiple planes using a selfreconstructing 

light beam [текст] / V. Garces- 

Chavez [and other] // Nature. – 2002. – V. 419. – 

Р. 145-147. 

109




elements [текст] / S.N. Khonina [and other] 

// J. Mod. Opt. – 2004. – V. 51(14). – P. 2167– 

2184. 

7. Методы компьютерной оптики 

[текст] / под ред. В.А.Сойфера. – М.: Физматлит, 

2003. – 688 с. 

8. Янке, Е. Специальные функции 

[текст] / Е. Янке, Ф. Эмде, Ф. Леш – М.: Наука, 

1968. – 344с. 

9. Котляр, В.В. Операторное описание 

параксиальных световых полей [текст] / 

References 

1. Soifer, V.A. Optical manipulation 

microobjects: achievements and the new possibilities 

generated by diffraction optics / 

V.A. Soifer, V.V. Kotlyar, S.N. Khonina // Physics 

of elementary particles and atomic nucleus. 

– 2004. – 35(6). – P. 1368-1432. – [in Russian]. 

2. MacDonald, R.P. Interboard optical 

data distribution by Bessel beam shadowing / 

R.P. MacDonald [and other] // Optics Communication. 

– 1996. – V.122. – Р. 169-177. 

3. Soroko, L.M. What does the term 

“light beam” mean? / L.M. Soroko // Рreprint of 

JINR, E13-99-226, Dubna, 1999. 

4. Arlt, J. Optical micromanipulation using 

Bessel light beams / J. Arlt [and other] // Opt. 

Comm. – 2001. – V. 197. – Р. 239-245. 

5. Garces-Chavez, V. Simultaneous micromanipulation 

in multiple planes using a selfreconstructing 

light beam / V. Garces-Chavez 

[and other] // Nature. – 2002. – V. 419. – Р. 145- 

147. 

В.В. Котляр, С.Н. Хонина, Я. Ванг // Компьютерная 

оптика. – 2001. – №21. – C. 45-52. 

10. Бахвалов, Н. С. Численные методы: 

учеб. Пособие [текст] / Н.С. Бахвалов, 

Н.П. Жидков, Г.М. Кобельков – М.: Наука, 

1987. – 600 с. 

11. Федорюк, М.В. Асимптотика: Интегралы 

и ряды [текст] / М.В. Федорюк – М.: 

Наука. – 1987. – 544 с. 

12. The computer in optical research. 

Methods and applications [текст] / Ed. by B.R. 

Frieden – Springer-Verlag, Berlin, 1980. 



elements / S.N. Khonina [and other] // J. 

Mod. Opt. – 2004. – V. 51(14). – P. 2167–2184. 

7. Methods of computer optics / edited 

by V.A. Soifer – Мoscow: “Fizmatlit”, 2003. – 


8. Janke, E. Special functions / 

E. Janke, F. Emde, F. Lesh – Мoscow: “Nauka” 

(Science), 1968. – 344 p. – [in Russian]. 

9. Kotlyar, V.V. The operational description 

paraxial light fields / V.V. Kotlyar, 

S.N. Khonina, Ja. Vang // Computer Optics. – 

2001. – N 21. – P. 45-52. – [in Russian]. 

10. Bahvalov, N.S. Numerical methods: 

the manual / N.S. Bahvalov, N.P. Gidkov, 

G.M. Kobeljkov – Мoscow: “Nauka” (Science), 

1987. – 600 p. – [in Russian]. 

11. Fedorjuk, M.V. Асимптотика: Интегралы 

и ряды / M.V. Fedorjuk – Мoscow: “Nauka” 

(Science), 1987. – 544 p. – [in Russian]. 

12. The computer in optical research. 

Methods and applications / Ed. by B.R. Frieden 

– Springer-Verlag, Berlin, 1980. 

110


EXAMINATION OF DISTORTION EFFECT ON MODE LASER BEAMS PROPERTIES 

A.O. Shevin 1 , S.N.Khonina 1,2 

1 S.P. Korolyov Samara State Aerospace University 

2 Institution of Russian Academy of Sciences, Image Processing Systems Institute RAS, 

Molodogvardeiskaya 151, Samara, 443001, Russia 

Self-reproducing Gauss-Laguerre, Gauss-Hermite and Bessel mode beams and their possibility for reconstruction 

after obstacle (opaque or transparent with refractive index n = 1,5) distortion are considered in that paper. Optically 

trapped particle as an obstacle is regarded. A comparative analysis of Gauss-Laguerre, Gauss-Hermite and Bessel 

modes and superposition beams capacity for reconstruction is conducted. 

Gauss-Laguerre, Gauss-Hermite and Bessel mode beams, optical manipulation, obstacle distortion, selfreproducing, 

reconstruction 


Хонина Светлана Николаевна, Самарский государственный аэрокосмический университет 

имени С.П. Королева, профессор кафедры «Техническая кибернетика»; Институт 

систем обработки изображений РАН, Самара, ведущий научный сотрудник, e-mail: 

khonina@smr.ru. Область научных интересов: дифракционная оптика, волоконная оптика, 

оптическая обработка сигналов и изображений. 

Шевин Андрей Олегович, Самарский государственный аэрокосмический университет 

имени С.П. Королева, аспирант. Область научных интересов: моделирование работы дифракционных 

элементов, программирование. 

Khonina Svetlana Nikolayevna, S.P. Korolyov Samara State Aerospace University, the professor 

of chair «Technical cybernetics»; Establishment of the Russian Academy of Sciences Image 

Processing Systems Institute of the RAS, Samara, Russia, the leading scientific employee, e-mail: 

khonina@smr.ru. Area of research: diffraction optics, fiber optics, optical processing of signals and 

images. 

Shevin Andrey Olegovich, S.P. Korolyov Samara State Aerospace University, the postgraduate 

student. Area of research: work modeling diffraction elements, programming. 

111


УДК 535.42 

ВЫБОР ГЕОМЕТРИЧЕСКИХ ПАРАМЕТРОВ ПРОФИЛЯ ГАЛОГЕНИДНОЙ 

АНТИОТРАЖАЮЩЕЙ РЕШЕТКИ С УЧЕТОМ ВОЗМОЖНОСТЕЙ 

ТЕХНОЛОГИИ ТРАВЛЕНИЯ 

© 2008 Ю.А. Орехова 1 , О.Ю. Моисеев 2 , Д.Л. Головашкин 2 



Работа посвящена изучению распространения лазерного излучения среднего ИК-диапазона через антиотражающий 

рельеф, сформированный на оптической поверхности (материал – галогениды серебра). Предложена 

новая технология формирования такого рельефа, позволяющая повысить его антиотражающие свойства. 

Теория эффективных сред, галогенидный ИК-волновод, технология плазмохимического травления 


Применение галогенидов серебра при 

изготовлении оптических волноводов открывает 

новые возможности по управлению 

лазерным излучением среднего ИК-диапазона. 

Низкая температура размягчения 

(190° С) галогенидов позволяет формировать 

на торцах волноводов дифракционные оптические 

элементы методом штамповки, не 

прибегая к более сложным и дорогостоящим 

технологиям [1]. При этом совмещение волновода 

и устройств ввода-вывода излучения 

снижает массогабаритные характеристики 

оптической системы и позволяет избежать 

дополнительных юстировок. 

Высокая оптическая плотность (n = 2,15 

в диапазоне 1 ≤ λ ≤ 20 мкм для состава AgCl 

– 25%, AgBr – 75%) материала обуславливает 

существенные потери на френелевское 

отражение от торца, что объясняет актуальность 

формирования на торце галогенидного 

волновода антиотражающей дифракционной 

решетки. На выбор геометрических параметров 

профиля такой решетки влияют как ее 

антиотражающие свойства, так и возможности 

технологии формирования. 

В настоящей работе представлено исследование 

зависимости антиотражающего 

эффекта от длины волны для рельефа, изготовленного 

по технологии плазмохимического 

травления, и предлагается модификация 

технологии, позволяющая дополнительно 

снизить потери на френелевское 

отражение. 

Математическая модель дифракции 

излучения на антиотражающих 

структурах 

Исследование антиотражающего эффекта 

методом вычислительного эксперимента 

уместно проводить в рамках теории 

эффективных сред, адекватной при условии 

λ > 1 

(1) 

Dn 

(случай нормального падения), где λ – длина 

волны падающего излучения, D – период антиотражающей 

структуры, n – оптическая 

плотность материала решетки. Соблюдение 

приведенного условия позволяет заменить 

при моделировании антиотражающую решетку 

на тонкопленочные покрытия по приведенной 

на рис. 1 методике. 

Согласно теории эффективных сред [2] 

диэлектрические проницаемости тонких 

пленок рассчитываются по выражениям: 

( ) 

( 1 ) 

ε 

TE 

= − f n + fn 

(2) 

0 2 2 

1 2 

( 0) 

ε = 

TM 

1 

1 − f / n + fn 

( ) 

( f ) 

2 

× − 

2 

2 2 

1 2 

; (3) 

3 

( 2) ( 0) 

⎡ π 

2 2 

ε 

TE 

= ε 

TE ⎢1 + ( n1 + n2 

) ( D / λ ) × 

⎣ 3 

f 

(4) 

2 

( αn 

−1) 

⎤ 

⎥ 

2 

+ α − ⎥ ⎦ 

1 ; 

1 f 1 

( n ) 

112


Рис. 1. Переход от бинарного и треугольного профиля антиотражающей решетки 

к тонкопленочному покрытию 

3 

( 2) ( 0) 

⎡ π 

2 2 

ε 

TM 

= ε 

TM ⎢1 + ( n1 + n2 

) ( D / λ ) × 

⎣ 3 

(5) 

2 

2 2 

1+ f α −1 

⎤ 

× f ( 1− f ) ( αn 

−1 ) 

⎥ , 

α − f α − ⎥ ⎦ 

2 

( n ) 

( n 

1) 

2 2 

n 

где n 1 , n 2 – оптические плотности сред, разделенных 

антиотражающим покрытием; f – 

коэффициент заполнения, равный отношению 

ширины ступеньки (случай бинарной 

решетки) к периоду; α n =n 2 /n 1 .Формулы (2), 

(3) относятся к теории эффективных сред 

нулевого порядка для случаев TE- и ТMволн, 

выражения (4), (5) являются их уточнениями 

в рамках теории второго порядка. 

Расчет антиотражающего эффекта при прохождении 

через набор тонких пленок производится 

с помощью метода матриц переноса [3]. 

Исследование дифракции света 

на антиотражающей структуре, 

сформированной с помощью технологии 

плазмохимического травления 

Технология формирования антиотражающей 

решетки на торце галогенидного 

волновода заключается в травлении матрицы 

с последующей штамповкой ее на торец [1]. 

Рельеф результирующей решетки при этом 

оказывается инверсным профилю матрицы. 

Ограничения, налагаемые традиционно 

используемой для формирования матрицы 

штамповки технологией плазмохимического 

травления, приводят к возможности формирования 

рельефа исключительно треугольного 

профиля с периодом 1 ≤ D ≤ 1,4 мкм 

(дальнейшее увеличение периода приводит к 

потере антиотражающих свойств в силу (1) и 

выбранного диапазона 3 ≤ λ ≤ 8 мкм), глубиной 

0 ≤ h ≤ 3 мкм при основании треугольника 

0,2 ≤ d ≤ 0,6 мкм (d = D - 0,8 мкм). 

Наилучшие результаты при моделировании 

были достигнуты для параметров 

D = 1,3 мкм, h = 1 мкм и d = 0,5 мкм (рис. 2). 

Однако и для них антиотражающий 

эффект в случае падения TM-волны выражен 

значительно слабее, чем для TE-волны. Причиной 

тому является ограничение на ширину 

основания треугольника: d = D - 0,8 мкм, определяемое 

линейным размером (слагаемое 

0,8 мкм) хромированной зоны на поверхности 

кварцевой пластины, из которой получается 

матрица штамповки. 

Исследование дифракции света 

на антиотражающей структуре, 

сформированной с помощью 

комбинированной технологии 

плазмохимического и химического 

травления 

Авторы настоящей работы предлагают 

комбинированную технологию формирования 

матрицы штамповки. Сначала наносится 

слой хрома указанной ширины и производится 

плазмохимическое травление до достижения 

значений h = 0,5 мкм и d = 0,5 мкм 

(рис. 3а). Затем поверхность подвергается 

жидкостному химическому травлению раствором 

плавиковой кислоты. Длительность 

травления подбирается таким образом, что 

глубина профиля достигает значения 

h = 1 мкм, при этом длина основания треугольника 

в силу равномерности травления 

по всем направлениям становится равной 

d = 1 мкм (рис. 3б). Период антиотражающей 

решетки остается неизменным D = 1,3 мкм. 

Хромированный слой предохраняет от подтрава 

верх матрицы. 

Представленные на рис. 4 результаты 

подтверждают целесообразность использования 

комбинации двух технологий травления. 

113


Рис. 2. Зависимость антиотражающего эффекта от типа волны 

(ТЕ – серые столбики, TM - черные) и длины волны при использовании технологии 

плазмохимического травления матрицы штамповки 

Рис. 3. Этапы комбинированной технологии формирования матрицы штамповки: 

плазмохимическое (а) и химическое (b) травление кварцевой пластины 

Рис. 4. Зависимость антиотражающего эффекта от типа волны 

(ТЕ – серые столбики, TM - черные) и длины волны при использовании комбинированной технологии 

плазмохимического и химического травления матрицы штамповки 

В отличие от результатов, представленных 

на рис. 2, антиотражающий эффект в 

данном случае выражен одинаково для TE- и 

TM-волн, что позволяет говорить о независимости 

эффективности исследуемой решетки 

от типа падающей волны. 

114



Работа выполнена при поддержке гранта 

CRDF, REC-SA-014-02 и гранта Президента 

РФ МД – 5303.2007.9. 

Выводы 

Комбинирование технологии плазмохимического 

и химического травления при 

формировании рельефа матрицы штамповки 

позволяет значительно расширить диапазон 

геометрических параметров треугольного 

профиля галогенидной антиотражающей решетки, 

в частности, обойти ограничение на 

ширину основания треугольника и сформировать 

решетку, характеризующуюся независимостью 

антиотражающего эффекта от 

типа электромагнитной волны. 

References 

1. Borodin, S.A. Formation and research 

a diffraction microrelief at an end face a halogenide 

IK-wave guide / S.A. Borodin [and 

other] // Computer Optics. – 2005. – N 27. – 

P. 45-49. – [in Russian]. 

2. Raguin, D.H. Diffraction analysis of 

antireflection surface-relief gratings on losslees 


1. Бородин, С.А. Формирование и исследование 

дифракционного микрорельефа 

на торце галогенидного ИК волновода 

[текст] / С.А. Бородин [и др.] // Компьютерная 

оптика. – 2005. – №27. – С. 45-49. 

2. Raguin, D.H. Diffraction analysis of 

antireflection surface-relief gratings on losslees 

dielectric surfaces [текст] / D.H. Raguin, 

G.M. Morris // JOSA technical Digest – 1990. – 

№ 15. – P. 122-123. 

3. Борн, М. Основы оптики: [текст] / 

М. Борн, Э. Вольф, пер. с англ. – М.:Наука, 

1973. – 720 с. 

dielectric surfaces / D.H. Raguin, G.M. Morris 

// JOSA technical Digest. – 1990. – N 15. – 

P. 122-123. 

3. Born, M. Optics bases / M. Born, 

E. Voljf, translation from English. – Мoscow: 

“Nauka” (Science), 1973. – 720 p. – [in Russian]. 

SELECTING THE GEOMETRY OF A HALOGENIDE ANTIREFLECTION GRATING 

PROFILE WITH REGARD FOR THE ETCHING TECHNOLOGY CAPABILITIES 

© 2008 Yu.A. Orekhova 1 , O.Yu. Moiseev 2 , D.L. Golovashkin 2 

1 S.P. Korolyov Samara State Aerospace University, 

2 Image Processing Systems Institute of the RAS 

This work studies the propagation of middle IR laser radiation through an antireflection relief fabricated on the 

optical surface (made of silver halogenide). A new technology of microrelief fabrication that allows its antireflection 

properties to be enhanced is proposed. 

Theory of effective media, halogenide Ir waveguide, plasmo-chemical etching technology 

Сведения об авторах: 

Орехова Юлианна Александровна, Самарский государственный аэрокосмический 

университет имени С.П. Королева, аспирантка кафедры «Техническая кибернетика». Область 

научных интересов: математическое моделирование в дифракционной оптике, вычислительная 

электродинамика. 

115


Моисеев Олег Юрьевич, Институт систем обработки изображений РАН, кандидат 

технических наук, старший научный сотрудник. Область научных интересов: технологии 

формирования поверхностных микроструктур, фотолитография, термохимическая запись. 

Головашкин Димитрий Львович, Самарский государственный аэрокосмический 

университет имени С.П. Королева, доктор физико-математических наук, доцент, профессор 

кафедры «Прикладная математика». Область научных интересов: дифракционная оптика, 

теория разностных схем, параллельные и векторные вычисления. 

Orekhova Yulianna Alexandrovna, S.P. Korolyov Samara State Aerospace University, a 

postgraduate student at Technical Cybernetics sub-department. Area of research: mathematical 

modelling in diffraction optics, computing electrodynamics. 

Moiseev Oleg Yurjevich, Image Processing Systems Institute of the RAS, Candidate of 

Technics, the senior scientific employee. Area of research: technologies of formation of superficial 

microstructures, a photolithography, thermochemical record. 

Golovashkin Dimitriy Ljvovich, S.P. Korolyov Samara State Aerospace University, the doctor 

of physical and mathematical sciences, works as a professor at SSAU's Applied Mathematics 

sub-department. Area of research: a diffraction optics, the theory of difference schemes, parallel and 

vector calculations. 

116


УДК 58 

МОДЕЛИРОВАНИЕ ВЛИЯНИЯ ПОКРОВНЫХ ТКАНЕЙ РАСТЕНИЯ 

НА ХАРАКТЕРСТИКИ РАССЕЯНОГО ОБРАТНОГО ИЗЛУЧЕНИЯ 

© 2008 И.А. Братченко, В.П. Захаров, Е.В. Тимченко 


Разработан алгоритм расчета обратного рассеяния оптического излучения растительной тканью с учетом 

характеристик покровных тканей. В качестве базового метода использован метод Монте–Карло. Статистические 

испытания были выполнены с помощью программного обеспечения TracePro Expert. Разработанная модель 

позволяет учитывать как неоднородность в распределении оптических характеристик растительной ткани, 

описывающую ее внутреннюю структуру, так и влияние структуры и формы поверхности на интегральные и 

дифференциальные свойства обратно рассеянного оптического излучения при его взаимодействии с листом 

растения. 

Растительная ткань, оптическое излучение, метод Монте-Карло, обратное рассеяние 

Исследование оптических параметров 

растительных тканей является важной задачей 

для понимания процессов, протекающих 

в растениях в ходе их жизнедеятельности. 

Следует также отметить, что изучение этих 

параметров является основой для интерпретации 

данных, полученных при помощи дистанционного 

оптического зондирования, 

обеспечивающего мониторинг состояния 

растений. 

Изучение оптических свойств листьев и 

механизмов поглощения ими света позволяет 

понять общие принципы усвоения солнечной 

энергии, механизмов фотосинтеза и адаптационных 

процессов в растениях [1]. В зависимости 

от окружающих условий изменяются 

геометрические размеры клеток, морфология 

ассимиляционных тканей, содержание 

и соотношение основных пигментов фотосинтеза 

(хлорофиллов и каротиноидов), различным 

образом организуются фотосинтетические 

мембраны (хлоропласты теневого и 

светового типа). 

Оптические спектры растений, содержащие 

разное количество основных пигментов, 

пригодны для регистрации изменений 

оптического состояния объекта, которое 

можно определить из измерений интенсивности 

рассеянного света. 

Современная техника позволяет регистрировать 

спектры отражения растений на 

значительном расстоянии, включая наблюдения 

из космоса. Представляются огромные 

возможности для глобальной оценки фотосинтетической 

продуктивности, для слежения 

за состоянием растительности в процессе 

развития под влиянием различных внешних 

факторов. Появилась возможность реализации 

метода объективного экологического 

мониторинга с выявлением факторов влияния 

различных компонент внешней среды. 

Правильная интерпретация экспериментальных 

данных невозможна без учета 

как собственно оптических параметров растительных 

сред, так и формы и структуры ее 

поверхности. Растительная ткань является 

оптически неоднородной многократно рассеивающей 

средой, в связи с чем значительную 

долю в регистрируемую интенсивность 

обратного рассеяния вносит диффузная составляющая 

из глубинных слоев исследуемого 

объекта. В то же время форма и состояние 

поверхности существенно влияют на 

диаграмму рассеяния. Аналогичный вклад 

вносят распределенные микроструктуры 

(эмиргенцы) на поверхности растения, в общем 

случае играющие роль поверхностных 

рассеивателей, что приводит к перераспределению 

диффузно рассеянного излучения 

из глубинных слоев растительной ткани. 

Форма и количество образований на 

поверхности листа растения довольно сильно 

различаются для различных видов растений, 

что также вносит ощутимый вклад в диаграмму 

рассеянного излучения. 

С учетом плоской геометрии листа растений 

с малой кривизной поверхности его 

математическая модель представлена в виде 

117


ряда плоскопараллельных слоев, оптические 

характеристики каждого из которых соответствуют 

биологической структуре растения 

[2]. Это позволяет учесть объемную оптическую 

неоднородность листа как многократно 

рассеивающей среды. Поверхностная оптическая 

неоднородность моделировалась либо 

тригонометрической функцией (модель «синуса»), 

либо в виде набора ориентированных 

поверхностных цилиндров (модель «цилиндров»), 

размеры и период которых соответствовали 

характерным размерам и положению 

эмиргенцев на поверхности листа. 

В качестве базового метода модели использовался 

статистический метод Монте- 

Карло [3]. Статистические испытания проводились 

в программной среде TracePro 

Expert [4]. В результате численных экспериментов 

проведено исследование сходимости 

данного метода для предложенной модели 

растения. На рис. 1 представлен характерный 

график сходимости численных результатов, 

полученный при моделировании распространения 

излучения в эпидермисе зеленого листа 

растения. Для других растительных сред 

полученные результаты качественно совпадали 

с приведенными на рис. 1. Это позволило 

сформулировать критерий сходимости 

и обеспечения необходимой точности вычислений: 

для обеспечения погрешности вычислений 

менее одного процента требуется, 

чтобы минимальное количество испытаний 

превышало значение 10 8 итераций. Но на 

практике такая точность требуется редко, и 

вполне удовлетворительные результаты (погрешность 

не более 3..5%) достигаются уже 

при 10 7 итераций. 

Рис. 1. Сходимость численных экспериментов в зависимости от числа испытаний N 

На рис. 2 представлены результаты 

численного моделирования спектрального 

распределения интенсивности обратного 

рассеяния от листа сенполии, полученные 

для данных, соответствующих экспериментальным 

условиям работы [2]: температура 

окружающей среды 300 К, общая толщина 

исследуемого объекта 135 мкм, источник излучения 

находился на расстоянии 4,5 мм 

под углом 85° к поверхности листа, приемник 

- на расстоянии 5 мм. Использовалась 

трехслойная модель листа: центральный 

слой 105 мкм, соответствующий паренхиме, 

и боковые слои эпидермиса по 15 мкм. Поверхностные 

структурные образования не 

учитывались. Оптические характеристики 

слоев задавались в виде матрицы, элементы 

которой покрывали спектральный диапазон в 

интервале от 400 до 750 нм. Видно, что полученное 

численное решение находится в 

118


удовлетворительном качественном согласии 

с экспериментальными данными. Количественные 

различия, по-видимому, связаны с 

упрощенной моделью слоев, не учитывающих 

столбчатую и губчатую составляющие 

паренхимы, а также проводящую систему 

листа (жилки). Видно, что расчетная спектральная 

интенсивность имеет экстремум в 

области 551 нм, что совпадает с максимум 

поглощения хлорофилла «а», характеристики 

которого использовались при построении 

матрицы оптических параметров слоев. Экспериментальное 

значение максимума интенсивности 

незначительно отличается (558 нм) 

и обусловлено как уширением линий хлорофилла 

в среде, так и наличием в фотосинтетическом 

аппарате растений хлорофиллов 

другой формы, отличающихся положением в 

мембране клетки и имеющих сдвинутые 

спектральные максимумы относительно хлорофилла 

«а». 

Для корректного расчета диаграммы 

рассеянного излучения необходимо учитывать 

поверхностные структурные неоднородности 

листа. Как и следовало ожидать, их 

учет слабо сказывается на величине интегральной 

спектральной интенсивности 

(рис. 3) ввиду их малой объемной плотности. 

В то же время диаграмма направленности и 

распределение интенсивности по сечению 

может меняться существенно. 

На рис. 4 приведены характерные радиальные 

распределения нормированной интенсивности 

обратного рассеяния. Для сравнения 

на графике также представлены распределения 

интенсивности для зеркальной 

(кривая 1) и ламбертовской (кривая 2) моделей 

поверхности, определяющих асимптотические 

теоретические границы возможных 

значений. Видно, что распределение интенсивности 

без учета поверхностной структуры 

объекта (кривая 3) имеет четко выраженный 

максимум. Это отражает тот факт, что 

наибольший вклад в интенсивность обратного 

рассеяния вносит эпидермис (первый 

приповерхностный слой). Учет структуры 

поверхности приводит к существенному перераспределению 

и сглаживанию максимума 

интенсивности. 

Другим фактором, влияющим на диаграмму 

направленности рассеянного излучения, 

является форма поверхности листа. На 

рис. 5 представлены численные результаты 

для различных моделей формы поверхности 

листа. Видно, что увеличение кривизны поверхности 

приводит к значительному сглаживанию 

диаграммы рассеяния, приводящему к 

квазиоднородному радиальному распределению 

интенсивности обратного рассеяния. 

1 – экспериментальные данные работы [2], 2 – численное решение 

Рис. 2. Спектр нормированной интенсивности обратного рассеяния I(λ) зеленого листа сенполии 

119


1 – гладкая поверхность без неоднородностей; 2 – модель «синуса» 

Рис. 3. Спектры нормированной интенсивности обратного рассеяния I(λ) 

для различных моделей поверхности 

1 - зеркальная поверхность, 2 – матовая поверхность, 3 – гладкая поверхность 

без неоднородностей, 4 – модель «синуса», 5 – модель «цилиндров» 

Рис. 4. Радиальное распределение нормированной интенсивности I(r) обратного рассеяния 

120


1 – неискривленная поверхность, 2 – поверхность с отрицательным радиусом кривизны, 

3 – поверхность с положительным радиусом кривизны 

Рис. 5. Радиальное распределение нормированной интенсивности I(r) обратного рассеяния 

для различных форм поверхности 

В целом разработанная математическая 

модель позволяет корректно определять и 

отслеживать изменения спектральных характеристик 

растения и делает возможным прогнозирование 

и интерпретацию результатов 

эксперимента. Расчетные данные могут быть 

использованы для анализа влияния внешних 

факторов на фотосинтетические процессы 

растений, выявлять заболевания и другие 

факторы, влияющие на процессы жизнедеятельности 

растений. 


1. Мерзляк, М.Н. Спектры отражения 

листьев и плодов при нормальном развитии, 

старении и стрессе [текст] / М.Н. Мерзляк // 

Физиология растений. − 1997. − Т 44, №5. − 

С. 707-716. 

2. Братченко, И.А. Экспериментальное 

исследование и математическое моделирование 

оптических характеристик растительной 

ткани [текст] / И.А. Братченко [и др.] // СНЦ 

РАН, 2007. 

3. Словецкий, С.Д. Моделирование распространения 

оптического излучения в 

сложной случайно-неоднородной среде методом 

Монте-Карло [текст] / С.Д. Словецкий 

// Радиотехника. – 1994. - №7. – С. 654-671. 

4. TracePro user’s manual supplement, release 

3.1. – Lambda Research Corporation, 

2005. 

References 

1. Merzlyak, M.N. Leafs and fruits reflection 

spectrum at normal growth, ageing and 

stress / M.N. Merzlyak // Plant physiology. − 

1997. − V. 44, N 5. − P. 707-716. − [in Russian]. 

2. Bratchenko, I.A. Experimental investigations 

and mathematical simulations of plant 

tissues optical characteristics / I.A. Bratchenko 

[and other] // Samara branch of Russian Academy 

of Sciences, 2007. − [in Russian]. 

3. Slovetskiy, S.D. Modelling of optical 

radiation propagation in complex is randomheterogeneous 

environment with Monte-Carlo 

method / S.D. Slovetskiy // “Radiotechnika” 

(Radioengineering). − 1994. – N 7. – P. 654- 


4. TracePro user’s manual supplement, 

release 3.1. – Lambda Research Corporation, 

2005. 

121


MODELING OF PLANT INTEGUMENTARY TISSUE INFLUENCE 

ON BACKSCATTERED RADIATION 

© 2007 I.A. Bratchenco, V.P. Zaharov, E.V. Timchenko 


In present work the algorithm of integumentary plants fabric visualization, and also superficial 

phytogenesis formations, is developed. As a base method was used method Monte-Carlo. Statistical 

tests were made in program environmental TracePro Expert. The received scheme allows to consider 

influence of surface structure and form on integrated and differential properties of backscattered 

optical radiation, at interaction with a plant leaf. 

Vegetative fabric, optical radiation, method of Monte-Carlo, return dispersion 


Братченко Иван Алексеевич, Самарский государственный аэрокосмический университет 

им. С.П. Королева, студент 6 курса факультета информатики, специальность «Прикладная 

математика и физика», ud_liche@mail.ru . Область научных интересов: оптические 

свойства биологических тканей. 

Захаров Валерий Павлович, Самарский государственный аэрокосмический университет 

им. С.П. Королева, профессор кафедры Автоматизированных систем энергетических установок, 

доктор физико-математических наук, zakharov@ssau.ru . Область научных интересов: 

физика плазмы, нелинейная оптика, взаимодействие лазерного излучения с биообъектами, 

медицинская лазерная техника. 

Тимченко Елена Владимировна, Самарский государственный аэрокосмический университет 

им. С.П. Королева, аспирант кафедры Автоматизированных систем энергетических 

установок, vorobjeva.82@mail.ru . Область научных интересов: оптические методы диагностики, 

исследование взаимодействия низкоинтенсивного лазерного излучения с биологическими 

объектами. 

Bratchenko Ivan Alexeevich, S.P. Korolyov Samara State Aerospace University, 6-th course 

student, 6-th faculty, (“applied mathmatics and physics” specialization), ud_liche@mail.ru . Area of 

research: optical properties of biological tissues. 

Zaharov Valeria Pavlovich, S.P. Korolyov Samara State Aerospace University, professor of 

faculty of the Automatic systems of the energy devices, the doctor of physical and mathematical 

sciences, zakharov@ssau.ru . Area of research: a physics of plasma, nonlinear optics, interaction of 

laser radiation with biological objects, the medical laser technology. 

Timchenko Elena Vadimirovna, S.P. Korolyov Samara State Aerospace University, engineer, 

3-rd course postgraduate student, vorobjeva.82@mail.ru . Area of research: an optical diagnostics 

methods, investigation of the interaction low-lewel laser radiation with biological objects. 

122


УДК 535(075) 

ПРИМЕНЕНИЕ МЕТОДА КОНТРОЛЬНОГО ОБЪЕМА ДЛЯ РАСЧЕТА 

ТЕМПЕРАТУРНОГО ПОЛЯ ПРИ ЛАЗЕРНОМ ВОЗДЕЙСТВИИ 

© 2008 С.П. Мурзин, А.В. Меженин, Е.Л. Осетров 


Проведен расчет температурного поля в пластине из листового титанового сплава ОТ4-1 методом контрольного 

объема. Показано, что при выбранных распределении мощности поверхностного энергетического 

источника и скорости перемещения технологического объекта формирующееся температурное поле достаточно 

однородно. Результаты расчета удовлетворительно коррелируют с результатами экспериментальных исследований 

(погрешность составляет 10-15%). Полученные данные могут использоваться при выборе режимов термообработки 

титановых сплавов полосовыми энергетическими источниками. 

Титановый сплав, распределение мощности, энергетический источник, метод контрольного объема, 

температурное поле, лазерное воздействие, физико-механические свойства, термообработка 

Лазерное излучение с высокой эффективностью 

применяется в технологии обработки 

материалов для сварки, резки, термообработки 

и т.д. При лазерном воздействии 

наиболее существенными факторами, влияющими 

на физико-механические свойства 

материалов, являются значения максимальных 

температур и скорости нагрева и охлаждения. 

Для расчета температурных полей 

при лазерной обработке материалов используют 

аналитические и численные методы 

[1-3]. При использовании аналитических методов 

все случаи нагрева материалов лазерным 

излучением сводятся к трем основным 

схемам, учитывающим основные особенности 

этого процесса: тонкая пластина, полубесконечное 

тело, многослойные системы. 

Приближенные аналитические решения 

дифференциальных уравнений теплопроводности 

могут использоваться в относительно 

простых схематизированных моделях для 

проведения качественного и приближенного 

количественного анализа тепловых явлений. 

Возрастающие возможности вычислительных 

средств обуславливают широкое применение 

численных методов решения нестационарных 

трехмерных задач нелинейной теплопроводности. 

В работах [4, 5] рассмотрены особенности 

постановки таких задач, а для численного 

анализа рекомендуется использовать метод 

конечных разностей. При повышении точности 

расчета по методике, приведенной в работе 

[5], объем вычислений значительно возрастает, 

что требует больших затрат времени и 

существенного увеличения объема оперативной 

памяти вычислительных средств. 

Значительно ускорить расчеты при экономии 

ресурсов памяти персонального компьютера 

позволяет метод контрольного объема. 

Одним из важных свойств этого метода 

является точное интегральное сохранение величины 

энергии на всей расчетной области 

при любом минимальном числе узловых точек. 

Метод контрольного объема может быть 

реализован, например, в программном комплексе 

STAR-CD, рассчитанном на применение 

в рамках интегрированной САЕ-среды [6]. 

При расчете температурного поля в материале 

используем дифференциальное 

уравнение теплопроводности, записанное в 

подвижной системе координат с соответствующими 

начальными и граничными условиями: 

∂ ⎛ ∂T 

⎞ ∂ ⎛ ∂T 

⎞ 

⎜ k ( T ) ⎟ + ⎜ k ( T ) ⎟ + 

∂x ⎝ ∂x ⎠ ∂y ⎝ ∂y 

⎠ 

∂ ⎛ ∂T ⎞ ⎛ ∂T ∂T 

⎞ 

+ ⎜ k T ⎟ − cV 

T ⎜ − υ ⎟ = 

∂z ⎝ ∂z ⎠ ⎝ ∂t ∂y 

⎠ 

( ) ( ) 0 ; 

0 

(1) 

T ( x, y, z, t = 0) = T ( x, y, z) 

; (2) 

при ( x, y) ∈ϕ , z = 0 : 

∂T 

; (3) 

− k( T) = A( T ) q( x, y); 

∂z 

при ( x, y) ∉ϕ , z = 0 : 

∂T 

− k( T ) = α( T)( T −T0 

) . 

∂n δ 

S 

S 

(4) 

123


Проведем расчет температурного поля 

в пластине из листового титанового сплава 

ОТ4-1 толщиной 2 мм, которая перемещается 

с постоянной скоростью υ = 0,6·10 -2 м/с в 

положительном направлении оси Oy в системе 

координат (x, y, z), помещенной в центр 

энергетического источника мощностью Q = 

450 Вт. На поверхность объекта воздействует 

полосовой энергетический источник с постоянным 

во времени пространственным 

распределением мощности, который занимает 

область ϕ на поверхности исследуемого 

объекта, ограниченную прямыми: x = − a 2 ; 

x = a 2 ; y = − b 2; y = b 2 , где a, 

b – длина 

и ширина области ϕ соответственно. Распределение 

мощности энергетического источника 

определяется выражением [7]: 

⎧A( T ) q( x, y) при x ∈ ⎡−a 

; a ⎤ 

⎪ 

⎣ 2 2 ⎦ 

⎪ 

и y ∈ ⎡−b 

; b ⎤ 

⎪ ; 

⎣ 2 2⎦ 

q = ⎨ 

(5) 

⎪0 при x ∉ ⎡−a 

; a ⎤ 

⎪ 

⎣ 2 2⎦ 

⎪ и y ∉ ⎡−b 

; b ⎤ . 

⎩ ⎣ 2 2 ⎦ 

Представим q( x, y) 

в виде уравнения 

0 n1 n1 

−1 2 

1 0 n2 n2 

−1 

2n 

2( n−1) 4 

q( x, y) = q ⋅ ( a x + a x + ... + a x + 

2 2m 

2( m−1) 

+ a x + a ) ⋅ ( b y + b y + ... + 

4 2 

+ b y + b y + b ) ⋅ν( x, y) , 

2 1 0 

где q 

0 

– плотность мощности в центре энергетического 

(6) 

источника; 

−3 

x x / (10 м) 

= , 

−3 

y = y / (10 м) – безразмерные координаты; 

a , a , ... , a , a , a ; 

n1 n1 − 1 2 1 0 

b , b , ... , b , b , b 

n2 n2 − 1 2 1 0 

– коэффициенты полиномов; 

n 

1 

, n 

2 

– целые числа; ν ( x, y) 

– дополнительная 

функция. 

Задача нахождения распределения 

мощности воздействующего энергетического 

источника, входящего в граничные условия 

второго рода, является некорректной. Она 

решается методом подбора, подробно описанным 

в работе [8], заключающимся в решении 

прямых задач с итерациями на каждом 

шаге. Условием окончания итераций является 

совпадение с требуемой точностью 

заданного и полученного на k -той итерации 

температурных полей, определяемых дискретными 

значениями температур в точках 

исследуемого объекта. Таким образом, находим: 

-7 

10 

q( x, y) q0 

( 2,4568 10 x 

-5 

8 

-4 

6 

+ 2,5128⋅10 x − 7,7806⋅ 10 x + 

-3 

4 

-2 

2 

+ 6,8237⋅10 x −1,7760⋅ 10 x + 

6 4 

+ 1,0142) ⋅( − 1,0086y 

+ 2,7886y 

− 

2 

2 

2,7350 0,9967) [ Вт м ] 

− y + 

= ⋅ − ⋅ + 

при q 0 

=3,7752·10 7 Вт/м 2 ; 

−3 −3 

x ∈[ −6,8⋅10 м; 6,8⋅ 10 м] ; 

(7) 

−3 −3 

y ∈[ − 10 м; 10 м] . 

Плотность мощности задаем в виде 

таблицы значений функции q( x, y ) , представленной 

уравнением (3). Эффективный 

коэффициент поверхностного поглощения 

лазерного излучения определяем для поглощающего 

покрытия на основе метилцеллюлозы 

и силиката натрия толщиной δ покр ≈ 40 

мкм, рекомендуемого для применения при 

лазерной термообработке металлических 

сплавов [1]. Зависимость данного коэффициента 

от температуры является линейно убывающей 

от 0,95 при T 0 

= 293 К с коэффициентом 

–2,7·10 -4 К -1 . 

Форма технологического объекта из 

однородного материала такова, что его ширина 

H1 

и толщина H 

2 

не изменяются вдоль 

траектории движения источника. В этом 

случае при длительном действии движущегося 

энергетического источника с неизменным 

распределением мощности процесс распространения 

тепла стремится к предельному 

квазистационарному состоянию [5]. Связанное 

с энергетическим источником подвижное 

температурное поле не изменяется со временем, 

а только перемещается вместе с источником. 

В период теплонасыщения, то есть от 

начала действия источника до установления 

предельного квазистационарного состояния, 

температура T ( t) 

произвольной точки иссле- 

124


дуемого объекта в подвижной системе координат, 

связанной с энергетическим источником, 

возрастает от T 0 

= 293 K до температуры 

предельного состояния T ï ð 

, которое наступает 

теоретически при бесконечно длительном действии 

источника t → ∞ . 

Если металлический сплав не испытывает 

полиморфных превращений, то зависимости 

от температуры коэффициента теплопроводности 

k и удельной объемной теплоемкости 

c V 

носят плавный монотонный характер 

и могут быть описаны квадратичными 

полиномами. Для технологических объектов, 

при нагреве которых происходит 

структурное превращение, значения c 

V 0 

, c 

V 1, 

cV 2 

задаются различными для каждого из 

структурных состояний. При проведении 

расчетов значения теплофизических свойств 

материала можно задать в табличном виде. В 

этом случае значение параметра внутри интервала 

температур определяется линейной 

или квадратичной интерполяцией. При решении 

нелинейной задачи на каждом шаге 

расчета значения коэффициента теплопроводности 

k и удельной объемной теплоемкости 

ñ V 

для конечных контрольных объемов 

уточняются в цикле прямых итераций. 

Начальная температура объекта 

T 

0 

= 293 K. Количество тепла, выделяемого 

объектом в окружающую среду, задается коэффициентом 

теплового сопротивления границы 

раздела двух сред R , который в случае 

принятой схемы нагрева принимает вид: 

R = 1 α 

1 

+ 1 α 

2 

, где α1 

− коэффициент полной 

поверхностной теплоотдачи воздуха, α2 

− коэффициент полной поверхностной теплоотдачи 

титанового сплава ОТ4-1. 

На рис. 1 представлены результаты 

расчета температурного поля квазистационарного 

состояния для точек на глубине 

z = H 2 

= 2·10 -3 м исследуемого технологического 

объекта. 

При выбранных значениях скорости 

движения, величины и распределения мощности 

поверхностного источника для точек 

исследуемого объекта, принадлежащих 

−3 −3 

x ∈[ −6,8⋅10 м; 6,8⋅ 10 м] , выполняется условие 

max [ T ( x, y, z) ] 

−3 

z= H2 = 2⋅10 м y 

≥ (0,93...0,95) max[ T( x, y, z) ] . 

≥ 

z= 

0 y 

(8) 

Рис. 1. Температурное поле на глубине z = H 

2 

= 2·10 -3 м технологического объекта из листового титанового 

сплава ОТ4-1, формирующееся при движении поверхностного энергетического источника (3) 

мощностью Q = 450 Вт ( q 

0 

=3,7752·10 7 Вт/м 2 ) с постоянной линейной скоростью υ = 0,6·10 -2 м/с 

125


Вследствие достаточно низкой теплопроводности 

титановых сплавов лазерная 

обработка с обеспечением условия относительно 

равномерного прогрева по толщине 

листового материала (8) может быть реализована 

в основном для тонких заготовок 

толщиной до H 

2 

= (3…4)·10 -3 м. Максимальная 

температура T вдоль линии перемещения 

энергетического источника имеет место 

при y ≈ 1,08⋅10 -3 м, т.е. через t ≈ 0,18 с после 

прохождения центра источника над расчетной 

точкой. При воздействии энергетического источника 

(3) величина максимальной температуры 

в центре зоны термического влияния 

равна max[ T ( x = 0, y , z ) ] = 1134 K. 

z= 

H2 

y 

Результаты расчета скоростей нагрева 

и охлаждения рассматриваемого технологического 

объекта приведены на рис. 2. Максимальная 

скорость нагрева точек на обратной 

стороне технологического объекта составляет 

υí 

≈ 2,5⋅10 3 K/с. Скорость охлаждения 

в диапазоне значений температур от 

T = 1050 K до T = 770 K составляет 

υохл 

≈ 10 2 …4⋅10 2 K/с. Наиболее интенсивно 

прогреваются области, лежащие вблизи центра 

энергетического источника. Кривые, характеризующие 

скорость нагрева областей, 

удаленных от центра лазерного воздействия, 

имеют значительно более пологие максимумы. 

Динамика кривых охлаждения такова, 

что центральная зона технологического объекта 

охлаждается практически с постоянной 

скоростью, в то время как скорость теплоотвода 

по краям зоны энергетического воздействия 

возрастает с течением времени. При 

таких условиях отжига в центральной области 

зоны термического влияния материал изменяет 

исходную волокнистую структуру на 

зернистую, представленную α -фазой и небольшим 

количеством β -фазы. Такая термообработка 

обеспечивает улучшение штампуемости 

листового конструкционного материала 

при гибке. 

а 

Рис. 2. Скорости нагрева υ н 

(а) и охлаждения υ 

охл 

(б) на глубине z = H 

2 

= 2·10 -3 м технологического объекта 

из листового титанового сплава ОТ4-1. x , 10 -3 м: 1 – 0; 2 – 2; 3 – 4; 4 – 6; 5 – 8. 

t 

пр 

– момент прохождения центральной части лазерного пятна над расчетным сечением 

б 

Результаты расчета максимальных 

температур, достигаемых на глубине 

z = H 2 


из титанового сплава ОТ4-1 вдоль линии 

движения энергетического источника (3) 

приведены на рис. 3. До максимальных температур 

свыше 1100 K прогревается область 

x ≈ ± 3 мм. Эта область определяет зону максимального 

термического воздействия на 

технологический объект. Изотермы максимальных 

температур, достигаемых в начале 

действия поверхностного энергетического 

источника (3) в ходе термических циклов на- 

126


грева на глубине z = H2 

= 2·10 -3 м исследуемого 

объекта представлены на рис. 4. При 

x = ± 4·10 -3 м: 

−3 

[ ( 4 10 м , , ) ] 

z= h y 

δ 

max T x = ± ⋅ y z = 1074 K. 

Ширина изотермы T = 1050 K составляет 

= 8,43·10 -3 м. Технологический 

b 

T = 1050 K 

объект подвергается достаточно равномерному 

термическому воздействию не только 

по ширине зоны термического влияния, но в 

направлении оси, вдоль которой происходит 

перемещение. 

Рис. 3. Максимальные температуры, достигаемые 

в ходе термических циклов нагрева на глубине 

z = H 2 


из листового титанового сплава ОТ4-1 вдоль линии 

движения энергетического источника мощностью 

Q = 450 Вт, q 

0 

= 3,7752·10 7 Вт/м 2 с постоянной 

линейной скоростью υ = 0,6·10 -2 м/с 

Результаты расчета температурного 

поля в обрабатываемом материале при воздействии 

движущегося со скоростью υ = 

0,6·10 -2 м/с распределенного поверхностного 

источника энергии для конструкционного 

титанового сплава ОТ4-1 удовлетворительно 

коррелируют с результатами экспериментальных 

исследований (погрешность составляет 

10-15%). 


Рис. 4. Изотермы максимальных температур, 

достигаемых в начале действия энергетического 

источника (3) в ходе термических циклов нагрева 

на глубине z = H 

2 

= 2·10 -3 м исследуемого объекта 

из листового титанового сплава ОТ4-1. Скорость 

движения энергетического источника (3) – 

υ = 0,6·10 -2 м/с. Т, К: 1 – 500; 2 – 700; 3 – 900; 4 – 1100. 

(XOY – система координат, связанная с объектом) 

Построена математическая модель 

формирования температурных полей в зоне 

обработки для движущегося полосового 

энергетического источника. На основании 

дифференциального уравнения теплопроводности 

проведен расчет температурного 

поля, формирующегося в титановом сплаве 

ОТ4-1 с учетом реальной геометрии технологического 

объекта. Для решения дифференциального 

уравнения теплопроводности 

проведена его дискретизация методом контрольного 

объема. 

Результаты расчета позволили определить 

распределение температуры по поверхности 

технологического объекта, а также установить, 

что формирующееся температурное 

поле достаточно однородно по всей длине 

излучения полосового энергетического 

источника, за исключением переходных зон 

вблизи краев (±1…2)·10 -3 м. Взаимное перемещение 

источника излучения и технологического 

объекта при низкой теплопроводности 

титанового сплава ОТ4-1 приводит также 

к однородности температурного поля в поперечном 

направлении. Обработка поверхности 

полосовым энергетическим источником 

имеет ряд технологических преимуществ. 

В этом случае, как показывают расче- 

127


ты, отдельные зоны лазерного воздействия, в 

которых достигается одна и та температура 

располагаются параллельно поверхности. То 

есть, полосовой тепловой источник позволяет 

обеспечить наиболее однородное распределение 

температуры по обработанной поверхности. 


1. Технологические лазеры: Справочник: В 

2 т. Т. 1: Расчет, проектирование и эксплуатация 

[текст] / Под ред. Г.А. Абильсиитова 

– М.: Машиностроение, 1991. – 

432 с. 

2. Гуреев, Д.М. Основы физики лазеров и 

лазерной обработки материалов. [текст] / 

Д.М. Гуреев, С.В. Ямщиков – Самара, 

2001. – 392 с. 

3. Патанкар, С. Численные методы решения 

задач теплообмена и динамики жидкости 

[текст] / С. Патанкар – М.: Энергоатомиздат, 

1984. – 152 с. 

4. Лазерная техника и технология. В 7 кн. 

Кн. 6. Основы лазерного термоупрочнения 

сплавов: Учеб. пособие для вузов 

[текст] / Под ред. А.Г. Григорьянца – М.: 

Высш. шк., 1988. – 159 с. 

5. Григорьянц, А.Г. Основы лазерной обработки 

материалов. [текст] / А.Г. Григорьянц 

– М.: Машиностроение, 1989. – 

304 с. 

6. Руководство по применению STAR-CD 

version 3.10B (Вводный курс). [текст] – 

М.: CAD-FEM, 2001. – 882 с. 

7. Мурзин, С.П. Расчет пространственного 

распределения мощности лазерного излучения 

для формирования требуемого 

энергетического воздействия [текст] / 

С.П. Мурзин, С.Ю. Клочков // Известия 

Самарского научного центра РАН. − 2005. 

– Т. 7, № 2. – С. 483-488. 

8. Алифанов, О.М. Обратные задачи теплообмена 

[текст] / О.М. Алифанов – М.: 

Машиностроение, 1988. – 280 с. 

References 

1. Technological lasers: Reference book: 

In 2 volumes. V. 1: Calculation, design and operation 

/ G.A. Abil’siitov [and other], edited by 

G.A. Abil’siitov – Moscow: “Mashinostroenie” 

(Mechanical engineering), 1991. – 432 p. – [in 

Russian]. 

2. Gureyev, D.M. Laser physics and laser 

material processing principles: school book / 

D.M. Gureyev, S.V. Yamtschikov. – Samara: 

Publishing house “Samarskii universitet”, 2001. 

– 392 p. – [in Russian]. 

3. Patankar, S. Numerical calculations 

of heat exchange and liquid dynamics tasks solution 

/ S. Patankar, translated from English – 

Moscow: “Energoatomizdat”, 1984. – 152 p. – 

[in Russian]. 

4. Laser technics and technology. In 7 

books. – Book 6: Laser alloy termostrength 

principles: School-book for institutes of higher 

education / A.G. Grigoryants, A.N. Safonov; edited 

by A.G. Grigoryants // Moscow: “Vysshaya 

Shkola” (The higher school), 1988. – 159 p. – 

[in Russian]. 

5. Grigoryants, A.G. Laser material 

processing principles / A.G. Grigoryants – Moscow: 

“Mashinostroyenie” (Mechanical engineering), 

1989. – 304 p. – [in Russian]. 

6. Guide by application STAR-CD version 

3.10B (Propaedeutics) – Moscow: CAD- 

FEM, 2001. – 882 p. 

7. Murzin, S.P. Calculation of laser radiation 

special power distribution for forming 

requisite energy impact / S.P. Murzin, S.Yu. 

Clochkov // “Izvestiya Samara Scientific Center 

of RAS”. − 2005. – V. 7, N 2. – P. 483-488. – 

[in Russian]. 

8. Alifanov, O.M. Heat exchange inverse 

problems / O.M. Alifanov – Moscow: “Yevrazija” 

(Eurasia), 1988. – 280 p. – [in Russian]. 

128


USE OF CONTROL VOLUME METHOD FOR THE TEMPERATURE 

FIELD CALCULATION BY LASER INFLUENCE 

©2007 S.P. Murzin, A.V. Mezhenin, E.L. Osetrov 


The temperature field calculation for the plate of sheet titanium alloy ОТ4-1 has been carried out by control volume 

method. It is shown that the forming temperature field is enough uniformly at the selected power distribution of 

surface energy source and technological object conveying speed. The calculation results correlate satisfactorily with results 

of experimental study (error is about 10-15%). The received data can be used at the thermal processing modes 

choise of titanium alloys by strip energy sources. 

Titanium alloy, power distribution, energy source, check volume method, temperature field, laser impact, physicomechanical 

characteristics, thermal processing 


Мурзин Сергей Петрович, Самарский государственный аэрокосмический университет 

им. С.П. Королева, профессор, доктор технических наук, доцент, murzin@ssau.ru . Область 

научных интересов: взаимодействие лазерного излучения с веществом, нанотехнологии. 

Меженин Андрей Викторович, Самарский государственный аэрокосмический университет 

им. С.П. Королева, аспирант, murzin@ssau.ru . Область научных интересов: взаимодействие 

лазерного излучения с веществом, нанотехнологии. 

Осетров Евгений Леонидович, Самарский государственный аэрокосмический университет 

им. С.П. Королева, студент, murzin@ssau.ru . Область научных интересов: взаимодействие 


Murzin Serguey Petrovich, S.P. Korolyov Samara State Aerospace University, professor, 

Dr. Sci. Tech., reader, murzin@ssau.ru . Area of research: interaction of laser radiation with matter, 

nanotechnology. 

Mezhenin Andrey Victorovich, S.P. Korolyov Samara State Aerospace University, postgraduate, 

murzin@ssau.ru . Area of research: interaction of laser radiation with matter, nanotechnology. 

Osetrov Evgeniy Leonidovich, S.P. Korolyov Samara State Aerospace University, student, 

murzin@ssau.ru . Area of research: interaction of laser radiation with matter, nanotechnology. 

129


УДК 535(075) 

РАЗУПРОЧНЕНИЕ ЗАГОТОВОК ИЗ НИЗКОЛЕГИРОВАННЫХ 

ТИТАНОВЫХ СПЛАВОВ ЛАЗЕРНЫМ ОТЖИГОМ 

© 2008 С.П. Мурзин, В.И. Трегуб, А.В. Меженин, Е.Л. Осетров 


Проведены экспериментальные исследования условий снятия наклепа и образования рекристаллизованной 

структуры с помощью лазерного нагрева, которые показали возможность протекания этих процессов в 

диапазоне температур рекристаллизации низколегированных титановых сплавов. Исследования свойств обработанных 

материалов показали, что применение лазерного отжига для местного разупрочнения перед формообразованием 

заготовок из металлических сплавов позволяет повысить точность изготовления деталей, уменьшить 

пружинение и радиусы гиба. 

Разупрочнение, низколегированный сплав, лазерный отжиг, формообразование, пружинение, радиус 

гиба, наклеп, рекристаллизационная структура 

С целью увеличения удельной прочности 

и жесткости изделий в штамповочном 

производстве деталей летательных аппаратов 

и их двигателей используют титановые сплавы. 

Средне- и высоколегированные титановые 

сплавы практически не поддаются холодному 

формообразованию из-за высокого сопротивления 

металла деформации, интенсивного упрочнения, 

склонности к растрескиванию и 

разрывам. Изготовление деталей проводят с 

нагревом заготовки на существующем в заготовительно-штамповочном 

производстве оборудовании 

традиционными и специальными 

приемами работы на специальной оснастке 

[1-3]. Нагрев заготовок проводится в электрических 

печах сопротивления, на установках 

радиационного и электроконтактного нагрева, 

а также кондукционным способом горячей оснастки. 

Низколегированные сплавы также 

имеют пониженные характеристики пластичности, 

что вызывает необходимость нагрева 

деформируемого металла. Наиболее важными 

специфическими особенностями, определяющими 

комплекс технологических свойств таких 

конструкционных материалов, наряду с 

ограниченными возможностями холодного 

деформирования являются их низкая теплопроводность 

и высокая активность взаимодействия 

с окружающей средой. Лазерный нагрев 

является более предпочтительным, так как он 

обеспечивает возможность значительного сокращения 

времени пребывания металла при 

температурах интенсивного окисления и газонасыщения 

поверхностных слоев. 

Целью данной статьи является определение 

возможности применения лазерного 

отжига для местного разупрочнения листовых 

заготовок из низколегированных титановых 

сплавов ОТ4 и ОТ4-1. 

Определение возможности применения 

лазерного отжига для разупрочнения 

низколегированных титановых сплавов 

Титановые сплавы ОТ4-1 и ОТ4 относятся 

к группе сплавов с преобладанием 

α-твердого раствора и небольшим количеством 

β -фазы (псевдо α-сплавы) и имеют 

температуру полиморфного превращения 

соответственно T α+β↔β 

= 1180 ÷ 1220 K и 

T α+β↔β 

= 1190 ÷ 1230 K . Применяются для 

сварных узлов, деталей (в том числе, тонкостенных) 

и изделий, длительно работающих 

при температурах до 570 К и при 620 К (до 

2000 час). Для низколегированных титановых 

сплавов формообразование с нагревом 

является основным способом формоизменения 

[3]. Эти сплавы имеют удовлетворительную 

технологическую пластичность в интервале 

температур 760…870 K для ОТ4-1 и 

820…970 K – для ОТ4. Однако при технологических 

нагревах в воздушной среде до 

температур выше 770 K на поверхностях заготовок 

образуются оксидные и газонасыщенные 

слои, снижающие эксплуатационную 

прочность деталей и ухудшающие 

штампуемость материала [1-2]. 

130


Проведены экспериментальные исследования 

условий снятия наклепа и образования 

рекристаллизованной структуры с помощью 

лазерного нагрева, которые показали 

возможность протекания этих процессов в 

диапазоне температур рекристаллизации 

(для сплава ОТ4-1: T 

ð. 

= 990...1110 K, а для 

сплава ОТ4: T 

ð. 

= 1030...1130 K). Лазерная 

обработка деталей выполнена на СО2- 

лазерном технологическом оборудовании 

ЛК-1300 “Хебр-1А”, “BYSTAR 2512” с излучателем 

BTL 1800. Определены параметры 

режима обработки: мощность лазерного излучения 

Q =450±5 Вт; скорость обработки 

υ=0,6±0,01 м/с. Для целенаправленного изменения 

пространственного распределения 

мощности воздействующего высокоинтенсивного 

лазерного излучения применялись 

системы транспортировки и формирования 

пучков излучения, включающие в свой состав 

модули дифракционной оптики (фокусаторы 

излучения) [4-5]. На рис. 1 представлена 

структура листового низколегированного 

титанового сплава ОТ4-1 толщиной δ = 

2·10 -3 м после проведения лазерного отжига. 

Исходный материал имеет волокнистую 

структуру. Зона отжига имеет зернистую 

структуру, представленную α -фазой и небольшим 

количеством β -фазы. При лазерном 

отжиге происходит рекристаллизация 

деформированной структуры, а также распад 

метастабильных фаз с образованием стабильной 

рекристаллизованной структуры. 

Рис. 1. Структура листового титанового сплава ОТ4-1 после лазерного отжига: 

1 – зона отжига; 2 – исходная структура, увеличение ×300 

Исследование свойств 

обработанных материалов 

Для определения предельного относительного 

удлинения, характеризующего пластичность 

сплавов, проведены испытания на 

растяжение образцов из листового материала 

ОТ4-1 толщиной δ = 2·10 -3 м. Получены следующие 

результаты: относительное удлинение 

после разрыва до лазерного отжига имело 

значение 8,2 % (7,4…8,9 %), а после лазерного 

отжига – 21,5 % (18,5…23,5 %), т.е. 

повышение предельного относительного удлинения 

после лазерного отжига составляет 

10…15 %. 

Проведены испытания на изгиб образцов 

из листовых титановых сплавов. Оценка 

предельного угла изгиба осуществлялась на 

испытательной машине усилием 20 тс при 

плавном увеличении нагрузки на образец до 

появления на нем первой трещины. Радиус 

закругления опор rЗ . О. 

и диаметр закругления 

оправки dЗ. 

О. 

устанавливались в соответствии 

с требованиями ГОСТ [6-7], и для листов 

из ОТ4-1 и ОТ4 толщиной δ = 2·10 -3 м их 

значения составляли: r 

З. 

О. 

= 15·10-3 м; d 

З. 

О. 

= 

6·10-3 м. В результате проведенных испытаний 

были получены следующие результаты: 

предельный угол изгиба до лазерного отжига 

не превышал 1,13…1,29 рад для ОТ4-1 и 

0,95…1,06 рад для ОТ4, после лазерного отжига 

составил 1,8…1,94 рад для ОТ4-1 и 

1,47…1,62 рад для ОТ4. Таким образом, повышение 

предельного угла изгиба после лазерного 

отжига составляет 50…60 % для 

ОТ4-1 и ОТ4. 

131


Применение лазерного отжига обеспечивает 

повышение предельного относительного 

удлинения на 10…15 %, увеличение 

предельного угла изгиба при холодном деформировании 

листовых деталей из низколегированных 

титановых сплавов ОТ4 и ОТ4-1 

на 50…60 %, что предоставляет возможность 

проводить их формообразование без дополнительного 

подогрева. 

Точность штампованных деталей зависит 

от большого числа факторов, являющихся 

причиной образования погрешностей. Такими 

факторами являются: тип штампа и 

способ фиксации заготовки, точность изготовления 

штампа и его износ, структура технологического 

процесса, т.е. количество и 

последовательность операций, с увеличением 

числа которых происходит накопление 

погрешностей и т.д. При гибке точность в 

значительной степени обуславливается упругими 

и пластическими свойствами материала, 

определяющими величину упругих 

деформаций (упругого пружинения, выражаемого 

в угловом измерении) и вызывающими 

у изготовленных деталей погрешности 

линейных размеров [8]. 

Для оценки угла пружинения проведены 

сравнительные испытания деталей из 

сплава ОТ4-1 толщиной δ = 2·10 -3 м, угол 

гиба составлял α =0,52 рад. Опытные образцы 

изготавливались с локальным лазерным 

отжигом места гиба по разработанной схеме. 

Контрольные образцы изготавливались из 

материала той же партии, их гибка осуществлялась 

по базовой технологии с одной установки 

гибочного приспособления. В результате 

проведенных испытаний угол пружинения 

образцов без лазерного отжига места гиба 

имел значение 5,2·10 -2 рад, с локальным 

лазерным отжигом места гиба – 2,8 

(2,6…3,0). Применение локального лазерного 

отжига обеспечивает снижение угла пружинения 

при гибке деталей из низколегированного 

титанового сплава на 40…50 %. 

Проводилось сравнение усталостной 

прочности деталей, изготовленных по серийной 

технологии и с применением лазерного 

отжига. Испытания осуществлялись по 

первой форме колебаний свободной детали 

методом ступенчатого нагружения при температуре 

T =293 K, база испытаний составляла 

n 

0 

= 5·10 6 циклов. Сравнение выявило, 

что образцы деталей, изготовленных с применением 

лазерного отжига, не уступают серийным. 

Формирование зоны отжига переменной 

ширины предоставляет возможность 

штамповки деталей с переменным радиусом 

гиба. Перспективно применение в специализированном 

оборудовании совмещения газолазерной 

резки и формоизменяющих операций 

с технологической операцией лазерного 

местного подогрева. Схемы напряженного и 

деформированного состояний при различных 

формоизменяющих операциях различны, однако 

предложенный подход к разработке 

комбинированных технологических процессов 

совмещения операций лазерного отжига 

и штамповки можно с достаточной определенностью 

распространить на операции вытяжки, 

обжима, раздачи, формовки и т.д. Титановые 

сплавы применяют для изготовления 

рабочих лопаток осевых компрессоров 

газотурбинных двигателей. Известно, что 

равноосная глобулярная структура титановых 

сплавов обеспечивает максимальную 

выносливость, а структура игольчатого типа 

– максимальную жаропрочность. Создание 

структур в зависимости от назначения и 

условий работы деталей может быть дополнительным 

резервом повышения их надежности. 

Применение лазерного отжига для местного 

разупрочнения перед формообразованием 

заготовок из металлических сплавов 

позволяет повысить точность изготовления 

деталей, уменьшить пружинение и радиусы 

гиба. Межоперационный отжиг для снятия 

наклепа у сплавов, имеющих низкую степень 

критической деформации, также целесообразно 

проводить с применением лазерного 

нагрева. Ширина зоны отжига заготовки и ее 

расположение определяется точностью выполнения 

формоизменяющих операций и условием 

протекания деформации разрушения. 

Заданная ширина зоны обработки не может 

быть получена любым из способов местного 

нагрева кроме лазерного, поскольку они при 

передаче тепла не обладают высокой плотностью 

энергии. 

132



Проведены экспериментальные исследования 

условий снятия наклепа и образования 

рекристаллизованной структуры с 

помощью лазерного нагрева, которые показали 

возможность протекания этих процессов 

в диапазоне температур рекристаллизации 

(для сплава ОТ4-1: T 

р. 

= 990...1110 K, а 

для сплава ОТ4: T 

р. 

= 1030...1130 K). Определены 

параметры режима обработки: 

мощность лазерного излучения Q =450±5 

Вт; скорость обработки υ=0,6±0,01 м/с. 

Зона отжига имеет зернистую структуру, 

представленную α -фазой и небольшим количеством 

β -фазы. При лазерном отжиге 

происходит рекристаллизация деформированной 

структуры, а также распад метастабильных 

фаз с образованием стабильной 

рекристаллизованной структуры. 

Применение лазерного отжига обеспечивает 

повышение предельного относительного 

удлинения на 10…15 %, увеличение 

предельного угла изгиба при холодном 

деформировании листовых деталей из низколегированных 

титановых сплавов ОТ4 и 

ОТ4-1 на 50…60 %, что предоставляет возможность 

проводить их формообразование 

без дополнительного подогрева. Применение 

локального лазерного отжига обеспечивает 

снижение угла пружинения при 

гибке деталей из низколегированного титанового 

сплава на 40…50 %. 

References 

1. Bratukhin, A.G. Titanium airplane 

constructions production engineering / A.G. Bratukhin 

[and other] – Moscow: “Mashinostroyeniye” 

(Mechanical engineering), 1995. – 


2. Colachev, B.A. Titanium alloys in the 

design and manufacture of air-engines and aerospace 

equipment / B.A. Colachev [and other]; 

Edited by A.G. Bratukhin. – Moscow: Publishing 

house of MAI, 2001. – 412 p. – [in Russian]. 

3. Bratukhin, A.G. Blanking, welding, 


1. Братухин, А.Г. Технология производства 

титановых самолетных конструкций 

[Текст] / А.Г. Братухин [и др.] – М.: Машиностроение, 

1995. – 448 с. 

2. Колачев, Б.А. Титановые сплавы в 

конструкциях и производстве авиадвигателей 

и авиационно-космической технике [Текст] / 

Б.А. Колачев [и др.], под ред. А.Г. Братухина. 

– М.: Издательство МАИ, 2001. – 412 с. 

3. Братухин, А.Г. Штамповка, сварка, 

пайка и термообработка титана и его сплавов 

в авиастроении [Текст] / А.Г. Братухин [и 

др.], под ред. А.Г. Братухина. – М: Машиностроение, 

1997. – 600 с. 

4. Soifer, V.A. Methods for computer 

design of diffractive optical elements [Текст] / 

Ed. by V.A. Soifer. – New York: J. Wiley and 

Sons Inc., 2002. – 784 p. 

5. Murzin, S.P. Increasing the efficiency 

of laser treatment of materials using elements of 

computer optics [Текст] / S.P. Murzin // Journal 

of Advanced Materials. − 2003. – V. 10, №2. – 

P. 181-185. 

6. ГОСТ 1497 – 84. Металлы. Методы 

испытаний на растяжение [Текст] – Введ. 

1986-01-01. – М.: Издательство стандартов, 

1984. – 35 с. 

7. ГОСТ 11701 – 84. Металлы. Методы 

испытаний на растяжение тонких листов и 

лент [Текст] – Введ. 1986-01-01. – М.: Издательство 

стандартов, 1984. – 11 с. 

8. Романовский, В.П. Справочник по 

холодной штамповке [Текст] / В.П. Романовский 

– 6-е изд., перераб. и доп. – Л.: Машиностроение. 

1979. – 520 с. 

solder and heat treatment of titanium and its alloys 

in aircraft industry / A.G. Bratukhin [and 

other]; Edited by A.G. Bratukhin. – Moscow: 

“Mashinostroyeniye” (Mechanical engineering), 

1997. – 600 p. – [in Russian]. 

4. Soifer, V.A. Methods for computer 

design of diffractive optical elements / Ed. by 

V.A. Soifer. – New York: J. Wiley and Sons 

Inc., 2002. – 784 p. 

5. Murzin, S.P. Increasing the efficiency 

of laser treatment of materials using 

elements of computer optics / S.P. Murzin // 

Journal of Advanced Materials. − 2003. – V. 

10, №2. – P. 181-185. 

133


6. GOST 1497 – 84. Metals. Methods of 

stretching tests – Intr. 1986-01-01. – Moscow: 

Standards publishing house, 1984. – 35 p. – [in 

Russian]. 

7. GOST 11701 – 84. Metals. Stretching 

tests methods of light sheets and belts – Intr. 

1986-01-01. – Moscow: Standards publishing 

house, 1984. – 11 p. – [in Russian]. 

8. Romanovskiy, V.P. Reference book 

by cold forming [Text]/V.P. Romanovskiy. – 6 th 

issue, remaked and suppl. – Leningrad: “Mashinostroyeniye” 

(Mechanical engineering), 1979. 

– 520 p. – [in Russian]. 

SOFTENING OF HALF-FINISHED PRODUCTS 

FROM TITANIC LOW-ALLOY BY LASER ANNEAL 

©2008 S.P.Murzin, V.I.Tregub, A.V.Mezhenin, E.L. Osetrov 


Experimental researches of cold work’s removal and formation recrystallizated structures conditions by laser 

heating have shown an opportunity of passing these processes in a range of recrystallization temperatures titanic low alloys. 

Researches properties of the processed materials have shown that laser anneal application for local softening before 

shaping of half-finished products from metal alloys allows to increase accuracy of manufacturing of details, to reduce 

springing and bending radiuses. 

Softening, low alloy, laser annealing, shaping, springing, bending radius, work hardening, recrystallizational 

structure 


Мурзин Сергей Петрович, профессор, д.т.н., доцент, ГОУ ВПО «Самарский государственный 

аэрокосмический университет им. С.П. Королева», murzin@ssau.ru, взаимодействие 


Трегуб Валерий Иванович, доцент, к.т.н., ГОУ ВПО «Самарский государственный аэрокосмический 

университет им. С.П. Королева», murzin@ssau.ru, авиационное материаловедение. 

Меженин Андрей Викторович, аспирант, ГОУ ВПО «Самарский государственный аэрокосмический 

университет им. С.П. Королева», murzin@ssau.ru, взаимодействие лазерного 

излучения с веществом, нанотехнологии. 

Осетров Евгений Леонидович, студент, ГОУ ВПО «Самарский государственный аэрокосмический 

университет им. С.П. Королева», murzin@ssau.ru, взаимодействие лазерного 

излучения с веществом, нанотехнологии 

Murzin Serguey Petrovich, professor, Dr. Sci. Tech., reader, SEE HVT «S.P. Korolev Samara 

State Aerospace University», murzin@ssau.ru, interaction of laser radiation with matter, 

nanotechnology. 

Tregub Valeriy Ivanovich, reader, Cand. Sci. Tech., SEE HVT «S.P. Korolev Samara State 

Aerospace University», murzin@ssau.ru, aircraft material engineering. 

Mezhenin Andrey Victorovich, post-graduate, SEE HVT «S.P. Korolev Samara State Aerospace 

University», murzin@ssau.ru, interaction of laser radiation with matter, nanotechnology. 

Osetrov Evgeniy Leonidovich, student, SEE HVT «S.P. Korolev Samara State Aerospace 

University», murzin@ssau.ru, interaction of laser radiation with matter, nanotechnology. 

134


УДК 004.7+ 548.52 

УСТАНОВКА ВЫРАЩИВАНИЯ МОНОКРИСТАЛЛОВ ГЕРМАНИЯ 

НА ОСНОВЕ КОНТАКТНОГО МЕТОДА ИЗМЕРЕНИЯ 

© 2008 С.П. Саханский 

Сибирский государственный аэрокосмический университет 

имени академика М.Ф. Решетнева 

Разработана и внедрена в производство установка выращивания монокристаллов германия, по способу 

Чохральского, на основе контактного метода измерения текущей площади кристалла. Установка позволяет выращивать 

монокристаллы германия в закрытой тепловой оснастке, обеспечивая при этом необходимые низкоградиентные 

тепловые условия выращивания кристалла. 

Контактный метод измерения, текущая площадь кристалла, закрытая тепловая оснастка 

Системы автоматического управления 

выращиванием кристаллов, основанные на 

контактном методе измерения текущей площади, 

нашли практическое применение при 

выращивании монокристаллов германия на 

предприятии ФГУП «Германий» (г. Красноярск). 

Приоритет данным установкам дан в 

связи с возможностью выращивания многих 

марок кристаллов германия в закрытой тепловой 

оснастке, обеспечивающей необходимые 

тепловые условия роста, что затрудняет 

применение широко распространенных оптических 

систем измерения и управления 

выращиванием кристаллов. 

В основу контактного метода измерения 

и управления выращиванием монокристаллов 

[1−5] по способу Чохральского входит 

управление текущей площадью (или 

диаметром при круглой форме) растущего 

кристалла на основе вычисления сигнала 

управления ∆y как функции отклонения текущей 

площади кристалла от заданной за период 

оценки сигнала управления T ц при условии 

поддержания уровня расплава в тигле 

с точностью 1-2 мкм. Микропроцессорные 

системы управления выращиванием кристаллов 

германия, разработанные на базе патента 

[1], внедрены в 1998 г. на семи установках 

ФГУП «Германий». Данные системы 

управления (рис. 1) представляют систему 

управления выращиванием монокристаллов 

германия по способу Чохральского на базе 

микро-ЭВМ, под управлением которой в камере 

производится выращивание монокристаллического 

кристалла диаметром d. Кристалл 

вытягивается из расплава со скоростью 

вытягивания V з и вращения W з кристалла, 

при этом расплавленный металл, находящийся 

в тигле (с внутренним диаметром D), 

вращается с угловой скоростью W т . 

В процессе убывания расплава в тигле 

происходит размыкание и замыкание контактного 

датчика уровня относительно плавающего 

на поверхности металла в тигле 

графитового экрана. Сигнал с контактного 

датчика подается через сглаживающую цепочку 

C1, R1, R2 и блок согласования в ЭВМ 

для принятия решения об управлении подъемом 

тигля вверх, которое осуществляется 

через блок управления шаговым двигателем, 

на каждый шаг двигателя, в результате чего 

кроме скорости подъема тигля вверх V т в 

системе формируется информация о перемещении 

тигля X итц (с дискретностью ∆ т ) и 

информация X изц о перемещении кристалла 

вверх (с дискретностью ∆ з ). 

Управление от ЭВМ скоростями вытягивания 

кристалла V з , вращения кристалла W з , 

вращения тигля W т осуществляется через соответствующие 

приводы, а управление температурой 

расплава осуществляется посредством 

датчика температуры боковой поверхности 

нагревателя и регулятора температуры 

по заданию ЭВМ Т з . В качестве датчика температуры 

используется радиационный пирометр 

с сапфировым светопроводом [6]. 

Выражения, на которых основана работа 

установок по выращиванию германия, 

приведены ниже. 

Скорость убывания расплава в тигле 

V р , а также скорости подъема тигля вверх 

V тм после размыкания контактного датчика и 

замедленная скорость подъема тигля после 

135


замыкания контактного датчика V тм /M определяются 

по выражениям (1-5), в которых 

введены коэффициенты увеличения скорости 

(C = 4) и уменьшения скорости подъема 

тигля (M = 4). Данное управление обеспечивает 

периодическое замыкание и размыкание 

контактного датчика в процессе работы в 

заданном диапазоне изменения уровня 

расплава (порядка 2 мкм): 

V 

V 

2 

ρт 

⎡ d ⎤ 

р 

= Vз 

⋅ ⋅ ⎢ 

ж 

D ⎥ 

ρ ⎣ ⎦ , (1) 

2 

⎡ dmax 

⎤ 

тм 

= Vр 

⋅ = 

= ⋅ 

dmax 

d з 

⎢ 

⎣ 

d 

⎥ 

⎦ 

2 

тм ⎡ dmin 

⎤ 

= Vр 

⋅ = 

V 

M 

d 

min 

⎢ 

⎣ 

V 

т max 

з 

⋅ ⋅ ⎢ 

ж 

D ⎥ 

2 

ρ ⎡ d ⎤ 

ρ ⎣ ⎦ , (2) 

1 

, (3) 

1−1/ 

C 

d 

⎥ 

⎦ 

V 

т min 

з 

⋅ ⋅ ⎢ 

ж 

D ⎥ 

2 

ρ ⎡d 

⎤ 

ρ ⎣ ⎦ , (4) 

1 

= dmax 

⋅ , (5) 

M 

где V р − скорость убывания расплава в 

тигле; V з − скорость вытягивания кристалла; 

d − текущий диаметр кристалла; 

D − внутренний диаметр тигля; ρ т − уд. 

плотность твердого материала; ρ ж − уд. плотность 

жидкого материала; d з − заданный 

диаметр выращиваемого кристалла; d max – 

максимальный допустимый диаметр выращиваемого 

кристалла, с соблюдением которого 

выполняется условие, при котором датчик 

и экран сомкнутся после размыкания; 

d min – минимальное допустимое значение 

диаметра кристалла, при котором соблюдается 

условие отставания экрана от датчика 

после замкнутого состояния. 

Cинхронизация скорости подъема тигля 

со скоростью вытягивания кристалла в 

момент разомкнутого и замкнутого состояния 

контактного датчика производится по 

выражениям (6 − 7): 

X 

изрр 

⎛ 1 ⎞ 

⎜1− 

⎟⋅ 

K 

у 

C 

= P ⋅ 

⎝ ⎠ 

, (6) 

B 

X 

где 

изрм 

⎛ 1 ⎞ 

⎜1− 

⎟⋅ 

K 

у 

C 

= P ⋅ M ⋅ 

⎝ ⎠ 

, (7) 

B 

2 

∆т 

⋅ρ ⎡ 

ж 

D ⎤ 

K 

y 

= B ⋅ ⋅ ⎢ ⎥ − 

∆ 

з 

⋅ρт ⎣ dз 

⎦ 

− уставка заданного диаметра; X изрр − число 

импульсов затравки, через которое выдается 

Р импульсов перемещения тигля при разомкнутом 

контактном датчике; X изрм − число 

импульсов затравки, через которое выдается 

Р импульсов перемещения тигля при 

замкнутом контактном датчике; P – число 

выдаваемых импульсов подъема тигля на 

шаговый привод; B − коэффициент умножения 

уставки; ∆ з − дискретность отсчета перемещения 

затравки; ∆ т − дискретность отсчета 

перемещения тигля; d з − заданный диаметр 

выращиваемого кристалла. 

В качестве привода подъема тигля 

применяется разомкнутый шаговый привод, 

обеспечивающий процесс многократного 

изменения скорости подъема тигля, на основании 

сигнала с контактного датчика и точную 

синхронизацию скоростей вытягивания 

кристалла и подъема тигля. 

Для контактного метода измерения и 

управления выращиванием кристалла величины 

перемещений затравки, тигля и период 

оценки сигнала управления могут быть представлены 

в виде выражений (8 – 11): 

X = X ⋅∆ , (8) 

X 

X 

T 

ц 

зц изц з 

= X ⋅∆ , (9) 

тц итц т 

X 

⋅ K 

итц y 

изц 

= , (10) 

B 

X 

изц 

⋅∆ 

з 

X 

зц 

X ⋅ K 

= = = 

V V B ⋅V 

итц y з 

з з з 

⋅∆ 

, (11) 

где X зц − перемещение затравки; X изц − перемещение 

затравки с дискретностью отсчета 

∆ з ; X тц − перемещение тигля; X итц − перемещение 

тигля с дискретностью отсчета 

∆ т ; T ц − период оценки сигнала 

управления (время отработки заданного 

количества импульсов X итц ). 

136


Рис. 1. Система управления на основе контактного метода: 

1 – привод вращения затравки; 2 – привод перемещения затравки;3 -– контактный датчик; 

4 – блок согласования с ЭВМ;5 – датчик температуры; 6 – регулятор температуры; 7 – ЭВМ; 

8 – привод вращения тигля; 9 – шаговый двигатель;10 – блок управления шаговым двигателем; 

11 – датчик перемещения затравки; 12 – камера; 13 – слиток; 14 – расплав металла; 

15 – тигель;16 – экран; 17 – нагреватель 

137


Для вычисления сигнала управления ∆y 

в системе управления принят алгоритм работы, 

представленный на рис. 2, который заключается 

в том, что в системе управления в 

момент замыкания контактного датчика выдерживается 

программная пауза τ замкнутого 

(13) и последующая пауза τ разомкнутого 

искусственных состояний датчика уровня, 

после чего происходит вычисление сигнала 

управления ∆y по выражению (12) на основании 

подсчета длительности паузы ∆t дм (d) 

до момента первого замкнутого состояния 

датчика уровня: 

⎧ C ⎫ 

∆ y = ∆tдм( d) − τ⋅⎨C 

− 2 − ⎬ 

⎩ M ⎭ , (12) 

τ = 

L 

X 

p 

⋅Tц 

, (13) 

⋅ E 

тц 

( β −1) 

где E = 

; β − коэффициент рабочего 

минимального диаметра (β = 2,5); 

⎛ 1 ⎞ 

M ⋅⎜1− 

⎟ 

⎝ C ⎠ 

L p – максимально допустимое задаваемое 

значение изменения уровня расплава (1 – 

2мкм). 

Отличительной особенностью контактного 

метода измерения текущей площади 

кристалла является то, что он позволяет стабилизировать 

текущую площадь выращиваемого 

кристалла в закрытой тепловой оснастке, 

что является актуальным для выращивания 

монокристаллов германия кристаллографического 

направления «100», имеющих 

значительную огранку в течение всего 

процесса вытягивания кристалла. 

Управление скоростью вытягивания 

кристалла V з (x), температурой боковой поверхности 

нагревателя T з (x), скоростью вращения 

затравки кристалла W з (x) и тигля 

W т (x) производится на основе выражений: 

V ( x) = V ( x) 

+ Z ⋅ K ⋅ ∆ y , (14) 

з зп V 

Tз ( x) = Tзп ( x) + Z ⋅ KT ⋅∆ y + Z ⋅ AT 

⋅∫ ∆y ⋅dx 

, (15) 

W ( x) = W ( x) 

− Z ⋅ K ⋅∆ y 

(16) 

з зп R 

W ( x) = W ( x) 

− Z ⋅ K ⋅ ∆ y 

(17) 

Т тп S 

V ( x) = V ( x) + V ( x) 

, (18) 

зп з0 

зг 

T ( x) = T ( x) + T ( x) 

, (19) 

зп з0 

зг 

W ( x) = W ( x) + W ( x) 

, (20) 

зп з0 

зг 

W ( x) = W ( x) + W ( x) 

, (21) 

тп то тг 

где K V , K T , K R , K S − пропорциональные коэффициенты 

регулирования; A T − интегральный 

коэффициент регулирования по температуре; 

V зп (x), W зп (x), W тп (x), T зп (x) − программное 

задание закона изменения технологических 

параметров; V з0 ,W з0 , W т0 , T з0 − 

начальные значения технологических параметров 

выращивания до включения автоматического 

режима; V зг (x), W зг (x), W тг (x), T зг (x) 

− переменная составляющая программных 

заданий изменения технологических параметров; 

V з (x), W з (x), W т (x), T з (x) − общее 

управления технологическими параметрами; 

Z − признак захвата управления по диаметру 

на цилиндрической части кристалла; x − перемещение 

кристалла. 

Процесс стабилизации диаметра кристалла 

происходит в системе управления по 

выражениям (14 − 21) при включении признака 

захвата управления по диаметру (Z = 1) 

на цилиндрической части выращиваемого 

кристалла. В процессе стабилизации диаметра 

кристалла на цилиндрической части с 

достаточной точностью можно положить, 

что высота жидкого столбика мениска кристалла 

над расплавом и угол его роста постоянен, 

а их влиянием на сигнал управления 

можно пренебречь. 

Программное задание всех четырех 

технологических параметров процесса выращивания 

кристалла германия V зп (x), W зп (x), 

W тп (x), T зп (x) в микропроцессорных системах 

задается за счет автоматического расчета и 

ввода в программу управления кадровой 

системы управления. 

Конструктивное исполнение микропроцессорной 

системы автоматического 

управления вытягиванием монокристаллов 

германия приведено на рис. 3. Система 

управления разработана и изготовлена на 

основе программируемого контроллера 

МУ58 (изготовитель ОАО «Росток-Спаркс», 

г. Киев). На рис. 4 показан вид плавающего 

графитового экрана с графитовым датчиком 

уровня расплава, а на рис. 5 − вид монокристаллического 

слитка германия диаметром 

104 мм. 

138


Система управления внедрена на установке 

№ 21 (на ФГУП «Германий») и прошла 

промышленную отработку при выращивании 

монокристаллов германия кристаллографического 

направления «100» диаметром 

104 мм в закрытой тепловой оснастке. Внедрение 

системы управления позволило наладить 

выполнение крупного международного 

заказа. 

Рабочие графики работы установки 

№21 приведены на рис. 6−8. На рис. 6 приведен 

график изменения температуры боковой 

точки нагревателя Т З (T_sum) на протяжении 

всего цикла вытягивания кристалла, а 

на рис. 7 график изменения скорости вытягивания 

кристалла V З (V-з_sum) и сигнала 

управления ∆y (d_Diametra). На рис. 8 приведен 

график изменения скорости вращения 

затравки W З и скорости вращения тигля W Т . 

В процессе вытягивания кристалла вращение 

затравки (рис. 8) по программе замедлялось 

в течение 1−2 мин в трех выбранных 

технологом точках выращивания прямого и 

обратного конуса кристалла для того, чтобы 

проявить в них и проконтролировать форму 

фронта кристаллизации монокристаллов 

германия. 

Без замедления вращения монокристалла 

германия кристаллографического направления 

«100» проявить форму фронта 

кристаллизации готового кристалла за счет 

применения стандартных травителей оказалось 

невозможным, а само замедление вращения 

кристалла привело к локальному изменению 

в выбранных точках распределения 

сопротивления кристалла, что позволило 

проявить и проконтролировать форму фронта 

кристаллизации. 

Система управления легко может быть 

распространена на выращивание монокристаллов 

таких материалов, как алюминий и медь. 


Разработана и внедрена в производство 

информационно-измерительная управляющая 

система автоматического выращивания 

монокристаллов германия в закрытой 

тепловой оснастке на основе нового контактного 

метода измерения текущей площади 

кристалла. 

Система управления позволяет выращивать 

в закрытой тепловой оснастке высококачественные 

монокристаллы германия, 

алюминия и меди, для которых возможно 

применение графитового тигля с плавающим 

на поверхности расплава графитовым 

экраном. 

Рис. 2. График работы датчика уровня при вычислении сигнала управления: 

CD − работа контактного датчика уровня (Р − датчик разомкнут) 

139


Рис. 3. Микропроцессорная система управления вытягиванием 

монокристаллов германия 

Рис. 4. Плавающий экран с графитовым датчиком уровня расплава 

140


Рис. 5. Слиток германия диаметром 104 мм 

Рис. 6. График изменения температуры боковой точки нагревателя Т З (T_sum) 

141


Рис. 7. График изменения скорости вытягивания затравки V З (V-з_sum) 

и сигнала управления ∆y (d_Diametra) 

Рис. 8. График изменения скорости вращения затравки W З 

и скорости вращения тигля W Т 

142



1. Патент 2128250 РФ, МПК С30 

В15⁄20, 15/22, 15/26. Способ управления 

процессом выращивания монокристаллов 

германия из расплава и устройство для его 

осуществления [текст] / С. П. Саханский, О. 

И. Подкопаев, В. Ф. Петрик, 1999, № 

97101248/25. 

2. Патент 2184803, РФ, МПК С30 

В15⁄20, 15/22, 15/12 29/08. Способ управления 


германия из расплава и устройство 

для его осуществления [текст] / С.П. Саханский, 

О.И. Подкопаев, В.Ф. Петрик, В.Д. 

Лаптенок, 2002, № 99123739/12. 

3. Саханский, С.П. Способ управления 


германия из расплава [текст] / С.П. Саханский, 

О. И. Подкопаев, В. Д. Лаптенок. // 

В кн.: Перспективные материалы, технологии, 

конструкции-экономика. Сборник научных 

трудов / Под ред. В.В. Стацуры − Красноярск: 

ГАЦМиЗ, 2000. − Вып. 6. − С. 

391−393. 

4. Саханский, С.П. Основные математические 

соотношения контактного метода 

управления выращиванием монокристаллов 

по способу Чохральского [текст] / С. П. 

Саханский // В кн.: Вестник Сибирского государственного 

аэрокосмического университета 

имени академика М. Ф. Решетнева / Под 

ред. проф. Г. П. Белякова − Красноярск: 

СибГАУ, 2005. − Вып. 7. − С. 85-88. 

5. Саханский, С.П. Выращивание монокристаллов 

в закрытой тепловой оснастке 

по способу Чохральского на основе контактного 

метода управления диаметром 

кристалла [текст] / С. П. Саханский, // Автоматизация 

и современные технологии. − 

2007. − №1. − C. 38-41. 

6. Разработка прецизионного регулирования 

температуры с использованием светопровода 

[текст] // М.: Гиредмет, Отчет по 

НИР, тема № СКБРМ-1, 1962. 

References 

1. Patent 2128250, Russian Federation, 

MPK S30 V15/20, 15/22, 15/26. Way of management 

of process of germanium monocrystals 

growing from melt and the device for its realization 

/ S.P. Sahanskiy, O.I. Podkopaev, V.F. 

Petrik, 1999, N 97101248/25. 

2. Patent 2184803, Russian Federation, 

MPK S30 V15/20, 15/22, 15/12, 29/08. Way of 

management of process of germanium 

monocrystals growing from melt and the device 

for its realization / S.P. Sahanskiy, O.I. Podkopaev, 

V.F. Petrik, V.D. Laptenok, 2002, N 

99123739/12. 

3. Sahanskiy, S.P. Way of management 

of process of germanium monocrystals growing 

from melt / S.P. Sahanskiy, O.I. Podkopaev, 

V.D. Laptenok // In book: Perspective materials, 

technologies, design-economy: collection of 

scientific papers / Edited by V.V. Statsura // 

GACMiZ, Krasnoyarsk, 2000. − Issue 6. − P. 

391-393. − [in Russian]. 

4. Sahanskiy, S.P. Basic mathematical 

parities of contact method of management of 

monocrystals growing by Czochralski method / 

S.P. Sahanskiy // In book: Bulletin of the Siberian 

state aerospace university named after academician 

M.F. Reshetov / Edited by prof. 

G.P. Belyakov // Krasnoyarsk: SibGAU, 2005. 

− Issue 7. − P. 85-88. − [in Russian]. 

5. Sahanskiy, S.P. Growing monocrystals 

in closed thermal rigging by Czochralski 

method based on the contact method of crystal 

diameter management / S.P. Sahaskiy // Automation 

and modern technologies. − 2007. − N 1. 

− P. 38-41. − [in Russian]. 

6. Development of precision temperature 

regulation using a wavebeam guide // Moscow: 

Giredmet, Report on research scientific work, 

topic N SKBRM-1, 1962. − [in Russian]. 

143


GERMANUIM MONOCRYSTALS GROWING SYSTEM BASED 

ON CONTACT METHOD OF MEASUREMENT 

© 2008 S. P. Sahanski 

Siberian State Aerospace University named after academician M.F. Reshetnev 

Germanium monocrystals growing system by Czochralski based on contact method of measurement of current 

crystal area has been developed and applied in industry. The system allows to grow germanium monocrystals in a 

closed thermal gadgetry ensuring the necessary low-gradient thermal conditions of crystal growing. 

Contact method of measurement, current crystal area, closed thermal rigging 


Саханский Сергей Павлович, Сибирский государственный аэрокосмический университет 

имени академика М.Ф. Решетнева, кандидат технических наук, доцент, преподает курсы 

«Микропроцессорные системы», «Цифровые системы управления и обработки информации». 

E-mail: ius_Caxanckiy@sibsau.ru. Работает в области комплексного решения задач автоматизации 

процессов выращивания монокристаллов германия, автоматизации процессов 

управления очисткой сточных вод промышленных предприятий. 

Sahanskiy Sergey Pavlovich, Siberian state aerospace university named after academician 

M.F. Reshetnev, Cand. Tech. Sci., senior lecturer, teaches rates “Microprocessor systems”, “Digital 

Control systems and processing of the information”. E-mail: ius_Caxanckiy@sibsau.ru. Solves the 

problems of automation of germanium monocristals growing at FSUE Germanium (Krasnoyarsk) 

and the problems of automation of managerial processes of sewage treatment of the industrial enterprises 

at JSC Krastsvetmet, Krasnoyarsk. 

144


УДК 535.42 

ПАРАМЕТРИЧЕСКАЯ ФУНКЦИЯ ДИФФЕРЕНЦИАЛЬНОГО 

ОБРАТНОГО РАССЕЯНИЯ МУТНЫХ СРЕД 

© 2008 В.П. Захаров, А.Р. Синдяева 


Работа посвящена определению модельной параметрической функции обратного рассеяния в многократно 

рассеивающих средах, содержащих оптические неоднородности. Визуализация внутренней структуры виртуального 

образца осуществлялась с использованием алгоритма Монте-Карло. Для анализа результатов численного 

моделирования применяется дифференциальная схема метода обратного рассеяния, суть которой сводится 

к выделению дифференциальной разности в спектральной плотности рассеянного назад излучения. 

Зависимость пространственных экстремумов распределения дифференциальной интенсивности рассеянного назад 

излучения от состояния рассеивающей среды представлена в виде параметрической функции, которая позволяет 

оценить степень детализации неоднородной структуры и является основой для программной реализации 

быстрого алгоритма оценки оптических параметров и топологии неоднородных включений. 

Метод дифференциального обратного рассеяния, метод Монте-Карло, многократно рассеивающая среда, 

оптическая неоднородность, дифференциальная интенсивность, параметрическая функция обратного рассеяния. 


Актуальной темой современных физических 

исследований является разработка 

методов оптической дистанционной диагностики 

многократно рассеивающих сред [1-7]. 

Принципиальное сходство развиваемых методик 

заключается в регистрации рассеянной 

назад или прошедшей через образец световой 

волны с последующим выделением 

спектральных, когерентных и/или диффузных 

компонент в соответствии со специфическим 

алгоритмом анализа результатов эксперимента. 

Особое внимание в рамках описанной 

проблемы уделяется совершенствованию методов 

трехмерной визуализации оптически 

неоднородной структуры. В этом ключе 

представляет интерес изучение закономерностей 

распространения диффузной составляющей 

обратного рассеяния в зависимости 

от пространственного распределения оптических 

свойств внутри исследуемой области. 

Задача с успехом решается с использованием 

развитого в работах [8, 9] метода дифференциального 

обратного рассеяния, суть которого 

заключается в определении дифференциальной 

разницы в спектральной интенсивности 

рассеянного назад излучения, при этом 

величина и скорость изменений дифференциальной 

интенсивности обратного рассеяния 

может характеризовать общее состояние 


Предложенный метод обладает рядом 

преимуществ. Малая интенсивность лоцирующего 

излучения обуславливает простоту 

и безопасность экспериментальной реализации 

методики, а также возможность проведения 

исследований многократно рассеивающих 

биологических сред in vivo. Кроме 

того, визуализация объекта может быть реализована 

на большей глубине, чем в случае 

использования когерентных и поляризационных 

методик [2, 4, 10, 11]. Пространственное 

разрешение при этом достаточно для 3D 

визуализации оптических макронеоднородностей. 

Описанные преимущества, а также 

возможность статистического анализа результатов 

позволяют рассматривать дифференциальную 

схему обратного рассеяния как 

основу для исследования многократно рассеивающих 

структур в данной работе. 

Численное моделирование распространения 

излучения в многократно рассеивающем 

объекте и окружающем пространстве 

является базисом для построения теоретических 

и экспериментальных схем диагностики 

и анализа результатов в реальном времени. 

Корректное описание процесса распространения 

излучения в многократно рассеивающей 

неоднородной среде реализуется с использованием 

метода Монте-Карло [1,9]. 

Однако для обеспечения сходимости чис- 

145


ленных результатов данный метод требует 

проведения большого числа итераций [12], 

что затрудняет его применение в алгоритмах 

экспериментального экспресс-анализа. Вместе 

с тем экспериментально регистрируемое 

пространственное распределение рассеянного 

излучения наиболее существенно зависит 

от параметров макронеоднородностей. 

Целью настоящей работы является нахождение 

функциональной зависимости интенсивности 

обратного рассеяния от оптических 

и геометрических параметров неоднородной 

многократно рассеивающей среды и 

построение на ее основе параметрической 

функции обратного рассеяния. Последнее 

достигается путем варьирования оптических 

и геометрических коэффициентов неоднородной 

области. Характер построенных зависимостей 

позволяет сделать вывод о возможном 

способе аппроксимации функции 

обратного рассеяния и использования ее в 

методах экспресс-диагностики. 

1. Параметрическая функция 

обратного рассеяния 

Модельная реализация метода дифференциального 

обратного рассеяния проводилась 

с применением статистического алгоритма 

Монте-Карло [13], встроенного в виртуальную 

среду TracePro Expert. 

В рассматриваемой постановке метод 

Монте-Карло сводится к расчету математических 

ожиданий скалярных величин распределения 

интенсивности [13-16]. Основной 

искомой величиной является освещенность 

единичного элемента фотоприемника, 

регистрирующего рассеянное назад излучение. 

Массивы найденных значений формируют 

скалярные поля распределения интенсивности 

на чувствительной матрице регистрирующего 

устройства. 

В целях снижения затрат машинного 

времени при итерациях был использован 

специальный алгоритм выбора вероятных 

событий. Реализация алгоритма осуществлялась 

при разыгрывании акта рассеяния: при 

столкновении с объемным или поверхностным 

элементом поток фотонов расщеплялся 

на случайный и детерминированный компоненты. 

Направление последнего было непосредственно 

связано с локализацией неоднородности. 

Соответственно, количество актов 

взаимодействия с локальной неоднородностью 

увеличивалось, что обеспечивало быструю 

сходимость метода. 

Поверхностная биологическая ткань, 

содержащая неоднородности, была выбрана 

в качестве базового объекта геометрического 

моделирования. Феноменологические коэффициенты 

модели соответствуют кожному 

покрову белого человека in vivo [12, 17, 18]. 

Модель представлена в виде слоистой 

среды с варьируемой толщиной оптически 

разных слоев; глубинные слои включают в 

себя локально-ограниченные 3D области патологических 

тканей, проявляющиеся как 

оптические неоднородности (рис. 1) [12]. 

Функциональные базовые зависимости 

дифференциальной интенсивности обратного 

рассеяния от параметров биологической 

среды определялись для неоднородности цилиндрической 

формы. Торцы модельного 

цилиндра располагались ортогонально к 

плоскости падения лоцирующего излучения, 

а его ось совпадала с осью пучка. Неоднородность 

описывалась набором оптических и 

геометрических параметров, включающим 

коэффициенты поглощения µ a и рассеяния 

µ s , фактор анизотропии рассеяния g, продольный 

L и поперечный 2r c размеры, моделирующие 

эффективные размеры реальных 

включений, и глубину залегания h. 

Неоднородности ткани, представляющие 

собой патологические скопления хромофоров 

и рассеивателей, инициируют перераспределение 

спектрального состава рассеянного 

излучения по сравнению с падающим 

полихроматическим пучком, что в свою очередь 

позволяет провести идентификацию неоднородности 

с использованием дифференциальных 

методов спектроскопии. Для спектрального 

выделения компонент, связанных 

с неоднородностью, использовался дихроматический 

пучок, состоящий из опорной и 

сигнальной мод равной интенсивности. 

Предполагалось, что неоднородность спектрально 

разрешима только на сигнальной 

длине волны, что характеризуется резонансом 

в поглощении и/или рассеянии. Спектральная 

зависимость оптических коэффи- 

146


циентов неоднородности приводит к разнице 

в распределении интенсивности сигнальной 

и опорной компонент обратного рассеяния. 

С учетом осесимметричности задачи дифференциальная 

интенсивность рассеяния φS 

может быть представлена в виде нормированной 

функции от радиальной координаты 

фотоприемника r: 

φ 

S 

( r) 

= 

1 

2 

где 

I 

λν 

S 

λν 

PS 

( r) 

( r) = 

σ 

I ( r) − I ( r) 

λ1 λ2 

S 

S 

λ1 λ2 

( < IS 

> + < IS 

> ) 

r 

, (1) 

(2) 

– спектральная интенсивность обратного 

рассеяния в ячейке (r) фотоприемника, 

P 

= (3) 

π 

λν 

S 

λν 

e 

2 

re 

S 

– средняя спектральная интенсивность на 

длине волны λ ν 

; r e – радиус пучка на фотоприемнике 

по уровню мощности (1–e -2 ); 

r – нормированная на r e радиальная координата; 

P ν λ 

( r) 

– мощность обратного рассеянного 

излучения в ячейке (r); 

σ 

r 

– площадь 

λ 

ячейки (r); Pe 

ν – полная спектральная мощность 

обратного рассеяния в пределах r e . 

Рис. 1. Модельная реализация метода дифференциального обратного рассеяния 

Тестовые численные эксперименты показали, 

что присутствие неоднородностей 

поглощения и рассеяния [12] может приводить 

к образованию максимумов нормированной 

функции дифференциальной интенсивности 

в точке r = 0: 

φ 

S 0 

= max φ 

S 

( r) = φ 

S 

(0) . (4) 

Величина возможного экстремума в 

общем случае является зависимостью от оптических 

и геометрических параметров 

слоев среды {P m } и неоднородности {P h } и 

может быть определена как параметрическая 

функция дифференциального обратного 

рассеяния φ 

S 0 ({ Pm }, { Ph 

}) 

. Данная функция 

может быть найдена на основании численных 

экспериментов при варьировании 

параметров среды и цилиндрической неоднородности. 

147


2. Зависимость параметрической 

функции рассеяния 

от топологии среды 

Для выявления влияния особенности 

строения поверхностной биоткани на величину 

экстремума дифференциальной интенсивности 

φS 

0 

были проведены численные 

эксперименты для сред различной топологии, 

содержащих неоднородности с одинаковым 

параметрическим набором {P h }. Были 

рассмотрены однослойные среды с оптическими 

параметрами эпидермиса и дермы 

[12], а также многослойные среды с варьируемым 

числом слоев. Характерные функции 

распределения дифференциальной интенсивности 

представлены на рис. 2. 

Сравнение зависимостей φ S 

( r ) для 

многослойной среды (график 1) и эпидермиса 

(график 2) показывает, что основной 

вклад в распределение дифференциальной 

интенсивности вносит первый слой (эпидермис), 

при этом общее количество слоев среды 

не играет существенной роли (кривая 4), что 

подтверждает вывод, сделанный в работе [12]. 

Рис. 2. Дифференциальная интенсивность 

φS 

для сред 

различной топологии: 1 – многослойная поверхностная биоткань; 2 – эпидермис; 

3 – дерма; 4 – многослойная биоткань с уменьшенным числом оптических слоев 

Полученные результаты позволяют упростить 

многослойную геометрическую модель 

в случае использования дифференциальных 

методов и значительно ускорить итерационный 

расчет. 

φS 0 

3. Зависимость параметрической 

функции рассеяния 

от параметров неоднородности 

Результаты исследования зависимости 

от топологии среды позволяют использовать 

оптические параметры первого слоя 

поверхностной биоткани как нормировочные 

коэффициенты и ввести относительные величины 

µ 

ah 

Sh 

µ 

a 

= , 

s 

µ 

am 

Sm 

µ 

µ = , выражающие 

µ 

отклонения коэффициентов поглощения и 

рассеяния неоднородности от значений окружающей 

среды. Для всех последующих 

численных экспериментов принималось, 

что оптические коэффициенты среды соответствуют 

эпидермису: µ = 0,062ì ì − 1 

, 

1 

µ 

Sm 

= 96, 25ì ì − . 

При фиксированных параметрах среды 

многопараметрическая функция дифференциального 

обратного рассеяния описывает 

зависимость распределения интенсивности 

обратного рассеяния от параметрического 

набора {P h }, включающего в себя коэффициенты 

поглощения µ 

a 

и рассеяния µ 

s 

, фактор 

анизотропии рассеяния g, глубину залегания 

am 

148


h, продольный L и поперечный r c размеры 

неоднородностей. Функцию φS 

0 ({ Ph 

}) 

удобно 

искать в виде совокупности характеристик, 

под которыми понимается зависимость 

величины экстремума от выделенного параметра 

при фиксированном наборе значений 

других параметров. Такой подход может 

быть оправдан только в области слабой нелинейности 

параметрической функции. 

Поведение параметрической функции 

рассеяния исследовалось на примере модели 

спектральной неоднородности поглощения 

[12], соответствующей моделированию некротической 

ткани. Данная модель обладает 

значительным коэффициентом поглощения 

на сигнальной длине волны лоцирующего 

излучения при сравнительно малом возрастании 

рассеяния. 

3.1. Зависимость от размеров 

неоднородности 

В целях построения зависимости 

φ ( ) S 0 

rc 

были проведены численные эксперименты 

для неоднородностей переменного 

диаметра с оптическими коэффициентами 

поглощения и рассеяния: µ 

a 

= 16, µ 

s 

= 1,04 . 

Поскольку основной вклад в распределение 

дифференциальной интенсивности вносят 

первые слои неоднородности [12], торцы модельных 

цилиндров располагались вблизи 

границы раздела «многократно рассеивающая 

среда – воздух». Рассмотрены различные 

случаи проявления анизотропии рассеяния, 

при этом особое внимание уделялось 

характерному для биологических тканей 

диапазону g = 0,85...0,98 . 

Радиус модельной цилиндрической неоднородности 

нормировался на радиус поверхностного 

пятна лоцирующего излучения. 

Зависимость величины дифференциальной 

интенсивности φS 

0 

от относительного 

поперечного размера rc 

неоднородности 

представлена на рис. 3. 

Видно, что функциональные зависимости 

φ ( ) S 0 

rc 

являются эквидистантами в диапазоне 

g = 0,85...0,99 . В случае g=1 (кривая 

4) многопараметрическая функция нелинейно 

зависит от поперечного размера, что, 

вероятно, связано с полной канализацией обратного 

рассеяния при больших диаметрах 

неоднородности. 

Рис. 3. Зависимость параметрической функции φS 

0 

от поперечного размера неоднородности r c 

при факторе анизотропии g = 0 (1), 0,9 (2), 0,95 (3), 1 (4) 

149


Для сред небиологической природы 

предел чувствительности метода достигается 

при rc 

≈ 0,3 (кривая 1), для биологической 

ткани при rc 

≈ 1 (кривые 2, 3). 

Поскольку основной вклад в распределение 

дифференциальной интенсивности 

вносят первые слои неоднородности, эффективный 

продольный размер включения L 

(рис. 1) не оказывает существенного влияния 

на поведение параметрической функции рассеяния 

в рамках применимости построенной 

модели, что подтверждается проведенными 

численными экспериментами. 

3.2. Зависимость от коэффициентов 

поглощения и рассеяния 

Зависимости функции рассеяния от коэффициента 

поглощения (рис. 4) строились 

для различных значений анизотропии рассеяния 

при фиксированном поперечном размере 

неоднородности r 

c 

= 1 и коэффициенте 

рассеяния µ 

s 

= 1,04 . Видно, что для наиболее 

характерного для биологических тканей диапазона 

факторов анизотропии g=0,85–0,98 

функция рассеяния носит квазилинейный характер. 

Случай g=1 соответствует полностью 

анизотропному рассеянию, и, соответственно, 

дифференциальная функция обратного 

рассеяния практически не меняется при 

изменении коэффициента поглощения. 

Из вида кривых рис. 4 также следует, 

что зависимость φS 

0 

от фактора анизотропии 

носит квазилинейный характер при фиксированном 

значении коэффициента поглощения 

µ 

a 

(рис. 5). 


0 

от коэффициента поглощения неоднородности µ 

a 

при факторе анизотропии g = 0 (1); 0,85 (2); 0,9 (3); 0,95(4); 0,99 (5); 1 (6) 

На рис. 6 представлены характерные 

зависимости параметрической функции от 

коэффициента рассеяния µ 

s 

, полученные 

при относительном поперечном размере неоднородности 

r 

c 

= 1 и коэффициенте поглощения 

µ 

a 

= 16. Видно, что в случае полностью 

анизотропного рассеяния функция φ S 0 

практически не зависит от коэффициента 

рассеяния, а установившееся значение дифференциальной 

интенсивности соответствует 

феноменологической характеристике поглощения 

при g=1 (кривая 6 на рис. 4). В диапазоне 

g=0,85-0,98 функциональная зависимость 

φS 

0 

от коэффициента рассеяния имеет 

спадающий квазилинейный характер (кривая 

3 на рис. 6) в области µ 

s 

< 1,2 и µ 

s 

> 1,5 . 

150



0 

при коэффициенте поглощения 

от фактора анизотропии неоднородности 

µ 

a 

=8 (1); 16 (2); 32 (3) 


0 

рассеяния неоднородности 

от относительного коэффициента 

µ 

s 

при g=1 (1); 0 (2); 0,9 (3) 

3.3. Зависимость от глубины 

залегания неоднородности 

Характерные зависимости дифференциальной 

интенсивности обратного рассеяния 

от глубины залегания неоднородности 

показаны на рис. 7. 

Глубина залегания определяется исходя 

из локализации переднего торца модельного 

цилиндра с оптическими коэффициентами 

µ 

a 

= 16, µ = 1,04 и поперечным размером 

r 

s 

c 

= 1. Ясно, что при выбранном 

наборе параметров метод дифференциально- 

151


го обратного рассеяния теряет чувствительность 

при расположении поглощающей неоднородности 

на расстоянии порядка 2 мм от 

поверхности среды. Потеря чувствительности 

метода связана с увеличением объема 

расплывания диффузно-рассеянного излучения 

и, как следствие, с потерей контрастности 

дифференциального сигнала. 


0 

от глубины залегания неоднородности h 

при факторе анизотропии g = 0 (1); 0,9 (2) 

4. Аналитическая аппроксимация 

параметрической функции рассеяния 

Найденные численно зависимости определяют 

функцию интенсивности обратного 

рассеяния как параметрическую 

φ ( , , , , ) 

S 0 

rc µ 

a 

µ 

s 

g h в многомерном пространстве, 

заданном вариациями геометрических и 

оптических параметров неоднородности. 

При этом данные зависимости носят квазилинейный 

характер вблизи среднестатистических 

значений параметров биологической 

среды. Это позволяет провести полиномиальную 

аппроксимацию параметрической 

функции. Действительно, из данных рис. 3-7 

следует, что 

φ 

S 0 c c 

S 0 a, s a, 

s 

S 0 

S 0 

( r ) ~ r − a, 

φ ( µ ) ~ µ , 

φ 

φ 

( g) ~ g, 

( h) ~ exp( −bh) 

в интервалах значений относительного поперечного 

размера rc 

∈ [0,1; 1] , глубины залегания 

h ∈ [0; 6] , коэффициента поглощения 

µ ∈ [8; 35] , коэффициента рассеяния 

a 

µ 

s 

∈[1; 3] и фактора анизотропии 

g ∈ [0,85; 0,99] . Тогда, определив в указанных 

интервалах коэффициенты разложения 

на основании найденных численных зависимостей, 

параметрическую функцию обратного 

рассеяния можно представить в виде: 

φ ( r , µ , µ , g, h) = 6 r − 0, 25 + 

S 0 c a s 

c 

+ 0,164µ − 1,585µ + 26g 

+ 

a 

+ − 

3.8h 

9, 296e − 28,182. 

s 

(5) 

Приведенная погрешность формулы (5) 

оценивалась для тринадцати произвольно выбранных 

точек многопараметрического пространства, 

в которых проводилось сравнение 

значений дифференциальной интенсивности, 

найденных с использованием данной формулы, 

и прямым численным расчетом по методу 

152


Монте-Карло. Расхождение результатов расчета 

не превышало 4%, что подтверждает корректность 

проведенной аппроксимации. 

Необходимо отметить, что при определении 

значений коэффициентов аппроксимации 

формулы (5) использовались фиксированные 

характеристики среды. Однако с 

учетом проведенных численных экспериментов 

по влиянию топологии среды (рис. 2) 

можно утверждать, что их изменение не 

должно приводить к существенному изменению 

функциональных зависимостей от параметров 

неоднородности. Учитывая также, 

что в условиях реального эксперимента параметры 

среды могут быть экспериментально 

определены, найденная аппроксимационная 

зависимость может быть использована в 

алгоритмах быстрого экспресс-анализа. 


Работа выполнена при поддержке аналитической 

ведомственной целевой программы 

«Развитие научного потенциала 

высшей школы» (2006-2008 годы) и гранта 

РФФИ 08-02-99038. 


1. Меглинский, И.В. Проблемы рассеяния 

лазерного излучения в фотонике и 

биофотонике [текст] / И.В. Меглинский, 

В.Л. Кузьмин, А.В. Приезжев // Квантовая 

электроника, 2006. – Т.36, № 11. – С. 989. 

2. Тучин, В.В. Лазеры и волоконная 

оптика в биомедицинских исследованиях 

[текст] / В.В. Тучин – Саратов: Изд-во Сарат. 

ун-та, 1998. – 348 с. 

3. Лазерная аналитическая спектроскопия 

[текст] / Под ред. В.С. Летохова. – М.: 

Наука, 1986. 

4. Tuchin, V.V. Tissue Optics: light 

scattering methods and instruments for medical 

diagnosis [текст] / V.V. Tuchin // Bellingham, 

Washington USA: SPIE PRESS, 2000. 

5. Special issue: Photon Correlation and 

Scattering [текст] // Appl. Opt., 2001. – Vol. 40. 

6. Tuchin, V.V. Handbook of Optical 

Biomedical Diagnostics [текст] / V.V. Tuchin // 

Bellingham, Washington, USA: SPIE PRESS, 

2002. 

7. Исимару, А. Распространение и 

рассеяние волн в случайно-неоднородных 

средах [текст] / А. Исимару – М.: Мир, 1981. 

8. Захаров, В.П. Сравнительный 

спектральный анализ обратного рассеяния 

излучения растительной и живой тканью 

[текст] / Е.В. Воробьева [и др.] // Физика волновых 

процессов и радиотехнические системы, 

2005. – Т. 8, №3. – С. 69-74. 

9. Zakharov, V.P. Localization of tissue 

pathological changes [текст] / V.P. Zakharov 

, A.R. Sindyaeva // Proceedings of SPIE, 

2007. – Vol. 6734. 

10. Medical optical tomography: functional 

imaging and monitoring [текст] / Eds G. Mueller, 

B. Chance, R. Alfano et al. // Bellingham, Washington 

USA: SPIE PRESS, 1993. – Vol. IS11. 

11. Меглинский, И.В. Векторный метод 

Монте-Карло в приложении к поляризационной 

оптической когерентной томографии 

[текст] / Д.Ю. Чурмаков, В.Л. Кузьмин, 

И.В. Меглинский // Квантовая электроника, 

2006. – Т.36, № 11. – С. 1009-1015. 

12. Захаров, В.П. 3D-визуализация 

многократно рассеивающих сред [текст] / 

В.П. Захаров, А.Р. Синдяева // Компьютерная 

оптика, 2007. – Т.31, №4. – С. 44-52. 

13. Соболь, И.М. Численные методы 

Монте-Карло [текст] / И.М. Соболь – М.: Наука, 

1973. 

14. Jacques, S.L. MCML – Monte Carlo 

modeling of photon transport in multi-layered tissues 

[текст] / S.L. Jacques, L.-H. Wang, L.-Q. 

Zheng // Computer Methods and Programs in 

Biomedicine, 1995. – Vol. 47. – P. 131-146. 

15. Meglinski, I.V. Coherent Multiple 

Scattering Effects and Monte Carlo Method 

[текст] / V.L. Kuzmin, I.V. Meglinski // JETP 

Letters, 2004. – Vol. 79, №3. – P. 109-112. 

16. Приезжев, А.В. Использование корпускулярного 

и волнового методов Монте- 

Карло в оптике дисперсных сред [текст] / 

В.П. Кандидов [и др.] // Квантовая электроника, 

2006. – Т.36, № 11. – С. 1003-1008. 

17. Синичкин, Ю.П. Спектроскопия 

кожи человека in vivo. I. Спектры отражения 

[текст] / Ю.П. Синичкин, Е.А. Пилипенко 

// Оптика и спектроскопия, 1996. – 

Т.80, №2. – С.260-267. 

18. Parakkal, P.F. The Structure and 

Function of Skin [текст] / Montagna and Parakkal 

P.F. - Academic Press, 1997. 

153


References 

1. Meglinskiy, I.V. Problems of dispersion 

of laser radiation in photonics and biophotonics 

/ I.V. Meglinskiy, V.L. Kuzjmin, 

A.V. Priezgev // “Kvantovaya electronika” (Quantum 

electronics), 2006. – V. 36, N 11. – P. 989. – 

[in Russian]. 

2. Tuchin, V.V. Lasers and fiber optics 

in biomedical researches / V.V. Tuchin – Saratov: 

Saratov University Publishing, 1998. – 348 p. 


3. Laser analytical spectroscopy / Edited 

by V.S. Letohov. – Мoscow: “Nauka” (Science), 


4. Tuchin, V.V. Tissue Optics: light 

scattering methods and instruments for medical 

diagnosis / V.V. Tuchin // Bellingham, Washington 

USA: SPIE PRESS, 2000. 

5. Special issue: Photon Correlation and 

Scattering // Appl. Opt., 2001. – Vol. 40. 

6. Tuchin, V.V. Handbook of Optical 

Biomedical Diagnostics / V.V. Tuchin // Bellingham, 

Washington USA: SPIE PRESS, 2002. 

7. Isimaru, A. Distribution and dispersion 

of waves in random-heterogeneous propagation 

/ A. Isimaru – Мoscow: “Mir” (World), 


8. Zaharov, V.P. The comparative 

spectral analysis of return dispersion of radiation 

vegetative and a living tissue / 

E.V. Vorobjeva [and other] // Physics of wave 

processes and radio engineering systems, 2005. 

– V. 8, N 3. – P. 69-74. – [in Russian]. 

9. Zakharov, V.P. Localization of tissue 

pathological changes / V.P. Zakharov , A.R. 

Sindyaeva // Proceedings of SPIE, 2007. – Vol. 

6734. 

10. Medical optical tomography: functional 

imaging and monitoring / Eds G. Mueller, 

B. Chance, R. Alfano et al. // Bellingham, Washington 

USA: SPIE PRESS, 1993. – Vol. IS11. 

11. Meglinskiy, I.V. Vector method of 

Monte-Carlo in the appendix to a polarising optical 

coherent tomography / D.Yu. Churmakov, 

V.L. Kuzjmin, I.V. Meglinskiy // “Kvantovaya 

electronika” (Quantum electronics), 2006. – 

V. 36, N 11. – P. 1009-1015. – [in Russian]. 

12. Zaharov, V.P. 3D-visualisation of multiple 

scattering medium / V.P. Zaharov, A.R. Sindyaeva 

// Computer Optics, 2007. – V. 31, N 4. – 

P. 44-52. – [in Russian]. 

13. Sobolj, I.M. Monte-Carlo numerical 

methods / I.M. Sobolj – Мoscow: “Nauka” (Science), 


14. Jacques, S.L. MCML – Monte Carlo 

modeling of photon transport in multi-layered tissues 

/ S.L. Jacques, L.-H. Wang, L.-Q. Zheng // 

Computer Methods and Programs in Biomedicine, 

1995. – Vol. 47. – P. 131-146. 

15. Meglinski, I.V. Coherent Multiple 

Scattering Effects and Monte Carlo Method / 

V.L. Kuzmin, I.V. Meglinski // JETP Letters, 

2004. – Vol. 79, N 3. – P. 109-112. 

16. Priezgev, A.V. Use of corpuscular and 

wave Monte-Carlo methods in optics of dispersive 

medium / V.P. Kandidov [and other] // 

“Kvantovaya electronika” (Quantum electronics), 

2006. – V. 36, N 11. – P. 1003-1008. – [in Russian]. 

17. Sinichkin, Yu.P. Spectroscopy of a 

skin of the person in vivo. I. Reflexion spectra 

/ Yu.P. Sinichkin, E.A. Pilipenko // Optics 

and Spectroscopy, 1996. – V. 80, N 2. – 

P. 260-267. – [in Russian]. 

18. Parakkal, P.F. The Structure and 

Function of Skin / Montagna and Parakkal P.F. - 

Academic Press, 1997. 

154


PARAMETRIC FUNCTION OF DIFFERENTIAL BACKSCATTERING 

IN MULTIPLE SCATTERED MEDIA 

© 2008 V.P. Zakharov, A.R. Sindyaeva 


A model scheme for spectral visualization of biological media macrostructure is presented. Superficial tissue with 

heterogeneities was chosen as a basic investigation object. Realization of the task is performed with 3D Monte Carlo 

simulation of laser radiation propagation in multiple scattered media. Back scattering differential scheme is the technique 

in operation for numerical calculations results analysis. Used method adds up to compute a differential value of 

spectral backscattering density which may characterize a state of the irradiated tissue. In the paper we investigate the 

differential scheme opportunities. Results allow to determine differential backscattering intensity as the multiparametric 

function of media and heterogeneities features. The data are basic for diagnostic scheme software implementation. 

Differential backscattering technique, Monte Carlo algorithm, multiple scattered medium, optical inhomogeneous, 

differential intensity, parametric function of differential backscattering 

Информация об авторах 

Захаров Валерий Павлович, профессор кафедры Автоматических систем энергетических 

установок Самарского государственного аэрокосмического университета, доктор физико-математических 

наук, профессор, Zakharov@ssau.ru. Область научных интересов – физика 

плазмы, нелинейная оптика, взаимодействия лазерного излучения с биообъектами, медицинская 

лазерная техника. 

Синдяева Александра Радимовна, Самарский государственный аэрокосмический 

университет имени академика С.П. Королева, аспирант. Область научных интересов – оптика 

биотканей, биофизика, лазерная медицина, спектроскопия и нелинейная оптика 

Zaharov Valeria Pavlovich, professor of faculty of the Automatic systems of the energy devices, 

doctor physico-mathematical sciences, professor, Samarа State Aerospace University, 

Zakharov@ssau.ru. Area of research – a physics of the plasma, nonlinear optics, interactions of the 

lazer radiation with biological objects, medical laser technology 

Sindyaeva Alexandra Radimovna, S.P. Korolyov Samara State Aerospace University, a 

post-graduated student. Area of research – optics of biological tissues, biological physics, laser 

medicine, spectroscopy and nonlinear optics. 

155


УДК 536.75 + 577.3 + 519.6 

УСЛОВИЯ СУЩЕСТВОВАНИЯ ДИССИПАТИВНЫХ СТРУКТУР 

В ПОЛЕ ФЛУКТУАЦИЙ ДИНАМИЧЕСКИХ ПЕРЕМЕННЫХ 

В МОДЕЛИ МОРФОГЕНЕЗА ГИРЕРА-МАЙНХАРДТА 

© 2008 С.Е. Курушина 


Аналитически с использованием концепции параметра порядка исследовано влияние аддитивного однородного 

изотропного поля гауссовых флуктуаций динамических переменных на образование диссипативных 

структур при мягком режиме их возбуждения в модели Гирера - Майнхардта. Проведено численное моделирование 

эволюции этой системы. Показано, что вблизи маргинального состояния флуктуации динамических переменных 

приводят к увеличению области неустойчивых мод, а в области контрастных структур вдали от бифуркации 

Тьюринга флуктуации способствуют более быстрому образованию последних. Показано, что действительная 

часть собственных чисел неустойчивых мод пропорциональна интенсивности флуктуаций и некоторой 

степени радиуса корреляции, зависящей от размерности пространства реакционно – диффузионной системы. 

Модель Гирера – Майнхардта, диссипативные структуры, неустойчивые моды, случайное поле, флуктуации, 

численное моделирование 

Теоретическое исследование морфогенеза 

относится к наиболее важным аспектам 

изучения процессов индивидуального развития. 

Модели морфогенеза Тьюринга [1] и 

Гирера – Майнхардта [2] показали, что нелинейная 

автокаталитическая диссипативная 

система, «дальнодействующая» сигнализация 

в которой обеспечивается диффузией, оказывается 

способной к пространственной и временной 

самоорганизации, то есть к образованию 

диссипативных структур (ДС). Эти модели 

не утратили своего значения и в настоящее 

время, так как форма учета дальнодействия 

членами диффузионного типа является 

достаточно общей. Она охватывает не только 

диффузию, но и другие процессы, в частности, 

взаимодействие за счет упругих сил [3]. 

В работе [3] отмечается, что за счет 

стохастического характера ферментативных 

реакций уровень флуктуаций «выхода» реакции 

может быть достаточно большим. 

Флуктуации вызываются различными причинами. 

В частности, концентрация молекул 

может изменяться из-за тепловой и турбулентной 

диффузии через виртуальные или 

вполне реальные стенки элементарного объема 

(например, оболочки клеток, внутриклеточные 

мембраны). Необходимо также учитывать 

флуктуации за счет стохастического 

характера взаимодействия между молекулами 

[3]. В этом случае динамические переменные 

модели являются случайными 

функциями. 

В настоящей работе исследуется влияние 

аддитивного однородного изотропного 

поля гауссовых флуктуаций динамических 

переменных на образование ДС при мягком 

режиме их возбуждения в модели Гирера - 

Майнхардта. 

Скорости изменения концентраций автокаталитической 

и демпфирующей переменных 

(активатора и ингибитора, соответственно) 

описываются системой уравнений: 

i i i i 

2 

∂ a a r 

= ρ + k − µ a + Da 

∆ a + F1 

( , t), 

∂t 

h 

(1) 

∂ h 2 r 

= ca − vh + Dh 

∆ h + F2 

( , t). 

∂t 

Здесь ρ – скорость образования автокаталитической 

переменной, µ – ее постоянная распада, 

D a – коэффициент диффузии активатора; 

ν – постоянная скорости распада демпфирующей 

переменной, член ca 2 задает скорость образования 

ингибитора, D h – коэффициент диффузии 

ингибитора. Случайные функции Fi 

( , t) 

определяют пространственные и временные га- 

r 

уссовы флуктуации скорости изменения концентраций 

активатора и ингибитора, соответственно, 

с корреляционными функциями 

F ( r , t) F ( r ′, τ ) = θ f ( r − r ′ ) δ( t − τ) 

и нулевыми 

средними значениями. Взаимная кор- 

156


r 

реляция случайных функций Fi 

( , t) 

отсутствует. 

Величины θ i характеризуют интенсивность 

флуктуаций, f ( − r′ ) – 

r r 

некоторая 

функция, определяющая пространственную 

зависимость корреляций однородного и изотропного 

случайного поля [4]; δ-коррелированность 

во времени фактически означает, 

что время корреляции случайного поля гораздо 

меньше всех характерных времен задачи. 

Модель (1) при условии F 1 = F 2 =0 исследована 

в работах [2,5]. Модель Гирера – 

Майнхардта [2] допускает реализацию трех 

различных режимов [3]. 

Запишем уравнения модели [2] в безразмерной 

форме [6]: 

2 

∂ a a = 1 + , 

m − a + ∆ a 

∂t 

h 

p 

∂h 

a 

2 

τ = A − h + Λ ∆h, 

l 

∂t 

h 

i 

(2) 

где Λ 2 = Dτ; τ, А, показатели m, l и p – параметры 

модели. Если изоклины системы (2) пересекаются 

левее точки минимума изоклины 

второго уравнения системы, то однородное состояние 

устойчиво, но возможны жестко возбуждаемые 

решения «солитонного» типа. Если 

изоклины пересекаются правее точки минимума 

и Λ >> 1, то однородное состояние 

неустойчиво по Тьюрингу. При mp > l + 1 существуют 

пичковые ДС. В случае mp ≤ l + 1 и 

достаточно больших Λ >> 1 все стационарные 

режимы оказываются неустойчивыми. 

В случайном поле аналитически методом 

Ланжевена в линейном приближении 

вблизи точки бифуркации Тьюринга проводился 

анализ системы (3) [7]: 

2 

∂x 

∂ x 

= a11x + a12 y + Dx 

+ ξ( r, t); 

2 

∂t 

∂r 

2 

∂y 

∂ y 

= a21x + a22 y + Dy 

+ η( r, t). 

2 

∂t 

∂r 

(3) 

Здесь x и y – отклонения от стационарного 

состояния, которое считается устойчивым, 

ξ(r,t) и η(r,t) – малые случайные функции 

пространства r и времени t, отражающие 

флуктуации переменных x и y, ξ(r,t ) и η(r,t) 

распределены нормально и δ-коррелированны 

по времени и пространству. 

Было показано, что амплитуды флуктуаций 

величин x(r,t) и y(r,t) и их радиусы 

корреляций сильно возрастают при приближении 

к бифуркации Тьюринга, а последние 

в самой точке бифуркации стремятся к бесконечности. 

Поведение системы становится 

почти стохастическим. 

Численное исследование модели (3) 

проведено в работе [8]. Было обнаружено, 

что в области бифуркации Тьюринга флуктуации 

динамических переменных x(r,t) и 

y(r,t), вызванные шумом параметров, велики 

и что существует область параметров, в которой 

на отрезке конечной длины существует 

несколько ДС различного периода. В области 

контрастных ДС [8] вариабельность 

заметно меньше и даже при наличии флуктуаций 

образуются четко выраженные и устойчивые 

ДС пичкового типа. 

Однако в [8] не проводилось аналитического 

исследования влияния флуктуаций 

на условия возникновения ДС и не учитывался 

нелинейный характер автокаталитических 

реакций. 

В данной работе с использованием концепции 

параметра порядка [5] аналитически 

исследуется поведение системы (1) и на основании 

проведенного анализа осуществлено 

численное моделирование эволюции системы. 

Введем новые переменные: 

r r 

' = ν / D ; t ' = vt; a' = ca / k; h' = νch / k 

В результате получим 

a 

2 

∂ a′ 

a ' 

' ' a ' a ' F 

′ r 

= ρ + − µ + ∆ + 

1 

( ′, t′ 

); 

∂t 

h ' 

∂ h′ 

2 

a ' h ' D ' h' F 

′ r 

= − + ∆ + 

2 

( ′, t′ 

), 

∂t 

где ρ ' = ρ c / vk; µ ' = µ / ν ; D ' = D / D . 

h 

a 

2 

. 

(4) 

В дальнейшем штрихи будем опускать. 

Исследование устойчивости системы 

(4) при F 1 = F 2 = 0 проведено в работе [5]. 

Показано, что неустойчивость типа мягкой 

моды возникает при двух критических значениях 

волновых чисел k = ± 

4 

µ / D . 

Чтобы учесть влияние случайного воздействия, 

перепишем (4) в виде 

êð 

157


⎛ ∂ 

⎜ 

⎝ ∂t 

где 

⎞r r r 

− K( ∆ ) ⎟ q = g + F , (5) 

⎠ 

2 

⎛ ⎛ 2 ⎞ −µ ⎞ 

⎜µ ⎜ −1 

2 

1 

⎟ ⎟ 

⎝ ρ + ⎠ ( ρ + 1) 

K( ∆ ) = ⎜ 

⎟; 

⎜ 

2 

⎟ 

⎜ ( ρ + 1) 

− 1+ D∆ 

⎟ 

⎝ µ 

⎠ 

r ⎛ q ⎞ 

; , ; 

⎝ ⎠ 

1 

q = ⎜ ⎟ q1 = a − a0 q2 = h − h0 

q2 

q 1 , q 2 описывают малые отклонения концентраций 

относительно стационарных состоя- 

h = ρ + 1 / µ ; a = ( ρ + 1) / µ . Вектор g r 

ний ( ) 2 2 

0 0 

содержит квадратичные и кубические нелинейности, 

полученные разложением в ряд 

правой части (1), и определяется так: 

r 2 2 2 

g = ( q / h − q q + 2 a q q / h + 

( 

1 0 ( 1 2 0 1 2 ) 0 

2 2 2 3 2 3 4 2 

( a0q1q2 + a0 q2 ) h0 − a0 q2 h0 q1 

) 

2 / / ), . 

Представим вектор q r в виде суперпозиции 

r r r rr 

( j) ( j) 

ikr 

q( , t) = O ξr 

( t) 

e , (6) 

∑ 

r 

k , j 

k 

( j) 

где O r - собственные векторы линейного 

оператора K(∆) задачи (5). Как показано в 

работе [5], неустойчивые моды заключены в 

узкой полосе значений волновых векторов, 

что дает возможность построения волновых 

пакетов путем суммирования по волновым 

векторам, заключенным в малых интервалах. 

Таким образом, получаем несущие моды с 

дискретными значениями волновых векторов 

и медленно меняющимися амплитудами 

( j 

ξr ) ( t) 

. 

k 

После преобразований система уравнений 

для амплитуд мод ( j 

ξr 

) ( t) 

принимает вид: 

_______________________________________________________________________________ 

( j) 

dξr 

k $ ( j) 

− λ j ( k) 

ξ r = 

k 

dt 

2 ( j) 

µ O1, k 

⎧ 

r r r 

(1) (1) (2) (2) (1) (1) (2) (2) 

2 ( O1, k′ ξ r + O 

' 1, ' 

)( 1, 1, ) ( ) 

k k′ ξr O 

k k′′ ξ r + O 

k k′′ 

ξr 

⎨∑ 

δ k′ + k′′ 

− k + 

r r 

′′ k′′ 

(1 + ρ) 

⎩ k ', k '' 

2 

µ 

r r r 

(1) (1) (2) (2) (1) (1) (2) (2) 

+ 

2 ( O2, k′ ξ r + O 

k ' 2, k′ ξr k ' ) O2, k′′ ξ r + O 

k′′ 2, k′′ 

ξr 

∑ 

( ) δ ( k′ + k′′ 

− k ) − 

(7) 

r r 

k ′ 

(1 + ρ) 

k ', k '' 

2µ 

r r r 

(1) (1) (2) (2) (1) (1) (2) (2) 

− ( O1, k′ ξ r + O 

' 1, k ' 

)( 2, k 2, k ) ( ) 

k ′ ξr O 

k ′′ ξ r + O 

k ′′ ξr 

∑ 

δ k′ + k′′ 

− k − 

r r 

′′ k′′ 

(1 + ρ) 

k ', k '' 

2 

µ 

r r r r 

(1) (1) (2) (2) (1) (1) (2) (2) (1) (1) (2) (2) 

− 

2 ( O1, k′ ξ r + O 

k ' 1, k′ ξr k ' )( O1, k′′ ξ r + O 

k′′ 1, k′′ 

ξr 

)( O2, 2, ) ( ) 

k k′′′ ξ r + O 

k k′′′ 

ξr 

δ k′ + k′′ + k′′′ 

− k + 

r∑r r 

′ ′′′ k′′′ 

(1 + ρ) 

k ', k '', k′′′ 

3 

2µ 

r r r r 

(1) (1) (2) (2) (1) (1) (2) (2) (1) (1) (2) (2) 

+ 

3 ( O2, k′ ξ r + O 

' 2, k ' 

)( O2, k 

O2, k )( O1, k 

O1, 

k ) ( k 

k ′ ξr k ′′ ξ r + 

k′′ ′′ ξr k′′ ′′′ ξ r + 

k′′′ ′′′ ξr 

δ ′ + k′′ + k′′′ 

− k ) − 

r∑r r 

k′′′ 

(1 + ρ) 

k ', k '', k′′′ 

4 

µ 

r r r r 

(1) (1) (2) (2) (1) (1) (2) (2) (1) (1) (2) (2) 

⎫ 

− ( O 

4 2, k′ ξ r + O 

' 2, k ' 

)( 2, k 2, k )( 2, k 2, k ) ( ) 

k ′ ξr O O O O k k k k 

k ′′ ξ r + 

k′′ ′′ ξr ′ ′′ ′′′ 

k′′ ′′′ ξ r + 

k′′′ ′′′ ξr 

δ + + − + 

k′′′ 

⎬ 

r∑r r 

(1 + ρ) 

k ', k '', k′′′ 

⎭ 

r r r 

+ O O ξ + O ξ O ξ + O ξ δ ( k′ + k′′ 

− k ) + 

∫ 

∑ ( )( ) 

( j) (1) (1) (2) (2) (1) (1) (2) (2) 

r r r r 

2, k r r 1, k′ 

k ' 1, k′ k ' 1, k′′ k′′ 1, k′′ 

k′′ 

k ', k '' 

rr 

r 

( j) −ikr r r r 

( j) 

−ikr 

r r 

1, k 1 2, k 2 

∫ 

+ O e F ( r, t) dr + O e F ( r, t) dr; j = 1,2. 

Здесь 

( j) 

On 

- компоненты собственных векторов оператора, сопряженного к K(∆). Выражения 

для λ ( k) 

и компонент векторов 

j 

( j) 

O r и 

( j) 

O r приведены ниже [9]: 

k 

158


r 

O 

2 

⎛ 

1+ Dk + λ ⎞ 

j 

j 

⎛ 1 ⎞ ⎜ ( −1) 

⎟ 

⎜ ⎟ r ⎜ λ − λ 

⎟ 

= ⎜ 

ρ + 

⎟ O = 

⎜ 2 2 

( 1 ) ( )( ) 

2 1 Dk 1 

Dk 

Dk 

⎟ 

⎜ ⎟ µ + + λ + + λ 

j 

⎝ 

µ + + λ 

j ⎠ ( 1) 

1 2 

⎜ 

− 

2( ρ + 1)( λ1 − λ2) 

⎟ 

⎝ 

⎠ 

( j) ( j) 

2 1 

2( 1) ; ; 

2 

( ) ( ) 

α k α k 

λ 

1,2 

= ± −β k α k = − D + k + µ ρ + − µ − 

2 4 

2 2 2 

( ) ( )( 1) 2 / ( 1). 

2 

( ); ( ) ( 1) 2 / ( 1) 1; 

β k = k + µ Dk + − µ Dk ρ + 

_______________________________________________________________________________ 

r r r r r r r 

Функции δ ( k′ + k′′ 

− k) 

и δ ( k′ + k′′ + k′′′ 

−k) 

нее две подсистемы уравнений: для неустойчивых 

мод (обозначим их дополнительным 

дают «правила отбора», которые важны для 

определения возникающих пространственных 

структур. 

индексом (u)) и для устойчивых (s). Поскольку 

незатухающие моды, если пренебречь 

нелинейными членами, могут нарастать 

Система (7) содержит как устойчивые, 

так и неустойчивые моды. Чтобы провести 

до бесконечности, уравнения для них запишем 

с точностью до слагаемых третьего по- 

процедуру адиабатического исключения устойчивых 

мод, перепишем (7), выделив из 

рядка малости включительно: 

_______________________________________________________________________________ 

(1) 

dξr 

k , u $ (1) 

− λ1, 

u ( k) 

ξ r = 

k , u 

dt 

2 (1) 2 

⎡ µ O1, k (1) (1) µ (1) (1) 2µ 

(1) (1) 

= ( O 

2 1, k′ O1, k′′ + O 

2 2, k′ O2, k′′ − O1, k′ O2, 

k′′ 

) + 

r 

∑r 

⎢ 

k ', k ''; u′ u′′ 

⎣(1 + ρ ) (1 + ρ ) (1 + ρ) 

r r r 

(1) (1) (1) (1) (1) 

+ O2, kO1, k′ O1, k′′ ⎤ ξr 

ξr 

⎦ δ ( k′ + k′′ 

− k ) + 

k ', u′ k′′ , u′′ 

+ 

2 

⎡ 2µ 

⎢ 

⎣(1 + ρ) 

(1) (1) (1) (1) (1) (1) (1) (2) (1) (2) 

O 

2 1, kO1, k 

O r r 

1, k 

O 

', , 1, kO k u k s 1, k 

O r r 

r∑r 

′ ′′ ′ ′′ ′ 1, k′′ 

k ', u′ k′′ 

, s 

k ', k ''; u′ 

s 

( ξ ξ + ξ ξ ) + 

2µ 

+ ξ ξ + ξ 

(1 + ρ) 

4 

(1) (1) (1) (1) (1) (1) (1) (2) 

( O 

4 1, kO2, k 

O r r 

2, k 

O 

k ', u k , s 1, kO2, k 

O 

(1) r 

′ ′′ ′ ′′ 

′ 2, k′′ 

ξ 

(2) r 

k ', u′ k′′ 

, s 

3 (1) 

2µ 

O1, k (1) (1) (1) (1) (1) (2) (1) (2) (2) (1) (1) (2) 

− (2 O 

3 1, k′ O2, k′′ ξr ξ r + O 

', , 1, 2, ', , 1, 2, 

) 

k u k s k′ O 

k′′ ξr ξ r + O 

k u k s k′′ O 

k′′ 

ξr ξ r + 

′ ′′ ′ ′′ k ', u′ k′′ 

, s 

(1 + ρ) 

r r r 

(1) (1) (1) (1) ( 1) (1) (2) (1) (2) 

+ 2 O2, k 

( O1, k′ O1, k′′ ξr ξr + O 

k ', u′ k′′ 

, s 1, k′ O1, k′′ ξr 

ξr 

) ⎤ δ ( k′ + k′′ 

− k ) − 

k ', u′ k′′ 

, s ⎦ 

4 (1) 2 

µ O1, k (1) (1) (1) µ (1) (1) (1) 

− ( O 

4 1, k′ O1, k′′ O2, k′′′ + O 

2 2, k′ O2, k′′ O2, 

k′′′ 

− 

r r 

∑r 

k ', k '', k′′′ ; u′ u′′ u′′′ 

(1 + ρ ) (1 + ρ) 

2µ 

r r r r 

(1) (1) (1) (1) (1) (1) 

− O2, k′ O2, k′′ O1, 

k′′′ 

) ξr ξr ξr 

δ ( k′ + k′′ + k′′′ 

− k ) + 

(1 + ρ 

k ', u′ k′′ , u′′ k′′′ , u′′′ 

) 

rr 

r 

(1) −ikr 

r r r 

(1) −ikr 

r r 

+ O e F ( , t) dr + O e F ( , t)d . 

∫ 

1, k 1 2, k 2 

∫ 

) − 

(8) 

В уравнениях для устойчивых мод оставим только члены, необходимые для получения 

уравнений для неустойчивых мод с точностью до членов третьего порядка: 

159


dξ ⎡ µ ⎛ ⎞ 

− λ ξ = ⎢ ⎜ + − ⎟ + 

dt 

+ ρ + ρ + ρ ⎠ 

( j) r 

2 ( j) 2 

k , s ˆ ( j) O1, 

k (1) (1) µ (1) (1) 2µ 

(1) (1) 

j, s( k) 

r 

O 

, 

2 1, k 

O1, k 

O 

2 2, k 

O2, k 

O1, k 

O 

k s r 

∑r 

′ ′′ ′ ′′ ′ 2, k′′ 

k ', k ''; u′ u′′ 

⎣(1 ) ⎝ (1 ) (1 ) 

r r r rr 

r 

( j) (1) (1) (1) (1) 

( j) −ikr r r r 

( j) 

−ikr 

r r 

2, k 1, k′ 1, k′′ ⎤ r r ( ′ ′′ ) + O 

k ', u′ k′′ , u′′ 

1, k 

e F1 ( , t) d + O2, k 

e F2 

( , t) d ; 

∫ 

+ O O O ⎦ ξ ξ δ k + k − k 

(9) 

j = 1, 2. 

_______________________________________________________________________________ 

r r 

В случае мягкой моды при исключении при k = kc 

, адиабатически исключаем устойчивые 

моды (9) из уравнений (8). В результа- 

( j) 

ξr из уравнений (8) в (9) можно пренебречь 

k , s 

производной по времени [5]. 

те уравнения для неустойчивых мод с индексом 

k r c 

Считая, что неустойчивость возникает примут окончательный вид: 

_______________________________________________________________________________ 

(1) 

dξr 

r r r 

r r r r 

kc 

$ (1) (1) (1) $ (1) (1) (1) 

− λ1( kc) ξ r = c( kc ) ξr ξr δ ( k′ c 

+ k′′ c 

− kc ) + d( kc, k) ξr ξr ξr 

δ ( k′ c 

+ k′′ c 

+ k′′′ 

c 

− kc 

) + 

kc r∑r 

kc′ kc′′ r 

∑r r 

kc′ kc′′ kc′′′ 

dt 

kc ', kc '' k ' c , kc′′ , kc′′′ 

$ rr 

⎡ $ (1) −ikr 

r r $ rr 

$ r 

(1) −ikr 

r r r 

+ ∑ χ ( kc, k) ( O1, 

$ e F1 

( , t) d 

+ O $ (2) −ikr 

r r 

r k 

$ r ⎢⎣ ∫ 

∫ 2, $ e F2 ( , t) d ) + ε ( kc, k) ( 1, $ 1( , ) d 

k 

∫ O e F t + (10) 

k 

kc 

', k 

$ rr 

r 

r 

(2) −ikr 

r r r 

(1) $ r r r 

(1) ikc 

(1) ikc 

O2, 

$ e F2 ( , t) d ⎤ − r r r 

− r r 

+ ) ξr 

∫ δ ( k′ 

c 

+ k − kc ) + O1, k 

e F1 ( , t) d + O2, 2( , ) d . 

k 

kc 

c 

k 

e F t ′ 

c 

⎥⎦ ∫ ∫ 

Эти моды служат параметрами порядка. Их кооперация или конкуренция определяют 

вид возникающих структур. В уравнениях (10) введены следующие обозначения: 

2 (1) 2 

O1, k 

2 2 2 

(1) (1) 2 

c 

(1) (1) (1) (1) 

c( k ) µ ⎡ µ µ 

c 

= 

2 ( O1, k ) + 

2 ( O2, ) 1, 2, 2, ( 1, ) ; 

c k 

− O 

c k 

O 

c k 

+ O 

c k 

O 

⎤ 

c kc 

(1 + ρ ) 

⎢ 

(1 + ρ ) (1 + ρ) 

⎥ 

⎣ 

⎦ 

2 (1) 2 

$ 1 ⎡ 2µ 

O1, k (1) (1) µ (1) (1) 2µ 

(1) (1) ⎞ 

⎤ 

c 

(1) (1) (1) 

χ ( kc, k) = − $ 

$ $ 

⎢ 2 ( O1, k 

O + O 

1, 2 2, 2, $ 1, 2, $ 2 

2, 1, 1, $ ; 

c k k 

O − O 

c k k 

O 

c k ⎟ + O 

k 

O 

c k 

O 

c k ⎥ 

λ1( k) 

⎣⎢ (1 + ρ ) (1 + ρ ) (1 + ρ) 

⎠ ⎦ 

2 (1) 

$ 1 ⎡ 2µ 

O1, kc 

(1) (2) 

ε ( kc, k) 

= − $ 

$ $ 

⎢ 2 ( O1, 

k 

O + 

c 1, k 

λ2( k) 

⎢⎣ 

(1 + ρ) 

2 

µ (1) (2) 2µ 

(1) (2) (1) (2) ⎞ 

⎤ 

(1) (1) (2) 

+ O 

2 2, k 

O2, $ − ( O1, 2, $ 2, 1, $ ) 2 

2, 1, 1, $ ; 

c k 

O + O 

k c k k 

O 

c k ⎟ + O 

k 

O 

c k 

O 

c k ⎥ 

(1 + ρ ) (1 + ρ) 

⎠ ⎦ 

4 (1) 

$ 

µ O 

2 

1, k 

2 3 2 

(1) (1) µ (1) 2µ 

(1) (1) ⎤ 

c 

d( kc, k) 

= − ⎡( O 

4 1, k ) O2, 2 ( 2, ) ( 2, ) 

c k 

+ O 

c k 

− O 

c k 

O 

c 1, k 

+ 

c 

(1 + ρ ) ⎢⎣ 

(1 + ρ ) (1 + ρ) 

⎥ 

⎦ 

2 (1) 

⎡ µ O 

2 

$ 

2 2 2 

$ 1, k ⎛ (1) µ − 

(1) 2µ (1) (1) ⎞ (1) (1) 

+χ ( kc, k) ⎢ 

2 ( O1, k ) 2 ( O2, ) 1, 2, 2, $ ( 1, 

(1 ) (1 ) (1 ) 

) 

c k 

O 

c k 

O 

c k 

O O ⎤ 

⎜ + − 

c ⎟ + 

k k 

+ 

c 

⎢ + ρ ⎝ + ρ + ρ ⎠ 

⎥⎦ 

⎣ 

( ( ) $ ( ) 

2 (2) 

⎡ µ O 

2 

$ 

2 2 2 

+ε $ 1, k (1) µ (1) 2µ (1) (1) ⎞ (2) (1) 

( kc, k) ⎢ 

2 ( O1, k ) + O 

2 2, 1, 2, 2, 1, 

. 

c k 

− O 

c k 

O 

c k 

O O ⎤ 

c ⎟ + 

k kc 

⎢(1 + ρ ) (1 + ρ ) (1 + ρ) 

⎠ 

⎥⎦ 

⎣ 

_______________________________________________________________________________ 

Уравнения (10) записаны в общем сформулируем периодические граничные 

случае и справедливы для среды любой условия. Волновой вектор определяется как 

размерности. 

r ⎛ n / l1 

⎞ 

Предположим, что реакция протекает в k = 2 π ⎜ ⎟, n, m = 0, ± 1, ± 2... 

m / l2 

двумерном слое, размеры которого l 1 и l 2 , и 

⎝ ⎠ 

∫ 

160


Рис. 1. Правила отбора для волновых векторов 

Заменим вектор k r c 

его модулем k c и 

углом φ, который этот вектор образует с 

фиксированной осью. Этот угол изменяется 

от 0 до π. В первой сумме уравнений (10) 

может остаться только слагаемое, для которого 

k′ c 

r r r 

+ k′′ 

c 

= kc 

. Из рис. 1а видно, что это 

возможно, если рассматриваемая тройка векторов 

образует правильный треугольник. 

Аналогично, во второй сумме уравнений (10) 

r r r r r r r r 

k′ c 

+ k′′ c 

+ k′′′ 

c 

= kc 

. Следовательно, k′′′ c 

= − k′ c ; k′′ 

c 

= kc 

(рис.1б). Модуль и угол волнового вектора 

устойчивых мод 

rˆk легко выражается через 

k c , φ и φ΄ (рис. 1б): 

k$ = 2k 1− cos( φ′ − φ); tgβ = −ctg( φ ′ + φ ) / 2 . 

c 

В результате систему уравнений (10) для 

параметров порядка можно переписать так: 

(1) 

dξkc 

, φ $ (1) 

− λ1 ( kc) 

ξ 

kc 

, φ 

= 

dt 

= c( k ) ξ ξ + 

∑ 

(1) (1) 

c kc 

, φ+π/3 kc 

, φ−π/3 

(1) 

kc 

, φ′ $ r 

1, k 

1 

(1) 

kc 

, φ′ $ r 

2, k 

2 

(1) (1) 

2 

kc 

, φ kc 

, φ′ 

+ d( φ − φ′ 

) ξ ξ + 

φ′ 

∑ 

+ ξ z ( t) ω ( φ − φ ′ ) + 

φ′ 

∑ 

+ ξ z ( t) ω ( φ − φ ′ ) + 

φ′ 

+ O z ( t) + O z ( t) , 

где 

(1) (1) 

r r 

1, kc 

1, k 

2, k 

с 

c 2, kс 

(11) 

ω ( φ − φ ′ ) = O χ( φ − φ ′ ) + O ε( φ − φ′ 

); 

(1) (2) 

1 1, k$ 1, k$ 

ω ( φ − φ ′ ) = O χ ( φ − φ ′ ) + O ε ( φ − φ ′ ) ; 

(1) (2) 

2 2, k$ 2, k$ 

rr 

−ikr 

r r 

z r ( t) = e F ( , )d 

j, k ∫ j 

t - компоненты случайного 

векторного поля z( t) 

, j и k r - ин- 

r 

дексные аргументы этого поля. Корреляционные 

функции для компонент поля z( t) 

имеют вид: 

z ( t ) z ( ) 2 ( k ) ( k r k r 

r 

r r τ = θ Φ δ + ) δ( t − τ) 

. 

′ 

j, k j, 

k′ j j 

(1) 

Очевидно, ξkc 

, φ 

являются функционалами 

r 

компонент поля z( t) 

. 

d 

ξ 

Усредним уравнения системы (11): 

(1) 

kc 

, φ 

(1) 

1 c kc 

, φ 

dt 

= λ$ 

( k ) ξ + 

+ c( k ) ξ ξ + 

∑ 

(1) (1) 

c kc 

, φ+π/3 kc 

, φ−π/3 

(1) 

kc 

, φ′ $ r 

1, k 

1 

(1) 

kc 

, φ′ $ r 

2, k 

2 

(1) (1) 

2 

kc 

, φ kc 

, φ′ 

+ d( φ − φ′ 

) ξ ξ + 

φ′ 

∑ 

+ ξ z ( t) ω ( φ − φ ′ ) + 

φ′ 

∑ 

+ ξ z ( t) ω ( φ − φ′ ) . 

φ′ 

Последняя система (12) содержит коррелятор 

(12) 

(1) 

kc 

φ′ 

j k 

ξ 

, 

z r ( t) 

. Он может быть рас- 

, 

крыт с помощью многомерного обобщения 

формулы Фурутцу - Новикова [4]. Принимая 

во внимание формальные решения системы 

(11), окончательно получим: 

161


d 

(1) 

kc 

, φ 

(1) (1) (1) 

k , 

( ) 

c φ 

c kc kc , φ+π/3 kc 

, φ−π/3 

dt 

( 

(1) (1) 

2 

kc 

, φ kc 

, φ′ 

+ d( φ − φ′ 

) ξ ξ + 

φ′ 

° 

2 

+ ω ( φ − φ′ 

) θ Φ ( k$ 

) + 

φ′ 

ξ 

∑ 

∑ 

= λ ξ + ξ ξ + 

1 1 1 

2 $ (1) 

+ ω2( φ − φ′ 

) θ2Φ2 ( k) ) ξk 

, 

, 

c φ′ 

где 

2 2 

1 

k c 1 1 1 2 2 2 

(13) 

λ = λ ( ) + θ ω (0) Φ (0) + θ ω (0) Φ (0) , (14) 

Φ 1,2 (0) > 0, 

ω 

2 

(0) 1,2 

, в общем случае, комплексные 

величины. Знак ˚ над суммой означает, 

что в нее не входит слагаемое с φ΄= φ. 

Из выражения для собственных чисел λ неустойчивых 

мод видно, что их действительная 

часть пропорциональна интенсивности 

флуктуаций. 

В одномерном случае система (10) после 

процедуры усреднения примет еще более 

простой вид: 

d 

ξ 

(1) 

kc 

dt 

2 

(1) (1) (1) 

k 

d k 

c c kc kc 

= λ ξ + 2 ( ,0) ξ ξ . (15) 

i 

f 

Пусть для простоты θ 

1 

= θ 

2 

= θ , 

r r 

f = exp( −k − r′ ) . Здесь k f – величина, обратная 

радиусу корреляции. Тогда для одномерной 

среды Φ = 2 k / ( k + k ) , двумерной 

2 2 

- 

Φ = 

k 

4π 

f 

2 2 

( k + k ) 3/2 

f 

f 

и трехмерной Φ = 

f 

k 

8π 

f 

2 2 

( k + k ) 2 

f 

Численно исследовалась зависимость 

действительной части λ от волнового числа k 

при различных интенсивностях шума θ. Результаты 

численных расчетов для двумерной 

среды в случае, когда становится неустойчивой 

только одна мода k c (маргинальная) при 

θ = 0 и для θ 

1 

< θ 

2 

< θ 

3 

< θ 

4 

, приведены на 

рис. 2. Из рисунка видно, что при увеличении 

интенсивности флуктуаций концентраций 

активатора и ингибитора область неустойчивых 

мод, для которых Re(λ) > 0, увеличивается. 

. 

Рис. 2. Зависимость действительной части λ от волнового числа 

Было проведено численное моделирование 

эволюции системы (4) с беспотоковыми 

граничными условиями для двумерной 

среды. 

Вдали от точки бифуркации Тьюринга 

процесс установления стационарных ДС 

пичкового типа в отсутствии флуктуаций 

представлен на рис. 3. На рис. 4 показана установившаяся 

структура при тех же параметрах 

модели на слое существенно большей 

площади. Формирование пичков при наличии 

шума различной интенсивности представлено 

на рис. 5, из которого видно, что 

при увеличении интенсивности флуктуаций 

процесс формирования стационарной ДС 

происходит быстрее. Кроме того, из сравнения 

рис. 3 и 5 можно заметить, что при наличии 

флуктуаций формируются ДС других 

периодов, т.е. флуктуации играют роль фактора 

отбора, выбирая на стадии формирова- 

162


ния ДС наиболее устойчивые. Последний результат 

согласуется с выводами, сделанными 

по этому поводу в работе [3]. 

Рис. 3. Процесс образования ДС пичкового типа 

из однородного состояния в отсутствии 

флуктуаций вдали от критической точки 

неустойчивости Тьюринга. 

Параметры модели: ρ = 0,1; µ = 1; 

D = 400. Слой 50×50 единиц длины. 

Левый вертикальный ряд – концентрация 

автокаталитической переменной, правый – 

демпфирующей. В середине указаны 

соответствующие моменты времени. 

Рис. 4. Установившаяся ДС на слое 

большой площади (400×400 единиц длины). 

Параметры модели: ρ = 0,1; µ = 1; D = 400. 

Слева концентрация активатора, 

справа – ингибитора 

Рис. 5. Формирование ДС концентрации активатора 

при наличии флуктуаций вдали от точки бифуркации. 

Параметры модели: ρ = 0,1; µ = 1; D = 400; k f = 5. 

Слой 50×50 единиц длины. Левый вертикальный ряд 

θ = 0,01, правый θ = 0,1 

Результаты моделирования вблизи неустойчивости 

Тьюринга показаны на рис. 6 и 

7. При выбранных параметрах модели D и µ 

(подпись к рис. 6) критическая скорость образования 

автокаталитической переменной 

ρ с = 0,814. Численно исследовались процессы 

изменения концентраций реагентов при 

ρ = 0,8 и ρ = 0,82 в отсутствии и при наличии 

флуктуаций. 

Зависимости концентраций активатора 

(слева) и ингибитора от времени и одной из 

пространственных координат вблизи области 

163


неустойчивости при отсутствии шума показаны 

на рис. 6. В отсутствии флуктуаций при 

ρ > ρ с (т.е. при ρ = 0,82) однородное состояние 

устойчиво. Если ρ немного меньше ρ с 

(т.е при ρ = 0,8), область неустойчивых мод 

очень узкая и ДС при мягком режиме возбуждения 

практически не формируются, то 

временная зависимость концентраций реагентов 

имеет сходный с рис. 6 вид. 

Рис. 7 иллюстрирует процесс формирования 

пичков в поле флуктуаций вблизи точки 

неустойчивости Тьюринга. Видно, что 

даже при ρ > ρ с образуются четко выраженные 

устойчивые пичковые структуры. Этот 

результат, полученный численно, хорошо 

согласуется с аналитическими исследованиями, 

приведенными выше. 

Рис. 6. Зависимость концентраций активатора 

(слева) и ингибитора от времени и одной из 

пространственных координат вблизи области 

неустойчивости. Параметры модели: ρ = 0,82; 

µ = 1; D = 400; θ = 0. Слой 80×80 единиц длины 

Рис. 7. Формирование ДС концентраций реагентов при наличии флуктуаций вблизи точки бифуркации. Левый 

вертикальный ряд – концентрация активатора при ρ = 0,8; µ = 1; D = 400; k f = 5; θ = 0,2. Слой 50×50. 

Вертикальный ряд в середине – концентрация активатора, правый вертикальный ряд – концентрация 

ингибитора при ρ = 0,82; µ = 1; D = 400; k f = 1; θ = 0,5. Слой 80×80 

Таким образом, в модели Гирера - 

Майнхардта вблизи маргинального состояния 

достаточно сильные флуктуации динамических 

переменных могут привести к увеличению 

области неустойчивых мод (рис. 2), 

а в области контрастных структур вдали от 

бифуркации Тьюринга флуктуации способствуют 

более быстрому образованию последних 

(рис. 5). Показано, что действительная 

часть собственных чисел неустойчивых 

164


мод пропорциональна интенсивности флуктуаций 

и некоторой степени радиуса корреляции, 

зависящей от размерности пространства 

реакционно – диффузионной системы. 

Приведенный анализ будет качественно 

справедлив и для других распределенных 

моделей типа реакция - диффузия. 


1. Turing, A.M. The chemical basis of 

the morphogenesis [текст] / A.M. Turing // 

Proc. Roq. Soc. B. – 1952. – V. 237. – P. 37-71. 

2. Meinhardt, H. Generation and regeneration 

of sequences of structures during 

morphogenesis [текст] / H. Meinhardt, A. Gierer 

// J. Theor. Biol. – 1980. – V. 85. – P. 429-450. 

3. Романовский, Ю.М. Математическое 

моделирование в биофизике (Введение в 

теоретическую биофизику) [текст] / Ю.М. Романовский, 

Н.В. Степанова, Д.С. Чернавский – 

Москва-Ижевск: ИКИ, 2004. – С. 472. 

4. Кляцкин, В.И. Стохастические 

уравнения глазами физика [текст] / В.И. 

Кляцкин – М.: Физматлит, 2001. – C. 528. 

5. Хакен, Г. Синергетика [текст] / 

Г. Хакен – М.: Мир, 1980. – С. 406. 

6. Keener, I.P. Activaters and ingibitors 

in pattern formation. [текст] / I.P. Keener // 

Stadies and Applied Mathematics. – 1978. – 

V. 59. – P. 1-23. 

7. Белинцев, Б.Н. Динамические 

коллективные свойства развивающихся систем. 

Канд. диссертация [текст] / Б.Н. Белинцев 

– М.: МФТИ, 1979. 

8. Соляник, Г.И. Математические 

модели морфогенеза [текст] / Г.И. Соляник, 

Д.С. Чернавский // Препринт ФИАН, 1980. 

– № 8. 

9. Абрамов, Е.И. Влияние флуктуаций 

динамических переменных на образование 

диссипативных структур в модели морфогенеза 

Гирера – Майнхардта [текст] / 

Е.И. Абрамов, С.Е. Курушина // Материалы 

международной междисциплинарной научной 

конференции «III Курдюмовские чтения. 

Cинергетика в естественных науках». – 

Тверь, 19-22 апреля 2007 г. – C. 48-52. 

10. Свирижев, Ю.М. Устойчивость 

биологических сообществ [текст] / Ю.М. 

Свирижев, Д.О. Логофет– М.: Наука, 1978. – 

C. 352. 

References 

1. Turing, A.M. The chemical basis of 

the morphogenesis / Turing A.M. // Proc. Roq. 

Soc. B. – 1952. – V.237. – P. 37-71. 

2. Meinhardt, H. Generation and regeneration 

of sequences of structures during 

morphogenesis / H. Meinhardt, A. Gierer // J. 

Theor. Biol. – 1980. – V. 85. – P. 429-450. 

3. Romanovskii, Yu.M. Mathematical 

simulation in biophysics (An introduction in 

theoretical biophysics) / Yu.M. Romanovskii, 

N.V. Stepanova, D.S. Chernavskii – Moskow- 

Izhevsk: ICR, 2004. – P.472. – [in Russian]. 

4. Klyatskin, V.I. Stochastic equations 

through the eye of the physicists / V.I. Klyatskin 

– Moscow: “Physmathlit”, 2001. – P. 528. – [in 

Russian]. 

5. Haken, H. Synergetics / H. Haken – 

Moscow: “Mir” (World), 1980. – P. 406. – [in 

Russian]. 

6. Keener, I.P. Activaters and ingibitors 

in pattern formation / I.P. Keener // Stadies and 

Applied Mathematics. – 1978. – V. 59. – P. 1-23. 

7. Belintsev, B.N. Dynamic collective 

properties of developed systems. Cand. Dissertation 

/ B.N. Belintsev – Moscow: MIPT, 1979. 


8. Solyanik, G.I. Mathematical models of 

the morphogenesis / G.I. Solyanik, D.S. Chernavskii 

// Preprint FIAN, 1980, № 8. – [in Russian]. 

9. Abramov, E.I. Dynamic variables fluctuation 

influence on dissipative structure formation 

in Gierer - Meinhardt model of the 

morphogenesis / Abramov E. I., Kurushina S.E. 

// Proceedings of international interdisciplinary 

scientific conference «III Kurdyumov readings. 

Synergetics in natural sciences». - Tver, 2007, 

pp. 48-52. – [in Russian]. 

10. Svirizhev, Yu.M. The stability of biological 

assemblages / Yu.M. Svirizhev, D.O. Logofet 

– Moscow: “Nauka” (Science), 1978. – 

P. 352. – [in Russian]. 

165


DISSIPATIVE STRUCTURES OF THE GIERER - MEINHARDT MODEL 

OF MORPHOGENESIS IN THE STOCHASTIC FIELD 

© 2008 S.E. Kurushina 


The conditions of soft excitation of Gierer - Meinhardt model dissipative structures in additive homogeneous isotropic 

Gaussian stochastic field have been analytically received. Numerical simulation of Gierer – Meinhardt system 

evolution has been carried out. It was shown that region and increment of instability is growing in stochastic field both 

on linear and nonlinear stages of structures evolution. It was received that real part of eigenvalues depends on intensity 

of fluctuation and some order of correlation radius, which defined by dimension of researched model. 

Gierer - Meinhardt model, dissipative structures, instability, stochastic field, fluctuations, numerical simulation 


Курушина Светлана Евгеньевна, Самарский государственный аэрокосмический университет 

имени академика С.П. Королева, доцент кафедры физики, кандидат физикоматематических 

наук, доцент, kurushina72@mail.ru. Область научных интересов: динамика 

нелинейных стохастических систем; теория самоорганизации; прикладная математика; стохастические 

уравнения. 

Kurushina Svetlana Evgenjevna, S. P. Korolyov Samara State Aerospace University, Ph. D. 

in Physical and Mathematical Sciences, the senior lecturer of chair of physics, 

kurushina72@mail.ru. Scientific interests: dynamics of nonlinear stochastic systems; theory of selforganization; 

applied mathematics; stochastic equations. 

166


УДК 535.42 

ПАРАЛЛЕЛЬНЫЙ АЛГОРИТМ МЕТОДА ЦИКЛИЧЕСКИХ ВСТРЕЧНЫХ 

ПРОГОНОК ДЛЯ ДВУМЕРНОЙ ОБЛАСТИ 

© 2008 Л.В. Логанова 


Работа посвящена построению параллельного алгоритма метода встречных циклических прогонок для решения 

сеточных уравнений ленточного вида. Рассмотрен вариант линейного разбиения двумерной сеточной области. 

Произведено сравнение с известными алгоритмами, выявлены недостатки и достоинства приведенного. 

Параллельный алгоритм, метод встречных циклических прогонок 


Математическое моделирование получает 

все большее распространение в различных 

областях науки и техники, например, в 

дифракционной оптике [1]. Развитие вычислительных 

средств привело к необходимости 

интеграции методов математического моделирования 

и современных компьютерных 

технологий. 

Моделирование физических процессов 

зачастую сводится к необходимости решения 

систем линейных алгебраических уравнений 

(СЛАУ) вида Ax = b , где матрица A имеет 

ленточную структуру. Причем круговые, 

сферические и цилиндрические физические 

подобласти характеризуются матрицей, содержащей 

кроме ленты на центральных диагоналях 

ненулевые элементы в верхнем правом 

и левом нижнем углах. Переход к реальным 

задачам больших размеров сопряжен с 

заметным ростом объема вычислений. 

Именно этот фактор определяет растущую 

потребность в применении параллельных 

вычислительных систем для решения больших 

и очень больших задач и, как следствие, 

синтез алгоритмов, определяемых такой архитектурой. 

Для создания параллельных алгоритмов 

решения вышеуказанных СЛАУ 

традиционно используются следующие методы: 

метод прогонки, циклической редукции, 

декомпозиции. Необходимо обратить 

внимание на то, что метод прогонки является 

экономичным, но плохо масштабируемым; 

метод циклической редукции удовлетворительно 

масштабируется и вместе с тем имеет 

повышенный объем коммуникаций, метод 

декомпозиции обладает приемлемым объемом 

пересылок и характеризуется большим 

объемом вычислений. Данные соображения 

и тот факт, что ограничение на масштабируемость 

может быть снято в случае многомерной 

сеточной области, был определен выбор 

в пользу применения метода прогонки для 

решения СЛАУ с матрицей ленточного вида. 

В работах [2-4] приведены параллельные 

алгоритмы данного метода. Наряду с несомненными 

достоинствами каждый из них 

имеет и недостатки. 

Так применение метода правой прогонки 

из работы [2] непосредственно для одномерной 

(1D) сеточной области невозможно. 

Для случая линейного разбиения одномерной 

сеточной области возрастает время простоев. 

Метод встречных прогонок не может 

быть применим для решения разностных 

уравнений с циклическими граничными условиями 

[3], имеет ограничение на число задач 

(четное) [4]. 

В данной работе предложен параллельный 

алгоритм метода встречных циклических 

прогонок, являющийся развитием алгоритмов 

из [3], [4]. При этом длительность 

вычислений по сравнению с алгоритмом из 

работы [4] не увеличивается и предъявляются 

относительно низкие требования к объему 

оперативной памяти вычислительной системы. 

Целесообразность создания алгоритма 

данного метода определяется областью его 

применения: 

– при аппроксимации краевых задач 

для обыкновенных дифференциальных уравнений 

второго порядка с переменными (периодичными) 

коэффициентами: 

167


ay cy by f 

i i − 1 − i i + i i + 1 = − i, 

ai 

≠ 0, bi 

≠ 0, i = 0, ± 1, ± 2,..., 

ai = ai + N, bi = bi + N, 

c = c , f = f 

i i + N i i + N 

– реализация разностных схем для уравнений 

с частными производными в цилиндрических 

и сферических координатах. 

Параллельный алгоритм 

для одномерной сеточной области 

Прежде чем приступить к рассмотрению 

параллельного алгоритма метода 

встречных циклических прогонок для многомерных 

областей, обратимся к параллельному 

алгоритму данного метода для одномерной 

сеточной области. Функциональная 

декомпозиция метода встречных циклических 

прогонок определяется спецификой 

использования в ней алгоритма из [5]. Параллельный 

алгоритм для одномерной сеточной 

области подробно изложен в работе 

[4]. Кратко приведем основные моменты 

данного подхода. 

Произведем разбиение одномерной области 

данных ω1 

на равные подобласти ω 1 1 

и 

2 

ω1 

между двумя задачами параллельного алгоритма. 

Пусть первая задача вычисляет прогоночные 

коэффициенты αi, βi, 

γi 

и ui 

при 

1 ≤ i ≤ g , вторая ζi, ηi , ψi 

и vi 

при 

g + 1≤ i ≤ N , где g - номер последнего узла 

подобласти 

областей ω 1 

и 

1 

ω 

1, N – номер последнего узла 

2 

ω 

1 

. 

а) б) 

в) г) 

д) е) 

Рис. 1. Этапы вычислений по двухзадачному параллельному алгоритму, реализующему 

метод встречных прогонок на одномерной сеточной области 

Вычисления по алгоритму включают: 

вычисление коэффициентов α, β, γ, ζ, η, φ 

(прямой ход прогонок, рис. 1а), обмен данными 

(крайними коэффициентами α g+1 , β g+1 , 

γ g+1 , ζ g+1 , η g+1 , φ g+1 , рис . 1б), вычисления значений 

сеточных функций U, V (обратный 

ход, рис. 1в), пересылка дополнительных 

данных U N-1 , V N-1 (рис. 1г), вычисление y 0 , 

пересылка y 0 (рис. 1д) и нахождение окончательного 

решения (рис. 1е). При этом обе за- 

168


дачи производят вычисления одновременно, 

за исключением вычисления y 0 . Простои при 

данном подходе отсутствуют, однако алгоритм 

не масштабируется. 

Ускорение приведенного двухзадачного 

алгоритма оценивается величиной 

C1MNτa 

S = 

, 

1 

C 1 MNτ a + 3 Nτk 

2 

где M – размерность СЛАУ, С 1 Mτ a – длительность 

расчета по последовательному алгоритму 

[5], τ a – время выполнения одной 

операции с плавающей точкой, τ k – длительность 

одной коммуникации между задачами 

алгоритма в рамках пакетной модели. При 

пакетной модели передачи [6] данных время 

передачи некоторого объема данных остается 

неизменным, если этот объем не превышает 

размера пакета. 

Состоятельность данного алгоритма 

подтверждается результатами вычислительных 

экспериментов, которые приведены на 

рис. 2. 

Рис. 2. Зависимость ускорения параллельного вычислительного процесса от размера сеточной области 

Полученное ускорение для исследуемого 

алгоритма соответствует закону Амдала, 

согласно которому оно не должно превышать 

2. 

Например, для всех размерностей сеточной 

области, начиная с M=50000, ускорение 

предложенного алгоритма превышает 1,5. 

Параллельный алгоритм для двумерной 

сеточной области, основанный на методе 

встречных циклических прогонок 

с линейным разбиением 

Для двумерной области ω 2 ограничение 

на масштабируемость снимается. В работе 

[6] приведен параллельный алгоритм метода 

встречных прогонок для ω 2 . Здесь он модифицирован 

на случай СЛАУ с трехдиагональной 

матрицей и ненулевыми элементами 

в верхнем правом и левом нижнем углах. 

Если алгоритм состоит из двух задач, то каждая 

СЛАУ в продольном направлении 

(прогонки по строкам) решается одновременно 

обеими задачами. Вычисления в поперечном 

направлении (прогонки по столбцам) 

являются независимыми и не сопровождаются 

коммуникациями. Пусть размер сеточной 

области ω 2 будет N×M узлов. Линейное 

разбиение выполним по М. Тогда ускорение 

алгоритма составит 

S = 

2C 1MNτa 

C1MNτ a + 6 

. 

Nτk 

Для алгоритма из 4 задач производится 

линейное разбиение сеточной области, представленное 

на рис. 3. Первая и последняя за- 

169


дачи начинают прямой ход без принятия 

прогоночных коэффициентов, остальные задачи 

перед прямым ходом принимают прогоночные 

коэффициенты, выполнив необходимые 

вычисления, передают их. Задачи под 

номерами р/2 и р/2+1 (р – число задач) начинают 

обратный ход принятием прогоночных 

коэффициентов друг от друга. Вычислив 

значения сеточных функций, передают их 

задачам р/2-1 и р/2+2. Остальные задачи перед 

обратным ходом принимают значения 

сеточных функций, выполнив необходимые 

вычисления, передают их. Кроме того, задача 

4 по завершении обратного хода передает 

значения сеточных функций задаче 1, которая 

вычисляет y 0 и пересылает его остальным 

задачам. После чего производится вычисление 

решения. 

а) б) 

в) г) 

д) е) 

ж) 

Рис. 3. Этапы вычислений по четырехзадачному параллельному алгоритму, реализующему 

метод встречных прогонок на двумерной сеточной области 

170

Рассмотрим подробнее этапы вычислений 

для алгоритма из 4 задач, учитывая сказанное 

выше о пересылках данных. На первом 

шаге задачи 1,4 начинают прямой ход 

прогонки для строки 1, задачи 2,3 простаивают 

(рис. 3а). На втором – задачи 2,3 продолжают 

прямой ход для строки 1, задачи 1,4 

выполняют прямой ход для строки 2 

(рис. 3б). Третий шаг характеризуется простоем 

задач 1,4 и началом обратного хода 

для строки 1 задачами 2,3 (рис. 3в). Четвертый 

шаг – прямой ход, выполняются задачи 

1,4 для строки 3, задачи 2,3 для строки 2 

(рис. 3г). Пятый шаг – все задачи выполняют 

обратный ход (рис. 3д). После этого прямой 

и обратный ходы чередуются, пока задачи 

2,3 не произведут прямой ход прогонок для 

последней строки. Каждый раз по завершении 

обратного хода задачами 1,4, задача 1 

получает значения сеточных функций от задачи 

4. Задача 1 вычисляет у 0 и пересылает 

задачам 1,2,3,4, которые в это время простаивают 

(рис. 3е). Наконец, все задачи выполняют 

вычисления у i (рис. 3ж). На заключительном 

этапе задачи 2,3 выполняют прямой 

ход, при этом задачи 1,4 простаивают. 

Обратный ход выполняется всеми задачами. 

После чего задачи 2,3 простаивают, задачи 

1,4 завершают обратный ход прогонок для 

последней строки сеточной области. 


Теоретическая оценка ускорения данного 

алгоритма: 

2C 1MNτa 

S = 

. 

1 

M 

C1MNτ a + 6Nτk + C 1 τa 

2 4 

Обобщим данный подход на произвольное 

число задач р. В течение первых р/2 

шагов производится только прямой ход прогонки. 

Задача l (l


а) 

б) 

Рис. 4. Зависимость ускорения параллельного вычислительного процесса 

от размера сеточной области для 4-х задач (а), 6 задач (б) 

Традиционно, в силу тенденции к созданию 

аппаратно-независимых программ 

понятие размера занимаемой памяти считалось 

несущественным. Однако известно, что 

в ряде случаев указанная особенность может 

становится определяющей [7]. Стремление 

максимально увеличить размер памяти, необходимой 

для выполнения программы, может 

привести к использованию дополнительной 

«медленной» памяти, которая чаще 

всего реализуется на жестких дисках. Ее 

размеры во много раз больше быстрой памяти, 

но время доступа также во много раз 

больше. 

Тот факт, что операции выполняются 

только над данными, находящимися в оперативной 

памяти, приводит к необходимости 

многократно переносить данные из «медленной» 

памяти в «быструю» и обратно. Неудачная 

организация обменов может привести 

к тому, что время осуществления обменов 

между быстрой и медленной памятью будет 

превосходить время выполнения операций 

алгоритма в десятки, сотни и даже тысячи 

раз, что может привести к увеличению времени 

выполнения вычислений по алгоритму 

в несколько раз. 

Произведем сравнение данного алгоритма 

и алгоритма, приведенного в работе 

[4], учитывая вышесказанное. Первые p шагов 

в этих алгоритмах совпадают. Далее в 

приведенном алгоритме наблюдается чередование 

прямого и обратного ходов, что позволяет 

хранить значения прогоночных коэффициентов 

и сеточных функций лишь на 

протяжении p шагов. В алгоритме из работы 

[4] они сохраняются в течение 2N+p шагов. 

Ясно, что с ростом N возможность увеличения 

времени выполнения программы возрастает. 

Таким образом, требования приведен- 

172


ного алгоритма к памяти по объему в 2N/p 

раз меньше по сравнению с алгоритмом из 

работы [4]. 

По сравнению с алгоритмами из [2,3] 

разработанный алгоритм позволил снять ограничения 

на масштабируемость, возможность 

использования для решения разностных 

уравнений с циклическими граничными 

условиями (по сравнению [6]), при этом скорость 

вычислений оказалась выше (по сравнению 

с [4]). 

Выводы 

Применение функциональной декомпозиции 

к синтезу параллельных алгоритмов, 

основанных на методе циклических встречных 

прогонок для решения сеточных уравнений 

трехдиагонального вида, приводит к алгоритмам, 

обладающим высоким ускорением и эффективностью. 

Для двух задач алгоритм позволяет 

получить ускорение 1,9; для 4 задач с 

1D разбиением – 3,2; для 6 задач с 1D разбиением 

– 3,6. 

Представляется целесообразным развитие 

приведенного метода и синтеза алгоритма 

с циклическим разбиением двумерной 

(2D) области. 


1. Методы компьютерной оптики (Издание 

второе, исправленное) / под ред. В.А. 

Сойфера – М.: Физматлит, 2003. – 688 с. 

2. Миренков, Н.Н. Параллельные алгоритмы 

для решения задач на однородных 

вычислительных системах [текст] / Н.Н. Миренков 

// Вычислительные системы – Новосибирск: 

ИМ СО АН СССР. – 1973. – Вып. 

57. – С. 3-32. 

3. Четверушкин, Б.Н. О возможности 

реализации квазигидродинамической модели 

полупроводниковой плазмы на многопроцессорных 

вычислительных системах [текст] 

/ Л.Ю. Бирюкова, Б.Н. Четверушкин // Математическое 

моделирование. – 1991. – Т.3, 

№6. – С. 61-71. 

4. Головашкин, Д.Л. Параллельные 

алгоритмы метода циклической прогонки 

[текст] / Д.Л. Головашкин, М.В. Филатов // 

Компьютерная оптика. – 2005. – №27. – С. 

123-130. 

5. Самарский А.А. Методы решения 

сеточных уравнений [текст] / А.А. Самарский, 

Е.С. Николаев – М.: Наука, 1978. – 

561 c. 

6. Головашкин, Д.Л. Параллельные 

алгоритмы решения сеточных уравнений 

трехдиагонального вида, основанного на методе 

встречных прогонок [текст] / Д.Л. Головашкин 

// Математическое моделирование. 

– 2005. – Т. 17, № 11. – С. 118– 128. 

7. Воеводин, В.В. Параллельные вычисления 

[текст] / В.В. Воеводин, Вл.В. Воеводин 

– СПб.: БХВ-Петербург, 2002. – 608 с. 

8. Голуб, Дж. Матричные вычисления 

[текст] / Дж. Голуб, Ван Лоун – М.: Мир, 

1999. – 548 с. 

9. Ортега, Джеймс М. Введение в параллельные 

и векторные методы решения 

линейных систем [текст] / Джеймс М. Ортега, 

перевод с англ. Х.Д. Икрамова, И.Е. Капорина; 

под ред. Х.Д Икрамова – М.: Мир, 

1991. – 364 с. 

References 

1. Methods of computer optics (The edition 

the second, corrected) / Edited by V.A. 

Soifer – Мoscow: “Fizmatlit”, 2003. – 688 p. – 

[in Russian]. 

2. Mirenkov, N.N. Parallel algorithms for 

the decision of problems on homogeneous computing 

systems / N.N. Mirenkov // Computing 

systems – Novosibirsk: “IM SO AN USSR”. – 

1973. – V. 57. – P. 3-32. – [in Russian]. 

3. Chetverushkin, B.N. About realisation 

possibility quasi-hydrodynamic models of semiconductor 

plasma on multiprocessing computing 

systems / L.Yu. Biryukova, B.N. Chetverushkin 

// Mathematical modeling. – 1991. – 

V. 3, N 6. – P. 61-71. – [in Russian]. 

4. Golovashkin, D.L. Parallel algorithms 

of cyclic prorace method / D.L. Golovashkin, 

M.V. Filatov // Computer Optics. – 2005. – 

V. 27. – P. 123-130. – [in Russian]. 

5. Samarskiy A.A. Methods of the decision 

of the grid equations / A.A. Samarskiy, 

E.S. Nilolayev – Moscow: “Nauka” (Science), 

1978. – 561 p. – [in Russian]. 

173


6. Golovashkin, D.L. Parallel algorithms 

of the grid equations decision of the threediagonal 

kind based on a method of counter proraces 

/ D.L. Golovashkin // Mathematical modelling. 

– 2005. – V. 17, N 11. – P. 118– 128. – 

[in Russian]. 

7. Voevodin, V.V. Parallel calculations / 

V.V. Voevodin, Vl.V. Voevodin – Sankt-Peterburg: 

“BHV-Peterburg”, 2002. – 608 p. – [in 

Russian]. 

8. Golub, Dg. Matrix calculations / Dg. 

Golub, Van Lown – Moscow: “Mir” (World), 

1999. – 548 p. – [in Russian]. 

9. Ortega, Dgaims M. Introduction in 

parallel and vector methods of linear systems 

decision / Dgaims M. Ortega, translate from 

English H.D. Ikramova, I.E. Kaporina; edited by 

H.D. Ikramova – Moscow: “Mir” (World), 

1991. – 364 p. – [in Russian]. 

A PARALLEL ALGORITHM IN THE CYCLIC COUNTER-SWEEP METHOD 

FOR A TWO-DIMENSIONAL DOMAIN 

© 2008 L.V. Loganova 


Construction of a parallel algorithm in the cyclic counter-sweep method for solving band-type grid equations is 

discussed. A variant of the linear breakdown of the two-dimensional grid domain is considered. Comparison is made 

with the familiar algorithms, disadvantages and benefits of the algorithm under discussion are shown. 

A parallel algorithm, cyclic counter-sweep method 


Логанова Лилия Владимировна, Самарский государственный аэрокосмический университет 

имени академика С.П. Королева, старший преподаватель кафедры «Техническая 

кибернетика», e-mail: tk@smr.ru . 

Loganova Liliya Vladimirovna, S. P. Korolyov Samara State Aerospace University, senior 

lecturer at the Technical Cybernetics sub-department, e-mail: tk@smr.ru . 

174


УДК 517.929 

РЕШЕНИЕ ЗАДАЧИ НАИМЕНЬШИХ КВАДРАТОВ 

НА ОСНОВЕ МЕТОДА РАСШИРЕННОЙ СИСТЕМЫ УРАВНЕНИЙ 

С РАЗРЕЖЕННОЙ МАТРИЦЕЙ 

© 2008 С.Ю. Гоголева, О.В. Зотеева 


В данной статье рассматривается решение задачи наименьших квадратов. Предлагается преобразование 

ее к эквивалентной задаче решения расширенной системы линейных уравнений (СЛАУ) с применением соответствующих 

модификаций прямого проекционного метода (ППМ). Проводится сравнение ППМ и метода нормальных 

уравнений – сравниваются затраты объема оперативной памяти и количества арифметических операций 

для обоих методов. Рассматривается использование методов для разреженных матриц общего вида и приводится 

сравнительная таблица затрат. 

Разреженная матрица, расширенная система, прямой проекционный метод, заполнение 


Построение математических моделей 

многих практических задач приводит к решению 

СЛАУ с матрицами больших размерностей, 

причем зачастую большинство элементов 

этих матриц – нулевые. Наглядный пример 

этого – решение уравнений с частными производными 

методом конечных разностей. 

При наличии большого количества нулевых 

элементов очевидна целесообразность 

хранения только ненулевых элементов, что 

ведет к сокращению затрат, а именно: объема 

памяти, количества арифметических операций 

и, следовательно, общего времени выполнения 

задачи. Сведение к минимуму выше 

перечисленных затрат обеспечивает наибольшую 

эффективность и наименьшую 

стоимость задачи в целом. 

Для решения СЛАУ с разреженной 

матрицей чаще всего используются как прямые, 

так и итерационные методы. [1] В данной 

статье предлагается использовать ППМ 

и преобразовывать задачу наименьших квадратов 

к эквивалентной задаче решения расширенной 

СЛАУ. 

Постановка задачи наименьших 

квадратов 

Рассмотрим произвольную СЛАУ (1). 

Ax = b , (1) 

где 

n m 

A∈ R × 

m n 

, n ≥ m, rank ( A) 

= m, 

x∈ R , b∈ R . 

Решение (1) находится как (2): 

* 2 

2 

x = Arg min Ax − b , 

(2) 

m 

где x * 

∈ R , ⋅ – евклидова норма вектора. 

175 

Метод нормальных уравнений 

Задачу наименьших квадратов решают 

чаще всего методом нормальных уравнений [3]. 

Метод нормальных уравнений состоит 

из двух этапах: 

- уравнение (1) преобразуется к виду 

T 

A Ax 

T 

A A 

Cx 

T 

= A b , (3) 

= C , 

T 

A b 

= f , получим 

= f 

(4) 

- производится разложение полученной матрицы 

C методом Холесского: С = U U , где 

T 

U – верхнетреугольная матрица. 

T 

Система уравнений U Ux = f распадается 

на две системы: 

Ux = y , U 

T 

y = f , 

то есть решаем полученную систему (4) методом 

прямой подстановки и обратной подстановки. 

Преимуществом метода является то, что 

работа ведется не со всей матрицей, а только с 

ее частью, полученной путем разложения. 

Основной недостаток метода нормальных 

систем – в большинстве случаев происходит 

заполнение (появление новых ненулевых 

элементов в матрице коэффициентов), 

что ведет к дополнительным затратам оперативной 

памяти и увеличению числа арифметических 

операций. А также в системе уравнений 

(3) число обусловленности матрицы 

A возводится в квадрат.


Прямой проекционный метод 

Решение нормальной системы уравнений 

(3) эквивалентно решению расширенной 

системы уравнений [4]: 

⎛ E A⎞⎛ y ⎞ ⎛b⎞ 

A 

T 

⎟⎜ ⎟ = ⎜ ⎟ , (5) 

⎜ O ⎟ 

⎝ ⎠ ⎝ x ⎠ ⎝ 0 ⎠ 

где E – единичная матрица размера n× n . 

Вычислительные формулы ППМ для 

матриц общего вида без учета структуры 

имеют вид: 

( i) 

T 

gi+ 1ci + 1Pi 

Pi 

+ 1 

= P 

i 

− 

ω 

i+ 

1 

, P0 

( i) T 

g 

1 ( d 

1 

c 

1 

y i ) 

y 

1 

y i + i + 

− i + 

i + 

= i 

+ 

, 

w i + 1 

где 

P = ⎡g ... 1 

g ⎤ ∈ 

i 

= E 

(6) 

y 

0 

= 0 , (7) 

= + , 

( i) ( i) 

p× 

p 

⎣ p ⎦ , p n m 

T ( i) 

T 

ω 

i+ 1 

= ci + 1gi 

+ 1, i = 0,1... p− 1, c 

i + 1 

– строки матрицы С. 

Модификация ППМ для решения задачи 

наименьших квадратов 

Преобразование задачи наименьших 

квадратов к расширенной СЛАУ с разреженной 

матрицей приводит к увеличению размерности 

исходной задачи, а увеличение 

размерности влечет в свою очередь трудности 

вычислительного характера. Поэтому 

предлагается данную систему решать с помощью 

модификации ППМ. 

Благодаря специальной структуре матрицы 

расширенной СЛАУ и векторов ППМ в 

расширенной системе из p = n + m уравнений 

n решаются аналитически. Это означает, 

что удается заранее вычислить значения 

первых n векторов и указать структуру векторов 

на последующих шагах алгоритма. 

Предположим, что для главных миноров 

матрицы С выполняются условия: 

det C i ≠ 0 , ∀ i = 1, 2,..., p , p = n + m 

Обозначим 

( , ) 

( i) ( i) ( i) 

T 

j j j 

v q s 

где 

q 

(0) 

k 

T p 

i 

= 

i i 

∈ , 

= , y ( r , x ) 

q , 

( i ) 

j 

= − a , s 

k 

n 

ri 

∈ , 

(0) 

k 

k 

s , 

( i ) 

j 

m 

xi 

∈ , i 0,1,... p 2 

= e , k = 0,1,... m , y0 

= − , 

= d . 

Полученный вариант алгоритма ППМ 

для решения задач наименьших квадратов 

реализуется следующим образом: 

a q 

v v v 

T ( i+ 

1) 

( i+ 

1) ( i) i+ 

1 j ( i) 

j 

= − 

j 

i+ 

1 

τi+ 

1 

где 

τ = a q + , 

T ( i 1) 

i+ 1 i+ 

1 j 

i = 0,1,... m − 2, j = i + 2, i + 3,... m , 

T 

a 

1 

r 

i ( i) 

y 

1 

y 

i+ 

i + 

= i 

− ν i + 1 

i 1 

, (8) 

τ + 

(9) 

где i = 0,1,... m − 1. 

Рассмотренные формулы применительно 

к методу расширенных систем позволяют 

избежать ненужных n первых шагов, 

что существенно сокращает число операций, 

затрачиваемых на решение задачи, а также 

объем оперативной памяти, затрачиваемый 

на промежуточные действия. 

Применения ППМ к решению задач 

с разреженными матрицами 

На основе разработанного метода проводились 

вычислительные эксперименты 

решения задач наименьших квадратов с разреженными 

матрицами. 

Рассмотрим разреженную матрицу 

m n 

A ∈ R × 

, у которой ненулевые элементы определены 


при i ≤ n a 

ij 

≠ 0, если i ≤ j, 

при i > n a im 

≠ 0. 

На I этапе метода нормальных уравнений 

получим целиком заполненную матрицу C, а 

при решении задачи ППМ для расширенной 

матрицы, заполнение будет в 2 раза меньше. 

В таблице 1 сравниваются объемы затрат 

памяти и число арифметических операций 

двух рассмотренных в работе методов. 

Мы видим, что заполнение для таких 

матриц в методе расширенных систем в 2 

раза меньше, чем в методе нормальных 

уравнений. Таким образом, можно сделать 

вывод, что метод расширенной системы 

уравнений гораздо эффективнее метода нормальных 

уравнений. 

176


Таблица 1 

Метод 

Метод нормальных уравнений 

ППМ для решения расш СЛАУ 

Число арифметических 

операций 

m 

3 

3 

+ 2nm 

3 

m 3 

+ nm − m 

3 2 

2 2 

Оперативная 

память 

m + 1 m 

2 

m + 1 m 

4 


В статье был рассмотрен прямой проекционный 

метод применительно к задаче наименьших 

квадратов. 

Его модификация для данной задачи с учетом 

разреженности расширенной системы позволяет 

существенно сократить количество шагов 

алгоритма, а также уменьшить объемы затрачиваемой 

оперативной памяти и арифметических 

операций. Этот факт существенно 

упрощает решение задачи и уменьшает время 

поиска ее решения, что является довольно 

существенным преимуществом. 

Сравнение прямого проекционного метода 

с методом нормальных уравнений показало, 

что ППМ требует для решения задачи 

объемы затрат, в разы меньше, чем метод 

нормальных уравнений. 



для молодых исследователей НОЦ №14 

“Математические основы дифракционной 

оптики и обработки изображений”. 


1. Голуб, Дж., Ван Лоун, Ч. Матричные 

вычисления [текст] / Дж. Голуб, Ч. Ван 

Лоун – М.: Мир, 1999. – 548 c. 

2. Жданов А.И. Прямой последовательный 

метод решения систем линейных 

алгебраических уравнений [текст] / А.И. 

Жданов // Докл. РАН. – 1997. – Т. 356, N 4. – 

С. 442-444. 

3. Лоусон Ч. Численное решение задач 

методом наименьших квадратов. [текст] / Ч. 

Лоусон, Р.Хенсон – М.: Наука, 1986. – 230 с. 

4. Bjork A. Handbook of numerical 

analysis. V. 1. [текст] / A. Bjork – North-Holland: 

Elsevier. 1990. 

References 

1. Golub, Dg., Van Lown, Ch. Matrix Calculation 

/ Dg. Golub, , Ch. Van Lown, – Moscow: 

“Mir” (Science), 1999. – 548 p. – [in Russian]. 

2. Gdanov, A.I. Direct consecutive 

method of the decision of the linear algebraic 

equations systems / A.I. Gdanov // Reports the 

Russian Academy of Sciences, 1997. – V. 356, 

N 4. – P. 442-444. – [in Russian]. 

3. Louson, Ch. The numerical decision of 

problems by least squares method / Ch. Louson, 

R. Henson – Moscow: “Nauka” (Science). – 

1986. – 230 p. – [in Russian]. 

4. Bjork A. Handbook of numerical 

analysis. V. 1. North-Holland: Elsevier. 1990. 

177


SOLVING THE LEAST SQUARES PROBLEM USING THE METHOD 

OF AN EXTENDED SET OF EQUATIONS WITH SPARSE MATRIX 

© 2008 S.Yu. Gogoleva, O.V. Zoteeva 


The solution of the least squares problem is discussed. The proper least squares problem is formulated and 

solved using the straightforward projection method (SPM). We propose that it should be reduced to an equivalent problem 

of solving an extended set of linear equations (ESLE) using the corresponding SPM’s modifications. We compare 

the SPM and the normal equations method in terms of the RAM space utilized and the number of arithmetic operations 

needed. The use of the methods for the general sparse matrix is discussed and a table of comparative computational efforts 

is given. 

Sparse matrix, extended set, direct projection method, completing 


Гоголева Софья Юрьевна, Самарский государственный аэрокосмический университет 

имени академика С.П. Королева, доцент кафедры прикладной математики, e-mail: 

gogoleva_s@mail.ru. Область научных интересов – матричные вычисления. 

Зотеева Ольга Владимировна, Самарский государственный аэрокосмический университет 

имени академика С.П. Королева, студентка, e-mail: zoteeva_o@mail.ru . Область научных 

интересов – математическое моделирование. 

Gogoleva Sofja Yurjevna, S.P. Korolyov Samara State Aerospace University, associate professor, 

e-mail: gogoleva_s@mail.ru. Area of research: matrix calculation. 

Zoteeva Olga Vladimirovna, S.P. Korolyov Samara State Aerospace University, student, 

e-mail: zoteeva_o@mail.ru . Area of research: mathematical modeling. 

178


УДК 517.5 

РЕШЕНИЕ ЗАДАЧИ ПОЛИНОМИАЛЬНОЙ АППРОКСИМАЦИИ 

С ИСПОЛЬЗОВАНИЕМ ИТЕРАЦИОННОГО МЕТОДА КАЧМАЖА 

© 2008 А.А. Иванов 


Дается описание классического итерационного метода Качмажа и его модификации с использованием 

релаксационного параметра. Исследуется скорость сходимости метода Качмажа с релаксационным параметром 

применительно к задаче наименьших квадратов большой размерности. Даются рекомендации по выбору релаксационного 

параметра для частного случая – задача аппроксимации экспериментальных данных полиномиальными 

зависимостями в смысле наименьших квадратов. 

Итерационные методы, метод наименьших квадратов, переопределенные системы, метод Качмажа, 

полиномиальная аппроксимация, параметр релаксации 


Многие задачи вычислительной математики 

сводятся, в конечном счете, к решению 

систем линейных алгебраических уравнений. 

Чаще такие системы получаются переопределенными 

и имеют большие размерности. 

Применение прямых методов для решения 

подобных задач требует существенных 

затрат памяти и иных вычислительных 

ресурсов ЭВМ. 

Для многих практических задач вычислительной 

математики требуется решение 

задачи полиномиальной аппроксимации в 

смысле метода наименьших квадратов 

(МНК). Применение известных итерационных 

методов для решения данного класса 

задач сопряжено с очень низкой скоростью 

сходимости, которая вызвана плохой обусловленностью 

данной задачи. 

Итерационный метод Качмажа 

В работе [1] математиком С. Качмажем 

(Stefan Kaczmarz) был предложен итерационный 

метод (относящийся к классу проекционных) 

решения систем линейных алгебраических 

уравнений (СЛАУ) с квадратной 

невырожденной матрицей: 

n× 

n 

n 

A⋅ u = f , A∈ , f ∈ , det A ≠ 0. (1) 

Суть этого метода состоит в последовательном 

ортогональном проектировании 

приближения на гиперплоскости 

( A , u) 

, i = 1,2,..., n , где A 

i 

i 

- строки матрицы. 

Итерационная последовательность в 

соответствии с этим алгоритмом определяется 

рекуррентной формулой 

i 

k 

0 

k + 1 

i−1 

k 

u = u + A 

u 

i−1 

( A , u 

i k ) 

i = 1, 2,..., n, k = 1, 2,..., 

= u 

n 

k 

. 

T 

i 

f − 

i 

⋅ 

A 

i 

2 

, 

(2) 

где k - номер внешней итерации, i - номер 

внутренней, а T - символ транспонирования. 

В качестве критерия остановки итерационного 

процесса (2) часто выбирают критерий 

u u 

δ = ≤ ∆ . 

(3) 

0 − 0 

k + 1 k 

2 

0 

uk 

2 

Одним из первых практических применений 

итерационного метода Качмажа к решению 

задачи наименьших квадратов (переопределенных 

СЛАУ) является компьютерная 

томография [2,3]. 

Рассматриваемый метод был исследован 

Гордоном (R. Gordon) в работе [2], после 

чего стал известен как ART метод (Algebraic 

Reconstruction technique). Подробное описание 

данной технологии можно найти в фундаментальной 

работе [3]. 

В [4] показано, что в случае переопределенных 

систем полного ранга (4) итерационная 

последовательность (2) сходится к 

псевдорешению (5) при любом начальном 

приближении, т.е. когда 

179


m× 

n n m 

A⋅ u = f , A∈ , u ∈ , f ∈ , 

m > n, ∀ i = 1,2,..., m A ≠ θ, 

где θ - нулевой вектор, 

T 

−1 

T 

( ) ( ) 

i 

(4) 

u = A ⋅ A ⋅ A ⋅ ∗ 

f , rank A = n. 

(5) 

Итерационный метод Качмажа 

с параметром релаксации 

Для итерационного метода Качмажа до 

сих пор отсутствуют теоретические результаты 

о его скорости сходимости. Более того, 

при решении ряда практических задач данный 

метод имеет неудовлетворительную 

(низкую) скорость сходимости. 

Для ее улучшения предлагается введение 

в алгоритм (2) релаксационного параметра 

ω. В этом случае итерационная последовательность 

(2) преобразуется к виду: 

u = u + ω⋅ 

A 

u 

i 

k 

0 

k + 1 

i−1 

k 

i−1 

( A , u 

i k ) 

i = 1, 2,..., m, k = 1, 2,..., 

= u 

n 

k 

. 

T 

i 

f − 

i 

⋅ 

A 

i 

2 

, 

(6) 

В [4] доказано, что данная последовательность 

сходится к псевдорешению (5), 

ω∈ 0;2 . Однако не дается никаких 

если ( ) 

рекомендаций по практическому выбору параметра 

ω. 

Описание модельной задачи 

Представленные здесь алгоритмы были 

реализованы в свободно распространяемом 

математическом пакете SciLab. 

В качестве модельной задачи была выбрана 

задача полиномиальной аппроксимации 

достаточно большой размерности: 

A u f A u f 

где 

1001× 

5 5 1001 

⋅ = , ∈ , ∈ , ∈ , (7) 

4 

⎛ 1 t0 ... t ⎞ 

0 

⎜ 

⎟ 

A = ⎜ ... ... ... ... ⎟ , 

⎜ 

4 

1 t1000 ... t ⎟ 

⎝ 

1000 ⎠ 

t = i ⋅ i = 

i 

−2 

10 , 0,10. 

(8) 

Число обусловленности этой матрицы 

велико и равно 29064. 

При вычислительном эксперименте необходимо 

знать точное псевдорешение системы 

(7), которое используется в дальнейшем 

для контроля погрешности. 

В эксперименте был выбран вектор 

) 

u = ( 1, 2, 3, 4, 5) 

T 

. Поскольку часто при 

измерениях возникают неустранимые погрешности, 

то пусть f = A⋅ u + ξ , где ξ∈ 

) 

n 

- некоторый случайный вектор (невязка), 

компоненты которого распределены равномерно 

в интервале (0;1) и M [ ξ ] = 0,5 , а 

1 

D[ ξ ] = . 

12 

Тогда точным псевдорешением системы 

(7) будет вектор u = A ⋅ f 

+ 

. 

вы- 

Здесь псевдообратная матрица A + 

числяется средствами пакета SciLab. 

Результаты вычислительного 

эксперимента 

Очевидно, при релаксационном параметре 

ω = 1 итерационная последовательность 

(6) соответствует классическому методу 

Качмажа. В эксперименте было выбрано 

∆ = 0,001. 

Тогда, используя итерационную последовательность 

(2), необходимо провести всего 

34 итерации. 

Данное число итераций возможно 

уменьшить, если применять метод Качмажа 

с релаксационным параметром. 

В таблице 1 показано, каким образом 

изменяется число итераций для алгоритма 

(6) в зависимости от значения ω. 

Численный эксперимент показывает, 

что при ω = 0,015 происходит уменьшение 

числа итераций на 41%. 

Рассмотрим задачу большей размерности, 

а именно: 

A u f A u f 

10001× 

1 5 10001 

⋅ = , ∈ , ∈ , ∈ , (9) 

где матрица A строится аналогично (8). 

При ω = 1 количество итераций для 

решения такой задачи равно также k=35. 

Отметим интересную особенность метода 

Качмажа – сильное увеличение размер- 

180


ности задачи слабо сказывается на числе 

необходимых итераций. 

Если ω = 0,0015 , то число итераций 

равно всего k=21. 

Таблица 1. Количество итераций для построчного метода Качмажа 

Значение параметра релаксации Количество итераций Улучшение 

1,500 34 0,00% 

1,000 34 0,00% 

0,900 34 0,00% 

0,800 34 0,00% 

0,700 35 -2,94% 

0,600 35 -2,94% 

0,100 35 -2,94% 

0,090 35 -2,94% 

0,030 33 2,94% 

0,020 29 14,71% 

0,015 20 41,18% 

0,010 22 35,29% 

0,009 23 32,35% 

0,001 89 -161,76% 

Из вышеприведенных результатов 

можно сделать вывод о том, что при 

10 

ω (10) 

m 

происходит уменьшение числа итераций 

применительно к задаче полиномиальной 

аппроксимации. 

Было проведено около 100 экспериментов 

для задач рассматриваемого типа разных 

размерностей, результаты которых подтверждают 

сделанный вывод (10). 

Более того, была рассмотрена задача 

полиномиальной аппроксимации с числом 

строк 100000. При ω = 1 число итераций составило 

34, а при использовании рекомендации 

(10) всего 9. 

При малых размерностях m 100 не 

имеет особого смысла применять метод с 

релаксационным параметром, так как и при 

ω = 1 число итераций не столь велико. А 

применение рекомендации (10) может не 

дать ожидаемого уменьшения числа итераций, 

а, наоборот, увеличить их. 


В работе проведено экспериментальное 

исследование метода Качмажа применительно 

к задаче полиномиальной аппроксимации 

в смысле МНК. Дается рекомендация по выбору 

релаксационного параметра ω. 

Рассматриваемые в работе модельные 

задачи представляют серьезную сложность 

при решении их прямыми или известными 

итерационными методами. 

Показано, что алгоритм Качмажа и 

особенно его модифицированная форма позволяют 

эффективно решать задачи полиномиальной 

аппроксимации в смысле МНК. 

Таким образом, данный подход может найти 

широкое применение при решении многочисленных 

задач математического моделирования. 

181


Метод Качмажа является очень перспективным 

среди других итерационных методов 

решения задач больших размерностей, 

хотя и нуждается в дополнительных теоретических 

и практических исследованиях. 



для молодых исследователей НОЦ SA- 

014-02 «Математические основы дифракционной 

оптики и обработки изображений». 


1. Kaczmarz, S. Approximate solution of 

systems of linear equations [текст] / Kaczmarz 

S. // Internat. J. Control. – 1993. – V. 57, N 6. – 

P. 1269–1271. 

2. Gordon, R. Reconstruction of pictures 

from their projections [текст] / R. Gordon, 

G. Herman // Communications of the ACM. – 

1971. – V. 14, N 12. – P. 759-768. 

3. Avinash, C. Kak Principles of computerized 

tomographic imaging [текст] / C. Kak 

Avinash, Slaney Malkolm // IEEE PRESS, 

1987. – 329 p. 

4. Ильин, В.П. Об итерационном методе 

Качмажа и его обобщениях [текст] / 

В.П. Ильин // Сибирский журнал индустриальной 

математики. – 2006. – Т. 9, №3. 

References 

1. Kaczmarz, S. Approximate solution of 

systems of linear equations / Kaczmarz S. // Internat. 

J. Control. – 1993. – V. 57, N 6. – 

P. 1269–1271. 

2. Gordon, R. Reconstruction of pictures 

from their projections / R. Gordon, G. Herman // 

Communications of the ACM. – 1971. – V. 14, 

N 12. – P. 759-768. 

3. Avinash, C. Kak Principles of computerized 

tomographic imaging / C. Kak Avinash, 

Slaney Malkolm // IEEE PRESS. – 1987. 

– 329 p. 

4. Iljin, V.P. About Kaczmarz’s iterative 

method and its generalizations / V.P. Iljin // The 

Siberian magazine of industrial mathematics. – 

2006. – V. 9, N 3. – [in Russian]. 

SOLVING THE POLYNOMIAL APPROXIMATION PROBLEM 

WITH USE OF THE ITERATIVE KACHMAZH METHOD 

© 2008 A.A. Ivanov 


In this work, we describe a classical iterative Kachmazh method and a modification thereof using a relaxation 

parameter. We study at which rate the Kachmazh method with a relaxation parameter converges when applied to solving 

a least squares problem of large dimension. Recommendations are given for choosing the relaxation parameter in a 

particular case - when solving the problem of polynomial approximation of the experimental data in the least squares 

sense. 

Iterative methods, least squares method, overdefined systems, Kachmazh method, polynomial approximation, relaxation 

parameter 


Иванов Андрей Александрович, Самарский государственный аэрокосмический университет 

имени академика С.П. Королева, студент. Область научных интересов – математическое 

моделирование. 

Ivanov Andrey Alexandrovich, S. P. Korolyov Samara State Aerospace University, student. 

Area of research: mathematical modeling. 

182


УДК 004.92 

ИССЛЕДОВАНИЕ ДИДАКТИЧЕСКИХ СВОЙСТВ 3D МОДЕЛИ 

ДЛЯ ОБУЧЕНИЯ ОСНОВАМ ГЕОМЕТРИЧЕСКОГО МОДЕЛИРОВАНИЯ 

© 2008 В.И. Иващенко 


Изложены результаты исследования дидактических свойств электронной модели, являющейся учебным 

проектным решением. Рассмотрена работа системы "студент – программа – модель". Предлагаемые подходы 

реализованы в многоуровневой графо-геометрической подготовке инженеров-механиков. 

Графо-геометрическая подготовка. Педагогическая система. Электронная модель. Дидактические 

свойства. Проектное мышление 

Быстрое развитие CALS технологий, 

методов и средств обработки электронных 

моделей обострило проблему эффективного 

и качественного обучения компьютерному 

геометрическому моделированию с сохранением 

традиционных стандартов в отношении 

умения анализировать явления в той или 

иной предметной области. Поэтому важной 

задачей процесса обучения становится создание 

необходимого запаса шаблонных схем, 

а также формирование умений оценивать их 

достоинства и недостатки, находить альтернативные 

решения и получать новое качество 

в результате модификации этих схем. 

В процессе графо-геометрической подготовки 

в техническом вузе самостоятельная 

работа студентов в компьютерном классе 

приобретает особое значение. На занятиях по 

геометрическому моделированию происходит 

интеграция субъектно-личностных качеств 

обучаемого с ресурсами виртуальной 

учебной среды, реализованной в виде графического 

редактора. При этом в совместной 

деятельности человека и машины проявляются 

системообразующие признаки [1]. В 

системе "проектант – программа – электронная 

модель" второй элемент служит источником, 

приёмником и средством преобразования 

мощных информационных потоков, 

протекающих во внешнем и внутреннем по 

отношению к пользователю контурах. С другой 

стороны, редактор играет роль информационной 

среды, основной функцией которой 

становится "передача сигналов и распространение 

социальной информации, которая 

обучаемыми восстанавливается в знаниях, в 

программах принятия решения" [2]. 

На внешнем контуре информация от 

студента поступает в программную среду и 

реализуется её средствами в проектном решении. 

Потоки, определяющие уровень обратной 

связи, направлены к проектанту от 

геометрического редактора и от модели, которая 

визуализируется также средствами 

CAD/CAM программы. Возможности программно-технической 

среды предопределены 

используемой в учебном процессе версией, 

детерминированы инструктивно и инвариантны. 

Поэтому те особенности электронной 

модели, которые оказывают существенное 

влияние на эффективность формирования 

верных представлений о геометрии изделия, 

становятся наиболее важными с педагогической 

точки зрения. Таким образом, 2D 

и 3D модели обладают дидактическими 

свойствами. 

В интересах решения конкретной учебно-методической 

задачи возможна имитация 

профессионального проектирования, регулируемая 

преподавателем. Вариативность ролевой 

функции студента проявляется в его 

стремлении методом проб и ошибок самостоятельно 

сформировать стратегию поиска 

проектного решения и получить ответы, которые 

нельзя найти в инструкции или в подсказках 

преподавателя. Креативный характер 

работы проявляется в том, что она связана с 

самостоятельными экспериментами, выработкой 

своих "фирменных" приёмов моделирования. 

Эвристическая составляющая в 

создании электронной модели присутствует, 

но не является доминирующей, поскольку 

стратегия моделирования рождается в ассоциативном 

потоке образов, который апелли- 

183


рует к предшествующему опыту студента, 

хотя и не является прямым воспоминанием. 

Потоки информации могут влиять друг 

на друга в том случае, если в информационной 

среде образуются контуры. Для одного 

контура необходимо наличие как минимум 

двух потоков, один из которых обеспечивает 

обратную связь. Если информация из одного 

контура индуцирует информацию в другом, 

то степень продуктивности информационной 

сессии возрастает. Наибольшим эффектом 

отличается переработка данных на внутреннем, 

рефлексивном уровне проектанта. Следовательно, 

форма и рекомендуемый алгоритм 

построения модели должны быть выбраны 

с учётом возможности самостоятельного 

анализа результата и выработки на его 

основе вариативной стратегии на каждом 

этапе работы обучаемого. 

Актуализация накопленных учащимся 

данных зависит от того, какие ассоциативные 

стереотипы являются доминирующими 

при поиске проектного решения. Чисто конструктивное 

изображение, например, проекция 

– очерк на комплексном чертеже, - говорит 

только о форме, в то время как технологические 

изображения (например, эскиз перехода 

или профиль фасонного инструмента) 

несут информацию о форме будущей детали 

и о процессе обработки. "Парадокс первичности" 

составляет основное противоречие в 

выборе приоритетов для пропедевтики автоматизированного 

проектирования. Кратко 

его можно сформулировать таким образом: 

если проектант хорошо овладел основами 

конструирования, то он манипулирует технологичными 

формами, а значит, опосредованно 

использует технологическую подготовку. 

Но, с другой стороны, если за основу 

принять знания о методах формообразования, 

то сами средства получения заданной 

геометрии конструктивны по определению, а 

"заданность" формы инструмента предполагает 

наличие образа будущего, уже изготовленного 

изделия. 

Графо-геометрическая подготовка в 

техническом вузе играет роль интегрирующего 

межпредметного средства, посредством 

которого возможно выделение действительно 

базовых, основных инженерных знаний. 

При сближении позиций "чистого" конструктора 

и технолога информационные поля, 

актуализирующиеся в сознании обучаемого 

и содержащие ассоциативные образцы (стереотипы), 

сближаются. При этом рождающееся 

проектное решение, несущее признаки 

одновременно конструктивного и технологического 

образца, будет оптимальным в 

гносеологическом смысле, так как отразит 

совершенство формы, соответствующее 

уровню подготовки и кругозору проектанта. 

Применяя метод дискретизации информационного 

пространства знаний, выделим единичную 

стратегию, направленную на решение 

частной (локальной) геометрической задачи. 

Стратегия содержит два компонента: 

инструктивный инвариант и креативную составляющую. 

Если первая часть стратегии 

приблизительно одинакова для всех студентов, 

успешно освоивших текущий раздел 

дисциплины, то вторая широко варьируется. 

Она интерпретируется кругом – полем креативности. 

Размер этого поля зависит от личного 

конструкторского и технологического 

опыта, приобретённого каждым проектантом 

к данному моменту. 

Результаты исследования показали, что 

для повышения качества графо-геометрической 

подготовки необходимо создать 

многоуровневую систему обучения, в которой 

первый, довузовский, уровень будет посвящён 

не только основам геометрического 

моделирования, но и знакомству с автоматизированным 

производством изделий. В российских 

технических университетах для базовой 

графо-геометрической подготовки 

наибольшее распространение получили отечественные 

программы КОМПАС (АО АС- 

КОН) и ADEM (Omega ADEM Technologies 

Ltd.). Изучение модулей CAM сдерживалось 

вследствие высокой стоимости оборудования 

– станков с ЧПУ, а также необходимости 

длительного изучения методов и средств автоматизированной 

обработки резанием. В 

последнее время успешное развитие 

CAD/CAM систем происходит в классе настольных 

фрезерных станков с ЧПУ, работающих 

под управлением программ - редакторов 

и соединяемых с обычным компьютером 

аналогично принтеру. Примером может 

служить станок Modela MDX-15, поставляемый 

вместе с программами 3D Engrave, Vir- 

184


tual MODELA, MODELA Player и др. Станок 

и сравнительно простые редакторы разработаны 

фирмой Roland DG Corporation (Япония). 

Они доступны для освоения учащимися средней 

школы, позволяют выполнять профессиональное 

3D моделирование художественных и 

технических изделий, автоматизированное 

проектирование технологических процессов 

изготовления, включая анимацию обработки 

материала, и получать готовые детали. 

На кафедре инженерной графики СГАУ 

для обучения основам геометрического моделирования 

и инженерной компьютерной графики 

в течение многих лет успешно применяется 

программа ADEM. Пропедевтическое 

обучение основам автоматизированного проектирования 

и производства на базе программно-станочного 

комплекса Roland MO- 

DELA проводит в Технологическом центре 

ОРТ при МОУ средняя общеобразовательная 

школа № 42 с углубленным изучением отдельных 

предметов г. Самары [3]. 

Процесс создания плоской (2D) модели 

детали или сборочной единицы заключается 

в построении сложных изображений чертежа 

из элементарных геометрических фигур, которые 

называются в редакторе ADEM базовыми 

графическими элементами (БГЭ), а в 

редакторе КОМПАС-3D – инструментами. 

Объёмная (3D) модель детали в ADEM классифицируется 

как объёмный элемент (ОЭ), 

являющийся единичным базовым элементом 

формы (БЭФ) или совокупностью БЭФ, к 

которым применены булевы операции (объединение, 

вычитание, пересечение). Если 2D 

модель аналогична чертежу на твёрдом носителе 

(бумага), то к 3D модели предъявляются 

особые дидактические требования, так 

как, являясь трёхмерным объектом в виртуальном 

пространстве, она отображается на 

экран компьютера как на плоскость. Специфические 

особенности 3D модели обусловливают 

её способность быть воспринятой в 

качестве реальной детали. Для визуализации 

геометрической модели в модуле Adem3D 

предусмотрены специальные способы отображения 

аппроксимирующих поверхностей 

(микрограней), для которых имитируются 

условия освещения и отражения света. Для 

каркасной модели освещённость и светотеневая 

характеристика теряют смысл. Но студент, 

тем не менее, и здесь может ощутить, 

что деталь не плоская, и пересекающиеся на 

экране линии каркаса на самом деле могут 

иметь разную глубину. 

Для описания поверхностной модели 

информация о координатах вершин и сочетаниях 

рёбер дополняется данными о связях, 

существующих между поверхностями тела, а 

также о наличии граней. Наиболее полное 

представление трёхмерного предмета содержится 

в твёрдотельной модели, у которой 

различают внутреннюю и внешнюю поверхности 

(стороны). Появление дополнительных 

факторов отражается на том, что в процессе 

компьютерного моделирования необходимо 

обеспечивать такие свойства реального тела, 

как замкнутость, ограниченность в пространстве 

и невырожденность его поверхностей. 

Физический эксперимент и механическая 

обработка как его разновидность убеждают 

учащегося в том, что доступ к внутреннему 

пространству детали, "заполненному" 

материалом, возможен только при условии 

нарушения целостности границы, то есть поверхности 

тела. Второе свойство подтверждается 

наличием сферы конечного радиуса, 

которая может быть описана около любого, 

сколь угодно большого реально существующего 

предмета. Наконец, третье свойство 

связано с существованием пределов для изменения 

линейных размеров тела. Оно обусловлено 

невозможностью получения деталей 

с толщиной, которая меньше габаритного 

диаметра атомов материала, то есть исключает 

коллизии, проявляющиеся в соприкосновении 

("слипании") внутренней и 

внешней сторон. 

Сравнивая каркасную (edge model), поверхностную 

(surface model) и твёрдотельную, 

или просто объёмную, (solid model) 

электронные модели, можно выделить такие 

общие элементы, как ребро и вершина, в которой 

соединяются отдельные рёбра. Информационная 

модель тела, представленная 

в каркасном виде без учёта конструктивных 

и технологических атрибутов, является наиболее 

простой и компактной. 

Дидактическое совершенство учебной 

модели определяется её воздействием на 

мыследеятельность обучаемого посредством 

инициализации механизма образно- 

185


геометрических ассоциаций. Эффективность 

импритинга в данном случае зависит, в первую 

очередь, от апперцептивного опыта обучаемого, 

который можно оценить размером 

поля креативности. Рассматривая целостно и 

системно генезис поля креативности, можно 

выделить следующие закономерности его 

формирования: 

1) геометрическая форма на подсознательном 

уровне оценивается динамически, 

поскольку естественным побуждением для 

изучения (рассмотрения, разглядывания) является 

приближение и поворот предмета; 

2) исследование сложной формы несёт 

в себе императив декомпозиции, что в диалектической 

противоположности реализуется 

в стратегию построения модели объединением 

элементов; 

3) коллизии формы (пустоты, отверстия, 

разы, уступы и т.п.) естественным образом 

ассоциируются с удалёнными фрагментами 

материала, что указывает на технологическую 

природу формообразования; 

4) обмен информацией на внешнем 

контуре ("студент – преподаватель", "студент 

– программа") предваряется мысленной 

реконструкцией, воображаемым изготовлением 

предмета с привлечением имеющегося 

жизненного и профессионального опыта; 

5) сочетание приобретённого ранее 

опыта с ассоциативным представлением о 

новой стратегии приводит к возникновению 

нового знания о геометрической модели. 

Другим важным фактором становится 

то, что модель, выбранная в качестве искомого 

результата проектирования, должна обладать 

такими свойствами, как контрастность 

признаков формы, выражающаяся в соединении 

легко опознаваемых геометрических фигур, 

и динамизм ассоциативного ряда, обусловленный 

межпредметными связями. 

Рассмотрим начальные условия и результирующие 

характеристики графогеометрической 

подготовки в техническом 

университете на примере механических специальностей, 

в частности, связанных с проектированием 

и производством двигателей 

летательных аппаратов. Изучение современных 

методов проектирования и производства, 

составляющих суть CALS технологий и 

реализуемых в среде CAD/CAM/CAE программ, 

должно базироваться, по нашему 

мнению, на следующих концептуальных 

принципах. 

1. Основу знаний составляет глубокое 

понимание физической природы процессов и 

их результатов, в частности, законов формообразования 

и свойств геометрической формы, 

являющейся обязательным атрибутом 

твёрдого тела. 

2. В основе умений лежит уверенное 

владение электронными средствами моделирования 

в такой степени, чтобы на визуально-тактильном 

уровне проектант мог, образно 

выражаясь, ощущать инструменты 

CAD/CAM программы как продолжение 

своих рук. 

3. Навыки основываются на мышлении, 

оперирующем ассоциативными стереотипами, 

комбинация которых образует оптимальное, 

с позиций конкретной учебной 

задачи, проектное решение. 

Поскольку навык отражает уровень 

приобретённых знаний и умений, то с его 

помощью можно оценить эффективность 

обучения решению таких теоретикоприкладных 

задач, как проектирование. В 

самом понятии навыка содержится компонент 

активного действия, готовность к которому 

формируется, закрепляется и проверяется 

упражнениями. Повторение целых операций 

и отдельных процедур, отработка алгоритма 

известной стратегии свидетельствуют 

о том, что в навыке присутствует элемент 

действия, доведённого до автоматизма, 

когда выбор осуществляется на интуитивноподсознательном 

уровне. И.А. Зимняя приводит 

следующее мнение: "Правильно проводимое 

упражнение повторяет раз за разом 

не средство, используемое для решения данной 

двигательной задачи, а процесс решения 

этой задачи, от раза к разу изменяя и улучшая 

средства" [4]. 

Таким образом, процесс формирования 

навыка содержит компонент креативного 

мышления, когда приобретённый опыт и 

действительно понятая логика построения 

стратегии побуждают проектанта к экспериментированию, 

направленному на поиск нового 

алгоритма, новой технологии создания 

геометрической модели. Несмотря на очевидный 

риск, подсознательно, при любой 

186


выявленной мотивации проектант стремится 

к получению лучшего конечного результата 

– проектного решения. В данном случае студент 

становится автором не просто хорошей 

конструкции или удачного процесса, обеспечивающего 

её получение, но и нового метода 

проектирования, даже если эта новизна сомнительна 

с точки зрения профессионала. Экспериментируя, 

учащийся (студент) приобретает 

средство, ценность которого больше, чем частный 

результат от его применения. 

Отсюда следует вывод: графогеометрическая 

подготовка специалистов по 

автоматизированному проектированию методологически 

должна быть построена на 

практическом освоении геометрических атрибутов 

формы, на умении манипулировать 

параметрами формы, обеспечивая нужные 

сочетания и, соответственно, свойства тела, 

на формировании чувства формы. Данные 

качества составляют суть профессиональной 

графо-геометрической компетенции, под которой 

здесь понимается практическое, операционное 

владение знаниями о геометрии 

изделия: "познать операционально – значит 

преобразовать, построить, переделать" [5]. 

Использование атрибутов геометрической 

фигуры свойственно человеку любого 

возраста, оно закладывается в раннем детстве 

и связано с генезисом математических 

знаний. Недостатки техники отображения 

пространственных фигур на плоскости, характерные 

для раннего детского возраста, 

послужили основанием для создания "интеллектуалистической" 

теории, согласно которой 

"ребёнок рисует то, что знает, а не то, 

что видит" [6]. Согласно этому утверждению, 

качество геометрической модели, её 

полнота, точность и совершенство образа 

должны были бы точно соответствовать знаниям 

о природе формы, накопленным человеком 

к текущему моменту. Однако при подобной 

постановке вопроса возникает противоречие: 

два субъекта с одинаковым жизненно-технологическим 

опытом могут получить 

всё-таки различные модели одного и 

того же оригинала, а с другой стороны, 

идентичность построенных ими моделей ничего 

не говорит в пользу равенства их жизненного 

опыта. 

Наиболее важную роль в экспертной 

оценке компьютерной модели, визуально 

воспринимаемой как плоская картина на экране, 

играет, по нашему мнению, именно 

перцептивно-интуитивная идентификация 

формы. Критикуя "интеллектуалистическую 

теорию", Р. Арнхейм выводит закон дифференциации, 

в соответствии с которым "перцептивная 

особенность воспринимаемого 

объекта, пока она еще не дифференцирована, 

воспроизводится по возможности наипростейшим 

способом. Окружность – наиболее 

простая возможная форма, имеющаяся в 

распоряжении изобразительных средств" [6]. 

Действие данного закона, высказанного в 

отношении детей, можно экстраполировать 

на старший возраст, включая средний возраст 

студенчества. 

В контексте метода, предложенного Ж. 

Пиаже, приобретение человеком навыков 

восприятия трёхмерной геометрической 

формы можно рассматривать как адаптацию. 

Изучая процесс формирования интеллекта, 

он выделяет ассимиляцию - "включение объектов 

в схемы поведения, которые сами являются 

не чем иным, как канвой действий, 

обладающих способностью активно воспроизводиться", 

и аккомодацию – обратное действие, 

которое оказывает на организм среда. 

В этой системе понятий адаптация определяется 

"как равновесие между ассимиляцией и 

аккомодацией, или, что, по существу, одно и 

то же, как равновесие во взаимодействиях 

субъектов и объектов" [7]. 

Опыт преподавания основ проекционного 

черчения в школах (лицеях) и на первом 

курсе технического университета свидетельствует 

о том, что демонстрация закономерностей, 

связанных с принадлежностью 

точки и линии (окружности) сфере, оказывает 

большое положительное влияние на восприятие 

любой поверхности вращения. Соотнося 

это с тем фактом, что теоретическое 

изучение соответствующего раздела начертательной 

геометрии начинается с более 

сложной для воображения поверхности вращения 

общего вида, следует признать, что 

для зарождающегося ассоциативно-образного 

мышления большое значение имеют задачи 

со сферой (шаром) в пространстве и окружностью 

на плоскости. Эволюционно- 

187


гносеологический переход к плоскости и 

геометрии Евклида легко и естественно воспринимается 

учащимися в предположении, 

что радиус сферы увеличивается до величины, 

достаточной, чтобы считать рассматриваемый 

фрагмент сферы отсеком плоскости. 

Введение отрезка можно считать актом упорядочения, 

"зарегулирования" простейшей 

ассоциативной формы посредством введения 

метода измерения, выраженного в системе 

координат, и единицы измерения. 

Геометрическая подготовка в общеобразовательной 

школе начинается с изучения 

фигур на плоскости, причём в самом начале 

внимание учащихся акцентируется на том, 

что многие геометрические фигуры (точка, 

отрезок, луч, угол, окружность, круг, треугольник 

и т. д.) уже знакомы им по урокам 

математики. Поэтому методологический аспект 

начального обучения геометрии с опорой 

на простейшие фигуры, заменяющие 

сложные или неизвестные, является очевидным. 

Проблема состоит в том, что графические 

навыки школьников не позволяют им 

отображать на плоскости (бумаге) те сложные 

формы, с которыми они успешно справляются 

на уровне зрительного восприятия в 

силу естественности этих форм. 

Отсутствие третьего измерения в задачах 

планиметрии приводит к тому, что опознание 

формы, её "узнавание" основано на 

прямом воспоминании и не требует обращения 

к ассоциативным стереотипам. Более 

сложная проблема, встречаемая учащимися в 

целом ряде предметов (физика, химия и др.), 

обусловлена необходимостью решить обратную 

проекционную задачу: реконструировать 

форму по её графическому описанию. Оно 

может представлять собой 2D модель, аксонометрическую 

проекцию или коллаж - композицию 

чертежа и рисунка (фотографии). В 

любом случае результат – воображаемая 

форма предмета - получается более точным, 

если присутствуют следующие факторы: 

− воображение учащегося развито достаточно 

хорошо, чтобы представить плоские 

фигуры чертежа в движении; 

− в памяти учащегося хранится достаточно 

примеров изготовления или функционирования 

деталей с аналогичной формой. 

Таким образом, на начальном (довузовском, 

пропедевтическом) уровне графо-геометрической 

подготовки наличие в памяти 

обучаемого знаний типа "помню, как делают" 

оказывается в смысле формирования ассоциативных 

стереотипов более значимым, чем 

знания типа "помню, как выглядит". Для методологии 

многоуровневой системы графических 

дисциплин здесь важно то, что эффективность 

учебного процесса можно повысить, 

если усилить межпредметные связи, согласовать 

учебные планы и рабочие программы 

геометрии, черчения, технологии и физики. 

С другим важным фактором, по нашему 

мнению, связаны широчайшие учебнометодические 

возможности, которые предоставляются 

педагогу и учащемуся новыми 

программно-техническими средствами – 

CAD/CAM системами. Работая с графическим 

редактором в интерактивном режиме, 

"подсоединяясь" к программе и становясь 

элементом системы "проектант – программа 

– электронная модель", учащийся активно 

использует не только аппарат визуализации, 

но и сенсо-моторные реакции. 

Рассматривая качество графогеометрической 

подготовки с позиции оценки 

уровня развития интеллекта, можно опираться 

на вывод Ж. Пиаже: "Интеллект – это 

определённая форма равновесия, к которой 

тяготеют все структуры, образующиеся на 

базе восприятия, навыка и элементарных 

сенсо-мотороных механизмов" [7]. Поскольку 

интеллект как основа социально реализующейся 

личности закладывается в раннем 

возрасте, то особое внимание необходимо 

уделять предметам, осваиваемым в сензитивный 

период. Повышение эффективности 

всего цикла обучения возможно посредством 

организации межпредметных связей, естественным 

образом сближающих отдельные 

предметы в аспекте их целей и задач. Дисциплиной, 

оказывающей интеграционное влияние 

на всю графо-геометрическую подготовку 

в общеобразовательной школе, может 

стать курс "Основы автоматизированного 

проектирования и производства изделий" на 

базе компьютерного геометрического моделирования. 

При изучении данной дисциплины 

наиболее гармонично первоначальные, 

естественно-бытовые представления учаще- 

188


гося о форме и её отображении эволюционируют 

в систему знаний о свойствах геометрии 

предмета и закономерностях образования 

требуемой формы. 

Для проектирования многоуровневой 

педагогической системы необходимо обеспечить 

сопряжение информационных образовательных 

подсистем. Такая задача может 

быть решена при выделении определённых 

параметров, оценивающих способность учащегося 

к оперированию ассоциативнопространственными 

образами, которые реализуются 

через совокупность конструкторских 

и технологических представлений. 

Данное качество обучаемого может быть выражено 

количественно с помощью объёма 

конструкторских и технологических знаний. 

Кажущаяся исключённость геометрии устраняется 

тем обстоятельством, что в процессе 

обучения приобретаемые знания актуализируются 

через геометрические модели, которые 

документируются средствами 2D и 3D 

графики. 

Представим, что типовые стратегии построения 

геометрических моделей усваиваются 

(накапливаются) в процессе обучения 

по закону, который описывается функцией 

F(t), где F – интеграционная характеристика, 

отражающая совокупность компетентностных 

качеств; t – время обучения. Величину 

компетентностной характеристики будем 

интерпретировать как объём, ограниченный 

поверхностью, или, для контрольного среза, 

- площадь плоской фигуры, построенной в 

координатах "конструктивное качество – 

технологическое качество" (рис. 1). Каждая 

точка на плоскости отображает проектное 

решение, которое можно оценить в баллах 

некоторой экспертной шкалы. Область допустимых 

решений ограничена кривой, 

имеющей вид петли гистерезиса, и включает 

множество точек – вариантов сочетаний конструктивных 

образцов и технологических 

приемов их изготовления. 

Рис. 1. Модель двумерной оценки учебного проектного решения 

Область типовых решений объединяет 

знания и навыки, подлежащие изучению в соответствии 

с Государственными стандартами 

и рабочими программами. Её форма объясняется 

гносеологической анизотропией знаний. 

Если начало координат поместить в точку 

наиболее распространённого решения, то анализ 

менее удачных вариантов может быть так 

же полезным, как и преферентивных. 

189


Горизонтальная линия на рис. 1 отображает 

предельный высокий уровень технологических 

решений, достигнутый в настоящее 

время мировой наукой и техникой. 

Любые конструктивные улучшения объективно 

ограничиваются физическими свойствами 

применяемых материалов, что косвенно 

отражается на геометрической форме. 

Информация такого рода – необходимый 

компонент графо-геометрической подготовки 

в техническом вузе. Нижний горизонтальный 

отрезок контура отсекает заведомо 

неприемлемые по техническому совершенству 

технологии. График интеграционной 

компетентности построен для момента времени 

t i , соответствующего завершению графо-геометрической 

подготовки. При этом на 

графике область типовых решений должна 

занимать возможно большую площадь, оставаясь 

внутри области решений допустимых. 

На практике форма области типовых 

решений недетерминирована, но зависит от 

времени. Будем называть реализацией освоенный 

и воспроизводимый учащимся пример 

использования графо-геометрических знаний 

и навыков (готовая 2D/3D геометрическая 

модель, её фрагмент, в том числе и параметрический, 

или приём построения). Пусть в 

момент времени t i багаж знаний учащегося 

содержит следующие множества: 

Cons{x 1i , x 2i , …, x ni } – множество из n 

конструктивных реализаций графогеометрической 

подготовки; 

и Tech{x 1i , x 2i , …, x mi } – множество из m 

технологических реализаций графогеометрическй 

подготовки. 

Введём множество K{x i } , которое характеризует 

способность учащегося в текущий 

момент времени t i применять графические 

знания и навыки. Поскольку K{x i } является 

интеграционной характеристикой, будем 

определять этот параметр как пересечение 

множеств: 

K{x i } = Cons{x 1i , x 2i , …, x ni }∩ 

∩Tech{x 1i , x 2i , …, x mi } . 

Количественно параметр K(x 1i , x 2i , …, 

x ki ) может быть вычислен как сочетание из k 

элементов множества по 2 элемента (один 

отражает конструкторский, а другой – технологический 

аспект) по известной формуле 

C 2 k = 0,5•k! ⁄ (k-1)! . 

Принимая во внимание K{x i } = K(t), 

вычислим количество информации, являющейся 

результатом взаимодействия внешних 

и внутренних для учащегося информационных 

потоков, по формуле 

t2 

F = ∫ K( t) dt 

, 

t1 

где t 1 и t 2 – временные границы этапа обучения. 

Пусть обучение на первом уровне 

(пропедевтика геометрического моделирования) 

заканчивается со значением F 1к , а на 

втором уровне (первый курс университета) 

педагогический процесс рассчитан на ожидаемый 

показатель учащегося F 2н . Тогда 

для наиболее эффективной работы двухуровневой 

системы желательно, чтобы в 

момент соединения уровней выполнялось 

соотношение 

F 1к ≥ F 2н . 

Содержание множеств Cons{x 1i , x 2i , …, 

x ni } и Tech{x 1i , x 2i , …, x mi } подлежит конкретизации. 

Однако уже предварительный анализ 

показывает, что на стыке двух уровней 

графо-геометрической подготовки собственно 

факт наличия определённых знаний и 

умений, устанавливаемый по системе тестов 

(для первокурсника, например, - это ЕГЭ), не 

отражает действительной предрасположенности 

учащегося к компьютерному моделированию. 

Данная область знаний требует, 

чтобы абитуриент обладал определённым 

складом мышления, которое можно сформировать 

при изучении основ автоматизированного 

конструирования и производства. 

Специфические особенности автоматизированного 

проектирования обусловливают 

специальные требования к форме и содержанию 

учебного элемента, который представляет 

собой некоторую стратегию решения. 

На младших курсах студентам доступны 

только конвергентные методы проектирования, 

при использовании которых разработчик 

выбирает решение из готовых образцов, 

дорабатывает шаблон или модифицирует 

комбинацию известных решений. В этот период 

кроме знаний теории и стандартов не- 

190


обходимо сформировать комплексное восприятие 

геометрической формы детали. 

Анализируя схему или чертёж, объёмную 

модель детали или электронную сборку, 

учащийся должен представлять функцию изделия 

и технологический метод изготовления. 

Таким образом, представление о геометрической 

форме увязывается в систему 

знаний о функциональном и технологическом 

генезисе формы. 

Так, в частности, в заданиях на составление 

электронной документации на сборочную 

единицу могут быть использованы образцы 

реальных изделий. Чтение чертежа 

общего вида сборочной единицы, относящейся 

к такой сложной технике, как, например, 

авиакосмическая, дополняется мысленной 

реконструкцией схемы изделия, представлением 

о принципах его работы. Причём 

уже на этом этапе анализ конструктивных 

схем авиационных и ракетных двигателей 

свидетельствует о преобладании поверхностей 

вращения и поверхностей второго порядка. 

Подобная форма деталей рациональна 

не только по условиям динамической прочности, 

но и с точки зрения технологии. Для 

оболочек и других деталей типа тел вращения 

применяется штамповка (гибка или вытяжка), 

а такие операции, как зиговка, отбортовка 

кромок и закатка, выполняются на различном 

оборудовании, в том числе и на токарном 

станке. 

Работая в среде CAD/CAM/CAE программы, 

студент должен учитывать как конструктивные, 

так и технологические свойства 

формы. На протяжении всего срока обучения 

в техническом университете информационная 

подсистема студента эволюционирует. 

Совершенствование профессиональных 

мыслительных функций является эффективным, 

если при проектировании учебной системы 

учитываются условия гармоничного 

соединения этапов и уровней обучения. Методологически 

это определяется правильным 

выбором задач и граничных условий. В качестве 

наиболее важных нами выделены следующие 

задачи и условия: 

1) обучение средствам и методам геометрического 

моделирования на бумаге и в 

среде профессиональной CAD/CAM/CAE 

системы; 

2) развитие образного графогеометрического 

мышления на основе шаблонов 

конструктивных решений, используемых 

в курсах основ конструирования машин, 

конструкции двигателей летательных аппаратов, 

динамики и прочности; 

3) развитие образного графогеометрического 

мышления на основе типовых 

технологических приёмов, реализуемых 

через систему технологических понятий (базы, 

простановка размеров, качество поверхности 

и её нормирование заданием шероховатости, 

принципиальная возможность формообразования 

в технологических процессах 

литья, пластического деформирования и резания); 

4) творческое осмысление полученных 

знаний и умений, из которого рождается системное 

конструкторское мировоззрение, основанное 

на глубоком понимании принципов 

формообразования в компьютерном моделировании 

и реальном процессе производства; 

5) обеспечение энергетической подпитки 

информационной подсистемы для 

опережающего развития когнитивных компетенций 

и эвристических качеств мышления 

студентов в виде пропедевтического 

обучения в довузовский период и в виде научно-исследовательской 

работы в университете. 

Логико-методической связью первой 

задачи со второй и третьей являются параметрические 

базы данных, которые должны 

стать частью единого информационного пространства 

(ЕИП) факультета. Их целесообразно 

наполнить моделями типовых и стандартных 

технологических изделий, например, 

элементов приспособлений для металлорежущих 

станков. Использование графических 

данных потребует владения основами 

автоматизированного конструирования и 

умения синтезировать конструкцию, обеспечивающую 

целевую функцию. 

Эволюционное развитие графических 

дисциплин в "обе стороны", то есть в сторону 

интеграции с выпускающими и специальными 

кафедрами и в сторону ранней начальной 

подготовки школьников, порождает специфические 

проблемы. Они связаны с созданием 

специального методического обеспечения, 

а также со всесторонней оценкой трудо- 

191


ёмкости учебных заданий. Задача согласования 

трудоёмкости с возможностями данного 

уровня обучения является одной из наиболее 

сложных для педагога, который в основном 

работает с более подготовленными и взрослыми 

учащимися. Если условно выделить 

множества типовых задач, а, следовательно, 

множества типовых чертежей, моделей и 

схем, то теоретически можно оценить реальность 

инновационных курсов следующим 

образом. 

Пусть T – множество типовых операций, 

подлежащих изучению в CAD/CAM 

программе; R - множество типовых задач, 

которые студентом освоены и самостоятельно 

выбираются в соответствии с локальной 

задачей; P – множество локальных задач текущего 

проекта. Тогда для реализации учебного 

проекта необходимо, чтобы выполнялось 

условие: 

T > R > P. 

Знания и навыки, приобретаемые студентами 

в процессе графо-геометрической 

подготовки на младших курсах, объединены 

единой логикой эмпирического и эвристического 

поиска нового проектного решения. 

Показателем эффективности такой подготовки 

является способность студента самостоятельно 

решать творческие задачи с помощью 

электронных методов и средств так 

же эффективно, как и посредством традиционных. 

Формирование системного проектнотехнологического 

мышления, позволяющего 

гармонично сочетать конструкторские и технологические 

аспекты проектирования, необходимо 

начинать на младших курсах при 

изучении геометрического моделирования и 

инженерной графики. Мощным благоприятствующим 

фактором в этой работе выступает 

пропедевтика в виде современного информационно-технологического 

курса в общеобразовательной 

школе. С другой стороны, 

учитывая непрерывный характер дополнения 

и углубления графо-геометрических 

знаний и навыков на всех технических кафедрах, 

следует считать обязательным условием 

непрерывность ("сквозность") этой 

подготовки. 

Анализ результатов проведённых исследований 

позволяет сделать следующие 

выводы. 

1. Выявленные дидактические свойства 

3D модели свидетельствуют о важности 

технологического аспекта в развитии пространственного 

воображения. 

2. Для формирования системного 

креативного мышления на основе ассоциативных 

геометрических образов необходимо 

применение пропедевтической подготовки в 

области автоматизированного проектирования 

и производства на основе, например, 

программно-станочного комплекса Roland 

Modela MDX-15. 


1. Волков, А.М. Основы структурнофункционального 

анализа операторской деятельности: 

Учебное пособие [текст] / А.М. 

Волков – М: МАИ, 1986. 

2. Нестеренко, В.М. Проектирование 

учебно-технической среды профессионально-личностного 

саморазвития студентов 

технических вузов: Автореф. дисс. … д.п.н. 

[текст] / В.М. Нестеренко – Тольятти, 2000. 

3. Иващенко, В.И. Компьютерное 

моделирование и автоматизированное изготовление 

изделий. Методика преподавания 

CAD/CAM технологий: учебное пособие для 

учителей технологии старших классов школы 

и учреждений начального и среднего 

профессионального образования [текст] / 

В.И. Иващенко, А.Б. Бейлин, А.И. Фрадков – 

Самара: СНЦ РАН, 2005. 

4. Зимняя, И.А. Педагогическая психология: 

Учебник для вузов. Изд. второе, 

доп., испр. и перераб. [текст] / И.А. Зимняя – 

М.: Логос, 2001. 

5. Мантанов, В.В. Образ, знак, условность 

[текст] / В.В. Мантанов – М.: Высшая 

школа, 1980. 

6. Арнхейм, Р. Искусство и визуальное 

восприятие [текст] / Р. Арнхейм, пер. с 

англ. В.Н. Самохина, общ. ред. В.П. Шестакова. 

– М.: Издательство "Прогресс", 1974. 

7. Пиаже, Ж. Избранные психологические 

труды. Психология интеллекта. Генезис 

числа у ребенка. Логика и психология 

[текст] / Ж. Пиаже – М.: Просвещение, 1969. 

192


References 

1. Volkov, A.M. Structural-functional 

analysis principles of the operator activities: 

Training appliance / A.M. Volkov – Moscow: 

MAI, 1986. 

2. Nesterenko, V.M. Educational-technical 

environment design for the professionalpersonal 

self-development of the mechanical 

colleges students: Author’s abstract of doctor 

Pedagogy dissertation / V.M. Nesterenko – 

Togliatti, 2000. 

3. Ivashchenko, V.I. Computer modeling 

and automated making of articles. Methods 

of CAD/CAM technologies teaching: Training 

appliance for technology teacher in the higher 

forms and institutions of the primary and secondary 

vocational education / V.I. Ivashchenko, 

A.B. Beilin, A.I. Fradkov. – Samara: SSC of 

RAS, 2005. 

4. Zimniaja, I.A. Pedagogical psychology: 

Textbook for colleges. 2nd edition, revised 

and re-casted / I.A. Zimniaja – Moscow: “Logos”, 

2001. 

5. Mantanov, V.V. Image. Symbol. Conditional 

character / V.V. Mantanov – Moscow: 

“Vysshaja shkola” (Higher School), 1980. 

6. Arnheim, R. Art and visual perception 

/ R. Arnheim – Moscow: "Progress" Publ., 

1974. 

7. Piaget J. Selected psychological 

works. Psychology of the intellect. Number 

genesis of the infants. Logic and psychology / 

J. Piaget – Moscow: “Prosveshchenie” (Education), 

1969. 

3D MODEL DIDACTIC PROPERTIES INVESTIGATIONS 

FOR GEOMETRICAL MODELING PRINCIPLES TRAINING 

© 2008 V.I. Ivashchenko 


The text forth below contains the investigation results of the 3D electronic model didactic properties in the training 

project solution. Working of the “student – program – model” system is considered. The proposed principles are 

realized in the many-levels drawing and geometry training for the mechanical engineers. 

Drawing and geometrical training. Pedagogical system. Electronic model. Didactic properties. Project solution 

Информация об авторе: 

Иващенко Владимир Иванович; Самарский государственный аэрокосмический университет 

имени академика С.П. Королева, зав. кафедрой инженерной графики; к.т.н.; доцент; 

e-mail: ivashch@yandex.ru. Область научных интересов: педагогика профессионального образования, 

графо-геометрическая подготовка, геометрическое моделирование, автоматизированное 

проектирование и производство. 

Ivashchenko Vladimir Ivanovich; S.P. Korolyov Samara State Aerospace University, head of 

engineer drawing sub-faculty; Candidate of Technics; senior lecturer; e-mail: ivashch@yandex.ru. 

Scientific interests: professional education pedagogy, drawing and geometric training, geometry 

modeling, CAD/CAM technologies. 

193


УДК 531.383 : 629.78 

МЕТОДЫ И МОДЕЛИ АВТОНОМНОГО УПРАВЛЕНИЯ ЖИВУЧЕСТЬЮ 

АВТОМАТИЧЕСКИХ КОСМИЧЕСКИХ АППАРАТОВ 

ДИСТАНЦИОННОГО ЗОНДИРОВАНИЯ ЗЕМЛИ 

© 2008 Р.Н. Ахметов 

ФГУП ГНПРКЦ «ЦСКБ - Прогресс», г. Самара 

Рассматриваются методы выявления аномального функционирования бортовых средств автоматических 

космических аппаратов дистанционного зондирования Земли (КА ДЗЗ) в реальном масштабе времени, предотвращения 

развития аномальных ситуаций (АС) до необратимых последствий, автоматической диагностики отказов 

бортовых систем и их реанимации. Приводятся результаты автономного анализа, диагностики и последующей 

реконфигурации контура управления ориентацией космического аппарата. 

Автоматические КА ДЗЗ, аномальная ситуация, эталонная модель, отказы бортовых систем, автономный 

анализ, диагностика, реанимация, критерии Вальда 


Целевая эффективность автоматических 

КА ДЗЗ во многом определяется эффективностью 

и качеством процессов управления 

функционированием его бортовых 

систем (БС) как в штатных условиях, так и в 

аномальных (нештатных) ситуациях. Последнее 

тесно связано со свойством отказоустойчивости. 

Обеспечение отказоустойчивости любых 

автоматических средств, особенно при 

функционировании их в условиях отсутствия 

доступа для квалифицированного обслуживания, 

в частности, в условиях космического 

полёта, представляет собой актуальную проблему. 

Отказ аппаратуры в автоматической 

системе принципиально изменяет её структуру, 

может привести к возникновению и 

развитию аварийной ситуации. Для предотвращения 

катастрофического поведения системы 

следует предусматривать меры оперативного 

реагирования, обеспечивающие 

безопасность функционирования системы, а 

также её последующие диагностику и реанимацию, 

т.е. мероприятия по восстановлению 

штатных функций. В данном контексте 

отказоустойчивость (в отличие от безотказности 

системы, тесно связанной с понятием 

надёжности) близка, по сути, к понятию живучести 

системы, поскольку отказ в системе 

оказывается событием допустимым, а его негативное 

влияние может быть скомпенсировано 

посредством реконфигурации системы. 

Такие функции на борту автоматических КА 

выполняются, как правило, бортовым комплексом 

управления (БКУ) с активным использованием 

встроенных в системы контрольно-диагностических 

средств. 

В статье рассмотрены подходы к автономному 

управлению живучестью БС с помощью 

бортовых средств КА, методы и критерии 

диагностирования их состояния и 

управления внутренними ресурсами, методы 

принятия решения о наличии отказов и практические 

приёмы блокирования развития АС 

путём реконфигурации систем. Приводятся 

результаты динамического анализа системы 

управления ориентацией (СУО) КА в процессе 

зондирования Земли из космоса. 

1. Постановка задачи 

Современные КА для низкоорбитального 

зондирования поверхности Земли из 

космоса (типа «Ресурс-ДК1») оснащаются 

множеством автоматических систем (целевая 

аппаратура; системы энергопитания, обеспечения 

теплового режима, управления ориентацией, 

маневрирования на орбите, навигации 

и др.). Их совместная работа определяется 

режимами (паттернами) или схемами 

функционирования. Фрагмент одного из 

возможных типовых паттернов угловых 

движений КА ДЗЗ в сеансе наблюдения произвольно 

расположенной совокупности объектов 

показан на рис. 1. 

Управление полётом КА осуществляется 

автоматизированной системой управления 

194


(АСУ КА), которая традиционно реализуется 

в виде двух комплексов: бортового (БКУ) и 

наземного (НКУ) комплексов управления, 

связанных между собой командной радиолинией 

управления и радиолинией телеметрической 

системы. 

Спутник- ретранслятор 

Наблюдаемые 

объекты 

Автоматический 

КА ДЗЗ 

Центр приёма и 

обработки информации 

Рис. 1. Фрагмент типового паттерна угловых движений КА ДЗЗ в сеансе наблюдения 

произвольно расположенной совокупности объектов 

При этом БКУ современных КА ДЗЗ в 

соответствии с планами-заданиями от НКУ 

автономно на основе текущей навигационной 

информации формирует временную диаграмму 

(циклограмму) работы БС в обеспечение 

их штатного целевого функционирования 

в нормированных (штатных) условиях. 

Задача состоит в том, чтобы при возникновении 

аномальных (нештатных) ситуаций, 

связанных, в частности, со сбоями и отказами 

БС, с помощью штатных бортовых 

аппаратно-программных средств оперативно 

восстановить работоспособность отказавшей 

системы, обеспечив тем самым возможность 

использования КА по целевому назначению. 

При этом в ряде случаев допускается выполнение 

частных задач с пониженными показателями, 

например, точность выдачи импульса 

тяги при коррекции орбиты КА или точности 

его ориентации. 

Известны пути достижения отказоустойчивого 

функционирования сложных 

технических систем, которые в основном базируются 

на введении в их состав избыточных 

структурных элементов (например, дублирование, 

троирование и поддержание всех 

элементов в «горячем» резерве). Принятие 

решений в этих случаях осуществляется по 

принципу голосования «два из трёх», «три из 

пяти» и других. Подобным образом, например, 

решалась задача на космической станции 

«Скайлэб» и других КА США, что просто 

и достаточно эффективно. Однако такой 

подход приемлем не во всех случаях. 

Современные КА ДЗЗ, особенно детального 

наблюдения, требуют применения 

прецизионных измерителей параметров ориентации 

и мощных исполнительных органов, 

что связано с относительно высоким уровнем 

энергомассовых затрат. Поэтому троирование 

структурных элементов (да ещё в 

195


режиме их постоянной готовности) в составе 

одной системы не всегда представляется 

возможным. 

Проблема состоит в том, чтобы выбрать 

простой и достаточно эффективный 

путь обеспечения отказоустойчивости автоматических 

КА, приемлемый для типовых 

условий функционирования большинства 

низкоорбитальных КА ДЗЗ. 

2. Методы решения задач автономного 

управления живучестью КА ДЗЗ 

В [1,2,3] приведено несколько подходов 

к решению задачи управления живучестью 

КА. Характерной чертой современного 

этапа развития космических средств наблюдения 

является тенденция роста числа и 

сложности функций управления живучестью 

КА, выполняемых автономно БКУ. Укрупнённая 

структура БКУ для современных КА 

ДЗЗ с учётом решения задачи автономного 

функционирования в штатных и аномальных 

ситуациях представлена на рис. 2. 

Основой БКУ является организующая 

система (ОС), которая обеспечивает требуемую 

автономность решения штатных задач и 

управление в аномальных ситуациях. Особенность 

структуры ОС состоит в том, что 

все пять её функциональных элементов (подсистем) 

реализованы в виде совокупностей 

программ бортовой вычислительной системы 

(БВС) БКУ. 

Б К У 

Подсистема 

принятия решений 

и координации управления КА 

ОС 


баллистиконавигационного 

обеспечения КА 


планирования 

работы КА 


управления бортовыми 

средствами КА 


контроля 

и диагностики 

состояния КА 

управляемые системы 

БКУ 

СН КРЛ . . . СОС БСУ 

управляемые 

системы КА 

АЗ 

КДУ 

СТР 

. . . 

СЭП 

На рис.2 приняты следующие обозначения: 

СН – система навигации, КРЛ – командная 

радиолиния, СОС – система ориентации 

и стабилизации, БСУ – бортовое синхронизирующее 

устройство, АЗ – аппаратура 

зондирования, КДУ – корректирующая дви- 

Рис.2. Структура организующей системы БКУ КА ДЗЗ 

гательная установка, СТР – система терморегулирования, 

СЭП – система энергопитания. 

Верхний уровень - подсистема принятия 

решений и координации управления КА, 

которая обеспечивает взаимосвязанное 

функционирование всех подсистем ОС, исходя 

из текущего состояния КА. 

196


Нижний уровень - подсистема исполнения 

принятых решений, то есть формирование 

и выдача команд управления на БС. 

Наличие трёх автономных подсистем 

среднего уровня (бортовое планирование, 

контрольно-диагностическое и баллистиконавигационное 

обеспечение) структурно 

обеспечивает реализацию требуемого уровня 

автономности полёта КА с сохранением 

выполнения им целевых задач. Функциональное 

наполнение этих подсистем характеризует 

степень интеллектуализации процессов 

управления БКУ. 

Важно отметить, что основную «нагрузку» 

в задаче управления живучестью несёт 

подсистема контроля и диагностики состояния 

КА, которая, по сути, представляет 

собой верхний иерархический уровень автономной 

системы управления живучестью 

(СУЖ) КА и реализована в виде взаимосвязанной 

совокупности программных модулей 

в БВС БКУ. 

В общем случае целями СУЖ являются: 

• контроль правильности текущего процесса 

функционирования КА и оперативное 

выявление АС; 

• диагностика АС до уровня отказавшей 

системы или бортовой аппаратуры; 

• адекватное реагирование на причины АС, 

то есть выработка соответствующих 

управляющих воздействий с целью парирования 

их деструктивного влияния на 

бортовые системы КА и его целевое 

функционирование; 

• восстановление штатных функций бортовых 

систем и КА в целом. 

Подходы к достижению поставленных 

целей могут быть различными. Например, 

подход на основе повышения уровня надёжности 

всех структурных элементов КА. Однако 

он не исключает возможности отказов 

технических средств даже при высоком 

уровне их надёжности. 

Метод управления живучестью КА 

средствами АСУ КА (БКУ и НКУ). Подход к 

управлению функционированием КА на основе 

комплексного использования средств 

БКУ и НКУ был общепринятым на начальном 

этапе развития средств зондирования 

Земли из космоса из-за ограниченности ресурсов 

БВС. В этом случае на БКУ возлагалась 

в основном функция безопасности работы 

КА при появлении АС в какой-либо 

бортовой системе. 

Сущность метода состоит в том, что 

при возникновении АС в бортовой системе 

она выдаёт «сигнал прерывания» на соответствующий 

вход БВС [3]. По этому сигналу 

инициируется специальная программа БВС, 

которая формирует типовой набор управлений 

(команд), обеспечивающий прерывание 

или снятие штатных задач КА с обслуживания, 

производится отключение электропитания 

всех бортовых систем, кроме бортовой 

аппаратуры (БА) КРЛ и БВС, а КА переводится 

в режим неориентированного полёта 

или «дрейфа». Далее формируется типовой 

набор телеметрической информации о состоянии 

бортовых средств на момент их выключения, 

который передаётся в НКУ для 

анализа и принятия решения по восстановлению 

работоспособности систем КА (полной 

или частичной). Длительность формирования 

необходимых управлений по реанимации 

КА в такой схеме практически всегда 

измеряется сутками, что в свою очередь приводит 

к существенной потере производительности 

КА. 

По мере совершенствования бортовой 

вычислительной техники функции контрольно-диагностической 

подсистемы БКУ 

постоянно наращивались за счёт использования 

интеллектуальных компонентов в алгоритмах 

обработки информации и управления. 

В результате сформировался новый метод 

управления функционированием КА, когда 

степень автономности бортовых средств 

по управлению живучестью для современных 

КА ДЗЗ возросла до 90% [3, 4]. 

Метод автономного управления живучестью 

КА бортовыми средствами. Этот 

метод основан на автономном (автоматическом) 

управлении техническим состоянием 

БС, что связано с контролем текущего состояния, 

диагностикой отказов и управлением 

их внутренними ресурсами. 

Декомпозиция целей и задач управления 

живучестью КА ДЗЗ представлена на 

рис. 3. 

Управление живучестью КА базируется 

на следующих принципах: 

197


• сохранение параметров текущих бортовых 

процессов при отказах систем КА на определённых 

(ограниченных) интервалах 

времени; 

• максимально возможная оперативность 

выявления в системах АС и их диагностики; 

• обеспечение достоверности (на уровне заданной) 

диагностики АС для выработки 

управляющих воздействий на системы, 

работа которых привела к АС; 

• предпочтительное использование внутренних 

структурных резервов бортовых 

систем при восстановлении их работоспособности, 

как наиболее полно сохраняющего 

целевые показатели КА, а также 

обеспечивающего минимизацию потерь 

времени на восстановление работоспособности 

КА; 

• возможность изменения штатной программы 

работы КА на время реконфигурации 

систем при исчерпании их структурных 

резервов; 

• организация управления живучестью КА 

по иерархическому принципу: нижний 

уровень - БА, далее подсистемы (включая 

подсистемы БКУ), системы КА (включая 

БКУ) и, наконец, НКУ; 

• обеспечение сохранности информации, на 

основе которой определяются варианты 

реконфигурации систем (в том числе 

БКУ), их подсистем, а также БА; 

• формирование диагностической информации, 

передаваемой для персонала НКУ, 

с учетом данных о предыстории отказа, 

позволяющих оценить ретроспективу его 

развития. 

Управление живучестью КА 

средствами БКУ 

от НКУ 

Анализ текущего функционирования 

систем КА 

с выявлением АС 

Т об = t об - t AC → min 

Автономное управление 

реанимацией КА 

Т р = t р - t об → min 

Возобновление штатного 

функционирования КА 

Т ПТ = t ПТ – t р → min 

Контроль 

текущего процесса 

функционирования 

Контроль текущего 


систем КА 

Контроль состояния 

внешней среды 

Контроль состояния 

внутренней среды 

Диагностика 

причины АС 

Предотвращение 

негативного 

развития АС 

Анализ наличия 

резервов 

Выбор плана 

реанимации 

систем и КА 

Управление 

резервами и восстановлением 

штатных 

функций систем 

и КА 

Принятие решения о 

продолжении текущего 

процесса Р ν или выбор 

нового Р ν+k 

Уточнение планациклограммы 

штатного 

управления системами 

КА в выбранном процессе 

Р ν ∧ Р ν+k 

Реализация циклограммы 

управления восстановлением 

штатного 

функционирования КА 

Рис.3. Схема декомпозиции целей и задач управления живучестью КА ДЗЗ 

На рис. 3 принято: Т об , Т р , Т ПТ – соответственно 

критерии длительности обнаружения 

АС, восстановления штатных функций 

систем и КА, возобновления штатного 

решения задач КА; t об , t AC , t р , t ПТ – соответственно 

моменты появления АС, её обнаружения 

(выявления), реанимации систем и КА, возобновления 

штатного решения задач КА. 

198


Наиболее эффективно реализация этих 

принципов для всей номенклатуры типовых 

паттернов (режимов) функционирования КА 

и его управляемых движений может быть 

достигнута с помощью автономной СУЖ как 

отдельного самостоятельного программного 

паттерна управления системами КА в составе 

программного обеспечения (ПО) БВС 

БКУ. 

Концепция построения СУЖ состоит в 

следующем: 

• формирование её структуры СУЖ происходит 

на основе принципов физического и 

программного комплексирования бортовых 

средств, предназначенных для решения 

функциональных задач КА и его систем 

(включая БКУ); 

• создание БС со встроенным микропроцессорным 

управлением и специализированным 

программным обеспечением. 

Такая концепция позволяет решать задачу 

автономного контроля и диагностики 

бортовых систем без введения какой-либо 

дополнительной бортовой контрольной аппаратуры. 

Это является принципиальным положением, 

которое позволяет избавиться от 

необходимости «контроля контролирующих 

средств», то есть избежать так называемого 

«проклятия размерности». 

Эффективность процессов автономного 

управления живучестью бортовых систем 

КА в аномальных ситуациях можно определить 

на основе критерия минимизации «целевых 

потерь», в частности, потерь времени 

по целевому функционированию КА: δ r ⇒ 

min. 

Следует подчеркнуть, что в общем случае 

потери δ r не всегда равнозначны длительности 

процесса восстановления штатных 

функций отказавшей системы КА, поскольку 

подготовка к штатной работе резервных 

приборов или контуров (цепей) с приведением 

их в исходное состояние требует определённого 

времени (например, раскрутка гироскопов). 

Результаты анализа процесса диагностики 

состояния БС, проводимого специалистами 

центра управления полётом КА, указывают 

на высокую эффективность методов, 

основанных на использовании детальной 

информации о приборах, алгоритмах управления, 

законах движения КА, особенностях 

взаимосвязанного функционирования БС КА 

и специфических соотношениях между переменными 

состояния его отдельных систем. 

Так, например, неисправность БС может 

проявляться в рассогласовании характеристик 

процессов функционирования реальной 

системы и её эталонной модели на величины, 

превышающие априорно известные 

ошибки измерений датчиков и отработки 

управляющих воздействий исполнительными 

элементами. 

Характер и значения указанных рассогласований 

позволяют выдвинуть конечное 

число гипотез, объясняющих возникшую неисправность 

с глубиной, достаточной для 

принятия решения по управлению резервами. 

Каждой гипотезе соответствует определённая 

цепочка (ветвь) взаимосвязанных состояний, 

описывающая возникновение отказа 

и развитие аномальной ситуации в системе. 

Для каждой такой ветви с помощью эвристических 

методов разрабатывается логическая 

модель истинности процесса контроля 

(таблица), на основе которой формируется 

соответствующий алгоритм выбора, что и 

обеспечивает решение задачи диагностики 

системы. При этом обычно применяется 

трёхуровневая иерархическая схема, реализованная 

БВС [3]: 

• нижний уровень – микропроцессоры, 

встраиваемые непосредственно в бортовые 

приборы, которые обеспечивают автоматический 

анализ их состояния на основе 

измерения и оценки физических переменных 

(токов, напряжений, перемещений, 

скоростей и др.); 

• средний уровень – специализированный 

компьютер в составе функциональной 

системы или специализированный компьютерный 

модуль в составе центральной 

БВС БКУ, который служит для диагностики 

состояния внутренних функциональных 

контуров, в частности, контуров 

управления панелями солнечных батарей, 

ориентацией осей КА, стабилизации напряжения 

питания, поддержания заданной 

температуры в отсеках и др.; 

• высший «системный» уровень – БВС 

БКУ, с помощью которой обеспечивается 

199


диагностика выполнения функциональных 

задач КА. 

На двух последних уровнях функциональная 

диагностика выполняется на основе 

сравнения выходных сигналов модельного и 

фактического процессов функционирования 

с использованием эталонных моделей. 

3. Метод контроля и диагностики 

на основе эталонной математической 

модели бортовых систем 

Для любой БС сущность метода контроля 

и диагностики на основе эталонной 

математической модели (ММ) состоит в следующем. 

АС выявляется посредством вычисления 

невязок e между измеренными (X) и 

модельными (Х m ) значениями параметров 

( e ,..., e ) = X ( X ,..., X ) − 

1 N 

1 

−Xm( Xm ,..., Xm ) 

1 

N 

N 

(1) 

с последующей их классификацией, т.е. отнесением 

невязок e ν (ν=1,…,N) к классам 

W1 («норма») или W2 («ненорма»). В случае 

отнесения значения e ν к классу W2 фиксируется 

наличие АС в системе. 

Замечательное свойство этого метода 

состоит в том, что средства, которыми обнаруживается 

появление АС, позволяют решать 

также и задачу её диагностики (выявление 

причины) до уровня отказавшего прибора. 

Это достигается с помощью логической 

модели ситуаций (ЛМС) [6]. Эта ЛМС 

связывает состояние БА системы (например, 

датчиков углов ориентации и угловой скорости, 

исполнительных органов в каждом канале 

управления) с распределением невязок 

e ν по классам W1 и W2. 

Проводимый с помощью ЛМС анализ 

поведения выбранных параметров контроля 

позволяет бортовым алгоритмам системы не 

только выявлять отказавший её элемент, но и 

формировать рекомендации по управлению 

бортовыми ресурсами. 

Следует подчеркнуть, что на практике 

высокую эффективность показывают методы 

диагностики на основе логико-аналитических 

моделей различных типов, особенно те, в 

которых допуски контролируемых параметров 

вычисляются как функции времени в зависимости 

от режимов работы КА и с учётом 

изменения условий функционирования. 

Реализованная автономная СУЖ в системах 

управления ориентацией типа «Колибри» 

позволила обеспечить выполнение программы 

полёта многих типов КА в сложных 

ситуациях, связанных с отказами БА. В частности, 

серийных КА ДЗЗ класса «Комета» 

и блока выведения «Икар» в процессе выполнения 

программы запуска 24-х спутников 

«Globalstar» [5]. 

Общая схема СУЖ представлена на 

рис. 4. Задача автономного анализа работоспособности 

СУО решается с помощью простейшей 

ММ углового движения КА: 

• 

ω 

i 

= M 

i 

Ji 

, i = 1,2,3 , (2) 

• 

где: ω 

i, Ji, 

M 

i 

– соответственно угловое ускорение 

КА, его момент инерции и суммарные 

(управляющие и возмущающие) моменты, 

воздействующие на корпус КА по i-му 

каналу управления. 

При M i =f i (U i ), где U i - управляющее 

воздействие по i- ой оси КА, имеем 

∆ω = 

nm 

i 

t n 

∫ 

0 

fi( Ui)dt 

J 

nm n 

i i n 

i 

, (3) 

∆φ = ∆ω ⋅ t . (4) 

nm 

Здесь ∆ω 

i 

– оценка приращения угловой 

скорости КА от работы ИО на интервале 

контроля t n , n=1,2,…; ∆φ 

nm 

i 

– оценка 

приращения угла ориентации КА на интервале 

контроля t n ; индексом m отмечены модельные 

значения. 

Пусть параметры контроля и критерии 

работоспособности системы имеют вид 

n n nm 

ε 1i = ⎡ 

⎣∆ω ⎤ 

i 

− ∆ω 

i ⎦ < Θ1 i 

; 

n n nm 

ε 2i = ⎡ 

⎣∆φ ⎤ 

i 

− ∆φ 

i ⎦ < Θ2 i 

, 

(5) 

где Θ 1i = f 1( t), 

Θ 2i = f 2( t), 

– допуски контроля, 

определяемые по априорной информации 

о параметрах контроля с учётом их 

изменения во времени в i-м канале управления 

(i = 1,2,3). 

200


Невыполнение одного из условий (5) 

свидетельствует о появлении в СУО аномальной 

ситуации, что уже может служить 

достаточным основанием для вмешательства 

в управление работой СУО и принятия соответствующего 

решения по управлению дальнейшим 

функционированием КА. 

Рис. 4. Система управления живучестью СУО «Колибри» 

На рис. 4: ЧЭ – чувствительные элементы 

(ДУО, ДУС – соответственно датчики 

углов и угловых скоростей); БВС - бортовая 

вычислительная система; СИО - система исполнительных 

органов. 

Так, одним из решений здесь может 

быть перевод КА в «дрейф», т.е. в неориентированный 

полёт с выключением всех бортовых 

средств, кроме БВС, КРЛ и СЭП. 

201


Это позволяет сохранить материальную 

часть и даёт возможность (время) рабочей 

группе НКУ для анализа штатной телеметрической 

информации и обоснования предложений 

по восстановлению работоспособности 

КА. 

С появлением в составе БКУ достаточно 

мощных БВС появилась возможность 

формировать подобные решения автономно 

на борту КА, в частности, с помощью программно-реализованной 

ЛМС. На основе 

анализа поведения выбранных параметров 

контроля с помощью ЛМС определяется, какой 

из приборов и в каком канале управления 

отказал. Далее системой вырабатываются 

конкретные рекомендации по дальнейшему 

управлению бортовыми средствами с 

учётом данных о наличии резервов по каждой 

БА на данный момент времени. 

Характер изменения параметров контроля 

в процессе выявления отказов при моделировании 

неисправностей ДУС и ИО показаны 

на рис. 5. 

Рис. 5. Изменение параметров контроля при выявлении отказов 

в процессе моделирования неисправностей ДУС (левая часть) и ИО (правая часть) 

Алгоритм контроля и диагностики на 

основе эталонных математических моделей и 

логических моделей ситуаций, работая в фоновом 

режиме относительно процесса штатного 

функционирования КА, показал высокую 

эффективность. Однако он имеет ряд 

недостатков: 

1. Алгоритм неработоспособен на участках, 

характеризующихся влиянием упругих 

колебаний конструкции на процессы 

управления движением КА относительно 

центра масс, например, при переходных процессах, 

связанных с перекладками панелей 

солнечных батарей из одной схемы в другую. 

2. Алгоритм неработоспособен на участках, 

характеризующихся скачкообразным 

воздействием на КА возмущающего момента, 

значительно превышающего управляющий 

момент, развиваемый исполнительными 

органами СУД (например, при отделении 

спускаемой капсулы или приложении корректирующего 

импульса). 

3. Случайный кратковременный сбой 

выходной информации ЧЭ, не влияющий на 

работоспособность СУД из-за инерционности 

КА. 

В отмеченных случаях при работоспособной 

СУД может быть принято решение 

об её отказе. Правило принятия решения по 

невязкам, относящимся к некоторому фиксированному 

моменту времени или по завершении 

периода контроля (т.е. по их мгно- 

202


венным значениям) без учёта динамики их 

изменений во времени, может привести к 

ошибкам. 

Для повышения достоверности принятия 

решений о состоянии СУД потребовалось 

разработать методы, в которых ошибки 

рассогласования в конкретные моменты 

времени рассматриваются как реализации 

случайного процесса, характеризующего работоспособность 

СУД, и применить для их 

контроля методы статистической теории 

распознавания образов. Такой подход к анализу 

ошибок рассогласования будет более 

точно учитывать их стохастический характер. 

5. Метод диагностики на основе 

модифицированного критерия Вальда 

1m 

Характеристики параметра контроля ε 

во времени, рассматриваемого как случайный 

процесс, зависят от множества факторов. 

К ним, в частности, относятся, ошибки 

измерения; погрешности отработки управляющих 

воздействий; погрешности моделирования 

динамики движения; неточности 

знания конструктивных параметров КА, 

возмущающие воздействия и другие. В этом 

случае при принятии решений следует руководствоваться 

не мгновенными значениями 

параметра ε, а выборкой этих значений ε ν , 

где ν =1,2,…,m, то есть дискретной последовательностью 

значений случайного процесса 

ε ν . Каждое из этих значений предъявляется 

для контроля (и анализа) в соответствующие 

моменты времени t ν . 

Построение классификатора при использовании 

последовательного критерия 

отношения вероятностей (ПКОВ) [7, 8] значительно 

облегчается, если принять во внимание, 

что ошибки рассогласования представляют 

собой «совокупность большого 

числа независимых причин» и в соответствии 

с центральной предельной теоремой Ляпунова 

их можно принять распределёнными 

по нормальному закону. Для обеспечения 

линейности классификатора принимаются 

равными дисперсии ошибок рассогласования 

для случаев нормальной работы и для отказа 

в СУД (классы W1 и W2 соответственно). 

Для каждого m – го шага процесса определяется 

условная вероятность p выборки 

1 2 

ε( ε , ε ,..., ε ) , когда справедлива гипотеза 

m 

W1 («норма») и условная вероятность p2m 

выборки, когда справедлива гипотеза W2 

(«ненорма»). Проверка гипотезы W1 относительно 

гипотезы W2 сводится к выбору 

таких положительных чисел (пороговых значений) 

a и b , при которых на основании 

анализа неравенства 

a 

p 

ln 

p 

2m 

≤ ≤ b 

(6) 

1m 

принимается решение: 

ln 

2m 1m 

при ( ) 

p p ≥ a 

- окончить 

наблюдение в пользу гипотезы W1, 

p p ≤ b - принять 

ln 

2m 1m 

при ( ) 

гипотезу W2, (7) 

b 

ln 

2m 1m 

при ( ) 

наблюдение за случайной величиной. 

Выбор пороговых значений a и b тесно 

связан с другими двумя величинами α12 

и 

α 

21, где α12 

- вероятность принятия гипотезы 

W2, когда верна гипотеза W1 (ошибка 

первого рода или ошибка типа «ложная тревога»), 

и α21- вероятность принятия гипотезы 

W1, когда верна гипотеза W2 (ошибка 

второго рода или ошибка типа «пропуск цели»). 

Связь пороговых значений a и b с величинами 

α 12 

и α 21 

имеет вид [7, 8]: 

a = 

1 

ln 

− α 

α 

21 

12 

α 

ln 1 − α . (8) 

12 

, b = 

Выбор величин α 12 

и α21 

определяется 

на основе анализа тех последствий, к которым 

может привести ошибочное решение. 

В каждом конкретном случае, для каждого 

параметра или группы параметров этот 

анализ проводится отдельно и направлен на 

минимизацию ущерба, который может при 

этом возникнуть. 

В космической технике ошибки второго 

рода (когда принимается решение «норма», 

а на самом деле имеет место «ненорма») 

в ряде случаев могут привести к неуправляемому 

развитию АС на борту КА. В частности, 

к потере времени, необходимого на их 

локализацию и устранение, и, как следствие, 

21 

203


к потере объекта (например, отказ выключения 

двигательной установки при совершении 

манёвра, отказ силового гироскопического 

комплекса и СУД, глубокий разряд аккумуляторных 

батарей и др.). 

Ошибки первого рода, то есть когда 

объект функционирует нормально, а система 

контроля выдаёт «ненорма», не так катастрофичны. 

Последствия здесь зависят от ситуации. 

Если необходимо провести дополнительное 

тестирование систем, которое проводится 

бортовыми средствами и занимает 

немного времени, то это может быть допустимо. 

Но если в результате такой ошибки изделие 

переходит в режим ОДП (ориентированный 

дежурный полёт) или в НП (неуправляемый 

полёт), то это приведёт к необходимости 

вмешательства НКУ и в итоге к 

потере производительности КА, так как 

«ложная тревога» потребует значительного 

времени на дополнительные проверки состояния 

БА. 

Величина логарифмического отношения 

p ( εν 

/ W1) 

правдоподобия (ЛОП) Zν 

= ln 

для 

p ( ε / W 2) 

g 1 (n) 

а 

0 

g 2 (n) 

r 

2 

= 1 

1 

1 

ν 

r 

1 

= 1 

r = 

2 

r = 

1 

1 

4 

1 

4 

каждого значения ε ν также является случайной. 

Для независимого распределения ε ν после 

m наблюдений величина суммарного 

ЛОП будет равна 

p ( ε , ε ,..., ε / W1) 

1 2 m 

λ 

m 

= − = 

p ( ε1, ε2,..., εm 

/ W 2) 

m 

p ( εν 

/ W1) 

= − ∑ 

= 

p ( ε / W 2) 

m 

∑ 

ν= 1 ν 

ν= 1 

Z 

Полученное значение 

ν 

. 

λm 

(9) 

используется 

в классификаторе (7). 

Недостатком ПКОВ является неопределённость 

с числом наблюдений. Решающие 

границы g 1 

( n) 

и g ( ) 2 

n здесь представляют 

собой две параллельные гиперплоскости 

в пространстве признаков. Расстояние 

между этими границами (ширина области 

неопределённости) определяется заданным 

уровнем ошибок классификации. С повышением 

точности (уменьшением α 12 

и α 

21) область 

неопределённости увеличивается, а 

следовательно, и среднее число наблюдений 

также увеличивается. 

2 

n 

2 

Рис.6. График пороговых значений: 1- модифицированный критерий Вальда, 

2- последовательный критерий отношений вероятностей Вальда 

4 

Например, при α 

12 

= α 

21= 

10 − имеем 

5 

a = 9, 21, b = − 9, 21, а при α 

12 

= α 

21= 

10 − получаем 

a = 11,513, b = − 11,513 . 

В модифицированном критерии Вальда 

(МПКОВ), в отличие от ПКОВ, пороговые 

значения a и b при фиксированных значениях 

α12 

и α21 

не являются постоянными величинами, 

а зависят от номера шага. Например, 

если до начала измерений задать N – 

число шагов-измерений, то границы g 1 

( n) 

и 

g ( ) 2 

n можно определить по формулам [7, 8]: 

r ( ) 1 1 

r2 

⎛ n ⎞ 

g1 n = a⎜ 

− ⎟ 

⎝ N ⎠ , ( ) ⎛ 

1 n ⎞ 

g2 n = −b⎜ 

− ⎟ 

⎝ N ⎠ . (10) 

Изменение пороговых значений показано 

на рис. 6. Применение модифицированного 

алгоритма позволяет существенно (поч- 

204


ти вдвое) сократить число шагов при принятии 

решений, что особенно важно в условиях 

реализации его на борту КА. 

При использовании модифицированного 

критерия Вальда для решения задач контроля 

и диагностики динамических систем 

весьма важными также являются следующие 

факторы: 

• возможность однозначного определения 

границ критерия для классов W1, W2. 

Причём это не зависит от характера распределения 

параметра ε, а диктуется лишь 

заданным уровнем достоверности принятия 

решения; 

• высокая устойчивость критерия к помехам. 

На рис. 7 показана реакция штатной 

СУО КА и изменение во времени контролируемого 

параметра при случайном импульсном 

воздействии на систему и результаты 

идентификации причины с помощью модифицированного 

критерия Вальда. В данном 

случае причина АС находится вне системы и 

обусловлена импульсным возмущающим 

воздействием Мв, вызванном резким (нештатным) 

остановом подвижного элемента 

конструкции КА на одном из серийных изделий 

ДЗЗ. По характеру поведения контролируемого 

параметра λn 

бортовой алгоритм 

диагностики принял решение о работоспособности 

СУО. 

Рис. 7. Реакция системы (СУО) на импульсное внешнее возмущение 

На рис.7: φ 

p 

, ω 

p 

– изменение угла и 

угловой скорости в канале рыскания, вызванное 

М В ; λ 

n 

– контролируемый параметр. 

Для обеспечения живучести КА в бортовом 

программном обеспечении (БПО) предусмотрена 

многоуровневая процедура анализа 

АС и принятие, в соответствии с этим, 

решений по реанимации управления изделием 

автономными средствами. Если ситуация 

возникла из-за сбоя аппаратуры, то реанимация 

может быть осуществлена алгоритмическими 

средствами путём организации «отката» 

всей системы в одно из устойчивых состояний 

(контрольных точек), которые либо 

созданы заблаговременно и хранятся в базе 

данных БВС, либо сформированы в процессе 

полёта КА. Дальнейшее функционирование 

КА организуется, начиная с контрольной 

точки. В ряде случаев реанимация заключается 

в переключении вышедшей из строя БА 

на резервные комплекты. 

205


В более сложных случаях, когда для 

анализа аномальных ситуаций требуется 

время и привлечение к анализу наземных 

аналитических служб, предусматривается 

перевод изделия в одно из двух допустимых 

состояний – ОДП или НП, представленные в 


табл. 1. В бортовом программном обеспечении 

(БПО) БКУ КА для этих целей предусмотрен 

специальный паттерн (режим) – 

«Управление КА при возникновении неисправностей» 

[3, 4]. 

Допустимые состояния 

КА 

Особенности функционирования 

Характер причин и 

последствий 

Принятие решения 

по реанимации 

Ориентированный 

дежурный полёт 

(ОДП) 

Сохраняются: заданная 

ориентация 

КА; сеансы связи 

с НКУ; перекладки 

панелей СБ 

Причины АС 

локализованы бортовыми 

средствами контроля, 

а их последствия 

определены. 

Целевые задачи не 

выполняются 

БКУ - в обеспечение 

оперативности и автономности 

управления; 

НКУ - в качестве органа 

контроля и дополнительного 

анализа 

АС 

Неориентированный 

полёт (НП) 

Сохраняются: сеансы 

связи с НКУ 

Причины и возможные 

последствия угрожают 

работоспособности 

КА или не 

однозначны в рамках 

принятой модели контроля 

(искажение 

данных в ОЗУ БЦВМ, 

потеря ориентации) 

НКУ; 

БКУ – в части реализации 

программы 

реанимации из НКУ 

6. Общий подход к восстановлению 

работоспособности бортовых систем КА 

Процесс восстановления работоспособности 

любой бортовой системы КА 

включает следующую последовательность 

действий: 

• исключение неисправного прибора из 

контура управления; 

• анализ наличия резерва у отказавшей системы, 

в том числе функционального; 

• подготовка и включение резервного прибора 

в контур управления или реконфигурация 

системы в случае применения 

функционального резерва; 

• восстановление штатных функций системы 

КА; 

• формирование информации о готовности 

системы к выполнению целевых функций 

КА. 

Результаты определения неисправности 

прибора поступают в блок управления восстановлением 

работоспособности системы. 

Набор стратегий управления восстановлением 

работоспособности систем КА (переключение 

на структурный или функциональный 

резерв, последовательность изменения режимов 

работы, восстановление штатных 

функций), соответствующих возможным отказам 

приборов системы, реализуется на 

программном уровне в БВС БКУ. Основные 

средства управления в аномальных ситуациях 

приведены в табл. 2. Выбор алгоритмов 

реконфигурации индивидуален для каждой 

из систем и конкретного класса КА. Для каждого 

вида отказов приборов системы и их 

комбинаций составляются логические таблицы 

истинности, по типу приведённой на 

рис. 4, и далее после выбора соответствующей 

стратегии осуществляется реконфигурация 

её структуры. 

206



Средства контроля 

и управления 

Система контроля и 

диагностики состояния 

бортовых 

средств 

Контуры «аварийной 

защиты» бортовых 

систем 

Бортовые аппаратные 

средства с интеллектуальными 

модулями БПО 

Структурный и 

функциональный резервы 

БА и систем 

БКУ 

Особенности 

реализации в современных 

КА ДЗЗ 

Распределенная система 

в составе АСУ КА: 

автономная часть в составе 

БКУ; 

интерактивная часть в 

составе НКУ 

Программные: 

отдельные модули БПО 

БКУ. 

Сигналы от БА в систему 

прерывания БВС 

Встроенные аппаратнопрограммные 

элементы 

контроля и анализа состояния 

БА 

Избыточность: 

физическая (структурная) 

в составе БА и 

функциональная в составе 

бортовых систем 

Достигаемые свойства 

Высокая автономность принятия (на 

борту) управленческих решений в 

штатных условиях работы и по 

большинству АС из принятого каталога 

вероятных. 

Свойство восстанавливаемости в 

процессе эксплуатации 

Оперативность реагирования на АС в 

бортовых средствах КА. 

Предотвращение развития АС. 

Сохранение штатных характеристик 

большинства бортовых средств. Возможность 

оперативного выхода из 

АС 

Оперативность реагирования на АС в 

системах КА и БА. 

Предотвращение развития АС в системах 

КА. 

Сохранение работоспособности бортовых 

систем и БА. 

Возможность оперативного восстановления 

работоспособности систем 

Сохранение штатных характеристик 

бортовых систем за счёт управления 

структурной избыточностью или восстановление 

штатных функций систем 

и КА с допустимым изменением 

показателей 

Наряду с отказами материальной части 

БС важное место занимает компенсация «отказов» 

БПО этих систем, вызванных, как 

правило, ошибками в программах, не выявленных 

в процессе их наземной отладки. Основные 

приёмы их выявления и устранения 

представлены в табл. 3, которые детально 

рассмотрены в [3, 4]. Здесь следует лишь 

подчеркнуть важность структурного построения 

БПО для достижения его высокой 

надёжности. В структуре БПО предусматривается 

формирование некоторого программного 

ядра. Ядро – это ограниченная часть 

БПО, которая при проявлении ошибки в 

комплексе БПО обеспечивает работу контура 

«аварийной защиты», связь с НКУ, сбор и 

передачу контрольной информации, переход 

на алгоритмический резерв и т.д. Безошибочная 

работа этого ядра обеспечивается посредством 

максимально полной его отладки 

на наземных комплексах с использованием 

моделей БА, моделей движения КА и штатной 

БВС. 

207



Отказы 

Методы восстановления 

Особенности 

реализации 

Методы диагностики 

и управления 

Примечание 

Мат.части 

систем КА - 

их БА 

1. На основе 

управления 

структурной избыточностью 

БА 

и ее элементов. 

2. На основе 

управления функциональной 

избыточностью 

систем, 

ввиду особенностей 

БПО 

Программные 

модули в БПО с 

интеллектными 

функциями диагностики 

и 

управления 

внутренними 

ресурсами 

Эталонные ММ 


систем и БА. 

Тестовые движения 

КА и их анализ. 

Модули БПО по 

управлению ресурсами 

систем. 

Специальная 

структура БПО 

Обеспечение 

реконфигурации 

управления; 

возможности 

автономного 

выполнения 

ряда 

функций 

Ошибки в 

БПО систем 

КА, включая 

БКУ 

На основе принципов 

замещения 

элементов БПО с 

выявленными 

ошибками на исправные 

Распределённая 

система контроля 

в БПО БКУ, 

включающая 

тесты аппаратной 

части систем 

и выявляющая 

ошибки БПО 

Замена модулей 

БПО БКУ, содержащих 

ошибки, на 

исправные. 

ПрОЗУ - частичная 

или полная замена 

отдельных программ 

БПО в ПЗУ 

БВС 

Специфика 

применения 

таких модулей 

определяется 

свойствами 

БВС 

БКУ, выбором 

структуры 

БПО, максимально 

полной 

его отладкой 

Для восстановления отказавшей части 

БПО БКУ предусматривается специфическая 

организация вычислительного процесса, реализуемого 

операционной системой БВС, которая 

допускает параллельное исполнение 

штатного БПО и некой компенсационной 

программы из оперативного запоминающего 

устройства (ПрОЗУ) БВС с сохранением выполнения 

штатных задач. ПрОЗУ создаётся 

в оперативном порядке для конкретных аномальных 

ситуаций специалистами – разработчиками 

БПО и закладывается по командно-программной 

радиолинии НКУ в ОЗУ 

БВС. ПрОЗУ исполняется «параллельно» с 

неверно работающей штатной бортовой программой. 

В момент выдачи из штатного БПО 

ошибочных результатов программы из ОЗУ 

подменяют неверный результат правильными 

данными. Кроме того, исследуются методы 

прямой коррекции по радиолинии ПЗУ 

(флеш-память) БВС (с сохранением целевых 

и функциональных задач). 


Представленные результаты исследований 

используются в практике создания и 

эксплуатации отказоустойчивых систем 

управления ориентацией различных типов 

современных КА ДЗЗ и активно развиваются 

в направлении обеспечения автономного 

управления живучестью перспективных автоматических 

средств космического зондирования 

Земли. 

Примерами, демонстрирующими эффективность 

рассмотренных подходов и методов 

управления живучестью бортовых 

систем, являются КА типа «Комета» (20 успешных 

запусков), а также высокая эффективность 

эксплуатируемого в настоящее 

время на протяжении более двух лет КА 

ДЗЗ «Ресурс-ДК1». 

208



1. Ахметов, Р.Н. Управление живучестью 

космического аппарата [Текст] / Р.Н. 

Ахметов // Общероссийский научно-технический 

журнал «Полет». – 2006. – №9. – 

С.16-20. 

2. Ахметов, Р.Н. Концептуальные проблемы 

управления живучестью сложных 

технических объектов [Текст] / Р.Н. Ахметов 

[и др.] // Труды VIII Международной конференции 

по проблемам управления и моделирования 

в сложных системах (Самара, 24-28 

июня 2006г.) – Самара: Сам. НЦ РАН, 2006. 

– С.274-284. 

3. Аншаков, Г.П. Методы и средства 

управления КА зондирования Земли «Ресурс-ДК1» 

[Текст] / Г.П. Аншаков [и др.] // 

Сб. трудов XIII Всероссийского семинара по 

проблемам управления движением и навигации 

ЛА. – Самара: СГАУ им С.П. Королева. 

2007, с. 4-17. 

4. Кирилин, А.Н. Основные результаты 

и планы ГНПРКЦ «ЦСКБ-ПРОГРЕСС» 

References 

по созданию космических средств ДЗЗ социально 

- экономического назначения. 

[Текст] / А.Н. Кирилин, Р.Н. Ахметов, 

Г.П. Аншаков // Москва: Труды НПП 

ВНИИЭМ, «Электромеханика», 2008. – 

Т.105. 

5. Кирилин, А.Н. Развитие российской 

космической системы ДЗЗ [Текст] / А.Н. Кирилин, 

Р.Н. Ахметов // Аэрокосмический 

курьер. – 2007. – № 2. – С.57-61. 

6. Макаров, В.П. Элементы искусственного 

интеллекта в задаче обеспечения 

живучести системы ориентации ИСЗ [Текст] 

/ В.П. Макаров, С.Н. Платонов // Динамика и 

управление космическими объектами. – Новосибирск: 

Наука, 1992. – С.193-202. 

7. Вальд, А. Последовательный анализ 

[Текст] / А. Вальд – М.: Физматгиз, 1960. 

8. Фу, К. Последовательные методы в 

распознавании образов и обучении машин. 

[Текст] / К. Фу – М.: Наука, 1971. 

1. Akhmetov, R.N. Spacecraft survivability 

control / R.N. Akhmetov // All-Russian 

scientific-technical magazine “Polyot” (Flight), 

2006. – N 9. – P.16-20. – [in Russian]. 

2. Akhmetov, R.N. Conceptual issues of 

compound technical objects survivability control 

/ R.N. Akhmetov [and other] // Papers of 

VIII International conference on compound systems 

control and modeling (Samara, June 24-28, 

2006). – Samara: Samara scientific center of 

Russian Academy of Science, 2006. – P.274- 


3. Anshakov, G.P. Resurs-DK1 remote 

sensing spacecraft control methods and facilities 

/ G.P. Anshakov [and other] // Collected papers 

of XIII All-Russian seminar on aircraft motion 

and navigation control issues. – Samara: S.P. 

Korolyov Samara State Aerospace University, 

2007. – P.4-17. – [in Russian]. 

4. Kirilin, A.N. Main results and plans 

of Samara Space Centre for design of Earth remote 

sensing systems assigned for socioeconomic 

purpose / A.N. Kirilin, R.N. Akhmetov, 

G.P. Anshakov // Moscow: Papers of Scientific 

production enterprise VNIIEM, “Elektromekhanika” 

(electromechanics), 2008. – 

Vol.105. – [in Russian]. 

5. Kirilin, A.N. Development of Russian 

remote sensing space system / A.N. Kirilin, 

R.N. Akhmetov // Aerospace courier. – 2007. – 

N 2. – P.57-61. – [in Russian]. 

6. Makarov, V.P. Artificial intilligence 

elements as providers of satellite orientation 

system survivability / V.P. Makarov, S.N. Platonov 

// Dynamics and space objects control. 

Novosibirsk: “Nauka| (Science), 1992. – 

P.193-202. – [in Russian]. 

7. Vald, A. Sequential analysis / A. Vald 

– Moscow: “Fizmatgiz”, 1960. – [in Russian]. 

8. Fu, K. Sequential methods of pattern 

recognition and machin education / K. Fu – 

Moscow: “Nauka” (Science), 1971. – [in Russian]. 

209


METHODS AND MODELS OF AUTONOMOUS CONTROL OVER EARTH 

REMOTE SENSING SPACECRAFT SURVIVABILITY 

© 2008 R.N. Akhmetov 

State Research and Production Space Centre “TsSKB-Progress”, Samara 

There considered detection methods of remote sensing spacecraft onboard equipment abnormal functioning in 

real time, preventing methods of abnormal situation grow up to irreversible consequences, methods of automatic diagnosis 

of onboard systems failures and their revival. There given results of autonomous analysis, diagnosis and further 

reconfiguration of spacecraft attitude position control loop. 

Earth remote sensing spacecraft, abnormal situation, reference model, autonomous analysis, diagnosis, revival, 

Vald criteria 


Ахметов Равиль Нургалиевич, генеральный конструктор, кандидат технических наук, 

ФГУП ГНПРКЦ «ЦСКБ - Прогресс». Область научных интересов: проектирование космических 

аппаратов дистанционного зондирования Земли, их производство и эксплуатация. 

Akhmetov Ravil Nurgalievich, First Deputy General Director – General Designer of SRP 

SC “TsSKB-Progress”, Head of TsSKB, candidate of technical science. Field of his scientific interest 

is development of spacecraft designing methods and their matematical and algorithmic support. 

210


УДК 532.526 

ПРИМЕНЕНИЕ СХЕМЫ ИНТЕГРИРОВАНИЯ С РАЗНЫМИ ШАГАМИ 

В МЕТОДЕ РАСЩЕПЛЕНИЯ ЗАВИХРЁННОСТИ ПРИ МОДЕЛИРОВАНИИ 

АЭРОДИНАМИЧЕСКОГО СЛЕДА ЗА ПЛОСКОЙ ПЛАСТИНОЙ 

© 2008 В.В. Никонов, В.Г. Шахов 


Рассматривается применение метода расщепления завихрённости к моделированию аэродинамического 

следа за продольно обтекаемой плоской пластиной. Применяется схема интегрирования с разными шагами по 

времени с учетом разности скоростей протекания процессов диффузии и конвекции. Показано, что схема метода 

позволяет получать результаты с хорошей точностью в широком диапазоне изменения чисел Рейнольдса. 

Обтекание, прямое численное моделирование, метод расщепления завихрённости, аэродинамический 

след, плоская пластина, диффузия, конвекция, интегрирование с разными шагами по времени, число Рейнольдса 

1. Математическая формулировка 

метода расщепления завихрённости 

Метод расщепления завихрённости 

(МРЗ) был получен из метода «вихрь в ячейке» 

путём расщепления завихрённости на её 

составляющие [1]. В МРЗ вместо циркуляции 

вихрей в ячейках используются величины 

xi 

+ h/2 

y j + h/2 

∂u( x, y) 

∆ 

uy 

( xi , y 

j 

) = 

dx dy 

∂ y 

∫ ∫ , 

xi 

−h/2 y j −h/2 

xi 

+ h/2 

y j + h/2 

∂ v( x, y) 

∆ 

vx 

( xi , y 

j 

) = 

dx dy 

∂x 

∫ ∫ , 

xi 

−h/2 y j −h/2 

где h – размер ячейки однородной сетки. 

Скорость течения рассчитывается интегрированием 

вдоль координатных линий, и 

при этом двумерная задача сводится к нескольким 

одномерным: 

∆uy 

( i, j) 

u( i, j + 0,5) = u( i, j − 0,5) + , 

h 

∆vx 

( i, j) 

v( i + 0,5, j) = v( i − 0,5, j) E 

+ . 

h 

Скорость в центрах ячеек сетки рассчитывается 


( i, j) 

u( i, j) = u( i, j − 0,5) + 0,5∆ uy 

, 

hx 

( i, j) 

v( i, j) = v ( i − 0,5, j) + 0,5∆ vx 

. 

hy 

В схеме метода МРЗ частицы движутся 

с потоком и переносят величины ∆ vx и ∆ uy . 

x 

y 

После расчёта поля скоростей течения новые 

координаты частиц получаются аналогично 

методу «вихрь в ячейке» численным интегрированием 

системы обыкновенных дифференциальных 

уравнений методом Эйлера. 

Новое местоположение частиц не обязательно 

совпадёт с координатами расчётной сетки, 

и поэтому процедура перераспределения 

используется отдельно для величин ∆ vx и ∆ uy : 

∆ ( x , y ) = ∆ ( x , y ) Λ( x − x ) Λ( y − y ) , 

uy i j uy k l i k j l 

∆ ( x , y ) = ∆ ( x , y ) Λ( x − x ) Λ( y − y ) . (1) 

vx i j vx k l i k j l 

В качестве интерполяционной функции 

Λ использовалась формула «облако в 

ячейке» [2]. 

Диффузия в свободном потоке для схемы 

МРЗ рассчитывается с использованием 

метода донор-акцептор (Д-А) аналогично [3], 

но отдельно для ∆ uy и ∆ vx : 

∆ ( t + t, x , y ) = ∆ ( t, x , y ) + 

uy ∆ i j uy i j 

j−nd 

≤q≤ j+ 

nd 

( 

+ ∆ − 

− ∆ 

∑ 

* 

uy 

( t, xi , yq ) G 

jq 

( y) 

* 

uy 

( t, xi , y 

j 

) Gqj 

( y) , 

∆ ( t + t, x , y ) = ∆ ( t, x , y ) + 

vx ∆ i j vx i j 

i−nd 

≤q≤ i+ 

nd 

( 

+ ∆ t x y G x − 

− ∆ 

∑ 

) 

* 

vx 

( , 

q, j 

) 

iq 

( ) 

t x y G x 

* 

vx( , 

q, j 

) 

qi 

( ) , 

) 

где n d - радиус «диффузионной молекулы», а 

коэффициенты G * jq определяются по формуле 

211


/ 2 

* 1 ⎡ ⎛ z 

p 

+ h − z ⎞ 

q 

Gpq 

( z) 

= ⎢erf 

− 

2 ⎢ 

⎜ 4ν 

∆t 

⎟ 

⎣ ⎝ ⎠ 

⎛ z 

p 

− h / 2 − z ⎞⎤ 

q 

−erf 

⎥. 

⎜ 

4ν 

∆t 

⎟ 

⎝ 

⎠⎦⎥ 

Здесь z – x p – или y p –координаты центра 

ячейки p-го вихря, erf – интеграл вероятности 

(функция ошибок). 

В схеме МРЗ с поверхности тела 

диффундируют величины ∆ uy и ∆ vx . Для 

удобства сначала определим ∆ un и ∆ vs в системе 

координат, связанной с панелью: 

∆ ( s , n ) = u( s , + 0) h × 

un i j i s 

⎡ ⎛ n 

j 

+ h / 2 ⎞ ⎛ n 

j 

− h / 2 ⎞⎤ 

, 

× ⎢erf 

− erf 

⎥ , 

⎢ 

⎜ 4ν∆t 

⎟ ⎜ 4ν∆t 

⎟ 

⎣ ⎝ ⎠ ⎝ ⎠⎥⎦ 

∆ ( s , n ) = 0 , 

vs i j 

где h s – размер ячейки локальной сетки в направлении 

координаты s, (s i , n j ) – координаты 

центра рассматриваемой ячейки в локальной 

системе координат (СК). Величины 

∆ uy и ∆ vx в глобальной СК запишутся как 

∆ ( x , y ) = ∆ ( s , n ) y , 

uy i j un i j n 

∆ ( x , y ) = ∆ ( s , n ) x . (2) 

vx i j un i j n 

Здесь (x i , y j ) - координаты центра рассматриваемой 

ячейки в глобальной СК, 

{ xn, yn} 

- единичный вектор, нормальный к 

рассматриваемой панели, записанный в этой 

же системе. Величина скорости жидкости у 

поверхности тела определяется следующим 

образом: 

u( s , + 0) = lim u( s , n) 

, 

i 

n→+ 

0 

i 

В общем случае координаты (x i , y j ) в 

(2) не обязательно совпадают с ячейками 

глобальной сетки. Поэтому для значений ∆ uy 

и ∆ vx применяется процедура перераспределения 

(1). 

Для учёта уравнения неразрывности в 

схему метода необходимо включить корректировку 

поля скорости. Тогда для расположенных 

над пластиной ячеек вертикальная 

компонента скорости определится как 

⎛ ∂u 

∂u 

⎞ 

vi , j 

= vi, j−1 

− 0.5hy 

+ 

. (3) 

⎜ x x ⎟ 

⎝ 

∂ ∂ 

i, j 

i, j−1 

⎠ 

Для аппроксимации пространственных 

производных в правой части (3) использовалась 

центральная конечно-разностная схема. 

В схеме метода процессы конвекции и 

диффузии рассматриваются отдельно на каждом 

шаге по времени. В работе [4] было 

показано, что для достижения заданной точности 

шаг по времени для метода Д-А определяется 

следующим соотношением: 

t = 2 ∆ 

kd 

h / ν , 

где k d - константа, зависящая только от радиуса 

n d «диффузионной молекулы», и для 

n d = 1 эта константа находится в диапазоне 

0.2 ≤ k d ≤ 0.21. Принято, что k d = 0.21, так 

как в данном случае [5] ошибки методов Д-А 

и моделирования процесса конвекции будут 

иметь разные знаки и поэтому будут компенсировать 

друг друга. Шаг по времени для 

процесса конвекции определялся с помощью 

неравенства 

t h 

∆ c 

≤ k c 

, 

u∞ 

соответствующего критерию Курант-Фридрих-Леви 

[6] с величиной коэффициента 

k c = 1.5. При этом он не обязательно совпадёт 

с оптимальным шагом для расчёта процесса 

диффузии. Поэтому предлагается применять 

метод интегрирования с раздельными 

шагами по времени для процессов диффузии 

и конвекции. 

2. Прямое численное моделирование 

аэродинамического следа 

за плоской пластиной 

Рассматривается случай продольного 

обтекания плоской пластины конечной длины 

вязкой несжимаемой жидкостью. В результате 

прямого численного моделирования 

получены профили скорости в аэродинамическом 

следе за пластиной в диапазаоне 

чисел Рейнольдса от 10 до 10 6 , которые 

сравниваются с аналитическим решением 

Голдстейна [7] для сечений, расположенных 

на расстояниях: x 1 = 0; 0.0135; 0.108; 

0.256 от задней кромки пластины. Полученные 

результаты представлены на рис. 1, 2. 

212


Вертикальная безразмерная координата η 1 

определяется следующим образом: 

η = y 

1 

u∞ 

ν l 

, 

1 

где l 1 – длина пластины, равная 1.0, так как 

она принималась за характерный размер. 

u 

1 

Представленные результаты позволяют 

сделать вывод о том, что метод МРЗ применим 

не только для моделирования ламинарного 

пограничного слоя на плоской пластине 

[1], но и для моделирования аэродинамического 

следа за пластиной. 

0.8 

0.6 

0.4 

0.2 

0 

0 1 2 3 4 5 6 

η 1 

Рис. 1 Распределение продольной компоненты скорости u в следе за плоской пластиной в сравнении с 

аналитическим решением (Re = 10, h = 0.025). 

Численное решение: - x 1 ≈ 0.0, - x 1 ≈ 0.0135, - x 1 ≈ 0.108, - x 1 ≈ 0.256; 

- Голдстейн [7] 

u 

1 

0.8 

0.6 

0.4 

0.2 

0 

0 1 2 3 4 5 6 

η 1 

Рис. 2. Распределение продольной компоненты скорости u в следе за плоской пластиной в сравнении с 

аналитическим решением (Re = 10 6 , h = 1.563⋅10 -4 ). 

Численное решение: - x 1 ≈ 0.0, - x 1 ≈ 0.0135, - x 1 ≈ 0.108, - x 1 ≈ 0.256; 

- Голдстейн [7] 

213



1. Никонов, В.В. Схема расчета скорости 

для метода «вихрь в ячейке» применительно 

к моделированию двумерного ламинарного 

пограничного слоя [Текст] / В.В. 

Никонов, В.Г. Шахов // Известия СНЦ РАН, 

Самара. – 2005. – Т. 7, № 2. – С. 392-398. 

2. Григорьев, Ю.Н. Численные методы 

«частицы-в-ячейках» [Текст] / Ю.Н. Григорьев, 

В.А. Вшивков. – Новосибирск: Наука. 

– Сибирская издательская фирма РАН, 

2000. - 184 с. 

3. Taranov, A. Development of the Computational 

Vortex Method for Calculation of 

Two-Dimensional Ship Sections with Flow 

Separation [Tекст] / A. Taranov, N. Kornev, 

A.Leder // Schiffbauforschung. – 2000. – Vol. 

39, N 2. – P. 95-105. 

4. Nikonov, V. The Ratio between Spatial 

and Time Resolutions for the Diffusion Substep 

in 2D Computational Vortex Methods [Tекст] / 

V. Nikonov, N. Kornev, A. Leder // Schiffbauforschung. 

– 2002. – Vol. 41, N 3/4. – P. 5-12. 

5. Никонов, В.В. Модификация схемы 

«донор-акцептор» для расчета диффузии завихренности 

и ее применение в методе 

«вихрь в ячейке» [Текст] / В.В. Никонов, 

В.Г. Шахов // Вестник СГАУ, Самара. – 

2003. – № 1 (3). – С. 38-46. 

6. Ferziger, J. Computational methods for 

fluid dynamics [Tекст] / J. Ferziger, M. Peric, 3 

rev. ed. – Springer-Verlag, 2002. – 423 p. 

7. Шлихтинг, Г. Теория пограничного 

слоя [Текст] / Г. Шлихтинг; пер. с нем. 

Г.А. Вольперта; под. общ. ред. Л.Г. Лойцянского. 

– М.: Наука, 1974. - 712 с. 

References 

1. Nikonov, V.V. Calculation velocity 

scheme for “Vortex-in-Cell” method applying to 

simulation of two-dimensional laminar boundary 

layer / V.V. Nikonov, V.G. Shakhov // Samara: 

Proceedings of Samara Scientific Center of 

Russian Academy of Sciences. – 2005. – Vol. 7, 

N 2. – P. 392-398. – [in Russian]. 

2. Grigoryev, Yu.N. Numerical methods 

“Particles-in-cells” / Yu.N. Grigoryev, V.A. 

Vshivkov. – Novosibirsk: “Nauka” (Science). – 

Siberian publishing firm of RAS. – 2000. – 184 

p. – [in Russian]. 

3. Taranov, A. Development of the 

Computational Vortex Method for Calculation 

of Two-Dimensional Ship Sections with Flow 

Separation / A. Taranov, N. Kornev, A. Leder // 

Schiffbauforschung. – 2000. – Vol. 39, N 2. – 

P.95-105. 

4. Nikonov, V. The Ratio between Spatial 

and Time Resolutions for the Diffusion Substep 

in 2D Computational Vortex Methods / 

V. Nikonov, N. Kornev, A. Leder // Schiffbauforschung. 

– 2002, vol. 41, N 3/4. - pp. 5-12. 

5. Nikonov, V.V. “Donor-Acceptor” scheme 

modification for vorticity diffusion calculation 

and it application in “Vortex-in-Cell” 

method / V.V. Nikonov, V.G. Shakhov // Vestnik 

(Bulletin) SSAU. – Samara, 2003. – N 1 (3). 

– P. 38-46. – [in Russian]. 

6. Ferziger, J. Computational methods 

for fluid dynamics / J. Ferziger, M. Peric. – 3 

rev. ed., Springer-Verlag. - 2002. - 423 p. 

7. Schlichting, H. Grenzschicht-Theorie / 

H. Schlichting - Springer, Berlin, 1997. – 851 p. 

214


MULTI-TIME-STEP SCHEME IN THE VORTICITY SPLITTING METHOD 

APPLIED TO THE SIMULATION OF THE WAKE BEHIND THE FLAT PLATE 

© 2008 V.V. Nikonov, V.G. Shakhov 


The Vorticity Splitting Method is applied to the simulation of the wake behind the longitudinal streamlined flat 

plate. Moreover the Multi-Time-Step Scheme is used in the numerical algorithm because the differences in the rates of 

convection and diffusion processes. The method is allowed results obtaining with fine accuracy in the wide range of 

Reynolds numbers. 

Streamline, direct numerical simulation, vorticity splitting method, wake, flat plate, diffusion, convection, multitime-step 

integration, Reynolds number 


Никонов Валерий Владимирович, инженер НТП «Авиатехнокон» СГАУ, кандидат 

технических наук. Е-mail: v_nikonov@mail.ru. Область научных интересов: вихревые методы, 

прямое численное моделирование несжимаемых и сжимаемых течений, пограничный слой. 

Шахов Валентин Гаврилович, заведующий кафедрой аэрогидродинамики СГАУ, 

профессор, кандидат технических наук. Е-mail: shakhov@ssau.ru. Область научных интересов: 

теория пограничного слоя, турбулентность, численные методы, аэродинамика летательных 

аппаратов. 

Nikonov Valery Vladimirovich, engineer NTP “Aviatechnokon” SSAU, PhD of technical 

sciences. Е-mail: v_nikonov@mail.ru. Scientific interests: vortex methods, direct numerical simulation 

of incompressible and compressible flows, boundary layer. 

Shakhov Valentin Gavrilovich, Head of Aerohydrodynamic department SSAU, professor, 

PhD of technical sciences. Е-mail: shakhov@ssau.ru. Scientific interests: boundary layer theory, 

turbulence, numerical methods, flying vehicles aerodynamics. 

215


УДК 004.352 

АЛГОРИТМ ИЗВЛЕЧЕНИЯ СКРЫТОЙ ИНФОРМАЦИИ 

ИЗ ОТСКАНИРОВАННЫХ ПОЛИГРАФИЧЕСКИХ ИЗДЕЛИЙ 

© 2008 Н.И. Глумов 2 , В.А. Митекин 1,2 , А.В. Сергеев 2 , В.А. Федосеев 1,2 

1 Самарский государственный аэрокосмический университет; 


Предлагается метод стегоанализа алгоритма «Invisible Personal Information», предназначенного для встраивания 

цифровых водяных знаков (ЦВЗ) в полиграфические изделия и считающегося стеганографически стойким. 

Предлагаемый метод стегоанализа состоит из двух этапов: выделение из всего множества ключей встраивания 

подмножества вероятных ключей и препарирование изображения с использованием каждого из выбранных ключей 

с целью выявления водяного знака. Также в работе исследуется устойчивость работы алгоритма стегоанализа 

к искажениям, вызванным процессами печати и сканирования стегограммы, содержащей ЦВЗ. 

Цифровой водяной знак, стеганографическая система, стегоанализ, полиграфические изделия, линзовый 

растр, ключ встраивания 


216 

В настоящей работе объектом исследования 

является стегосистема, известная под 

названием «Invisible Personal Information», 

или IPI [1-5], широко применяемая на практике 

при аутентификации ценных бумаг и 

удостоверений личности, а также при скрытой 

передаче информации на бумажном носителе. 

Данная стегосистема по заявлению ее 

разработчиков является стеганографически 

стойкой [2]. В работе делается попытка построения 

атаки на стегосистему IPI с целью 

опровержения этого тезиса. Также в работе 

исследуется устойчивость работы разработанного 

метода стегоанализа к искажениям 

стегограммы. 

Описание стегосистемы IPI 

Рассматриваемая стегосистема предназначена 

для встраивания невидимого ЦВЗ в 

полиграфические изделия. Благодаря использованию 

специфичных свойств современных 

устройств растровой печати она позволяет 

без значительной потери визуального 

качества печатаемого изделия встроить в 

него ЦВЗ, стойкий к печати и повторному 

сканированию. Широкому распространению 

данной системы послужил также тот факт, 

что извлечение информации может осуществляться 

визуально при помощи простейшей 

оптической системы – линзового или щелевого 

растра [6]. 

Принципы встраивания и извлечения 

ЦВЗ, используемые в IPI, заключаются в следующем. 

Контейнер, предназначенный для 

встраивания ЦВЗ данным методом, представляет 

собой бинарное изображение, состоящее 

из множества растровых точек, расположенных 

в узлах регулярной сетки. Такой 

тип изображений обычно является результатом 

предпечатной подготовки полутоновых 

цифровых изображений с использованием 

растрирования. ЦВЗ также представляет 

собой бинарное изображение, равное по размерам 

изображению-контейнеру. Встраивание 

ЦВЗ заключается в малом, меньшем, чем период 

регулярной сетки, смещении растровых 

точек контейнера (рис. 1а). Величина и направление 

смещения одинаковы для всех выбранных 

точек. Данная операция не приводит 

к изменению средней яркости соответствующей 

области контейнера, чем объясняется визуальная 

незаметность встроенного ЦВЗ. 

Извлечение ЦВЗ производится путем 

наложения на стегограмму линзового или 

щелевого растра, направление и шаг сетки 

которого согласованы с аналогичными параметрами 

регулярной сетки контейнера (рис. 

1б). Эта операция приводит к изменению 

средней яркости в областях стегограммы, 

подвергнутых смещению, что приводит к 

проявлению ЦВЗ. 

В качестве стеганографического ключа 

выступают шаг и направление смещения. 

Метод выбора подмножества 

приемлемых ключей при стегоанализе 

Наименьшие искажения в изображение-контейнер 

будут вноситься при исполь-


зовании параметров ключа, близких по значению 

к параметрам растровой сетки. Поэтому 

задача отыскания вероятных ключей 

сводится к задаче оценки параметров периодических 

структур стегограммы. Данная задача 

может быть решена путем анализа 

спектральных характеристик изображения– 

стегограммы. По свойствам ДПФ модуль 

Фурье-спектра изображения, содержащего 

доминирующую периодическую структуру, 

имеет локальные экстремумы на частотах, 

соответствующих периодической решетке, а 

также на кратных частотах (рис. 2). Искомые 

параметры решетки – период и направление 

– вычисляются по этим частотам. 

а) б) 

Рис. 1. Принцип встраивания (а) и извлечения (б) водяного знака методом IPI 

а) б) 

Рис. 2. Фрагмент изображения стегограммы (а) и ее спектр мощности (б) 

Алгоритм препарирования стегограммы 

Очевидно, вследствие двумерности 

природы изображения после работы процедуры, 

описанной в предыдущем разделе, количество 

приемлемых ключей не превышает 

двух. Для проверки каждого из них был реализован 

алгоритм препарирования стегограммы, 

делающий ЦВЗ визуально видимым 

в случае его наличия. 

Алгоритм препарирования имитирует 

эффект наложения линзового растра и состоит 

из двух этапов. На первом этапе применяется 

линейный полосовой фильтр для 

усиления спектральных компонент стегограммы, 

соответствующих найденной периодической 

структуре. На втором этапе для 

подавления сетки растра производится вычисление 

поля локальной дисперсии полученного 

изображения. 

Пример стегограммы до и после применения 

описанной процедуры препарирования 

приведен на рис. 3. 

217


а) б) 

Рис. 3. Стегограмма «Облака» до (а) и после (б) применения процедуры препарирования 

Построение математической модели 

«принтер-сканер» 

Для оценки устойчивости работы алгоритма 

стегоанализа к искажениям, возникающим 

при печати изображения и последующем 

сканировании, построена следующая 

математическая модель искажающей 

системы "принтер-сканер": 

(1) исходное изображение x( n1 , n2 

) подвергается 

сглаживанию фильтром с гауссовской 

импульсной характеристикой: 

y n n x n n h n n 

σ 

( 

1, 2) = ( 

1, 2)** ( 

1, 2) 

, 

h( n , n ) 

1 ⎧ 

exp 

⎩ 

2 2 

1 2 

1 2 

= 

2 ⎨− 

2 

2πσs 

2σs 

n 

+ n 

⎫ 

⎬ , 

⎭ 

где yσ 

( n1 , n2 

) – сглаженное изображение, 

σ – СКО гауссовского распределения. 

S 

(2) сглаженное изображение yσ( n1 , n2 

) подвергается 

аддитивному зашумлению гауссовским 

белым шумом ξ( n1 , n2 

) с нулевым 

математическим ожиданием и 

АКФ B ( ) 2 

ξ 

m1 , m2 = σξ 

δ ( m1 , m2 

) , где σξ 

- 

СКО шума, а ( m , m ) 

δ – дельтафункция: 

1 2 

y ( n , n ) x( n , n ) ( n , n ) 

ξ 1 2 

= 

1 2 

+ ξ 

1 2 

. 

Моделирование работы алгоритма 

при искажении стегограмм 

В работе было проведено моделирование 

влияния искажающей системы (1)-(2) на 

работу алгоритма стегоанализа. В качестве 

показателя качества Q применялся модуль 

коэффициента корреляции между исходным 

и извлеченным ЦВЗ. На рис. 4 приведен график 

зависимости показателя качества Q от 

параметра σ при различных σ . 

s 

Анализируя полученные результаты, 

можно сделать ряд выводов о влиянии искажающих 

факторов на устойчивость работы 

алгоритма стегоанализа: 

1) влияние шумового фактора в исследованном 

диапазоне параметра σ крайне незначительно 

(не выше 0.5%) для всех значений 

параметра σ 

S 

; 

2) в исследованном диапазоне значений параметра 

расфокусировки наблюдается незначительное 

ухудшение качества (не 

выше 5%). 

Таким образом, полученные в ходе вычислительного 

эксперимента результаты позволяют 

сделать вывод о несущественном 

влиянии искажающей системы "принтерсканер" 

на качество выделения ЦВЗ разработанным 

алгоритмом стегоанализа. 

ξ 

ξ 

218


Рис. 4. График влияния искажений на качество выделения ЦВЗ 


Предложенный в работе двухэтапный 

метод стегоанализа алгоритма «Invisible 

Personal Information» позволяет приближенно 

вычислять ключи встраивания и выделять 

визуально различимые ЦВЗ на отсканированных 

изображениях стегограмм. Исследования 

показали, что разработанный алгоритм 

устойчив к искажениям стегограммы, не 

приводящим к разрушению растровой сетки. 

Вышесказанное позволяет сделать вывод о 

том, что система IPI не является стеганографически 

стойкой. 


1. Anan, T. Watermarking Technologies 

for Security-Enhanced Printed Documents 

[Текст] / T. Anan, Kuraki, K., Nakagata, 

S. // Magazine FUJITSU (vol. 58, No.3), 

Abstracts of Research and Development special 

issue. – 2007. – P.197-203. 

2. Masahiko, S. A Watermark Embedding 

and Extracting Method for Printed Documents 

[Текст] / S. Masahiko // Transactions of 

the institute of electronics, information and 

communication engineers. – 2004. – N .6. – 

P. 778-786. 

3. Anti-counterfeiting method and apparatus 

using digital screening [Текст] – US Patent 

6,104,812. 

4. Digital anti-counterfeiting software 

method and apparatus [Текст] – US Patent 

5,708,717. 

5. Anti-counterfeiting process using lenticular 

optics and color masking [Текст] – US 

Patent 5303370. 

6. Валюс, Н.А. Стереоскопия. [Текст] / 

Н.А. Валюс – М.: Издательство АН СССР, 

1962. – 380 с. 

References 

1. Anan, T. Watermarking Technologies 

for Security-Enhanced Printed Documents 

/ T. Anan, Kuraki, K., Nakagata, S. // 

Magazine FUJITSU (vol. 58, No.3), Abstracts 

of Research and Development special issue. – 

2007. – P.197-203. 

2. Masahiko, S. A Watermark Embedding 

and Extracting Method for Printed Documents 

/ S. Masahiko // Transactions of the institute 

of electronics, information and communication 

engineers. – 2004. – N .6. – P. 778-786. 

3. Anti-counterfeiting method and apparatus 

using digital screening – US Patent 6,104,812. 

4. Digital anti-counterfeiting software 

method and apparatus – US Patent 5,708,717. 

5. Anti-counterfeiting process using lenticular 

optics and color masking – US Patent 

5303370. 

6. Valyus, N.A. Stereoscopy / N.A. Valyus 

– Moscow: USSR Academy of Sciences 

Publishers, 1962. – 380 p. 

219


AN ALGORITHM FOR EXTRACTING INVISIBLE INFORMATION 

FROM SCANNED POLYGRAPHIC PRODUCTS 

© 2008 N.I. Glumov 2 , V.A. Mitekin 1,2 , A.V. Sergeev 2 , V.A. Fedoseev 1,2 

1 Samara State Aerospace University 

2 Image Processing Systems Institute of the RAS 

We propose a steganalysis technique for the Invisible Personal Information algorithm intended for embedding 

digital watermarks (DWM) in polygraphic products and considered steganographically robust. The steganalysis technique 

in question involves two stages: first, out of the entire set of embedding keys a probable key subset is extracted 

and, then, the image is being prepared using each of the keys chosen so that a watermark can be discovered. Also, we 

investigate the robustness of the steganalysis algorithm relative to distortions due to printing and scanning of stegagrams 

with DWMs. 

Digital water mark, steganographic system, polygraphic products, lens array, embedding key 


Глумов Николай Иванович. В 1985 г. окончил Куйбышевский авиационный институт по 

специальности «Прикладная математика». В настоящее время старший научный сотрудник 

лаборатории математических методов обработки изображений ИСО РАН. Кандидат технических 

наук. Область интересов - математические методы обработки и распознавания цифровых 

изображений. 

Митекин Виталий Анатольевич в 2006 году закончил факультет информатики СГАУ. В данный 

момент является аспирантом кафедры геоинформатики СГАУ и стажером-исследователем 

ИСОИ РАН. В область научных интересов входят стеганография и стегоанализ. 

Сергеев Александр Владиславович в 2007 году защитил диплом бакалавра факультета информатики 

СГАУ. В данный момент работает техником в ИСОИ РАН. В область научных 

интересов входят стеганография, компрессия изображений, алгоритмы обработки и анализа 


Федосеев Виктор Андреевич в 2007 году защитил диплом бакалавра в Самарском государственном 

аэрокосмическом университете (СГАУ). В настоящее время продолжает обучение в СГАУ, а 

также работает техником в Институте систем обработки изображений РАН. Круг научных интересов 

включает обработку изображений, компьютерную графику, стеганографию, криптографию. 

Glumov Nikolay Ivanovich, in 1985 graduated from Kuibyshev Aviation Institute, majoring in 

Applied Mathematics. Currently he is a senior researcher at IPSI RAS, Mathematical Methods of 

Image Processing laboratory. He is a candidate in Engineering. Research interests: mathematical 

methods of digital image processing and recognition. 

Mityekin Vitaliy Anatolievich, in 2006 graduated from SSAU’s Informatics department. 

Currently, he is a post-graduate student at SSAU’s Geo-Informatics sub-department and a trainee 

researcher at IPSI RAS. Research interests: steganography and steganalysis. 

Sergeev Alexandr Vladislavovich, in 2007 received BSc degree from SSAU’s Informatics 

department. He works as a technician at IPSI RAS. Research interests include steganography, 

image compression,algorithms for image processing and analysis. 

Fedoseev Victor Andreevich, in 2007 received BSc degree from SSAU. Currently, he continues 

his studies at SSAU and works as a technician at IPSI RAS. Research interests include image processing, 

computer graphics, steganography, cryptography. 

220


УДК 004.9 + 615.84 

РАЗРАБОТКА ИНФОРМАЦИОННОЙ ТЕХНОЛОГИИ ОЦЕНИВАНИЯ 

ГЕОМЕТРИЧЕСКИХ ПАРАМЕТРОВ ИЗОБРАЖЕНИЙ ГЛАЗНОГО ДНА 

© 2008 А.В. Куприянов, Н.Ю. Ильясова 

Институт систем обработки изображений РАН, Самара 

Работа посвящена анализу класса изображений, содержащих ветви древовидных структур. Представлена 

технология оценивания параметров подобных структур на примере кровеносных сосудов глазного дна. Предложены 

модели изображений древовидного объекта, модель ветви и модели профиля яркости изображения ветви 

древовидного объекта, позволяющие сформировать набор диагностических признаков. Проведён анализ методов 

оценивания параметров толщины сосудов. Описаны подробно аппроксимационные методы оценивания 

параметров, в основе которых лежит идея параметрической аппроксимации яркостного профиля выделенного 

на изображении фрагмента исследуемого сосуда. Для определения параметра толщины сосуда предлагается три 

различных модели яркостного профиля. Описан метод локального веерного преобразования, позволяющий детектировать 

направления ветвей в произвольных точках на изображениях глазного дна. Представлены экспериментальные 

исследования на тестовых и натурных изображениях. 

Глазное дно, толщина сосуда, аппроксимация, профиль яркости, ступенчато-параболическая модель 

Глазное дно является единственным в 

организме участком, где сосудистая система 

в полном объеме доступна прямому неинвазивному 

наблюдению. Сейчас исследования 

сосудистых форм патологии сетчатки занимают 

лидирующее место в современной офтальмологии. 

Анализ изображений глазного 

дна позволяет провести раннее обнаружение 

таких заболеваний, как дистрофия зрительного 

нерва, отслоение сетчатки и т.д. Одним 

из наиболее известных методов клинических 

исследований глазного дна является получение 

его изображения при помощи специального 

инструмента – фундус-камеры (рис. 2). 

С помощью полноцветного изображения высокого 

разрешения можно изучать большой 

диапазон глазных болезней in vivo. К примеру, 

при диабете, таком микрокапиллярном 

заболевании, которое ведет к ретинопатии 

(ДР), цифровые изображения обеспечивают 

возможность изучения детальных изменений 

отдельных капиллярных русел при пространственном 

разрешении, позволяющем 

получать беспрецедентные детали капиллярных 

русел (5-10 микрон). 

Развитие диабетической ретинопатии 

начинает формироваться с сосудистых изменений 

(изменений абсолютных и относительных 

соотношений диаметров артериальных 

и венозных сосудов, рост новых сосудов, 

их повышенная извитость и т.д.), и разработка 

диагностических методов исследования 

сосудов глазного дна с использованием 

цифровых и компьютерных технологий 

является одним из перспективных направлений 

в диагностике ранних стадий ДР [1,2]. В 

настоящее время для диагностики ранних 

стадий ДР используются методы, основанные 

на проведении ангиографических, электро-физиологических 

исследований и исследований 

слезной жидкости [3,4,5]. 

Рис.1. Модель глаза 

Одним из наиболее информативных 

является метод флюоресцентной ангиогра- 

221


фии (ФАГ), особенно при использовании 

сканирующих лазерных офтальмоскопов и 

цифровых методов обработки изображений. 

Но в силу ряда обстоятельств (почечная патология 

и др.), проведение ФАГ у больных с 

СД и ранними стадиями ДР бывает не всегда 

возможно и целесообразно. 

Методы диагностики, основанные на 

исследовании слезной жидкости, несмотря 

на эффективность, не нашли в настоящее 

время широкого клинического применения в 

связи с недоступностью диагностических 

реактивов и сложностью их проведения. В 

связи с этим проблема поиска новых, особенно 

скрининговых методов диагностики 

ранних стадий ДР является актуальной. Одним 

из перспективных в этой области может 

быть направление, связанное с повышением 

информативности и максимальной объективизации 

результатов исследования сосудов 

глазного дна. 

Визуальное оценивание сосудистых 

изменений носит субъективный характер и 

позволяет дать только качественные оценки. 

Представленный нами метод цифрового 

компьютерного анализа изображений глазного 

дна является объективным и даёт возможность 

количественного анализа различных 

сосудистых изменений. Изменение диаметра 

сосудов является важной составной 

частью ранней диагностики и контроля за 

эффективностью лечения заболеваний сетчатки 

[6,7,8]. Однако на практике количественная 

оценка состояния сосудов сетчатки 

встречает ряд трудностей: необходимость 

получения цифровых изображений высокого 

разрешения и ошибки в измерении диаметров 

сосудов. Вопрос о точности расчета диаметра 

в силу проблемы влияния дискретизации 

изображения на процесс измерения является 

очень актуальным, т.к. оцениванию подвергаются 

элементы изображения достаточно 

малого размера [17]. В работе [9] нами представлено 

решение проблемы повышения точности 

измерения диаметра сосудов на основе 

построения различных параметрических моделей 

аппроксимации сосуда. 

1. Математические модели кровеносного 

русла глазного дна 

Рис. 2. Фундус-камера 

Изображения глазного дна характеризуются 

наличием древовидных структур – 

системы кровеносных сосудов, определяемых 

такими понятиями, как узлы и ветви. 

Ветвью называется элемент древовидной 

структуры, который характеризуется геометрическим 

местом срединных точек, распределением 

диаметра и угла вдоль нее. Узел 

222


структуры - это точка разветвления или пересечения 

ветвей. При анализе изображений 

древовидных структур основной является 

задача выделения центров ветвей [10] и определение 

направлений в каждой точке ветви 

[9]. Геометрические характеристики толщины 

и направления являются диагностическими 

параметрами трассы, поскольку на их 

основе производится формирование диагностических 

признаков сосудов. Данные параметры 

являются локальными характеристиками, 

рассчитываемыми непосредственно по 

изображению древовидной структуры в процессе 

трассировки ветви. Опишем модель 

изображения древовидного объекта в несколько 

этапов. 

Модель скелета древовидного объекта. 

Линии центров сосудов образуют скелет, который 

можно представить в виде направленного 

графа (рис. 3а). Вершинам графа поставлены 

в соответствие начальная точка (a), 

точки ветвления (b) и конечные точки (с). 

а) б) 

Рис. 3. Модель изображения древовидного объекта: а) модель скелета древовидного объекта; 

б) модель ветви древовидного объекта 

Ребрам поставлены в соответствие ветви 

– участки сосудов, которые соединяют 

вершины. Каждая вершина на плоскости характеризуется 

координатами ( x , y ) . Каждая 

i 

i 

ветвь от точки ( x , y ) до точки ( x , y ) описывается 

параметрическим уравнением кривой: 

x = x( t), y = y( t), 0 ≤ t ≤ Lv 

, x( t ) , y( t ) – 

функции с достаточной степенью гладкости, 

описывающие линию центров, которую называем 

трассой; t – расстояние от начала 

трассы, измеренное по трассе; L 

v 

– длина 

трассы. Будем называть узлом часть сосуда, 

в которой происходит ветвление. Узел (b) 

характеризуется углами ветвления ϕ 

i 

– направления 

ветвления трассы ( i = 1,2,.... номер 

направления). Начальную точку (a) будем 

называть корнем сосуда. В общем случае 

сегменты могут пересекаться на проекциях, 

образуя точки виртуального пересечения (d) 

или виртуального самопересечения (e). 

Модель ветви древовидного объекта. 

Ветвь характеризуется в каждой точке толщиной 

и направлением. Для учета толщины 

сосуда введем понятие радиуса сосуда. Радиус 

сосуда задается функцией r( t ) , которая 

i 

i 

j 

j 

определена для каждой ветви (рис. 2б). Границы 

сосуда в пределах ветви можно описать 

уравнениями: 

b 

⎧ ⎪ x1,2 

( t) = x( t) ± r( t)sin ϕ( t), 

⎨ b 

⎪⎩ y1,2 

( t) = y( t) m r( t)cos ϕ( t), 

y′ 

( t) 

tan ϕ ( t) 

= , 0 ≤ t ≤ L 

x ′ 

v 

. 

( t) 

Данные уравнения задают границы сосуда 

и формируют область S – множество 

точек плоскости, принадлежащих сосуду. 

Непосредственно по изображению сосудов в 

процессе трассировки ветви рассчитываются 

основные характеристики: D( t) = 2 r( t) 

– 

значение толщины сосуда в данной точке и 

ϕ ( t) 

– угол наклона касательной к центральной 

линии трассы в текущей точке, 

x( t), y( t) 

будем называть направлением 

( ) 

трассы сосуда в точке. Для предотвращения 

эффекта самопересечения границ сосуда необходимо 

ввести дополнительное условие на 

радиус кривизны центральной линии Rk 

( t) 

в 

точке 

223


r( t) < R ( t) 

, 

R ( t) 

= 

k 

k 

( x′ ( t) ) + ( y′ 

( t) 

) 

3 2 

2 2 

⎡ 

⎤ 

⎣ 

⎦ 

x′ ( t) y′′ ( t) − y′ ( t) x′′ 

( t) 

В случае, когда для параметра t существует 

несколько направлений ϕ , то в данной 

точке трассы ( x( t), y( t) 

) фиксируется 

ветвление. На основе толщины и направления 

производится формирование глобальных характеристик 

– диагностических признаков, поэтому 

эти характеристики называются локальными 

диагностическими параметрами. 

. 

i 

Модель профиля яркости изображения 

ветви древовидного объекта. Экспериментальные 

исследования показали, что функция 

яркости сосудов обладает определенными 

свойствами, которые необходимо учесть 

в разрабатываемой модели (рис. 3). Рассмотрим 

более подробно модели представления 

профиля изображения древовидного 

объекта, которые в дальнейшем используются 

в методах оценивания диагностических 

признаков ветвей древовидных объектов. 

Рис. 4. Яркостные профили изображений древовидных объектов 

224


Модель 1. Функция Rect: 

⎛ t -t 

, 2; 

c ⎞ ⎧⎪ 

A t − tc 

≤ D 

f ( n) = ARect 

⎜ ⎟ = ⎨ 

⎝ D ⎠ ⎪⎩ 0, t − tc 

> D 2. 

Модель 2. Функция Гаусса: 

⎛ ( t − tc) 

f ( t) = Aexp⎜ 

− 

2 

⎝ D 

2 

⎞ 

⎟ . 

⎠ 

Модель 3. Дробно-рациональная функция 

(ДРФ): 

⎧ A 

2 A 

2 

D , D ≥ 0 , 

2 2 2 2 

⎪( t − tc) + D ( t − tc) 

+ D 

f ( t) 

= ⎨ 

⎪ A 

2 

0, D < 0 . 

2 2 

⎪⎩ 

( t − tc) 

+ D 

Параметрами моделей являются значение 

толщины D , t 

c 

– координата центра 

скачка яркости; A – яркость точек, принадлежащих 

сосуду. На рис. 4 показаны графики 

функций различных моделей профилей, 

приведенные к одному значению параметра 

толщины. 

Предложенная модель изображения сосудов 

позволяет сформировать набор диагностических 

признаков, включающий в себя такие 

признаки, как: средний диаметр ветви, 

прямолинейность трассы, амплитуда колебаний 

толщины ветви, чёткообразность ветви, 

частота колебаний толщины ветви, извилистость 

толщины ветви, частота колебаний 

трассы, амплитуда колебаний трассы, извилистость 

трассы [9, 11, 12, 13]. 

2. Методы оценивания толщины сосудов 

Разработано несколько методов оценивания 

параметров толщины сосудов по их 

изображениям. К ним относятся: методы непосредственного 

и косвенного измерения 

параметров [9, 13, 14]; методы, основанные 

на моделировании; методы, основанные на 

применении искусственного интеллекта и 

нейронных сетей [14]; комбинированные методы 

[12]. Здесь представлены аппроксимационные 

методы оценивания параметров. В 

основе аппроксимационных методов оценивания 

лежит идея параметрической аппроксимации 

яркостного профиля, выделенного 

на изображении фрагмента исследуемого сосуда. 

Для определения параметра толщины 

D объекта предлагается три различных модели 

яркостного профиля, описанных выше. 

Непосредственная аппроксимация 

по методу наименьших квадратов 

В качестве целевой используем функцию 

T 

0 

( ) 2 

J ( D) = ∫ f ) ( t, D) − f ( t) → min , 

) 

где f ( t, D) 

– модельная функция профиля 

яркости; f ( t ) – исходный профиль яркости, 

T – длина отрезка анализа функции яркости. 

Аппроксимации подвергается срез функции 

яркости изображения, взятый перпендикулярно 

направлению сосуда. Недостаток этого 

подхода состоит в значительной вычислительной 

сложности и необходимости предварительного 

определения точного направления 

сосуда. Достоинство – в высокой помехоустойчивости 

и хорошей точности при 

правильном подборе модели аппроксимации. 

Прямоугольная аппроксимация 

Представим срез функции яркости в 

виде прямоугольного сигнала: 

) 

⎧⎪ 

Imax 

, t − tc 

≤ D / 2; 

f ( t, tc, Imin, Imax 

, D) 

= ⎨ ⎪ ⎩Imin 

, èí à÷å, 

– яр- 

где t c 

– координата центра сосуда; 

кость сосуда; 

D 

I 

max 

c 

min 

max 

I 

min 

– яркость фона, D – толщина 

сосуда. Для оценивания параметров 

модели t ) , I ) , I ) , D ) воспользуемся методом 

моментов, приравняв теоретические 

обобщенные моменты модельной функции к 

эмпирическим: 

T 

T 

) 

k 

k 

t f t d t = t f ( t, t , I , I , D)dt 

, 

∫ 

( ) c min max 

∫ 

0 0 

k = 0,1,2,3 . 

Аппроксимация дробно-рациональной 

функцией 

Для оценивания параметров модели 2 

также применяем метод моментов: 

T / 2 T / 2 2 

1 2 

f ( t) 

dt = dt 

= arctg 

2 2 

+ 

−T 

/ 2 −T 

/ 2 

2 

D D T 

T t D T D 

∫ ∫ . 

225


Для решения данного уравнения относительно 

D использовался метод последовательного 

приближения Ньютона. Особенностью 

ступенчато-многочленной модели является 

то, что многочлен аппроксимирует 

область самого сосуда, а константы – фоновую 

область. 

Аппроксимация ступенчато-многочленной 

моделью. Парабола четвёртой степени 

Аппроксимирующая функция и условие 

непрерывности: 

⎧⎪ 

P, x ≥ A; 

y = ⎨ 

4 2 

⎪⎩ ax + bx + c, x ≤ A, 

ax 4 2 

+ bx + c = P 

x=± 

A 

. 

В силу симметрии функция чётная, 

вершина кривой лежит в точке (0, c ) . Точка 

минимума лежит в точке ( x0, y 

0) 

, координаты 

которой зависят от числа экстремумов 

кривой (наличия ямки). А именно, если нет 

ямки ( −b 

2a 

≤ 0 ), то x0 = 0, y0 

= c ; если наоборот 

( − b 2a 

> 0 ), то 

2 

x0 = ± − b 2 a, y0 

= c − b 4a 

. Здесь мы предположили, 

что a > 0 – ветви направлены 

вверх. Оценка параметра толщины равна величине 

D 

) = 2x 

) ) , где x – наибольший (по модулю) 

корень уравнения 

4 2 2 

ax + bx + c = y + ( ) 

0 3 

P − y . 0 

Спектральные методы 

В основе этой группы методов лежит 

дискретное преобразование Фурье. Задача 

параметрической аппроксимации спектра 

профиля заключается в минимизации целевой 

функции: 

2 

2 

( ( ) ) 

N −1 2 

S( D) = ∑ F m, D − F% 

( m) → min, 

m= 

0 

N /2 

2 

где F % π 

( m) = ∑ f % ( n)exp( −i nm) 

n=− 

N /2 

N 

– дискретный 

спектр исходного профиля яркости. 

Модель функции отсчётов 

Эта модель представляет собой спектральный 

аналог модели прямоугольной 

D 

функции яркости. Дискретный спектр прямоугольной 

последовательности: 

Sync( m, D) = F( m, D) 

= 

N /2 

⎛ n ⎞ ⎛ 2π 

⎞ 

= ∑ Rect ⎜ ⎟exp⎜i 

nm⎟ 

= 

n=−N 

/2 ⎝ D ⎠ ⎝ N ⎠ 

⎛ πm 

⎞ 

sin ⎜ ( 1+ 

D) 

⎟ 

N 

= 

⎝ ⎠ 

. 

πm 

sin 

N 

Высокочастотные компоненты спектра 

отвечают за шумовые составляющие сигналы, 

поэтому будем проводить аппроксимацию 

только главного лепестка спектра, ширина 

которого обратно пропорциональна 

ширине сосуда. Этот факт позволяет нам упростить 

процедуру оценивания толщины до 

поиска первого локального минимума спектра 

исходного профиля. Для ускорения работы 

метода вычисления проводятся в два этапа. 

На первом этапе оценка принимается 

равной оценке, полученной применением 

модели прямоугольного профиля яркости, 

затем уточняем результат, проводя поиск локального 

минимума спектра исходного профиля. 

Для найденного таким образом значения 

частоты Ω вычисляем оценку толщины: 

D = 2 π Ω. 

Такой подход позволяет сократить 

время выполнения метода в среднем на 30%. 

На рис. 5 приведены результаты аппроксимации 

одного и того же профиля или 

его спектра рассмотренными выше моделями 

(рис. 6а-в). Данные методы оценивания толщины 

были исследованы с использованием 

имитационного моделирования тестовых 

изображений, для которых параметры были 

априорно известны. При этом вид тестовых 

изображений максимально соответствовал 

реальным изображениям. В качестве тестового 

объекта использовались прямолинейные 

и криволинейные участки ветвей древовидных 

объектов. Результаты оценивания 

толщины различными методами приведены 

на рис. 5. Достоинством описанных методов 

является их высокая точность и помехоустойчивость. 

Недостатком является необходимость 

указания профиля сечения, а также 

большая вычислительная сложность. 

226


Рис. 5. Экспериментальные результаты по оцениванию толщины сосудов 

3. Метод локального веерного 

преобразования 

Предлагаемый метод позволяет детектировать 

направления ветвей в произвольных 

точках на изображениях сетчатых 

структур и является устойчивым к помехам в 

виде пятен и близко расположенных ветвей. 

В основу метода положено лучевое преобразование 

[15, 16], которое модифицируется 

так, чтобы хорошо работать в местах разветвлений 

и при наличии помех. Преобразование 

Радона и лучевое преобразование являются 

стандартным инструментом анализа 

изображений, который позволяет распознавать 

глобальные прямые линии на изображениях. 

Он является частным случаем преобразования 

Хоу, которое позволяет выделять на 

изображениях различные кривые, которые 

можно параметризовать. 

Изображения сетчатых структур характеризуются 

тем, что их ветви, как правило, 

могут изгибаться. При этом на изображении 

нет глобальных прямых линий или иных параметрических 

кривых, но для каждой точки 

ветви существует окрестность, в которой эта 

ветвь может быть аппроксимирована прямой. 

Кроме этого, важными элементами сетчатых 

структур являются точки разветвления, 

пересечения и окончания ветвей. В связи 

с этим предлагается модифицировать 

классическое лучевое преобразование, чтобы 

учитывать указанные особенности. 

Локальное веерное преобразование, которое 

представляет собой интеграл функции 

f по отрезку длиной r с началом в точке 

2 

x ∈ R и направлением θ: 

r 

( θ ) = ( + θ + θ) 

F x, y, , r ∫ f x t cos , y t sin dt 

. 

0 

Если зафиксировать точку x,y и радиус 

локальной области r, то в результате 

преобразования получится функция от од- 

F x′ , y′ , θ , r′ 

– радиаль- 

ной переменной θ: ( ) 

ная развертка изображения. Радиальная 

развертка имеет локальные минимумы для 

227


тех направлений, которые соответствуют 

ветвям (рис. 6). 

Алгоритм определения направлений 

ветвей. Для того, чтобы определить направление 

сосуда или направление ветвления, 

выполняется веерное преобразование в зафиксированной 

точке во всех направлениях 

и для различных значений радиуса ограничивающей 

окрестности. Изображение графиков 

представляет собой развертку ЛВП, на 

которой линиями отмечены найденные направления 

ветвления (рис. 7). 

Рис. 6. Оценивание толщины сосудов: 

а) модель прямоугольного профиля; б) модель дробно-рациональной функции; 

в) модель параболы; г) модель функции отсчётов 

228


а) б) 

Рис. 7. Идентификация точек сосудов с использованием ЛВП: 

а) фрагменты изображения глазного дна, б) радиальная развёртка 

Известно, что на изображениях глазного 

дна точки сосуда имеют меньшую яркость, 

чем точки фона. Поэтому в тех направлениях, 

где сосуд продолжается, значение 

преобразования меньше, чем в тех точках, 

где присутствует фон. 

Для того, чтобы выделить направление 

ветвления на наборе разверток ЛВП с максимальным 

значением радиуса ограничивающей 

окрестности, выделяются четыре 

явно выраженных минимума. Для исключения 

ложных направлений прослеживаются 

минимумы на наборах ЛВП с меньшим радиусом. 

Если минимумы при этом исчезают, 

значит направление ложное и его можно отбросить. 

Локальное веерное преобразование позволяет 

повысить точность построения трассы 

кровеносных сосудов и более надёжно 

определяет их узлы разветвления. 


Нами рассмотрены методы оценивания 

диагностических параметров кровеносного 

русла глазного дна на основе цифрового анализа 

изображений, позволяющие повысить 

точность и информативность диагностики 

сосудистой патологии. Внедрение разработанных 

методов в медицинскую практику 

позволяет автоматизировать диагностику ряда 

заболеваний, осуществить мониторинг 

патологических изменений на основе объективных 

количественных данных. 

Разработанная информационная технология 

предназначена для количественной 

оценки прижизненных изменений глазного 

дна и области диска зрительного нерва (ДЗН) 

в общетерапевтической и офтальмологической 

практике для ранней диагностики и 

оценки эффективности лечения сосудистых 

заболеваний. Технология включает в себя 

оригинальные методы оценки: геометрических 

и морфологических параметров микрососудов 

сетчатки (рис. 8), геометрических 

параметров сосудов на краю ДЗН, цветояркостных 

и цветотекстурных параметров области 

ДЗН. Информационная технология положена 

в основу программного комплекса 

(рис. 9, 10) и включает в себя: программные 

модули расчета геометрических и диагностических 

признаков сосудов; программы 

для исследования динамики патологических 

участков на последовательных изображениях 

глазного дна. 

229


Рис. 8. Объекты глазного дна 

Рис. 9. Внешний вид системы измерения 

геометрических параметров сосудов и ДЗН 

230


Благодарность 

Работа выполнена при поддержке российско-американской 

программы «Фундаментальные 

исследования и высшее образование» 

(BRHE) и программы Президиума 

РАН «Фундаментальные науки – медицине», 

гранта РФФИ № 06-07-08006-офи, гранта 

РФФИ № 07-08-96611. 


Рис. 10. Внешний вид системы измерения 

геометрических параметров сосудов и ДЗН 

1. Jomier, J. Quantification of Retinopathy 

of Prematurity via Vessel Segmentation 

[текст] / J. Jomier, D.K. Wallace, S.R. Aylward 

// Proceedings of MICCAI, 2003. – LNCS 2879 

– P. 620-626. 

2. Osareh, A. Classification and Localisation 

of Diabetic-Related Eye Disease [текст] 

/ A. Osareh [and other] // ECCV, 2002. – LNCS 

2353 – P.502-516. 

3. Архипова, М.М. Изучение роли оксида 

азота в патогенезе сосудистых заболеваний 

глаз [текст] / М.М. Архипова: автореф. 

дис. … канд. мед. наук. – М., 2000. – С. 24. 

4. Лебедева, Е.Н. Определение гликолизированного 

гемоглобина – тест для диагностики 

диабетической ретинопатии [текст] / 

Е.Н. Лебедева, Л.М. Колоколова, С.К. Павлова 

// Диабет глаза (клиника, профилактика, 

витреоретинальная и лазерная хирургия). 

Материалы научно-практич. конференции 

офтальмологов, посвященной 10-летию 

Оренбургского филиала, Оренбург: 1999. – 

С.16-17. 

5. Очирова, Э.А. Микроциркуляторное 

русло глазного яблока в ранней диагностике 

и прогнозе диабетического поражения 

органа зрения у детей и подростков [текст] / 

Э.А. Очирова: автореф. дис. … канд. мед. 

наук. – М., 2000. – 27с. 

6. Huemer, K.H. Effects of dopamine on 

human retinal vessels diametr and its modulation 

during flicker stimulation [текст] / 

K.H. Huemer [and other] // Am J. Phisiol Heart 

Circ. Physiol., 2003. – Vol. 284. – P. 358-363. 

7. Pache, M. Reproducibility of measurements 

with the retinal vessel analyzer under 

optimal conditions [текст] / M. Pache, E. Nagel, 

J. Flammer // Klin. Monatsbl. Augenheikd. – 

2002. – Vol. 219. – P. 523-527. 

231


References 




// Proceedings of MICCAI, 2003. – LNCS 2879 

– P. 620-626. 



/ A. Osareh [and other] // ECCV. – 2002. – 

LNCS 2353 – P. 502-516. 

3. Arkhipova, M.M. Studying the role of 

nitrogen oxide in pathogenesis of vascular diseases 

of eyes / M.M. Arkhipova // Abstract of the 

dissertation for a degree of Candidate in Medicine. 

– Moscow, 2000. – P. 24. – [in Russian]. 

4. Lebedeva, E.N. Detection of glycated 

hemoglobin – a diagnostic test for diabetic 

retinopathy / E.N. Lebedeva, L.M. Kolokolova, 

S.K. Pavlova // Eye diabetes (clinical picture, 

prevention, vitreoretinalis and laser surgery). 

8. Vilser, W. Retinal Analysis – new possibilities 

[текст] / W. Vilser, E. Nagel, I. Lanzl 

// Biomed. Techn. – 2002. – Vol.47. – P. 682- 

685. 

9. Branchevsky, S.L. Methods for estimating 

geometric parameters of retinal vessels 

using diagnostic images of fundus [текст] / 

S.L. Branchevsky [and other] // Proceedings 

SPIE. – Vol.3348. – P. 316-325. 

10. Корепанов, А.О. Метод выделения 

центральных линий кровеносных сосудов на 

диагностических изображениях [текст] / 

А.О. Корепанов, П.М. Чикулаев, Н.Ю. Ильясова 

// Компьютерная оптика. – 2006. – №29. 

– C. 146-151. 

11. Ilyasova, N.Yu. Measuring Biomechanical 

Characteristics of Blood Vessels for 

Early Diagnostics of Vascular Retinal Pathologies, 

Medical Image Computing and Computer 

Assisted Intervention [текст] / N.Yu. Ilyasova 

[and other] // MICCAI 2004, Proceedings of 7th 

International, Conference Saint-Malo, France, 

September, 2004. – Part II. – P. 251-258. 

12. Ильясова, Н.Ю. Измерение биомеханических 

характеристик сосудов для ранней 

диагностики сосудистой патологии глазного 

дна [текст] / Н.Ю. Ильясова, А.В. Куприянов, 

М.А. Ананьин // Компьютерная оптика. 

– 2005. – №27. – C. 165-170. 

13. Бранчевский, С.Л. Система цифрового 

анализа для диагностики сосудистой 

патологии глазного дна [текст] / С.Л. Бранчевский 

[и др.] // Вестник офтальмологии. – 

2003. – №5. – С.37-40. 

14. Ильясова, Н.Ю. Применение искусственных 

нейронных сетей для оценивания 

диагностических параметров на биомедицинских 

изображениях [текст] / Н.Ю. Ильясова, 

Д.Е. Липка, А.В. Куприянов // Компьютерная 

оптика. – 2003. – N 25. – C. 151-154. 

15. Хермен, Г. Восстановление изображений 

по проекциям: Основы реконструктивной 

томографии [текст] / Г.Хермен, 

пер. с англ. – М.: Мир, 1983. – 352 с. 

16. Наттерер Ф. Математические аспекты 

компьютерной томографии [текст] / 

Ф. Наттерер, пер. с англ. – М.: Мир, 1990. – 

288 с. 

17. Makita, Shuichi Quantitative retinalblood 

flow measurement with three-dimensional 

vessel geometry determination using ultrahighresolution 

Doppler optical coherence angiography 

[текст] / Shuichi Makita, Tapio Fabritius, 

and Yoshiaki Yasuno // Optics letters. – 2008. – 

Vol.33. – № 8. 

Proceedings of the seminar of Ophthalmologists 

to mark 10 th anniversary of Orenburg Branch, 

Orenburg, 1999. – P. 16 – 17. – [in Russian]. 

5. Ochirova, E.A. Microvascular system 

of eye-ball in early diagnostics and prognostication 

of diabetic eye impairment in children 

and adolescents: Abstract of the dissertation 

for a degree of Doctor in Medicine. – M.: 

2000. – 27 p. – [in Russian]. 

6. Huemer, K.H. Effects of dopamine 

on human retinal vessels diametr and its modulation 

during flicker stimulation [текст] / 

K.H. Huemer [and other] // Am J. Phisiol Heart 

Circ. Physiol., 2003. – Vol. 284. – P. 358-363. 

7. Pache, M. Reproducibility of measurements 

with the retinal vessel analyzer under 

optimal conditions [текст] / M. Pache, E. Nagel, 

J. Flammer // Klin. Monatsbl. Augenheikd. – 

2002. – Vol. 219. – P. 523-527. 

232


8. Vilser, W. Retinal Analysis – new possibilities 

[текст] / W. Vilser, E. Nagel, I. Lanzl // 

Biomed. Techn. – 2002. – Vol.47. – P. 682-685. 

9. Branchevsky, S.L. Methods for estimating 

geometric parameters of retinal vessels 

using diagnostic images of fundus [текст] / 

S.L. Branchevsky [and other] // Proceedings 

SPIE. – Vol.3348. – P. 316-325. 

10. Korepanov, A.O. A technique for 

Extracting blood-vessel central lines in diagnostic 

images. / A.O. Korepanov, P.M. Chikulayev, 

N.Yu. Ilyasova // Computer Optics. – 2006. – 

No. 29. – P. 146 – 151. – [in Russian]. 

11. Ilyasova, N.Yu. Measuring Biomechanical 

Characteristics of Blood Vessels for 

Early Diagnostics of Vascular Retinal Pathologies, 

Medical Image Computing and Computer 

Assisted Intervention [текст] / N.Yu. Ilyasova 

[and other] // MICCAI 2004, Proceedings of 7th 

International, Conference Saint-Malo, France, 

September, 2004. – Part II. – P. 251-258. 

12. Ilyasova, N.Yu. Measurements of 

biomechanical vessel characteristics for early 

diagnostics of vascular fundus pathology / 

N.Yu. Ilyasova, A.V. Kupriyanov, M.A. Anan’in 

// Computer Optics. – 2005. – No. 27. – 

P. 165-170. – [in Russian]. 

13. Branchevsky, S.L. A digital analysis 

system for diagnostic of vascular fundus pathology. 

/ S.L. Branchevsky [and other] // Herald of 

Ophthalmology. – 2003. – No. 5. – P.37-40. – 

[in Russian]. 

14. Ilyasova, N.Yu. Use of artificial neural 

networks for estimating diagnostic parameters 

in biomedical images / N.Yu. Ilyasova, 

D.Ye. Lipka, A.V. Kupriyanov, // Computer Optics. 

– 2003. – N 25. – P.151-154. – [in Russian]. 

15. Hairman, G. Projection-based Image 

Retrieval: Principles of Reconstructive Tomography 

/ G. Hairman, translated from English. – 

Moscow: “Mir” (World), 1983. – 352 p. – [in 

Russian]. 

16. Haterer, F. Mathematical Aspects of 

Computer Tomography: translated from English 

/ F. Haterer – Moscow: “Mir” (World), 1990. – 

288 pages. 

17. Makita, Shuichi Quantitative retinalblood 

flow measurement with three-dimensional 

vessel geometry determination using ultrahighresolution 

Doppler optical coherence angiography 

/ Shuichi Makita, Tapio Fabritius, and Yoshiaki 

Yasuno // Optics letters. – 2008. – 

Vol.33. – № 8. 

DEVELOPMENT OF THE INFORMATION TECHNOLOGY FOR ESTIMATION 

OF FUNDUS IMAGE GEOMETRIC PARAMETERS 

© 2008 A.V. Kupriyanov, N.Yu. Ilyasova 

Image Processing Systems Institute of the RAS, Samara 

This work deals with analysis of a class of images containing branches of tree-like structures. We propose a 

technology for estimating parameters of such structures, which is exemplified by the eye fundus blood vessels. We offer 

models of tree-like object images, a branch model, and a model of image brightness profile that enable a diagnostic feature 

set to be generated. Analysis of methods for vessel thickness estimation is conducted. We give a detailed description 

of the approximation methods for parameter estimation that rely upon the idea of the parametric approximation of 

brightness profile of an isolated image fragment of the vessel under study. Three different models of brightness profile 

are proposed for determining the vessel thickness parameter. A local fan transform method is described that enables one 

to identify the branch directions at arbitrary points of the fundus image. Experimental studies on test and natural images 

are discussed. 

Fundus, vessel thickness, approximation, brightness profile, stepwise-parabolic model 


Куприянов Александр Викторович, Учреждение Российской академии наук Институт 

систем обработки изображений РАН (ИСОИ РАН), Самара, Россия. Кандидат технических 

наук. Старший научный сотрудник лаборатории лазерных измерений ИСОИ РАН. 

Опубликовано свыше 50 работ в отечественных и зарубежных изданиях. E-mail: 

233


Akupr@smr.ru. Область научных интересов: обработка биомедицинских изображений, текстурный 

анализ, локальные и спектральные преобразования, биометрическая идентификация. 

Ильясова Наталья Юрьевна, Учреждение Российской академии наук Институт систем 

обработки изображений РАН (ИСОИ РАН), Самара, Россия. Кандидат технических наук, 

доцент. Старший научный сотрудник лаборатории лазерных измерений ИСОИ РАН. Опубликовано 

свыше 70 работ в отечественных и зарубежных изданиях, в том числе одна монография 

(в соавторстве). E-mail: Ilyasova@smr.ru. Область научных интересов: обработка изображений, 

распознавание образов, обнаружение объектов, разработка программноаппаратных 

комплексов биомедицинского назначения. 

Kuprianov Alexandr Viktorovich, Establishment of the Russian Academy of Sciences Institute 

of systems of processing of images of the Russian Academy of Sciences (IPSI RAS), Samara, 

Russia. A Cand. Tech. Sci. The senior scientific employee of laboratory of laser measurements of 

IPSI RAS. It is published over 50 works in domestic and foreign editions. E-mail: Akupr@smr.ru. 

Area of research: biomedical image processing, texture analysis, local and spectral transforms, biometrical 

identification. 

Ilyasova Natalya Yurjevna, Establishment of the Russian Academy of Sciences Institute of 

systems of processing of images of the Russian Academy of Sciences (IPSI RAS), Samara, Russia. A 

Cand. Tech. Sci., the senior lecturer. The senior scientific employee of laboratory of laser measurements 

of IPSI RAS. It is published over 70 works in domestic and foreign editions, including one 

monography (in the co-authorship). E-mail: Ilyasova@smr.ru. Area of research: image processing, 

pattern recognition, object detection, development of biomedical hardware-software complexes. 

234


УДК 004.9 + 615.84 

ОБНАРУЖЕНИЕ ГРАНИЦ РАДУЖНОЙ ОБОЛОЧКИ 

С ИСПОЛЬЗОВАНИЕМ ПРЕОБРАЗОВАНИЯ ХОУ 

© 2008 А.О. Корепанов 

Учреждение Российской академии наук Институт систем обработки изображений РАН 

Работа посвящена разработке методов локализации и оценке параметров радужной оболочки на биометрических 

изображениях глаза. В работе предложен метод аппроксимации границ кривыми второго порядка, 

основанный на модификации дискретного преобразования Хоу. Разработан и реализован алгоритм локализации 

радужной оболочки на иридодиагностических изображениях. Приведены результаты исследований разработанного 

алгоритма оценивания параметров радужной оболочки на натурных диагностических изображениях. 

Интегральная геометрия, дискретное преобразование Хоу, обнаружение объектов, радужная оболочка, 

стохастический поиск 


Одним из наиболее перспективных 

приложений задачи локализации объектов на 

биометрических изображениях является медицинская 

диагностика. Задача локализации 

возникает на этапе распознавания объектов, 

при этом результатом решения является геометрическое 

описание исследуемого объекта. 

На основе геометрических характеристик 

производится формирование диагностических 

признаков, являющихся основой для 

компьютерных систем автоматизированной 

диагностики. 

Существует множество подходов к локализации 

объектов на биометрических изображениях. 

Уилдс в работе [1] предложил 

двухэтапный алгоритм, оптимизировав метод 

последовательных измерений, особенностью 

которого является наличие априорной 

информации о положении объекта. Одним из 

наиболее популярных подходов к локализации 

объектов является метод активных контуров 

[2]. Тиссэ в работе [3] использовал 

подход, основанный на композиции оператора 

Домана и преобразования Хоу. В работе 

Хуанга и др. [4] локализация зрачка определяется 

с помощью перпендикуляров линий, 

проходящих через каждые две точки множества 

границы РО. 

Отличительной особенностью разрабатываемого 

подхода является комбинирование 

различных подходов к локализации объектов: 

подхода, основанного на интегральной 

геометрии в сочетании с использованием 

стохастического поиска. Все это позволяет 

добиться глобального поиска объекта на 

изображении без априорной информации о 

его местоположении, а также заданной точности 

локализации границ объекта. 

x ∈ 

D 0 

Описание метода 

Рассмотрим функцию яркости f ( x ) , 

⊂ 

2 

R . Положим, что изображение содержит 

единственный объект, цветояркостные 

характеристики которого отличны от 

характеристик фона изображения. Пусть 

объект на изображении занимает односвязанную 

область D , имеющую единственной 

границей замкнутую параметрическую кривую 

C0 ( a0, 

x ) . 

Чтобы воспользоваться одной из модификаций 

метода поиска объектов на основе 

преобразования Хоу, необходимо определить 

вероятность расположения произволь- 

C a, 

x на изображении. Это не- 

ной кривой ( ) 

обходимо для заполнения матрицы аккумулятора 

в процессе поиска кривой. В нашем 

случае, чтобы избавиться от проблем с нормировкой 

вероятностных величин, мы введем 

меру близости произвольной кривой 

C ( a, 

x) 

к истинной кривой C0 ( a0, 

x ) . 

При выборе меры близости кривых необходимо 

учитывать априорную информацию, 

которой мы обладаем относительно соотношения 

цветояркостных характеристик 

235


( ) 

объекта и фона. Дело в том, что при поиске 

заданной кривой возможно обнаружение 

«ложных» максимумов в фазовом пространстве 

вследствие того, что зашумленность 

изображения приводит к появлению различных 

артефактов, которые могут быть ошибочно 

приняты за объект. Кроме того, инверсия 

цветов изображения не приводит к изменению 

положения контуров, следовательно, 

информации о контурах еще не достаточно 

для поиска «ориентированных» областей. По 

этим причинам при определении указанной 

меры воспользуемся градиентом функции 

f x . Использование градиента также позволит 

нам контролировать знак искомой 

ориентированной области. 

В качестве меры близости определим 

следующую величину: 

s 

2 

µ ( C0, C ) = H ( a) = nC 

( ) ⋅∇f ( ) d 

l 

∫ x x x , (1) 

C C 

где nC 

( x) 

- внешняя единичная нормаль к 

кривой C в точке x , l 

C 

– длина кривой C , 

⎛ ∂f 

∂f 

⎞ 

∇ f = ⎜ , ⎟ - градиент функции яркости, 

⎝ ∂x1 ∂x2 

⎠ 

s - знак искомой области ( s = 1, если яркость 

искомого объекта выше яркости фона, 

и s = −1 

в противном случае). 

Формула (1), по сути, представляет собой 

преобразование Хоу, которое выполняет 

2 n 

n 

отображение: H : R → F , где F - n - 

мерное фазовое пространство, n - размер- 

C a, 

x . 

ность вектора параметров a кривой ( ) 

Выбрав меру схожести кривых (1) получим 

функцию в F , максимум которой со- 

C a x n 

на 

ответствует положению кривой ( ) 

0 0 , 

исходном изображении f ( x ) : 

( C C ) 

a% = arg max µ , . (2) 

0 0 

C 

Преобразование (1) сложно в вычислительном 

плане, так как для поиска максимума 

функции µ ( C0, 

C ) в фазовом пространстве 

требуется перебор всевозможных кривых 

C заданного вида. Вследствие этого предлагается 

сделать следующие модификации. 

0 0 

Основываясь на априорной информации 

о наличии перепада яркости вблизи границы 

объекта, можно сделать вывод, что не 

имеет смысла осуществлять перебор по всем 

возможным значениям вектора параметров 

a , так как только наиболее яркие точки 

функции ∇f 

с большой долей вероятности 

соответствуют точкам искомой кривой. Поэтому 

из всего набора точек области D 

0 

, 

мощностью D 0 

выбирается некоторая часть 

α наиболее ярких точек. 

Пусть α - доля таких точек (например, 

α = 0,15 ). Тогда новый набор точек (обозначим 

его D′ 

0 

) будет иметь мощность 

D′ = α D . Согласно предположению искомая 

окружность частично или полностью 

лежит в области D′ 

0 

. 

Замечание 1: если кривая C0 

частично 

лежит в области D′ 

0 

, то считаем, что этой 

области принадлежит большая часть точек 

этой кривой. Тогда количество точек кривой, 

принадлежащих области D′ 

0 

, приблизительно 

равно количеству точек C0 

на всем изображении, 

т.е. 

D′ 0 

∩C0 D0 ∩ C0 

. 

Согласно классификации методов в таком 

виде рассматриваемый метод ближе всего 

к классу методов вероятностного преобразования 

Хоу. 

Далее из множества D′ 

0 

извлекается 

набор точек { p1, p2,..., p 

k} 

, где k выбирается 

таким образом, чтобы по данному набору 

точек можно было однозначно провести па- 

C a, 

x заданного 

раметрическую кривую ( ) 

вида. То есть определяется преобразование 

k n 

P : P → F , (3) 

k 

где P - множество всевозможных подмножеств 

точек pi 

∈ D′ 

0 

. 

Выделение из всего множества точек 

изображения подмножества D′ 

0 

согласно (3) 

приводит к образованию некоторого под- 

236


множества D F 

точек в фазовом пространстве, 

которому заведомо принадлежит вектор 

параметров a 0 

(с учетом замечания 1) . 

Нахождение максимума функции 

µ C C в пределах области D соответст- 

F 

( ) 

0 , 

вует нахождению оценки a% 

0 

вектора параметров 

a0 

и соответственно кривой C0 

на 

исходном изображении. Для поиска максимума 

воспользуемся методами стохастической 

геометрии [5]. 

Выбирая случайным образом подмножества 

точек из D′ 

0 

, получим случайный набор 

кривых в пространстве R и, как следст- 

2 

вие, случайный набор точек в D F 

. Следует отметить, 

что случайный выбор точек непосредственно 

в D F 

затруднителен, так как сама область 

заранее не задана и определяется лишь 

на основе области D′ 

0 

и отображения P . 

Введем в рассмотрение случайную величину 

X , равномерно распределенную на P . 

k 

Для каждой реализации X определяются вектор 

параметров кривой a , проходящей через 

"выпавшие" точки (то есть выполняется преобразование 

P ), и находится значение меры 

µ C C по формуле (1). При количестве реа- 

( ) 

0 , 

лизаций n → ∞ выполняется 

( C , C) ( C , C ) 

µ → µ , (4) 

max 0 0 0 

где µ 

max ( ⋅) 

- максимальное значение меры, 

полученное в процессе реализации случайной 

величины X . 

В таком виде метод обладает элементами 

случайного преобразования Хоу. 

Замечание 2: в соответствии с математической 

моделью каждая искомая кривая 

характеризуется знаком и областью поиска, 

поэтому метод не может найти область «обратного» 

знака, даже если она попадает в область 

поиска. Так как в этом случае в формуле 

(1) подынтегральное выражение даст минимальное 

(отрицательное) значение. Это 

является несомненным преимуществом метода, 

так как позволяет контролировать знак 

искомой ориентированной области. 

Метод аппроксимации границ радужной 

оболочки окружностями 

a ( x ) , где ( ) 

1 2 

Рассмотренный метод является универсальным 

с той точки зрения, что допускает 

аппроксимацию границ областей произвольными 

замкнутыми параметрическими кривыми. 

Рассмотрим теперь частный случай, 

важный с прикладной точки зрения – аппроксимацию 

границ областей окружностями. 

Прежде всего, вектор параметров 

= , r x = x , x - координаты центра 

окружности, r - радиус окружности. То 

есть фазовое пространство имеет размерность 

3. Пространство P в этом случае 

k 

представляет собой подмножество всевозможных 

троек точек из D′ 

0 

(через любые три 

точки проходит окружность, причем только 

одна). 

3 3 

Преобразование P : P → F определяется 

из решения системы 

⎧ x − x1 

= r 

⎪ 

⎨ x − x2 

= r , (5) 

⎪ 

⎩ x − x3 

= r 

где x 

1 

, x 

2 

, x3 

- тройка точек в D′ 

0 

, r - радиус 

окружности. 

Тогда преобразование P в явном виде 

запишется: 

x 

1 2 2 

⎡( x1 

x ) 

2d 

⎣ 

2 2 

( x 

3 ) y ⎤ 

1 

x 

12 

, 

= − ⋅δy 

− 

1 2 13 

− − ⋅δ 

x 

1 2 2 

⎡( x1 

x ) 

2d 

⎣ 

2 2 

( x 

2 ) x ⎤ 

1 

x 

13 

, 

= − ⋅δx 

− 

2 3 12 

− − ⋅δ 

r = 

где 

x − x , 

3 

⎦ 

⎦ 

1 1 2 2 1 1 2 2 

( 1 2 )( 1 3 ) ( 1 3 )( 1 2 ) 

( 

2 2 

) 

( 

1 1 

) 

d = x − x x − x − x − x x − x , 

δ y = x − x , 

ij i j 

δ x = x − x . 

ij i j 

(6) 

237


Исследование на натурных изображениях 

Исходные изображения радужки предоставлены 

Институтом медицинских клеточных 

технологий г. Екатеринбурга. Съемка 

изображений производилась фундускамерой 

Carl Zeiss FF 450 plus. Результатом 

работы алгоритма является выделение на 

снимках глаза трех вложенных областей: область 

блика, область зрачка, область радужной 

оболочки и область склеры (рис. 1). 

Рис. 1. Разбиение снимков радужной оболочки на области 

Всего обработано 264 снимка радужной 

оболочки. Так как значения точных параметров 

границ радужки на таких изображениях 

не известны, оценка качества работы 

алгоритма проводится методом экспертной 

оценки. В результате экспертной оценки для 

радужной оболочки 87% результатов (229) получили 

высшую оценку, в 10% случаев (27) 

алгоритм справился хорошо, в остальных случаях 

- удовлетворительно. Результаты локализации 

внешней границы зрачка аналогичны: 

84% (224) – отлично, 8% (21) – хорошо, 5% 

(13) – удовлетворительно и в 2% случаев (6) 

алгоритм не обнаружил границу объекта. 

Исследования показали, что метод работает 

корректно на подавляющем большинстве 

изображений, удовлетворяющих принятой модели. 

Наличие некорректных результатов связано 

с отклонением представленных изображений 

от разработанной модели (например, 

присутствие верхнего или нижнего века на 

снимке, слабая выраженность блика и т.п.). 


В настоящей работе разработаны и апробированы 

методы и алгоритмы аппроксимации 

границ радужной оболочки на диагностических 

изображениях. 

Решение задачи проводится в два этапа: 

выделение контуров изображений с помощью 

вейвлет-анализа и применение модифицированного 

преобразования Хоу для определения 

параметров окружностей, аппроксимирующих 

границы областей. Для повышения качества 

обнаружения объектов использовано 

векторное поле, построение которого производится 

с использованием вейвлет-преобразования. 

Для повышения вычислительной 

эффективности метода используются методы 

стохастической геометрии, заключающиеся в 

усечении области поиска локального максимума 

преобразования Хоу. 

В работе проведены экспериментальные 

исследования предложенных методов и 

алгоритмов на натуральных изображениях, 

которые показали работоспособность предложенных 

методов, а также хорошее визуальное 

качество получаемых результатов. 






РАН «Фундаментальные науки - медицине», 

гранта РФФИ № 07-08-96611. 


1. Wildes, R.P. Iris Recognition: An 

Emerging Biometric Technology [текст] / R.P. 

Wildes // Proceedings of the IEEE. – 1997. – 

Vol. 85. – P.1348-1363, 

2. Arvacheh, Ehsan M. A Study of 

Segmentation and Normalization for Iris Recognition 

Systems, A thesis presented to the 

University of Waterloo in fullment of the thesis 

requirement for the degree of Master of Applied 

Science In Systems Design Engineering [текст]. 

3. Tisse, C. Person Identification Technique 

using Human Iris Recognition [текст] / 

238


C. Tisse [and other] // Proc. of Vision Interface. 

– 2002. – P. 294-299. 

4. Huang, J. Iris Model Based on Local 

Orientation Description [текст] / J. Huang [and 

other] // The First International Conference on 

Machine Learning and Cybernetics. – 2002. – P. 

450-454. 

5. Федотов, Н.Г Методы стохастической 

геометрии в распознавании образов 

[текст] / Н.Г. Федотов– М.: Радио и связь, 

1990. – 144 с. 

References 

1. Wildes, R.P. Iris Recognition: An 

Emerging Biometric Technology / R.P. Wildes 

// Proceedings of the IEEE, 1997. –Vol. 85. – 

P.1348-1363, 

2. Arvacheh, Ehsan M. A Study of 

Segmentation and Normalization for Iris Recognition 

Systems, A thesis presented to the 

University of Waterloo in fullment of the thesis 

requirement for the degree of Master of Applied 

Science In Systems Design Engineering. 

3. Tisse, C. Person Identification Technique 

using Human Iris Recognition / C. Tisse 

[and other] // Proc. of Vision Interface, 2002. – 

P. 294-299. 

4. Huang, J. Iris Model Based on Local 

Orientation Description / J. Huang [and other] // 

The First International Conference on Machine 

Learning and Cybernetics, 2002. – P. 450-454. 

5. Fedotov, N.G. Methods of stochastic 

geometry in pattern recognition / N.G. Fedotov 

– Moscow: “Radio i Svyaz” (Radio and communication), 

1990. – 144 pages. – [in Russian]. 

IRIS BOUNDARY DETECTION USING HOUGH TRANSFORM 

© 2008 A. O. Korepanov 


This work deals with method for localizing and estimating the iris characteristics in biometric eye images. A 

method is proposed for estimating boundaries by the second-order curves, which is based on a discrete Hough transform 

modification. An algorithm for iris localization in the diagnostic iris images is developed and implemented. The results 

of investigation of the iris characteristics estimation algorithm on natural diagnostic images are discussed. 

Integral geometry, discrete Hough transform, object detection, iris, stochastic search 


Корепанов Андрей Олегович, Учреждение Российской академии наук Институт систем 

обработки изображений РАН, Самара, Россия, научный сотрудник лаборатории лазерных 

измерений. Кандидат технических наук. Опубликовано свыше 20 работ в отечественных 

и зарубежных изданиях. Область научных интересов - Распознавание образов, машинное 

обучение, интеллектуальный анализ данных, обработка изображений, текстурный анализ, 

генерация случайных процессов. 

Korepanov, Andrei Olegovich, Image Processing Systems of the RAS, Samara, Russia, researcher 

at Laser measurements laboratory. He holds a Candidate of Technics degree and published 

20+ scientific articles in Russian and international journals. His research interests include pattern 

recognition, machine learning, intelligent data analysis, image processing, textural analysis, random 

process generation. 

239


УДК 004.9 + 615.84 

АНАЛИЗ ИЗОБРАЖЕНИЯ РАДУЖНОЙ ОБОЛОЧКИ ГЛАЗА 

С ИСПОЛЬЗОВАНИЕМ ПРЕОБРАЗОВАНИЯ РАДОНА 

© 2008 А.В. Кузнецов 1,2 , А.В. Куприянов 1,2 , Н.Ю. Ильясова 1,2 

1 Институт систем обработки изображений РАН, 


Работа посвящена исследованию возможностей применения преобразования Радона для анализа цветных 

изображений радужной оболочки глаза. Разработана технология формирования вектора признаков по радоновскому 

образу, построенному в цветовом пространстве HSL. Показано, что предложенные в работе признаки обладают 

хорошей разделимостью для различных классов изображений радужных оболочек, что представляет 

особый интерес при проведении биометрической идентификации. 

Изображение радужной оболочки, преобразование Радона, цветовые пространства, классификация, 

биометрическая идентификация. 


В работе предлагается алгоритм формирования 

признаков и проведения исследования 

эффективности признаков, полученных 

для цветного изображения радужной 

оболочки глаза с использованием преобразования 

Радона, что является актуальным для 

разработки экспертной системы биометрической 

идентификации по параметрам радужной 

оболочки. 

Радужная оболочка имеет очень сложный 

рисунок (рис. 1), он индивидуален у каждого 

человека. Это позволяет даже по не 

очень качественному ее изображению точно 

определить личность человека [1]. В настоящий 

момент существует множество способов 

распознавания радужной оболочки, тем не 

менее, все они не лишены недостатков и 

очень требовательны к условиям получения 

входных изображений [2]. 

Рис.1 Изображение радужной оболочки 

1. Описание технологии обработки 

В качестве алгоритма анализа и идентификации 

радужной оболочки глаза было 

выбрано преобразование Радона [3,4]. Оно 

сопоставляет функции f на плоскости функцию 

ˆf на множестве всех прямых, задаваемую 

интегралами от f вдоль прямых. 

В нашем исследовании на вход подавалось 

изображение глаза человека. Далее ра- 

240


бота велась в соответствии со следующими 

этапами алгоритма: 

1) преобразование изображения радужной 

оболочки глаза в полярную систему 

координат (рис. 2); 

2) переход от цветового пространства 

RGB в HSL; 

3) построение преобразования Радона 

для различных цветовых компонент 

(рис. 3). 

Рис. 2. Полярная развертка изображения радужной оболочки 

Особенностью представленного в данной 

работе алгоритма формирования признаков 

для анализа радужной оболочки является 

то, что он работает как с черно-белым, 

так и с цветным изображением. После первого 

этапа мы получаем изображение радужки 

в полярной системе координат, которое состоит 

из 3 цветовых компонент (красной, зеленой, 

синей). Так как все компоненты получаются 

похожими между собой, интерес 

представляет комплексная оценка цвета, которую 

дает компонент Hue из цветового пространства 

HSL. 

Таким образом, мы получили входные 

изображения для следующего этапа алгоритма, 

результатом которого является преобразование 

Радона (рис. 3а). В связи с тем, 

что преобразование Радона вычисляется через 

быстрое преобразование Фурье, входное 

изображение дополняется до размеров, равным 

степени двойки. 

Последний этап ставит в соответствие 

исходному изображению вектор-признак, 

вычисленный по Радоновскому образу 

(рис. 3б). Для вычисления признаков был использован 

метод, предложенный в [5], согласно 

которому на преобразовании выбираются 

и сегментируются две характеристические 

линии. Результатом работы алгоритма 

для каждого изображения являются 6 

характеристических чисел. 

2. Результаты экспериментальных 

исследований 

На основе полученных результатов было 

проведено исследование разделимости 

признаков для цвета и яркости по результатам 

оценки расстояний между средними значениями 

векторов для одного класса и для 

разных классов. Было показано, что предложенные 

в работе признаки обладают хорошей 

разделимостью для различных классов, 

что представляет особый интерес при проведении 

биометрической идентификации. 

а) 

б) 

Рис. 3. Изображение преобразования Радона: 

цветное (а), полутоновое (б) 

Также были проведены экспериментальные 

исследования качества полученных 

признаков при наличии аддитивного шума и 

изменения размера обрабатываемого изображения 

на точность получаемых приближений 

для заданного признака. Полученные 

результаты показали высокую точность метода, 

особенно при исследовании объектов и 

241


дефектов, имеющих сложную конфигурацию 

и участки с различной структурой и цветом 

волоконНиже представлены результаты исследования 

инвариантности признаков для 

нескольких натурных изображений в зависимости 

от выбора сектора для анализа. 

Рис. 4. Отклонения признаков по секторам для первого изображения радужной оболочки 

Рис. 5. Отклонения признаков по секторам для второго изображения радужной оболочки 

242


Проводятся измерения признаков для 

всего изображения и отдельных секторов радужной 

оболочки с относительным смещением 

π 8, ширина каждого сектора равна π . 

На рис. 4 и 5 представлены изображения радужных 

оболочек глаз в полярной системе координат 

и графики отклонения признаков секторов 

от значения признака для целого изображения 

в зависимости от смещения ( S( ϕ ) ) 

для цветового и яркостного компонента. 

На графиках отклонения для обеих характеристик 

достаточно ровные, а для яркости 

не превышают среднего значения отклонения 

между признаками одного класса. 

Можно говорить, что каждый сектор имеет 

похожую структуру и цвет, и, следовательно, 

признаки являются инвариантными к сдвигу 

и повороту относительно сектора. 

В целом исследования показали лучшие 

возможности классификации по признакам, 

полученным для цветового компонента, 

чем для яркостного. Но признаки яркостного 

компонента оказались более устойчивыми к 

ухудшению качества входного изображения. 


В работе представлены исследования 

возможностей анализа цветного изображения 

радужной оболочки глаза с использованием 

преобразования Радона. Приведены результаты 

экспериментальных исследований, 

полученных для натурных изображений. 

Объектами изучения стали такие возможности, 

как классификация изображений 

радужных оболочек для различных людей и 

диагностика отклонений в структуре радужки 

по полученным признакам. Произведены 

References 

исследования инвариантности предложенных 

признаков. 








РФФИ № 07-08-96611. 


1. Wildes, Richard P. Iris Recognition: 

An Emerging Biometric Technology [текст] / 

Richard P. Wildes // Proceedings of The IEEE, 

September 1997. – Vol. 85, no. 9. – P. 1347- 

1347. 

2. Tisse, Christel-loic Person identification 

technique using human iris recognition. 

[текст] / Christel-loic Tisse [and other] // Proc. 

of Vision Interface. – 2002. – P. 294-299. 

3. Хелгасон, С. Преобразование Радона 

[текст] / С. Хелгасон, пер. с англ.: 

А.Г. Сергеев, под ред. Б.И. Завьялова. – М.: 

Мир, 1983. –148 с. 

4. Shapiro, L. Textbook: Computer Vision 

[электронный ресурс] / L. Shapiro, G. 

Stockman // Prentice Hall, 2001, 

http://www.cse.msu.edu/~stockman/Book/book. 

html . 

5. Orlov, Nikita Computer Vision for 

Microscopy Applications. Source: Vision Systems: 

Segmentation and Pattern Recognition. / 

Nikita Orlov [текст] // ISBN 987-3-902613-05- 

9. I-Tech, Vienna, Austria, June 2007. 

1. Wildes, Richard P. Iris Recognition: 

An Emerging Biometric Technology / Richard 

P. Wildes // Proceedings of The IEEE, September 

1997. – Vol. 85, no. 9. – P. 1347-1347. 

2. Tisse, Christel-loic Person identification 

technique using human iris recognition. / 

Christel-loic Tisse [and other] // Proc. of Vision 

Interface. – 2002. – P. 294-299. 

3. Helgason, S. Radon Transform. / S. 

Helgason, translated from English: A. G. Sergeev. 

Ed. by B. I. Zavyalov – M.: “Mir” Publishers 

(World), 1983. – 148 p. 

4. Shapiro, L. Textbook: Computer Vision 

/ L. Shapiro, G. Stockman // Prentice Hall, 

2001, 

http://www.cse.msu.edu/~stockman/Book/book. 

html . 

5. Orlov, Nikita Computer Vision for 

Microscopy Applications. Source: Vision Systems: 

Segmentation and Pattern Recognition. / 

Nikita Orlov // ISBN 987-3-902613-05-9. I- 

Tech, Vienna, Austria, June 2007. 

243


IRIS IMAGE ANALYSIS USING THE RADON TRANSFORM 

© 2008 A.V. Kuznetsov 1,2 , A.V. Kupriyanov 1,2 , N.Yu. Ilyasova 1,2 

1 Image Processing Systems Institute of the RAS, 


This work deals with looking into the possibilities of using the Radon transform for analysis of color images of 

iris. A technology for generating the feature vector using the Radon image constructed in HSL color space is developed. 

The features we propose in this work are shown to have high separability for different classes of iris images, which is of 

particular interest for biometrical identification purposes. 

Iris image, Radon transform, color spaces, classification, biometrical identification 


Кузнецов Андрей Владимирович, Самарский государственный аэрокосмический университет 

имени академика С.П. Королева, студент. Учреждение Российской академии наук 

Институт систем обработки изображений РАН, Самара, Россия, сотрудник лаборатории лазерных 

измерений. Опубликовано 3 работы в отечественных изданиях. Область научных интересов 

- распознавание образов, обработка изображений, текстурный анализ, интегральные 

преобразования. 


систем обработки изображений РАН, Самара, Россия. Кандидат технических наук. Старший 

научный сотрудник лаборатории лазерных измерений. Опубликовано свыше 50 работ в 

отечественных и зарубежных изданиях. Область научных интересов - обработка биомедицинских 

изображений, текстурный анализ, локальные и спектральные преобразования, биометрическая 

идентификация. 

Ильясова Наталья Юрьевна, Самарский государственный аэрокосмический университет 

имени академика С.П. Королева, кандидат технических наук, доцент. Учреждение Российской 

академии наук Институт систем обработки изображений РАН, Самара, Россия. 

Старший научный сотрудник лаборатории лазерных измерений. Опубликовано свыше 70 работ 

в отечественных и зарубежных изданиях, в том числе одна монография (в соавторстве). 

Область научных интересов - обработка изображений, распознавание образов, обнаружение 

объектов, разработка программно-аппаратных комплексов биомедицинского назначения. 

Kuznetsov Andrey Vladimirovich, S.P. Korolyov Samara State Aerospace University, student. 

Establishment of the Russian Academy of Sciences Image Processing Systems Institute of the 

Russian Academy of Sciences, Samara, Russia, the employee of laboratory of laser measurements. 

3 works in domestic editions are published. Area of research: pattern recognition, image processing, 

texture analysis, integral transforms. 

Kuprianov Alexandr Viktorovich, Establishment of the Russian Academy of Sciences Image 

Processing Systems Institute of the Russian Academy of Sciences, Samara, Russia. Cand. Tech. 

Sci., the senior scientific employee of laboratory of laser measurements. It is published over 50 

works in domestic and foreign editions. Area of research: biomedical image processing, texture 

analysis, local and spectral transforms, biometrical identification. 

Ilyasova Natalya Yurjevna, S.P. Korolyov Samara State Aerospace University, Cand. Tech. 

Sci., the senior lecturer. Establishment of the Russian Academy of Sciences Image Processing Systems 

Institute of the Russian Academy of Sciences, Samara, Russia, the senior scientific employee 

of laboratory of laser measurements. It is published over 70 works in domestic and foreign editions, 

including one monography (in the co-authorship). Area of research: image processing, pattern recognition, 

object detection, development of biomedical hardware-software complexes. 

244


УДК 004.932 

СЕГМЕНТАЦИЯ ТЕКСТУРНЫХ ИЗОБРАЖЕНИЙ 

НА ОСНОВЕ ОЦЕНИВАНИЯ ЛОКАЛЬНЫХ СТАТИСТИЧЕСКИХ ПРИЗНАКОВ 

© 2008 А.В. Куприянов 


Цель данной работы – исследование эффективности признаков, основанных на мерах текстурной энергии, 

в задаче текстурной сегментации изображений. Предложен алгоритм формирования пространства признаков 

на основе мер текстурной энергии. Текстурные признаки используются для сегментации изображений диагностических 

кристаллограмм. На тестовых текстурных изображениях проводится оценка качества сегментации, 

исследуется эффективность признаков в задаче текстурной сегментации. 

Текстура, признаки текстурной энергии, изображения кристаллограмм, текстурная сегментация 


Предметом исследования данной работы 

является решение задачи текстурной сегментации 

изображений на основе реализации 

самоорганизующегося метода кластеризации 

пространства признаков. Для формирования 

пространства локальных статистических 

признаков предлагается использовать меры 

текстурной энергии. 

Примером текстурных изображений являются 

фотографические изображения кристаллов, 

называемые кристаллограммами 

(рис. 1). Образующийся при кристаллизации 

текстурный рисунок биологических жидкостей 

зависит от состояния организма. Малейшие 

нарушения, связанные с болезнью, 

приводят к изменению химического состава 

биологических жидкостей. Патологические 

явления нарушают саморегуляцию обмена 

веществ, одновременно с нарушением функций 

происходит структурная перестройка в 

биологических средах организма, что вызывает 

изменения кристаллизации компонентов 

сложных систем. 

Рис. 1. Примеры кристаллограмм 

слезной жидкости человека 

245


На данный момент большинство этапов 

кристаллографического исследования осуществляется 

человеком. Автоматизированный 

анализ является более объективным и 

дает возможность получать не только качественные, 

но и количественные оценки 

структурных изменений кристалла, основанные 

на перцепционных свойствах изображения 

[1]. 

Текстурные методы анализа изображений 

формируют основание для распознавания 

и классификации объектов на основе 

выделения текстурных признаков. В [2] 

оценивается пять различных методов формирования 

признаков: метод автокорреляции, 

метод предельной частоты, метод длины 

примитива, а также методы, основанные 

на матрицах вероятностного распределения 

[3] и мерах текстурной энергии [4]. Результаты, 

представленные в работе [2], показывают, 

что последние два метода приводят к 

лучшим результатам. 

1. Статистические признаки, основанные 

на мерах текстурной энергии 

В данной работе рассматриваются признаки, 

получаемые на основе мер текстурной 

энергии, поскольку результаты ряда работ, в 

частности [1], свидетельствуют о том, что 

текстурные признаки, сформированные на 

основе мер текстурной энергии и матриц вероятностного 

распределения яркости, показывают 

наилучшую разделимость классов. 

В работе [4] показано, что некоторые 

градиентные операторы, такие, как лапласиан 

и оператор Собела, подчеркивают основную 

микроструктуру текстуры изображения. Это 

утверждение было положено в основу схемы 

формирования признаков, заключающейся в 

использовании набора фильтров, которые получаются 

из ряда базовых векторов. 

Базовые векторы, являющиеся детекторами 

уровня, границы и пятна, определяются 


( ) ( ) ( ) 

l = 1,2,1 , e = − 1,0,1 , s = 1, −2,1 . 

При попарной свертке этих векторов 

друг с другом получается набор векторов: 

детектор уровня, краевой детектор, детектор 

пятна, детекторы волны, ряби и так далее. 

( ) 

Затем полученные векторы перемножаются 

таким образом, чтобы их произведения представляли 

собой квадратные матрицы. Полученные 

матрицы будут использоваться в качестве 

масок. К исходному изображению 

f m, 

n поочередно применяются полученные 

T масок. Результатом будет множество 

полутоновых изображений 

( ) 

f m, n , t = 1, T, 0 ≤ m < M , 0 ≤ n < N , 

t 

на основе которых строятся текстурные 

признаки. 

Следующим этапом вычислений является 

нелинейная обработка изображений 

f m, 

n , заключающаяся в замене каждого 

t 

( ) 

значения интенсивности яркости отсчета 

суммой абсолютных значений интенсивности 

соседних отсчетов, ограниченных окном 

размера W × W : 

W W 

2 2 

( ) = ( − − ) 

f% 

m, n f m i, n j , 

t 

t = 1, T . 

∑ 

∑ 

i=− W W 

2 

j=− 

2 

t 

Также возможен альтернативный нелинейный 

фильтр: 

W W 

2 2 2 

( ) = ( − − ) 

f% 

m, n f m i, n j , 

t 

t = 1, T . 

∑ 

i=− W j=−W 

2 2 

∑ ( t 

) 

Таким образом, формируется признаковое 

пространство размерности T , где 

( , ) 

m n -элемент матрицы f , t = 1, T есть 

значение соответствующего признака отсче- 

m, 

n исходного изо- 

та с координатами ( ) 

бражения. 

Преобразование 

( ) % ( ) 

f m, n → f m, n , t = 1, T 

t 

называется «преобразованием текстурной 

энергии» [4]. 

Всего в работе было сформировано 25 

фильтров (примеры масок размера 5×5 приведены 

на рис. 2). 

t 

246


⎛ 1 4 6 4 1⎞ 

⎜ 

⎟ 

⎜ 

4 16 24 16 4 

⎟ 

l ∗l l ∗ l = ⎜ 6 24 36 24 6⎟ 

, 

⎜ ⎟ 

4 16 24 16 4 

⎜1 4 6 4 1 ⎟ 

⎝ 

⎠ 

Τ 

( ) ( ) 

⎛ −1 2 0 −2 1 ⎞ 

⎜ 

⎟ 

⎜ 

−2 4 0 −4 2 

⎟ 

∗ ∗ = ⎜ 0 0 0 0 0 ⎟ 

⎜ ⎟ 

2 −4 0 4 −2 

⎜ 

1 − 2 0 2 −1 

⎟ 

⎝ 

⎠ 

Τ 

( l e) ( e s) 

2. Сегментация текстурных изображений 

Текстурная сегментация представляет 

собой сложную задачу, так как заранее нельзя 

сказать, какие именно типы текстур имеются 

на изображении, сколько различных 

текстур и какие области содержат эти текстуры. 

Для решения такой задачи необходим 

метод, позволяющий вынести решение о 

степени схожести двух текстур (как правило, 

находящихся в смежных областях). 

Существует два общих подхода к представлению 

о текстурной сегментации, равно 

как и к способам решения задачи сегментации: 

1) подход, заключающийся в разделении 

областей с различными текстурами; 

2) подход, основанный на выделении 

границ различных текстур. 

В первом подходе требуется обнаружить 

области, имеющие однородные текстуры. 

Принадлежность каждого отсчета изображения 

определенной области считается в 

зависимости от значения текстурного признака. 

Этот подход обладает одним несомненным 

достоинством по сравнению со 

вторым: после разделения поля изображения 

на области с одинаковыми текстурами задача 

выделения границ становится тривиальной. 

Принцип работы методов сегментации 

на основе подхода, предусматривающего 

выделение границ текстур, состоит в поиске 

различий текстурных свойств на участке 

стыка текстур. Таким образом, границы определяются 

там, где текстурная информация 

изображения принимает разнородный характер. 

Однако границы могут прерываться, 

Рис. 2. Маски размера 5×5 для применения фильтров 

иметь разломы. В этом случае две области с 

различными текстурами не разделяются как 

смежные области. 

В данной работе был выбран первый 

подход. Сегментация изображения осуществлялась 

с помощью процедуры кластеризации 

пространства текстурных признаков, основанных 

на мерах текстурной энергии. Для 

проведения кластеризации пространства текстурных 

признаков был выбран алгоритм 

ISODATA [5]. 

3. Результаты экспериментальных 

исследований 

При проведении экспериментов доступны 

40 различных текстурных изображений. 

Изображения представляют натурные 

снимки из альбома [6]. Для сравнительного 

анализа текстурных характеристик и исследований 

качества сегментации из данного 

набора текстурных изображений формируются 

новые изображения заранее известным 

способом. Эти изображения составляются из 

двух и трех различных текстур по шаблонам 

таким образом, чтобы площади областей 

различных текстур на изображении были 

равны. На рис. 3 показаны примеры тестовых 

изображений с обозначением разных 

текстур (текстуры обозначены согласно названиям 

снимков из альбома [6]). 

На рис. 4 представлены иллюстрации 

пространства признаков. Для того чтобы визуализировать 

каждое пространство признаков, 

основанных соответственно на моментах 

и мерах текстурной энергии, их размерности 

были сокращены до 3. Сокращение размерности 

осуществлялось путем выбора трех признаков 

с минимальным значением дисперсии. 

247


Рис. 3. Примеры формирования тестовых изображений 

Рис. 4. Положение объектов в пространстве признаков, рассчитанных 

на основе мер текстурной энергии 

После проведения процедуры кластеризации 

признакового пространства рассчитывалась 

ошибка. Ошибка сегментации с использованием 

признаков, полученных на основе 

мер текстурной энергии, – 12,42%. Для 

сравнительных исследований использовались 

признаки, основанные на моментах. Ошибка 

сегментации с использованием признаков, 

вычисленных на основе моментов, составляет 

19,06%. Таким образом, для данной пары тек- 

248


стур признаки, основанные на мерах текстурной 

энергии, показывают лучшее разделение 

в пространстве признаков. 

Зависимость ошибки сегментации от 

уровня шума для текстурных изображений 

показана на рис. 5. 

Рис. 5. Зависимость ошибки сегментации от уровня шума 

Для данных примеров тестовых изображений 

метод формирования текстурных 

признаков оказывается неустойчивым к шуму 

при значении отношения сигнал/шум 

2 

d < 3 , что ограничивает сферу областей 

дальнейшего применения метода. 

Также были проведены исследования 

качества сегментации в зависимости от размеров 

фильтров обработки. Данные тесты 

показали, что для качественного решения задачи 

сегментации изображений различных 

классов необходимо подбирать индивидуальные 

параметры фильтрации. Этот факт не 

позволяет выбрать универсальный набор параметров, 

подходящий для любых видов 


При исследовании ошибки сегментации 

в зависимости от размеров исходного 

изображения было установлено, что разработанный 

метод получения текстурных признаков 

согласуется с особенностями восприятия 

человека. Результаты показали разделение 

визуально отличающихся текстур с малым 

значением ошибки сегментации, в отличие 

от схожих текстур. 


В завершение рассмотрим, как действует 

шум на текстурные характеристики, 

выделенные на изображениях кристаллограмм 

слезной жидкости человека (рис. 6). 

Метод позволил выделить центры кристаллизации 

на кристаллограммах слезной 

жидкости. При сравнении результатов сегментации 

для текстурных изображений и диагностических 

кристаллограмм было заключено, 

что признаки, являющиеся эффективными 

для одного класса текстур, не всегда 

являются эффективными для другого. Объясняется 

это тем, что кристаллограммы более 

похожи между собой, чем натурные изображения 

различных текстур. 

На основе разработанного метода была 

реализована опытная компьютерная система 

диагностического анализа кристаллограмм. 

Внедрение этой системы в медицинскую 

практику может расширить возможности 

существующих медицинских методик и позволит 

автоматизировать диагностику. 





(BRHE), программы Президиума 

РАН «Фундаментальные науки – медицине» 

и грантов РФФИ № 06-07-08006-офи и № 07- 

08-96611. 

249


Рис. 6. Результаты сегментации изображений кристаллограмм 


1. Ильясова, Н.Ю. Классификация 

кристаллограмм с использованием методов 

статистического анализа текстурных изображений 

/ Н.Ю. Ильясова, А.В. Куприянов, 

А.Г. Храмов // Компьютерная оптика. – 2000. 

– № 20. – С. 122-127. 

2. Sharma, M. Evaluation of texture 

methods for image analysis / M. Sharma, M. 

Markou, S. Singh // Pattern Recognition Letters. 

– 1980. 

3. Haralick, R.M. Textural features for 

image classification / R.M. Haralick, K. Shanmugam, 

I. Dinstein // IEEE Trans. on Systems, 

Man and Cybernetics. – 1973. – V.3. – P. 610- 

621. 

4. Laws, K.I. Rapid Texture Identification / 

K.I. Laws // SPIE, 1980. – Vol. 238. – P. 376-380. 

250


5. Ту, Дж. Принципы распознавания 

образов / Дж. Ту, Р. Гонсалес. – М.: Мир, 

1978. – 411 с. 

6. Brodatz, P. Textures: A Photographic 

Album for Artists and Designers / P. Brodatz – 

New York: Dover, 1966. 

References 

1. Ilyasova, N.Yu. Crystallogram classification 

using methods of texture image statistical 

analysis / N.Yu. Ilyasova, A.G. Kupriyanov, 

A.G. Khramov // Computer Optics. – 2000. – 

No. 20. – P. 122–127. – [in Russian]. 

2. Sharma, M. Evaluation of texture 

methods for image analysis / M. Sharma, M. 

Markou, S. Singh // Pattern Recognition Letters. 

– 1980. 

3. Haralick, R.M. Textural features for 

image classification / R.M. Haralick, K. Shanmugam, 

I. Dinstein // IEEE Trans. on Systems, 

Man and Cybernetics. – 1973. – V.3. – P. 610- 

621. 

4. Laws, K.I. Rapid Texture Identification / 

K.I. Laws // SPIE. – 1980. – Vol. 238. – P. 376- 

380. 

5. Tu, G. Principles of Pattern Recognition 

/ G. Tu, R. Gonsales. – M.: “Mir” Publishers 

(World), 1978. – 411 pages. – [in Russian]. 

6. Brodatz, P. Textures: A Photographic 

Album for Artists and Designers / P. Brodatz – 

New York: Dover, 1966. 

TEXTURE IMAGE SEGMENTATION BASED ON ESTIMATING THE LOCAL 

STATISTICAL FEATURES 

© 2008 A.V. Kupriyanov 


This work is aimed at studying the efficiency of the features based on texture energy measures when solving the 

image segmentation problem. An algorithm for feature space generation based on the texture energy measures is proposed. 

The texture features are used for segmentation of diagnostic crystallogram images. Using test texture images, the 

segmentation quality is estimated and the feature efficiency is studied when solving the texture segmentation problem. 

Texture, texture energy features of crystallogram image, texture segmentation 









Processing Systems Institute of the Russian Academy of Sciences, Samara, Russia, the senior 

scientific employee of laboratory of laser measurements. It is published over 50 works in domestic 

and foreign editions. Area of research: biomedical image processing, texture analysis, local and 

spectral transforms, biometrical identification. 

251


УДК 681.3, 621.372.542 

МОДЕЛЬ МАРКОВСКОГО СЛУЧАЙНОГО ПОЛЯ В ЗАДАЧАХ СИНТЕЗА 

И АНАЛИЗА ТЕКСТУРНЫХ ИЗОБРАЖЕНИЙ 

© 2008 А.И. Пластинин, А.В. Куприянов 



В работе предлагается алгоритм имитационного моделирования текстурных изображений по образцу на 

основе модели марковских случайных полей. Представлены результаты экспериментальных исследований качества 

генерации текстур. Анализ проведенных экспериментальных исследований свидетельствует о том, что 

разработанный алгоритм может эффективно применяться в исследованиях связанных с текстурным анализом 

Текстурные изображения, марковские случайные поля, имитационное моделирование, генерация текстур, 

текстурный анализ 


При проведении экспериментов по решению 

прикладных задач анализа текстурных 

изображений часто на практике доступно 

лишь небольшое количество натурных 

изображений. Возникает необходимость в 

синтезировании изображений, повторяющих 

структуру заданного оригинала. Существуют 

различные классы алгоритмов для синтеза. 

Как правило, для синтеза одного типа изображений 

подбирается своя модель, по которой 

и происходит построение нового изображения. 

Один из наиболее распространенных 

– метод ЛИС-систем. Метод позволяет 

получить изображение с заданной корреляционной 

функций. Есть возможность его 

эффективной реализации на базе преобразования 

Фурье. Однако этот метод обладает 

рядом ограничений и не позволяет воспроизвести 

особенности сложных, нестационарных 


В настоящей работе рассматривается 

универсальный метод и эффективный алгоритм 

синтезирования изображения по образцу 

на основе модели марковских случайных 

полей (МСП). Предлагаемый алгоритм является 

развитием идеи, представленной в [1]. 

1. Модель марковского 

случайного поля 

Пусть S – конечное множество индексов, 

множество узлов. Тогда для любого 

s ∈ S , X 

s 

определяется как конечное пространство 

состояний x 

s 

. Произведение 

X 

= ∏ X – пространство конфигураций 

s∈S 

s 

x∈X 

x = ( xs 

) 

s∈S 

. Рассмотрим вероятностную меру 

или распределение Π на X , т.е. Π ( x) ≥ 0 и 

∑ Π ( x) = 1. Подмножества Å ⊂ X называются 

событиями, вероятность события определяется 

как Π ( E) = ∑Π ( x) 

. 

x∈E 

Если Π ( x ) > 0 , тогда случайный вектор 

X над вероятностным пространством 

X , Π будем называть случайным полем. 

( ) 

Для событий Å и F условная вероятность 

F при условии Å определяется как 

Π ( F | E) = Π ( FU E) Π ( E) 

. Условные вероятности 

вида Π ( X 

A 

= xA | X 

S \ A 

= xS \ A) 

, где 

A ⊂ S , xA ∈ X 

A 

, xS \ A 

∈ X 

S \ A 

, называются локальными 

характеристиками. Локальные характеристики 

всегда определены, т.к. распределение 

Π строго положительно. Далее 

будем использовать короткую запись 

Π ( xA 

| xS \ A) 

. 

Можно легко показать [2], что распределение 

(вероятностная мера) Π ( x) 

однозначно 

определяется локальными характеристиками. 

Совокупность N = { N 

s 

: s ∈ S} 

подмножеств множества S называется системой 

окрестностей, если s ∉ N 

s 

. Узел 

s ∈ N 

t 

называется соседом узла t . Окрестность 

называется симметричной, если выполнено 

условие: s ∈ N , тогда и только тогда, 

когда 

t ∈ N 

s 

. 

t 

252


а) б) 

Рис. 1. Примеры окрестностей: некаузальная 3×3 (а); 

каузальная 3×3 (б) 

Случайное поле X над пространством 

X , Π называется марковским случайным 

( ) 

полем (МСП) по отношению к системе окрестности 

N , если для любого x ∈ X выполнено: 

Π ( X = x | X = x , r ≠ s) 

= 

s s r r 

= Π ( X = x | X = x , r ∈ N ). 

s s r r s 

2. Алгоритм синтезирования 

изображений 

Введем следующие обозначения: N – 

окрестность пикселя p ; 

окрестности; 

k 

N 

p 

( ( 1 

K 

) ( )) 

– k-ый элемент 

N ( I) = I N , K, 

I N – вектор 

p p p 

значений. 

Пример возможной нумерации пикселей 

приведен на рис. 2. 

p 

1 

N p 

2 

N p 

3 

N p 

1 

N p 

2 

N p 

3 

N p 

4 

N 

p 

p 

5 

N p 

4 

N 

p 

p 

6 

N p 

7 

N p 

8 

N p 

а) б) 

Рис. 2. Порядок пикселей в окрестности: некаузальная (а); каузальная (б) 

Алгоритм состоит в построении последовательности 

изображений: I , I ,..., I , где 

0 1 L 

0 

L – параметр алгоритма. I инициализируется 

белым шумом. Одна итерация заключается 

в проходе по всем точкам изображения 

i 

I , полученного на предыдущем шаге: 

p ∈ D( I 

i ) . Новое изображение формируется 

i+ 

1 * 

по следующему правилу: I ( p) = I( p ) , 

* 

i 

p = Q N 

p% 

I N 

p 

I 

p% 

∈D( I ) 

arg min ( ( ), ( )) . Здесь 

Q( N , N ) 

1 2 

– критерий сходства двух векторов 

N1 

и N 

2 

. В качестве такого критерия 

можно взять евклидово расстояние между 

векторами: Q( N1, N2) 

= N1 − N2 

. 

Окрестность для генерации может быть 

выбрана произвольная. В данном случае мы 

будем рассматривать два типа окрестностей: 

каузальную и некаузальную. Следует отметить, 

что использование каузальной окрестности 

дает лучший результат, т.к. при генерации 

используются только те пиксели, которые были 

получены на предыдущих шагах алгоритма. 

В случае некаузальной окрестности при синтезе 

текущего пикселя используются пиксели, 

еще не обработанные алгоритмом. 

В общем случае пусть задано множество 

S из k векторов пространства 

n . Необходимо 

для заданного вектора x ∈ найти 

n 

вектор y ∈ S , наиболее близкий к x : 

y = arg min d( x, y) 

. В качестве меры сходства 

y∈S 

можно использовать евклидово расстояние 

d( x, y) 

= x − y . 

3. Исследования алгоритма 

имитационного моделирования 

Алгоритм исследовался на различных типах 

окрестностей (каузальной и некаузальной) 

и размерах (5×5, 7×7, 9×9, 11×11), использовались 

различные цветовые пространства (RGB и 

Ruderman Lab [4]), каналы генерировались совместно 

и по отдельности. Во всех случаях рассматривался 

алгоритм с кластеризацией, т.к. он 

обладает большей скоростью работы. 

На рис. 3 и 4 показаны образцы и синтезированные 

по ним изображения размера 

128×128 соответственно. 

Видно, что алгоритм воспроизвел основные 

структурные элементы образца с сохранением 

взаимного расположения. 

На рис. 5 представлены результаты генерирования 

с некаузальной окрестностью. 

253


Видно, что некаузальная окрестность дает 

плохой результат. Это связано с тем, что 

при синтезе в окрестность наряду с уже обработанными 

пикселями в текущей итерации 

попадают отсчеты, которые не были 

обработаны. 

а) б) 

Рис. 3. Примеры тестовых изображений: «тип 1» (а); «тип 2» (б) 

а) б) 

Рис. 4. Синтезированные изображения, каузальная окрестность 11×11, цветовые 

компоненты RGB генерировались совместно, 2 итерации, алгоритм 

с кластеризацией: «тип 1» (а); «тип 2» (б) 

а) б) 

Рис. 5. Синтезированные изображения, некаузальная окрестность 11×11, 

цветовые компоненты RGB генерировались совместно, 2 итерации, алгоритм 

с кластеризацией: «тип 1» (а); «тип 2» (б) 

Далее на рис. 6 и 7 показаны результаты 

генерирования изображений в разных 

цветовых пространствах, причем цветовые 

каналы генерировались по отдельности. 

На рис. 8 показаны результаты генерирования 

с различными размерами каузальных 

окрестностей. 

254


а) б) 

Рис. 6. Синтезированные изображения, каузальная окрестность 11×11, 

цветовые компоненты RGB генерировались по отдельности, 2 итерации, 

алгоритм с кластеризацией: «тип 1» (а); «тип 2» (б) 

а) б) 

Рис. 7. Синтезированные изображения, каузальная окрестность 11×11, 

цветовые компоненты Ruderman Lab генерировались по отдельности, 

2 итерации, алгоритм с кластеризацией: «тип 1» (а); «тип 2» (б) 

а) б) в) 

г) д) е) 

Рис. 8. Синтезированные изображения, каузальная окрестность, цветовые 

компоненты RGB генерировались совместно, 2 итерации, алгоритм 

с кластеризацией: «тип 2» 9×9 (а); «тип 2» 7×7 (б); «тип 2» 5×5 (в); 

«тип 1» 9×9 (г); «тип 1» 7×7 (д); «тип 1» 5×5 (е) 

255



В работе предложен метод имитационного 

моделирования текстурных изображений, 

проведены экспериментальные исследования 

разработанного алгоритма. 

Полученные результаты позволяют 

сделать следующие выводы: 

1. Необходимо использовать одновременно 

все цветовые компоненты. Декорреляция 

цветового пространства не дает желаемого 

результата. 

2. Необходимо использовать каузальную 

окрестность для повышения эффективности 

моделирования. 

Анализ проведенных экспериментальных 

исследований свидетельствует о том, 

что разработанный алгоритм может эффективно 

применятся в исследованиях связанных 

с текстурным анализом. 








РФФИ № 07-08-96611. 


1. Li-Yi, Wei. Deterministic Texture 

Analysis and Synthesis using Tree Structure 

Vector Quantization [текст]. 

2. Winkler, G. Image Analysis, Random 

Fields and Dynamic Monte Carlo Methods 

[текст] / G. Winkler– Springer-Verlag, 1995. 

3. Ту, Дж. Принципы распознавания 

образов [текст] / Дж. Ту, Р. Гонсалес – М.: 

МИР, 1978. – 412 с. 

4. Ruderman, D.L. Statistics of Cone 

Responses to Natural Images: Implications for 

Visual Coding [текст] / D.L. Ruderman, T.W. 

Cronin, and C.C. Chiao, // J. Optical Soc. of 

America. – 1998. – Vol. 15, no. 8. – P. 2036- 

2045. 

References 

1. Li-Yi, Wei. Deterministic Texture 

Analysis and Synthesis using Tree Structure 

Vector Quantization. 

2. Winkler, G. Image Analysis, Random 

Fields and Dynamic Monte Carlo Methods / 

G. Winkler– Springer-Verlag, 1995. 

3. Tu, G. Principles of Pattern Recognition 

/ G. Tu, R. Gonsales. – M.: “Mir” Publishers 

(World), 1978. – 412 p. – [in Russian]. 

4. Ruderman, D.L. Statistics of Cone 

Responses to Natural Images: Implications for 

Visual Coding / D.L. Ruderman, T.W. Cronin, 

and C.C. Chiao // J. Optical Soc. of America. – 

1998. – Vol. 15, no. 8. – P. 2036-2045. 

A MODEL OF MARKOV RANDOM FIELD IN TEXTURE 

IMAGE SYNTHESIS AND ANALYSIS 

© 2008 A. I. Plastinin, A. V. Kupriyanov 


We offer an algorithm for pattern-based simulation modeling of texture images using the Markov random field 

model. The results of experimental studies of the texture generation quality are discussed. Analysis of the experimental 

studies conducted suggests that the algorithm can be applied profitably to studies related to texture analysis. 

Texture images, Markov random fields, simulation modeling, texture generation, texture analysis 

256



Пластинин Анатолий Игоревич, Самарский государственный аэрокосмический университет 

имени академика С.П. Королева, аспирант. Учреждение Российской академии наук 

Институт систем обработки изображений РАН, Самара, Россия. Стажер-исследователь лаборатории 

лазерных измерений. Опубликовано 6 работ в отечественных и зарубежных изданиях. 

Область научных интересов: pattern recognition, machine learning, intelligent data analysis, 

image processing, texture analysis, random process generation. 







Plastinin Anatoliy Igorevich, S.P. Korolyov Samara State Aerospace University, a postgraduate 

student. Establishment of the Russian Academy of Sciences Image Processing Systems Institute 

of the Russian Academy of Sciences, Samara, Russia, he works as a trainee researcher. He 

has published 6 scientific articles in Russian and international periodicals. Area of research: pattern 

recognition, machine learning, intelligent data analysis, image processing, texture analysis, random 

process generation. 


Processing Systems Institute of the Russian Academy of Sciences, Samara, Russia, the senior 

scientific employee of laboratory of laser measurements. He has published over 50 works in domestic 

and foreign editions. Area of research: biomedical image processing, texture analysis, local and 

spectral transforms, biometrical identification. 

257


УДК 004.9 + 615.84 

МЕТОД ОЦЕНИВАНИЯ МОРФОЛОГИЧЕСКИХ ПАРАМЕТРОВ СОСУДОВ 

НА ИЗОБРАЖЕНИЯХ ГЛАЗНОГО ДНА НА ОСНОВЕ 

МАТРИЦ ВИДИМОСТИ КРИВЫХ 

© 2008 М.А. Ананьин 1,2 , Н.Ю. Ильясова 1,2 

1 Самарский государственный аэрокосмический университет, 


Описан подход, позволяющий модифицировать геометрические признаки таким образом, чтобы учесть 

морфологические особенности древовидных структур. В качестве примеров диагностических признаков будут использованы: 

1) прямолинейность Pr и извитость I . После ввода изображение глазного дна подвергается обработке 

с целью получения центральных линий сосудов. Полученное дискретное представление центральной ли- 

r N 

. 

нии сосуда является исходными данными: { x i } 

i= 1 

Обработка изображений, сосуды, глазное дно, морфология, признаки, геометрические характеристики, 

средняя линия 

Разбиение кривых на лепестки и оценивание 

геометрических параметров. Основа 

морфологического анализа – разбиение центральной 

линии на части (морфемы) с последующим 

оцениванием геометрических характеристик 

этих частей и расчётом на основе 

полученных значений морфологических 

признаков центральной линии в целом. 

Будем называть лепестками области, 

ограниченные кривой между двумя соседними 

точками разбиения и отрезком, соединяющим 

эти две точки. Пример разбиения 

кривой представлен на рис. 1а. Области, 

соответствующие лепесткам, представлены 

серым. 

а) б) 

В случае дискретного представления 

центральной линии сосуда удобно использовать 

последовательности { H 

k} k = 1 

и { E k } 

k = 1 

соответственно номера начальных и конечных 

точек лепестков в дискретном представлении 

центральной линии сосуда. 

Для построения морфологических признаков 

используется ряд геометрических характеристик 

(рис. 1б): 

лепестка, 

S 

i 

i 

Рис. 1. Пример разбиения кривой на лепестки (а); 

пример лепестка центральной линии (б) 

N 

N 

– 

T – полупериод i -го 

A 

i 

– амплитуда, L 

i 

– длина дуги и 

– площадь. Также используются величи- 

T% = πS A и A % = πS 2T 

. 

ны 2 

i i i 

i i i 

Оценивание признаков. На основе геометрических 

параметров лепестков формируются 

новые признаки Pr 

1, Pr 

2 

, I 

11, I 

12 

, I21 

и I 22 

, первые два из которых характеризуют 

прямолинейность, а остальные – извитость. 

Эти признаки вычисляются по формулам 

Pr = L T ; I = πA T , где m, n∈ {1, 2} , 

n 

ν 

ν 

mn m n 

L ν 

– средняя длина дуги лепестков; T1 

и 

T 

2 

– средние полупериоды лепестков; а A1 

и 

A 

2 

– средние амплитуды лепестков. Перечисленные 

величины могут быть вычислены 

на основе оценивания геометрических ха- 

258


рактеристик лепестков по следующим формулам: 

K −1 

1 

Lν 

= ∑ K −1 

1 

Li 

; T1 

= ∑ Ti 

; 

K − 2 K − 2 

i= 

2 

i= 

2 

i= 

2 

K −1 

1 

A1 

= ∑ K −1 

1 

Ai 

; T2 

= ∑ T % 

i; 

K − 2 K − 2 

i= 

2 

ij 

ji 

K −1 

1 

A2 

= ∑ A % 

i. 

K − 2 i= 

2 

Первый и последний лепестки кривой 

отбрасываются для достижения инвариантности, 

значения по остальным лепесткам усредняюся, 

что позволяет достичь устойчивости 

к шумам и ряду других искажений. Отметим, 

что для гармонических кривых, взятых 

на отрезке, кратном полупериоду, значения 

новых признаков совпадают со значениями 

ранее описанных признаков, то есть 

I = I11 = I12 = I21 = I22 

и Pr = Pr1 = Pr2 

. 

Матрица видимости. Опишем подход 

к разбиению на лепестки, основанный на 

анализе матриц видимости кривой. Под 

матрицей видимости кривой подразумевается 

симметричная квадратная матрица ( a 

ij 

) , 

состоящая из нулей и единиц, являющаяся 

индикатором взаимной видимости точек на 

дискретном представлении кривой. Точки с 

номерами i и j считаются взаимно видимыми 

a = a = 1, если отрезок, соединяющий 

точки x r i 

и x r j 

, не пересекается ни с одним 

из отрезков, соединяющих соседние 

r r r r r r 

точки x 

i + 1 

и x 

i + 2 

, x 

i + 2 

и x 

i + 3 

, …, x 

j − 2 

и x 

j − 1 

. В 

случае, если пересечение существует, точки 

с номерами i и j будем считать взаимно невидимыми 

aij 

= a 

ji 

= 0 . Опишем предложенный 

способ разбиения центральной линии 

сосуда на лепестки, основанный на матрице 

видимости. Рассмотрим последовательности 

взаимно видимых точек кривой. На матрице 

видимости эта последовательность отображается 

в квадрат, состоящий из единиц, диагональ 

которого лежит на главной диагонали 

матрицы видимости. То есть, если H – номер 

первой точки в последовательности взаимно 

видимых точек, а E – номер последней, 

должно выполняться тождество 

E 

E 

∑ ∑ 

i= H j= 

H 

ij 

2 

( 1) . 

a ≡ E − H + 

Как критерий разбиения 

кривой на лепестки будем использовать 

такое разбиение кривой на множество последовательностей 

взаимно видимых точек, что 

любые две из этих последовательностей имеют 

не более одной общей точки и суммарная 

площадь квадратов, соответствующих этим 

последовательностям на матрице видимости, 

максимальна. То есть условием разбиения 

кривой на лепестки будет 

Kˆ 

∑ 

k= 

1 

( Ek 

H 

k ) 

2 

Kˆ = 1, N ;{ Eˆ };{ ˆ 

k Hk 

} 

ˆ − ˆ + 1 ⎯⎯⎯⎯⎯⎯→ max; 

1 ≤ H ˆ ≤ E ˆ < H ˆ ≤ E ˆ < K < H ˆ ≤ E ˆ ≤ N, 

1 1 2 2 

где максимизация функционала ведётся по 

всевозможным ˆK – количеству всевозможных 

последовательностей взаимно видимых 

Hˆ 

K 

точек, { k} k = 1 

ˆ 

K 

и { Ek} k = 1 

k 

k 

– соответственно 

начальные и конечные точки последовательностей 

взаимно видимых точек. 

Метод морфологического анализа древовидных 

структур сосудов позволяет определять 

диагностические параметры с большей 

точностью. 








РФФИ № 07-08-96611. 





// Proceedings of MICCAI 2003. – LNCS 2879. 

– P. 620-626. 



/ A. Osareh [and others] // ECCV 2002. – LNCS 

2353. – P. 502-516. 

3. Корепанов, А.О. Метод выделения 

центральных линий кровеносных сосудов на 

диагностических изображениях [текст] / 

А.О. Корепанов, П.М. Чикулаев, Н.Ю. Ильясова 

// Компьютерная оптика. – 2006. – №29. – 

C.146-151. 

259


References 



/ J. Jomier, D.K. Wallace, S.R. Aylward // Proceedings 

of MICCAI 2003. – LNCS 2879. – 

P. 620-626. 


of Diabetic-Related Eye Disease / 

A. Osareh [and others] // ECCV 2002. – LNCS 

2353. – P. 502-516. 

3. Korepanov, A.O. A method for extracting 

blood vessel central lines in diagnostic 

images / A.O. Korepanov, P.M. Chkulayev, 

N.Yu. Ilyasova // Computer Optics. – 2006. – 

No.29. – P. 146-151. – [in Russian]. 

A METHOD FOR ESTIMATING MORPHOLOGICAL PARAMETERS OF VESSELS IN 

FUNDUS IMAGES BASED ON CURVE VISIBILITY MATRIX 

© 2008 M. A. Anan’in, N. Yu. Ilyasova 


Image processing Systems Institute of the RAS 

We discuss an approach to fundus image analysis that enables one to modify the diagnostic vessel parameters in 

such a way that the morphological peculiarities of tree-like structures are accounted for. A feature estimation method 

based on processing the geometric characteristics of central vessel line lobes is described. An approach relying upon 

partitioning the curves into lobes with use of the algorithm of visibility matrix construction is discussed. The approach 

developed makes it possible to construct a primary feature space that can be used for constructing morphological features 

invariant to various types of geometric distortions. 

Processing of images, vessels, eye bottom, morphology, signs, geometrical characteristics, average line 


Ананьин Михаил Александрович, Самарский государственный аэрокосмический 

университет имени академика С.П. Королева, аспирант. Учреждение Российской академии 

наук Институт систем обработки изображений РАН, Самара, Россия. Стажер-исследователь 

лаборатории лазерных измерений. Опубликовано 16 работ в отечественных и зарубежных 

изданиях. Область научных интересов – анализ многоцветных цифровых биомедицинских 

изображений, методы оценивания морфологических характеристик объектов. 

Ильясова Наталья Юрьевна, Самарский государственный аэрокосмический университет 

имени академика С.П. Королева, кандидат технических наук, доцент. Учреждение Российской 

академии наук Институт систем обработки изображений РАН, Самара, Россия. 

Старший научный сотрудник лаборатории лазерных измерений. Опубликовано свыше 70 работ 

в отечественных и зарубежных изданиях, в том числе одна монография (в соавторстве). 

Область научных интересов - обработка изображений, распознавание образов, обнаружение 

объектов, разработка программно-аппаратных комплексов биомедицинского назначения. 

Anan’in Michail Alexandrovich, S.P. Korolyov Samara State Aerospace University, a postgraduate 

student. Establishment of the Russian Academy of Sciences Image Processing Systems 

Institute of the Russian Academy of Sciences, Samara, Russia, a trainee-researcher of laboratory of 

laser measurements. He has published 16 works in domestic and foreign editions. Area of research: 

analysis of multicolored digital biomedical images, methods for estimating object morphological 

characteristics. 

Ilyasova Natalya Yurjevna, S.P. Korolyov Samara State Aerospace University, Cand. Tech. 

Sci., the senior lecturer. Establishment of the Russian Academy of Sciences Image Processing Systems 

Institute of the Russian Academy of Sciences, Samara, Russia, the senior scientific employee 

of laboratory of laser measurements. He has published over 70 works in domestic and foreign editions, 

including one monography (in the co-authorship). Area of research: image processing, pattern 

recognition, object detection, development of biomedical hardware-software complexes. 

260


УДК 535.33:58 

ЭКОЛОГИЧЕСКИЙ МОНИТОРИНГ ГОРОДСКИХ ТЕРРИТОРИЙ 

С ПОМОЩЬЮ МЕТОДА ДИФФЕРЕНЦИАЛЬНОГО ОБРАТНОГО РАССЕЯНИЯ 

© 2008 В.П. Захаров 1 , О.Н. Макурина 2 , Е.В.Тимченко 1,3 , П.Е.Тимченко 1 , 

С.П. Котова 3 , Р.В. Валиуллов 1 


2 Самарский государственный университет 

3 Самарский филиал Физического института имени П.Н. Лебедева 

Российской академии наук 

Исследовано применение метода дифференциального обратного рассеяния и флуоресцентного анализа 

для оценки экологического качества древесных культур на территории города Самары. Показана корреляция 

оптических характеристик листьев древесных культур с данными химического анализа содержания основных 

пигментов в них. Экспериментально установлено, что метод дифференциального обратного рассеяния позволяет 

идентифицировать районы города по экологической значимости. 

Экологический мониторинг, дифференциальное обратное рассеяние, флюоресценция, химический анализ, 

нелинейный коэффициент, дифференциальный коэффициент, атмосферные загрязнители 


Одной из наиболее актуальных задач 

экологического мониторинга является разработка 

оптических методов дистанционного 

контроля природной среды, подвергающейся 

воздействию естественных и антропогенных 

факторов. Следует отметить, что существующие 

методы контроля, такие, как абсорбционный 

анализ и метод обратного рассеяния 

[1], флуоресцентный анализ [2], как 

правило, базируются на измерении концентрации 

различного рода загрязнителей в окружающей 

среде, в частности, концентрации 

твердых частиц (пыли), формальдегидов, углеводородов, 

диоксида азота, тяжелых металлов. 

Большую нагрузку на природную 

среду оказывают выбросы окиси углерода, 

которые особенно значительны вблизи международных 

автомобильных трасс и на территории 

крупных городов. Вместе с тем данные 

выбросы оказывают интегрированное 

воздействие на биологические объекты окружающей 

среды, и во многих случаях комбинированное 

многофакторное воздействие 

может приводить к существенной экологической 

нагрузке на биологические объекты даже 

при соблюдении норм по каждому отдельно 

взятому загрязнителю. Следует также 

учитывать возможность накопительного эффекта, 

связанного с жизненным биологическим 

циклом объектов природной среды, и, 

следовательно, к «усилению» воздействия 

антропогенных факторов на природную среду. 

С этой точки зрения, по мнению авторов 

наиболее естественным критерием благополучия 

экологического состояния является 

контроль наиболее значимых биологических 

свойств объектов природной среды. 

Учитывая, что листья растений являются 

наиболее чувствительными к действию атмосферных 

загрязнителей, древесные культуры 

могут быть использованы как «живые 

датчики» экологического состояния среды, 

а в качестве основного контролируемого 

параметра может использоваться жизненный 

потенциал растения [3], напрямую связанный 

с концентрацией хлорофилла a и b в 

листьях растений. 

Целью данной работы является разработка 

оптического метода определения жизненного 

потенциала растений и применение 

его для экологического контроля городских 

территорий на примере города Самары. Как 

было показано нами ранее [4], дифференциальный 

метод обратного рассеяния позволяет 

проводить спектральный анализ растительной 

среды и, в частности, определять 

относительную концентрацию хлорофилла в 

исследуемой среде. Альтернативным оптическим 

дистанционным методом контроля 

261


является метод лазерной индуцированной 

флюоресценции [5,6,7]. Следует отметить, 

что последний метод является активным, т.е. 

требует дополнительного источника лазерного 

излучения, в то время как метод обратного 

рассеяния может быть реализован и как 

активное, и как пассивное устройство, используя 

естественные источники освещения. 

1. Материалы и методы исследования 

В качестве объектов исследования были 

выбраны близкие по структуре одновозрастные 

насаждения березы в пяти точках 

города Самары (см. табл.1 и рис.1), расположенных 

на Московском шоссе, пересекающем 

город Самару и являющемся одновременно 

транспортной магистралью республиканского 

значения. 

Таблица 1. Пункты исследования 

Рис. 1. Положение пунктов контроля 

Пункт Положение (пересечение) Примечание 

1 Площадь Революции 

2 Центральный автовокзал 

3 Завод имени Тарасова 

4 Проспект Кирова 

Пересечение двух республиканских магистралей 

Пересечение крупнейших транспортных 

магистралей г.Самары 

5 Поселок Управленческий Зеленая зона г. Самары 

Пункт 5 (поселок Управленческий), находящийся 

в зеленой зоне города, использовался 

в качестве контрольного пункта, отражающего 

естественную календарную тенденцию 

изменения оптического состояния 

растений в процессе жизненного цикла в условиях 

средней полосы России. 

Все исследования проводились в одно 

и то же время суток на протяжении пяти месяцев 

вегетации зеленой пластины березы. 

262


Отбиралось по три контрольных листа с разных 

ярусов трех различных берез в пределах 

каждого пункта наблюдения. 

Спектральная интенсивность обратного 

рассеяния листьев берез регистрировалась с 

помощью экспериментального стенда, представленного 

на рис. 2 [5]. 

Рис. 2 - Экспериментальный стенд: 

1 – подающее волокно, 2 – фокусирующая линза, 3 – источник света (галогеновая лампа), 

4 – приемное волокно, 5 – спектрограф «shamrock sr-303i», 6 – компьютер, 

7 – объект исследования, 8 – лазерный диод 

Экспериментальная установка включала 

в себя источник излучения на основе галогеновой 

лампы, волоконную систему сбора 

и подачи излучения и спектрофотометр 

SR-303i, что обеспечивало измерения с погрешностью, 

не превышающей 4% в видимой 

и ближней инфракрасной областях спектра 

от 400 до 1000 нм [4,6]. Эта область 

спектра соответствует полосам эффективного 

поглощения основных пигментов, участвующих 

в фотосинтезе листа. Учитывая, что 

основным поглотителем излучения является 

хлорофилл, который участвует в фотосинтезе, 

он был выбран в качестве основного датчика 

жизнестойкости древесных культур. 

Для исследования интенсивности 

флюоресценции листьев берез тепловой источник 

заменялся на лазерный диод мощностью 

1 мвт на длине волны 460 нм, которая 

попадает в полосу поглощения хлорофилла. 

Для контроля адекватности оптических 

методов на тех же исследуемых образцах дополнительно 

проводился биохимический 

анализ фотосинтетических пигментов по методу 

Брагинского [8] . 

2. Результаты исследования 

2.1. Биохимический анализ 

Результаты химического анализа по 

определению количественного содержания 

фотосинтетических пигментов в листьях березы 

по методу Брагинского [8] представлены 

на рис. 3. 

Видно, что процесс завершения вегетации 

(июнь) сопровождается увеличением 

концентрации хлорофилла в массе листа с 

последующим спадом концентрации по мере 

старения листа и практически полным его 

исчезновением в октябре. В то же время деградация 

хлорофиллов в ходе старения сопровождается 

сохранением значительной 

части каротиноидов, что обуславливает более 

глубокое проникновение излучения в 

массу листа и приводит вследствие этого к 

увеличению поглощения в области 550 нм. 

263


Рис. 3. Содержание хлорофилла (а+б) в листьях березы на различных этапах вегетации, 

полученное методом Брагинского [8] 

Рис.4. Нормированные концентрации хлорофиллов a и b в листьях березы 

и основных атмосферных загрязнителей[9] в пункте наблюдения 4 

Характер изменения концентрации 

хлорофилла носит наиболее плавный характер 

только в контрольном пункте, соответствующем 

зеленой зоне. Во всех остальных 

контрольных пунктах наблюдается нелинейный 

характер изменения концентрации, связанный 

с влиянием внешних загрязнителей. 

Это позволяет ввести функцию ∆С, учитывающую 

влияние внешних загрязнителей на 

изменение концентрации хлорофилла: 

∆ C ( t) 

= С( 

t) 

/ Co( 

t) 

, (1) 

где С 0 (t) – изменение концентрации, обусловленное 

естественным биофизическим 

жизненным циклом растения, а C(t) – концентрация 

хлорофиллов в листьях растения в 

пункте наблюдения. 

На рис.4 представлены графики изменения 

нормированных на максимальное значение 

концентраций хлорофилла в листьях 

264


березы и различных атмосферных загрязнителей 

в воздухе в контрольном пункте 4. 

Видно, что основной вклад в изменение нелинейной 

концентрации ∆C(t) вносит примесь 

углекислого газа. 

2.2. Спектральный анализ 

Характерная статистически усредненная 

нормированная спектральная зависимость 

коэффициента обратного рассеяния 

представлена на рис. 5а. Видно, что характер 

зависимости коэффициента обратного рассеяния 

от длины волны имеет качественно 

схожий характер (коэффициент корреляции 

превышает 0,94) для всех пунктов наблюдения, 

существенно отличаясь только амплитудой 

в спектральном диапазоне вблизи 550 

нм, где лежат основные полосы поглощения 

хлорофиллов a и b. Спектральная интенсивность 

рассеяния вблизи 750 нм для всех 

пунктов наблюдения практически идентична. 

Это обусловлено тем фактором, что в качестве 

объекта исследования использовался 

один вид одновозрастной древесной растительности 

(береза), поэтому на данной длине 

волны основной вклад в интенсивность рассеяния 

вносят межклеточные вещества, характерные 

для данного вида растительности, 

которые практически неизменны на протяжении 

активной фазы жизненного цикла 

листа [4]. Фактически величина локального 

максимума вблизи 550 нм напрямую связана 

с концентрацией основных фотосинтезирующих 

пигментов растения и может быть 

использована как количественный критерий 

жизненного потенциала растения. Увеличение 

амплитуды пика соответствует меньшей 

концентрации хлорофилла и, следовательно, 

менее экологически благополучной ситуации 

в пункте наблюдения. Следовательно, согласно 

данным рис.5 наименее благоприятное состояние 

окружающей среды соответствует 

пункту 2, т.е. пересечению межреспубликанских 

трасс с максимальным пиковым значением 

выбросов углекислого газа. 

Одновременно проводилась регистрация 

интенсивности лазерно-индуцированной 

флюоресценции, характерная спектральная 

зависимость которой представлена на рис. 5б. 

Индуцированная флюоресценция имеет 

два характерных для хлорофилла максимума в 

красной области спектра на длинах волн 685 

и 735-740 нм [7], однако, за счет уширения 

идет частичное перекрытие спектров люминесценции 

и уверенная регистрация возможна 

только при превышении концентрации хлорофилла 

определенного порогового значения. 

Как видно из графиков рис. 5б, флуоресцентные 

отклики уменьшаются в процессе 

уменьшения экологической значимости 

пунктов наблюдения. Последующее уменьшение 

интенсивности флюоресценции связано, 

по-видимому, с уменьшением концентрации 

хлорофилла: высокая фотосинтетическая 

активность не требуется в условиях 

стресса и фотосинтетический аппарат редуцируется. 

По мере старения листа концентрация 

хлорофилла падает и флуоресцентный 

отклик наблюдается только в области 684 нм 

(рис. 6), что свидетельствует о деградации 

хлорофилла в процессе старения листа и является 

характерным для древесных культур с 

хорошими защитными механизмами. 

Из приведенных результатов также 

следует, что защитные механизмы жизнестойких 

древесных культур, находящихся в 

экологически неблагоприятной среде с повышенным 

содержанием углекислого газа 

(рис. 4), срабатывают медленнее, о чем отчетливо 

свидетельствует меньшая степень 

деградации хлорофилла в экологически неблагоприятных 

пунктах наблюдения 3 и 4, 

соответствующих пересечению интенсивно 

загруженных трасс (рис. 6). 

Следует, однако, иметь ввиду, что изменение 

абсолютного значения интенсивности 

обратного рассеяния обусловлено несколькими 

факторами: состоянием поверхности 

(включая ворсистость и влажность), 

естественным изменением концентрации 

(см. формулу (1)) и изменением спектральных 

характеристик вследствие аккумулирования 

в массе листа загрязнителей атмосферы. 

Для исключения первого фактора, который 

не зависит от состояния окружающей 

среды, весь последующий анализ проводился 

для дифференциального коэффициента обратного 

рассеяния, который определялся как 

отношение коэффициентов рассеяния R на 

длине волны 750 нм и 550 нм: 

K 

( t) 

( t) 

( t) 

R750 

= (2) 

R 

550 

265


а) 

б) 

Рис. 5 - Спектральная интенсивность обратного рассеяния (а) и лазерно-индуцированной флуоресценции (б) 

излучения от листьев березы в августе в различных пунктах наблюдения: 1 ( штрих-штрих пунктир), 

2 ( жирная сплошная кривая), 3 ( штрих-пунктир), 4 ( пунктир), 

5 ( тонкая сплошная кривая) 

266


Рис. 6. Лазерно-индуцированная флуоресценция хлорофилла листьев березы в октябре в различных пунктах 

наблюдения: 1 ( штрих-штрих пунктир), 2( жирная сплошная кривая), 

3 ( штрих-пунктир), 4 ( пунктир), 5 ( тонкая сплошная кривая) 

Учитывая, что влияние шероховатости 

поверхности на коэффициент рассеяния слабо 

зависит от длины волны в видимом диапазоне 

спектра, использование формулы (2) 

практически полностью (погрешность не более 

0,1%) исключало влияние состояния поверхности 

на анализируемые зависимости. 

Аналогично, используя корреляцию интенсивностей 

в пиках с содержанием хлорофилла 

в листьях, для флуоресцентного отклика 

удобно использовать дифференциальный коэффициент, 

определяемый как отношение 

интенсивностей флюоресценции на длинах 

волн 740 и 684 нм 

F684 

( t) 

F( t) 

≈ . (3) 

F ( t) 

740 

По аналогии с формулой (1) наряду с 

относительным коэффициентом флюоресценции 

F(t) использовался нелинейный коэффициент 

флюоресценции ∆F(t) 

Fn 

( t) 

∆ F( 

t) 

= 

F , (4) 

( ) 

0 t 

где n – номер пункта наблюдения, а в качестве 

естественного коэффициента флюоресценции 

F 0 использовались значения в контрольном 

пункте 5, соответствующем зеленой 

зоне города. 

267 

На рис. 7 представлены зависимости 

дифференциальных коэффициентов обратного 

рассеяния, и флюоресценции от времени. 

Как видно из рис. 7, знак производной 

функции дифференциального коэффициента 

обратного рассеяния К(t) совпадает с знаком 

производной функции ∆C(t), а знак производной 

функции дифференциального коэффициента 

флюоресценции F(t) – с производной 

функции календарного изменения концентрации 

СО 2 . Следовательно, можно утверждать, 

что дифференциальные функции содержат 

информацию об этих загрязнителях. 

Анализ зависимости (рис. 8) от времени 

нелинейного коэффициента ∆F(t) показывает, 

что коэффициент флюоресценции ∆F(t) 

качественно правильно отражает тенденцию 

изменение жизненного потенциала растения, 

однако наблюдаются и существенные отличия. 

Они, прежде всего, связаны с меньшим 

значением производной по времени от данных 

функций (сказывается «демпфирующее» 

и накопительное действие репродукционного 

механизма растения). Кроме того, если 

функциональная зависимость изменения 

концентрации хлорофилла практически повторяет 

зарегистрированную среднестатистическую 

зависимость от времени концен-


трации окиси углерода (ввиду его прямого 

участия в работе фотосинтетического аппарата 

листа), то коэффициент флюоресценции 

ввиду перекрытия спектров различных веществ, 

аккумулированных листом, включают 

в себя наряду с этим и количественные зависимости 

от других загрязнителей, в частности 

формальдегидов и диоксида азота 

(рис. 8), имеющие обратный знак производной 

по сравнению с временной зависимостью 

концентрации диоксида углерода. Таким 

образом, можно утверждать, что оптические 

методы контроля описывают многофакторную 

интегрированную зависимость 

жизненного потенциала растений от уровня 

загрязнения окружающей среды. 

Рис. 7. Изменения дифференциальных коэффициентов обратного рассеяния K(t) 

и флюоресценции F(t) листьев березы и нормированной концентрации 

основных атмосферных загрязнителей (по данным работы [8]) 

Рис. 8. Изменения нелинейного коэффициента флюоресценции ∆F(t), концентрации хлорофиллов 

в листьях березы, полученные по методу Брагинского, и концентрации 

основных атмосферных загрязнителей (по данным работы [8]) 

268


Выводы 

1. Использование метода дифференциального 

обратного рассеяния позволяет давать 

качественную оценку состояния древесных 

культур в различные периоды вегетации 

и определять его жизненный потенциал, объективно 

ранжируя тем самым районы города 

по степени экологического состояния. 

2. Анализ нелинейного коэффициента 

обратного флюоресценции показал, что его 

значения коррелируют с изменением концентрации 

атмосферных загрязнителей для 

различных районов города Самары. 

3. Изменение физиологического состояния 

растения, вызванные антропогенными 

факторами, непосредственно отражаются 

на значениях интенсивности максимумов 

спектральной интенсивности 

флуоресценции и зависят от степени загрязнения 

(в том числе многофакторного) в отсутствии 

визуальных признаков повреждения 

и, даже, при отсутствии изменений концентрации 

хлорофилла в массе листа. 


Работа выполнена при поддержке аналитической 

ведомственной целевой программы 

«Развитие научного потенциала 

высшей школы» (2006-2008 годы) и гранта 

РФФИ 08-02-99038-р_офи. 


1. Mezlyak, M.N. Three-band model for 

noninvasive estimation of chlorophyll, carotenoids, 

and anthocyanin contents in higher plant leaves 

[Текст] / M.N. Mezlyak, A.A. Gitelson // Geophysical 

research letters. – 2006. – v.33. – P.1-5. 

2. Saito, Y. Investigation of laser – induced 

fluorescence of several leaves for application 

to lidar vegetation monitoring [Текст] / 

Y. Saito [and other] // Appl. Opt. – 1998. – v. 

37. – p. 431-437. 

3. Мерзляк, М.Н. Спектры отражения 

листьев и плодов при нормальном развитии, 

старении и стрессе [Текст] / М.Н. Мерзляк // 

Физиология растений. – 1997. – Том 44, №5. 

– C.707-716. 

4. Воробьева, Е.В. Экспериментальные 

исследования и математическое моделирование 

оптических характеристик растительной 

ткани [Текст] / Е.В. Воробьева [и 

др.] // Известия Самарского научного центра 

Российской академии наук. – 2007. – Т.9, №3 

(21). – C. 620-625. 

5. Веселовский, В.А. Люминесценция 

растений [Текст] / В.А. Веселовский, Т.В. 

Веселова – М.: Наука, 1990. 

6. Захаров, В.П. Моделирование влияния 

покровных тканей растения на характеристики 

рассеянного обратного излучения 

[Текст] / В.П. Захаров, И.А. Братченко, Е.В. 

Тимченко // Вестник СГАУ, 2008. 

7. Fateeva, N.L. Application of the 

method of laser-induced fluorescence [Текст] / 

N.L. Fateeva, G.G. Matvienko // SPIE Proceedings 

on «Remote Sensing». – 2003. – 5232. – 

P.652-657. 

8. Braginsky, L.P. Problems of analytic 

chemistry: [Текст] / L.P. Braginsky – Moscow, 

Science, 1997. – P. 27-38. 

9. Исследования содержания концентрации 

вредных веществ в городе Самары 

[Текст] // Отчет гидрометеоцентра, 2006. 

References 

1. Mezlyak, M.N. Three-band model for 

noninvasive estimation of chlorophyll, carotenoids, 

and anthocyanin contents in higher plant leaves / 

M.N. Mezlyak, A.A. Gitelson // Geophysical research 

letters. – 2006. – v.33. – P.1-5. 

10. Saito, Y. Investigation of laser – induced 

fluorescence of several leaves for application 

to lidar vegetation monitoring [Текст] / 

Y. Saito [and other] // Appl. Opt. – 1998. – v. 

37. – p. 431-437. 

2. Merzlyak, M.N. Spectra of reflection 

of leaves and fruits at normal development, ageing 

and stress / M.N. Mezlyak // Physiology of 

plants. – 1997. – V. 44, N 5. – P. 707-716. – [in 

Russian]. 

3. Vorobjeva E.V., Bratchenko I.A., 

Zakharov V.P., Timchenko P.E., Коtova S.P. 

Experimental research and mathematical modelling 

of optical characteristics of a vegetative tissue 

/ E.V. Vorobjeva [and other] // Samara centre 

of science the Russian Academy of Science. 

269


– 2007. – V. 9, N 3(21). – P. 620-625. – [in 

Russian]. 

4. Veselovsky, V.A. Plant luminescence 

/ V.A.Veselovsky, T.V. Veselova – Moscow, 

Science, 1990. – [in Russian]. 

5. Zakharov, V.P. Modeling of the influence 

tissue plant on features of backscattered 

radiation / V.P. Zakharov, I.A. Bratchenko, E.V. 

Timchenko // Proceedings of SGAU, 2008. – [in 

Russian]. 

6. Fateeva, N.L. Application of the method 

of laser-induced fluorescence / N.L. Fateeva, 

G.G. Matvienko // SPIE Proceedings on 

«Remote Sensing». – 2003. – V. 5232. – 

P.652-657. 

7. Braginsky, L.P. Problems of analytic 

chemistry / L.P. Braginsky –Moscow, Science, 

1997. – P. 27-38. 

8. The review of a condition of pollution 

of atmospheric air in cities in territory of activity 

// privolgsky UGMS (Samara, 2007). – [in 

Russian]. 

ECOLOGICAL MONITORING OF MEGAPOLIS ON THE BASIS OF DIFFERENTIAL 

BACKSCATTERING CONTROL OF THE WOOD CULTURE 

© 2008 V.P. Zakharov 1 , O.N. Makurina 2 , E.V. Timchenko 1, 3 , P.E. Timchenko 1 , 

S.P. Kotova 3 , R.V. Valliulov 1 


2 Samara State University 

3 P.N. Lebedev Physical Institute of the Russian Academy of Science, Samara Branch 

The application of the differential backscattering method and the fluorescent analysis of wood cultures for the 

determination of ecological quality of different megapolis areas are investigated. The correlation of leaves optical characteristics 

with the data of the chemical analysis of leaves pigments concentration is shown on the basic of year statistical 

results of wood cultures spectral characteristics observation. It is experimentally found, that the method of differential 

backscattering allows to identify megapolis areas on their ecological level. 

Ecological monitoring, differential backscattering, fluorescence, the chemical analysis, nonlinear factor, differential 

factor, atmospheric pollutions 

Информация об авторах 

Захаров Валерий Павлович, профессор кафедры Автоматических систем энергетических 

установок Самарского государственного аэрокосмического университета имени академика 

С.П. Королева, доктор физико-математических наук, профессор, zakharov@ssau.ru. Область 

научных интересов –физика плазмы, нелинейная оптика, взаимодействия лазерного излучения 

с биообъектами, медицинская лазерная техника 

Тимченко Елена Владимировна, инженер, аспирантка 3-го курса Самарского государственного 

аэрокосмического университета имени академика С.П. Королева (специальность 

«оптика»), vorobjeva.82@mail.ru. Область научных интересов – оптические методы 

диагностики, взаимодействие низкоинтенсивного лазерного излучения с биологическими 

объектами. 

Валиуллов Руслан Валерьевич, инженер, соискатель 3-го курса Самарского государственного 


«приборы и методы экспериментальной физики»), mts_rus@list.ru. Область научных интересов 

– оптические методы диагностики, взаимодействие низкоинтенсивного лазерного излучения 

с биологическими объектами. 

270


Тимченко Павел Евгеньевич инженер, аспирант 3-го курса Самарского государственного 


«приборы и методы экспериментальной физики»), timpavel@mail.ru. Область научных интересов 

– оптические методы диагностики, 3D визуализация многократно рассеивающих 

сред. 

Котова Светлана Павловна, старший научный сотрудник, заведующая лабораторией 

автоматизации и моделирования лазерных систем Самарского филиала ФИАН, кандидат физико-математических 

наук, доцент, kotova@fian.smr.ru. Область научных интересов – 

разработка корректоров волнового фронта, распространение лазерного излучения в биотканях, 

методы лазерной манипуляции микроскопическими объектами. 

Макурина Ольга Николаевна, профессор, доктор биологических наук, профессор, 

Самарский государственный университет, dekanat.05.54@mail.ru. Область научных интересов 

– биохимия, химический анализ, экология. 

Zaharov Valeriy Pavlovich, professor of department of the Automatic systems of the energy 

devices, doctor of physico-mathematical sciences, professor, Samarа State Aerospace University, 

zakharov@ssau.ru. Area of scientific interests - plasma physics, nonlinear optics, interactions of the 

laser radiation with biological objects, medical laser technology 

Timchenko Elena Vladimirovna, engineer, 3-rd course postgraduate student, Samarа State 

Aerospace University, vorobjeva.82@mail.ru. Area of scientific interests - optical diagnostics 

methods, interaction of low-level laser radiation with biological object. 

Valiullov Ruslan Valerievich, engineer, 3-rd course competitor, Samarа State Aerospace 

University, mts_rus@list.ru. Area of scientific interests - optical diagnostics, interaction of lowlevel 

laser radiation with biological object. 

Timchenko Pavel Evgenievich engineer, 3-rd course postgraduate student, Samarа State 

Aerospace University, timpavel@mail.ru. Area of scientific interests - optical diagnostics methods, 

3D-visualisasion of multi-scattering media. 

Kotova Svetlana Pavlovna, senior staff scientist, head of laboratory of laser systems automation 

and modeling, candidate of physico-mathematical sciences, assistant professor, Samara branch 

FIAN, kotova@fian.smr.ru. Area of scientific interests - wave front adjustor design, laser radiation 

propagation in biological tissue, laser manipulation of microscopic objects. 

Makurina Oliga Nikolaevna, professor, doctor of biological sciences, professor, Samara 

State University, dekanat.05.54@mail.ru. Area of scientific interests - biochemistry, chemical 

analysis, ecology. 

271


УДК 502.3 

СОЗДАНИЕ ТЕРРИТОРИАЛЬНОЙ КОМПЛЕКСНОЙ, МНОГОСТУПЕНЧАТОЙ 

СИСТЕМЫ МОНИТОРИНГА И ПРОГНОЗИРОВАНИЯ ЧРЕЗВЫЧАЙНЫХ 

СИТУАЦИЙ ПРИРОДНОГО, ТЕХНОГЕННОГО И БИОЛОГО-СОЦИАЛЬНОГО 

ХАРАКТЕРА НА ТЕРРИТОРИИ САМАРСКОЙ ОБЛАСТИ 

© 2008 Т. Г. Габричидзе 1 , П. М. Фомин 2 , И. М. Янников 2 

1 Главное управление МЧС России по Самарской области 

2 Главное управление МЧС России по Удмуртской Республике 

Разработана система мониторинга и прогнозирования чрезвычайных ситуаций природного, техногенного 

и биолого-социального характера на территории Самарской области. Описан механизм сбора, обработки и передачи 

информации для ее оценки и принятия управленческих решений. 

Чрезвычайная ситуация, мониторинг, прогнозирование, обработка информации 

В РФ функционируют свыше 10 тыс. 

потенциально химически опасных объектов 

(ПОХО), которые относятся к предприятиям 

топливно-энергетического комплекса (ТЭК), 

цветной и черной металлургии, химической 

промышленности и сельского хозяйства 

(70% данных объектов расположены в 146 

городах с населением более 100 тыс. чел.). 

Подавляющее большинство этих объектов 

построено и введено в строй 40-50-60 

лет назад при нормативных сроках эксплуатации 

до 15 лет, химико-технологическое 

оборудование к настоящему времени многократно 

отслужило свои сроки, морально устарело 

и физически изношено. В атмосферный 

воздух ежегодно поступает около 20 

млн.т. химических веществ, 75% всех смертельных 

случаев связано с воздействием химических 

факторов. 

Число ПОХО, имеющих запредельную 

выработку проектного ресурса, неуклонно 

растёт, объемы затрат на реконструкцию, 

модернизацию, вывод из эксплуатации могут 

достигать 7% ВВП. Следует учесть, что затраты 

на ликвидацию последствий аварий и 

катастроф в 10-15 раз выше затрат, необходимых 

для превентивных мер. 

Ежегодно на пожарах в стране гибнет 

более 15 тыс. чел., при этом большая часть 

от воздействия опасных химических веществ, 

образующихся в результате горения. 

Загрязнение вредными химическими 

веществами атмосферного воздуха рабочей 

зоны, питьевой воды, почвы, продуктов питания 

и пищевого сырья свидетельствует, 

что проблема химической и биологической 

безопасности является одной из важнейших 

в области охраны здоровья населения. 

В Российской Федерации по загрязненности 

воздуха наша область на 59 месте. С 

2000 г. загрязнение атмосферы выросло почти 

на 18 %. С 1га населенной площади выбрасывается 

1,29 т загрязненных веществ (в 

Красноярском крае 5т). По образованию отходов 

(т/тыс. тетраджоулей произведенной 

энергии) Самарская область на 86 месте. По 

загрязненным стокам (% водных ресурсов) на 

75 месте благодаря тому, что, во-первых, 

Волга обладает большим восстановительным 

потенциалом, во-вторых, мероприятия по 

очищению стоков стали эффективнее по 

сравнению с 2000 г. Воздействие человека на 

водоемы сократилось на 13%, по нарушениям 

экосистем (%) Самарская область на 28 месте, 

т.к. нарушено 61,6% экосистем, а охраняется 

всего 2,4% от общей площади территории области, 

в то же время необходимо, чтобы 1/3 

территории охранялась, тогда мирно могут 

сосуществовать природа и человек. 

На территории области химически 

опасных объектов 81, где сосредоточено 

107 тыс. т АХОВ, 40% предприятий сосредоточено 

в категорированных городах: Самаре, 

Тольятти, Новокуйбышевске, Сызрани, 

Чапаевске, Жигулевске. 

Потенциальную опасность представляют 

объекты экономики (ОЭ) базовых отраслей 

промышленности (ЗАО «Куйбышевазот», 

ОАО «Тольяттиазот», ОАО «Тран- 

272


саммиак»), а также МП водопроводноканализационного 

хозяйства. 

В случае возможных ЧС техногенного 

характера в Самарской области глубина зоны 

химического заражения может достигать 

20 км, на которой расположены 18 населенных 

пунктов с населением 600 тыс. 

человек (рис. 1): 

Рис. 1 

По активности в деле охраны окружающей 

среды Самарская область занимает 

13 место, разрабатывается новый вариант 

местного закона об экологии. 

В соответствии с Федеральным законом, 

Постановлениями Правительства Российской 

Федерации и утвержденной концепцией 

ФЦП «Национальная система химической 

и биологической безопасности РФ» 

(2009-2013г.г.), а также «Концепцией региональной 

безопасности Самарской области», 

утвержденной 19 марта 2008г., губернатором 

предложено рассмотреть порядок создания 

территориальной комплексной многоступенчатой 

системы мониторинга и предупреждения 

ЧС природного, техногенного и биологосоциального 

характера в Самарской области. 

Территориальная комплексная многоступенчатая 

система мониторинга и прогнозирования 

чрезвычайных ситуаций создается 

на региональном, муниципальном и объектовом 

(в пределах территории области) 

уровне, входит в состав областной территориальной 

подсистемы единой государственной 

системы предупреждения и ликвидации 

чрезвычайных ситуаций и является информационно-аналитической 

подсистемой единой 

государственной системы предупреждения 

и ликвидации чрезвычайных ситуаций 

(РСЧС), построенной на основе: 

- комплексных (интегрированных) многоступенчатых 

систем мониторинга в сопряжении 

с дежурно-диспетчерской службой 

(ДДС), локальной системой оповещения 

(ЛСО), силами реагирования опасных объектов; 

- сопряжения с единой дежурно диспетчерской 

службой -01 (ЕДДС-01), системой 

оповещения и реагирования сил и 

средств муниципальных образований; 

- сопряжения с центром управления 

кризисных ситуаций (ЦУКС) системами информирования 

и оповещения населения в 

рамках общероссийской комплексной системы 

информирования и оповещения населения 

(ОКСИОН) и силами реагирования 

Российской системы предупреждения и лик- 

273


видации чрезвычайных ситуаций (РСЧС) 

всех уровней. 

Территориальная комплексная многоступенчатая 

система мониторинга и прогнозирования 

чрезвычайных ситуаций предназначена 

для: 

- организации и проведения работ по заблаговременному 

выявлению источников 

чрезвычайных ситуаций природного и 

техногенного характера; 

- выявления причин и условий возникновения 

чрезвычайных ситуаций; 

- определения возможных масштабов чрезвычайных 

ситуаций и характера их развития; 

- выработки рекомендаций по предупреждению, 

предотвращению и ликвидации 

чрезвычайных ситуаций и смягчения их 

последствий. 

Основными задачами территориальной 

комплексной многоступенчатой системы 

мониторинга и прогнозирования чрезвычайных 

ситуаций являются: 

1. Организация мероприятий по мониторингу 

и прогнозированию чрезвычайных 

ситуаций природного и техногенного характера; 

2. Оперативный сбор, обработка и анализ 

информации о потенциальных источниках 

чрезвычайных ситуаций природного и 

техногенного характера; 

3. Прогнозирование возникновения 

чрезвычайных ситуаций и их последствий на 

основе оперативной фактической и прогностической 

информации, поступающей от ведомственных 

и других служб наблюдения за 

состоянием окружающей природной среды, 

за обстановкой на потенциально опасных 

объектах и прилегающих к ним территориях; 

4. Представление комиссии по предупреждению 

и ликвидации чрезвычайных ситуаций 

и обеспечению пожарной безопасности 

области исполнительным органам государственной 

власти области, муниципальным 

образованиям области прогнозов чрезвычайных 

ситуаций для принятия ими 

управленческих решений по предупреждению 


5. Разработка вероятных сценариев развития 


6. Организационно-методическое руководство 

и контроль состояния готовности и 

деятельности сети наблюдения и лабораторного 

контроля гражданской обороны области; 

7. Создание и поддержание информационной 

системы и банка данных по чрезвычайным 

ситуациям на территории области; 

8. Информационно-аналитическое взаимодействие 

и координация деятельности органов 

и организаций, входящих в территориальную 

систему мониторинга. 

Перечень организаций, учреждений, 

ведомств, осуществляющих мониторинг состояния 

окружающей среды опасных природных 

явлений и процессов, наблюдение за 

обстановкой на ОПО и прогнозирование ЧС 

на территории КВО, ПОО, муниципальных 

образований и региона в целом, состоит из 

подсистем: 

а) мониторинг ЧС техногенного характера, 

в том числе: 

- опасных производственных объектов; 

- гидротехнических сооружений; 

- систем жизнеобеспечения; 

- проектируемых и строящихся объектов 

и населенных пунктов. 

Выполнение вышеперечисленных задач 

возложено на управление по технологическому 

и экологическому надзору Ростехнадзора 

по Самарской области (по согласованию) 

и министерство строительства и жилищно-коммунального 

хозяйства Самарской 


б) мониторинг опасных природных 

процессов, включающий: 

- опасные геологические явления; 

- опасные гидрологические явления; 

- опасные метеорологические явления; 

- природные пожары. 

Возложено на Средневолжское межрегиональное 

управление геодезии и картографии 

(по согласованию); государственное учреждение 

«Самарский центр по гидрометеорологии 

и мониторингу загрязнения окружающей 

среды с региональными функциями» 

(по согласованию); департамент лесного 

хозяйства по Самарской области (по согласованию); 

министерство природных ресурсов 

и охраны окружающей среды Самарской 


274


в) мониторинг ЧС биолого-социального 

характера, в том числе: 

- эпидемии; 

- эпизоотии; 

- эпифитотии. 

Возложено на министерство здравоохранения 

и социального развития Самарской области; 

управление ветеринарии Самарской области; 

министерство сельского хозяйства и 

продовольствия Самарской области; министерство 

экономического развития, инвестиций 

и торговли Самарской области. 

В состав ТСМП ЧС включены надзорные 

территориальные органы, федеральные 

органы исполнительной власти (по согласованию), 

органы исполнительной власти Самарской 

области, организации (по согласованию), 

находящиеся на территории Самарской 

области и осуществляющие мониторинг 

по направлениям своей деятельности (далее 

– службы ТСМП ЧС). 

На рис. 2 представлена структура (механизм) 

сбора, обработки и передачи информации 

для ее оценки и принятия управленческих 

решений для химически опасного 


Система сбора и обработка информации 

включает силы и средства более чем 25 

мониторинговых систем различных министерств 

и ведомств, которые обеспечивают 

комплексные наблюдения за уровнем загрязнения 

воздуха, воды, почвы и биоты, другие 

осуществляют контроль за гидрометеорологической 

и геофизической обстановкой в целях 

выявления предвестников природных катастроф, 

признаков техногенных аварий – 

прогноза таких явлений, как ядерные взрывы 

и их последствия, промышленные взрывы, 

землетрясения, извержение вулканов, аномальные 

явления температур, имеющих место 

при пожарах, засухах, морозах, крупномасштабные 

вихри, АХОВ и их перемещение 

в атмосфере. Включение в единую систему 

сил и средств большого количества ведомств 

обуславливает наличие широких 

возможностей по решению задач комплексного, 

многоступенчатого мониторинга с иерархической 

структурой сбора, обработки 

выдачи информации (рис. 3) по уровням 

(объектовый, муниципальный, межмуниципальный, 

региональный, межрегиональный и 

федеральный) с единой базой данных по 

всем элементам данных, с планами действий 

на всех уровнях для принятия решений по 

организации защиты от ЧС с созданием системы 

немедленного реагирования на угрозу 

возникновения ЧС на опасном объекте, позволяет 

создать комплексную систему безопасности 

на основе интегрированной многоступенчатой 

системы мониторинга КВО 

(ПОО) в сопряжении с ДДС, ЛСО силами и 

средствами опасного объекта, ЕДДС-01 

ЛСО, системами информационного оповещения 

и силами реагирования М.О., ЕДДС- 

01 в составе ЦУКС, системой информирования, 

оповещения в рамках ОКСИОН, силами 

и средствами реагирования региона в системе 

РСЧС. 

В зависимости от обстановки, масштаба 

прогнозируемой или возникшей чрезвычайной 

ситуации решением комиссии по 

чрезвычайным ситуациям и обеспечению 

пожарной безопасности в пределах конкретной 

территории устанавливается один из 

следующих режимов функционирования 

ТСМП ЧС ЦУКС: 

режим повседневной деятельности - 

при нормальной производственно-промышленной, 

радиационной, химической, биологической 

(бактериологической), сейсмической, 

гидрометеорологической обстановке, 

при отсутствии эпидемий, эпизоотии и эпифитотий, 

а также при отсутствии прогнозных 

данных о возникновении ЧС; 

режим повышенной готовности - при 

ухудшении производственно-промышленной, 

радиационной, химической, биологической 

(бактериологической), сейсмической, 

гидрометеорологической обстановки, а также 

наличии прогнозных данных о возникновении 

ЧС; 

режим чрезвычайной ситуации - при 

возникновении и во время ликвидации ЧС. 

На рис. 4 мы видим количество объектов, 

подключенных к ЕДДС-01, уменьшение ЧС 

на подключенных объектах (4б) и (4в), предотвращенный 

ущерб. 

275


Рис. 2 

276


Рис. 3 

Рис. 4 

277


Порядок финансирования 

и материально-технического обеспечения 

Финансирование территориальной 

комплексной многоступенчатой системы 

мониторинга и прогнозирования чрезвычайных 

ситуаций Самарской области осуществляется 

на соответствующем уровне в пределах 

утвержденных на очередной финансовый 

год смет учреждений, организаций, входящих 

в территориальную комплексную многоступенчатую 

систему мониторинга и прогнозирования 

чрезвычайных ситуаций Самарской 

области, и за счет средств предприятий 

и организаций. 

Создание комплексной системы безопасности 

КВО, ПОО позволит: 

1. Последовательно снижать до приемлемого 

(10 -6 год -1 ) уровня риска возникновения 

ЧС, в т.ч. воздействия опасных химических, 

биологических факторов на население, 

биосферу, техносферу и экологические 

системы. 

2. Своевременно предупреждать возникновение 

ЧС путем систематического мониторинга, 

в т.ч. химических, биологических 

опасностей, контроля исполнения законодательства 

и нормативных документов в области 

химической и биологической безопасности. 

3. Уменьшать масштабы потенциальных 

очагов ЧС, в т.ч. химического и биологического 

поражения, суммарных площадей 

зон защитных мероприятий путем проведения 

комплексных мер в отношении источников 

ЧС. 

4. Повышать защищенность населения 

и среды его обитания от негативных 

влияний опасных веществ, в т.ч. химических 

и биологических агентов, снижать уровень 

их влияния путем внедрения современных 

средств защиты, разработанных в УР. 


1. Алексеев, В.А., Принципы многоступенчатого 

экологического мониторинга 

объектов хранения и уничтожения химического 

оружия. [Текст] / В.А. Алексеев, 

Т.Г. Габричидзе, В.И. Заболотских − Сборник 

«Федеральные и региональные проблемы 

уничтожения химического оружия». – 

М., РАН, 2002. 

2. Габричидзе, Т.Г. Многоступенчатая 

система экологического мониторинга 

объекта по хранению и уничтожению химического 

оружия: Диссертация [Текст] / Т.Г. Габричидзе 

− УдГУ, Ижевск, 2002. − 145 с. 

3. Габричидзе, Т.Г. Организация 

комплексной системы безопасности критически 

важных объектов на территории Удмуртской 

Республики. Технологии гражданской 

безопасности [Текст] / Т.Г. Габричидзе 

// Научно-технический вестник МЧС России. 

− 2006. − № 3(9). 

4. Габричидзе, Т.Г. Основы организации 

системы многоступенчатого экологического 

мониторинга и ее сопряжение с 

АИУС РСЧС [Текст] / Т.Г. Габричидзе, И.М. 

Янников // Промышленная экологическая 

безопасность. − 2007. − № 5(7). − С. 37-18. 

5. ГОСТ Р 22.1.12-2005. Безопасность 

в ЧС. Структурированная система мониторинга 

и управления инженерными системами 

зданий и сооружений. Общие требования. 

[Текст]. 

6. Федеральный закон от 21 декабря 

2004 г. № 68-ФЗ «О защите населения и территорий 

от чрезвычайных ситуаций природного 

и техногенного характера» [Текст]. 

7. Основы государственной политики 

в области обеспечения химической и биологической 

безопасности Российской Федерации 

до 2010 года и на дальнейшую перспективу. 

Утверждены Президентом Российской 

Федерации 4.12.2003 г. [Текст]. 

8. Основы государственной политики 

в области обеспечения безопасности населения 

Российской Федерации и защищенности 

критически важных и потенциально опасных 

объектов от угроз техногенного, природного 

характера и террористических актов от 28 

сентября 2006 г., № 1649 [Текст]. 

9. Постановление Правительства Российской 

Федерации от 30 декабря 2003 г. № 

794 (С изм. от 25.05.2005 г.) «О единой государственной 

системе предупреждения и ликвидации 

чрезвычайных ситуаций» [Текст]. 

10. Постановление Правительства 

Российской Федерации от 16.05.2005 г. (ред. 

23.03.2006 г.) № 303 «О разграничении полномочий 

федеральных органов исполнительной 

власти в области обеспечения биологической 

и химической безопасности» [Текст]. 

278


11. Распоряжение Правительства Российской 

Федерации от 28 января 2008 г. № 

74-р Концепция Федеральной целевой программы 

«Национальная система химической 

и биологической безопасности Российской 

Федерации (2009 - 2013 годы)» [Текст]. 


Российской Федерации от 23 августа 2007 г. 

№ 536 «Об утверждении соглашения между 

МЧС и Самарской областью о передаче друг 

другу части своих полномочий» [Текст]. 


Российской Федерации от 21 мая 2007 г. № 

304 «О классификации чрезвычайных ситуаций» 

[Текст]. 

14. Концепция региональной безопасности 

Самарской области, утвержденная губернатором 

Самарской области от 19 марта 

2008 г. [Текст]. 

15. Указ президента Российской Федерации 

от 13 сентября 2004 г. № 1167 «О 

неотложных мерах по повышению эффективности 

борьбы с терроризмом» [Текст]. 

References 

1. Alekseev, V.A. Principles of multistep 

ecological monitoring of chemical weapons 

storage and destruction sites / V. A. Alekseev, 

T. G. Gabrichidze, V. I. Zabolotskikh – in the 

Digest “Federal and Regional Problems of 

Chemical Weapons Destruction”, M., RAS, 

2002. 

2. Gabrichidze, T.G. A multi-step ecological 

monitoring of chemical weapons storage 

and destruction sites, Dissertation / T. G. Gabrichidze 

– UdSU, Izhevsk, 2002 – 145 pages. 

3. Gabrichidze, T.G. Organization of a 

complex security system of critically important 

installations on the Udmurtskaya Republic territory. 

Civil Security Technologies / T. G. Gabrichidze 

// Scientific-technical bulletin of RF 

EM, 2006. – No. 3(9). 

4. Gabrichidze, T.G. Organizational 

principles of a system for multi-step ecological 

monitoring and its conjugation with AIUS 

RSCHS / T. G. Gabrichidze, I. M. Yannikov // 

Industrial Ecological Security – 2007, No. 5(7). 

– Pp. 37 – 18. 

5. State Standard Р 22.1.12-2005. Security 

in Emergency Situations. A structurized 

system of engineering systems monitoring and 

management. General requirements. 

6. Federal law of 12.212004 No. 68-F3 

“On protection of population and territories in 

natural and technogenous emergency situations”. 

7. Principles of public policy in the field 

of chemical and biological protection of the 

Russian Federation till 2010 and in future. Approved 

by the RF President, 12.04.2003. 

8. Principles of public policy in the field 

of protection of the Russian Federation population 

and security of critically important and potentially 

hazardous objects against natural and 

technogenous threats and acts of terror of 

09.28.06, N0. 1649. 

9. RF government regulation of 

12.30.03 No. 794 (with amendments of 

05.25.05) “On a unified state system of emergency 

prevention and elimination”. 


05.16.05 (ed. 03.23.06) No. 303 “On the distribution 

of authorities of the federal executives in 

the field of biological and chemical protection”. 

11. RF government decree of 01.28.08 

No. 74-r “Concept of the target-oriented federal 

program “National system of chemical and biological 

security of the Russian Federation (2009 

– 2013)”. 


08.23.07 No. 536 “On the approval of the 

agreement between the ESM and Samara Region 

on redistribution of authorities”. 


05.21.05 No. 304 “On emergency classification”. 

14. Security Concept for the Samara Region, 

approved by Samara region governor 

03.19.08. 

15. RF presidential decree of 09.13.04 

No. 1167 “On urgent measures for enhancement 

of efficiency of terror fighting”. 

279


CREATION OF TERRITORIAL COMPLEX, MULTISTAGE SYSTEM 

OF MONITORING AND FORECASTING OF EXTREME SITUATIONS 

OF NATURAL, TECHNOGENIC AND BIOLOGO-SOCIAL CHARACTER 

FOR TERRITORIES OF THE SAMARA AREA 

© 2008 T.G. Gabrichidze 1 , P.M. Fomin 2 , I.M. Yannikov 2 

1 Senior department of the Ministry of Emergency Measures of Russia on the Samara area 

2 Senior department of the Ministry of Emergency Measures of Russia on the Udmurt Republic 

The system of monitoring and forecasting of extreme situations of natural, technogenic and biologo-social character 

for territories of the Samara area is developed. The mechanism of gathering, processing and an information transfer 

for its estimation and acceptance of administrative decisions is described. 

Extreme situation, monitoring, forecasting, information processing 


Габричидзе Тамази Георгиевич, начальник ГУ МЧС России по Самарской области, 

к.т.н., Область научных интересов: система мониторинга, системный анализ управления обработкой 

информации. 

Фомин Петр Матвеевич, начальник ГУ МЧС России по Удмуртской Республике, к.т.н., 

Область научных интересов: система мониторинга, системный анализ управления обработкой 

информации. 

Янников Игорь Михайлович, первый заместитель начальника ГУ МЧС России по Удмуртской 

Республике, к.т.н., Область научных интересов: система мониторинга, системный 

анализ управления обработкой информации, биологический мониторинг. 

Gabrichidze Tamazi Georgievich, is head of SD ESM in Samara region, Candidate of Engineering. 

Research interests: monitoring system, system analysis of information processing management. 

Fomin Petr Matveevich, is head of SD ESM of the RF in Udmurdtskaya Republic, candidate 

in Engineering. Research interests: monitoring system, system analysis of information processing 

management. 

Yannikov Igor Mikhailovich, is the first deputy head of SD ESM of the RF in Udmurdtskaya 

Republic, candidate in Engineering. Research interests: monitoring system, system 

analysis of information processing management, biological monitoring. 

280


САМАРСКОГО ГОСУДАРСТВЕННОГО 

АЭРОКОСМИЧЕСКОГО УНИВЕРСИТЕТА 

имени академика С. П. КОРОЛЁВА 

№ 2 (15) 

2008 

Каталожная цена: 500 руб. 

Корректор Карпова Л. М. 

Компьютерная вёрстка Смагин С. В. 

Переводчик Котляр М. И. 

Технолог Никонов В. В. 

Формат 60×84 1/8. Бумага офсетная. Печать офсетная. 

Тираж 200. Заказ 30. 

Отпечатано в ОГБ НИР 

Самарского государственного аэрокосмического университета 

443086, Самара, Московское шоссе, 34

Правила оформления статей для журнала 

«Вестник Самарского государственного аэрокосмического университета 

имени академика С. П. Королёва» 

1. Статья представляется в двух экземплярах, распечатанных на лазерном принтере на 

одной стороне бумаги в режиме качественной печати, а также в электронном виде на отдельном 

носителе ответственному секретарю редакционной коллегии журнала Прохорову Александру 

Георгиевичу по адресу: 443086, Самара, Московское шоссе, 34, 212а – 3А, тел.: (846) 

267 48 41, электронная почта: vest@ssau.ru. 

2. Текст статьи представляется в формате Microsoft Word на дискетах, CD или DVD. 

Объём статьи - до 10 страниц формата А4. Имя файла определяется по фамилии первого 

автора: фамилия.doc. Поля - по 2 см с каждой стороны, текст - кегль 12, одинарный междустрочный 

интервал. Выравнивание: по ширине страницы. Шрифты - Times New Roman, 

Symbol. Отступ первой строки абзаца - 1 см. Страницы должны быть пронумерованы. 

Замена буквы «ё» на букву «е» недопустима. Написание в тексте буквы «ё» является 

обязательным. 

3. Допускается наличие рисунков, формул и таблиц по тексту. 

Рисунки могут быть созданы средствами Microsoft Word/Excel или в форматах JPEG, 

GIF, TIFF, PNG. Подпись к рисунку начинается со слова «Рис.» и номера по порядку, подпись 

располагается снизу, выравнивание – по центру. Для ссылки по тексту статьи на рисунок 1 

следует использовать сокращение: рис. 1. 

Для математических выражений и формул следует использовать Microsoft Equation 3.0 

и буквы латинского (Times New Roman, курсив, размер 12) и греческого (Symbol, курсив, размер 

12) алфавитов. Формулы, на которые в статье делаются ссылки, следует печатать с новой 

строки, при этом формулы нумеруются в порядке следования по тексту статьи. Номер 

формулы и ссылка на неё в тексте обозначается числом в круглых скобках: (1), (2), (3). Длина 

формулы на строке строго ограничена – до 80 мм (допускается перенос на следующие строки). 

Заголовок таблицы начинается со слова «Таблица» и её номера по порядку, заголовок 

размещается сверху, выравнивание – по левому краю. Для ссылки по тексту статьи на таблицу 

1 следует использовать сокращение: табл. 1. 

4. Библиографический список оформляется отдельным разделом в конце статьи, при 

этом литературные источники располагаются в порядке их использования по тексту статьи в 

виде нумерованного списка, и оформляется в соответствии с действующим ГОСТ. 

5. К тексту статьи прилагается направление организации (если авторы не являются 

сотрудниками СГАУ), рецензия специалиста по научному направлению статьи (не являющегося 

сотрудником подразделения, где работают авторы), акт экспертизы, информация об авторах 

для опубликования в журнале. На отдельной странице указываются сведения об авторах 

для служебного пользования: фамилия, имя, отчество, должность, учёная степень, учёное 

звание, место работы, служебный и домашний адреса, телефон, электронная почта. Статья 

должна быть подписана всеми авторами. 

6. Статьи, не отвечающие перечисленным требованиям, к рассмотрению не принимаются. 

Рукописи и сопроводительные документы не возвращаются. Датой поступления рукописи 

считается день получения редакцией окончательного текста. 

7. Плата с аспирантов за публикацию рукописей не взимается.

Образец оформления 

УДК 536.04 

МОДЕЛИРОВАНИЕ ТЕПЛОВЫХ ПОЛЕЙ СЛОЖНОЙ ЗАМКНУТОЙ 

СТРУКТУРЫ НА БОРТУ ИССЛЕДОВАТЕЛЬСКОЙ 

КОСМИЧЕСКОЙ ЛАБОРАТОРИИ 

© 2006 Г. П. Аншаков 1 , В. В. Бирюк 2 , В. В. Васильев 2 , В. В. Никонов 2 , В. В. Салмин 2 

1 

ФГУП ГНПРКЦ «ЦСКБ-Прогресс» 

2 


(аннотация статьи объёмом 50...150 слов, кегль: 10) 

(ключевые слова объёмом 8-12 слов, кегль: 10, начертание: курсив) 

(текст статьи) 

(библиографический список) 

(информация об авторах для опубликования: фамилия, имя, отчество, учёная степень, 

учёное звание, должность, место работы, электронная почта, область научных интересов - 

до 10 слов) 

THERMAL FIELDS SIMULATING OF COMPLEX CLOSED 

STRUCTURE ABOARD RESEARCH SPACE LABORATORY 

© 2006 G. P. Anshakov 1 , V. V. Biruk 2 , V. V. Vasiliev 2 , V. V. Nikonov 2 , V. V. Salmin 2 

1 

«Progress» Design Bureau 

2 


(аннотация статьи - на английском языке) 

(ключевые слова - на английском языке) 

(библиографический список - на английском языке) 

(информация об авторах - на английском языке)

ÐÐ¾Ð»Ð½Ð°Ñ Ð²ÐµÑÑÐ¸Ñ - Ð¡Ð°Ð¼Ð°ÑÑÐºÐ¸Ð¹ Ð³Ð¾ÑÑÐ´Ð°ÑÑÑÐ²ÐµÐ½Ð½ÑÐ¹ Ð°ÑÑÐ¾ÐºÐ¾ÑÐ¼Ð¸ÑÐµÑÐºÐ¸Ð¹ ...

Create successful ePaper yourself

Delete template?

Save as template?

ÐÐ¾Ð»Ð½Ð°Ñ Ð²ÐµÑÑÐ¸Ñ - Ð¡Ð°Ð¼Ð°ÑÑÐºÐ¸Ð¹ Ð³Ð¾ÑÑÐ´Ð°ÑÑÑÐ²ÐµÐ½Ð½ÑÐ¹ Ð°ÑÑÐ¾ÐºÐ¾ÑÐ¼Ð¸ÑÐµÑÐºÐ¸Ð¹ ...