Книжная полка Сохранить
Размер шрифта:
А
А
А
|  Шрифт:
Arial
Times
|  Интервал:
Стандартный
Средний
Большой
|  Цвет сайта:
Ц
Ц
Ц
Ц
Ц

Современные проблемы прикладной математики. Часть 2. Практикум

Покупка
Артикул: 769569.01.99
Доступ онлайн
100 ₽
В корзину
В учебном пособии в первой части приводится системное изложение одного из разделов прикладной математики, связанного с устойчивыми методами и алгоритмами решения систем линейных алгебраических уравнений, возникающих при параметрической идентификации моделей. Основное внимание уделяется построению решений с минимальной ошибкой или с требуемыми точностными характеристиками, а также учету имеющейся априорной информации об искомом решении. Во второй части приводится описание практических занятий по созданию алгоритмов построения нормального псевдорешения и регуляризированных решений систем линейных алгебраических уравнений. Учебное пособие предназначено для магистрантов направления «Прикладная математика и информатика». Результаты будут полезны также широкому кругу студентов, магистрантов, аспирантов, исследователей, занимающихся решением задач параметрической идентификации и обработки экспериментальных данных.
Воскобойников, Ю. Е. Современные проблемы прикладной математики. Часть 2. Практикум : учебное пособие / Ю. Е. Воскобойников, А. А. Мицель. - Томск : Томский гос. ун-т систем управления и радиоэлектроники (ТУСУР), 2016. - 52 с. - Текст : электронный. - URL: https://znanium.com/catalog/product/1845841 (дата обращения: 20.04.2024). – Режим доступа: по подписке.
Фрагмент текстового слоя документа размещен для индексирующих роботов. Для полноценной работы с документом, пожалуйста, перейдите в ридер.
МИНИСТЕРСТВО ОБРАЗОВАНИЯ И НАУКИ   

РОССИЙСКОЙ ФЕДЕРАЦИИ 

 
ТОМСКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ СИСТЕМ 
УПРАВЛЕНИЯ И РАДИОЭЛЕКТРОНИКИ (ТУСУР) 

 

 
Ю.Е. Воскобойников 
А.А. Мицель 

 
СОВРЕМЕННЫЕ 
ПРОБЛЕМЫ ПРИКЛАДНОЙ 
МАТЕМАТИКИ 
Часть 2. Практикум 
 
Учебное пособие 
 
 
 
 
 
 
 
 
 
ТОМСК 2016 

УДК  519.2 
ББК  
22.172 
В  
650 
Воскобойников Ю. Е., Мицель А.А. 
Современные проблемы прикладной математики. Часть 2. 
Практикум: учебное пособие/ Ю. Е. Воскобойников, А.А. 
Мицель/ 
Томский 
гос. 
ун-т 
систем 
управления 
и 
радиоэлектроники (ТУСУР). – Томск, 2016. – 52с. 
  
В учебном пособии в первой части приводится системное 
изложение 
одного 
из 
разделов 
прикладной 
математики, 
связанного с устойчивыми методами и алгоритмами решения 
систем линейных алгебраических уравнений, возникающих при 
параметрической идентификации моделей. Основное внимание 
уделяется построению решений с минимальной ошибкой или с 
требуемыми точностными характеристиками, а также учету 
имеющейся априорной информации об искомом решении. Во 
второй части приводится описание практических занятий по 
созданию алгоритмов построения нормального псевдорешения и 
регуляризированных решений систем линейных алгебраических 
уравнений.  
Учебное 
пособие 
предназначено 
для 
магистрантов 
направления 
«Прикладная 
математика 
и 
информатика». 
Результаты будут полезны также широкому кругу студентов, 
магистрантов, 
аспирантов, 
исследователей, 
занимающихся 
решением задач параметрической идентификации и обработки 
экспериментальных данных. 
 

ОГЛАВЛЕНИЕ 
 
ПРАКТИЧЕСКОЕ ЗАНЯТИЕ №1  
Построение нормального псевдорешения СЛАУ .     5 
 
§ 1.1. Постановка задачи ………………..……………..…     5 
§ 1.2. SVD-алгоритм построения нормального  
псевдорешения…………..….…………………………….     6 
Задание 1.1…………………………………………………    8 
Задание 1.2………………………………………………….  12 
 
ПРАКТИЧЕСКОЕ ЗАНЯТИЕ №2  
Построение регуляризованного решения СЛАУ .    14 
 
§2.1. Байесовский регуляризирующий алгоритм………...  14 
Задание 2.1………………………………………………….  16 
§2.2. Оптимальный регуляризирующий SVD-алгоритм     17 
Задание 2.2………………………………………………….  20 
§2.3. Построение регуляризованного решения при 
неполной информации……………………………………    21 
Задание 2.3…………………………………………………   26 
§2.4. Регуляризирующий SVD-алгоритм…………………  27 
Задание 2.4………………………………………………….  30 
 
ПРАКТИЧЕСКОЕ ЗАНЯТИЕ №3  
Алгоритмы выбора параметра регуляризации .      35 
 
§3.1.  Выбор параметра регуляризации на основе 
критерия оптимальности………………………………….   35 
Задание 3.1…………………………………………………   36 
§3.2. Алгоритм выбора параметра регуляризации с 
использованием SVD-разложения на основе критерия 
оптимальности……………………………………………   36 
Задание 3.2………………………………………………..   38 
§3.3. Алгоритм выбора параметра регуляризации основе 
статистического принципа невязки…………………….    38 

Задание 3.3………………………………………………...  40 

§3.4. Алгоритм поиска 
V
α
  с использованием SVD 
разложения………………………………………………..    41 
Задание 3.4……………………………………………….     42 
 
ПРАКТИЧЕСКОЕ ЗАНЯТИЕ №4  
Локальная регуляризация …………………………..    43 
 
§4.1. Векторный параметр регуляризации…………….      43 
Задание 4.1…………………………………………………   45 
 
ПРАКТИЧЕСКОЕ ЗАНЯТИЕ №5  
Дескриптивные алгоритмы решения СЛАУ ……    46 
 
§5.1. Глобальный дескриптивный регуляризирующий 
алгоритм ……………. …………….………………………   46 
Задание 5.1…………………………………………………   49 
§ 5.2. Локальный дескриптивный регуляризирующий 
алгоритм ……………. …………….…………………           49 
Задание 5.2………………………………………………….  51 
 
ЛИТЕРАТУРА……………………………………………….…    52 
 

Практическое занятие №1 
 
Построение нормального псевдорешения СЛАУ 
 
§1.1. Постановка задачи 
 
Дана система линейных алгебраических уравнений 
матричном виде 

K
f
=
ϕ
, 
 
 
 
(1.1) 

где K  – матрица размером N
M
×
 (N строк и M  столбцов),  

ϕ  – вектор размерности M  (содержит M  проекций), f – 
вектор размерности N 
f
f
=
+
ɶ
η  
 
 
 
 

Здесь f  - вектор точной правой части, η - вектор ошибок. 
Предположим, что матрица K  имеет размеры 
M
N ×
. 
Вектор 
HK
ϕ
 размерностью M  называют псевдорешением (или 
решением МНК), если он доставляет минимум следующему 
функционалу 

2

( )
(
) (
)
T
HK
f
K
f
K
f
K
Ψ
=
−
=
−
−
ϕ
ϕ
ϕ
ϕ  
(1.2) 

среди всех векторов евклидова пространства 
M
E
. 

Решение, обеспечивающее минимум функционалу (2), является 
решением следующей СЛАУ 

T
T
HK
K K
K
f
=
ϕ
, 
 
 
 (1.3) 

которая называется системой нормальных уравнений. 
 
В отличие от исходной системы 
K
f
=
ϕ
 эта система 

всегда разрешима, т.е. для любой правой части f  существует 

псевдорешение 
HK
ϕ
. Если матрица K  имеет ранг, равный M , 
то  

1
(
)
T
T
HK
K K
K f
ϕ
−
=
. 
 
 
(1.4) 

 
Сингулярным 
разложением 
прямоугольной 
N
M
×
 
матрицы 
K 
(коротко: 
SVD-разложением) 
называется  
представление: 

T
K
U
V
=
Λ
,  
 
 
(1.5) 

где U – ортогональная (
N
N ×
)-матрица, V – ортогональная 
( M
M
×
)-матрица, Λ  – ( N
M
×
)-матрица вида 

0
0
0
0

0
0
0

0
0
0

0
0
0

0
0
0

M

3

2

1

⋯

⋯

⋮
⋱
⋮
⋮
⋮

⋯

⋯

⋯

λ

λ

λ

λ

Λ
=
, 
 
 
(1.6) 

в которой последние N – M строки содержат только нулевые 
элементы. 
Величины 
0,
1,...,
j
j
M
λ ≥
=
, 
называются 

сингулярными числами матрицы K, и в дальнейшим полагаем, что 

j
λ  упорядочены по убыванию, т.е. 
1
j
j
λ
λ +
≥
. Напомним, что 

матрица B называется ортогональной, если имеет место тождество 
T
T
B B
BB
I
=
=
 
 
§1.2. SVD-алгоритм построения нормального 
псевдорешения 
Введем векторы 

,
T
T
y
U
f
x
V
=
=
ϕ   
 
 
(1.7)  

размерностью N и M соответственно. Тогда с учетом (1.5) 

систему 
K
f
=
ϕ
 можно преобразовать к эквивалентной 
системе: 
,
1,...,
;

0
,
1,...,
,

j
j
j

j

x
y
j
M

y
j
M
N

λ
=
=

=
=
+
 
 
(1.8) 

которая хорошо характеризует «информативность» правой части: 
чем меньше сингулярное число 
j
λ , тем с меньшим весом проекция 

jx  входит в правую часть. Предельный случай 
0
j
λ =
, 

1
p
j
M
+ ≤
≤
, говорит о вырожденности K.  

Очевидно, что невыполнение условия  

1

0

N

j
j M
y

=
+

=
∑
 говорит о 

несовместности исходной системы. 
С учетом ортогональности матриц U, V и соотношений 
(5) функционал (2) можно записать в виде 

2

1

2
2

1
1

( )
( )
(
)

(
0
)

p

НК
НК
i
j
j
j

M
N

j
j
j

j
p
j M

x
y
x

y
x
y

ϕ
λ

=

= +
=
+

Ψ
= Ψ
=
−
+

+
− ⋅
+

∑

∑
∑

. 

Третье слагаемое обусловлено несовместностью исходной 
системы, и не зависит от x . Второе слагаемое отражает 
вырожденность системы, и, следуя определению нормального 
псевдорешения, проекции 
jx , входящие во второе слагаемое, 

следует принять равным 0. Тогда минимум функционала 
достигается на векторе x+  размерности  p  с элементами 

,
1,...,

j
j
j

y
x
j
p
λ

+ =
=
, 
 
(1.9) 

а нормальное псевдорешение ϕ +  выражается как  

1

p

j
j

j

x
v
ϕ +
+

=

=
⋅
∑
. 
 
 
(1.9) 

Напомним, что 
0,
1,...,
j
j
p
λ >
=
, где p  – ранг матрицы K . 

 
Задание 1.1. Построить нормальное псевдорешение с помощью 
пакета Mathcad 
 
Рассмотрим две функции Mathcad, которые потребуются 

для 
построения 
нормального 
псевдорешения 
ϕ +ɶ
, 
определяемого выражением 

1

,
П
p
j

j

j
j

f u

v
ϕ
λ

+

=

=
⋅
∑

ɶ

ɶ
,   
 
(1.10) 

где практический ранг 
П
p  матрицы K определяется количеством 
сингулярных чисел 
j
λ , удовлетворяющих  условию: 

0

max

j
λ
γ
λ
≥
, 
 
 
 
(1.11) 

где 
0
γ
– достаточно  малая величина  (

10
8
10
10
−
−
÷
). 

 
 
Функция svds. Обращение имеет вид svds(K). Вычисляет 

вектор размерности M , состоящий из сингулярных чисел 
j
λ  

матрицы K, которые расположены в убывающем порядке. 
 
Функция svd. Обращение имеет вид  svd(K). Вычисляет 

матрицу UV  размером (
)
N
M
M
+
×
. Первые N  строк 
этой матрицы соответствуют матрице U  размером N
M
×
, 
которая определяет первые M столбцов матрицы U , т.е. 

1
M
N
U
U u
u
+
=
⋮
⋮⋯⋮
. 
 
 
(1.12) 

Последние M строк матрицы UV содержат матрицу V размером 
M
M
×
.  

 
Заметим, что отсутствие в матрице U  последних N
M
−
 
столбцов матрицы U обусловлено тем, что эти столбцы не 
участвуют в вычислении нормального псевдорешения и поэтому 
во многих программных реализациях SVD-разложения эти 
столбцы не вычисляются. 
 
Функция submatrix. Обращение имеет вид submatrix  
(K, i1, i2, j1, j2). Формирует новую матрицу из элементов матрицы 
K, стоящих с  i1 по i2 строках и с j1 по j2 столбцах матрицы K. 
 
Пример 1. Дана матрица K  размером 6
3
× . Необходимо 

вычислить сингулярные числа и матрицы 
,
U V . 

 
Решение. На рис. 1.1 показан фрагмент документа Mathcad, 
выполняющий требуемые вычисления. Здесь же приведены 
вычисление числа обусловленности по формуле  

max
min
(
)
/
cond K
λ
λ
=
 

и проверка ортогональности столбцов матриц 
,
U V .☻ 

 
Перейдем к подпрограмме-функции (П-Ф) Ps_Solve, 
осуществляющей 
построение 
нормального 
псевдорешения 
СЛАУ по формуле (1.1). Обращение к П-Ф имеет вид: 
 
Ps_Solve(K,f,
0
γ ).  
 
 
(1.13) 

Формальные параметры: K – матрица системы размером 

N
M
×
, 
f  – правая часть системы, 
0
γ
 – переменная 
вещественного типа, входящая в условие (1.11). 
 
На рис. 1.2 приведен фрагмент документа Mathcad с текстом 
П-Ф Ps_Solve. 
 

Замечание 1. При обработке матриц в пакете Mathcad часто 
используется операция формирования вектора из определенного  
столбца матрицы. Для этого надо ввести имя матрицы, затем 
нажать клавиши [Ctrl+6] и в появившихся вверху угловых 
скобках задать нужный номер столбца. Например, в П-Ф  

Ps_Solve стоят операции 
,

j
j
U
V
. ♦ 

 
           Рис. 1.1. Сингулярное разложение матрицы K 

Рис. 1.2. Текст  подпрограммы-функции  Ps_Solve 
 
Пример 
2. 
Матрица 
K 
размером 
5 3
× формируется 
с 
использованием П-Ф  Form_K (фрагмент документа показан на 
рис. 1.3). Число обусловленности 
6
1.426 10
⋅
. Для заданного 
вектора ϕ  вычислены два вектора: вектор «точной» правой 
части 
f и 
вектор 
«зашумленной» 
правой 
части 
fη  
с 

относительной погрешностью 
3
3.232 10−
⋅
(см. рис. 1.3). По этим 
двум 
векторам 
необходимо 
построить 
нормальные 
псевдорешения с использованием П-Ф  Ps_Solve. 
Здесь 
вычислены 
относительные 
ошибки 
двух 
псевдорешений: псевдорешение 
1ps
ϕ
, построенное по точной 

правой 
части, 
и 
псевдорешение 
2 ps
ϕ
, 
построенное 
по 

искаженной правой части 
fη . Несмотря на маленькую 
погрешность 
исходных 
данных, 
относительная 
ошибка 

решения 2 ps
ϕ
 достигает большой величины 

3
1.102 10
⋅
, и эта 

ошибка удовлетворяет неравенству  

(
)

f
f

cond K

f

ϕ
ϕ
ϕ

−
−
≤

ɶ
ɶ
. 

Действительно  

3
3
3
1.103 10
(
) 3.232 10
4.609 10
cond K
−
⋅
≤
⋅
⋅
=
⋅
. 
 
Задание 1.2.  
Вычислить нормальное решение с помощью обратной матрицы 
по формуле (1.4) для точной и зашумленной правой части и 
сравнить с решением, полученным SVD – алгоритмом. 
Решение. Два обращения к Ps_Solve показаны на рис. 1.3. 

 

Доступ онлайн
100 ₽
В корзину