Матричный анализ и линейная алгебра

УДК 512.83+519.6
ББК 22.143
Т 93

Ты р т ы ш н и к о в Е. Е.
Матричный анализ и линейная алгебра. — М.: ФИЗМАТЛИТ, 2007. — 480 с. — ISBN 978-5-9221-0778-5.

В книге излагаются основы матричного анализа, линейной алгебры
и аналитической геометрии, при этом раскрываются глубокие связи
предмета с другими разделами математики и дается представление
о современных тенденциях его развития и приложениях к задачам
численного анализа.
Для студентов и преподавателей факультетов прикладной математики, математики и механики, физических и инженерных специальностей, а также лиц, профессионально применяющих методы матричного
анализа и линейной алгебры.
Рекомендовано Министерством образования и науки Российской
Федерации в качестве учебного пособия для студентов высших учебных заведений, обучающихся по направлениям подготовки «Математика», «Прикладная математика и информатика».

ISBN 978-5-9221-0778-5

c⃝ ФИЗМАТЛИТ, 2007

c⃝ Е. Е. Тыртышников, 2007

ОГЛАВЛЕНИЕ

Предисловие . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
19

Л е к ц и я 1
. .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
23
1.1. Линейные отображения и матрицы . .. . . . . . . . . . . . . . . . . .
23
1.2. Умножение матриц . .. . . . . .. . . . . . . . . . . . . . . . . . . . . . . . .
24
1.3. Ассоциативность умножения матриц . .. . . . . . . . . . .. . . . . . .
24
1.4. Некоммутативность умножения матриц . .. . . . . . . . . . . . . . .
25
1.5. Сложение матриц и умножение на число . .. . . . . . . . . . . . . .
25
1.6. Умножение блочных матриц . .. . . . . . . . . . . . . . . . . . . . . . .
25
1.7. Вычислительный аспект умножения матриц. .. . . . . .. . .. . . . .
26
1.8. Хороша ли программа? . .. . . . . . . . . . . . . . . . . . . . . . . . . . .
26
1.9. Метод Винограда . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
27
1.10. Метод Штрассена . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
27
1.11. Рекурсия для (n × n)-матриц. .. . . . . . . . . . . . . . . . . . . . . . .
28

Л е к ц и я 2
. .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
30
2.1. Множества и элементы . .. . . . . . . . . . . . . . . . . . . . . . . . . . .
30
2.2. Отображения, функции, операторы . .. . . . . . . . . . . . .. . . . . .
31
2.3. Алгебраические операции . .. . . . . . . . . . . . . . . . . . . . . . . . .
31
2.4. Ассоциативность и скобки. .. . . . . . . . . . . . . . . . . . . . . . . . .
32
2.5. Ассоциативность при умножении матриц . .. . . . . . . . . . . . . .
33
2.6. Группы . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .. . . . . . . .
33
2.7. Примеры абелевых групп. .. . . . . . . . . . . . . . . . . . . . . . . . . .
34
2.8. Группа невырожденных диагональных матриц . .. . . . . . . . . .
34
2.9. Группа невырожденных треугольных матриц . .. . . . .. . . . . . .
35
2.10. Подгруппы . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
35

Оглавление

2.11. Степени элемента . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
36
2.12. Циклические группы. .. . . . . . . . . . . . . . . . . . . . . . . . . . . . .
36

Л е к ц и я 3
. .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
37
3.1. Система линейных алгебраических уравнений . .. . .. . . .. .. . . .
37
3.2. Линейные комбинации . .. . . . . . . . . . . . . . . . . . . . . . . . . . .
37
3.3. Линейная зависимость . .. . . . . . . . . . . . . . . . . . . . . . . . . . .
38
3.4. Линейная независимость . .. . . . . . . . . . . . . . . . . . . . . . . . . .
39
3.5. Транзитивность линейной зависимости . .. . . . . . . . . . . . . .. .
40
3.6. Монотонность числа линейно независимых векторов . .. . . . .
40
3.7. Базис и размерность . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . .
41
3.8. Дополнение до базиса . .. . . . . . . . . . . . . . . . . . . . . . . . . . . .
42
3.9. Существование базиса. .. . . . . . . . . . . . . . . . . . . . . . . . . . . .
42
3.10. Совместность системы линейных алгебраических уравнений
43

Л е к ц и я 4
. .. . . . . . . . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
44
4.1. Индикатор линейной зависимости . .. . . . . . . . . . . . . . . . . . .
44
4.2. Подстановки и перестановки . .. . . . . . . . . . . . . . . . . . . . . . .
44
4.3. Циклы и транспозиции . .. . . . . . . . . . . . . . . . . . . . . . . . . . .
46
4.4. Четность подстановки . .. . .. . . . . . . . . . . . . . . . . . . . . .. .. . . .
47
4.5. Единственность индикатора линейной зависимости . .. .. .. . . .
49
4.6. Определитель . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
50

Л е к ц и я 5
. .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .. . .
52
5.1. Определитель транспонированной матрицы . .. . . . . .. . . . . . .
52
5.2. Определитель как функция столбцов (строк) матрицы . .. . . .
53
5.3. Существование индикатора линейной зависимости. .. . . . . . .
54
5.4. Подматрицы и миноры. .. . . . . . . . . . . . . . . . . . . . . . . . . . . .
55
5.5. Замечание о подстановках . .. . . . . . . . . . . . . . . . . . . . . . . . .
56
5.6. Разбиение множества подстановок на подмножества . .. . . . .
56
5.7. Теорема Лапласа. .. . . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . .
58
5.8. Определитель блочно-треугольной матрицы . .. . . . . . . . . . . .
59

Л е к ц и я 6
. .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
60
6.1. Обратная матрица . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
60

Оглавление
5

6.2. Критерий обратимости матрицы. .. . . . . . . . . . . . . . .. . . . . . .
61
6.3. Обращение и транспонирование. .. . . . . . . . . . . . . . . . . . . . .
62
6.4. Группа обратимых матриц . .. . . . . . . . . . . . . . . . . . . . . . . . .
62
6.5. Обращение невырожденной матрицы . .. . . . . . . . . . . . . . . . .
63
6.6. Правило Крамера . .. . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . .
64
6.7. Определитель произведения матриц. .. . . . . . . . . . . .. . . . . . .
64
6.8. Обратимость и невырожденность. .. . . . . . . . . . . . . . . . . . . .
65

Л е к ц и я 7
. .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
67
7.1. Разделение переменных и матрицы . .. . . . . . . . . . .. . . . . . . .
67
7.2. Скелетное разложение. .. . . . . . . . . . . . . . . . . . . . . .. . . . . . .
67
7.3. Ранг матрицы . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
68
7.4. Окаймление обратимой подматрицы. .. . . . . . . . . . . . . . . . . .
69
7.5. Теорема о базисном миноре . .. . . . . . . . . . . . . .. . . . . . . . . . .
70
7.6. Ранги и матричные операции. .. . . . . . . . . . . . . . . . . . . . . . .
71
7.7. Однородная система линейных алгебраических уравнений . .
73
7.8. Теорема Кронекера–Капелли . .. . . . . . . . . . . . . . . . .. . . . . . .
75
7.9. Общее решение системы линейных алгебраических уравнений. .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
75
7.10. Неустойчивость ранга . .. . . . . . . . . . . . . . . . . . . . . . . . . . . .
76

Л е к ц и я 8
. .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
77
8.1. Исключение неизвестных . .. . . . . . . . . . . . . . . . . . . . . . . . .
77
8.2. Элементарные матрицы . .. . . . . . . . . . .. . . . . . . . . . . . . . . . .
77
8.3. Ступенчатые матрицы . .. . . . . . . . . . . . . . . . . . . . . . . . . . . .
80
8.4. Приведение к ступенчатой форме . .. . . . . . . . . . . . . . . . . . .
80
8.5. Приведение к диагональной форме . .. . . . . . . . . . . . . . . . . .
81
8.6. Эквивалентные матрицы . .. . . . . . . . . . . . . . . . . . . .. . . . . . .
82
8.7. Метод Гаусса и LU-разложение. .. . . . . . . . . . . . . . . . . . . . .
82
8.8. LU-разложение и строго регулярные матрицы . .. . . . . . . . . .
83

Л е к ц и я 9
. .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
85
9.1. Метод координат. .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
85
9.2. Направленные отрезки . .. . . . . . . . . . . . . . . . . . . . .. . . . . . .
86
9.3. Отношение эквивалентности . .. . . . . . . . . . . . . . . . . . .. .. . . .
87
9.4. Свободный вектор . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
89

Оглавление

9.5. Линейные операции над векторами . .. . . . . . . . . . . . . . . . . .
89
9.6. Координаты вектора . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . .
90
9.7. Изоморфизм и линейная зависимость . .. . . . . . . . . . . . . . . .
91
9.8. Коллинеарные и компланарные векторы. .. . . . . . . . . . . . . . .
92
9.9. Прямая на плоскости. .. . . . . . . . . . . . . . . . . . . . . . .. . . . . . .
93
9.10. Плоскость в пространстве . .. . . . . . . . . . . . . . . . . . . . . . . . .
94
9.11. Преобразование координат . .. . . . . . . . . . . . . . . . . . . . . . . .
95
9.12. Полуплоскости и полупространства . .. . . . . . . . . . . . . . . . . .
96

Л е к ц и я 10
. .. . . . . . . . . . . . . . . . . . . . . . . . . . . .. . . . . . . . . .
98
10.1. Скалярное произведение геометрических векторов . .. . . . . . .
98
10.2. Скалярное произведение и координаты . .. . . . . . . . .. . . . . . .
99
10.3. Об обобщениях . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
99
10.4. Ориентация системы векторов . .. . . . . . . . . . . . . . . . . . . . . . 100
10.5. Векторное и смешанное произведения . .. . . . . . . . . . . . . . .. . 101
10.6. Векторное произведение в декартовых координатах . .. . . . . . 103
10.7. Смешанное произведение в декартовых координатах . .. . . . . 104
10.8. Нормали к прямой и плоскости . .. . . . . . . . . . . . . . . . . . . . . 105
10.9. Расстояние от точки до прямой на плоскости. .. . . . . . . . . . . 105
10.10. Расстояние от точки до плоскости . .. . . . . . . . . . . . . . . . . . . 106
10.11. Критерии параллельности вектора прямой и плоскости. .. . . . 106

Л е к ц и я 11
. .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .. . . . 108
11.1. Линейные пространства. .. . . . . . . . . . . . . . . . . . . . . . . . . . . 108
11.2. Примеры бесконечномерных линейных пространств . .. . . . . . 110
11.3. Примеры конечномерных линейных пространств . .. . . . . . . . 111
11.4. Базис и размерность . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 112
11.5. Подпространства линейного пространства . .. . . . . . . . . . . . . 113
11.6. Сумма и пересечение подпространств . .. . . . . . . . . .. . . . . .. . 114

Л е к ц и я 12
. .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 116
12.1. Разложение по базису . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . 116
12.2. Изоморфизм линейных пространств. .. . . . . . . . . . . . . . . . . . 117
12.3. Пространство многочленов . .. . . . . . . . . . . . . . . . .. . . . . . . . 118
12.4. Прямая сумма подпространств. .. . . . . . . . . . . . . . . . . . . . . . 120

Оглавление
7

12.5. Дополнительные пространства и проекции. .. . . . . . . . . . . . . 122
12.6. Вычисление подпространства. .. . . . . . . . . . . . . . . . . . . . . . . 123

Л е к ц и я 13
. .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 126

13.1. Линейные многообразия . .. . . . . . . . . . . . . . . . . . . . . . . . . . 126
13.2. Аффинные множества . . .. . . . . . . . . . . . . . . . . . . . . . . . . . . 127
13.3. Гиперплоскости . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 128
13.4. Полупространства . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 129
13.5. Выпуклые множества . .. . . . . . . . . . .. . . . . . . . . . . . . . . . . . 130

Л е к ц и я 14
. .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 132

14.1. Комплексные числа . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 132
14.2. Комплексная плоскость . .. . . . . . . . . . . . . . . . .. . . . . . . . . . . 133
14.3. Преобразования плоскости . .. . . . . . . . . . . . . . . . . . . . . . . . 135
14.4. Корни из единицы. .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 137
14.5. Группа корней степени n из единицы . .. . . . . . . . . . . . . . . . 138
14.6. Матрицы с комплексными элементами. .. . . . . . . . . . . . . . . . 139

Л е к ц и я 15
. .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 140

15.1. Кольца и поля. .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . .. .. .. . . 140
15.2. Делители нуля . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . .. .. . . . 141
15.3. Кольцо вычетов. .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 142
15.4. Вложения и изоморфизмы . .. . . . . . . . . . . . . . . . . . . . . . . . . 144
15.5. Число элементов в конечном поле . .. . . . . . . .. . . . . . . . . . . . 145
15.6. Поле частных . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 146

Л е к ц и я 16
. .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 148

16.1. Линейные пространства над полем . .. . . . . . . . . . . . . . . . . . 148
16.2. Многочлены над полем . .. . . . . . . . . . . . . . . . . . . . . . . . . . . 150
16.3. Кольцо многочленов . .. . . . . . . . . . . . . . . . . . . . . . .. . . . . . . 151
16.4. Деление с остатком. .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 152
16.5. Наибольший общий делитель . .. . . . . . . . . . . . . . . .. . . . . . . 153
16.6. Значения многочлена и корни . .. . . . . . . . . . . . . . . . . . . . . . 154
16.7. Присоединение корня . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . 155

Оглавление

Л е к ц и я 17
. .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 157
17.1. Комплексные многочлены . .. . . . . . . . . . . . . . . . . . . . . . . . . 157
17.2. Последовательности комплексных чисел . .. . . . . . . . . . . . . . 157
17.3. Непрерывные функции на комплексной плоскости . .. . . . . . . 158
17.4. Свойства модуля многочлена . .. . . . . . . . . . . . . . . . . .. . . . . . 159
17.5. Основная теорема алгебры. .. . . . . . . . . . . . . . . . . . . . . . . . . 160
17.6. Разложение комплексных многочленов. .. . . . . . . . . . . . . . . . 161
17.7. Разложение вещественных многочленов. .. . . . . . . . . . . . . . . 162

Л е к ц и я 18
. .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 165
18.1. Формулы Виета. .. . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 165
18.2. Многочлены от n переменных. .. . . . . . . . . . . . . . . . . . . . . . 165
18.3. Лексикографическое упорядочение. .. . . . . . . . . . . . . . . . . . . 166
18.4. Симметрические многочлены . .. . . . . . . . . . . . . . . . . . . . . . . 167
18.5. Ньютоновы суммы. .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 169

Л е к ц и я 19
. .. . . . . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 170
19.1. Алгебраические многообразия . .. . . . . . . . . . . . . . . . . . . . . . 170
19.2. Квадратичные многочлены от двух переменных . .. . .. . . . . . . 171
19.3. Поворот декартовой системы координат . .. . . . . . . . . . . . . . . 171
19.4. Сдвиг декартовой системы координат . .. . . . . . . . . .. . . . . . . 173
19.5. Эллипс . .. . . . . . . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 175
19.6. Гипербола . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 177
19.7. Парабола . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .. . .. . . . . 179

Л е к ц и я 20
. .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 181
20.1. Квадратичные многочлены от трех переменных . .. . . . .. .. . . . 181
20.2. Декартовы системы и ортогональные матрицы . .. . . . . . . . . . 181
20.3. Метод вращений . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 183
20.4. Вложенные подпоследовательности . .. . . . . . . . .. . . . . . . . . . 184
20.5. Диагонализация в пределе. .. . . . . . . . . . . . . . . . . . . . . . . . . 185
20.6. Диагонализация вещественных симметричных матриц . .. . . . 186

Л е к ц и я 21
. .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 189
21.1. Приведенные уравнения поверхности второго порядка . .. . . . 189

Оглавление
9

21.2. Эллипсоид . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . .. . . . . . . 190
21.3. Однополостный гиперболоид . .. . . . . . . . . . . . . . . . . . . . . . . 191
21.4. Линейчатая поверхность . .. . . . . . . . . . . . . . . . . . . . . . . . . . 191
21.5. Двуполостный гиперболоид . .. . . . . . . . . . . . . . . .. . . . . . . . . 193
21.6. Эллиптический конус . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . 193
21.7. Эллиптический параболоид . .. . . . . . . . . . . . . . . . . . . . . . . . 193
21.8. Гиперболический параболоид. .. . . . . . . . . . . . . . . . . . . . . . . 194
21.9. Цилиндрические поверхности . .. . . . . . . . . . . . . . . . . .. . . . . 194

Л е к ц и я 22
. .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 195
22.1. Нормированное пространство . .. . . . . . . . . . . . . . . . . . . . . . 195
22.2. Выпуклые функции и неравенства . .. . . . . . . . . . . . . . . . . . . 196
22.3. Неравенства Г¨ельдера и Минковского . .. . . . . . . . . . . . . . . . 197
22.4. Нормы Г¨ельдера . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 198
22.5. Зачем нужны нормы?. .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 199
22.6. Нормы в бесконечномерном пространстве . .. . . . . . . . . . . . . 200
22.7. Метрическое пространство . .. . . . . . . . . . . . . . . . . . . . . . . . 201
22.8. Пределы и полнота . .. .. . . . . . . . . . . . . . . . . . . . . . . . .. .. . . . 201

Л е к ц и я 23
. .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 203
23.1. Множества в метрическом пространстве . .. . . . . . . . . . . . . . 203
23.2. Компактность и непрерывность . .. . . . . . . . . . . . . . . . . . . . . 204
23.3. Компактность единичной сферы. .. . . . . . . . . . . . . . . . . . . . . 205
23.4. Эквивалентные нормы . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . 206
23.5. Компактность замкнутых ограниченных множеств . .. . . . . . . 207
23.6. Наилучшие приближения . .. . . . . . . . . . . . . . . . . . .. . . . . . . 208

Л е к ц и я 24
. .. . . . . . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . 210
24.1. Евклидово пространство . .. . . . . . . . . . . . . . . . . . . . . . . . . . 210
24.2. Унитарное пространство . .. . . . . . . . . . . . . . . . . . . . . . . . . . 210
24.3. Билинейные и полуторалинейные формы . .. . . . . . . . . . . . . . 211
24.4. Длина вектора . .. . . . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . 212
24.5. Тождество параллелограмма . .. . . . . . . . . . . . . . . . . . . . . . . 213
24.6. Ортогональность векторов. .. . . . . . . . . . . . . . . . . . . . . . . . . 215
24.7. Ортогональность множеств . .. . . . . . . . . . . . . . . . . . . . . . . . 216

Оглавление

24.8. Ортогональная сумма подпространств . .. . . . . . . . . . . . . . . . 216

Л е к ц и я 25
. .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 218
25.1. Матрица Грама . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 218
25.2. Скалярное произведение в конечномерном пространстве. .. . . 219
25.3. Перпендикуляр и проекция . .. . . . . . . . . . . .. . . . . . . . . . . . . 220
25.4. Ортогональные системы . .. . . . . . . . . . . . . . . . . . . . . .. .. . . . 222
25.5. Процесс ортогонализации . .. . . . . . . . . . . . . . . . . . . . . . . . . 223
25.6. Дополнение до ортогонального базиса . .. . . . . . . . . . . . . . . . 224
25.7. Биортогональные системы . .. . . . . . . . . . . . . . . . . . . . . .. . . . 224
25.8. QR-разложение матрицы . .. . . . . . . . . . . . . . . . . . .. . . . . . . 225

Л е к ц и я 26
. .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 228
26.1. Линейные функционалы . .. . . . . . . . . . . . . . . . . . . .. . . . . . . 228
26.2. Сопряженное пространство . .. . . . . . . . . . . . .. . . . . . . . . . . . 229
26.3. Примеры линейных функционалов. .. . . . . . . . . . . . . . . . . . . 230
26.4. Размерность дополнительного пространства. .. . . . . . . . . . . . 230
26.5. Линейные функционалы и гиперплоскости. .. . . . . . . . . . . . . 231
26.6. Опорные гиперплоскости . .. . . . . . . . . . . . . . . . . . . . . . . . . . 232

Л е к ц и я 27
. .. . . . . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . 236
27.1. Линейные операторы . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 236
27.2. Непрерывность и ограниченность . .. . . . . . . . . . . . . . . . . . . 236
27.3. Операторная норма . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 237
27.4. Матричная норма . .. . . . . .. . . . . . . . . . . . . . . . . . . . . . . . . . 239
27.5. Норма Фробениуса . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 239
27.6. Сохранение норм. .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 240
27.7. Унитарно инвариантные нормы . .. . . . . . . . . . . . . .. . . . . . . . 241
27.8. Сингулярное разложение матрицы . .. . . . . . . . . . . . . . . . . . . 242

Л е к ц и я 28
. .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 245
28.1. Матрица линейного оператора . .. . . . . . . . . . . . . . . . . . . . . . 245
28.2. Произведение линейных операторов. .. . . . . . . . . . . . . . . .. . . 246
28.3. Переход к другим базисам. .. . . . . . . . . . . . . . . . . . .. . . . . . . 247
28.4. Преобразование подобия . .. . . . . . . . . . . . . . . . . . . . . . . . . . 248

Оглавление
11

28.5. Инвариантные подпространства . .. . . . . . . . . . . . . . . . . . . . . 249
28.6. Ядро и образ линейного оператора. .. . . . . . . . . . . . . . .. .. . . . 250
28.7. Обратный оператор . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 251
28.8. Ортогональные дополнения ядра и образа . .. . . . . . . . . . . . . 252

Л е к ц и я 29
. .. . . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . 254

29.1. Диагонализуемые матрицы . .. . . . . . . . . . . . . . . . . . . . . . . . 254
29.2. Собственные значения и собственные векторы . .. . . . . . . . . . 255
29.3. Собственные векторы для различных собственных значений
256
29.4. Характеристическое уравнение . .. . . . . . . . . . . . . . . . . . . . . 257
29.5. Алгебраическая кратность собственного значения . .. . . . . . . 258
29.6. Характеристический многочлен и подобие . .. . . . . . . . . . . . . 258
29.7. Приведение к почти треугольной матрице . .. . . . . .. . . . . . . . 259
29.8. Матрицы Фробениуса . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . 260
29.9. Вычисление характеристического многочлена. .. . . . . . . . . . . 261

Л е к ц и я 30
. .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 263

30.1. Одномерные инвариантные подпространства . .. . . . . . . . . . . 263
30.2. Геометрическая кратность собственного значения . .. . . . . . . 264
30.3. Матричное выражение инвариантности . .. . . . . . . . . . . . . . . 264
30.4. Сужение оператора на подпространство . .. . . . . . . . . . . . . . . 265
30.5. Инвариантные пространства и сдвиги . .. . . . . . . . . . . .. .. . . . 265
30.6. Треугольная форма матрицы . . . . . . . . . . . . . . . . . . . . . . . . 265
30.7. Спектральный радиус . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . 266
30.8. Теорема Шура. .. . . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 268
30.9. Делители и подпространства . .. . . . . . . . . . . . . . . . . . . . . . . 269

Л е к ц и я 31
. .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 270

31.1. Многочлены от матрицы . .. . . . . . . . . . .. . . . . . . . . . . . . . . . 270
31.2. Корневые пространства . .. . . . . . . . . . . . . . . . . . . . . . . . . . . 270
31.3. Нильпотентные операторы. .. . . . . . . . . . . . . . . . . . . . . . . . . 272
31.4. Корневое разложение . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . 272
31.5. Блочно-диагональная форма матрицы . .. . . . . .. . . . . . . . . . . 273
31.6. Теорема Гамильтона–Кэли. .. . . . . . . . . . . . . . . . . . . . . . . . . 274

Оглавление

Л е к ц и я 32
. .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 276
32.1. Минимальное инвариантное подпространство . .. . . . . . . . . . 276
32.2. Жордановы цепочки . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 277
32.3. Жорданова форма матрицы . .. . . . . . . . . . . . . . . . . . . . . . . . 277
32.4. Индекс собственного значения. .. . . . . . . . . . . . . . . . . . . . . . 278
32.5. Жорданов базис в корневом пространстве . .. . . . . . .. . . . . . . 279
32.6. Существование и единственность жордановой формы. .. . . . . 280
32.7. Инвариантные подпространства для вещественных матриц
281
32.8. Вещественный аналог жордановой формы . .. . . . . . . . . . . . . 282
32.9. Вычисление жордановой формы. .. . . . . . . . . . . . . . . . . . . . . 283

Л е к ц и я 33
. .. . . . . . . . . . . . . . . . . . . . . . . . . . .. . . . . . . . . . . 286
33.1. Нормальные матрицы . .. . . . . . . . . . . . . . . . . . . . . .. . . . . . . 286
33.2. Унитарные матрицы. .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 287
33.3. Матрицы отражения и вращения . .. . . . . . . . . . . . . . . . . . . . 288
33.4. Эрмитовы матрицы . .. . . . . . . . . . . . .. . . . . . . . . . . .. . . . . . . 289
33.5. Эрмитово разложение . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . 289
33.6. Неотрицательная и положительная определенность . .. . . . . . 290
33.7. Квадратный корень . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 291
33.8. Блочно-диагональная форма вещественной нормальной матрицы. .. . . . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . . . . 292
33.9. Блочно-диагональная форма ортогональной матрицы . .. . . . . 292

Л е к ц и я 34
. .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 294
34.1. Матрица Фурье. .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 294
34.2. Циркулянтные матрицы. .. . . .. . . . . . . . . . . . . . . . . . . . . . . . 295
34.3. Алгебры матриц . .. . . . . . . . . . . . . . . . . . . . . . . . . . . .. .. . . . 297
34.4. Одновременное приведение к треугольному виду . .. . . . . . . . 298
34.5. Быстрое преобразование Фурье . .. . . . . . . . . . . . . . . . . . . . . 299

Л е к ц и я 35
. .. . . . . . . . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . . 302
35.1. Сингулярные числа и сингулярные векторы . .. . . . . . . . . . . . 302
35.2. Полярное разложение . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . 303
35.3. Выводы из сингулярного разложения . .. . . . . . . . . . . . . . . . . 304
35.4. Сингулярное разложение и решение систем . .. . . . . . . . . . . . 305

Оглавление
13

35.5. Метод наименьших квадратов . .. . . . . . . . . . . . . . . . . . . . . . 305
35.6. Псевдообратная матрица . .. . . . . . . . . . . . . . . . . . . . . . . . . . 307
35.7. Наилучшие аппроксимации с понижением ранга . .. . . . . . . . 307
35.8. Расстояние до множества вырожденных матриц. .. . . . . . . . . 309

Л е к ц и я 36
. .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .. . 310

36.1. Квадратичные формы . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . 310
36.2. Конгруэнтность. .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 311
36.3. Канонический вид квадратичной формы. .. . . . . . . . . . . . . . . 311
36.4. Закон инерции . .. . . . . . . . . . . . . . . . . . . . . . . .. . . . . . . . . . 312
36.5. Эрмитова конгруэнтность . .. . . . . . . . . . . . . . . . . . . . . . . . . 313
36.6. Канонический вид пары квадратичных форм . .. . . . . . . . . . . 313
36.7. Метод Лагранжа. .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 314
36.8. Метод квадратного корня . .. . . . . . . . . . . . . . . . . . . . .. .. . .. . 315
36.9. Критерий положительной определенности . .. . . . . . . . . . . . . 318

Л е к ц и я 37
. .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 319

37.1. Разделение собственных значений эрмитовой матрицы. .. . . . 319
37.2. Вариационные свойства собственных значений . .. . . . . . . . . 321
37.3. Возмущения собственных значений . .. . . . . . . . . . . . . . . . . . 322
37.4. Соотношения разделения. .. . . . . . . . . . . . . . . . . . .. . . . . . . . 323
37.5. Критерий неотрицательной определенности . .. . . . . . . . . . . . 325
37.6. Вариационные свойства сингулярных чисел . .. . . . . . . . . . . . 326
37.7. Разделение сингулярных чисел . .. . . . . . . . . . . . . . . . . . . . . 327

Л е к ц и я 38
. .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 328

38.1. Сопряженный оператор . .. . . . . . . . . . . .. . . . . . . . . . . . . . . . 328
38.2. Матрица сопряженного оператора . .. . . . . . . . . . . . . . . . . . . 330
38.3. Нормальный оператор . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . 330
38.4. Самосопряженный оператор. .. . . . . . . . . . . . . . . . . . . . . . . . 331
38.5. Минимизация на подпространствах . .. . . . . . . . . . . . . . .. . . . 332
38.6. Метод сопряженных градиентов . .. . . . . . . . . . . . . . . . . . . . 333
38.7. Двучленные формулы . .. . . . . . . . . . . . . . . . . . . . . .. . . . . . . 334

Оглавление

Л е к ц и я 39
. .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 335
39.1. Спектральные задачи . .. . . . . . . . . . . . . . . . . . . . . . . .. .. . . . 335
39.2. Непрерывность корней многочлена . .. . . . . . . . . . . . . . . . . . 336
39.3. Возмущение спектра матрицы . .. . . . . . . . . . . . . . . . . .. . . . . 339
39.4. Преобразования отражения и вращения. .. . . . . . . . . . . . . . . 339
39.5. Приведение к треугольному виду. .. . . . . . . . . . . . . . . . . . . . 340
39.6. Приведение к почти треугольному виду . .. . . . . . . . . . . . . . . 341
39.7. Приведение к двухдиагональному виду . .. . . . . . . . . . . . . . . 341
39.8. Вычисление сингулярных чисел. .. . . . . . . . . . . . . . . . . . . . . 342

Л е к ц и я 40
. .. . . . . . . . . . .. . . . . . . . . . . . . . . . . . . . . . . . . . . 344
40.1. Многомерные массивы и матрицы . .. . . . . . . . . . . . . . . . . . . 344
40.2. Трехмерные массивы и трилинейные разложения . .. . . . . . . . 345
40.3. Сечения трехмерного массива . .. . . . . . . . . . . . . . . .. . . . . . . 345
40.4. Примеры трилинейных разложений . .. . . . . . . . . . . . . . . . . . 346
40.5. Все не так. .. . . . . . . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 347
40.6. Эквивалентные трилинейные разложения. .. . . . . . . . . . . . . . 348
40.7. Единственность с точностью до эквивалентности. .. . . . . . . . 349
40.8. Тензорный ранг и умножение матриц. .. . . . . . . . . . . . . . . . . 351

Д о п о л н е н и е
к
л е к ц и и 1
. .. . . . . . . . . . . . . . . . . . . . . . . 354
D 1.1. Параллельная форма алгоритма . .. . . . . . . . . . . . . . . . . . . . . 354
D 1.2. Схема сдваивания и параллельное умножение матриц . .. . . . 354
D 1.3. Матрицы и рекуррентные вычисления . . . . . . . . . . . . . . . . . 355
D 1.4. Модели и реальность . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . 356

Д о п о л н е н и е
к
л е к ц и и 2
. .. . . . . . . . . . . . . . . . . . . . . . . 357
D 2.1. Конечные группы . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 357
D 2.2. Смежные классы, нормальные делители, фактор-группы . .. . 358
D 2.3. Изоморфизмы групп . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 358
D 2.4. Гомоморфизмы групп. .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 359
D 2.5. Избыточность в определении группы . .. . . . . . . . . . . . . . . . . 360

Д о п о л н е н и е
к
л е к ц и и 4
. .. . . . . . . . . . . . . . . . . . . . . . . 361
D 4.1. Знакопеременная группа . .. . . . . . . . . . . . . . . . . . . . . . . . . . 361

Оглавление
15

D 4.2. Подгруппы симметрической группы . .. . . . . . . . . . . . . . . . . . 362
D 4.3. Четность без инверсий . .. . . . . . . . . . . . . . . . . . . . . . . . . . . 362

Д о п о л н е н и е
к
л е к ц и и 5
. .. . . . . . . . . . . . . . . . . . . . . . . 364

D 5.1. Функциональное доказательство теоремы Лапласа. .. . . . . . . 364
D 5.2. Определители с нулевыми членами . .. . . . . . . . . . . . . . . . . . 365

Д о п о л н е н и е
к
л е к ц и и 6
. .. . . . . . . . . . . . . . . . . . . . . . . 367

D 6.1. Матрицы с диагональным преобладанием . .. . . . . . . . . . . . . 367
D 6.2. Определитель и возмущения . .. . . . . . . . . . . . . . . . . . . . . . . 368

Д о п о л н е н и е
к
л е к ц и и 8
. .. . . . . . . . . . . . . . . . . . . . . . . 369

D 8.1. Выбор ведущего элемента . .. . . . . . . . . . . . . . . . . . . . . . . . . 369
D 8.2. Вычисление обратной матрицы . .. . . . . . . . . . . . . . . . . . . . . 371

Д о п о л н е н и е
к
л е к ц и и 13
. .. . . . . . . . . . . . . . . . . . . . . . 373

D 13.1. Аффинная независимость . .. . . . . . . . . . . . . . . . . . . . . . . . . 373
D 13.2. Линейные неравенства и минимизация . .. . . . . . . . . . . . . . . 374

Д о п о л н е н и е
к
л е к ц и и 14
. .. . . . . . . . . . . . . . . . . . . . . . 376

D 14.1. Квадратные уравнения . .. . . . . . . . . . . . . . . . . . . . . . . . . . . 376
D 14.2. Кубические уравнения. .. . . . . . . . . . . . . . . . . . . . . . . . . . . . 376
D 14.3. Уравнения четвертой степени. .. . . . . . . . . . . . . . . . . . . . . . . 377

Д о п о л н е н и е
к
л е к ц и и 16
. .. . . . . . . . . . . . . . . . . . . . . . 379

D 16.1. Мультипликативная группа поля вычетов . .. . . . . . . . . . . . . 379
D 16.2. Результант . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 379
D 16.3. Построения циркулем и линейкой . .. . . . . . . . . . . . . . . . . . . 381
D 16.4. Конечные расширения полей . .. . . . . . . . . . . . . . . . . . . . . . . 383
D 16.5. Круговые многочлены простой степени . .. . . . . . . . . . . . . . . 384
D 16.6. Правильные n-угольники . .. . . . . . . . . . . . . . . . . . . . . . . . . 386
D 16.7. Эндоморфизмы и автоморфизмы . .. . . . . . . . . . . . . . . . . . . . 387
D 16.8. Алгебраические числа . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . 389

Оглавление

Д о п о л н е н и е
к
л е к ц и и 17
. .. . . . . . . . . . . . . . . . . . . . . . 391
D 17.1. Кратные корни и производные . .. . . . . . . . . . . . . . . . . . . . . . 391
D 17.2. Разностные уравнения с постоянными коэффициентами. .. . . 392
D 17.3. Поле разложения. .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 394
D 17.4. Корни многочленов над произвольным полем . .. . . . . . . . . . . 395

Д о п о л н е н и е
к
л е к ц и и 18
. .. . . . . . . . . . . . . . . . . . . . . . 397
D 18.1. Еще одно доказательство основной теоремы алгебры . .. . . . . 397
D 18.2. Нормальные поля и поля разложения . .. . . . . . . . . . . . . . . . 398
D 18.3. Радикальные расширения . .. . . . . . . . . . . . . . . . . . . . . . . . . 399
D 18.4. Автоморфизмы и расширения . .. . . . . . . . . . . . . . . . . . . . . . 400
D 18.5. Расширения Галуа. .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 400
D 18.6. Промежуточные поля и подгруппы . .. . . . . . . . . . . . . . . . . . 401
D 18.7. Разрешимость алгебраических уравнений . .. . . . . . . . . . . . . 402
D 18.8. Нормальные делители симметрической группы . . . . . . . . . . 403
D 18.9. Группы при построении правильных многоугольников . .. . . . 404

Д о п о л н е н и е
к
л е к ц и и 19
. .. . . . . . . . . . . . . . . . . . . . . . 406
D 19.1. Классификация линий второго порядка . .. . . . . . . . . . . . . . . 406
D 19.2. Инварианты линии второго порядка. .. . . . . . . . . . . . . . . . . . 406
D 19.3. Определение типа линии . .. . . . . . . . . . . . . . . . . . . . . . . . . . 407

Д о п о л н е н и е
к
л е к ц и и 22
. .. . . . . . . . . . . . . . . . . . . . . . 409
D 22.1. Пополнение пространства . .. . . . . . . . . . . . . . . . . . . . . . . . . 409

Д о п о л н е н и е
к
л е к ц и и 23
. .. . . . . . . . . . . . . . . . . . . . . . 411
D 23.1. Подпространства и замкнутость . .. . . . . . . . . . . . . . . . . . . . 411
D 23.2. Единичная сфера в бесконечномерном пространстве. .. . . . . . 411
D 23.3. Геометрические свойства единичных шаров . .. . . . . . . . . . . . 412
D 23.4. Топологические пространства . .. . . . . . . . . . . . . . . . . . . . . . 413
D 23.5. Компактные множества в топологическом пространстве . .. . . 414

Д о п о л н е н и е
к
л е к ц и и 25
. .. . . . . . . . . . . . . . . . . . . . . . 416
D 25.1. Потеря ортогональности при вычислениях . .. . . . . . . . . . . . . 416

Оглавление
17

D 25.2. Обобщение теоремы о перпендикуляре. .. . . . . . . . . . . . . . . . 417

Д о п о л н е н и е
к
л е к ц и и 26
. .. . . . . . . . . . . . . . . . . . . . . . 419
D 26.1. Строение выпуклых множеств . .. . . . . . . . . . . . . . . . . . . . . . 419
D 26.2. Линейные неравенства . .. . . . . . . . . . . . . . . . . . . . . . . . . . . 420
D 26.3. Поиск точки в пересечении гиперплоскостей . .. . . . . . . . . . . 421
D 26.4. Линейные функционалы и скалярные произведения . .. . . . . . 422
D 26.5. Дуальные нормы . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 423

Д о п о л н е н и е
к
л е к ц и и 27
. .. . . . . . . . . . . . . . . . . . . . . . 426
D 27.1. Выбор базиса . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 426
D 27.2. Базисы в пространстве многочленов . .. . . . . . . . . . . . . . . . . 427

Д о п о л н е н и е
к
л е к ц и и 32
. .. . . . . . . . . . . . . . . . . . . . . . 429
D 32.1. Минимальный многочлен матрицы . .. . . . . . . . . . . . . . . . . . 429
D 32.2. Жорданова форма: прямое доказательство по индукции . .. . . 430

Д о п о л н е н и е
к
л е к ц и и 34
. .. . . . . . . . . . . . . . . . . . . . . . 432
D 34.1. Свертки . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 432
D 34.2. Сложность преобразования Фурье . .. . . . . . . . . . . . . . . . . . . 433
D 34.3. Быстрые приближенные вычисления . .. . . . . . . . . . . . . . . . . 434

Д о п о л н е н и е
к
л е к ц и и 35
. .. . . . . . . . . . . . . . . . . . . . . . 437
D 35.1. Общий вид унитарно инвариантных норм . .. . . . . . . . . . . . . 437

Д о п о л н е н и е
к
л е к ц и и 36
. .. . . . . . . . . . . . . . . . . . . . . . 438
D 36.1. Гиперповерхности второго порядка . .. . . . . . . . . . . . . . . . . . 438
D 36.2. Геометрические свойства гиперповерхностей . .. . . . . . . . . . . 439

Д о п о л н е н и е
к
л е к ц и и 37
. .. . . . . . . . . . . . . . . . . . . . . . 442
D 37.1. Эрмитово возмущение заданного ранга . .. . . . . . . . . . . . . . . 442
D 37.2. Собственные значения и сингулярные числа . .. . . . . . . . . . . 443
D 37.3. Мажоризация и неравенства . .. . . . . . . . . . . . . . . . . . . . . . . 444

Оглавление

Д о п о л н е н и е
к
л е к ц и и 38
. .. . . . . . . . . . . . . . . . . . . . . . 448
D 38.1. Число итераций. .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 448
D 38.2. Как убывают нормы невязок . .. . . . . . . . . . . . . . . . . . . . . . . 448
D 38.3. Оценка с помощью многочленов Чебыш¨ева . .. . . . . . . . . . . . 449
D 38.4. Предобусловленный метод сопряженных градиентов. .. . . . . . 451
D 38.5. Обобщения метода сопряженных градиентов . .. . . . . . . . . . . 452

Д о п о л н е н и е
к
л е к ц и и 39
. .. . . . . . . . . . . . . . . . . . . . . . 456
D 39.1. Локализация собственных значений . .. . . . . . . . . . . . . . . . . 456
D 39.2. Расстояние между спектрами нормальных матриц . .. . . . . . . 457

Д о п о л н е н и е
к
л е к ц и и 40
. .. . . . . . . . . . . . . . . . . . . . . . 460
D 40.1. Преобразования массивов с помощью матриц . .. . . . . . . . . . 460
D 40.2. Ортогональные преобразования массивов. .. . . . . . . . . . . . . . 460
D 40.3. Разложение Таккера . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 461
Литература . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 464
Предметный указатель . .. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 466

Предисловие

Данная книга возникла в ходе чтения лекций студентам первого курса факультета вычислительной математики и кибернетики Московского государственного университета им. М. В. Ломоносова. Ее главы появлялись почти синхронно с лекциями
и становились доступными студентам благодаря интернету. После этого первоначальный текст постоянно менялся — помимо
исправления опечаток, автору хотелось найти такой стиль изложения, который позволил бы получить необходимые основы
предмета и в то же время дал бы возможность наиболее заинтересованным читателям пойти дальше, иногда очень далеко —
вплоть до обсуждения нетривиальных приложений, которыми
очень сильна линейная алгебра.
Данный замысел потребовал определенной структуры от книги. Она содержит несколько пластов. Прежде всего это основной, обязательный материал — его можно читать без ссылок
на дополнения, а многие читатели могут им и ограничиться.
Цель автора по отношению к таким читателям — оставить у
них ощущение красивой и простой науки, каковой и является
линейная алгебра. Но меньше всего хотелось бы оставить впечатление науки, завершившей свое развитие. Для этого и написаны
дополнения, в которых линейная алгебра предстает уже не очень
простой наукой, ведущей своими методами к интересным и часто
знаменитым результатам в других разделах математики и ее
приложениях.
Честолюбивый читатель, возможно, будет стремиться прочесть книгу от корки до корки. Автор должен предупредить,
что это может потребовать больших усилий и, вполне возможно,
к каким-то местам лучше вернуться после завершения первого
года обучения. Везде указано, какой материал считается дополнительным. Более того, дополнительный материал также имеет
два уровня — то, что набрано мелким шрифтом, должно считаться «более дополнительным».
О том, чем данная книга отличается от традиционных учебников, можно судить уже по названию: понятия и теоремы
линейной алгебры во многих случаях представлены читателю
как факты матричного анализа. В какой-то степени это делает

Предисловие

изложение «менее абстрактным», позволяет освободиться от не
очень существенных деталей и одновременно познакомить читателя с матричным анализом как относительно самостоятельной
дисциплиной. Курс естественным образом включает в себя также
основы аналитической геометрии.
Отметим другие особенности книги и причины, по которым
она может оказаться полезной.
Во-первых, в определенной степени книгу можно рассматривать как расширенный конспект лекций. Отсюда лаконичность,
свойственная лекциям. По этой же причине в книге нет «длинных» ссылок и присутствуют неизбежные в лекциях напоминания и повторения.
Во-вторых, изложение совершенно классических вопросов
обычно имеет продолжение в дополнительной части, откуда видно, что изучаемая нами наука является живой и прочно связанной со многими другими разделами математики. Как только
появляется возможность сказать об особо впечатляющих достижениях, я это делаю. Но в каждом таком случае считаю важным избегать чисто декларативного описания — если уж что-то
обсуждается, то всегда с ясными формулировками и полными
(почти всегда) доказательствами.
В-третьих, в книге идет одновременное развитие нескольких
тем — подобно тому, как это бывает в полифоническом музыкальном произведении. Главная тема, конечно, — это все, что
связано с концепцией линейной зависимости векторов. В качестве побочной (хотя и не менее значимой) темы в самом
начале возникает понятие алгебраической операции и группы.
Эта тема впоследствии приводит к важным понятиям кольца и
поля, а затем и к своеобразной точке «контрапункта» (в той же
музыкальной аналогии), когда свойства линейного пространства
применяются к изучению расширений полей.
В дополнительных частях в сжатом и в то же время замкнутом виде изложены весьма нетривиальные результаты, иногда
выходящие за рамки собственно линейной алгебры (например,
вопросы о построении правильных n-угольников и разрешимости
алгебраических уравнений). Общеизвестно, однако, что значение
и сила линейной алгебры обусловлены прежде всего ее многочисленными приложениями.
Безусловно, линейной алгебре не следует учить «слишком
абстрактно». Почти все можно объяснить, работая с простыми
для понимания объектами — матрицами, а не с абстрактными
элементами линейных пространств. В то же время определенная
доза абстрактных понятий уместна и даже полезна на самой

Предисловие
21

ранней стадии обучения: вряд ли можно считать чрезмерными
усилия, затраченные на освоение всего лишь определения группы и простейших ее свойств. Если же это сделать на раннем
этапе обучения, то в дальнейшем находится много поводов для
возвращения к этому понятию в связи с примерами групп, которые естественным образом возникают в разных местах курса.
Мне кажется, что упрощение формы изложения все же может сочетаться с более наполненным содержанием. По крайней
мере я стремился к этому. Линейная алгебра и ее приложения
настолько фундаментальны и важны, что нет никаких оснований
для сокращения объема обязательных базовых знаний в данной
области.
В нашем курсе предмет линейной алгебры понимается в расширенном смысле, довольно часто мы оказываемся на территории смежных дисциплин — математического анализа, вычислительных методов и, конечно, общей алгебры. Границы являются
условностью, как и в жизни. Особенно часто они пересекаются
при разработке современных информационных и вычислительных технологий.
Например, одна из главных обязательных тем первого семестра — теория и методы исследования и решения систем линейных
алгебраических уравнений. Материал вполне элементарный и,
возможно, оставляющий впечатление абсолютной завершенности. Однако практическая необходимость решения систем с миллионами уравнений и неизвестных и появление вычислительной
техники с параллельным выполнением операций дали импульс
к изучению новых свойств алгоритмов. В данном случае успехи
прямо связаны с ростом мощи компьютеров. В то же время —
и об этом сказать особенно приятно — выход на радикально новый уровень возможностей был сделан благодаря новому математическому знанию, а не росту производительности компьютеров.
Более того, для данной вполне классической задачи линейной
алгебры потребовалось дальнейшее изучение фундаментальных
вопросов из области математического анализа и теории приближений.
Отдельные места в книге содержат материал, который вообще нельзя найти ни в каких учебниках и даже монографиях.
В частности, это относится к теореме об обобщениях методов
сопряженных градиентов. В еще большей степени — ко всему
материалу заключительной лекции, посвященной многомерным
массивам, тензорным рангам и полилинейным обобщениям сингулярного разложения матрицы.

Предисловие

К дополнительному материалу, вероятно, следует отнести и
включенные в текст лекций задачи. Это именно задачи, а не
упражнения. Как правило, не самые легкие задачи — но всегда
с подсказкой: нужно учесть само расположение задачи. Конечно,
для активного освоения линейной алгебры нужны и упражнения,
и задачи разного уровня сложности. Их можно найти в различных разделах существующих задачников (например, [11, 17, 20,
25]).
В те времена, когда факультет ВМиК только появился,
математики-вычислители часто сетовали на то, что в обязательных курсах мехмата ничего не говорилось о возникших перед
ними проблемах. В настоящее время можно уже говорить о
том, что математикам-вычислителям часто не хватает знаний из
традиционных именно для мехмата разделов математики. Можно
привести примеры рекордно эффективных вычислительных технологий, возникших на основе идей и аппарата, казалось бы,
далеких от приложений областей — например, алгебраической
топологии. Конечно, в этой книге последние заявления останутся
все же лишь декларациями, к сожалению автора и читателей. Но
ведь это лишь начало пути!
В любом деле очень важен начальный импульс. Для данной
книги его генератором был В. А. Ильин, пригласивший меня прочитать лекции на ВМиК.
В Институте вычислительной математики Российской академии наук, где я имею честь работать, это предложение было горячо поддержано В. В. Воеводиным, В. П. Дымниковым, а также
Г. И. Марчуком, попросившим меня в то же самое время помочь
в организации на ВМиК новой кафедры — вычислительных
технологий и моделирования, — которой он стал заведовать.
Мне оставалось только согласиться и попытаться сделать
то, о чем я, скорее всего, уже думал — попробовать рассказать студентам о матричном анализе и линейной алгебре то,
что мне самому хотелось бы услышать, когда я был студентом.
По крайней мере самому мне это все пока нравится. Поэтому всем названным лицам выражаю искреннюю благодарность.
Хочу поблагодарить также С. А. Горейнова, Н. Л. Замарашкина,
Х. Д. Икрамова, Г. Д. Ким, В. С. Панферова, В. Н. Чугунова и
всех тех, кто уже сделал или еще сделает замечания по тексту
лекций.

Л е к ц и я 1

1.1. Линейные отображения и матрицы

В математике и других науках постоянно изучается зависимость одних величин от других. Обычно зависимость описывается различного типа функциями (отображениями, операторами).
Простейший случай — линейные отображения. Строгие определения мы дадим позже. А пока предположим, что переменные
y1, ... , ym выражаются через x1, ... , xn следующим образом:
⎧
⎨

⎩

y1 = a11x1 + ... + a1nxn,
. . . . . . . . . . . . . . . . . . . . . .
ym = am1x1 + ... + amnxn,
(∗)

где коэффициенты считаются заданными постоянными величинами. Соберем все постоянные коэффициенты в прямоугольную
таблицу и обозначим ее буквой A; составим также таблицыстолбцы из величин x1, ... , xn и y1, ... , ym:

A =

a11
...
a1n
...
...
...
am1 ... amn

,
x =

x1
...
xn

,
y =

y1
...
ym

.

Такие таблицы и называются матрицами. Мы имеем целых три
матрицы: размеров m × n,
n × 1
и
m × 1. Соотношения (∗),
описывающие зависимость y от x, запишем символически таким
образом:
y = Ax.
(∗∗)

Возникает впечатление, что матрица A умножается на матрицустолбец x, в результате чего появляется матрица-столбец y.
Так оно и будет, если мы скажем, что соотношения (∗) суть
определение операции (∗∗) умножения A на x.
Если m = n, то матрица называется квадратной. Квадратная
матрица размеров n × n называется также матрицей порядка n.

Лекция 1

1.2. Умножение матриц

Пусть y1, ... , ym выражаются через x1, ... , xn и при этом
x1, ... , xn выражаются через z1, ... , zk следующим образом:
⎧
⎨

⎩

y1 = a11x1 + ... + a1nxn,
. . . . . . . . . . . . . . . . . . . . . .
ym = am1x1 + ... + amnxn,

⎧
⎨

⎩

x1 = b11z1 + ... + b1kzk,
. . . . . . . . . . . . . . . . . . . .
xn = bn1z1 + ... + bnkzk,

Ясно, что y1, ... , ym выражаются через z1, ... , zk аналогичным
образом. Матрицу из постоянных коэффициентов этой зависимости обозначим через C. Тогда

y = Ax,
x = Bz и y = Cz.

Чтобы получить коэффициенты матрицы C, нужно подставить
выражения для x1, ... , xn через z1, ... , zk в формулы, выражающие y1, ... , ym через x1, ... , xn, и собрать коэффициенты при
величинах z1, ... , zk. Получится вот что:

C = [cij],
где cij =

n
l=1
ailblj.
(∗)

Определение. Матрица C вида (∗) называется произведением
матриц A и B и обозначается C = AB.
Следствие. y = A(Bz) = (AB)z.
Часто говорят, что матрицы умножаются по правилу «строка
на столбец». Число столбцов в первом сомножителе обязано,
конечно, совпадать с числом строк во втором. Если мы пишем
C = AB, то автоматически имеем в виду, что матрицы A и B не
совсем уж произвольные.

1.3. Ассоциативность умножения матриц

Теорема. (AB)C = A(BC).
Доказательство. Пусть A, B, C имеют размеры m × n, n × k,
k × l. Тогда

{(AB)C}ij =

k
p=1
{AB}ipcpj =

k
p=1

n
q=1
aiqbqp

cpj =

=

n
q=1
aiq

k
p=1
bqpcpj

= {A(BC)}ij.

1.6. Умножение блочных матриц
25

1.4. Некоммутативность умножения матриц

В общем случае AB ̸= BA даже для квадратных матриц.
Например,
0 1
0 0

0 0
1 0

=
1 0
0 0

,
0 0
1 0

0 1
0 0

=
0 0
0 1

.

1.5. Сложение матриц и умножение на число

Матрица C = [cij] называется суммой матриц A = [aij] и B =
= [bij], если
cij = aij + bij
для всех i, j.

Матрицы A, B и C = A + B одинаковых размеров. Операция
сложения матриц обладает сразу двумя приятными свойствами:

A + (B + C) = (A + B) + C
(ассоциативность),

A + B = B + A
(коммутативность).

Полезно ввести также операцию умножения матрицы на число. Если α — число, то матрица C = αA определяется как
матрица тех же размеров с элементами cij = αaij.

1.6. Умножение блочных матриц

Предположим, что матрицы A и B составлены из блоков Aij
и Bij:

A =

A11 ... A1q
...
...
...
Ap1 ... Apq

,
B =

B11 ... B1r
...
...
...
Bq1 ... Bqr

,

где Aij
— mi × nj, Bij
— ni × kj. Тогда произведение C =
= AB существует и его можно вычислять, используя операции
умножения и сложения матриц-блоков:

C =

C11 ... C1r
...
...
...
Cp1 ... Cpr

,
где
Cij =

q
l=1
AilBlj
—
mi × kj.

Докажите!

Лекция 1

Можно сказать, что блочные матрицы умножаются по правилу «блочная строка на блочный столбец». Мы очень скоро
увидим, какую пользу может дать блочное умножение.

1.7. Вычислительный аспект умножения матриц

Пусть заданы (n × n)-матрицы A и B и требуется вычислить
их произведение C = AB. Вот классический алгоритм (программа на неком подобии алгоритмического языка Фортран):

DO i = 1, n
DO j = 1, n
DO k = 1, n
cij = cij + aikbkj
END DO
END DO
END DO.

Конечно, предварительно следует занулить элементы cij.

1.8. Хороша ли программа?

Ответить на этот вопрос не очень просто. Прежде всего
нужен какой-то критерий — пусть это будет время исполнения
программы. Но время зависит не только от типа компьютера.
В строгом смысле, оно привязано к отдельно взятому компьютеру
и зависит от его состояния на данный момент, от операционной
системы и, конечно, от особенностей транслятора.
Чтобы что-то здесь понять, нужно отбросить очень много
деталей и оставить нечто главное. Если все операции выполняются последовательно, то время работы можно считать пропорциональным числу операций. Мы пойдем дальше и будем
подсчитывать лишь арифметические операции. Общее их число
будем называть арифметической сложностью алгоритма.
Легко найти, что арифметическая сложность классического
алгоритма умножения матриц равна 2n3 (n3 умножений и n3
сложений). Но хорошо ли это? Уверены ли мы в том, что это
наилучший алгоритм?
Само понятие «наилучший» предполагает наличие некого
множества возможных алгоритмов. Будем полагать, что алгоритм — это последовательность элементарных операций из конечного фиксированного набора элементарных операций. Для