Skip to content

Latest commit

 

History

History
619 lines (351 loc) · 36.5 KB

File metadata and controls

619 lines (351 loc) · 36.5 KB

Linear algebra

Ступенчатый вид, существование решений

линал 01 — 0:26:27 Ступенчатый вид, главные и свободные переменные. линал 01 — 0:32:14 Улучшенный ступенчатый вид. линал 01 — 0:35:45 Существование решений, три ситуации: решений нет, решение одно, решений бесконечное количество.

.images/2020-11-16_09-27-05_screenshot.png

Важные примеры умножения матриц

линал 01 — 1:12:57 Важные примеры: матрица сдвига, у которой все нули, кроме единиц над диагональю, матрица цикла. линал 01 — Если у B в прозведении AB есть нулевой столбец, то и в результате будет там же нулевой. линал 01 — Аналогично, если у А в прозведении AB есть нулевая строка, то и в результате будет нулевая строка линал 01 — 1:20:26 Умножение на диагональную матрицу слева или справа — строки или столбцы умножаются на диагональные элементы.

Система линейных уравнений ⇔ матричная запись ⇔ Ax=b

линал 01 — 0:09:25 Система линейных уравнений, алгоритм Гаусса. линал 01 — 1:25:53 Связь между системами линейных уравнений и операциями над матрицами.

Матричная запись — это просто краткая запись системы, где мы стерли все ненужные знаки.

.images/2020-11-15_11-03-42_screenshot.png

И это то же самое, что Ax=b

.images/2020-11-15_11-04-31_screenshot.png

Операции над матрицами

линал 01 — 1:05:09 Матрицы, операции над ними.

размеры произведений AB и BA

Хорошие и плохие свойства операций над матрицами

линал 01 — 1:28:16 Хорошие свойства операций над матрицами: дистрибутивность, ассоциативность — чем матрицы похожи на числа. линал 01 — 1:33:35 Плохие свойства: коммутативности нет, разные размеры в зависимости от порядка умножения. линал 01 — 1:36:24 Простой пример, когда результат умножения разный в зависимости от порядка умножения. линал 01 — 1:38:39 Делители нуля — произведение запросто может оказаться нулевым при ненулевых сомножителях, AB = 0. линал 01 — 1:39:35 Произведение диагональных матриц, они коммутируют. линал 01 — 1:44:42 Тот факт, что бывают делители нуля это не плохо, иначе у системы Ax=0 было бы лишь одно нулевое решение. линал 01 — 1:50:42 Нильпотенты – третий пример плохих свойств.

Диагональные матрицы и функции над конечными множествами

(Это просто иллюистрация и для интуиции, запоминать это особо не нужно)

В контексте плохих свойств операций над матрицами и делителей нуля.

линал 01 — 1:40:29 Иллюстрация для интуиции: связь между диагональными матрицами и функции над конечными множествами.

.images/2020-11-11_05-51-00_screenshot.png

линал 01 — 1:43:05 И еще никого не удивляет, что произведение двух ненулевых функций может оказаться нулевой функцией.

.images/2020-11-11_05-44-46_screenshot.png

Для широких матриц уравнение Ax=0 всегда имеет ненулевое решение

Это потому что если привести к ступенчатому виду, то будет хотя бы одна свободная переменная.

линал 01 — 1:45:37 Если матрица A широкая ▭, то у Ax=0 всегда существует ненулевое решение, за это мы их любим.

Нильпотенты – когда A^2 = A A = 0, но это не значит, что A=0

линал 01 — 1:50:42 нильпотенты – третий пример плохих свойств

.images/2020-11-11_06-31-36_screenshot.png

Какие матрицы коммутируют со скалярной, диагональной, J(0)

линал 01 — 2:03:23 Задача из ДЗ: какие матрицы коммутируют с диагональной, ответ — диагональные. линал 01 — 2:10:43 Задача из ДЗ: какие матрицы коммутируют с любыми матрицами, ответ — скалярные матрицы. линал 01 — 2:27:03 Задача из ДЗ: какие матрицы коммутируют с матрицей J(0).

блочная матрицы

линал 01 — 2:42:44 Блочная формула умножения матриц. линал 01 — 2:48:09 Частный случай: умножение AB как умножение A на блочную матрицу ( B_1 | … | B_k). линал 01 — 2:49:20 Иногда удобно произведение матриц AB рассматривать как сумму, если смотреть на них как на блочную строку A и блочный столбец B. линал 01 — 2:52:35 Произведение двух блочных матриц вида (A B \ 0 C), где нулевой блок.

линал 02 — 2:12:58 Блочные элементарные преобразования. линал 02 — 2:22:32 Пример.

Элед матрицы tr(A)

линал 01 — 2:57:00 След матрицы tr(A), мы его будем позже обсуждать подробнее, а пока определение и важные свойства tr(AB) = tr(BA), tr(A + B) = tr(A) + tr(B).

линал 01 — 3:06:27 Задача из ДЗ: пусть A прямоугольная, A B_1 = E_n и B_2 A = E_m, тогда m=n, то есть A квадратная — решается через след.

Транспонирование A^t

линал 01 — 2:54:05 Транспонирование сложения и умножения, (AB)^t = B^t A^t и (A + B)^t = A^t + B^t.

Задача. Пусть A — нильпотент, доказать обратимость E-A. И еще пара пунктов

линал 01 — 3:18:00 Задача из ДЗ: пусть A^m = 0, доказать обратимость матрицы E - A и найти ее явный вид.

Обе E-A и E+A обратимы, кстати.

Задача из ДЗ: Кострикин 19.20, Доказать, что если A нильпотентна и многочлен f(t) имеет ненулевой свободный член, то матрица f(A) обратима.

Эквивалентные определения невырожденности

линал 02 — 0:41:04 Шесть эквивалентных определений невырожденности, по ходу курса добавятся еще два. линал 02 — 1:07:30 В явном виде отрицание всех пунктов из эквивалентных определений невырожденности, для лучшего понимания.

.images/2020-11-15_10-07-50_screenshot.png

Пояснение по пункту 4: Он эквивалентен сразу обоим пунктам 5 и 6, но на самом деле достаточно одного из них.

Пояснение по пункту 2: Если у Ax=0 только нулевое решение, то с транспонированной тоже только нулевое. Это несмотря на то, что системы разные.

.images/2020-11-15_10-10-41_screenshot.png

Пояснение по пункту 1: (⇐) доказывается просто: Если A обратима, то умножаем на ее обратную, чтобы сократить, и Ax=0 превращается в x=0. То есть, только нулевое решение.

.images/2020-11-15_10-14-41_screenshot.png

Отрицание, например, первого пункта: Есть ненулевое решение. Тогда это эквивалентно тому, что обратимой не существует.

линал 01 — 3:00:27 Деление и обратная матрица. линал 01 — Комментарий: можно потребовать любое из AB = E и BA = E, чтобы B была обратой, и доказательство не очевидно, но мы его пока не обсуждаем. линал 01 — 3:04:24 Единственность обратной.

линал 02 — 0:56:10 Важный момент: обратимость имеет смысл только для квадратных матриц. Частая ошибка бывает, когда глядя на уравнения, записанные в матричном виде, забывают про это и сокращают на какую-нибудь прямоугольную матрицу.

линал 03 — 1:26:36 К эквивалентным определениям невырожденности добавляется еще один пункт про определитель.

.images/2020-11-16_20-02-05_screenshot.png

Быстрый критерий необратимости: нулевая строка (столбец) или можно привести к этому

нулевой столбец

линал 02 — 0:57:11 Быстрые критерии необратимости матриц. линал 02 — (1) Когда есть нулевая строка или столбец; линал 02 — (2) Если можно элементарными преобразованиеми занулить строку. Например, две строки одинаковые.

Элементарные преобразования

линал 01 — 0:16:24 Элементарные преобразования, они не меняют пространство решений. линал 02 — 0:02:33 Матрицы, соответствующие элементарным преобразованиям.

линал 02 — 0:21:19 Замечание: если надо проделать преобразование строк, а потом преобразоавние слолбцов, то результат будет тот же, что если сделать в обратном порядке, сначала над столбцами, потом над строками: (U_1 A) U_2 = U_1 (A U_2) линал 02 — 0:26:10 Замечание: когда мы решаем систему Ax = b, мы умножаем слева на матрицы элементарных преобразований, UAx = Ub

линал 02 — 0:27:50 Замечание: матрицы элементарных преобразований обратимы, явный вид обратных.

линал 03 — 1:03:05 Как меняется определитель при элементарных преобразованиях.

Поиск обратной

линал 02 — 1:09:07 Поиск обратной матрицы: ( A | E ) ~> ( E | A-1 ), как это работает

обратная к диагональной

и для случая 2x2 смотри частный случай вычисления через присоединенную матрицу

Присоединенная матрица

линал 03 — 2:19:40 Вычисление обратной матрицы через присоединенную матрицу. Это теоретический результат, когда мы можем сказать, что мы знаем, как выражаются элементы обратной через элементы исходной матрицы.

линал 03 — 2:25:10 Случай 2x2. Запоминается так: диагональные элементы меняются местами, у недиагональных меняется знак, все это делится на определитель.

E - AB обратима ⇔ E - BA обратима

линал 02 — 1:31:31 Задача из ДЗ. Пусть A прямоугольная размера m×n, а B размера n×m. Утверждение: E - AB обратима ⇔ E - BA обратима. линал 02 — 1:33:55 Пример применения этого утверждения. Матрица A — столбец, B — строка. Тогда AB — это большая матрица, а BA — это просто число. Так можно сокращать размер матрицы для проверки обратимости. линал 02 — 1:37:00 Доказательство самого утверждения. линал 02 — 1:50:25 Трюковое доказательство.

Спектр, характеристический и минимальный многочлены

линал 02 — 2:46:13 Спектр матрицы. Пример: спектр диагональной матрицы. линал 02 — 2:50:14 Матрицы с пустым вещественным спектром. При этом комплексный спектр всегда непуст. линал 02 — 2:52:40 Свойства спектра.

линал 02 — 2:27:43 Подстановка матрицы в многочлен. линал 02 — 2:30:44 Зануляющий многочлен. Примеры. линал 02 — 2:32:52 Для любой матрицы существует зануляющий мн-н, причем deg p(t) ≤ n. линал 02 — Это сложно доказать, а вот это просто: deg p(t) ≤ n^2. линал 02 — 2:35:47 Задача. Сама матрица A не дана, но дан зануляющий мн-н. Нужно выразить обратную матрицу через нее. линал 02 — 2:39:08 Свойства подстановки в многочлен.

линал 02 — 2:58:12 Минимальный многочлен.

Единственность минимального многочлена.

алгоритм поиска минимального многочлена — в конспектах

линал 03 — 2:28:10 Характеристический многочлен. линал 03 — 2:35:41 Свойства: линал 03 — (1) χ(λ) = λ^n - tr(A) λn-1 + … + (-1)^n det(A). Надо помнить второй и последний коэффициенты, а то, что скрывается за многоточием вряд ли понадобится; линал 03 — (2) Спектр — это корни характеристического многочлена; линал 03 — (3) теорема Гамильтона-Кэли: характеристический многочлен зануляет матрицу. Или, что то же самое, минимальный многочлен делит характеристический. линал 03 — 2:44:30 Пример. линал 03 — 2:47:54 Как быстро считать характеристический многочлен для матрицы 2x2: χ(λ) = λ^2 - tr(A) λ + det(A) линал 03 — 2:48:52 Характеристический многочлен блочной матрицы: χ_S(λ) = χ_A(λ) χ_D(λ) линал 03 — A B линал 03 — 0 D линал 03 — где A и D квадратные блоки. линал 03 — 2:50:30 Замечание. A-λE обратима для всех лямбд, кроме конечного числа тех, что в спектре. И если была необратимая матрица, то ее легко сделать обратимой, сдвинув ее на λE почти для всех лямбд.

Характеристические многочлены матриц AB и BA

линал 04 — 0:04:42 Равенство характеристических многочленов матриц AB и BA через продолжение по непрерывности. линал 04 — 0:41:50 Минимальные многочлены матриц AB и BA не обязательно равны, пример: матрицы 2x2 заданы как A = diag(1, 0) и B = J(0), f_min(AB)=t^2, f_min(BA)=t. линал 04 — 0:45:28 Когда матрица A широкая ▭, B высокая ▯: характеристические матриц AB и BA различаются на множитель tn-m. Из этого еще следует, что spec(BA) = {0} ∪ spec{AB} — спектры различаются на включение нуля. линал 04 — 0:50:06 Ответ на вопрос. Что будет, если дана квадратная матрица A с характеристическим χA(t) = t^k g(t), где g(t)≢0. Можно ли говорить, A раскладывается на произведение высокой ▯ и широкой ▭ матриц. Обсудим это позже, это про тензорный ранг. линал 04 — 0:53:12 Доказательство, утверждения выше, что tn-m χAB(t) = χBA(t).

Мн-ва решений совпадают ⇔ улучшенные ступенчатые виды A и B совпадают

линал 02 — 1:24:29 Рассмотрим Ax=0 и Bx=0 для квадратных матриц одинаковой ширины. Мн-ва решений совпадают ⇔ улучшенные ступенчатые виды A и B совпадают (если отбросить нули). линал 02 — В конспектах утверждение шире. Следующее эквивалентно: линал 02 — (1) Системы имеют одно и то же множество решений; линал 02 — (2) A приводится к B элементарными преобразованиями; линал 02 — (3) ∃ обратимая C: CA = B; линал 02 — (4) Улучшенные ступенчатые виды A и B совпадают (если отбросить нули). линал 02 — 1:29:49 Ответ на вопрос: если улучшенный ступенчатый вид разный, то что будет с общими решениями? линал 02 — Утверждение выше про полное совпадение. Если надо пересечение, то к матрице A приписывается снизу матрица B

Умножение и обратимость

линал 02 — 0:34:37 Умножение и обратимость: линал 02 — (1) AB обратима ⇔ A обратима и B обратима по отдельности; линал 02 — (2) (AB)-1 = B-1 A-1

Определитель и свойства

линал 03 — 1:22:22 Важно, что сам определитель и определитель произведения det(AB) работают только на квадратных матрицах.

линал 03 — 0:01:07 Определитель. Геометрическая интуиция про ориентированный объем. линал 03 — 0:20:43 Три способа определить определитель. линал 03 — (1) Через единственность функции, согласованной с умножением матриц; линал 03 — (2) Через единственность полилинейной и кососимметрической функции на столбцах; линал 03 — (3) Через явную формулу с перестановками — это почти никогда не нужно. линал 03 — 0:56:19 Пояснение про определение через полилинейную и кососимметрическую функцию на столбцах.

линал 03 — 0:43:50 Определители для матриц 2x2 и 3x3. линал 03 — (-) Определитель единичной и скалярной матрицы; линал 03 — (-) det(λA) = λ^n det(A); линал 03 — (-) det(AB) = det(A) det(B). линал 03 — 0:50:07 линал 03 — Определитель матрицы в ступенчатом виде равен произведению элементов на диагонали. линал 03 — Простой геометрический пример со следующими матрицами: линал 03 — a b a 0 линал 03 — 0 d 0 d линал 03 — 2:12:03 Разложение определителя по столбцу или строке.

линал 03 — 1:12:52 Пара быстрых способов выянить, равен ли определитель нулю. линал 03 — (-) Строчка или столбец нулевой; линал 03 — (-) Есть одинаковые или пропорциональные строки или столбцы.

линал 03 — Определитель — единственная функция, которая уважает произведение. линал 03 — (-) Транспонирование не меняет определитель;

det(u_1 u_2) = площать между векторами

Определитель блочной матрицы

линал 03 — 1:29:49 Определитель блочной матрицы линал 03 — A B линал 03 — 0 D

линал 03 — 2:52:18 Задача из ДЗ: принцип продолжения по непрерывности для определителя блочной матрицы, det( A B \ C D) = det(A) det( D - C A-1 B ), когда A обратима (здесь A — n×n, D — m×m). линал 03 — Получается умножением на матрицу элементарного преобразования (E 0 \ -CA-1 E). линал 03 — Эта формула близка к той, которую очень хотелось бы: det( A B \ C D) = det( AD - BC ), но во-первых, размеры A не позволяют внести ее во второй сомножитель, и во-вторых, A и C не обязательно коммутируют. линал 03 — 3:01:28 Но если блоки квадратные и соседние коммутируют, то такая формула и получается. линал 03 — 3:03:20 Решение этой задачи в два шага.

Смена координат

линал 04 — 2:29:14 Смена координат. Матрица перехода вектора из одного базиса в другой. линал 04 — 2:38:31 Пример. Как искать эту матрицу в R^n.

линал 04 — 2:42:32 Ответ на вопрос про C-1 B C: как избавиться от C. Ответ: никак. Это матрицы, и они не коммутируют (за редким исключенем). Путаницу вызвало, что det(C-1 B C) = det(C-1) det(B) det(C) = det(B), но здесь числа.

Задание пространства через линейную оболочку и через { y | Ay = 0 }

линал 04 — 2:44:16 Линейная оболочка. линал 04 — 2:48:09 Все пространства устроены как R^n, и мы хотим теперь понять, как задавать подпространства в R^n. линал 04 — (-) С помощью линейных оболочек. линал 04 — (-) Через систему уравнений, { y | Ay = 0 } линал 04 — 2:51:13 Пример A=(1 1), тогда пространство задается так: { (x y)^t | x+y=0 }, и через линейную оболочку: < (1, -1)^t &rt;. линал 04 — Всегда можно пересчитать из одного способа задания в другой. линал 04 — Короткое замечание: rk(A) + rk(span) = n. линал 04 — 2:54:17 Как найти базис, если пространство задано одним из способов выше. Вот первый: линал 04 — Задача: Задан набор векторов, надо среди них выбрать базис и остальные через него выразить. линал 04 — 3:22:14 Задача: Подпространство задано матрицей, { y | Ay = 0 }, надо найти базис. Это называется ФСР — фундаментальная система решений.

Ранговая факторизация

линал 04 — 3:12:18 Скелетное разложение. Оно же ранговая факторизация.

Базис

линал 04 — 1:55:19 Линейная зависимость. линал 04 — 2:12:39 Базис — набор линейно-независимых векторов, через которые выражаются все в пространстве. линал 04 — Эквивалентные определения: линал 04 — Базис — максимально линейно-независимый набор. Добавить еще вектор не получится, поломается линейная-независимость. линал 04 — Базис — минимально-порождающий набор. Выкинуть вектор не получится. линал 04 — То есть, можно снизу вверх строить базис, а можно сверху вниз. линал 04 — И еще ∃! набор коэффициентов для выражения вектора в базисе. То есть, координаты вектора в базисе однозначны.

линал 04 — 2:18:49 Пример. Стандартный базис. Он есть в R^n и нет в других векторных пространствах. Чтобы были координаты, надо ввести какой-то базис.

линал 04 — 2:23:37 Размерность пространства — количество векторов в базисе. И если даны два базиса, то их размеры одинаковы. линал 04 — 2:24:32 Если в каком-то пространстве V дан базис, то это сразу задает биекцию между V и R^n. линал 04 — 2:27:09 Если V ⊇ U, то dim V ≥ dim U. И равенство достигается только при равенстве пространств. линал 04 — Это позволяет делать проверку того, что набор векторов является базисом. линал 04 — f_1, …, f_m ∈ R^n линал 04 — Это базис или нет? Если m≠n, то нет. линал 04 — А если m=n, то еще проверяем: либо линейную независимость, либо то, что они порождающие. Достаточно половину определения проверить.

Векторное пространоство, примеры

линал 04 — 1:07:54 Векторные пространства. Конкретные и абстрактные. линал 04 — 1:15:30 Определение из двух пунктов: интерфейс — множество со сложением и умножением на числа; линал 04 — 1:23:20 И контракт — естественные аксиомы про сложение, умножение, единицу.

линал 04 — 1:29:47 Пара примеров векторных пространств: R^n, многочлены, функции на прямой. линал 04 — 1:33:39 Еще важный пример: { y | Ay=0 } — множество решений однородной системы уравнений, со сложением и умножением. То есть, если есть два решения, то их сложение и умножение на числа останется в этом множестве.

линал 04 — 1:38:38 Подпространство. Это подмножество, которое замкнуто относительно сложения и умножения на скаляр. Важно, что оно тоже пространство. Пример выше есть подпространство в R^n, и его как пространство не сложней изучать, чем само R^n. линал 04 — 1:41:08 Ответ на вопрос. Умножение u на v не задается. Многочлены можно перемножать, но для пространств это лишняя информация.

Линейное отображение — это то же самое, что умножить слева на матрицу

линал 04 — 1:42:25 Изоморфизм, биекция. Линейное отображние. линал 04 — 1:49:10 Самое важное: любое линейное отображение φ: R^n -> R^m устроено как x -> Ax. И никаких других не бывает. То есть, в R^n любое линейное отображение — это то же самое, что умножить слева на матрицу. линал 04 — 1:50:28 И еще важное: линейное отображение φ: R^n -> R^n из пространства в себя — это линейная деформация пространства. Это растяжения, наклоны, повороты, проекции, симметрии, etc. линал 04 — Все, что мы изучали про матрицы, будет важно, когда мы будем изучать линейные отображения.

линал 04 — 1:51:55 Еще важно, что любое конечномерное пространство изоморфно R^n. линал 04 — То есть любое конечномерное пр-во (в каком-то смысле маленькое) будет устроено так же как R^n, и его изучать конечномерные пространства — все равно что изучать R^n.

линал 04 — 1:52:49 Ответ на вопрос: как определять одинаковость. Пример изоморфизма: нарезка матрицы вертикально в один длинный вертикальный вектор.

Определитель Вандермонда

линал 03 — 1:53:33 Задача из ДЗ: определитель Вандермонда.

Как выглядит матрица J^k(λ)

Задача из ДЗ Как выглядит матрица J^k(λ)? Решается через индукцию или через J(λ) = λ E + J(0)

det(λ_1 X_1 X_1^t + … + λ_n X_n X_n^t)

линал 03 — 2:03:00 Задача из ДЗ: дана матрица X = ( X_1 | … | X_n ), нарезанная на столбцы и набор лямбд, надо посчитать det(λ_1 X_1 X_1^t + … + λ_n X_n X_n^t). Ответ: det( X diag(λ_1, …, λ_n) X^t ) = det(X)^2 λ_1, …, λ_n

Определитель матирицы, где везде единицы, а на диагонали лямбды

линал 03 — 1:47:00 Задача из ДЗ про определитель матирицы, где везде единицы, а на диагонали лямбды.