МФТИ ПМИ | Осенний семестр 2024
| Неделя | Тема | Материал |
|---|---|---|
| 1 | Вводная лекция | Слайды |
| 2 | Выпуклость и гладкость. Градиентный спуск | Слайды | Видео |
| 3 | Гладкость. Градиентный спуск | Слайды | Видео |
| 4 | Моментум и ускорение. Оптимальный метод | Слайды | Видео |
| 5 | Метод сопряжённых градиентов | Слайды | Видео |
| 6 | Метод Ньютона. Квазиньютоновские методы. Матрица предобработки | Слайды | Видео |
| 7 | Оптимизация на "простых" множествах. Метод проекции градиента | Слайды | Видео |
| 8 | Негладкая оптимизация. Проксимальный метод | Слайды | Видео |
| 9 | Метод штрафов. ADMM | Слайды | Видео |
| 10 | Метод внутренней точки. Самосогласованные барьеры | Слайды | Видео |
| 11 | Лагранжиан. Седловая задача. Метод экстраградиента | Слайды | Видео |
| 12 | Метод зеркального спуска | Слайды | Видео |
| 13 | Стохастическая оптимизация. SGD | Слайды | Видео |
| 14 | Стохастическая оптимизация (продолжение). Координатный спуск | Слайды | Видео |
| 15 | Распределённая оптимизация | Слайды |
| Номер | Тема |
|---|---|
| 1 | Пререквизиты из линейной алгебры |
| 2 | Матрично-векторное дифференцирование. Теория |
| 3 | Матрично-векторное дифференцирование. Практика |
| 4 | Выпуклые множества |
| 5 | Выпуклые функции |
| 6 | Субградиент и субдифференциал |
| 7 | Сопряжённые множества и сопряжённые функции |
| 8 | Стратегии выбора шага в методах оптимизации |
| 9 | Двойственность по Лагранжу |
| 10 | Условия оптимальности Каруша-Куна-Такера |
| 11 | Стандартные классы задач выпуклой оптимизации |
| 12 | CVXPY и SciPy |
| Номер | Дата выдачи | Дедлайн | Тема | Материал |
|---|---|---|---|---|
| 1 | 05.09.2024 | 20.09.2024 | Матрично-векторное дифференцирование. Теория | Ссылка |
| 2 | 12.09.2024 | 27.09.2024 | Градиентный спуск. Методы нулевого порядка | Ссылка |
| 3 | 19.09.2024 | 04.10.2024 | Матрично-векторное дифференцирование. Практика | Ссылка |
| 4 | 26.09.2024 | 11.10.2024 | Ускоренные и оптимальные методы | Ссылка |
| 5 | 03.10.2024 | 18.10.2024 | Выпуклые множества. Выпуклые функции | Ссылка |
| 6 | 10.10.2024 | 25.10.2024 | Метод сопряжённых градиентов. Метод Ньютона и квазиньютоновские методы | Ссылка |
| 7 | 17.10.2024 | 01.11.2024 | Субдифференциал и субградиент. Сопряжённые функции | Ссылка |
| 8 | 24.10.2024 | 08.11.2024 | Проекция. Проксимальный оператор. Франк-Вульф. Адаптивные методы | Ссылка |
| 9 | 31.10.2024 | 15.11.2024 | Двойственность по Лагранжу. ККТ | Ссылка |
| 10 | 07.11.2024 | 22.12.2024 | Метод штрафов. ADMM. Прямодвойственный метод | Ссылка |
| 11 | 14.11.2024 | 29.11.2024 | Оптимальность условий. Лагранж. KKT (сёдла) | Ссылка |
| 12 | 14.11.2024 | 29.11.2024 | Зеркальный спуск | Ссылка |
| 13 | 28.11.2024 | 13.12.2024 | Стохастическая оптимизация | Ссылка |
| Доп. | 21.11.2024 | 06.12.2024 | CVXPY и SciPy | Ссылка |
| ФИ | Роль |
|---|---|
| Александр Безносиков | Академический руководитель |
| Александр Богданов | Технический руководитель |
| Фанис Хафизов | Материал лекций в пособии |
| Дмитрий Былинкин | Материал семинаров в пособии |
| Наиль Баширов | Практические домашние задания |
| Борис Прохоров | Теоретические домашние задания |
| Алексей Ребриков | Оформление пособия |
| Григорий Давыденко | Ассистент |
| Дарья Солодова | Ассистент |
