Курс посвящён детальному изучению современных методов оптимизации и их применению в задачах машинного обучения, а также алгоритмам кластеризации и основам управления (OCRL) в контексте обучения с подкреплением. В рамках курса слушатели последовательно знакомятся со всеми необходимыми понятиями. Особое внимание уделяется практическому применению рассматриваемых инструментов с использованием языка Python и соответствующих библиотек. Закрепление знаний и отработка навыков осуществляются в ходе выполнения лабораторных работ и практических заданий. По итогам курса предусмотрен экзамен.
Преподаватели спецкурса
Кравцова Ольга Анатольевна
Ученый секретарь кафедры математических методов прогнозирования ВМК МГУ
Основные научные интересы: автоматизированное машинное обучение (AutoML) и прогнозирование многомерных временных рядов средствами глубокого машинного обучения
Афанасьев Глеб Ильич
Математик кафедры математических методов прогнозирования ВМК МГУ
Основные научные интересы: методы обработки изображений, обучение с подкреплением
Требования к слушателям
Для прохождения курса необходимы базовые знания математического анализа, линейной алгебры, теории вероятностей, общие знания машинного обучения и уверенное владение Python.
Оптимизация: Метод Ньютона. Квазиньютоновские методы
ЕМ-алгоритм: сходимость, скорость сходимости, связь с градиентным подъёмом
ЕМ-алгоритм: решение задач (смеси распределений, GLAD)
ЕМ-алгоритм: пример решения super resolution
Кластеризация: введение, основные методы
Кластеризация: спектральная кластеризация, оценки качества
Кластеризация: обучение метрик
Кластеризация: тематическое моделирование
OCRL(Optimat Control Reinforcement Learning): Постановка задачи, введение в ПМП, связь с ККТ
OCRL: функция Беллмана, динамическое программирование, связь с RL
OCRL: A2C
В ходе курса слушатели выполнят четыре домашних задания, охватывающих темы оптимизации, EM-алгоритма, кластеризации и OCRL.
В результате освоения спецкурса слушатели: • Получат фундаментальные навыки реализации методов оптимизации. • Научатся использовать ЕМ-алгоритм в сложных задачах машинного обучения (включая super-resolution и тематическое моделирование) • Освоят базовые подходы к решению задач оптимального управления и обучению с подкреплением