Machine learning for Earth Sciences F2021-S2022 by Mikhail Krinitskiy (RG link)
Машинное обучение в науках о Земле. Читает Михаил Криницкий
Метод оценки домашних заданий.
Правила распространения источников
Состав домашних заданий зафиксирован на четырех. В плане по домашним заданиям и их оценке отражен текущий состав ДЗ за I семестр с оценками, касающиеся автозачетов и допуска к зачетам по 1му семестру.
Здесь будут отметки об автозачетах, допуске к зачету и зачетах.
Здесь можно ознакомиться со списком вопросов к зачету за первый семестр.
Состав домашних заданий зафиксирован на одном, ДЗ №5.
Здесь можно посмотреть отметки об автозачетах, допуске к зачету и результатах зачета.
Здесь можно ознакомиться со списком вопросов к зачету за второй семестр.
| Title | Date | Topic | Content |
|---|---|---|---|
| I семестр | |||
| Лекция 0 | 14.09.2021 | Вводная лекция. Машинное обучение в науках о Земле. | материалы лекции Видеозапись |
| Лекция 1 | 21.09.2021 | Общий подход решения задач машинного обучения Классы и виды задач машинного обучения |
материалы лекции |
| ДЗ №1 | 05.10.2021 дедлайн: 19.10.2021 |
Задачи в науках о Земле как задачи машинного обучения | описание достижения |
| Лекция 2 | 05.10.2021 | Общий подход решения задач с применением методов МО; Краткий обзор видов и свойств методов МО. |
материалы лекции |
| Лекция 3 | 12.10.2021 | (Некоторые) технические средства анализа данных. | материалы лекции Видеозапись |
| Лекция 4 | 19.10.2021 | Линейная регрессия как (вероятностная) модель машинного обучения. | материалы лекции Видеозапись |
| ДЗ №2 | 27.10.2021 дедлайн: 02.11.2021 |
Оформление ДЗ №1 в виде jupyter-ноутбука | достижения |
| Лекция 5 | 02.11.2021 | Признаковое описание и порождение признаков | материалы лекции Видеозапись |
| Лекция 6 | 09.11.2021 | Общая структура решения задач типа "Обучение с учителем" Оценка качества на примере линейной регрессии как модели МО |
материалы лекции Ноутбук и данные Видеозапись |
| Лекция 7 | 16.11.2021 | Неопределенность в задачах машинного обучения. Оценка неопределеностей методом Bootstrap |
материалы лекции Видеозапись |
| ДЗ №3 | 20.10.2021 дедлайн: 30.11.2021 |
Технические средства анализа данных. Оценка числа Пи методом Монте-Карло |
описание - рамочный jupyter-ноутбук достижения |
| Лекция 8 | 23.11.2021 | Неопределенность в задачах машинного обучения. Источники неопределенностей; виды неопределенностей. Способы снижения неопределенностей. |
материалы лекции Видеозапись |
| ДЗ №4 | 07.12.2021 дедлайн: 19.12.2021 |
Оценка неопределенностей в задаче регрессии. | описание и данные достижения |
| Лекция 9 | 07.12.2021 | Оптимизация функции потерь в задачах обучения с учителем. Градиентная оптимизация. Метод градиентного спуска. |
материалы лекции видеозапись |
| Лекция 10 | 14.12.2021 | Метод градиентного спуска: особенности на скоррелированных данных, гиперпараметры. |
материалы лекции видеозапись |
| II семестр | |||
| Лекция 11 | 08.02.2022 | Задача классификации. Метод K ближайших соседей. |
материалы лекции видеозапись |
| Лекция 12 | 22.02.2022 (по материалам 2021 г.) |
Задача классификции: вероятностный подход. Байесовский классификатор, наивный байесовский классификатор, методы LDA и QDA. |
Видеозапись 12й лекции 2021 г. (начиная с 01:09:00) Видеозапись 13й лекции 2021 г. (с начала и до 00:46:05) Материалы 12й лекции 2021 г. Материалы 13й лекции 2021 г. |
| Лекция 13 | 01.03.2022 (по материалам 2021 г.) |
Задача классификации: вероятностный подход. Метод логистической регрессии. |
Материалы 14й лекции 2021 г. Видеозапись 14й лекции 2021 г. |
| Лекция 14 | 15.03.2022 | Задача классификации: повторение Байесовский классификатор, наивный байесовский классификатор, LDA, QDA. |
видеозапись материалы лекции |
| Лекция 15 | 22.03.2022 | Задача классификации. Логистическая регрессия. Демонстрация метода и его свойств. |
видеозапись материалы лекции |
| Лекция 16 | 29.03.2022 | Мультиномиальная классификация. Мультиномиальная логистическая регрессия. Библиотеки автоматического вычисления градиента. Jax. |
видеозапись материалы лекции |
| ДЗ №5 | 29.03.2021 дедлайн: 19.04.2021 |
Мультиномиальная логистическая регрессия и оценка качества моделей классификации | описание и материалы достижения |
| Лекция 17 | 05.04.2022 | Оценка качества в задачах классификации. Меры качества для несбалансированных выборок. |
видеозапись материалы лекции |
| Лекция 18 | 12.04.2022 | Непараметрические модели. Деревья решений. |
видеозапись материалы лекции |
| Лекция 19 | 19.04.2022 | Ансамбли моделей. | видеозапись материалы лекции |
| Лекция 20 | 26.04.2022 | Обобщенные линейные модели. Обобщенные аддитивные модели. Многослойный перцептрон. |
видеозапись материалы лекции |
| Лекция 21 | 04.05.2022 | Метод опорных векторов (SVM) | видеозапись материалы лекции |
(следите за обновлениями!)
- Флах П. "Машинное обучение. Наука и искусство построения алгоритмов, которые извлекают знания из данных." / Флах П. М.: ДМК Пресс, 2015. 400 c.
- Гудфеллоу Я., Бенджио И., Курвилль А. "Глубокое обучение." / М.: ДМК Пресс, 2017. 652 c.
- англоязычный вариант (онлайн, бесплатный): Ian Goodfellow, Yoshua Bengio and Aaron Courville "Deep Learning"
- Николенко С. И., Кадурин А. А., Архангельская Е. О. "Глубокое обучение." / СПб.: Питер. 2019. 480 с.
Дополнительные источники
-
Peter Bruce and Andrew Bruce "Practical Statistics for Data Scientists, 2nd Edition" / Sebastopol, CA, USA: O’Reilly Media, 2020.
-
Шай Шалев-Шварц, Шай Бен-Давид "Идеи машинного обучения." / - М.: ДМК Пресс, 2018. 432 c.
-
Hastie T., Tibshirani R., Friedman J. "The Elements of Statistical Learning: Data Mining, Inference, and Prediction, Second Edition" / T. Hastie, R. Tibshirani, J. Friedman, 2-е изд., New York: Springer-Verlag, 2009.
Первод на русский язык: (Фридман Дж., Хасти Т., Тибширани Р. "Основы статистического обучения")
-
Bishop C. "Pattern Recognition and Machine Learning" / C. Bishop, New York: Springer-Verlag, 2006.
Перевод на русский язык: Бишоп К.М. "Распознавание образов и машинное обучение"
-
Matrix cookbook - справочник по соотношениям в матричной форме
-
Курс лекций К.В. Воронцова:
-
Курс лекций Л.М. Местецкого "Математические методы распознавания образов"
-
Препринт книги Cosma Rohilla Shalizi "Advanced Data Analysis from an Elementary Point of View". Доступен онлайн.
-
James G., Witten D., Hastie T., Tibshirani R., 2013. "An Introduction to Statistical Learning: with Applications in R", Springer Texts in Statistics. Springer-Verlag, New York. Книга доступна для скачивания.
-
Интерактивная онлайн-книга Aston Zhang, Zack C. Lipton, Mu Li, Alex J. Smola "Dive into Deep Learning"
UPDATE
Подборка книг издательства Springer, доступных для свободной загрузки, по компьютерным наукам, комьютерному зрению, машинному обучению и науке о данных.
Полный список книг издательства Springer, выложенных в открытый доступ для свободной загрузки.