- Машинное обучение (МО) и искусственный интеллект (ИИ). Основные понятия и определения.
- Примеры применения МО в академической науке и в технике.
- МО как способ выявления неявных/нелинейных закономерностей в данных.
- МО как способ решения инженерных задач в науке.
- МО как способ аппроксимации распределения данных.
- Обобщающая способность моделей машинного обучения на примере линейной регрессии. Переобучение и недообучение моделей МО. Диагностика переобучения и недообучения. Способы решения проблем недообучения и переобучения.
- Типы задач МО. Виды задач обучения с учителем. Примеры задач в науках о Земле.
- Тип задач "обучение с учителем": формулировка, основные определения, цель решения, общий способ решения. Примеры задач в науках о Земле.
- Тип задач "обучение без учитлея": формулировки, основные определения, цель решения. Примеры задач в науках о Земле.
- Типы задач МО, не укладывающиеся в "обучение с учителем" и "обучение без учителя". Формулировки, основные определения, цель решения. Примеры задач в науках о Земле.
Задача восстановления регрессии и линейная регрессия
- Линейная регрессия как метод МО. Постановка задачи и схема решения задачи линейной регрессии в терминах МО.
- Вероятностная постановка задачи восстановления регрессии по прецедентам. Обоснование функции ошибки для линейной регрессии.
- Предпосылки линейной регрессии: LINE. Обоснование функции ошибки для линейной регрессии с учетом LINE предпосылок.
- Варианты решения задачи линейной регрессии. Преимущества и недостатки.
- Линейная регрессия. Порождение признаков и спрямляющие пространства. Отбор признаков.
Неопределенность в решениях задач МО
- Неопределенности в решениях задач регрессии. Виды неопределенностей. Способ оценки неопределенностей. Меры неопределенностей.
- Неопределенности в решениях задач регрессии в условиях переобучения и недообучения. Способы снижения неопределенностей.
Оптимизация функции ошибки
- Оптимизация функции ошибки в задаче линейной регрессии. Классы методов оптимизации. Предпосылки для градиентной оптимизации. Основной принцип градиентной оптимизации функции ошибки в задачах машинного обучения.
- Градиентная оптимизация функции ошибки. Основной принцип и особенности в сравнении с аналитическим решением на примере задачи линейной регрессии. Гиперпараметры градиентной оптимизации.
- Градиентная оптимизация функции ошибки. Основной принцип. Гиперпараметры градиентной оптимизации. Особенности градиентной оптимизации в условиях мультиколлинеарности признаков.
- Градиентная оптимизация функции ошибки. Основной принцип. Ландшафт функции ошибки. Проблема коллинеарности признаков и ее решение. Проблема различных масштабов признаков и ее решение.