Задача регрессии (Regression Task)
Задача регрессии — это тип задачи машинного обучения, в которой модель предсказывает непрерывное числовое значение на основе входных данных.
В контексте ИИ и ML задача регрессии направлена на выявление зависимости между признаками объекта и целевой переменной, которая может принимать бесконечное множество значений в некотором диапазоне. Модель обучается на размеченных данных — парах «признаки → целевое значение» — и затем способна прогнозировать значение целевой переменной для новых, ранее не встречавшихся объектов.
Аналогия
Представьте, что вы пытаетесь предсказать стоимость квартиры. У вас есть данные о множестве квартир: площадь, количество комнат, район, этаж, наличие парковки и т. д. Задача регрессии — построить модель, которая по этим признакам выдаст предполагаемую цену. Это как опытный риелтор, который, взглянув на параметры квартиры, называет её рыночную стоимость.
Исторический контекст
Методы регрессионного анализа уходят корнями в статистику XVIII–XIX веков (метод наименьших квадратов Гаусса и Лежандра). В машинном обучении регрессия стала одной из базовых задач с зарождением дисциплины в середине XX века. Классические алгоритмы (линейная регрессия) легли в основу более сложных моделей — от деревьев решений до нейронных сетей. Сегодня регрессионные модели — неотъемлемая часть аналитических и прогнозных систем в бизнесе, науке и индустрии.
Смежные понятия
Важно отличать регрессию от классификации:
- Регрессия предсказывает непрерывные значения (цена, температура, время).
- Классификация предсказывает дискретные метки классов (спам/не спам, кошка/собака, высокий/средний/низкий риск).
Также регрессию иногда путают с кластеризацией, но последняя — задача без учителя: она группирует объекты по схожести, не предсказывая никаких целевых значений.
Примеры использования
- Линейная регрессия — простейшая модель, предполагающая линейную зависимость между признаками и целевой переменной. Используется как базовый бенчмарк.
- Регрессионные деревья и случайные леса — деревья решений, предсказывающие числовые значения; ансамбли таких деревьев часто дают высокую точность.
- Градиентный бустинг над деревьями (XGBoost, LightGBM, CatBoost) — мощные ансамблевые методы для регрессии, популярные в соревнованиях и промышленности.
- Нейронные сети для регрессии — полносвязные сети, CNN, RNN и трансформеры, на выходе которых стоит линейный слой без активации (или с линейной активацией), чтобы предсказывать непрерывные значения. Примеры: прогнозирование спроса, цен акций, температуры, времени доставки.
- Прогнозирование временных рядов (ARIMA, LSTM, Transformer) — частный случай регрессии, где целевая переменная зависит от времени.