Кодирование признаков (Feature Encoding)
Кодирование признаков — это процесс преобразования категориальных или текстовых данных в числовой формат, который может быть обработан нейронными сетями и другими моделями машинного обучения.
В машинном обучении и анализе данных часто приходится работать с информацией, которая представлена не в числовом виде. Например, данные могут содержать такие категории, как «цвет», «город», «тип продукта» и т. д. Нейронные сети и большинство алгоритмов машинного обучения работают с числовыми данными, поэтому необходимо преобразовать категориальные признаки в числовой формат. Этот процесс и называется кодированием признаков.
Аналогия из бытового мира: представьте, что вы готовите по рецепту, и в нём указаны ингредиенты в виде списка слов: «лук», «морковь», «картофель». Но ваша «умная» кухонная техника понимает только числовые коды. Вам нужно преобразовать названия ингредиентов в определённые числовые значения, чтобы техника могла «понять» рецепт.
Подробности и история
Кодирование признаков — важная часть предобработки данных. Существует несколько методов кодирования, например:
- one-hot encoding — метод, при котором каждая категория представляется в виде бинарного вектора, где только один элемент равен 1, а остальные — 0;
- label encoding — метод, при котором категориям присваиваются уникальные числовые значения;
- более сложные методы, например, target encoding, который учитывает статистические характеристики целевой переменной.
Первые методы кодирования признаков начали использоваться практически с самого начала развития машинного обучения, когда стало очевидно, что для обработки данных алгоритмами необходимо приводить их к единому числовому формату.
Различия с похожими терминами
Кодирование признаков отличается от других методов предобработки данных, например, нормализации или стандартизации, которые направлены на приведение числовых данных к определённому диапазону или распределению. Кодирование же решает задачу преобразования категориальных данных в числовой формат.
Примеры
- преобразование данных о цвете товара из категорий «красный», «синий», «зелёный» в числовые коды 1, 2, 3;
- кодирование текстовых меток в датасете для задачи классификации текстов, например, «спам» и «не спам» в 1 и 0;
- использование one-hot encoding для преобразования данных о днях недели в бинарные векторы для модели прогнозирования продаж.