Решающее правило (Decision Rule)
Решающее правило — это формализованный критерий или набор условий в модели машинного обучения, на основании которых алгоритм принимает решение о принадлежности объекта к определённому классу или о значении прогнозируемой величины.
В контексте нейронных сетей и машинного обучения решающее правило выступает как «логический механизм», который преобразует входные данные в итоговый вывод модели. По сути, это «инструкция», по которой модель «рассуждает»: если выполняются определённые условия — выдаём один результат, если другие — иной.
Аналогия из бытового мира
Представьте, что вы выбираете, брать ли зонт перед выходом из дома. Ваше решающее правило может выглядеть так: «Если за окном идёт дождь ИЛИ прогноз погоды обещает осадки, то беру зонт; в противном случае — не беру». В машинном обучении модель аналогичным образом анализирует признаки (входные данные) и на основе заложенных правил выдаёт решение.
Исторический контекст
Концепция решающих правил уходит корнями в ранние системы экспертных систем и символьного ИИ 1960–1970‑х годов, где правила задавались вручную экспертами. С развитием машинного обучения (особенно деревьев решений, правил ассоциаций и нейросетей) решающие правила стали формироваться автоматически на основе данных. Например, в деревьях решений каждое разветвление — это решающее правило, построенное по критерию информативности (например, критерию Джини или энтропии).
Смежные и сходные понятия
Функция активации в нейронных сетях — не то же самое, что решающее правило. Функция активации определяет, «срабатывает» ли нейрон, но не формулирует явное правило классификации. Она скорее «модулирует» сигнал, а не принимает решение на основе логических условий.
Порог (threshold) — часть решающего правила, но не всё правило целиком. Например, в логистической регрессии порог (скажем, 0,5) определяет, к какому классу отнести объект по выходному значению модели, но само правило включает и способ вычисления этого значения.
Правило вывода (inference rule) в логических системах — ближе по духу, но в ML решающее правило обычно статистически обосновано и выучивается на данных, а не задаётся априори.
Примеры использования
В деревьях решений (CART, ID3, C4.5) каждое внутреннее узловое условие — это решающее правило (например, «если возраст > 30, то идём влево; иначе — вправо»).
В логистической регрессии решающее правило может быть таким: «если P(y=1|x) ≥ 0,5, то предсказываем класс 1, иначе — класс 0».
В нейронных сетях решающее правило часто неявно: выход последнего слоя (например, softmax) интерпретируется по порогу или аргументу максимума («класс с максимальной вероятностью»).
В системах на основе правил (rule-based systems) вроде RIPPER или CN2 решающие правила явно формулируются и оптимизируются на данных (например, «если температура > 37 И кашель = да, то диагноз = простуда»).