決定境界とは？わかりやすく解説

決定境界（けっていきょうかい、英語: decision boundary, decision surface）とは、ベクトル空間上での2クラス分類問題において各クラスに属する集合ごとに二分割するような超曲面のことを指す。分類器は決定境界を求めることで決定境界の片側に含まれる要素を一方のクラスに、もう片側に含まれる要素を他方のクラスへと分類する。

決定境界は分類器の出力ラベル（出力値）が明らかでないような問題空間上に定義される^[1]。

決定境界が超平面であるとき、分類問題は線形な境界として表される。そして各クラスは線形である超平面によって分離可能であり、これは線形分離可能な分類問題と呼ばれる^[2]。

決定境界は必ずしも明確に決まるとは限らない。つまり特徴空間（英語版）におけるあるクラスから別のクラスへの変位が不連続ではなく、ゆるやかに変化しているためである。この作用はファジィ理論に基づく分類アルゴリズムでよくみられるもので、未知の入力に対してどのクラスへ属するかが不明瞭なことがある。

ニューラルネットワークとサポートベクターモデルにおける決定境界

ニューラルネットワークやパーセプトロンにおけるバックプロパゲーションの場合、ネットワークで学習できる決定境界の種類はネットワークの持つ隠れ層の値によって決まる。ニューラルネットワークにおいて隠れ層を持たないとき、決定境界は線形問題に対してのみ学習を行うことができる。ニューラルネットワークにおいて隠れ層が1層であるとき、決定境界は普遍性定理（英語版）によって、Rⁿ 上でコンパクトで連続な超平面について学習を行うことができる^[3]。したがって、ニューラルネットワークでは任意の決定境界を求めることが可能である。

特に、サポートベクターマシンでは特徴空間で2つのクラスに分離する超平面をマージン（英語版）が最大化されるように求める。線形分離可能な問題でない場合、カーネル法を用いて次元数を増やすことで、線形分離可能な問題として解くことができる。したがって、サポートベクターマシンでは一般的に決定境界が低次元空間上で超曲面となる場合は、高次元の空間上で超平面として分類を行う^[4]。

サポートベクターマシンで決定境界と各点ごとのマージンが最大となるように決定境界を学習し、ニューラルネットワークでは誤差が最小化されるように決定境界が学習がなされる。