サイズ p の n 特徴ベクトル x1=(x11,…,x1p),..., xn=(xn1,…,xnp)、クラスラベルのベクトル y=(y1,…,yn)、ここで yi∈K = {0, ..., J-1} は特徴ベクトル xi が属するクラス、J はクラスの数で、多クラス LogitBoost 分類器を作成します。
訓練段階
LogitBoost モデルは、Friedman メソッド [Friedman00] を使用して訓練されます。
yi,j = I {xi∈j} をクラス j に属する i 番目の特徴ベクトルの指標とします。以下のスキーム (stump 弱学習器を使用) は、アルゴリズムの主要なステップを示しています。
重み wij = 1/n, Fj(x) = 0, pj(x) = 1/J, i = 1,...,n, j =0,...,J-1 で開始します。
m=1,...,M で繰り返します。
繰り返し開始
- j = 1,...,J で繰り返します。
- 繰り返し開始
(i) j 番目のクラスの応答と重みを計算します。
wij = pi (xi)(1-pi (xi)), wij = max(zij,Thr1)
zij= (yij - pi (xi)) /wij, zij = min(max(zij,-Thr2),Thr2)
- (ii) stump ベースのアプローチを使用し、zij の重み付けした最小 2 乗回帰を重み wij で xi にして、関数 fmj (x) に当てはめます。
繰り返し終了
繰り返し終了
モデル訓練の結果は M stump のセットです。
予測段階
LogitBoost 分類器と r 特徴ベクトル x1,…,xr で、特徴ベクトルが属するクラスのラベル argmaxjFj(x) を計算します。