機械学習

ハイパーパラメータとは?チューニングの手法を徹底解説(XGBoost編)

  • このエントリーをはてなブックマークに追加

機械学習エンジニアは様々なタスクをこなさなくてはいけません。ビジネスへの影響や軸となる指標などを決める要件定義から始まり、データの収集や前処理、そしてモデル構築や調整など、機械学習の実装までのタスクをあげればきりがありません。(組織の規模にもよりますが)

本稿ではモデルの調整、さらに厳密に言うと「ハイパーパラメータチューニング」と呼ばれるタスクを機械学習初心者向けに徹底解説します。

ハイパーパラメータの概要や一般的に使用される3つのハイパーパラメータ最適化の手法を詳しく解説します。また、Kaggleで公開されている人事データを使用して、XGBoostのハイパーパラメータのチューニングを異なる手法を使って実装していきます。(参考:Kaggleとは?

初心者向けに実装までの全コードを本記事に公開しています。是非、本稿に沿ってご自身の環境で実装してみてください。下記の環境・バージョンで動作を確認しています。Google Colabではライブラリ、Pythonのバージョンが適宜更新されますのでご留意ください。

確認済み動作環境

【Google Colab】
2020年3月30日執筆時点の構成
参照:Google Colabの使い方

【macOS】
macOS Mojvabe 10.14.6
Python 3.6.9
NumPy 1.14.6
Pandas 0.22.0
Scikit-Learn 0.20.1
XGBoost 1.0.2

ハイパーパラメータとは

ハイパーパラメータ(英語:Hyperparameter)とは機械学習アルゴリズムの挙動を設定するパラメータをさします。少し乱暴な言い方をすると機械学習のアルゴリズムの「設定」です。

この設定(ハイパーパラメータの値)に応じてモデルの精度やパフォーマンスが大きく変わることがあります。例えば男女を分類するモデルを構築していた場合、特に調整を行わずに初期設定のままモデリングを行なった結果、最初は90%の正解率を得ることができたとします。90%の精度では使い物にならないと上司に怒られたので、ハイパーパラメータ(モデルの設定)を調整したところ93%へ改善することがあります。ハイパーパラメータチューニング自動化の動きもありますが、一般的には「人間」が「手動」で調整を行なっていきます。

近年、日本でも大人気のKaggleもハイパーパラメータのチューニングは必須のスキルです。Kaggleのようなデータ分析競技では0.01%の差で順位を争うことも少なくありません。モデルのハイパーパラメータを適切に調整してスコアを伸ばしていくのはKaggleの基本技です。

前述した通りハイパーパラメータは機械学習アルゴリズムの「設定」です。つまり、機械学習手法ごとに異なる値のハイパーパラメータがあります。

手法によってハイパーパラメータの数は大きく異なります。ここ数年でKaggleの上位解法の常連でもあるXGBoostやLightGBMなどはハイパーパラメータの数は比較的多いです。対して、サポートベクターマシン(SVM)ランダムフォレストなどの手法は設定可能な項目(つまりハイパーパラメータの数)は比較的少ないです。

画像分析や自然言語解析などではディープラーニング(深層学習)が使われることが多いです。例えば画像認識であれば畳み込みニューラルネットワーク(CNN)、自然言語解析ではLSTMなどが使用されます。これらの深層学習の手法にも手動で設定を行うハイパーパラメータがあり、細かいチューニングにより推測精度が改善することもしばしばあります。

機械学習の実装において「ハイパーパラメータチューニング」は避けて通れない必須のタスクです。

ハイパーパラメータチューニングの3つの手法

ハイパーパラメータの調整には主に3つの手法があります。どの手法にもメリット・デメリットがあります。本記事の後半部分ではPythonを使って3つの手法の実装を行いますが、まずはそれぞれの手法の概要を解説します。

その1 グリッドサーチ(Grid Search)

グリッドサーチとは与えられたハイパーパラメータの候補の値の全パターンのモデル構築を行う手法です。例えば設定Aと設定Bのハイパーパラメータを調整する場合、設定Aには「1、3、5」の値、設定Bには「True、False」の値を候補として指定します。グリッドサーチではこれらの値の全ての組み合わせを使ってモデル構築を行い結果を検証します。この例の場合は設定Aが3つ、設定Bは2つの候補が指定されていますので全部で6回のモデル訓練が異なる設定の値(ハイパーパラメータ)を使って行われる訳です。

グリッドサーチは調整するハイパーパラメータの数が少ない場合やある程度の「あたり」がついている場合に使用することが多い手法です。全組み合わせのモデル訓練を行うので、大規模データなど訓練時間が長い場合はグリッドサーチを使うことは滅多にありません。

【メリット】
調整する値の「あたり」が付いている場合は◎
調整する値の数が少ない場合は◎

【デメリット】
モデル訓練回数が増えるので時間が掛かる
計算コストが非常に高い

その2 ランダムサーチ(Random Search)

前項のグリッドサーチは候補の値の全パターンのモデル訓練を行いました。対してランダムサーチは候補の値をランダムに組み合わせたモデル訓練を行いハイパーパラメータを検証する手法です。

ランダムサーチの場合は検証するためのモデル訓練の回数を指定します。例えば候補Aには10個の値、候補Bには5個、候補Cは30個の値があるとします。この場合、グリッドサーチでは全組み合わせ1500回(10 x 5 x 30)のモデル訓練を行います。仮に1回の訓練で30分要するとした場合、なんと31日もかかってしまいます。現実的ではありません。

そこでランダムサーチが役に立ちます。ランダムサーチで異なる組み合わせのハイパーパラメータを用いてモデル訓練を行い検証します。ランダムに検証をするのである意味「運任せ」の要素もありますが、何度か異なる値でモデル訓練を行う事で調整する方向性が見えてくることもあります。

【メリット】
調整する値が多くても対応することが可能

【デメリット】
ランダムに検証するので「運任せ」の要素あり

その3 ベイズ最適化(Bayesian Optimization)

ベイズ最適化とは不確かさを利用して次に探索を行うべき値を探していく最適化アルゴリズムの一種です。目的関数(Acquisition Function)を推定する代理モデル(Surrogate Model)にはガウス過程が使われます。

複雑に聞こえますが、ベイズ最適化をざっくりと解説すると「前回の結果を基に次に調べる値を決めていく」手法です。次に調べる値の決め方に工夫があります。

ベイズ最適化は「Exploration(探索)」と「Exploitation(活用)」の2つの戦略を使って最適化を順次的に行います。Exploitation(活用)とは以前にやってみて良い結果が出たので継続してその近辺を調べてみることです。対してExploration(探索)はもっと良い結果があると考えてあえて異なる部分を調べることをさします。

イメージしやすいように例を示します。よく行く居酒屋で飲み物を選ぶ時を想像してみてください。先週来た時は泡盛を頼み、とても美味しいのを覚えています。今回も似たような泡盛を頼めば恐らく前回と同様に楽しめることが想像できます。これがExploitation(活用)です。しかしメニューには日本酒や焼酎など、今まで頼んだことが無い飲み物もたくさんあります。もしかすると泡盛よりも自分好みのお酒があるかもしれません。そこで今回は日本酒を頼んでみることにします。これがExploration(探索)です。

このようにベイズ最適化では「前回の結果を踏まえて次をバランス良く試す」ことが可能です。ベイズ最適化を厳密に理解したい方は「機械学習スタートアップシリーズ ベイズ推論による機械学習入門」(リンク先 Amzon)がオススメです。

「グリッドサーチ」「ランダムサーチ」「ベイズ最適化」の手法を使って、実際にハイパーパラメータチューニングを行ってみましょう。

ハイパーパラメータチューニングの実装

Kaggleで公開されている「Human Resources Data Set」(以後、人事データセット)を使って、XGBoostのハイパーパラメータを3つの手法を使って調整してみましょう。

人事データセットには従業員の性別や人種、所属部署などの情報を保持しています。また各従業員の時給や評価、従業員の満足度なども含まれます。全部で35カラムを保持するデータセットですが、本稿ではその中から12カラムを抽出して使用します。

データセットは以下のKaggleのページからCSVファイルとしてダウンロード可能です。ダウンロードにはKaggleの無料会員登録が必要です。

https://www.kaggle.com/rhuebner/human-resources-data-set

Kaggleにログイン後に上記URLの「Download」からHRDataset_v13.csvが取得できます。ご自身のローカルマシンにHRDataset_v13.csvを保存してください。

本稿では人事データセットを使い、各従業員の性別や結婚歴などを特徴量として、辞職したかどうか(カラムTermdの1は辞職、0は現職)をXGBoostを利用して推測を行います。異なる手法でハイパーパラメータチューニングを行い、それぞれの手法の結果を比較してみましょう。

こちらのデータセットはNew England College of Businessの教材の一環として Drs. Rich Huebner氏とCarla Patalano氏がデザインしたデータセットです。データセットの詳細については以下のページをご参照ください。

https://rpubs.com/rhuebner/HRCodebook-13

データの読み込みと確認

まずは本稿で使用するライブラリのインポートを行います。Pandasはデータの読み込みやデータ変形・分析を行うライブラリです。詳しくはPandas 入門コースをご参照ください。

KaggleからダウンロードしたHRDataset_v13.csvをpandasのデータフレームとして読み込みましょう。CSVファイルのカラムEmployee_Name(従業員名)をデータフレームのインデックスラベルとして使用します。

本稿ではCSVファイルの一部のカラムのみを利用します。必要なカラムのみ参照してデータフレームを更新後にheadメソッドで最初の5行を表示してみましょう。

このデータセットを初めて扱う方も多いかと思います。簡単なEDA(探索的データ解析)を行いデータを確認してみましょう。まずはサイズを確認してみます。

401行12列のデータセットです。続いてisnaメソッドとsumメソッドを使って、欠損値の有無を確認してみましょう。欠損値(NaN、Not a Numberの略)とは値が欠落している箇所を意味します。

各カラムで91件の欠損値が存在します。次の項「前処理」でこれらの欠損値のデータの対処を行います。

次は重複するデータが存在するのか確認をしてみましょう。pandasのデータフレームのduplicatedメソッドは重複した行があればTrue、それ以外はFalseを戻します。duplicatedメソッドのkeep引数は重複した行の抽出方法を指定することが可能です。Falseと指定した場合、重複した全ての行をTrueとして戻します。重複した行の最初の3行を参照して確認してみましょう。全ての値がNaN(欠損値)なのが確認できます。

人事データセットには性別(Sex)や結婚歴(MaritalDesc)、肩書き(Position)など、文字列を値としてもつカラムがあります。カラムPositionで頻度数が高い上位10個の要素の値をvalue_coutnsメソッドとplotメソッドを使い円グラフを描画してみましょう。約半数はProduction Technician I(生産技術者I類)が占めています。続いてProduction Technician II(生産技術者II類)、Area Sales Manager(地域販売管理者)の順に多いようです。

同じ要領でRecruitmentSource(採用経由)も確認してみましょう。検索エンジン(Search Engine – Google Bing Yahoo)や既存従業員紹介(Employee Referral)などの値が確認できます。

最後に本稿の目的変数でもある従業員の辞職の有無を示すカラムTermdの分布も確認してみましょう。こちらは1=辞職した、0=辞職していないの値を持つカラムです。value_countsメソッドでそれぞれの値の頻度数を確認してみます。dropna引数(初期値 True)は欠損値の扱いを制御する引数です。Falseを指定して欠損値を含む全要素の頻度数を確認してみます。約3割強がすでに退職していることが確認できます。

データの前処理

前の項で確認した通り、人事データセットには欠損値が含まれていました。目的変数にも欠損値が含まれていることから、これらのレコードはデータセットから除外するべきです。

dropnaメソッドは欠損値を含む行を除外したデータフレームを戻します。inplace引数(初期値 False)をTrueへ変更して、データフレームに直接変更を加えることもできます。shape属性で確認をすると、CSVファイルには401行のレコードがありましたが、欠損した行を除外したため310行へ変更されているのが確認できます。

重複したデータが存在するのかも確認してみましょう。欠損値を除外した後は重複した行も0なのが確認できます。

人事データセットには文字列の値を含むカラムが存在します。機械学習で使われる多くのモデリング手法は文字列の値を訓練データとして使用することは出来ません。そこで文字列の値を「0と1」で表現するダミー変数が使われることが多いです。ダミー変数とは数字ではないデータを数字に変換する手法をさします。

pandasのget_dummies関数は第1引数へデータフレームを渡し、columns引数で指定したカラムをダミー変数へ変換したデータフレームを戻します。文字列の値を持つPosition(肩書き)、Sex(性別)、MaritalDesc(結婚歴)、RaceDesc(人種)、Department(所属部署)、ManagerName(上司の名前)、RecruitmentSource(採用経由)をcolumns引数へ渡してダミー変数へ変換してみましょう。元は12列のデータですが100列へ変形しているのが確認できます。

続いて人事データセットを訓練データとテストデータへ分割を行いましょう。訓練データとはモデルの学習に使用するデータです。対してテストデータとは訓練データを学習後のモデルの評価をするために使用するデータです。

まずはデータフレームdfを説明変数(X)と目的変数(y)へ分割をします。本稿では目的変数は従業員の辞職を示すカラムTermdです。それ以外は説明変数(特徴量とも呼ばれます)となります。dropメソッドとインデックス参照を使い変数Xとyを作成しましょう。念の為shape属性でデータのサイズを確認します。

続いてデータを訓練・テストデータへ分割します。分割はScikit-Learnのtrain_test_split関数が便利です。test_size引数へ0.3と指定することで訓練データ7割:テストデータ3割へ分割が可能です。またrandom_state引数へ値を指定することで乱数のシードを固定できます。シードを固定することにより、分割の処理が毎回同じ乱数が使われるため同じ結果を得ることができます。分割後のデータのサイズをshape属性で確認してみましょう。

訓練データとテストデータの目的変数(カラムTermdの値)の分布を確認しておきましょう。value_countsメソッドとconcat関数を使いy_trainとy_testの値の分布をデータフレームとして戻します。訓練データ(y_train)には辞職76名、現職141名です。y_testには辞職27名、現職66名なのが確認できます。

本稿では非常に簡易的なEDAしか行いませんでしたが、興味がある方はより深いデータ分析も行ってみましょう。EDAで行うべきポイントを2点ほど示しておきます。

  • 男女別(カラムSex)間で辞職率に違いはありますか?(ヒント:GroupBy)
  • 従業員の満足度(EmpSatisfaction)と辞職(Termd)に相関性はありますか?(ヒント:corrメソッド)

ベースラインのモデル訓練

本稿ではXGBoostを使い人事データセットの説明変数を用いて退職の有無(カラムTermd)を分類推測を行います。まずは適当なハイパーパラメータの値を設定して基準となるベースラインモデルの訓練と評価を行ってみましょう。

XGBoostは勾配ブースティングのフレームワークです。前述した通りハイパーパラメータの数はモデリング手法や使用するフレームワークにより大きく異なります。XGBoostは設定するべき項目(ハイパーパラメータの数)が他の手法(例えばランダムフォレスト)と比較して多いです。

XGBoostのハイパーパラメータの数は細かいのを含めると50以上ありますが、その中でも特にモデリングに影響の高い以下のハイパーパラメータの調整を行います。XGBoostのハイパーパラメータの詳細は「XGBoost入門コース」で解説をしています。

  • min_child_weight
  • max_depth
  • colsample_bytree
  • subsample

それではベースラインとなるモデル訓練を行いましょう。まずはXGBoostへ設定するハイパーパラメータを辞書型で作成します。

XGBoostのScikit-learn APIのXGBClassifierを使いモデル訓練を行います。set_paramsメソッドへハイパーパラメータを渡して設定を行います。fitメソッドはモデル訓練を実行するメソッドです。説明変数(X_train)、目的変数(y_train)を指定して訓練データの学習を行います。ここでは前述した通りテストデータ(X_test、y_test)が使用されていない部分に注目しましょう。

勾配ブースティングの学習プロセスは繰り返し処理(イテレーション)となります。一つ前の学習結果の誤差を繰り返し学習する手法です。(参照:XGBoost 入門

何回繰り返すかはハイパーパラメータのn_estimatorsの値で指定します。本稿では50,000回と指定しました。これは意図的に大きな値を指定しています。

XGBoostの繰り返し回数はハイパーパラメータの値や訓練データにより変動するため、決め打ち(例えば100回)と決めてしまうと、過学習(Over Fitting)や未学習(Under Fitting)となってしまうためです。そのため事前に大きな値を指定して、early_stopping_roundsを使用するのが一般的です。

early_stopping_roundsとは毎回の学習完了時にテストデータでモデルの評価を行い、評価指標が一定の回数を改善しなくなった時点で学習をストップさせます。これにより過学習・未学習を避けて適切な繰り返し学習回数でモデルを構築することが可能です。今回はearly_stopping_rounds引数へ50と指定していますので、50回以上モデルが改善しない場合に学習プロセスが止まります。

分類問題の評価指標には様々な種類の指標がありますが、本稿では正解率(accuracy)を使用します。これは推測結果と実際の値のがどれくらい一致しているかを示す指標です。XGBoostでは評価指標として正解率が実装されていませんので、その逆のエラー率を使用します。 (正解率には弱点もありますのでご留意ください。)

それではベースラインとなるモデルの訓練を開始しましょう。

best_score属性は最もスコアが良かった回のスコアを表示します。best_iteration属性は最もスコアが良かった回数を確認することができます。今回のハイパーパラメータ(設定)では一番最初の回の訓練のスコアがベストでした。(エラー率なので低いほうが推測制度が高いことを示します)

実際にモデルがどのような推測を行ったのか混同行列と正解率をScikit-learnの関数を使って算出してみましょう。

今回使用したハイパーパラメータの値では正解率は67.74%となっているのが確認できます。混同行列の詳細はロジスティック回帰 入門コースで詳しく解説しています。

グリッドサーチ(GridSearch)

ハイパーパラメータチューニングをグリッドサーチで行ってみましょう。前述した通りグリッドサーチはハイパーパラメータの候補の値の全組み合わせのモデル訓練を行い検証する手法です。

グリッドサーチはScikit-learnのGridSearchCV関数がとても便利です。CVはCross Validationの略で交差検証を意味します。

まずはハイパーパラメータに設定する候補の値を辞書型で作成しましょう。metricやobjectiveなどの値には1つしか値が設定されていません。これらのハイパーパラメータは検証する対象ではないので1つの値のみを設定しています。min_child_weightにはリストで「1」と「5」の値が設定されています。このように、検証するハイパーパラメータには複数の候補の値を設定します。

今回はmin_child_weight、max_depth、colsample_bytree、subsampleのハイパーパラメータで全て2つの候補の値を設定しています。グリッドサーチは全組み合わせのモデリングを行いますので16通りの異なるハイパーパラメータの値を持つXGBoostの分類器の訓練が行われます。

それではグリッドサーチでハイパーパラメータチューニングをやってみましょう。

GridSearchCVのbest_params_属性は交差検証で得た最も評価スコアが良いハイパーパラメータの値を戻します。best_score_属性は最も良い評価スコアを確認可能です。ベースラインで設定したハイパーパラメータの値を使ったモデルが最も良い結果となっているのが確認できます。

GridSearchCVのbest_estimator_属性は交差検証で最も評価の高いモデルを使用することが可能です。predictメソッドへテストデータの特徴量(X_test)を渡して正解率を算出してみましょう。ベースラインでは67.74%でしたが、今回は72.04%と改善しているのが確認できます。

モデルがどのような推測結果を戻したのか混同行列で確認をしてみましょう。

ランダムサーチ(RandomizedSearchCV)

ランダムサーチはハイパーパラメータの候補の値をランダムに組み合わせてデル訓練を行います。こちらもScikit-learnのRandomizedSearchCV関数を使用することで簡単に実装することが可能です。

グリッドサーチは全組み合わせのモデル訓練を行うため、候補の値を多く設定すると訓練時間が膨大にかかってしまいます。ランダムサーチは交差検証の回数を指定可能ですので、候補の値を増やしても膨大な時間がかかることはありません。

グリッドサーチで使った4つのハイパーパラメータの調整をしてみましょう。グリッドサーチでは各パラメータで2つずつの候補ですが、今回はそれぞれ10個の候補の値を指定します。

RandomizedSearchCV関数のn_iter引数でランダムサーチの繰り返し回数の指定が可能です。30を指定してランダムサーチでハイパーパラメータの最適化をしてみましょう。

最も評価スコアの高いハイパーパラメータの値と評価スコアを確認してみましょう。

ベースラインは67.74%、グリッドサーチは72.04%の正解率でした。ランダムサーチで得たハイパーパラメータの値を使用して正解率と混同行列を算出してみましょう。

ランダムサーチの正解率は74.19%でした。ベースライン・グリッドサーチと比較すると正解率が少し改善しているのが確認できます。

ベイズ最適化(BayesianOptimization)

最後はベイズ最適化を使いXGBoostのハイパーパラメータの最適化を行ってみましょう。ベイズ最適化ですがオープンソースのライブラリが複数あります。本稿では「BayesianOptimization」を利用してハイパーパラメータチューニングを行ってみましょう。

BayesianOptimizationをインストールしていない方はpipでインストールが可能です。環境に応じてインストールをお願いします。

 $pip install bayesian-optimization  BayesianOptimizationで最適化を行う関数を定義します。調整を行うハイパーパラメータを引数として持ち、モデル訓練とテストデータを使った推測値を算出して、最後い正解率の値を戻す関数を定義します。
ベイズ最適化ではxgb_evaluate関数が戻すscore(正解率の値)の最大化を目的としてハイパーパラメータの値を探索します。4つのハイパーパラメータに絞り、候補の値をBayesianOptimizationのクラスへ渡しましょう。min_child_weight:(1, 20)と記載がありますが、これはmin_child_weightのハイパーパラメータへ1から20に属する値を候補の値として探索することを示します。
maximizeメソッドを実行してベイズ最適化によるハイパーパラメータの検証を行いましょう。ベイズ最適化も繰り返しの処理による最適化の手法です。繰り返し回数はn_iter引数で指定することが可能です。50回の繰り返し処理で実行してみましょう。init_points引数はランダムな探索を何回行うのかを指定する引数です。

それでは実行してみましょう!

max属性は最も評価スコアが高かった結果を取得することが可能です。ベイズ最適化により得られた最もスコアの良かったハイパーパラメータの値を変数optimized_paramsへ格納しましょう。

metricやobjectiveは固定されたハイパーパラメータですので、変数fixed_paramsへ格納します。

新たにXGBClassifierのインスタンスを生成して、ベイズ最適化で得られたハイパーパラメータの値を使いモデル訓練を行います。

今までと同様にテストデータの特徴量から推測結果を算出して、正解率と混同行列を出力してみましょう。

ベイズ最適化で導き出したハイパーパラメータの値を使った結果、正解率が76.34%へ改善しました。

まとめ

本稿ではKaggleで公開されている人事データセットを使い、各従業員の性別や人種、満足度などを特徴量として辞職の有無をXGBoostを使い推測しました。

異なる3つの手法を用いてハイパーパラメータチューニングを行った結果は以下の通りです。全て同じ訓練データの学習を行い、同じテストデータからの推測結果となります。

  • ベースライン 67.74%
  • グリッドサーチ 72.04%
  • ランダムサーチ 74.19%
  • ベイズ最適化 76.34%

本稿の前半で解説した通り、各ハイパーパラメータチューニングの手法はメリット・デメリットがあります。扱うデータセットの大きさ、使用するモデリング手法、計算コストを考慮して適した手法を採用することが重要です。

codexa(コデクサ)では無料で機械学習関連のライブラリ、基礎統計などのコースを公開しています。機械学習をこれから学ぼうとお考えの方は、是非こちらの無料コースも受講ください!

 機械学習 準備編 無料講座  

以上となります!

  • このエントリーをはてなブックマークに追加

無料で始める機械学習エンジニア入門

AIエンジニアへスキルアップをしませんか?コデクサでは、機械学習の初心者を対象に0から学べるコースを配信しています。

機械学習に必要な線形代数や統計基礎、さらに初歩的なアルゴリズムなどの無料コースを豊富に取り揃えています!

機械学習エンジニアへキャリアアップをしましょう!

コースを確認する

コメントを残す

*

CAPTCHA