---
title: "分類アルゴリズム"
url: https://docs.catalyst.zoho.com/ja/quickml/help/ml-algorithms/classification-algorithms/
description: "QuickMLは、Catalyst開発プラットフォームにおける完全ノーコードの機械学習パイプラインビルダーサービスで、エンドツーエンドのソリューションを備えた機械学習パイプラインを作成できます。"
last_updated: 2026-03-05T06:13:24Z
service: QuickML
type: general
---

<!-- ### MLアルゴリズム
QuickMLのML操作は複数のセクションに分類されています。これらの操作はすべてPipeline Builderのステージとして利用可能で、主なカテゴリは以下の通りです：
1. **アルゴリズム**
     - 分類アルゴリズム
     - 回帰アルゴリズム
2. **エンコーディング**
3. **補完**
4. **ビニング**
5. **トランスフォーマー**
6. **データ型検出**
7. **DType変換**
8. **特徴量生成**

上記のすべての操作には詳細なカテゴリがあり、MLパイプライン環境における独自のユースケースがあります。詳細については、今後のパイプライン記事で確認できます。 -->

# QuickMLのMLアルゴリズム

QuickMLは主に、スムーズなパイプライン実行環境を提供するために、機械学習パイプラインに機械学習操作を簡単に組み込むことに重点を置いています。そのため、データから最良の分析結果を得るために、幅広いMLアルゴリズムと機能が統合されています。

MLアルゴリズムは、外部からの介入なしにデータから学習し、経験から改善できるプログラムです。以下のアルゴリズムと操作はすべて、1つ以上のパイプライン実行で設定できる**QuickMLのステージ**として利用可能です。

データサイエンス分野で最も広く使用されているアルゴリズムは以下の通りです。

1. **分類アルゴリズム**
2. **回帰アルゴリズム**

# 分類アルゴリズム

分類は、離散的なクラスラベルを予測するタスクです。QuickMLは以下の分類アルゴリズムを備えています。

1. ### AdaBoost分類

    AdaBoostは、一連の小さな1ステップ（1レベル）の決定木を構築し、前の木で見逃された予測困難なケースに各木を適応させ、すべての木を単一のモデルに統合する機械学習アルゴリズムです。
    この分類は、最初に元のデータセットで分類器をフィッティングし、その後、同じデータセットで分類器の追加コピーをフィッティングすることから始まります。これらのインスタンスの重みは、現在の予測の誤差に応じて調整されます。これにより、後続の分類器はより困難なケースに集中します。

    #### ハイパーパラメータ：

    <table class="content-table quickml-content-table">
        <thead>
            <tr>
                <th class="w15p">パラメータ</th>
                <th class="w35p">説明</th>
                <th class="w15p">データ型</th>
                <th class="w20p">設定可能な値</th>
                <th class="w15p">デフォルト値</th>
            </tr>
        </thead>
        <tbody>
            <tr>
                <td>`base_estimator`</td>
                <td>ブーストされたアンサンブルが構築される元のベースエスティメータ。noneの場合、ベースエスティメータは**max_depth=1**で初期化された`DecisionTreeClassifier`です。</td>
                <td>object</td>
                <td>KNN分類モデルを除く任意の分類モデル</td>
                <td>None</td>
            </tr>
            <tr>
                <td>`n_estimators` 
(エスティメータの数)</td>
                <td>ブースティングが終了するエスティメータの最大数。完全なフィットの場合、学習手順は早期に停止されます。</td>
                <td>int</td>
                <td>[1, 500]</td>
                <td>50</td>
            </tr>
            <tr>
                <td>`learning_rate`</td>
                <td>各ブースティングイテレーションで各分類器に適用される重み。学習率が高いほど、各分類器の貢献が大きくなります。</td>
                <td>float</td>
                <td>(0.0, +Inf)</td>
                <td>1.0</td>
            </tr>
            <tr>
                <td>`algorithm`</td>
                <td>'SAMME.R'の場合、SAMME.Rリアルブースティングアルゴリズムを使用します。base_estimatorはクラス確率の計算をサポートしている必要があります。'SAMME'の場合、SAMME離散ブースティングアルゴリズムを使用します。SAMME.Rアルゴリズムは通常、SAMMEよりも速く収束し、より少ないブースティングイテレーションで低いテストエラーを達成します。</td>
                <td>string</td>
                <td>{'SAMME', 'SAMME.R'}</td>
                <td>'SAMME.R'</td>
            </tr>
        </tbody>
    </table>

2. ### CatBoost分類

    CatBoostは勾配ブースティング決定木に基づいています。トレーニング中、一連の決定木が連続的に構築されます。各後続の木は、前の木と比較して損失が削減された状態で構築されます。木の数は開始パラメータによって制御されます。

    この分類は、他と比較して**予測時間がはるかに短い**という特徴があります。

    #### ハイパーパラメータ：

    <table class="content-table quickml-content-table">
        <thead>
            <tr>
                <th class="w25p">パラメータ</th>
                <th class="w25p">説明</th>
                <th class="w15p">データ型</th>
                <th class="w20p">設定可能な値</th>
                <th class="w15p">デフォルト値</th>
            </tr>
        </thead>
        <tbody>
        <tr>
        <td>`learning_rate`</td>
        <td>勾配ステップの縮小に使用されます。</td>
        <td>float</td>
        <td>(0,1]</td>
        <td>0.03</td>
        </tr>
        <tr>
        <td>`l2_leaf_reg` (l2_leaf_regularization)</td>
        <td>コスト関数のL2正則化項の係数。</td>
        <td>float</td>
        <td>[0,+inf)</td>
        <td>3.0</td>
        </tr>
        <tr>
        <td>`rsm` (random subspace method)</td>
        <td>各分割選択時に使用する特徴量の割合。特徴量はランダムに再選択されます。</td>
        <td>float</td>
        <td>(0,1]</td>
        <td>None</td>
        </tr>
        <tr>
        <td>`loss_function`</td>
        <td>トレーニングで使用するメトリック。指定された値は解くべき機械学習問題も決定します。一部のメトリックはオプションパラメータをサポートしています。</td>
        <td>string</td>
        <td>{&#39;Logloss&#39;, &#39;CrossEntropy&#39;, &#39;MultiClass&#39;, &#39;MultiClassOneVsAll&#39;}</td>
        <td>&#39;MultiClass&#39;</td>
        </tr>
        <tr>
        <td>`nan_mode`</td>
        <td>入力データセット内の欠損値を処理する方法。</td>
        <td>string</td>
        <td>{&#39;Forbidden&#39;, &#39;Min&#39;, &#39;Max&#39;}</td>
        <td>Min</td>
        </tr>
        <tr>
        <td>`leaf_estimation_method`</td>
        <td>リーフ内の値を計算するために使用される方法。</td>
        <td>string</td>
        <td>{&quot;Newton&quot;, &quot;Gradient&quot;}</td>
        <td>None</td>
        </tr>
        <tr>
        <td>`score_function`</td>
        <td>木の構築中に次の分割を選択するために使用されるスコアタイプ。</td>
        <td>string</td>
        <td>{L2, Cosine}</td>
        <td>Cosine</td>
        </tr>
        <tr>
        <td>`max_depth`</td>
        <td>木の最大深度。</td>
        <td>int</td>
        <td>[1,+Inf)</td>
        <td>None</td>
        </tr>
        <tr>
        <td>`n_estimators`
 (エスティメータの数)</td>
        <td>機械学習問題を解く際に構築できる木の最大数。イテレーション数を制限する他のパラメータを使用する場合、最終的な木の数はこのパラメータで指定された数より少なくなることがあります。</td>
        <td>int</td>
        <td>[1, 500]</td>
        <td>None</td>
        </tr>
        </tbody>
    </table>

3. ### Decision-Tree分類

    決定木は、木構造の形式で分類または回帰モデルを構築します。データセットをより小さなサブセットに分割していき、同時に関連する決定木が段階的に開発されます。

    決定木は**カテゴリカルデータと数値データの両方**を処理できます。特徴量のセットの出力値を予測する際、その特徴量のセットが属するサブセットに基づいて出力を予測します。

    #### ハイパーパラメータ

    <table class="content-table quickml-content-table">
        <thead>
        <tr>
            <th class="w25p">パラメータ</th>
            <th class="w30p">説明</th>
            <th class="w15p">データ型</th>
            <th class="w20p">設定可能な値</th>
            <th class="w10p">デフォルト値</th>
        </tr>
        </thead>
        <tbody>
        <tr>
            <td>`criterion`</td>
            <td>分割の品質を測定する関数。</td>
            <td>string</td>
            <td>{"gini", "entropy"}</td>
            <td>"gini"</td>
        </tr>
        <tr>
            <td>`splitter`</td>
            <td>各ノードで分割を選択するために使用される戦略。</td>
            <td>string</td>
            <td>{"best", "random"}</td>
            <td>"best"</td>
        </tr>
        <tr>
            <td>`max_depth`</td>
            <td>木の最大深度。Noneの場合、すべてのリーフが純粋になるか、すべてのリーフがmin_samples_splitサンプル未満になるまでノードが展開されます。</td>
            <td>int</td>
            <td>(0, +Inf)</td>
            <td>None</td>
        </tr>
        <tr>
            <td>`min_samples_split`</td>
            <td>内部ノードを分割するために必要なサンプルの最小数。</td>
            <td>int  or float</td>
            <td>[2, +Inf) or (0, 1.0]</td>
            <td>2</td>
        </tr>
        <tr>
            <td>`min_samples_leaf`</td>
            <td>リーフノードに必要なサンプルの最小数。任意の深さの分割ポイントは、左右の各ブランチに少なくともmin_samples_leafのトレーニングサンプルが残る場合にのみ考慮されます。</td>
            <td>int or float</td>
            <td>[1, +Inf) or (0, 0.5]</td>
            <td>1</td>
        </tr>
        <tr>
            <td>`min_weight_fraction_leaf`</td>
            <td>リーフノードに存在するために必要な、（すべての入力サンプルの）重みの合計の最小加重分数。</td>
            <td>float</td>
            <td>[0, 0.5]</td>
            <td>0</td>
        </tr>
        <tr>
            <td>`max_features`</td>
            <td>最適な分割を探す際に考慮する特徴量の数。</td>
            <td>int, float or string</td>
            <td>(0, n_features] or { "sqrt", "log2"}</td>
            <td>None</td>
        </tr>
        <tr>
            <td>`max_leaf_nodes`</td>
            <td>ベストファースト方式でmax_leaf_nodesの木を成長させます。ベストノードは不純度の相対的な減少として定義されます。Noneの場合、リーフノードの数は無制限です。</td>
            <td>int</td>
            <td>(1, +Inf)</td>
            <td>None</td>
        </tr>
        <tr>
            <td>`min_impurity_decrease`</td>
            <td>この分割がこの値以上の不純度の減少をもたらす場合にノードが分割されます。</td>
            <td>float</td>
            <td>[0, +Inf)</td>
            <td>0.0</td>
        </tr>
        </tbody>
        </table>

4. ### GB分類

    勾配ブースティング分類は、現在の予測と既知の正しいターゲット値の差を計算します。この差は残差と呼ばれます。この値を見つけた後、勾配ブースティング分類器は特徴量をその残差にマッピングする弱いモデル（決定木）をトレーニングします。弱いモデルによって予測されたこの残差は既存のモデル入力に追加され、このプロセスによりモデルは正しいターゲットに向かって徐々に近づきます。このステップを複数回繰り返すことで、全体的なモデル予測が改善されます。

    #### ハイパーパラメータ：

    <table class="content-table quickml-content-table">
        <thead>
        <tr>
            <th class="w25p">パラメータ</th>
            <th class="w30p">説明</th>
            <th class="w15p">データ型</th>
            <th class="w15p">設定可能な値</th>
            <th class="w15p">デフォルト値</th>
        </tr>
        </thead>
        <tbody>
        <tr>
            <td>`loss`</td>
            <td>最適化される損失関数。'deviance'は確率的出力を持つ分類のためのdeviance（= ロジスティック回帰）を指します。</td>
            <td>string</td>
            <td>{&#39;deviance&#39;, &#39;exponential&#39;}</td>
            <td>&#39;deviance&#39;</td>
        </tr>
        <tr>
            <td>`learning_rate`</td>
            <td>学習率は各木の貢献をlearning_rateで縮小します。learning_rateとn_estimatorsの間にはトレードオフがあります。</td>
            <td>float</td>
            <td>(0.0, +Inf)</td>
            <td>0.1</td>
        </tr>
        <tr>
            <td>`n_estimators`
 (エスティメータの数)</td>
            <td>実行するブースティングステージの数。</td>
            <td>int</td>
            <td>[1, 500]</td>
            <td>100</td>
        </tr>
        <tr>
            <td>`criterion`</td>
            <td>分割の品質を測定する関数。</td>
            <td>string</td>
            <td>{&#39;friedman_mse&#39;, &#39;mse&#39;, &#39;mae&#39;}</td>
            <td>'friedman_mse'</td>
        </tr>
        <tr>
        <td>`subsample`</td>
            <td>個々のベースラーナーのフィッティングに使用されるサンプルの割合。</td>
            <td>float</td>
            <td>(0.0, 1.0]</td>
            <td>1.0</td>
        </tr>
        <tr>
            <td>`max_depth`</td>
            <td>個々の回帰エスティメータの最大深度。</td>
            <td>int</td>
            <td>(0, +Inf)</td>
            <td>None</td>
        </tr>
        <tr>
            <td>`min_samples_split`</td>
            <td>内部ノードを分割するために必要なサンプルの最小数。</td>
            <td>int  or float</td>
            <td>[2, +Inf) or (0, 1.0]</td>
            <td>2</td>
        </tr>
        <tr>
            <td>`min_samples_leaf`</td>
            <td>リーフノードに必要なサンプルの最小数。</td>
            <td>int or float</td>
            <td>[1, +Inf) or (0, 0.5]</td>
            <td>1</td>
        </tr>
        <tr>
            <td>`min_weight_fraction_leaf`</td>
            <td>リーフノードに存在するために必要な、（すべての入力サンプルの）重みの合計の最小加重分数。</td>
            <td>float</td>
            <td>[0, 0.5]</td>
            <td>0</td>
        </tr>
        <tr>
            <td>`max_features`</td>
            <td>最適な分割を探す際に考慮する特徴量の数。</td>
            <td>int, float or string</td>
            <td>(0, n_features] or { "sqrt", "log2"}</td>
            <td>None</td>
        </tr>
        <tr>
            <td>`max_leaf_nodes`</td>
            <td>ベストファースト方式でmax_leaf_nodesの木を成長させます。ベストノードは不純度の相対的な減少として定義されます。</td>
            <td>int</td>
            <td>(1, +Inf)</td>
            <td>None</td>
        </tr>
        <tr>
            <td>`min_impurity_decrease`</td>
            <td>この分割がこの値以上の不純度の減少をもたらす場合にノードが分割されます。</td>
            <td>float</td>
            <td>[0, +Inf)</td>
            <td>0.0</td>
        </tr>
        <tr>
            <td>`init`</td>
            <td>初期予測の計算に使用されるエスティメータオブジェクト。</td>
            <td>object or string</td>
            <td>エスティメータ（SVM分類とcatboostを除く任意の分類モデル）または'zero'</td>
            <td>None</td>
        </tr>
        <tr>
            <td>`warm_start`</td>
            <td>Trueに設定すると、前回のfitの呼び出しの解を再利用し、アンサンブルにエスティメータを追加します。Falseの場合は、前回の解を消去します。</td>
            <td>bool</td>
            <td>True or False</td>
            <td>False</td>
        </tr>
        <tr>
            <td>`tol` (tolerance)</td>
            <td>早期停止の許容値。損失がn_iter_no_changeイテレーション（数値に設定されている場合）で少なくともtol分改善しない場合、トレーニングが停止します。</td>
            <td>float</td>
            <td>[0.0, +Inf)</td>
            <td>1e-4</td>
        </tr>
        </tbody>
        </table>

5. ### KNN分類

    KNNは、クエリ（データインスタンス）とデータ内のすべての例との距離を求め、クエリに最も近い指定数の例（K）を選択し、近傍で最も頻度の高いラベルに投票することで動作します。

    #### ハイパーパラメータ：

    <table class="content-table quickml-content-table">
        <thead>
        <tr>
        <th class="w15p">パラメータ</th>
                <th class="w35p">説明</th>
                <th class="w15p">データ型</th>
                <th class="w20p">設定可能な値</th>
                <th class="w15p">デフォルト値</th>
        </tr>
        </thead>
        <tbody>
        <tr>
            <td>`n_neighbors`
(近傍の数)</td>
            <td>kneighborsクエリにデフォルトで使用する近傍の数。</td>
            <td>int</td>
            <td>[1, n]
 n = データセット内の総レコード数</td>
            <td>5</td>
        </tr>
        <tr>
            <td>`weights`</td>
            <td>予測に使用される重み関数。</td>
            <td>string</td>
            <td>{'uniform', 'distance'}</td>
            <td>'uniform'</td>
        </tr>
        <tr>
            <td>`algorithm`</td>
            <td>最近傍の計算に使用されるアルゴリズム。</td>
            <td>string</td>
            <td>{'auto', 'ball_tree', 'kd_tree', 'brute'}</td>
            <td>'auto'</td>
        </tr>
        <tr>
            <td>`leaf_size`</td>
            <td>BallTreeまたはKDTreeに渡されるリーフサイズ。構築とクエリの速度、およびツリーの格納に必要なメモリに影響を与えることがあります。</td>
            <td>int</td>
            <td> (1, +Inf)</td>
            <td>30</td>
        </tr>
        <tr>
            <td>`p`</td>
            <td>Minkowskiメトリックのパワーパラメータ。</td>
            <td>int</td>
            <td>[1,3]</td>
            <td>2</td>
        </tr>
        <tr>
            <td>`metric`</td>
            <td>距離計算に使用するメトリック。デフォルトは"minkowski"で、p = 2の場合は標準ユークリッド距離になります。</td>
            <td>string</td>
            <td>{'cityblock', 'cosine', &#39;euclidean&#39;, &#39;l1&#39;, &#39;l2&#39;, &#39;manhattan&#39;, &#39;nan_euclidean&#39;, 'minkowski'}</td>
            <td>'minkowski'</td>
        </tr>
    </tbody>
    </table>

6. ### LGBM分類
    
    LGBMは、各木の出力を使用して更新される初期推定値から始めることで動作します。学習パラメータはこの推定値の変化の大きさを制御します。任意のデータに使用でき、多くの組み込み前処理ステップを含むため高い精度を提供します。

    LightGBMアルゴリズムは垂直方向に成長します。つまり、他のアルゴリズムがレベル単位で成長するのに対し、リーフ単位で成長します。LightGBMは最大の損失を持つリーフを選択して成長させます。同じリーフを成長させる場合、レベル単位のアルゴリズムよりも大きな損失の削減が可能です。

    #### ハイパーパラメータ：

    <table class="content-table quickml-content-table">
        <thead>
        <tr>
            <th class="w25p">パラメータ</th>
            <th class="w30p">説明</th>
            <th class="w10p">データ型</th>
            <th class="w20p">設定可能な値</th>
            <th class="w15p">デフォルト値</th>
        </tr>
        </thead>
        <tbody>
        <tr>
            <td>`boosting_type`</td>
            <td>ブースティングの方法。</td>
            <td>string</td>
            <td>{'gbdt', 'dart', 'goss' }</td>
            <td>&#39;gbdt&#39;</td>
        </tr>
        <tr>
            <td>`num_leaves`</td>
            <td>ベースラーナーの最大リーフ数。</td>
            <td>int</td>
            <td>(1, +Inf)</td>
            <td>31</td>
        </tr>
        <tr>
            <td>`max_depth`</td>
            <td>ベースラーナーの最大木深度。<= 0は制限なしを意味します。</td>
            <td>int</td>
            <td>(-Inf, +Inf)</td>
            <td>-1</td>
        </tr>
        <tr>
            <td>`learning_rate`</td>
            <td>ブースティング学習率。fitメソッドのcallbacksパラメータを使用して、reset_parameterコールバックでトレーニング中の学習率を縮小/適応させることができます。</td>
            <td>float</td>
            <td>(0.0, +Inf)</td>
            <td>0.1</td>
        </tr>
        <tr>
            <td>`n_estimators`
 (エスティメータの数)</td>
            <td>フィッティングするブーストされた木の数。</td>
            <td>int</td>
            <td>[1, 500]</td>
            <td>100</td>
        </tr>
        <tr>
            <td>`subsample_for_bin`</td>
            <td>ビンを構築するためのサンプル数。</td>
            <td>int</td>
            <td>(0, +Inf)</td>
            <td>200000</td>
        </tr>
        <tr>
            <td>`min_split_gain`</td>
            <td>木のリーフノードでさらなるパーティションを行うために必要な最小損失削減。</td>
            <td>float</td>
            <td>[0.0, +Inf)</td>
            <td>0.0</td>
        </tr>
        <tr>
            <td>`min_child_weight`</td>
            <td>子ノード（リーフ）に必要なインスタンス重み（ヘシアン）の最小合計。</td>
            <td>float</td>
            <td>[0.0, +Inf)</td>
            <td>1e-3</td>
        </tr>
        <tr>
            <td>`min_child_samples`</td>
            <td>子ノード（リーフ）に必要なデータの最小数。</td>
            <td>int</td>
            <td>[0, +Inf)</td>
            <td>20</td>
        </tr>
        <tr>
            <td>`subsample`</td>
            <td>トレーニングインスタンスのサブサンプル比率。</td>
            <td>float</td>
            <td>(0.0, 1.0]</td>
            <td>1.0</td>
        </tr>
        <tr>
            <td>`subsample_freq` (subsample_frequency)</td>
            <td>サブサンプルの頻度。<= 0は無効を意味します。</td>
            <td>int</td>
            <td>(-Inf, +Inf)</td>
            <td>0</td>
        </tr>
        <tr>
            <td>`colsample_bytree` (column sample by tree)</td>
            <td>各木を構築する際のカラムのサブサンプル比率。</td>
            <td>float</td>
            <td>(0.0, 1.0]</td>
            <td>1.0</td>
        </tr>
        <tr>
            <td>`reg_alpha` (alpha)</td>
            <td>重みに対するL1正則化項。</td>
            <td>float</td>
            <td>(0.0, +Inf)</td>
            <td>0.0</td>
        </tr>
        <tr>
            <td>`reg_lambda` (lambda)</td>
            <td>重みに対するL2正則化項。</td>
            <td>float</td>
            <td>(0.0, +Inf)</td>
            <td>0.0</td>
        </tr>
        <tr>
            <td>`importance_type`</td>
            <td>feature<em>importances</em>に入力される特徴量の重要度のタイプ。'split'の場合、結果にはモデルで特徴量が使用された回数が含まれます。'gain'の場合、結果にはその特徴量を使用した分割の合計ゲインが含まれます。</td>
            <td>string</td>
            <td>{ 'gain', &#39;split&#39;}</td>
            <td>&#39;split&#39;</td>
        </tr>
        </tbody>
        </table>

7. ### ロジスティック回帰

    ターゲットが**バイナリ値**の場合、ロジスティック分類を使用できます。値を0と1の間にマッピングします。

    #### ハイパーパラメータ：

    <table class="content-table quickml-content-table">
        <thead>
        <tr>
            <th class="w20p">パラメータ</th>
            <th class="w35p">説明</th>
            <th class="w10p">データ型</th>
            <th class="w20p">設定可能な値</th>
            <th class="w15p">デフォルト値</th>
        </tr>
        </thead>
        <tbody>
        <tr>
            <td>`penalty`</td>
            <td>ペナルティのノルムを指定します：<ul style="text-align: left;"><li><strong>&#39;none&#39;</strong>：ペナルティなし<li><strong>&#39;l2&#39;</strong>：L2ペナルティ項を追加（デフォルト）<li><strong>&#39;l1&#39;</strong>：L1ペナルティ項を追加<li><strong>&#39;elasticnet&#39;</strong>：L1とL2の両方のペナルティ項を追加</ul></td>
            <td>string</td>
            <td>{ 'l1', 'l2', 'elasticnet', 'none'}</td>
            <td>'l2'</td>
        </tr>
        <tr>
            <td>`dual`</td>
            <td>双対または主問題の定式化。双対定式化はliblinearソルバーを使用するl2ペナルティに対してのみ実装されています。</td>
            <td>bool</td>
            <td>True or False</td>
            <td>False</td>
        </tr>
        <tr>
            <td>`tol` (tolerance)</td>
            <td>停止基準の許容値。</td>
            <td>float</td>
            <td>[0.0, +Inf)</td>
            <td>1e-4</td>
        </tr>
        <tr>
            <td>`C`</td>
            <td>正則化の強さの逆数。正のfloatである必要があります。</td>
            <td>float</td>
            <td>[0.0, +Inf)</td>
            <td>1.0</td>
        </tr>
        <tr>
            <td>`solver`</td>
            <td>最適化問題に使用するアルゴリズム。</td>
            <td>string</td>
            <td>{ 'newton-cg', 'lbfgs', 'liblinear', 'sag', 'saga' }</td>
            <td>'lbfgs'</td>
        </tr>
        <tr>
            <td>`fit_intercept`</td>
            <td>定数（バイアスまたは切片）を決定関数に追加するかどうかを指定します。</td>
            <td>bool</td>
            <td>True or False</td>
            <td>True</td>
        </tr>
        <tr>
            <td>`l1_ratio`</td>
            <td>Elastic-Netの混合パラメータ。
0 &lt;= l1_ratio &lt;= 1。penalty=&#39;elasticnet&#39;の場合のみ使用されます。</td>
            <td>float</td>
            <td>[0, 1]</td>
            <td>None</td>
        </tr>
        <tr>
            <td>`multi_class`</td>
            <td>'ovr'オプションが選択された場合、各ラベルに対してバイナリ問題がフィッティングされます。'multinomial'の場合、データがバイナリであっても、確率分布全体にわたって多項損失が最小化されます。</td>
            <td>string</td>
            <td>{&#39;auto&#39;, &#39;ovr&#39;, &#39;multinomial&#39;}</td>
            <td>&#39;auto&#39;</td>
        </tr>
        <tr>
            <td>`intercept_scaling`</td>
            <td>ソルバー'liblinear'が使用され、self.fit_interceptがTrueに設定されている場合にのみ有用です。切片はintercept_scaling * synthetic_feature_weightとなります。</td>
            <td>float</td>
            <td>(0, +Inf)</td>
            <td>1.0</td>
        </tr>
        </tbody>
        </table>

> **注意:** "solver"パラメータの値は、"penalty"パラメータの一部の値のみをサポートしています。ソルバーがサポートするペナルティは以下の通りです：

    * newton-cg' - ['l2', 'none']
    * 'lbfgs' - ['l2', 'none']
    * 'liblinear' - ['l1', 'l2']
    * 'sag' - ['l2', 'none']
    * 'saga' - ['elasticnet', 'l1', 'l2', 'none']

8. ### Naive Bayes分類

    Naive Bayesは**ベイズの定理**を使用する分類器です。各クラスの帰属確率（特定のレコードやデータポイントが特定のクラスに属する確率）を予測します。最も高い確率を持つクラスが最も可能性の高いクラスとして考慮されます。

9. ### Random-Forest分類

    ランダムフォレストは、多数の決定木で構成される分類アルゴリズムです。個々の木を構築する際にバギングと特徴量のランダム性を使用して、個々の木よりも予測精度が高い非相関な木の森を作成しようとします。

    バギングは、元のデータセットのランダムなサブセットに対してベース分類器/回帰器をフィッティングし、その後、個々の予測を集約（投票または平均化）して最終予測を形成するアンサンブルメタエスティメータです。

    #### ハイパーパラメータ：

    <table class="content-table quickml-content-table">
        <thead>
        <tr>
            <th class="w25p">パラメータ</th>
            <th class="w30p">説明</th>
            <th class="w10p">データ型</th>
            <th class="w20p">設定可能な値</th>
            <th class="w15p">デフォルト値</th>
        </tr>
        </thead>
        <tbody>
        <tr>
            <td>`n_estimators`
 (エスティメータの数)</td>
            <td>フォレスト内の木の数。</td>
            <td>int</td>
            <td>[1, 500]</td>
            <td>100</td>
        </tr>
        <tr>
            <td>`criterion`</td>
            <td>分割の品質を測定する関数。</td>
            <td>string</td>
            <td>{"gini", "entropy"}</td>
            <td>"gini"</td>
        </tr>
        <tr>
            <td>`max_depth`</td>
            <td>木の最大深度。Noneの場合、すべてのリーフが純粋になるか、すべてのリーフがmin_samples_splitサンプル未満になるまでノードが展開されます。</td>
            <td>int</td>
            <td>(0, +Inf)</td>
            <td>None</td>
        </tr>
        <tr>
            <td>`min_samples_split`</td>
            <td>内部ノードを分割するために必要なサンプルの最小数。</td>
            <td>int or float</td>
            <td>[2, +Inf) or (0, 1.0]</td>
            <td>2</td>
        </tr>
        <tr>
            <td>`min_samples_leaf`</td>
            <td>リーフノードに必要なサンプルの最小数。任意の深さの分割ポイントは、左右の各ブランチに少なくともmin_samples_leafのトレーニングサンプルが残る場合にのみ考慮されます。</td>
            <td>int or float</td>
            <td>[1, +Inf) or (0, 0.5]</td>
            <td>1</td>
        </tr>
        <tr>
            <td>`min_weight_fraction_leaf`</td>
            <td>リーフノードに存在するために必要な、（すべての入力サンプルの）重みの合計の最小加重分数。</td>
            <td>float</td>
            <td>[0, 0.5]</td>
            <td>0.0</td>
        </tr>
        <tr>
            <td>`max_features`</td>
            <td>最適な分割を探す際に考慮する特徴量の数。</td>
            <td>int, float or string</td>
            <td>(0, n_features] or { "sqrt"}</td>
            <td>None</td>
        </tr>
        <tr>
            <td>`max_leaf_nodes`</td>
            <td>ベストファースト方式でmax_leaf_nodesの木を成長させます。ベストノードは不純度の相対的な減少として定義されます。</td>
            <td>int</td>
            <td>(1, +Inf)</td>
            <td>None</td>
        </tr>
        <tr>
            <td>`min_impurity_decrease`</td>
            <td>この分割がこの値以上の不純度の減少をもたらす場合にノードが分割されます。</td>
            <td>float</td>
            <td>[0, +Inf)</td>
            <td>0.0</td>
        </tr>
        <tr>
            <td>`bootstrap`</td>
            <td>木を構築する際にブートストラップサンプルを使用するかどうか。Falseの場合、各木の構築にデータセット全体が使用されます。</td>
            <td>bool</td>
            <td>True or False</td>
            <td>True</td>
        </tr>
        <tr>
            <td>`oob_score`(out of bag score)</td>
            <td>汎化スコアの推定にout-of-bagサンプルを使用するかどうか。bootstrap=Trueの場合のみ利用可能です。</td>
            <td>bool</td>
            <td>True or False</td>
            <td>False</td>
        </tr>
        <tr>
            <td>`warm_start`</td>
            <td>Trueに設定すると、前回のfitの呼び出しの解を再利用し、アンサンブルにエスティメータを追加します。Falseの場合は、完全に新しいフォレストをフィッティングします。</td>
            <td>bool</td>
            <td>True or  False</td>
            <td>False</td>
        </tr>
    </tbody>
    </table>

10. ### SVM分類

    SVM（サポートベクターマシン）は、分類および回帰問題のための線形モデルです。線形問題と非線形問題の両方を解くことができ、多くの実際的な問題に対してうまく機能します。SVMのアイデアはシンプルです：アルゴリズムはデータをクラスに分離する直線または超平面を作成します。

    #### ハイパーパラメータ：

    <table class="content-table quickml-content-table">
        <thead>
        <tr>
            <th class="w25p">パラメータ</th>
            <th class="w35p">説明</th>
            <th class="w10p">データ型</th>
            <th class="w15p">設定可能な値</th>
            <th class="w15p">デフォルト値</th>
        </tr>
        </thead>
        <tbody>
        <tr>
            <td>`C`</td>
            <td>正則化パラメータ。正則化の強さはCに反比例します。</td>
            <td>float</td>
            <td>[0.0, +Inf)</td>
            <td>1.0</td>
        </tr>
        <tr>
            <td>`kernel`</td>
            <td>アルゴリズムで使用するカーネルタイプを指定します。指定しない場合、'rbf'が使用されます。</td>
            <td>string</td>
            <td>{'linear', 'poly', 'rbf', 'sigmoid'}</td>
            <td>'rbf'</td>
        </tr>
        <tr>
            <td>`degree`</td>
            <td>多項式カーネル関数（'poly'）の次数。他のすべてのカーネルでは無視されます。</td>
            <td>int</td>
            <td>[0, +Inf)</td>
            <td>3</td>
        </tr>
        <tr>
            <td>`gamma`</td>
            <td>'rbf'、'poly'、'sigmoid'のカーネル係数。</td>
            <td>string or float</td>
            <td>{'scale', 'auto'} or (0.0, +Inf)</td>
            <td>'scale'</td>
        </tr>
        <tr>
            <td>`coef0`</td>
            <td>カーネル関数の独立項。'poly'と'sigmoid'でのみ重要です。</td>
            <td>float</td>
            <td>(-Inf, +Inf)</td>
            <td>0.0</td>
        </tr>
        <tr>
            <td>`shrinking`</td>
            <td>縮小ヒューリスティックを使用するかどうか。</td>
            <td>bool</td>
            <td>True or  False</td>
            <td>True</td>
        </tr>
        <tr>
            <td>`probability`</td>    
            <td>確率推定を有効にするかどうか。</td>
            <td>bool</td>
            <td>True or  False</td>
            <td>False</td>
        </tr>
        <tr>
            <td>`tol` (tolerance)</td>
            <td>停止基準の許容値。</td>
            <td>float</td>
            <td>[0.0, +Inf)</td>
            <td>1e-3</td>
        </tr>
        <tr>
            <td>`decision_function_shape`</td>
            <td>他のすべての分類器と同様に(n_samples, n_classes)の形状を持つone-vs-rest（'ovr'）決定関数を返すか、(n_samples, n_classes * (n_classes - 1) / 2)の形状を持つlibsvmの元のone-vs-one（'ovo'）決定関数を返すか。</td>
            <td>string</td>
            <td>{'ovo', 'ovr'}</td>
            <td>'ovr'</td>
        </tr>
        <tr>
            <td>`break_ties`</td>
            <td>trueの場合、decision_function_shape=&#39;ovr&#39;かつクラス数が2より大きい場合、predictはdecision_functionの信頼値に従ってタイを解消します。それ以外の場合は、タイのクラスの中で最初のクラスが返されます。</td>
            <td>bool</td>
            <td>True or  False</td>
            <td>False</td>
        </tr>
    </tbody>
    </table>

11. ### XGB分類

    XGBoostは、高効率で柔軟かつポータブルに設計された最適化された分散勾配ブースティングライブラリです。Gradient Boostingフレームワークの下で機械学習アルゴリズムを実装しています。多くのデータサイエンスの問題を迅速かつ正確に解決するための並列ツリーブースティングを提供します。L1およびL2正則化を使用してポイントを予測し、トレーニングが高速です。

    各モデルにはFit（モデルのトレーニング）、predict（新しいデータの予測）、get metrics（モデルの精度やその他のメトリックの取得）、feature_importances（予測のための入力特徴量の重要度）があります。

    Adaboost、CatBoost、Decision tree、Gradient boost（GB）、LGBM、RandomForest、SVM、XGBの基本的な動作原理は、回帰と分類の両方でほぼ同一です。

    #### ハイパーパラメータ：

    <table class="content-table quickml-content-table">
        <thead>
        <tr>
            <th class="w25p">パラメータ</th>
            <th class="w30p">説明</th>
            <th class="w10p">データ型</th>
            <th class="w25p">設定可能な値</th>
            <th class="w20p">デフォルト値</th>
        </tr>
        </thead>
        <tbody>
        <tr>
            <td>`booster`</td>
            <td>使用するブースターを決定します。</td>
            <td>string</td>
            <td>{'gbtree&#39;, &#39;gblinear&#39;, &#39;dart&#39; }</td>
            <td>'gbtree'</td>
        </tr>
        <tr>
            <td>`learning_rate`</td>
            <td>過学習を防ぐために更新に使用されるステップサイズの縮小。各ブースティングステップの後、新しい特徴量の重みを直接取得でき、etaは特徴量の重みを縮小してブースティングプロセスをより保守的にします。</td>
            <td>float</td>
            <td>[0,1]</td>
            <td>0.1</td>
        </tr>
        <tr>
            <td>`n_estimators`
 (エスティメータの数)</td>
            <td>フィッティングする木の数。</td>
            <td>int</td>
            <td>[1, 500]</td>
            <td>100</td>
        </tr>
            <tr>
            <td>`objective`</td>
            <td>バイナリ分類のためのロジスティック回帰。</td>
            <td>string</td>
            <td>以下の表に記載。</td>
            <td>&quot;binary:logistic&quot;</td>
        </tr>
        <tr>
            <td>`subsample`</td>
            <td>サンプルの割合を制御します。</td>
            <td>int</td>
            <td>(0,1]</td>
            <td>1</td>
        </tr>
        <tr>
            <td>`max_depth`</td>
            <td>木の最大深度。</td>
            <td>int</td>
            <td>(0, +Inf)</td>
            <td>3</td>
        </tr>
        <tr>
            <td>`max_delta_step`</td>
            <td>値が0に設定されている場合、制約はありません。正の値に設定すると、更新ステップをより保守的にするのに役立ちます。通常このパラメータは必要ありませんが、クラスが極端に不均衡な場合のロジスティック回帰に役立つことがあります。</td>
            <td>int  or float</td>
            <td>[0, +Inf)</td>
            <td>0</td>
        </tr>
        <tr>
            <td>`colsample_bytree` (column sample by tree)</td>
            <td>カラムのランダムサンプルの割合。</td>
            <td>float</td>
            <td>(0.0, 1.0]</td>
            <td>1.0</td>
        </tr>
        <tr>
            <td>`colsample_bylevel` (column sample by level)</td>
            <td>各レベルのカラムのサブサンプル比率。サブサンプリングは木の新しい深度レベルに到達するたびに行われます。カラムは現在の木に対して選択されたカラムのセットからサブサンプリングされます。</td>
            <td>float</td>
            <td>(0.0, 1.0]</td>
            <td>1.0</td>
        </tr>
        <tr>
            <td>`min_child_weight`</td>
            <td>重みの最小合計。</td>
            <td>int</td>
            <td>[0, +Inf)</td>
            <td>1</td>
        </tr>
        <tr>
            <td>`reg_alpha` (alpha)</td>
            <td>重みに対するL1正則化項。</td>
            <td>float</td>
            <td>[0.0, +Inf)</td>
            <td>0.0</td>
        </tr>
        <tr>
            <td>`reg_lambda` (lambda)</td>
            <td>重みに対するL2正則化項。</td>
            <td>float</td>
            <td>[0.0, +Inf)</td>
            <td>0.0</td>
        </tr>
        <tr>
            <td>`scale_pos_weight` (scale positive weight)</td>
            <td>正と負の重みのバランスを制御します。不均衡なクラスに有用です。</td>
            <td>int</td>
            <td>[0, +Inf)</td>
            <td>1</td>
        </tr>
        </tbody>
        </table>

    **"OBJECTIVE"パラメータの設定可能な値：**

    {binary:logistic, binary:logitraw, binary:hinge, multi:softmax, multi:softprob}