データサイエンス（Part.19）｜多変量解析

目標

多変量解析について理解する

多変量解析とは

• 目的：複数の変数を同時に扱い、関係性・構造・予測力を明らかにする手法の総称。
• 用語の注意
  • multivariate：目的変数が複数（例：売上と来店数を同時にモデリング）。
  • multivariable：説明変数が複数（例：価格・広告・気温で売上を説明）。
    一般には両者をまとめて「多変量解析」と呼ぶことが多いです。

代表的な「手法」

1) 予測・因果推定（教師あり）

• 重回帰（OLS）／一般化線形モデル（GLM）
  連続目的（売上・満足度）。GLMならロジスティック（0/1）、ポアソン（カウント）などにも対応。
  仮定：線形性、独立、等分散（OLS）、リンク関数の適合（GLM）。
• ロジスティック回帰（2値/多クラス）
  購買有無、離反有無、カテゴリ選択。係数の解釈が容易。
• 判別分析（LDA/QDA）
  分布仮定（正規・共分散同一/異）が妥当なら高速・高解釈。
• PLS回帰（部分最小二乗）
  説明変数が多く強い多重共線性でも安定。官能評価×化学成分など。
• 混合効果モデル（階層ベイズ含む）
  店舗・個人・地域など階層構造（ランダム効果）があるデータ。
• 時系列（ARIMA/SARIMAX/VAR）
  季節性・トレンド・外生変数（広告・気温）を含めた需要予測。

2) 構造把握・次元圧縮（教師なし）

• 主成分分析（PCA）
  相関の強い連続変数を少数の合成軸に縮約。可視化・前処理に最適。
• 因子分析（FA）/確認的因子分析（CFA）
  潜在因子を仮定して測定変数の共分散構造を説明（心理尺度など）。
• 独立成分分析（ICA）
  信号分離（例：脳波、混ざった要因の分離）。
• 多次元尺度法（MDS）/t-SNE/UMAP
  距離・類似度の低次元可視化（t-SNE/UMAPは主に可視化用）。

3) セグメンテーション・類別（教師なし）

• クラスタリング（k-means、階層、GMM、スペクトラル）
  顧客・店舗・商品のグルーピング。距離尺度と前処理が肝。
• トピックモデル（LDA：Latent Dirichlet Allocation）
  テキストから潜在トピックを抽出（レビュー、SNS）。

4) 多変量応答・群比較

• MANOVA（多変量分散分析）
  群要因の影響を複数の目的変数で同時に検定。
• 冗長性分析（RDA）/正準相関（CCA）
  変数群AとBの相互関係を要約（マーケ要因群×ブランド指標群）。
• SEM（構造方程式モデリング）
  因果仮説（潜在変数含む）を共分散構造で検証（パス解析・CFAの統合）。

分析の流れ（実務テンプレとして）

1. 目的定義：予測か、群比較か、構造理解か。
2. データ監査：欠損・外れ値・分布（歪度/尖度）・スケール。
3. 前処理
   • スケーリング（標準化：PCA/LDA/k-meansは必須級）
   • カテゴリのエンコード（One-Hot、順序はOrdinal）
   • 変換（対数/Box-Cox）、外れ値のロバスト化
   • 欠損（MCAR/MAR/MNARの見立て、単純/多重代入）
4. 特徴量設計：ラグ、集約、交互作用、バケット化、領域知見の導入。
5. 手法選定：上の早見を基に選ぶ（複数モデル比較が基本）。
6. 学習・検証
   • 時系列は時系列CV、個票はk-fold。
   • 指標：回帰（RMSE/MAE/R²）、分類（ROC-AUC/PR-AUC/F1）、クラスタ（シルエット）、次元圧縮（寄与率）。
   • AIC/BICや正則化（L1/L2/Elastic Net）で汎化性を確保。
7. 解釈・可視化
   • 回帰係数、標準化係数、部分依存、SHAP
   • PCAの固有値・寄与率・負荷量（ロード）、バイプロット
   • クラスタのプロファイル（平均値レーダーなど）
8. 実装・運用：データ更新サイクル、ドリフト監視、再学習。

仮定・注意点（つまずきやすい所）

• 多重共線性：VIF↑や固有値問題 → 変数選択、PCA/PLS、正則化で回避。
• 外れ値の影響：ロバスト回帰、分位点回帰、Winsorize。
• データ漏洩：未来情報/ターゲット情報を前処理に混ぜない（CV分割前にfitしない）。
• 高次元（p≫n）：次元圧縮、正則化、特徴量選択、スパースモデリング。
• 多重検定：MANOVA後の事後検定や多数の相関では補正（Bonferroni、FDR）。
• クラスタの再現性：初期値依存・スケール依存。安定性検証（再サンプル、ARI）。
• 可視化の誤読：t-SNE/UMAPは距離の絶対値解釈NG（境界の厳密性は保証しない）。

指標と診断（よく使う）

• 回帰：R²/調整R²、RMSE、MAE、残差診断（正規QQ、等分散性、自己相関）。
• 分類：ROC-AUC・PR-AUC、校正（信頼度と実確率の一致）、混同行列。
• クラスタ：シルエット、Davies–Bouldin、Calinski–Harabasz、外部指標（ARI, NMI）。
• PCA：スクリープロット（固有値）、累積寄与率、ロードの解釈。
• SEM/CFA：適合度（CFI/TLI、RMSEA、SRMR）、識別性・修正指標の安易利用に注意。

データ型別の向き・不向き（簡易表）

• 連続×連続：相関、回帰、PCA、PLS。
• 連続×カテゴリ：t検定/ANOVA、MANOVA、回帰（ダミー化）。
• カテゴリ×カテゴリ：カイ二乗、ロジスティック、決定木。
• 距離/類似度：MDS、クラスタ、スペクトラル。
• 時系列：SARIMAX、VAR、状態空間モデル、LSTM。

サンプルサイズの目安（経験則）

• 回帰/ロジスティック：説明変数1つあたり10〜20イベント（EPV）。
• PCA/FA：変数1つにつき5〜10倍のサンプル（ただし共通性が高ければ少なくても可）。
• クラスタ：群数×（群に必要な最小n）を満たすよう十分に。

実務例（マーケティング中心）

• 需要予測：売上 ~ 価格＋広告＋販促＋気温（SARIMAX/回帰）。
• 顧客セグメント：購買頻度・単価・カテゴリ幅→k-means、GMM。
• ブランド指標の要因：好意・想起・品質感→PCA/FAで軸抽出、重回帰で売上寄与。
• 媒体最適化：チャネル別GRP/Imp → ログ回帰＋相互作用、SHAPで貢献可視化。
• NPS/解約：ロジスティック＋部分依存で施策方針。

手法の選び方（超要約）

高相関・高次元：PCA/PLS/Elastic Net

解釈重視：回帰/LR、PCA、LDA、SEM

予測重視：正則化回帰、ツリー系、ブースティング、PLS

構造理解：PCA/FA、クラスタ、CCA、RDA

群比較：MANOVA、判別分析

今回は以上となります。

ブックマークのすすめ

「ほわほわぶろぐ」を常に検索するのが面倒だという方はブックマークをお勧めします。ブックマークの設定は別記事にて掲載しています。

「お気に入り」の登録・削除方法【Google Chrome / Microsoft Edge】「お気に入り」の登録・削除方法【Google Chrome / Microsoft Edge】について解説している記事です。削除方法も掲載しています。...

【パソコン選び】失敗しないための重要ポイント | 現役エンジニア&プログラミングスクール講師【パソコン選び】失敗しないための重要ポイントについての記事です。パソコンのタイプと購入時に検討すべき点・家電量販店で見かけるCPUの見方・購入者が必要とするメモリ容量・HDDとSSDについて・ディスプレイの種類・バッテリーの持ち時間や保証・Officeソフト・ウィルス対策ソフトについて書いています。...