この用語をシェア
Few-shot学習とは
Few-shot学習は、極めて少ないデータ(通常クラスごとに1〜10個程度の例)で新しいタスクを学習する機械学習手法です。人間が少ない例から素早く一般化して学べるように、AIシステムも同様の能力を習得することを目指します。
Few-shot学習の種類
1-shot学習(One-shot Learning)
各カテゴリに対してたった1つの例しか与えられない状況での学習です。
5-shot学習(Five-shot Learning)
各カテゴリに対して5つの例が与えられる状況での学習です。
Zero-shot学習(Zero-shot Learning)
ターゲットクラスの例が一切与えられず、テキストや属性情報のみで学習する手法です。
主なアプローチ
1. メタ学習(Meta-Learning)
「学習することを学習する」アプローチで、多数の異なるタスクで訓練し、新しいタスクに素早く適応する能力を習得します。
- MAML(Model-Agnostic Meta-Learning):勾配の初期化を最適化
- Reptile:MAMLの簡略化版
- Meta-SGD:学習率も含めて最適化
2. プロトタイプネットワーク
各クラスの「プロトタイプ」(代表的な特徴)を学習し、新しいサンプルを最も近いプロトタイプに基づいて分類します。
3. メトリック学習
サンプル間の類似度を測るメトリックを学習し、类似したサンプルを同じクラスに分類します。
- Siamese Networks:2つの入力の類似性を学習
- Triplet Networks:アンカー、ポジティブ、ネガティブの3つ組で学習
- Relation Networks:関係性を明示的にモデリング
4. 転移学習ベース
事前訓練済みモデルを新しいタスクにファインチューニングするアプローチです。
応用分野
コンピュータビジョン
- 画像分類:新しいカテゴリの物体を少ない例で認識
- 物体検出:希少な物体の検出
- セマンティックセグメンテーション:少ないアノテーションデータでの領域分割
自然言語処理
- テキスト分類:新しいドメインや言語での分類
- 固有表現抽出:少ないアノテーションでの名前付きエンティティ認識
- 文章要約:特定ドメインの要約モデル構築
音声処理
- 話者認識:新しい話者の少ないサンプルでの認識
- 感情認識:新しい感情カテゴリの学習
- 音響イベント検出:稀な音響イベントの認識
医療・バイオインフォマティクス
- 希少疾患診断:症例数の少ない疾患の診断支援
- 薬物発見:新しい化合物の性質予測
- ゲノム解析:新しい遺伝子機能の予測
評価ベンチマーク
コンピュータビジョン
- Omniglot:1623種類の文字データセット
- miniImageNet:ImageNetのサブセット
- tieredImageNet:階層構造を持つデータセット
- CIFAR-FS:CIFAR-100ベースのFew-shotベンチマーク
自然言語処理
- FewRel:関係抽出タスク
- FewGLUE:GLUEタスクのFew-shot版
- SNIPS:意図認識タスク
最新の研究動向
Large Language ModelとFew-shot学習
GPT-3やGPT-4などの大規模言語モデルは、コンテキスト内でのFew-shot学習が可能で、文脈で例を示すだけで新しいタスクを学習できます。
マルチモーダルFew-shot学習
テキスト、画像、音声など複数のモーダリティを統合したFew-shot学習手法の研究が進んでいます。
ドメイン適応
異なるドメイン間でのFew-shot学習を実現するためのドメイン適応手法の研究が活発です。
課題と限界
データの品質依存
少ないデータでの学習のため、データの品質や代表性が特に重要で、バイアスの影響を受けやすいです。
ドメインギャップ
訓練時のドメインとテスト時のドメインの違いが大きい場合、性能が大幅に低下する可能性があります。
計算コスト
メタ学習やニューラルアーキテクチャサーチなどの手法は、大量の計算リソースを必要とします。
将来の展望
Few-shot学習は、ラベル付きデータの作成コストが高い現実的な問題を解決する重要な技術です。今後、Foundation Modelやマルチモーダル学習との組み合わせにより、さらに実用的で効率的な技術へと発展し、AIの民主化と実用化を加速することが期待されています。
2025-2026年の最新動向
LLMのIn-context Learning(コンテキスト内学習)により、ファインチューニング不要でFew-shotタスク適応が実現。マルチモーダルFew-shot(画像+テキスト)も進展しています。
プロンプトによるFew-shot学習の例
大規模言語モデル(LLM)では、追加学習をせずにプロンプト内に例を示すだけでFew-shot学習を実現できます(In-context Learning)。以下はテキスト分類タスクの例です。
入力: "商品がとても気に入りました!" → 感情: ポジティブ
入力: "対応が遅くてがっかりしました" → 感情: ネガティブ
入力: "特に良くも悪くもない普通の商品です" → 感情: 中立
入力: "配送が早くて助かりました" → 感情:
上記のように2〜3個の入出力例(ショット)をプロンプトに含めるだけで、モデルは新しい入力に対するパターンを推測できます。例の数を増やすほど(2-shot、3-shotなど)精度が向上する傾向がありますが、プロンプトが長くなりトークンコストも増加するため、実務ではショット数と精度・コストのバランスを検証します。
メリット・デメリット
メリット
- ラベル付きデータの収集・アノテーションコストを大幅に削減できる
- 希少疾患や新製品など、そもそも十分なデータが存在しない領域にも適用できる
- LLMのIn-context Learningを使えば、モデルの再学習なしにプロンプトの変更だけで新タスクに対応できる
デメリット
- 与える例(ショット)の質やバイアスに結果が大きく左右される
- 訓練時と実運用時でデータの傾向が異なる「ドメインギャップ」に弱い
- メタ学習ベースの手法は事前の学習・検証に相応の計算コストがかかる
- ゼロショットに比べると、プロンプトに例を含める分だけ入力トークン数(コスト)が増える
Zero-shot学習・ファインチューニングとの違い
| 比較項目 | Zero-shot学習 | Few-shot学習 | ファインチューニング |
|---|---|---|---|
| 必要なラベル付き例 | 0個 | 数個〜数十個 | 数百〜数万件以上 |
| モデルの重み更新 | なし | なし(In-context Learningの場合) | あり(追加学習を実施) |
| 精度の傾向 | タスクによってばらつきが大きい | Zero-shotより安定 | 一般に最も高精度 |
| 導入コスト・速度 | 即座に利用可能 | プロンプト調整のみで即座に利用可能 | 学習用データ準備・計算リソースが必要 |
| 適した場面 | 試作・簡易分類 | データが少量しかない業務タスク | 大量データがあり高精度が求められる本番運用 |
実務での活用シーン・導入時の注意点
- カスタマーサポートの意図分類:新しい問い合わせカテゴリが追加された際に、数件の例文だけでLLMのプロンプトを更新して対応できます。
- 製造業の外観検査:新しい不良パターンが見つかった直後でも、少数の画像サンプルで検出モデルを素早く適応させられます。
- 多言語対応:翻訳データが少ない言語ペアでも、少量の対訳例を示すことで実用的な翻訳品質を得られる場合があります。
- 導入時の注意点:与える例の代表性(クラスの偏りがないか)を必ず確認し、本番投入前にFew-shotの結果をファインチューニング済みモデルや人手評価と比較検証することが重要です。
関連用語
外部リンク
よくある質問(FAQ)
Q. Few-shot学習とは?
少量のラベル付きデータだけで新タスクに適応する手法です。データ収集コストが高い領域で特に有効です。
Q. 2025-2026年の最新動向は?
LLMのIn-context Learning、マルチモーダルFew-shot、Meta-Learningの進展が主要トレンドです。
Q. Few-shotとZero-shotはどちらを使うべきですか?
まずZero-shotで試し、精度が不十分な場合に数個の例を追加してFew-shotに切り替える、という段階的な進め方が実務では一般的です。
Q. 何ショット(例の数)が最適ですか?
タスクやモデルによって異なりますが、2〜5ショット程度から始め、精度とプロンプトの長さ(コスト)を見ながら調整するのが一般的です。
Q. Few-shot学習とファインチューニングを併用できますか?
可能です。少量データでファインチューニングした後、さらにFew-shotプロンプトで補強する、といったハイブリッドな運用も行われています。
