SLM（Small Language Model）

SLM（Small Language Model）とは

SLM（Small Language Model、小型言語モデル）は、PC上で動作するコンパクトな言語モデルです。ChatGPTなどの大規模言語モデル（LLM）と比べてパラメータ数が少なく（1B～13B程度）、Copilot+ PCのNPUにより高速実行可能です。プライバシーを保護しながら、ローカルでAI会話や文章生成が可能になります。

「SLM」という呼称は特定の規格や標準団体が定めた厳密な区分ではなく、業界内で慣用的に使われている呼び方です。目安としては、数億〜約20B（200億）パラメータ程度までのモデルを指すことが一般的で、GPT-4やGemini、Claudeのような数百B〜1兆パラメータ級のLLMとは設計思想そのものが異なります。Microsoft Researchが2023年に公開した論文「Textbooks Are All You Need」（Phi-1の発表）以降、「小さくても質の高い学習データを与えれば、大規模モデルに匹敵する性能を出せる」という考え方が広まり、SLMという呼称自体もこの流れの中で定着していきました。

AI PCの文脈では、SLMはNPUと組み合わせることで初めて実用的な速度を発揮します。SLMという「軽量なモデル」と、NPUという「専用の推論チップ」がセットになることで、クラウドのGPUサーバーを使わずにノートPC単体でチャットボットや要約、コード補完といった生成AI機能を動かせるようになりました。これがCopilot+ PCのような「AI PC」というカテゴリが生まれた技術的背景です。

SLMの仕組み（なぜ小さくても使えるのか）

SLMはLLMと同じTransformerベースのアーキテクチャを使いながら、以下のような技術によってサイズを抑えつつ実用的な精度を確保しています。

知識蒸留（Knowledge Distillation）

GPT-4クラスの大規模モデルの出力（推論結果）を教師データとして、小型モデルに模倣学習させる手法です。ゼロから大量のWebテキストを学習させるより効率よく、少ないパラメータでも高い応答品質を再現できます。

高品質データによる学習（"教科書品質"アプローチ）

Microsoft Phiシリーズが採用したことで知られる手法で、Web上の玉石混交のテキストではなく、教科書や専門書のように整理された高品質な合成データを厳選して学習させます。データの「量」より「質」を重視することで、パラメータ数が少なくても情報密度の高いモデルに仕上がります。

量子化（Quantization）

学習済みモデルの重みを32bit/16bit浮動小数点（FP32/FP16）から8bit・4bit整数（INT8/INT4）に変換し、モデルサイズを1/2〜1/4程度まで圧縮する技術です。NPUの多くはINT8/INT4の整数演算に最適化された演算ユニットを搭載しているため、量子化されたSLMほどNPU上での実行効率が高くなります。量子化の詳細は別項目を参照してください。

枝刈り（Pruning）とアーキテクチャの工夫

推論への寄与が小さいパラメータを削除する枝刈りや、Grouped Query Attention（GQA）のようにAttention機構の計算コストを抑える設計を組み合わせることで、モデルサイズと推論速度をさらに最適化しています。LLMで使われるMixture of Experts（複数の専門家モデルを切り替える方式）とは異なり、SLMの多くは全パラメータを常に使う「dense（密）」なモデルとして設計されている点も特徴です。

主要なSLM（代表的モデル一覧）

2025年時点で広く使われている代表的なSLMを、開発元・パラメータ規模・ライセンスの観点で整理すると以下の通りです。数値は各モデルのバリエーションの目安であり、随時アップデートされます。

※ 各モデルのライセンス条件（商用利用の可否、再配布条件など）はモデルごとに異なるため、実務で利用する際は必ず公式サイトで最新のライセンス文書を確認してください。

具体例・ユースケース

SLMは抽象的な概念ではなく、すでに多くのAI PC向け機能の裏側で実際に動いています。代表的な活用シーンは次の通りです。

Windows Copilot+ PCの機能

• Recall：PC操作の画面を一定間隔でスナップショットし、意味的に検索できるようインデックス化する処理をNPU上のSLMでローカル実行し、画面内容をクラウドに送信しない設計になっています。
• Live Captions（字幕生成・翻訳）：会議や動画の音声をリアルタイムで文字起こし・翻訳する機能で、ネットワーク接続なしでも動作します。
• Cocreator／Windows Studio Effects：画像生成や背景ぼかしなど、生成系タスクの一部もオンデバイスのモデルが担当します。

業務シーンでの活用

• 工場・医療機関などオフライン必須環境の問い合わせ対応：ネットワーク接続が制限された環境で、社内マニュアルや作業手順書に対するQ&Aチャットボットをローカル完結で提供する。
• コールセンターのオペレーター支援：通話内容の要約や次のアクション候補の提示を、通話データを外部送信せずにPC内で処理する。
• ソースコードの機密性が高い開発現場でのコード補完：社内の非公開コードをクラウドAPIに送らず、ローカルSLMでオートコンプリートやリファクタリング支援を行う。
• 営業・法務でのドキュメント下書き：契約書の要約や議事録の一次ドラフト作成をオフラインで完結させ、機密情報の外部流出リスクを避ける。

共通するポイントは、「常時ネットワークに繋がっていることを前提にできない」「入力データを外部に送りたくない」というシーンで、SLMがLLMの代替として実用的な選択肢になるという点です。

メリット・デメリット（注意点）

メリット

• プライバシー保護：入力内容や生成結果が外部サーバーに送信されないため、機密情報や個人情報を扱う業務でも安心して使える。
• オフライン動作：インターネット接続がない環境でも利用できる。移動中や通信制限のある現場作業でも使える。
• 低レイテンシ：クラウドとの通信往復（ラウンドトリップ）が発生しないため、応答が速い。
• ランニングコストがかからない：API従量課金やサブスクリプション費用が発生せず、一度ダウンロードすれば追加コストなしで使い続けられる。
• ファインチューニングがしやすい：パラメータ数が少ないため、自社データでの追加学習（ファインチューニング）に必要な計算資源やコストがLLMより小さくて済む。

デメリット・注意点

• 知識量・推論力に限界がある：学習データに含まれない最新情報や、専門性の高い知識については誤った回答をすることがある。
• ハルシネーション（事実と異なる出力）のリスクは残る：モデルサイズが小さくても、もっともらしい誤情報を生成する可能性はLLMと同様にゼロにはならない。重要な意思決定にそのまま使うのは避け、人による確認プロセスを組み合わせるのが定石。
• 対応言語・タスクによって精度差が大きい：英語中心に学習されたモデルは日本語の精度が相対的に落ちる場合がある。日本語での利用実績や評価を確認してから採用するのが望ましい。
• ハードウェア依存：NPUを搭載していない、あるいはTOPS性能が低い古いPCでは、実用に耐える速度が出ないことがある。
• モデルの管理・更新は自己責任：クラウドサービスと違い、モデルのバージョン管理やセキュリティパッチの適用、脆弱性対応を自社で行う必要がある。
• ライセンス確認が必須：モデルによっては商用利用に制限がある、再配布条件が異なるなど、利用規約の確認を怠るとライセンス違反になるリスクがある。

LLMとの比較

SLMとLLMは対立する技術ではなく、用途に応じて使い分ける「ハイブリッド」な運用が実務では一般的です。まずは主要な違いを一覧で確認します。

項目	SLM	LLM（ChatGPTなど）
パラメータ数	1B～14B	70B～1.7T
実行環境	PC（NPU/GPU）	クラウド（大規模GPU）
応答速度	◎ 即座（遅延なし）	○ ネットワーク遅延あり
プライバシー	◎ 完全ローカル	△ クラウド送信
精度・知識量	○ 中程度	◎ 非常に高い
コスト	◎ 無料	△ サブスク費用
オフライン動作	◎ 可能	× 不可

実務では、日常的な定型作業（要約・翻訳・コード補完など）はローカルのSLMで完結させ、高度な専門知識や最新情報が必要な場面だけクラウドのLLMを呼び出す、という「使い分け」の設計が現実的な落としどころになることが多いです。

SLMの用途

適しているタスク

• 文章要約：ドキュメントの要約生成
• コード補完：プログラミング支援
• 翻訳：基本的な翻訳タスク
• Q&A：ドメイン特化型の質問応答
• 文章校正：スペルチェック、文法修正

不向きなタスク

• 複雑な推論：多段階の論理的思考
• 広範な知識：最新ニュース、専門知識
• 長文生成：長い記事やレポート作成
• クリエイティブ作文：小説、詩など

必要なスペック（NPU・TOPS・対応チップ）

SLMを快適に動かせるかどうかは、モデルのパラメータ規模と、PCが搭載するNPUの性能（TOPS：1秒あたりに実行できる演算回数の指標）、メモリ容量のバランスで決まります。

SLMサイズ別の推奨スペック

1B～3Bモデル（超軽量）

• NPU：40 TOPS程度以上
• メモリ：8GB以上
• 例：Phi-3-mini、Llama 3.2 1B/3B、Gemma 1B

7B～8Bモデル（標準）

• NPU：45〜50 TOPS程度推奨
• メモリ：16GB以上
• 例：Phi-3-small、Llama 3 8B、Gemma 7B、Mistral 7B

13B～14Bモデル（高性能）

• NPU + GPU：NPU 50 TOPS程度 + 内蔵/外付けGPUの併用推奨
• メモリ：32GB以上
• 例：Phi-3-medium、Phi-4

対応チップの例（2025〜2026年時点）

「Copilot+ PC」として認定されるには、Microsoftが定める基準としてNPU性能40 TOPS以上、メモリ16GB以上、ストレージ256GB以上が目安とされています。主要チップベンダーのNPUは以下の通りです。

※ TOPS値は各社の公称スペックの目安であり、モデル世代やSKUによって前後します。購入前に必ず製品ページで最新の公称値を確認してください。

SLMの実行方法とツール

SLMを実際にPC上で動かす方法は、大きく「CLIツールで手軽に試す」「GUIツールで管理しながら使う」「OSの標準機能に任せる」「開発者としてAPIに組み込む」の4パターンに分かれます。

Ollama（最も手軽なCLIツール）

ターミナルからコマンド一発でSLMをダウンロード・実行できるツールです。Windows・Mac・Linuxに対応しています。

# Ollamaをインストール後、ターミナルで実行
ollama run phi4
ollama run llama3.2
ollama run gemma2

GUIで使いたい場合

• LM Studio：モデルの検索・ダウンロード・チャットをGUIで完結できる。プログラミング知識がなくても扱いやすい。

Windowsの標準機能として使う場合

• Windows AI Foundry（旧Windows Copilot Runtime）：Copilot+ PCのNPUを自動的に活用してSLMを最適実行する、Windows組み込みの基盤。アプリ開発者はこの上にSLMを利用した機能を構築できる。

開発者としてアプリに組み込む場合

• llama.cpp：C/C++で書かれた軽量な推論エンジン。GGUF形式に量子化したモデルをCPU/GPUで動かせる、コミュニティで最も広く使われる実装の一つ。
• ONNX Runtime GenAI：モデルをONNX形式に変換し、DirectML経由でNPU/GPUを活用しながらアプリに組み込むための開発者向けAPI。

AI PC選定時のポイント

これからSLMをローカルで動かすPCを選ぶ・購入する場合は、以下の観点を確認しておくと失敗が少なくなります。

• 動かしたいモデルサイズから逆算してメモリを決める：7B前後のモデルを日常的に使うなら16GB以上、13B超のモデルまで視野に入れるなら32GB以上を目安にする。
• NPUのTOPS値だけでなくCPU・GPUとの合計性能も見る：NPUは低消費電力での常時稼働タスクに強い一方、大きいモデルや高速なバッチ処理はGPU（VRAM）が有利な場合がある。
• ストレージの速度と容量：モデルファイルは数GB単位になることが多く、NVMe SSDでないとモデルの読み込みに時間がかかる。複数モデルを併用するなら512GB以上を検討する。
• Copilot+ PC認定の有無を確認する：Windows 11でOS標準のオンデバイスAI機能（Recall、Live Captionsなど）をフル活用したい場合は、Microsoftの「Copilot+ PC」認定を受けた機種かどうかを確認する。
• 量子化済みモデル（GGUF/INT4など）の活用を前提に容量を見積もる：量子化により同じモデルでも必要メモリが大きく変わるため、量子化版を使う前提であれば、より控えめなスペックのPCでも運用できる場合がある。

2025〜2026年の最新モデル動向

• Phi-4（Microsoft）：3.8Bと14Bバリアント、数学・推論能力が特に優秀と評価されている
• Gemma 3（Google, 2025年）：1B/4B/12B/27Bバリアント、多言語対応やマルチモーダル対応が強化された
• Llama 3.2（Meta）：1B/3B版で超軽量、スマートフォンでも動作する軽さが特徴
• DeepSeek-R1-Distill：推論特化型モデルの出力を蒸留して小型化したモデルで、コストパフォーマンスの高さが話題になった
• Apple Intelligence：iPhone/Mac向けにApple独自のオンデバイスモデルを搭載（モデル自体は非公開）
• Qwen2.5（Alibaba）：0.5Bから数十Bまで幅広いラインナップを提供し、コード生成タスクでの評価が高い

2025年以降の傾向として、単純な「軽さ」の追求だけでなく、数学的推論やマルチモーダル（画像・音声理解）への対応を強化したSLMが増えています。また、各モデルとも量子化済みの派生版（GGUF形式等）が同時に公開されることが一般化し、より少ないメモリで動かせる選択肢が広がっています。

まとめ

SLM（Small Language Model）は、PC上で動作する小型言語モデルで、Copilot+ PCのNPUにより高速実行可能です。ChatGPTなどのLLMと比べて知識量や推論力では劣りますが、プライバシー保護、オフライン動作、即座の応答、追加コストなしの利用が可能な点で大きなメリットがあります。2025年にはPhi-4、Gemma 3など高性能なSLMが相次いで登場し、要約・翻訳・コード補完といった定型的なビジネスタスクならSLMだけで十分こなせるケースも増えています。一方で、最新情報や専門知識が必要な場面、あるいは重要な意思決定の根拠として使う場面では、クラウドのLLMと使い分ける、または人によるチェックを組み合わせる運用が現実的です。導入を検討する際は、動かしたいモデルの規模に見合ったNPU性能・メモリを持つAI PCかどうかを、購入前に必ず確認してください。

よくある質問（FAQ）

関連用語

• オンデバイスAI - SLMが実現するローカルAI処理
• NPU - SLMを高速実行するAI専用プロセッサ
• TOPS - NPUの性能を表す指標。SLMの実行可否を左右する
• Phi（Phiシリーズ） - MicrosoftのSLMシリーズ
• 量子化 - SLMのサイズをさらに削減する最適化技術
• ONNX Runtime - SLMのローカル実行エンジン
• Qualcomm Snapdragon X - SLMを高速実行するNPU搭載チップの一つ
• Intel Core Ultra - Intel製のAI PC向けNPU搭載チップ
• AMD Ryzen AI - AMD製のAI PC向けNPU搭載チップ
• Copilot+ PC - SLMをNPUで高速実行する認定PCカテゴリ

外部リンク・参考資料

• Microsoft Phi-4（Hugging Face モデルカード） - Phi-4の技術仕様・ベンチマーク結果を確認できる公式モデルページ
• Meta Llama 公式サイト - Llamaシリーズのモデル一覧・ライセンス条件
• Google Gemma 公式サイト - Gemmaシリーズのドキュメント・利用ガイド
• Ollama 公式サイト - 主要SLMをコマンド一つでローカル実行できるツール

この用語についてもっと詳しく

SLMに関するご質問など、お気軽にお問い合わせください。