SLMとは「Small Language Models（小規模言語モデル）」の略称で、軽量な言語モデルです。比較的パラメータ数が少ない傾向にあり、モデル規模が小さいため、LLMのような幅広い汎用性には限界があります。一方で、用途や対象領域を絞って追加学習（ファインチューニング）や運用設計を行うことで、特定タスクではコスト効率よく高い性能を発揮できます。

SLMを実用化するための軽量化・最適化手法

SLMでは限られた計算資源でも性能を引き出すため、学習や推論の段階で軽量化・最適化手法（知識蒸留、量子化、プルーニングなど）が活用されます。

• 知識蒸留：大規模モデル（教師モデル）が持つ高精度な知識を、より小型なモデル（生徒モデル）に伝達する手法。回答結果だけでなく出力傾向や判断パターンも学習できる。
• 量子化：デジタル信号における数値の精度をあえて落とし、消費するメモリの削減や推論速度の向上を目指す手法。
• プルーニング：学習済みのニューラルネットワークのうち、重要度の低いパラメータを削除する手法。精度を極力維持したままモデルを簡素化し、処理速度の向上を実現する。

SLMとLLMとの違い

SLMとLLM（大規模言語モデル）は、どちらも一般にTransformer系アーキテクチャをベースにした言語モデルであり、根本的な違いは主にパラメータ数（モデル規模）です。それに伴い運用コストや自社用途への適用（追加学習・運用設計）のしやすさ、得意とする用途などに差が生じます。両者の主な違いを比較して、表にまとめました。

	SLM（小規模言語モデル）	LLM（大規模言語モデル）
パラメータ数	数億～数十億程度	数千億～数兆程度
運用コスト（計算資源）	抑えやすい	大きくなりやすい
自社用途への追加学習（ファインチューニング）に要する時間	短い（数時間〜数日程度になりやすい）	長い（モデルが大きいほど計算資源が必要になりやすい）
得意な用途	特定タスクで効率よく性能を出す	広範な汎用タスクに強い
ハルシネーション対策の設計	参照情報・禁止事項など運用設計で管理しやすい	汎用利用が多く、用途によって対策設計が複雑になりやすい

LLMはモデル規模の大きさを活かした、汎用的な処理に強みがあります。対してSLMは、用途を絞った運用設計や追加学習を前提にすると、限られた計算資源でもコスト効率よく実用性能を得やすい点が特徴です。

RAG（検索拡張生成）との関係

SLMはモデル規模が小さいぶん、LLMと比べて知識の網羅性や複雑な推論能力に限界が出やすいことがあります。そのため実運用では、モデル内部の知識だけに頼らず、外部情報を参照できる設計が重要になります。代表的な方法がRAG（検索拡張生成）です。

RAGは、外部のデータベースやドキュメントを検索し、必要な情報を回答生成に組み込むことで、最新情報や社内文書などの“知識”を補完します。

ただしRAGはあくまで知識補完の仕組みであり、推論能力そのものをLLMと同等にするものではありません。それでも、SLM＋RAGの構成は「機密データを外部に出さない」「ローカル運用しやすい」といった要件と相性が良く、オンプレミス環境での実用的な選択肢になります。

RAGの詳細については、こちらをご参照ください。
RAGとは？検索拡張生成の仕組みとLLMとの違い、活用事例をわかりやすく解説

SLMが注目される背景

SLMが注目される主な背景には、AI導入におけるコストの課題があります。

LLMは高い汎用性を誇る一方で、運用には膨大な計算リソースや高性能なインフラ設備が不可欠です。一方で、開発・運用コストを抑えられるSLMは、リソースが限られるスタートアップ企業にとっても導入のハードルが低く、経済的な合理性に優れています。

また、SLMは特定のタスク処理を強みとするため、医療や金融、法律といった高度な専門的な知識を要する分野での活用も進んでいます。

OSSにおけるSLMの活用

多くのSLMはオープンソースソフトウェア（OSS）として公開されており、そのソースコードは広く共有されています。OSSの特性により、ライセンス条件に従うことで利用・改変・再配布が可能です。そのため、世界中の開発者やコミュニティの手で日々改良が繰り返されています。

このオープンな開発体制が、OSSにおけるSLMの技術進化を加速させました。結果として、OSSのSLMは学術研究から企業のシステム開発、さらには組み込み分野に至るまで、幅広い領域で実用化が進んでいます。

OSSに関しては、こちらの記事にて詳しく解説しています。
OSS（オープンソースソフトウェア）とは？メリットと導入時の注意点

OSSの代表的なSLM事例を6つ紹介します。
※本章では、一般にSLMと呼ばれるモデルに加え、比較的軽量でオンプレミス運用が可能な中規模モデルも含めて紹介します。

• Phi-3
• Mistral 7B
• Llama-3（8B中心）
• TinyLlama
• Gemma 3
• OpenELM

それぞれ得意な分野が異なるため、目的に合わせて選ぶことが重要です。

Phi-3

• 開発元：Microsoft社
• 種類（パラメータ数）：Phi-3-mini（38億）、Phi-3-vision（42億）、Phi-3-small（70億）、Phi-3-medium（140億）
• 得意分野：コーディング、言語能力、推論、数学
• 特徴：小規模モデルでありながら高精度なため、リソースが限定される環境に向いています。

Mistral 7B

• 開発元：Mistral AI社
• 種類（パラメータ数）：7.3B（73億）
• 得意分野：汎用テキスト生成、指示追従、推論（運用・チューニング次第）
• 特徴：Apache 2.0で公開されており、商用利用を含めた採用検討がしやすい。

Llama-3

• 開発元：Meta社
• 種類（パラメータ数）：8B（80億）
  ※規模としてはLLMに近い70B（700億）も存在します。
• 得意分野：推論、自然言語処理、コーディング、テキスト生成
• 特徴：特に8Bモデルは軽量ながら、多くのベンチマークで高いスコアを記録しています。

TinyLlama

• 開発元：コミュニティ主導（Llamaアーキテクチャ互換）
• 種類（パラメータ数）：1.1B（約11億）
• 得意分野：基礎的な自然言語処理、教育・検証用途
• 特徴：Llama系アーキテクチャをベースに、SLMとしての最小構成を実現したモデル。軽量で扱いやすく、SLMの検証やオンプレミス環境での利用、RAG構成のベースモデルとして活用されています。

Gemma 3

• 開発元：Google社
• 種類（パラメータ数）：270M（2.7億）、1B（10億、Text Only）、4B（40億）、12B（120億）、27B（270億）
• 得意分野：汎用言語タスク（サイズ選択で要件に合わせやすい）
• 特徴：サイズの選択肢が広く、用途・リソースに合わせた設計がしやすい。

OpenELM

• 開発元：Apple社
• 種類（パラメータ数）：270M（2.7億）、450M（4.5億）、1.1B（11億）、3B（30億）
• 得意分野：モバイル端末上での推論
• 特徴：クラウドを介さないオンデバイス動作に特化。iPhoneやMacなどのApple製品上で、ローカルに動かすことを想定し、軽量・高効率に設計されています。

OSSのSLMを導入するメリットは、以下のとおりです。

• 開発・運用コストの削減
• 特定の用途への最適化
• 応答速度の高速化
• トレーニング時間・推論速度の短縮
• ローカル環境でも稼働が可能
• セキュリティとプライバシーの確保

それぞれ詳しく解説していきます。

開発・運用コストの削減

SLMを導入する最大のメリットは、開発および運用にかかるコストを抑えられる点です。SLMは軽量な設計のため、LLMの運用で求められるような高性能GPUや膨大な電力などを必要としません。量子化などの工夫を行えば、標準的なサーバーやPC環境でも十分に動作します。そのため初期の設備投資に加え、クラウド利用料や保守費用といったランニングコストも削減可能です。

長期的な視点では、この優れたコストパフォーマンスが企業の利益向上に直結します。リソースが限られるスタートアップ企業にとっても、予算を抑えつつ最先端のAI機能を自社サービスに組み込めるSLMは、有効な選択肢となります。

特定の用途への最適化

SLMには、特定の用途へ最適化したAIを構築しやすい、という利点があります。LLMはもともと汎用性を重視する設計であり、特定のルールや専門用語に適応するための再学習には多大なコストを要します。

対して、パラメータ数が少なく柔軟なSLMでは、少量のデータでの追加学習（ファインチューニング）が可能です。自由な改良または改変が認められているOSSとも相性がよく、自社専用のAI開発をスムーズに進められます。目的を絞ることで、特定の分野においてはSLMの精度がLLMを上回る場合も珍しくありません。

加えて、領域を限定した学習はハルシネーションの抑制にも効果的です。ハルシネーションとは、AIが事実に基づかない情報を、あたかも真実であるかのように生成する現象を指します。業務でAIを活用していくには、このような誤情報の発生リスクを低減することが重要です。

応答速度の高速化

SLMはモデルサイズが小さいため計算量が抑えられ、同等の環境であればLLMより応答が速くなりやすい傾向があります。加えて、処理件数（スループット）も確保しやすく、大量処理が必要な業務でコストや処理時間の面で有利になりやすい点も特徴です。

カスタマーサポートのチャットボットや、リアルタイムの翻訳機能など、即座に応答が求められる場面でSLMは重宝されるでしょう。スピード感が重視される現代のビジネスシーンにおいて、応答速度の高速化は顧客満足度の向上と競争力の強化につながります。

トレーニング時間・推論速度の短縮

トレーニングにかかる時間が短い点もSLMの魅力です。モデルの規模が小さい分、学習に要するデータ量や計算リソースも少なくて済みます。これにより、ソフトウェアへ新機能を追加したり、モデルを改良したりするサイクルを高速に回せます。

また推論面でも、モデルが小さいほど計算負荷が下がりやすく、限られた計算資源でも一定の応答性能を確保しやすい点が特徴です。

ローカル環境でも稼働が可能

SLMはモデルが軽量なため、サーバーだけでなくPCや一部のエッジデバイスなど、比較的小さな計算資源でもローカル実行しやすい点が特徴です。ローカルで動かせる構成であれば、外部サービスへの通信に依存しないため、ネットワーク制限のある環境や通信不安定な場所でもAI機能を利用できます。LLMも原理上はローカル実行できますが、一般に必要な計算資源が大きくなるため、運用環境の制約が増えやすくなります。

セキュリティとプライバシーの確保

企業がSLMを選択する要因のひとつとして、セキュリティとプライバシーの確保が挙げられます。クラウド型AIサービスでは、入力したプロンプトがサービス提供者側で再利用される可能性があったり、外部サーバーから情報が漏洩したりするリスクを完全には拭えません。自社サーバー内で処理が完結するSLMであれば、機密情報や顧客データを外部に送信することなくAIを活用できます。

特に厳格な機密保持が求められる医療分野や、強固なセキュリティポリシーを持つ金融機関などにとって、自社管理下で安全に運用できるSLMは有力な選択肢です。

SLMには多くのメリットがある一方で、導入にあたって注意すべき課題も存在します。

• 汎用性の制限・知識網羅性の限界
• 高品質なデータが必要
• モデル選定と用途適合性

導入後のミスマッチを防ぐため、SLMの課題について理解しておきましょう。

汎用性の制限・知識網羅性の限界

SLMの弱点は保持できる知識の量や抽象的な推論能力に限界が出やすく、汎用性に制限がある点です。パラメータ数を削減しているため、多種多様なタスクを一台でこなすLLMのような動作は難しいです。SLMはあくまで特化型の立ち位置にあり、異なる分野でAIを活用したい場合には、それぞれの領域に応じた複数のモデルを個別に用意する必要があります。ひとつのAIに広範な役割を担わせたいビジネスシーンにおいては、SLM単体での導入は不向きです。

こうした知識網羅性の限界を補完したい場合は、外部データから情報を取得するRAGとの連携や、LLMとの併用などが選択肢となります。自社が求める機能が広範な知識なのか、特定の専門性なのかを整理した上で、SLMの導入を検討してみてください。

高品質なデータが必要

SLMを実用的なレベルに育てるためには、学習させるデータの質が重要になります。膨大なパラメータを持つLLMは、大規模データで事前学習されているため一定の頑健性はありますが、学習データの品質が重要である点は変わりません。一方で、学習データが限定的なSLMでは、個々のデータの品質に性能が大きく左右されます。不正確な情報やノイズの多いデータを学習させると、回答精度が低下する点には注意が必要です。

SLMを活用するには、重複の排除や誤情報の修正といったデータクレンジング作業がLLMと比較して、より重要になります。高品質なデータの収集・選定に手間と時間がかかる点は、事前に考慮しておきましょう。

モデル選定と用途適合性

数多くのSLMが存在する中から、自社の目的に最適なモデルを選ぶこと自体が難しいという課題もあります。SLMは汎用性が低いからこそ、どのタスクにどのモデルを割り当てるか、という判断が成果を左右します。

モデルごとに得意とする処理や言語能力、回答精度は異なるため、導入時には各モデルの特性を深く理解することが重要です。あらかじめ自社が解決すべき課題を細分化し、それぞれの課題に適した性能を持つSLMを選定することが、導入後のミスマッチを防ぎます。

SLMの特徴を理解したところで、具体的な活用分野・事例を見ていきます。SLMの導入を検討している方は、ぜひ参考にしてみてください。

医療分野

医療分野では、患者の個人情報や症例など高い機密性が求められるため、ローカル環境で完結するSLMの活用が進んでいます。カルテや検査結果、医療論文を学習させたSLMによる診断支援、記録の要約や医療事務の効率化などが代表例です。プライバシーを守りながら業務負荷を軽減できる点が評価されています。

金融分野

金融分野では、厳格なセキュリティ要件と迅速な判断が求められます。SLMは市場分析、財務データの要約、リスク管理支援などに活用され、機密情報を外部に出さずに処理できる点が強みです。コストを抑えつつ高精度な分析を行える点も導入の後押しとなっています。

製造分野

製造現場では、通信遅延がなく応答が安定するSLMが活躍しています。設備データや作業記録の分析、異常検知や保全支援などに利用され、現場判断の迅速化と生産性向上に貢献しています。

その他の分野（法律・教育）

このほか、法律分野では契約書レビューや判例検索、教育分野では個別学習支援や教材生成などにSLMが活用されています。いずれも機密性や運用要件が厳しいケースが多く、参照範囲の制御やローカル運用など、要件に合わせた設計がしやすい点が評価されています。

今後より技術が進化すると、さらに少ないパラメータでLLMに匹敵する性能を持つSLMが登場するでしょう。テキストだけでなく画像や音声、動画といった異なる種類のデータを同時に理解する、マルチモーダル化の加速も予測されます。このような流れにより、OSSとSLMの組み合わせることで大規模な投資を抑えつつ、専門性の高いAIを独自所有することが、企業のスタンダードとなるかもしれません。

さらに、汎用的な知見はLLMが担い、特定の専門タスクはSLMが処理する、というハイブリッド構成の普及も見込めます。SLMとOSS、LLMといった各技術の特性を活かすことで、AIはより身近で強力なビジネスパートナーへと進化していくと考えられます。

SLMを自社で構築するためには、以下の技術要素を組み合わせる必要があります。

• モデル
• 推論エンジン
• オーケストレーション
• データベース

まずは、AIシステムの土台となる、モデル（Gemma 3、Phi-3-miniなど）の選定です。SLMは軽量である分、得意とする領域が分かれるため、用途に適したモデルを選定することが重要です。次に、そのモデルを実際に動かすための、推論エンジン（llama.cpp、Ollamaなど）を用意します。推論エンジンは、モデルを効率よく実行するための基盤であり、モデルの推論処理を高速・省メモリに行う役割を担います。

SLM構築には、複数のAIモデルやシステムを統合して連携させる、オーケストレーション（LangChain、LlamaIndex）も必要に応じて使用します。そして、所有するデータから情報を検索するための、データベース（ベクトルデータベースなど）も必要です。

SLM（小規模言語モデル）は、膨大なリソースを要して汎用的な処理を行うLLMとは対照的に、限られたパラメータで特定のタスクをこなすことに長けた言語モデルです。低コストかつ軽量で、ローカル環境でも高速に動作する利便性から、急速に注目を集めています。

特に、誰でも自由に利用・改良できるOSSとして提供されているSLMは、企業の独自データに合わせた柔軟なカスタマイズを可能にし、導入のハードルを下げています。低コストかつ高精度なAI活用へ向けて、まずは自社に最適なモデル選びから取り組んでみてください。

OpenStandiaは、野村総合研究所（NRI）が提供するオープンソースソフトウェア（OSS）利用の課題を解決する安心のワンストップサービスです。 OSS利用の課題を解決し、企業にもたらすOSSのメリットを感じていただくためのさまざまなサポート＆サービスメニューをご用意しています。

• OSSのサポート・保守・導入・運用サービス「OpenStandia」
• OpenStandia サポートOSS一覧