LLM の基礎から応用まで

近年、人工知能の進化が目覚ましく、その中でも特に注目を集めているのが「大規模言語モデル（LLM: Large Language Model）」です。ChatGPT、Gemini、Claude などの対話型 AI は、膨大なテキストデータを学習し、人間のような自然な文章生成や会話を可能にしています。この記事は、LLM についてほとんど知識がない初心者の方から、基本的な概念は理解しているがもう一歩先の内容を知りたい中級者の方まで、幅広い読者を対象としています。基礎概念から応用例、さらには技術的な課題や将来の展望まで段階的に解説していきます！

LLM とは

LLM は一般的に「大量のテキストデータ（コーパス）を使って学習された、多数のパラメータで構成されるディープラーニングモデル」のことを指します。ディープラーニングモデルは Transformer をベースにしたものがよく用いられており、**GPT**（Generative Pre-trained Transformer）や BERT（Bidirectional Encoder Representations from Transformers）がその代表例です。これらのモデルは自然言語処理に関する様々なタスクで優れた結果を出しており、研究者だけでなく一般ユーザからも大きな注目を集めています。

LLM の最大の特徴は、その「大規模さ」にあります。最新のモデルでは数千億から数兆のパラメータ（モデル内で学習される値）を持ち、インターネット上の膨大なテキストデータを使って訓練されています。このような規模の大きさが、従来の言語モデルでは不可能だった高度な言語理解や生成を可能にしています。

LLM の学習

BERTが登場した頃における、LLM の学習は次の 2 つのステップに大別することができます。

• 事前学習：大量のラベルなしテキストデータを用いて汎用的な言語パターンを学習するステップ。

• ファインチューニング：比較的少数のラベル付きデータを用いて目的のタスクに特化させるステップ。

これに加えて、RLHF（Reinforcement Learning from Human Feedback） と呼ばれる学習プロセスもあります。日本語では「人間のフィードバックによる強化学習」と呼ばれ、LLM を人間の価値観や好みに沿って調整することができます。これは ChatGPT の学習で使用されているためご存じの方もいるのではないでしょうか。今回の記事ではこれ以上取り上げませんが、別の記事で紹介しようと思っています。

事前学習

事前学習では、インターネット上から収集された大量のテキストデータを使って、言語の基礎的なパターンや知識を学習します。この段階では、膨大な学習データが必要となります。

この学習データには、人手を介さずに機械的に生成された正解ラベルが付与されています。このような学習方法を 自己教師あり学習（Self-supervised Learning）と呼びます。従来は人間がラベルを付与する教師あり学習が主流でしたが、ラベル付きデータの作成には膨大な人的コストがかかるという課題がありました。自己教師あり学習では機械的にラベルが付与されるため、データ作成コストを大幅に削減できます。

主な LLM では、次のようなタスクに対して事前学習を行います。

• GPT：後続単語の予測タスク
• BERT：テキスト中の穴埋めタスク

例えば GPT の場合、「日本で最も大きな都道府県は北海道」という文章を学習データにする際、「日本で最も大きな都道府県は」というテキストから「北海道」という次の単語を予測する学習を行います。このような正解ラベルの生成は非常に簡単で、数行のプログラムで実現できます。BERT の場合も同様に、「日本で最も[MASK]都道府県は北海道」というテキストから「大きな」という単語を予測する学習を行います。

事前学習は転移学習のプロセスの一部と言えます。転移学習とは「ある問題を解決する際に得た知識を蓄積し、関連する別の問題にそれを適用することに焦点を当てた機械学習の研究領域」を指します。この定義の中の「知識を蓄積する」部分が事前学習に相当します。事前学習によってパラメータが調整された言語モデルは、事前学習済み言語モデル と呼ばれます。

事前学習では膨大なパラメータを持つモデルに対して大量の学習データを用いるため、大規模な計算リソースが必要となります。なので、個人で LLM に触れるのは厳しいと思う方がいるかもしれません。しかし、事前学習済み言語モデルは Hugging Face などのプラットフォームを通じてインターネット上で公開されており、誰でも利用することができます。

ファインチューニング

私たちが実際に解決したいタスクは、事前学習で取り組む「後続単語の予測」や「穴埋めタスク」ではなく、「文書の感情分析」や「要約」、「テキスト分類」などの実用的なものです。

従来は、目的のタスクごとに専用のモデルを一から学習し直す必要がありました。しかし、この方法では新たなタスクに取り組むたびに大きな学習コストがかかってしまいます。そこで、事前学習済みの LLM を様々な自然言語処理タスクに特化させることが最近のトレンドです。事前学習済み言語モデル（ボディ）に ヘッド と呼ばれるタスク専用のニューラルネットワークを追加することで新たなモデルを作成し、特定のタスク（下流タスク）に適応させるように学習を行います。

事前学習済みモデルを特定のタスクへ特化させる方法は、Fine-tuning と Feature-based の 2 つのアプローチに分けられます。ここでの「Fine-tuning」と「Feature-based」という単語は BERT の論文での使い方を参考にしました。カタカナの「ファインチューニング」と英語の「Fine-tuning」は別のものを指していると考えて下さい。

Fine-tuning

Fine-tuning は、学習済み言語モデルを特定のタスクで教師あり学習を行うことによって修正する手法です。具体的には、特定のタスク向けの教師あり学習によって、学習済み言語モデルのパラメータの一部または全部を更新します。モデル全体をエンドツーエンドで学習するのが特徴です。

事前学習後のパラメータをボディ部分の初期値として利用し、少量のラベル付きデータを用いて各タスクに応じた教師あり学習を行います。Feature-based 手法と比較すると、Fine-tuning 手法は解の精度が高いことが多いですが、膨大なパラメータを更新する必要があるため、学習時に求められる計算リソースが大きくなるというデメリットがあります。

Feature-based

Feature-based アプローチでは、学習済み言語モデルのパラメータを一切更新せず、そのまま特徴抽出器として利用します。学習済み言語モデルを使って自然言語から特徴量を抽出し、その特徴量を新しく定義したタスク専用モデルの入力とします。

このアプローチでは、ヘッド部分のパラメータのみを学習する必要がありますが、ヘッドで用いられるパラメータ数は言語モデル本体のパラメータ数と比較するとごく少数です。そのため、学習コストを大幅に抑えることができるという利点があります。

Transformer 系のアーキテクチャ

現代の LLM の多くは Transformer アーキテクチャを採用しています。Transformer 系のアーキテクチャは、Encoder-Only、Decoder-Only、Encoder-Decoderの 3 つのタイプに大きく分類されます。それぞれのアーキテクチャが得意とする自然言語処理タスクについて説明します。

Encoder-Only

Transformer の Encoder 部分のみを利用するアーキテクチャです。Encoder は入力された時系列データの特徴を抽出します。テキストデータを扱う場合、文脈が考慮された埋め込み（埋め込みベクトル）が出力されます。

このアーキテクチャは「テキスト分類」「固有表現認識」などの自然言語理解系タスクに特に適しています。代表的なモデルには BERT や RoBERTa などがあります。

Decoder-Only

Transformer の Decoder 部分のみを利用するアーキテクチャです。Decoder はデータを生成するのに特化しており、「テキスト生成」などの生成系タスクが得意です。

現在最も注目を集めている ChatGPT や LLaMA などのモデルは、この Decoder-Only アーキテクチャを採用しています。

Encoder-Decoder

オリジナルの Transformer と同じく Encoder-Decoder の両方を使用するアーキテクチャです。時系列データを別の時系列データに変換できるという特徴があり、「機械翻訳」や「要約」などのタスクに適しています。代表的なモデルには T5 や BART などがあります。

LLM の応用例

LLM は多様な自然言語処理タスクに応用されています。主な応用例は以下の通りです：

テキスト分類

文書やテキストを事前に定義されたカテゴリに分類するタスクです。例えば、メールをスパムと非スパムに分類したり、レビューの感情分析（ポジティブ/ネガティブ）を行ったりします。

固有表現認識

テキスト中の人名、組織名、地名、日付などの固有表現を識別するタスクです。情報抽出や検索エンジンの精度向上に役立ちます。

テキスト生成

与えられた文脈や指示に基づいて、自然な文章を生成するタスクです。ChatGPT や Claude などの対話型 AI や、文章作成支援ツールなどに応用されています。

要約

長い文書やテキストを、重要な情報を保持しながら短く要約するタスクです。ニュース記事のダイジェスト作成や会議の議事録要約などに利用されています。

質問応答

自然言語で表現された質問に対して適切な回答を提供するタスクです。検索エンジンの高度化や、カスタマーサポートの自動化などに応用されています。

LLM の課題

LLM の中でも特にテキスト生成を行うモデル（生成 AI）に関連する問題点について解説します。

ハルシネーション

ハルシネーションとは、生成 AI が事実に基づかない情報を生成する現象のことです。まるで生成 AI が幻覚（Hallucination）を見ているかのようにもっともらしい嘘を出力するため、ハルシネーションと呼ばれています。

最近の生成 AI は文法や言葉遣いがとても自然になり、出力される文章の表面的な品質が向上しています。そのため、生成される回答があたかも正しいかのように思われがちで、ユーザーが真偽を判断することが難しくなっています。

この問題に対する解決策としては、生成 AI が回答と一緒に情報源（URLなど）を提示することが挙げられます。ChatGPTを含め、最近の対話型 AI ではオプションとして回答の情報源を参照できることがスタンダードになってきています。また、ユーザー側も回答を鵜呑みにするのではなく、情報源を確認して回答の信頼性を評価する姿勢が必要となります。

バイアス

生成 AI におけるバイアス問題とは、モデルが不公平な発言や特定の価値観に偏った応答をしてしまう現象を指します。生成 AI が生成する回答の内容は学習データに大きく依存するため、学習データに含まれるテキストに差別的な表現や偏った考えが含まれる場合、生成される回答にもその傾向が見られます。

この問題の解決策としては、学習データを広範囲のソースから多様に選択し、偏りのないデータセットを構築することが重要です。また、モデルのデバイアシング（バイアス除去）技術を適用することも有効です。

巨大すぎるモデルサイズ

最新の LLM は非常に巨大で、数千億から数兆のパラメータを持つため、一般的なデバイスに搭載するのは困難です。この問題を解決するためにモデル圧縮技術が研究されています。これらの技術により、モデルの性能をある程度保ちながらサイズを大幅に削減することが可能になっています。

モデル圧縮には、大きく 3 つの方法があります。

• 知識蒸留：大きなモデル（教師モデル）から小さなモデル（生徒モデル）へ知識を移転する方法
• モデル剪定：モデルの性能に寄与の少ない不要なパラメータを削除する方法
• 量子化：パラメータの精度を下げて（例：32 ビット →8 ビット）、モデルサイズを縮小する方法

今後の LLM

LLM の技術は急速に進化しており、今後もさらなる発展が期待されています。特に注目されるトピックとしては以下のようなものがあります。

マルチモーダル能力の向上

テキストだけでなく、画像、音声、動画などの異なるモダリティ（情報形式）を理解・生成できるマルチモーダル LLM の発展が進んでいます。OpenAI の GPT-4 Vision や Anthropic の Claude など、テキストと画像を同時に処理できるモデルが登場しています。これにより、単一のモデルで異なる形式の情報を統合的に解釈できるため、より直感的で多様なインタラクションが可能になりました。例えば、画像を参照しながら質問に答えたり、音声入力を元に文章生成を行うような、従来のテキスト中心の LLM では実現できなかった新しい体験が提供されています。

検索拡張生成（RAG）の進化

LLM の生成能力と外部知識ベースからの情報検索を組み合わせた RAG（Retrieval-Augmented Generation）技術の発展により、最新の情報や専門知識に基づいた正確な回答が可能になりつつあります。従来の LLM は学習時点までの知識に基づいて生成するため、最新情報の反映が困難でした。しかし、RAG はリアルタイムの情報取得を行い、生成プロセスに反映することでより正確かつ時事性の高い応答を提供します。

さらに、RAG は特定のドメイン知識へのアクセスを容易にし、エキスパートレベルの応答を可能にします。例えば、医療情報や法律に関する複雑な質問に対して、外部の信頼できるデータベースや文献をリアルタイムに参照しながら回答することで、信頼性の高い結果が得られます。このように、RAG の進化は LLM の応答精度を飛躍的に向上させ、複雑な知識が要求されるタスクにも対応できるようにします。

より小型で効率的なモデル

従来の大規模な LLM は数千億から数兆パラメータを持ち、動作させるには高性能なマシンが必要でした。しかし近年では小型化が進み、エッジデバイス上でも動作可能な LLM が開発されています。技術的な手法としては、先ほど説明した、知識蒸留（Knowledge Distillation） や モデル剪定（Model Pruning）、量子化（Quantization） などが活用されています。これにより、モデルサイズを削減しながらも精度を保つ取り組みが進んでいます。

また、小型化された LLM は IoT デバイスやスマートフォンへの搭載を可能とし、インターネット接続がない環境でも LLM を用いた処理が可能となることが期待されています。これにより、LLM がさらに日常生活に浸透し、より身近な存在となりそうです。

最後に

今回は世間で大きく注目されている LLM の概念や問題点、そして応用例をプログラミングの知識がない方でも理解しやすいように文章ベースで解説しました。次回は、そんな LLM の基礎技術である BERT や、生成モデルの代表格である GPT の内部構造や学習メカニズムについて解説します。

この記事を最後まで読んでいただきありがとうございます。次の記事でまた会いましょう！