生成AIとLLMの基本、そして実務で重要な転移学習・ファインチューニングの理解。
白峰 リリ
ChatGPTみたいな生成AIも、機械学習の一種なんだよね?
神楽 モニカ 先生
そう、生成AI(Generative AI)は『新しいコンテンツを生成するAI』。 中核はLLM(大規模言語モデル)ね。
紅林 かえで
LLMは大量のテキストで事前学習したTransformerベースのモデル。 数千億〜数兆のパラメータを持つ。 GPT・Claude・Gemini など。
藍沢 しずく
事前学習ってなぁに?
紅林 かえで
インターネット上の膨大なテキストを使って、『次の単語を予測する』タスクを学習する段階のこと。 ここで言語の一般的なパターンを覚えるのよ。
白峰 リリ
転移学習 と ファインチューニングの違いは?
神楽 モニカ 先生
転移学習は『汎用モデルを別タスクに転用する』広い概念。 ファインチューニングは『その既存モデルを少量のタスク専用データで微調整する』具体的手法。 ファインチューニングは転移学習の一種。
紅林 かえで
医療分野ではドメイン特化のファインチューニングをした医療LLM、コーディングでは Code LLM など、目的別の特化モデルが増えている。
藍沢 しずく
プロンプトエンジニアリングって何ですかぁ?
紅林 かえで
LLMに対する『指示の出し方』の工夫。 例: Zero-shot=指示のみ、Few-shot=例示つき、Chain-of-Thought=思考過程を促す指示。
白峰 リリ
RAGってのもあるよね?
神楽 モニカ 先生
RAG(Retrieval-Augmented Generation)は外部知識ベースから関連情報を検索し、それをLLMに与えて回答させる仕組み。 ファインチューニングなしで知識を注入できる。
紅林 かえで
DS検定★レベルでは、『LLMはTransformerベース』『生成AIは新しいコンテンツを生成するAI』『転移学習・ファインチューニング・プロンプトエンジニアリング・RAGの定義』を押さえれば十分。
確認クイズ
RAG(Retrieval-Augmented Generation)の特徴として正しいのはどれか。
- LLM のパラメータを再学習する
- 外部知識ベースから関連情報を検索し、LLMに与えて回答させる
- 教師なし学習の一種
- 画像生成専用の手法
こたえを見る
正解: 2. 外部知識ベースから関連情報を検索し、LLMに与えて回答させる
外部知識ベースから関連情報を検索し、LLMに与えて回答させるのがRAGです。 ファインチューニングなしで最新情報や社内文書をLLMの回答に取り込めるため、企業導入で広く使われています。