報告書の作成や問い合わせ対応に時間がかかり、LLMを使ってみたいものの、どの業務から試せばよいか迷っている方は多いのではないでしょうか。
LLMを活用すると、文章の下書き、資料からの情報探し、記録の整理などを支援できます。担当者が出力を確認して使うことで、白紙から文章を作ったり、長い資料から要点を拾ったりする負担を減らしやすいです。
この記事では、LLMの活用例や導入時のポイントを解説します。業務別に「LLMへ渡す情報」「得られる出力」「人が確認すること」を整理しますので、活用方法に悩む方は参考にしてください。
LLMとは「大量のテキストデータを学習し、文章を生成する技術」のこと
LLMは「大規模言語モデル」の略で、大量のテキストデータを学習し、入力された文章や指示に応じて回答を生成するAIモデルです。質問への回答に加え、文章の作成、要約、翻訳などに使われます。
代表的なサービスにはChatGPTやGemini、Claudeなどがあり、専門的なプログラミング知識がなくても文章作成や情報整理などに利用できます。
生成AIとLLMの関係は、次のとおりです。
- 生成AI:文章・画像・音声などを作り出すAIの総称
- LLM:生成AIの一種で、主に文章を扱うAIモデル
企業では、文章の下書きや情報整理などにも役立ちます。
LLMは文書作成や問い合わせ対応などの業務に活用できる

LLMは、メールや報告書の作成、問い合わせ対応、データの分類、プログラム作成の補助などに活用できます。
ここでは、それぞれの使い方を具体的に見ていきましょう。
メール・報告書の作成、要約、翻訳
文章を扱う業務では、目的に応じて次のようにLLMを活用できます。
| 用途 | 入力する情報 | 得られる出力 | 人が確認すること |
|---|---|---|---|
| メール | 問い合わせ文・返信で伝えたい要点 | 返信案 | 回答内容・事実・表現 |
| 報告書 | 事実・作業内容のメモ | 報告書の下書き | メモにない日時・結果の混入、報告内容の適切さ |
| 要約 | 長い資料・会議記録 | 要点を整理した短い文章 | 原文との一致、重要事項の抜け |
| 翻訳 | 原文 | 別の言語の文章 | 原文との意味のずれ |
| 企画案・コピー | 目的・伝えたい内容 | 複数の候補 | 候補の比較、採否と最終表現の判断 |
白紙から文章を起こす、長文から要点を拾う、表現の候補を考えるなどの作業を支援します。
社内情報の検索・問い合わせ対応
社内と顧客への問い合わせ対応では、参照する資料と回答する相手が異なります。LLMを社内向けに活用する際は、資料探しと回答の組み立てを支援できます。
| 用途 | 入力する情報 | 得られる出力 | 人が確認すること |
|---|---|---|---|
| 社内向け | 従業員の質問・検索したマニュアルの関連箇所 | 回答案 | 根拠資料との一致 |
| 顧客向け | 問い合わせ内容・製品情報・FAQ | 返信案 | 回答内容の適切さ |
ただし、自社固有の手順や製品情報を、LLMが最初から知っているわけではありません。こうした情報を回答に反映したいときは、RAG(検索拡張生成)が役立ちます。
RAGは、質問に関係する資料を検索し、見つけた内容をLLMに渡して回答案を作る仕組みです。モデルに社内資料を追加学習させる方法とは異なります。担当者は回答案を根拠資料と照合し、資料にない内容を削除・修正します。
RAGを使った社内文書の活用方法について、詳しくはこちらの記事をご覧ください。

文章や商品データの分類・情報抽出
LLMは、商品データのカテゴリ分けや、会議記録から実施事項を取り出す作業に活用できます。
| 用途 | 入力する情報 | 得られる出力 | 人が確認すること |
|---|---|---|---|
| 分類 | 商品名・説明文・分類先の一覧 | 商品カテゴリの候補 | 説明文との一致、登録先の適切さ |
| 情報抽出 | 会議記録・実施事項の抽出指示 | 記録にある実施事項の一覧 | 各項目と元記録の一致 |
分類は振り分け作業、抽出は記録から必要箇所を探す作業を支援します。情報抽出は文章全体を短くする要約とは異なり、必要な項目を取り出す用途です。
担当者は実施事項の一覧を元の記録と一件ずつ照合し、記載のない項目を削除します。
プログラム作成・修正の補助
LLMは、コードのたたき台作りや、不具合の原因・修正案を検討する作業に活用できます。
| 用途 | 入力する情報 | 得られる出力 | 人が確認すること |
|---|---|---|---|
| 新規作成 | 実現したい処理・条件 | たたき台となるコード案 | 開発者による内容確認・動作検証 |
| 修正 | 既存コード・問題の内容 | 原因候補・修正案 | 開発者による原因の検証・修正内容の確認 |
開発者は、生成・修正したコードの内容を確認し、目的どおりに動くかテストしてから本番への反映を判断します。DX担当者は支援したい作業を整理し、開発部門との相談材料にできます。
LLM導入時は回答の正確さ・情報管理・費用を確認しよう

前章で紹介した使い方を業務に取り入れる際は、LLMの出力を誰がどの資料で確認するかを決めておきましょう。あわせて、入力できる情報の範囲や、開発・運用まで含めた費用も整理します。
ここからは、誤回答への対応、情報の扱い、費用の見積もり方を順に解説します。
誤った回答が出力されることを前提に、内容を確認する
LLMは、事実と異なる内容をもっともらしく出力することがあります。これをハルシネーションと呼びます。
ハルシネーションを防ぐには、業務で使う前に、根拠となる資料や信頼できる情報源と照合することが欠かせません。最新の情報や社内固有の情報は、更新日の分かる資料や社内マニュアルと照らし合わせて確認します。
なお、確認するのは事実の正誤だけではありません。特定の属性への決めつけや、差別的・不適切な表現が混じっていないかも見直し、必要に応じて修正しましょう。RAGを使う場合も、回答文と参照資料の一致を確認します。
入力情報と生成物の取り扱いを確認する
外部サービスに社内情報を入力する前に、有料・無料の別ではなく、利用条件とデータの保存・利用方法を確認し、社内で使えるサービスか判断します。
機密情報や個人情報を現場の独断で入力しないよう、社内で入力できる情報と利用範囲を定めることが重要です。チャットシステムでは、参照資料や問い合わせ文に紛れた不正な指示(プロンプトインジェクション)に備え、LLMが参照できる情報を利用者の権限に合わせて絞り、回答に機密情報が含まれていないか確認します。
生成した文章を社外で使う前に、既存の著作物との類似やサービスの利用条件を確認し、類似が疑われる表現は修正しましょう。
利用料だけでなく、開発・運用の負担も見込む
LLMのなかでも、既存のチャットサービスを使う場合と、社内資料や自社システムと連携する仕組みを構築する場合では、必要な費用や技術面の対応が異なります。自社の情報を使う場合は、情報システム部門と資料の整備、連携機能の開発範囲、運用中の更新担当を決めましょう。
API(システムからLLMを呼び出す仕組み)などの従量課金では、利用量によって費用が変わります。そのため、対象業務を絞って試し、予算を見積もることが欠かせません。
試験運用では、利用料に加え、開発・確認作業や研修にかかった時間を記録し、継続運用の予算に含めます。現場から改善提案を集め、運用開始後の見直しにも備える必要があります。
まとめ:LLMの活用は時間のかかる業務を1つ選んで試そう
- LLMは文章の下書き、社内情報に基づく回答案、分類・抽出、コード案の作成などで活用できる
- LLMへ渡す情報と得たい出力を決め、元資料との一致や表現の適切さを人が確認する必要がある
- 入力情報のルールを定め、利用料と開発・運用の負担を見積もることが欠かせない
まず、社内で時間がかかっている業務を1つ選び、LLMに渡せる情報、得たい出力、担当者が確認する内容を整理しましょう。その内容を現場・情報システム部門と共有すれば、試験運用の進め方を具体的に相談できます。
LLMを自社の業務に活用するには、必要な情報をどう取り込み、出力が目的に合うかをどう確かめるかの検討が必要です。
アラヤでは、生成AI・LLMを用いた社内向けAIの開発を支援しています。自社で実現したい用途や開発上の課題がある方は、こちらのページも合わせてご覧ください。


