社内AIチャットボットの構築方法｜作り方・RAG・費用の目安【2026年】

社内AIチャットボットとは

社内AIチャットボットとは、社員からの質問に、規程やマニュアル、過去の問い合わせの記録などをもとにAIが答える仕組みです。チャットボットは「チャット（会話）」と「ボット（ロボット）」を合わせた言葉で、文字のやり取りで自動的に応答するプログラムを指します。

社員は、ファイルの置き場所を知らなくても、ふだんの言葉で質問するだけで答えや該当する文書にたどり着けます。担当者は、同じ質問に何度も答える時間を減らし、個別の相談や本来の業務に時間を回せるようになります。

従来のチャットボットとの違い

従来のチャットボットの多くは、あらかじめ用意した質問と回答の組み合わせ（シナリオ）に沿って答えるルールベース型でした。決まった質問には確実に答えられる一方で、言い回しが少し違うだけで答えられず、用意していない質問には対応できません。

生成AIを使ったAIチャットボットは、質問の意図をくみ取り、文書の中身から答えの文を組み立てます。すべての質問と回答を前もって作らなくても、文書を読ませることで幅広い質問に答えられるのが大きな違いです。種類ごとの違いは、このあとの3つの種類で詳しく比べます。

社外向けのチャットボットとの違い

お客様向けのチャットボットは、サイトの訪問者や顧客からの問い合わせに答えるものです。社内向けは、答える相手が社員で、参照する文書に社外に出せない情報が含まれる点が違います。

本記事では、社員の質問に答える社内向けを中心に解説します。

社内AIチャットボットを作る4つの部品

社内AIチャットボットは、大きく分けて次の4つの部品でできています。

このうち、答えの質を最も大きく左右するのは3つ目の「文書と検索の仕組み」です。AIの性能よりも、正しく新しい文書を、必要な人にだけ見せられる形で用意できるかが成否を分けます。

同じ質問への対応が、担当者の時間を少しずつ奪っている

社員からの問い合わせは、1件あたりは数分で終わるものがほとんどです。ただし、件数が多く、担当者の作業がそのたびに中断されます。マニュアルが整っていても「探すより聞いたほうが早い」と考える社員は多く、答えが文書にある質問ほど担当者に集まりやすいのが実情です。

生成AIで、社内の文書から答えられるようになった

生成AIの登場で、質問と回答を1つずつ作り込まなくても、手元の規程やマニュアルをもとに答えられるようになりました。IPAの『DX動向2026』では、AIを導入・試験利用・検討している企業の用途として、「情報検索・収集・分析・レポーティング」が77.0%にのぼります（出典：IPA『DX動向2026』）。情報を探して答える使い方は、AIの用途として広く定着しつつあります。

作りたくても、AIに詳しい人が社内にいない

同じ調査では、AIの導入・運用上の課題として「専門人材が不足している」が50.1%、「生成AIの効果やリスクに関する理解が不足している」が45.8%となっています（出典：IPA『DX動向2026』）。ツールは手軽に使えるようになった一方で、どの文書を読ませ、どう権限を分け、誤った答えをどう防ぐかを決められる人が足りず、試してみたものの現場に広がらないケースもよく見られます。

情報システム部門のヘルプデスク

パスワードの再設定、VPNのつなぎ方、ソフトの申請方法、プリンターの設定など、手順が決まっている質問が多く、最初に取り組みやすい業務です。過去の問い合わせの記録が残っていれば、そのまま試験用の質問として使えます。

総務・人事・経理の規程やルールの確認

経費精算の締め切り、休暇の取り方、出張旅費の上限、各種申請書の置き場所など、規程やマニュアルに答えがある質問です。新入社員や中途入社の社員からの質問が多い時期の負担を軽くできます。

社内ナレッジの検索窓

製品の仕様、過去の提案書、業務の手順書など、あちこちに散らばった情報を探す入口としても使えます。特定のベテラン社員に質問が集まる状態をやわらげ、知識の属人化を防ぐことにもつながります。

顧客対応の回答案の作成

製品マニュアルや過去の対応記録を読ませておけば、お客様からの問い合わせへの回答案をAIが作れます。そのまま送るのではなく、担当者が確かめて直してから送る使い方にすれば、品質を保ったまま時間を短くできます。

任せにくい質問

一方で、次のような質問はAIだけに任せず、人が受ける形にしておきましょう。

「何でも答えてくれる」と受け取られると、答えられなかったときに使えない印象だけが残ります。最初に、AIに任せる質問と人が受ける質問の線を引いておくことが大切です。

メリット1：担当者の一次対応の時間が減る

答えが文書にある質問をAIが受けることで、担当者は同じ説明を繰り返す時間を減らせます。作業の中断が減るため、企画や改善など本来の仕事に集中しやすくなります。

メリット2：社員が時間を気にせず、すぐに答えを得られる

担当者の不在や営業時間に関係なく、夜間や休日、在宅勤務中でもすぐに答えが返ります。「担当者に聞くのは気が引ける」という小さな質問もしやすくなり、自分で調べて解決する社員が増えます。

メリット3：社内のナレッジが整い、答え方がそろう

チャットボットに読ませるために文書を棚卸しする過程で、古いマニュアルや、人の頭の中にしかなかった知識が整理されます。担当者によって答えが違うといったばらつきも減ります。

注意点1：AIがもっともらしい誤りを答えることがある

生成AIは、根拠がないときにも、それらしい文を作ってしまうことがあります。これをハルシネーションと呼びます。文書を根拠に答えさせる仕組み（RAG）や、根拠となる文書を答えに添える設定で減らせますが、ゼロにはできません。規程の解釈など誤りの影響が大きい質問は、根拠の文書を必ず確かめるよう社員に伝えておきましょう。

注意点2：文書の整備と更新に手間がかかる

AIが答えられるのは、読ませた文書に書いてあることまでです。文書が古いままだと、古い答えを返し続けます。導入のときだけでなく、規程の改定やルールの変更をチャットボットに反映する担当と手順を決めておく必要があります。

ルールベース型｜決めた答えを確実に返す

あらかじめ作った質問と回答の組み合わせや、選択肢をたどるシナリオに沿って答える型です。決めた内容しか返さないため、誤った答えを作る心配はありません。一方で、質問と回答を1つずつ作り、変わるたびに直す手間がかかり、想定していない質問には答えられません。

生成AI型｜幅広い質問に答えるが、自社のことは知らない

ChatGPTやClaude、Geminiなどの生成AIを、そのまま業務で使える形にした型です。文章の要約や下書き、一般的な知識の質問には強い一方で、自社の規程や手順は知りません。自社のルールを聞くと、一般論や誤った内容を答えてしまうことがあります。

RAG型｜文書を根拠に答える

質問を受けると、まず文書から関係する箇所を探し、その内容をもとに生成AIが答えを作る型です。生成AIの柔軟さと、文書に基づく正確さを両立しやすく、いま社員向けのAIチャットボットを作るときの中心になっている方式です。仕組みは次の章で説明します。

3つの種類の比較

実際には、手続きの案内はルールベース型、規程の質問はRAG型というように、組み合わせて使うこともよくあります。答えが1つに決まる質問は決めた答えを返し、文書を読み解く質問はRAGに任せると、正確さと手間のバランスを取りやすくなります。

検索してから答える流れ

RAGでは、次の順に処理が進みます。

誤った答えが減る理由

生成AIは、手元に根拠がないと、学習した一般的な知識から答えを組み立てようとします。RAGでは、答えのもとになる文書を毎回渡し、「渡した文書に書いていないことは答えない」と指示できるため、根拠のない答えが出にくくなります。根拠の文書が答えに添えられるので、社員が自分で元の文書を確かめられるのも利点です。

RAGの精度を左右する3つの点

RAGの答えの質は、次の3つでほぼ決まります。

RAGを含む生成AIの社内への広げ方は 生成AI導入支援とは｜ガイドライン・RAG・プロンプト整備の進め方 でも解説しています。

チャットボットのツール（SaaS）を導入する

社内問い合わせ向けのAIチャットボットのツールを契約し、文書を登録して使う方法です。画面や管理の機能がそろっているため、早ければ数週間で使い始められます。社内のシステムと細かくつなぎたい場合や、ツールにない機能が必要な場合は、対応できる範囲を事前に確かめる必要があります。

ふだん使っている業務ツールのAI機能を使う

Microsoft 365やGoogle Workspace、ChatGPTやClaudeの法人向けプランなどには、社内の文書やフォルダを読み込ませて答えさせる機能があります。すでに契約しているツールなら追加の費用を抑えて試せます。部署ごとの権限の分け方や、答えられなかった質問の確認など、運用の機能が足りるかを確かめましょう。

ノーコードツールで作る

プログラムを書かずに、画面の操作で生成AIと文書をつなぐツールを使う方法です。ツールに詳しい社員がいれば、小さく試すのに向いています。利用者が増えたときの権限の管理や、文書の更新の自動化まで作り込むのは難しいことがあります。

生成AIのAPIを使って自社開発する

OpenAIやAnthropic、Googleなどが提供する生成AIのAPIを使い、検索の仕組みや画面を自社で作る方法です。既存のシステムとの連携や権限の分け方を自由に作れる一方で、開発と保守ができる人材が必要です。開発を外部の会社に任せる方法もあり、その場合の費用は後の章で整理します。

4つの構築方法の比較

どの方法を選ぶかの目安

迷ったときは、次の順で考えると決めやすくなります。

最初から作り込むより、既存のツールで1つの部署から試し、足りない点がはっきりしてから開発を考えるほうが失敗が少なくなります。自社で作るか外部に任せるかの考え方は AI内製化支援とは？外注との違い、進め方・人材と選び方・費用 も参考にしてください。

目的と、何の数字で効果を測るか

「総務への問い合わせを減らしたい」「新入社員が自分で調べられるようにしたい」など、何のために入れるのかを決めます。あわせて、今の問い合わせの件数と1件あたりの対応時間を測っておくと、導入後に効果を比べられます。

最初に対象にする部署と質問の範囲

最初から全社のすべての質問に答えようとすると、読ませる文書が増え、検証も終わりません。問い合わせが多く、答えが文書にそろっている部署を1つ選び、その範囲で始めましょう。

読ませる文書の棚卸し

対象の質問に答えるための文書を集め、次の点を確かめます。

過去の問い合わせの記録やメールも、よくある質問を見つける材料になります。

置き場所

社員がふだん開いている場所に置くと使われやすくなります。TeamsやSlackなどのチャット、社内ポータルのトップなど、質問したくなったときにすぐ開ける場所を選びましょう。

運用の担当者

答えられなかった質問の確認、文書の更新、利用状況の集計を受け持つ担当者を決めます。担当者がいないと、導入した直後は使われても、答えが古くなり少しずつ使われなくなります。

準備ができているかのセルフチェック

構築を始める前に、次の8つを確かめてみましょう。当てはまらない項目が多いときは、先にその準備から始めるのがおすすめです。

構築にかかる期間の目安

既存のツールで1つの部署から始める場合は、文書の準備を含めて1〜2か月程度、既存のシステムとつなぐ開発を伴う場合は3〜6か月程度を見ておくとよいでしょう。期間を最も左右するのは、ツールの設定よりも文書の棚卸しと整備です。

試験に使う質問の作り方

試験の質問は、担当者が考えた質問だけでなく、実際に届いた問い合わせの文をそのまま使うのがおすすめです。社員は、文書の言葉ではなく自分の言葉で質問するからです。よくある質問に加えて、言い回しを変えた質問、答えが文書にない質問、見せてはいけない情報を尋ねる質問も混ぜておくと、公開後の失敗を前もって見つけられます。正しく答えるかだけでなく、答えられないときに「分からない」と返せるかも確かめておきましょう。

小さく試して本格的な導入に進むかを判断する方法は AI PoCの設計と進め方｜成功基準・合否判定・本番化の判断 で詳しく解説しています。

文書の更新をすぐに反映する

規程が改定されたのに、チャットボットが古い内容を答え続けると、信頼は一気に下がります。文書を置いているフォルダとチャットボットを自動でつなぎ、更新が自動で反映されるようにするのが理想です。手作業で反映する場合は、改定のたびにだれが反映するかを決めておきましょう。

権限と見せる範囲を分ける

人事や経営に関する文書は、だれでも見られる状態にしてはいけません。部署や役職ごとに参照できる文書を分け、元の文書の閲覧権限とチャットボットで見られる範囲が一致しているかを確かめます。

答えられないときは人に引き継ぐ

根拠となる文書が見つからないときに無理に答えさせず、「分かりません」と返したうえで担当者の窓口を案内する設定にします。引き継いだ質問と担当者の答えは、次に文書へ足す候補として記録しておきます。

効果を測る数字

導入の効果は、次のような数字で確かめます。

利用の多さだけでなく、担当者への問い合わせが実際に減ったかを、導入前と同じ測り方で比べることが大切です。

改善の回し方

月に1回ほど、答えられなかった質問と「役に立たなかった」と評価された質問を確かめ、文書を足すか直すかを決めます。よく聞かれるのに答えられない質問は、文書がないか、文書の言葉と社員の言葉が違っていることがほとんどです。

費用の内訳

構築方法ごとの費用の目安

たとえばChatGPTの法人向けプラン（Business）は、1ユーザーあたり月3,050円（2名以上・年額課金の場合）です（出典：ChatGPT 料金）。開発する場合は、つなぐシステムの数と権限の細かさで金額が大きく変わります。AIの開発全体の費用は AI開発・PoCの費用相場 で詳しく解説しています。

見落としやすい費用

見積もりに出てこない費用として、文書を整える工数があります。文書が散らばっている企業ほど、ツールの費用より準備の工数が大きくなります。APIを使う場合は、質問が増えるほど使用量の料金も増えるため、利用者数と質問数の見込みから月額を試算しておきましょう。

見積もりで確かめる5つの点

初期費用だけで比べず、文書の整備と公開後の改善まで含めた総額で比べることが大切です。AI導入全体の費用の考え方は AI導入の費用相場｜形態・工程別の目安、内訳と抑え方 もあわせてご覧ください。

AIBUILDERZに依頼する場合の費用の決まり方

参考として、AIBUILDERZでの進め方と費用の考え方を紹介します。最初に、業務の洗い出しと業務量の可視化、対象業務の選定、ツールの選定、全体研修と自己学習システムまでを行います。

システム構築は成果報酬型で、業務アプリの構築費は事前にいただかず、実際に稼働させ、効果をご確認いただいてからお支払いが始まります。

PR｜AIBUILDERZ AI導入支援サービス

PR

AIBUILDERZ｜AI導入支援サービス

システム構築は成果報酬型。AI研修から導入・構築・定着まで一気通貫で支援

AI研修からシステムの導入・構築・定着まで、一気通貫で支援するサービスです。業務アプリの構築費は事前にいただかず、実際に稼働させ、効果をご確認いただいてからお支払いが始まります。成果報酬型での対応は、当社が小規模と定義するシステムが対象です。

• 業種・規模を問わず支援どの業務からAIやシステムに置き換えるかを一緒に決め、効果の大きい業務から順に進めます。
• システム構築は成果報酬型業務アプリの構築費は事前にいただきません。稼働させ、効果をご確認いただいてからお支払いが始まります。
• AI導入の効果を可視化置き換える業務を一覧にし、導入前後の時間から、空いた時間とかからなくなった費用を毎月記録します。
• 小さく始めて、リスクを管理影響の小さい業務から始め、AIの実行結果は担当者が確認・承認してから反映します。

サービス資料をダウンロード無料診断を申し込む

チャットボットのツールを提供する会社

自社のツールの導入と初期設定を支援してもらう形です。ツールの使い方には詳しい一方で、支援はそのツールの範囲が中心になります。文書の整備や運用ルールづくりまで手伝ってもらえるかを確かめましょう。

システム開発会社

生成AIのAPIを使って、既存のシステムとつないだチャットボットを開発してもらう形です。自由に作れる一方で、要件を固めてからの発注になりやすく、公開後の改善を自社で続けられるかが課題になります。

AI導入支援の会社

どの業務を対象にするかの整理から、ツールの選定や構築、社内への定着までをまとめて支援してもらう形です。特定のツールに縛られずに方法を選べる一方で、どこまでが支援の範囲かは会社によって違います。外部に任せる範囲の考え方は AIアウトソーシングとは｜費用相場・内製/外注の使い分け・始め方 も参考になります。

依頼先を選ぶときの観点

相談のときに聞いておきたい質問

相談の場では、次のような質問をすると、依頼先ごとの違いが見えやすくなります。

見送ったほうがよい提案

「どんな質問にも正確に答えられます」と誤りの可能性に触れない提案や、文書の整備について何も聞かずに見積もりを出す提案には注意が必要です。また、文書や設定が依頼先の環境にしか残らず、契約を終えると使えなくなる形も避けたほうが安心です。

入力した情報がAIの学習に使われないか

生成AIのサービスは、プランによって入力したデータの扱いが違います。たとえばOpenAIは、ChatGPTの法人向けプラン（Business・Enterprise）とAPIでは、初期設定でデータをモデルの学習に使わないとしています（出典：OpenAI エンタープライズプライバシー）。個人向けの無料プランを業務で使わず、法人向けのプランかAPIを選ぶことが基本です。

アクセス権限とログの管理

会社のアカウントでログインした人だけが使えるようにし、部署や役職ごとに見られる文書を分けます。会話の記録をだれが見られるか、どのくらいの期間残すかも決めておきましょう。

社内ルールを決めて周知する

チャットボットに入力してよい情報と入力してはいけない情報、答えをそのまま社外に出してよいかなどを、ルールとして決めておきます。生成AIの社内ルールの作り方は 生成AIの情報漏洩対策｜原因・社内ルールのひな形・学習させない設定 で詳しく解説しています。

文書を整えずにツールだけ入れる

古い文書や食い違う文書をそのまま読ませると、答えも古く、ばらついたものになります。最初に対象を絞り、その範囲の文書を最新に整えてから公開しましょう。

生成AIをそのまま置いて、誤った答えが広がる

文書を読ませずに生成AIだけを置くと、自社のルールを聞かれたときに一般論やもっともらしい誤りを答えます。社員の質問に使うなら、RAGで文書を根拠に答えさせ、根拠の文書を答えに添えましょう。

答えられないときの引き継ぎ先がない

答えられない質問で行き止まりになると、社員は結局担当者に直接聞くようになります。答えられないときは担当者の窓口を案内し、その質問を、文書に足す候補として記録する流れを作っておきます。

公開して終わりにしてしまう

公開した直後は使われても、規程の改定が反映されず答えが古くなると、少しずつ使われなくなります。運用の担当者を決め、月に1回は答えられなかった質問と利用の数字を確かめましょう。

目的と効果の測り方を決めずに始める

何を減らすための導入かが決まっていないと、効果を説明できず、続けるかどうかの判断もできません。導入前の問い合わせ件数と対応時間を測り、同じ方法で導入後と比べましょう。

最初から全社のすべての質問に答えようとする

対象が広いほど、文書の準備と試験に時間がかかり、公開までたどり着けなくなります。1つの部署の、件数の多い質問から始め、効果を確かめてから広げるのが近道です。