「チャットボットを入れたけど、ぜんぜん使われていない」という話を、けっこう聞きます。
使われていないならまだましで、「的外れな回答ばかり返ってくる」「結局スタッフが手で答え直している」という状態が続いて、そのうち誰もログを見なくなる。
私がそういう案件を引き継ぐとき、たいてい同じ原因が出てきます。「何にでも答えられる汎用チャットボット」にしようとしていること、です。
汎用で作ると、何も答えられない
汎用チャットボットの限界は、使う人のことを何も知らないまま質問を受けることにあります。
たとえば、健康系のサービスを運営している事業者が「栄養の相談ができるチャットボット」を作りたいとします。汎用のAIをそのままつないで公開すると、確かに質問には答えてくれます。でも、自社のプログラムの話は何も知らない。競合他社の話も平気でする。「うちのサービスならどうすべきか」という核心に答えられない。
相談者が欲しいのは「このサービスに合った、自分ごとのアドバイス」なのに、百科事典みたいな回答が返ってくる。当然、使われなくなります。
本50冊をRAGに入れると変わること
私がある健康系サービスで作ったのは、その業種の専門書籍を大量にPDF化して、チャットボットに読み込ませた構成でした。本50冊ぶんくらいの情報量です。
RAGというのは、ざっくり言うと「質問が来たとき、事前に覚えさせた文書の中から関係ある箇所を引っ張ってきて、それをもとに答えさせる仕組み」です。人で言えば、マニュアルを手元に置きながら答えているイメージに近い。
これだけだと、実はまだ足りないことが多い。
RAGはあくまで文書を参照するだけです。「この人の状況にどう当てはめるか」という判断部分がないと、長くて的外れな回答になりやすい。私は業種に合わせてプロンプトを調整して、回答の方向性や禁じ手（「医師に相談してください」と返すべき質問の線引き等）を先に決めてから組み込みました。
AIにどう頼んだか
構築はほぼAIに日本語で頼みながら進めました。私はコードを自分でゴリゴリ書く人間ではないので、「こういうものを作りたい」を業務の言葉で渡すやり方です。
健康系のサービス向けに、問い合わせに答えるチャットボットを作りたい。
- 専門書籍をPDF化したものを大量に読み込ませて、それをもとに回答させる
- LINEで使えるようにする（利用者がLINEで質問を送ったら答えが返ってくる形）
- 答えを音声でも返せるようにしたい
- 日本語以外の質問にも対応したい
- 「この食材はどのコンビニで買えますか」のような具体的な提案もできるようにする
注意点として、「医療行為に踏み込む質問」「特定の商品名を推奨する回答」は返さないよう制御したい。回答できない質問は「専門家にご相談ください」と返させて、無理に答えさせない。
これに加えて、「答えられないことを先に決める」指示を必ず入れます。何にでも答えようとするより、できないことを明示して止めたほうが、結果的に信頼される回答になるからです。
「できないことを先に決める」が一番大事
チャットボットで一番よく起きる失敗は、答えられないのに答えようとすることです。
RAGに入っていない領域の質問が来たとき、制御が甘いと「それらしいが間違っている答え」を自信満々に返します。これが一番怖い。
士業向けの初回相談チャットボットを作ったとき、私はまずできないことのリストを先に決めました。「個別の事案への具体的な法的判断はしない」「費用や結果を断言しない」「他の事務所の評判には触れない」。これを決めてから、できることを設計した順番です。
この線引きがあると、相談者も「どこまで聞けるか」が分かる。結果として、的外れな回答が減り、問い合わせの質が上がります。
業種を絞ると何が変わるか
健康系のほかにも、教育（子どもや保護者からの相談対応）、不動産（物件の問い合わせ初動）と、業種を絞って作った経験があります。
共通して言えるのは、業種を絞ると「この質問にはここまで答えていい、ここからは人が出る」という線が引きやすくなる、ということです。
汎用で作ると、この線がどこにも引けない。何でも答えようとして、何も信用されない状態になる。
絞ったチャットボットは、範囲が狭い分だけ使い物になります。24時間受けられる、スタッフが別の仕事に集中できる、夜中の問い合わせにも同じ品質で返せる。それだけで、現場は変わります。
必要なもの
同じ方向で作ろうとした場合、用意するのはだいたいこの3つです。
- 業種に関連する情報のまとまり（専門書・社内マニュアル・過去のQ&A・サービス説明文など、PDFや文書で用意できるもの）
- チャットボットを使ってもらう入口（LINEかウェブ上のチャットが多い）
- 「ここまでは答える、ここからは人に繋ぐ」の線引きを決めた設計
高い専用ツールは要りません。それより、業種を絞り込む判断と、答えない領域を決める作業のほうが、完成後の使われ方に大きく影響します。
入れた後に詰まる場所
動かしてからが本番です。
一番よく起きるのが「情報が古くなる」問題。サービス内容が変わったのにRAGの中身を更新しないと、古い情報を自信満々に答え続けます。誰が更新するか、どのタイミングで見直すかを最初から決めておかないと、半年後に使えない状態になる。
私はチャットボットを渡すとき、必ず「更新の担当者と頻度を決めてください」と伝えます。ツールの問題ではなく、運用の問題として最初に決めておくべきことです。