結論から言うと、AIは放っておくと、自分で読める記録がすぐそこにあっても、目の前の人間に聞く方を選ぶことがあります。HaruIroAIの社内で先日実際に起きたのは、壁打ち（考えを整理するために相談相手になってもらうこと）の最中にAIが同じ質問を繰り返し、その答えが、AIがいつでも読める顧客台帳に最初から書いてあった、という出来事でした。なぜそんなことが起きるのか、どう防げばいいのかを、この記事でお伝えします。
なお、これは社内の壁打ちで起きた出来事です。この記事には、顧客数・顧客名・契約条件などの具体的な情報は書いていません。
何が起きたか。同じ質問が繰り返され、答えは台帳にあった
HaruIroAIでは、事業の方向性を考えるとき、AIを相手に壁打ちをします。先日のその最中、AIが「顧客は何社ですか」という趣旨の質問をしてきました。一度で終わらず、社内の引き継ぎ記録では、この同じ質問は合計3回とされています。
種明かしはあっけないものでした。壁打ちの記録には、顧客数の根拠として顧客台帳——お客様の一覧を載せている管理ファイル——が参照され、質問の答えがそこに書いてあったことが残っています。台帳はAIが最初から読める場所に置いてあり、「新しい契約や解約があったら更新する」というルールまで決めてあったものです。つまり「聞かないと分からない情報」ではまったくなく、AIが自分で読めばそれで済む情報でした。
なぜAIは、読まずに聞いたのか
AIの側に立ってみると、理由は想像がつきます。目の前に、答えを知っていそうな人間がいる。ファイルを探して、開いて、読むよりも、聞いた方が速い。だからまず聞く——そんな動きに見えます。AIの中で実際に何が起きていたかまでは、記録からは分かりません。ただ、会話の中で人間が答えを口にすれば、AIがそれを前提として使うのは自然な流れです。
問題は、人間の記憶が仕事の正本ではないことです。記憶が正しければ結果は同じですが、もし記憶違いのまま答えていたら、AIは間違った数字を前提に、その先の話を組み立てていくことになります。しかもすぐそこには、更新ルール付きの台帳という、記憶よりずっと信頼できる正本があったのです。速い方ではなく、確かな方を読ませる。ここに手当てが必要でした。
人間側にも、即答できてしまう事情があった
同じ質問が繰り返された背景には、人間側の事情もあったと見ています。聞かれた側が、即答できてしまう質問だったことです。すぐ答えられる質問は、つい答えてしまう。そして答えが返ってくる限り、AIが聞くのをやめる理由もない。そういう構図です。
答える手間だけの問題なら、まだいいのです。実際にはもう少し根が深くて、3つの問題につながります。人間の記憶を正本の代わりに使ってしまうこと。口頭の答えは毎回言い方が少しずつ揺れるので、記録のような正確さがないこと。そして、せっかく作った台帳が「あるのに使われない書類」になってしまうことです。台帳は、AIに読ませるためでもあり、人間が自分の記憶を過信しないためのものでもあるはずなのに、その両方の意味を失いかけていました。
直し方。答えを言わず、場所を返す
この出来事を受けて、HaruIroAIで整理した手当ては3つです。どれも今日から真似できます。
1つ目は、記録にある質問には、答えを言わずに場所を返すことです。「それは顧客台帳に書いてあるから、そこを見て」。答えの代わりに場所を返せば、AIは人間の記憶ではなく正本を根拠に話を進められます。なお、紙のノートなど、AIから見えない場所に記録がある場合は、まずAIが読める形で渡すところからです。
2つ目は、相談を始めるときに、読む場所を最初に指定することです。壁打ちや作業を頼む冒頭で、「まずこのファイルを読んでから始めて」と渡す。新しく入った人に、口頭説明の前に、引き継ぎ資料を渡すのと同じです。
3つ目は、よく聞かれる基本情報を、1枚の記録にまとめておくことです。顧客のこと、価格のこと、取引の条件。AIや人から聞かれてから毎回口頭で答えている情報があれば、それはファイルにする候補です。あわせて「変わったら、ここを直す」という更新のルールも決めておきます。記録は、更新が止まった瞬間から古くなっていくからです。
記録を整えるという、AI以前からの基本
振り返ってみると、ここで効いたのは「記録を整えて、決めた場所に置く」という、AIが登場するずっと前からの仕事の基本でした。AIが入っても、この基本は変わりません。むしろAIは、ファイルを読むこと自体はとても得意です。読む場所を決めておけば、答えの根拠を、人間の記憶ではなく同じ正本で確認しやすくなります。
これはHaruIroAIで起きた1件の実例で、どのAIでも必ず同じことが起きる、という話ではありません。ただ、同じ日の壁打ちでは、これとは別の種類の見落としももう1つ起きていました。そちらはAIに自社の強みを書かせる前に、実物を指させるか確かめる——社内で見つけた略語の取り違えに書きました。AIの答えをどう確かめるかという意味では、サーバーは直ってるのに、まだ古いまま見える――AIが「確認しました」と言った後に起きたことも合わせて読めるはずです。
この記事を書いた人
この記事の作り方
この記事は、構成・一次記録の照合・文章化にAIを使用し、HaruIroAIの編集ルールと社内の一次記録に基づいて作成しています。顧客数などの具体的な数値は、本題と無関係なため記載していません。内容は公開前に人が最終確認しています。