なぜAIは「察する」が苦手なのか

AIコンサル工房のChatGPT教室での、ある日の会話をご紹介します。

会話の主は、以下の2人です。

  • 最近ChatGPTを仕事で使い始めたAさん
  • 講師

Aさん:あのー、最近ChatGPTを使い始めたんですけど、なんというか…。

 

講師:はい?どんな印象を持たれましたか?

 

Aさん:すごく優秀なんですけど、「察してよ!」って思うことも多いですね(笑)。

 

講師:(笑)ああ、それ、よく思いますよね。「全然察してくれない」というフラストレーション、きっと多くの方が感じていらっしゃいますよね。

 

Aさん:日本人って「察する」文化じゃないですか。だから余計、AIが察してくれないことが気になります。

 

講師:面白いポイントに気づかれましたね。その「察する」という行為は、現在のAIが最も不得意とすることの1つです。

 

Aさん:へえ、そうなんですね。

 

講師:はい。これは日本文化とAIの特性が交差する、とても興味深いテーマです。少し掘り下げてみましょうか。

 

Aさん:お願いします。

 

講師:まず、私たち日本人が言う「察する」って、どんな能力だと思いますか?

 

Aさん:うーん…言葉にしなくても相手の気持ちを理解したり、空気を読んだり…そういうことですよね。

 

講師:その通りです。日本文化では「以心伝心」という言葉もありますよね。言葉にしなくても心が通じ合うという。これは、狭い島国で先祖代々暮らしている結果、私たち日本人どうしの間で、共通の情報がすでにインプットされているからです。ここまではOKですか?

 

Aさん:OKです。

 

講師:いっぽう、現在のAI、特に生成AIは、基本的に「与えられた情報」をもとに動作します。ですから、情報になっていないもの…言葉にされていない意図や、文脈に隠された意味を読み取るのは、Aiにとって相当難しいタスクです。日本文化の「以心伝心」を生み出す共通の情報が、AIにはインプットされていません。

 

Aさん:なるほど。まあ、隠されたことを読み取るって、人間にだって簡単じゃないことも多いから、情報の足りないAIにそれを要求するのは酷な気もします。でも確かにChatGPTに指示するとき、細かく説明しないと望む結果が得られないことが多いです。

 

講師:それを欠点というより、AIの特性としてうまく使うといいかもしれません。人間同士なら「あうんの呼吸」で通じることでも、AIには明確に伝える必要がある。それを逆手に取って利用するんです。

 

Aさん:それって面倒くさくないですか。

 

講師:その「面倒くささ」が思わぬメリットを生むんですよ。

 

Aさん:どういうことですか?

 

講師:例えば…

講師:例えば、業務マニュアルを作る場合。人間同士だと「察してよ」で済ませてしまいがちな部分も、AIには細かく説明する必要があります。その過程で、じつは自分も曖昧に理解していた部分が明確になったり、新しい気づきが得られたりします。

 

Aさん:そうか。確かに「察する」文化って、時として情報伝達を曖昧にしてしまいますよね。

 

講師:AIと対話することで、私たちのコミュニケーションの特徴や課題にも気づけるんです。

 

Aさん:インハウスAIは少し違うんですか?

 

講師:Aさん用のインハウスAIを作ったとしましょう。そのインハウスAIは、あらかじめAさんのことやAさんのビジネスの文脈を学習していますから、ある程度の「察する」能力を持ちます。ただし、これは「察する」というより、事前学習による「適切な推測」だと考えた方が、今は良いでしょうね。

 

Aさん:つまり、けっこう察してくれるけど、人間のような察し方ではないと。

 

講師:ええ。だからこそ、インハウスAIといえども、できるだけ明確なコミュニケーションを心がけるに越したことはありません。では、より効果的にAIを活用するためのコツをお伝えしましょう。

 

Aさん:お願いします。

 

講師:AIは察しないと言いましたが、情報を与えれば察します…さっきも言ったように、事前学習による「適切な推測」という意味ですけどね。なので、情報を与えてあげてください。関連する背景情報を伝えたうえで、指示を出します。もしAIの回答が「思ったのと違う」だったら、多くの場合、それは背景情報が足りないことに原因があります。だから、背景情報を追加する。

 

Aさん:なるほど。でも、それって「察する」能力を育てているようにも聞こえますね。

 

講師:鋭い観点ですね。確かに、最近の生成AIは文脈理解力を着実に向上させています。厳密にいえば、「察する」というより、より多くのパターンを学習して適切な応答ができるようになってきているという方が正確でしょうけれど、それを「察する」と解釈してもよいかなと思います。

 

Aさん:完全な「察する」能力の獲得はまだまだ先ですか?

 

講師:それは分かりません。でも、「察する」能力が足りないからといって、必ずしもネガティブなことではありません。「察しない」からこそ新しい視点をもたらしてくれるパートナーとして付き合うのも、面白いのではないでしょうか。

 

Aさん:なるほど。

 

講師:AIの特性を理解した上で、上手に付き合っていく。それが重要です。「察してよ」というフラストレーションを感じたら、「ああ、これはAIの特性だな」と受け止めて、むしろそれを活かす方法を考える。

 

Aさん:AIならではの付き合い方があるわけですね。

 

講師:人間同士のようなコミュニケーションを期待するのではなく、AIの特性を理解した上での新しい関係性を築いていく。それが、当面のあいだ、AI活用の鍵になるのではないでしょうか。

 

Aさん:今日は目からウロコのお話をありがとうございました!

 

講師:こちらこそ、興味深いテーマについてお話できて楽しかったです。AIは日々進化していますが、その特性を理解することで、より効果的な活用が可能になります。これからも一緒に学び、成長していきましょう。