Webの仕組みAI, 調べもの
AIの答えを、どこまで信じていいのか — エンジニアの使い分け方
得意なこと・間違えること・確かめ方
森啓亮

AIの答えを、どこまで信じていいのか — エンジニアの使い分け方
ChatGPTをはじめ、AIに質問して調べものをする人が急速に増えました。
私も仕事で毎日使っています。
使い込んでいる立場から、
「どこまで信じていいのか」
の現実的な線引きを書きます。
まず知っておくべき性質は、
AIは「それらしい文章を作る」ことが本業だということです。
膨大な文章を学習して、
確率的に自然な続きを生成している——ざっくり言えばそういう仕組みなので、
知らないことを聞かれても、それらしい嘘を自信満々に答えてしまうことがあります(ハルシネーションと呼ばれます)。
悪意ではなく、仕組み上の性質です。
この性質から、使い分けの軸が見えてきます。
AIが得意なのは、答えの正解が一つに定まらない仕事です。
文章の下書き、要約、アイデア出し、考えの壁打ち。
ここでは多少の不正確さが致命傷にならず、速さの恩恵が勝ります。
逆に注意が必要なのは、事実の正確さがすべての質問です。
特定の店の営業時間、法律や制度の最新の内容、金額、日付。
ここはAIが古い情報や作話を混ぜやすい領域で、鵜呑みは危険です。
確かめ方はシンプルで、
「一次情報に当たる」
に尽きます。
制度なら公式サイト、店の情報なら公式ページ。
最近のAIは回答の根拠となるリンクを示せるものも増えたので、リンク先を自分の目で確認する癖をつけるだけで、事故は大きく減ります。
事業者として、もう一つの視点も。
前に書いた通り、AIで調べる人が増えるほど、あなたの事業の「公式情報」がウェブ上に正確に書かれていることの重要性は増します。
AIに間違った紹介をされないための最善策は、公式サイトに正しい情報を明記しておくことです。


