AIの答えを、どこまで信じていいのか — エンジニアの使い分け方

AIの答えを、どこまで信じていいのか — エンジニアの使い分け方 ChatGPTをはじめ、AIに質問して調べものをする人が急速に増えました。 私も仕事で毎日使っています。 使い込んでいる立場から、 「どこまで信じていいのか」 の現実的な線引きを書きます。 まず知っておくべき性質は、 AIは「それらしい文章を作る」ことが本業だということです。 膨大な文章を学習して、 確率的に自然な続きを生成している——ざっくり言えばそういう仕組みなので、 知らないことを聞かれても、それらしい嘘を自信満々に答えてしまうことがあります（ハルシネーションと呼ばれます）。 悪意ではなく、仕組み上の性質です。 この性質から、使い分けの軸が見えてきます。 AIが得意なのは、答えの正解が一つに定まらない仕事です。 文章の下書き、要約、アイデア出し、考えの壁打ち。 ここでは多少の不正確さが致命傷にならず、速さの恩恵が勝ります。 逆に注意が必要なのは、事実の正確さがすべての質問です。 特定の店の営業時間、法律や制度の最新の内容、金額、日付。 ここはAIが古い情報や作話を混ぜやすい領域で、鵜呑みは危険です。 確かめ方はシンプルで、 「一次情報に当たる」 に尽きます。 制度なら公式サイト、店の情報なら公式ページ。 最近のAIは回答の根拠となるリンクを示せるものも増えたので、リンク先を自分の目で確認する癖をつけるだけで、事故は大きく減ります。 事業者として、もう一つの視点も。 前に書いた通り、AIで調べる人が増えるほど、あなたの事業の「公式情報」がウェブ上に正確に書かれていることの重要性は増します。 AIに間違った紹介をされないための最善策は、公式サイトに正しい情報を明記しておくことです。