7 min read
あなたは自分の靴修理店のために、革ブーツのお手入れについての短いブログ記事をChatGPTに書いてもらいます。返ってきた文章は洗練されていて自信に満ち、すっきりした統計まで入っています。「2023年の業界調査によると、ブーツの損傷の68%は不適切な乾燥が原因です。」とても良さそうです。あやうく公開ボタンを押しそうになります。そのとき、小さな声がささやきます。「どの調査？」
その調査は存在しない可能性が十分にあります。AIツールが、もっともらしいけれど実はでっち上げのことを述べる現象をAIのハルシネーションと呼びます。これを見抜けるようになることは、小さなビジネスのオーナーが身につけられる最も価値のあるスキルのひとつです。うれしいことに、技術的な知識はいりません。この初心者ガイドでは、ハルシネーションとは何か、なぜ起きるのか、どこで実害につながるのか、そしてそれを捕まえるための5分でできるシンプルな習慣を説明します。
AIのハルシネーションとは、そもそも何か
AIのハルシネーションとは、事実として示されているのに、実際には誤っている、あるいは作り話である回答のことです。偽の統計、誰も言っていない引用、書かれたことのない本、AIが言うような内容ではない法律、存在しない製品機能などがあり得ます。厄介なのは、ハルシネーションが正しい回答とまったく同じに見えることです。同じ自信のある口調、同じ整った書式です。
この用語は業界全体で広く使われています。背景を知りたい方には、AIのハルシネーションに関するWikipediaの項目がわかりやすい概要です。定義を暗記する必要はありません。覚えておくのはこれだけです。AIの回答は、流暢でありながら間違っていることがある。
AIツールが作り話をする理由
ChatGPT、Claude、Geminiのようなチャットツールは、大規模言語モデルと呼ばれるものの上で動いています。これは、膨大な量の文章で学習し、次に来る言葉を予測するソフトウェアの技術的な呼び名です。正しく聞こえる文章を作るのは非常に得意です。ただし、ウェブを検索している場合や、あなたが渡した文書を読んでいる場合を除き、信頼できるデータベースで事実を調べているわけではありません。
OpenAIは、言語モデルがハルシネーションを起こす理由についての記事で、その理由の一部を説明しています。これらのモデルの学習や評価のやり方は、正直な「わかりません」よりも、自信のある推測を高く評価しがちなのです。そのため、モデルは確かな答えを持っていないとき、もっともらしい内容で空白を埋めてしまうことがよくあります。
新しいモデルは古いモデルよりもハルシネーションが少なく、ウェブを検索するツールや、あなた自身の文書をもとに作業するツールはより根拠に基づいています。それでも、ハルシネーションと無縁の現行AIツールはありません。この状況はしばらく続くでしょう。
小さなビジネスにとってハルシネーションが最も危険な場面
ブレインストーミング中のでっち上げの事実は、何の損にもなりません。しかし、でっち上げの事実がお客様に届けば、お金と信頼を失いかねません。危険地帯は次のとおりです。
- ブログ記事、広告、販売ページの数字や統計。
- 返金条件、配送日数、保証範囲など、お客様への返信に含まれる規定や約束。
- 自信満々の誤答のせいで、本当に必要な手続きを見落としかねない法律、税金、許認可に関する質問。
- 特に最近リリースされたものについての、価格、機能、互換性といった製品やツールの詳細。
- 本物の記事のように見える偽の出典を含む、人名、引用、出典。
2つ目のカテゴリーには、よく知られた実例があります。2024年、カナダの審判所は、エア・カナダのウェブサイトのチャットボットが旅行者に忌引運賃について誤った情報を伝えた件で、同社に不利な判断を下し、航空会社はチャットボットの発言に責任を負うとされました。この件に関するBBCの報道は一読の価値があります。ひとりで事業を営む人への教訓はシンプルです。あなたのAIがお客様に言ったことは、あなたが言ったことです。
5分でできる事実確認の習慣
AIを疑ってかかる必要はありません。危険な部分があなたの手を離れる前に捕まえる、決まった手順があればいいのです。ここでは、コンテンツ1本につき約5分でできる手順を紹介します。
ステップ1：「確認できる」主張をすべてマークする
AIの下書きを一度読み、数字、日付、人名、引用、価格、ルール、「研究によると」といった部分をすべてマークします。それ以外（口調、構成、一般的なアドバイス）はリスクの低い部分です。たいてい、確認が必要なのはほんの数文です。
ステップ2：それぞれの主張の出どころをAIに尋ねる
こう尋ねます。「回答に含まれる統計と事実に関する主張のそれぞれについて、出典とリンクを示してください。出典に自信がない場合は、そう言ってください。」優れたツールは、出典を示せないと認めることがよくあります。その告白こそ、その主張を削除するか差し替える合図です。
ステップ3：リンクを自分で開く
AIがリンクを示した場合でも、必ずクリックしてください。ページが実在し、AIが言うとおりの内容が本当に書かれているかを確認します。偽の出典や内容の食い違う出典は、最もよくあるハルシネーションのひとつです。
ステップ4：差し替える、表現を弱める、または削除する
本物の出典が見つかれば、それを使います。見つからなければ、確実に正しいと言える表現に弱めるか（「ブーツを急いで乾かしすぎる人は多い」）、削除します。あいまいでも正しい一文は、正確そうで間違った一文に必ず勝ります。
ステップ5：自分の事実を手元に置いておく
お客様への返信で起きるハルシネーションのほとんどは、AIがあなたのビジネスについて推測していることが原因です。価格、規定、営業時間、対応エリアをまとめた1ページの「事実シート」を作り、お客様向けの文章を下書きするたびに貼り付けましょう（またはAIツールの指示として保存しましょう）。AIの目の前にあなたの事実があれば、作り話をする理由はぐっと減ります。
そもそもハルシネーションを減らすための簡単な方法
- 元になる資料を渡す。記憶に頼らせるのではなく、あなたが用意した文書、ウェブページ、メモをもとに作業するようAIに頼みましょう。
- 「わかりません」と言ってよいと伝える。「確信がない場合は、推測せずにそう言ってください」といった一文を加えましょう。
- 最新の事実には検索機能付きのモードを使う。価格、新製品、最近のニュースに関することは、ウェブを検索するモードを使い、それでもリンクは確認しましょう。
- 最後の工程は人が担う。AIが下書きし、あなたが承認します。これは特にレビューへの返信、規定、そして翻訳したものすべてで重要です。AI翻訳を確認なしで公開してはいけない理由についてのガイドでも説明したとおりです。
今日の最初の一歩
すでに公開または送信した、AIが書いたコンテンツをひとつ選んでください。ブログ記事、商品説明、保存してあるお客様への返信などです。それに5分の確認をかけてみましょう。ほとんどのオーナーが、裏付けのとれない主張を少なくともひとつ見つけます。今それを直すほうが、あとでお客様に説明するよりはるかに安く済みます。
そして、それを習慣にしましょう。ハルシネーションはAIの利用をやめる理由ではありません。仕事が速く、やる気にあふれた新人アシスタントと接するように使う理由です。下書きには感謝し、事実には慎重に。AIツールが何かをでっち上げた現場を見つけたことはありますか？何を作り上げたのか、ぜひコメントで教えてください。ほかの読者が何に気をつけるべきかを知る助けになります。
