AIに書かせた原稿を読み返して、「この数字、本当に合っているのか」と不安になったことはないでしょうか。AIは、資料に無い情報でも、もっともらしい文章として埋めてしまうことがあります。 これがいわゆるハルシネーションです。
原因は生成の性質そのものにあるため、書き上がった原稿を疑うだけでは足りません。書かせる段階で、事実の境界線を先に引いておく必要があります。 本記事では、誤りが起きやすい場所の見分け方と、書かせる前の準備、生成後の確認体制を扱います。
この記事で分かること：
- AI原稿で事実と異なる記述が起きやすい典型パターン
- 書かせる前に用意すべき一次資料と、プロンプトでの事実の境界線の引き方
- 生成後にどこを誰が確認するかという役割分担
事実と異なる記述が起きやすい典型パターン
すべての文章が均等に誤るわけではありません。誤りが集中しやすい場所には傾向があります。
| パターン | 具体例 | 起きやすい原稿の箇所 |
|---|---|---|
| 数字の丸めすぎ・作り込みすぎ | 「約20年」を「23年」と断定する、逆に実数を漠然とした表現に変える | 沿革、実績紹介 |
| エピソードの合成 | 似た2つの出来事を1つの話としてまとめてしまう | 創業の経緯、顧客の声 |
| 固有名詞の混同 | 部署名・役職名・商品名を似た別の名称に置き換える | 組織紹介、製品紹介 |
| 存在しない引用の創作 | 「〜と語る」という発言を、実際には無い形で作る | インタビュー調の章 |
| 一般論の断定化 | 業界でよく言われる話を、御社固有の事実であるかのように書く | 業界動向を含む導入部分 |
共通するのは、AIが「話をつなげよう」とする働きが、事実の正確さより優先されてしまうという点です。文章として自然に読めることと、内容が正しいことは別の話です。
誤りが起きやすい原稿の場所
とくに注意が必要なのは、具体性が高いのに検証が難しい箇所です。
- 社歴・沿革 … 創業年、拠点の変遷、組織改編の時期
- 実績・数値 … 売上や件数、受賞歴、導入社数
- エピソード・発言 … 「〜という出来事があった」「〜と語った」という体裁の記述
- 固有名詞 … 部署名、役職名、取引先や商品の名称
逆に、御社の考え方や方針を一般的な言葉で説明する部分は、事実誤認のリスクは相対的に低くなります。限られた確認の手間を、上記のようなリスクが高い箇所に集中させることが、効率よく精度を上げる方法です。
書かせる前に用意する一次資料
生成の精度は、渡す資料の質にほぼ比例します。書き始める前に、次のような資料を用意してください。
| 資料の種類 | 使う目的 |
|---|---|
| 年表・沿革メモ | 日付・出来事の順序を固定する |
| 実績データ（件数・数値の一覧） | 数字の作り込みを防ぐ |
| インタビューの書き起こし | 発言をそのまま引用できるようにする |
| 組織図・役職一覧 | 固有名詞の誤りを防ぐ |
| 過去の社内資料・広報物 | 既存の表現との矛盾を避ける |
資料が箇条書きやメモ書きの粗い状態でも構いません。資料に無い情報は書かせない、という前提が守られていれば、資料自体は整った文章である必要はありません。
プロンプトに入れる「事実の境界線」
資料を渡すだけでは不十分で、指示の中に事実の使い方についてのルールを明示します。次のような指示を組み込みます。
- 「渡した資料に記載のある情報だけを事実として使い、資料に無い数字・日付・固有名詞は創作しない」
- 「資料から読み取れない箇所は、断定せず『詳細は確認中』などの表現にとどめる」
- 「発言や引用は、書き起こしにある表現をもとにし、新しい発言を作らない」
こうした指示を入れても、生成物に資料外の情報が紛れ込むことはあります。指示は誤りを減らす手段であって、それだけで誤りをなくす手段ではありません。 次工程の確認とあわせて機能します。
指示は抽象的な注意書きより、資料そのものを本文中に貼り付けて「この範囲だけを根拠にする」と明示するほうが効きます。「参考資料は正確に扱ってください」のような一般的な依頼だけでは、AIは何を根拠にすべきかを判断できません。根拠にしてよい情報の範囲を、指示の中で具体的に区切ることが、境界線を引くという作業の実体です。
資料が足りない箇所への対応
資料に無い情報を無理に埋めさせないためには、「分からない場合は断定しない」という指示だけでなく、分からない場合に使ってよい書き方まで指定しておくと安定します。たとえば「詳細な時期は記録が残っていないため、社内では正確な年は分かっていません」のように、不確かさそのものを文章にする書き方です。これなら不自然に断定を避けた文章にならず、読み物としても成立します。
生成後の事実確認の工程
生成した原稿は、次の順で確認します。
- 資料との突き合わせ（編集者）… 数字・日付・固有名詞を資料と照合する
- 文章としての整合性の確認（編集者）… 章内・章間で矛盾がないかを見る
- 内容の最終確認（御社）… 社内にしかない事実の正誤、公開してよい情報かどうかを判断する
1・2は当社の編集工程で行いますが、3は御社にしか判断できません。 資料に書かれていない社内の経緯や、公開の可否に関わる判断は、御社の確認を経てから確定させています。
生成の指示文の作り方は会社の本の原稿をAIに書かせるための具体的なプロンプトの作り方とは、分割して書かせる場合の一貫性の保ち方はAIに章単位で書かせるときの分割方法｜長い原稿を破綻させないコツで扱っています。社史のように事実の密度が高い原稿についてはAIで社史・記念誌を書く｜会社の歩みを一冊にまとめる費用と進め方もあわせてご覧ください。
それでも紛れ込みやすい失敗の型
| 失敗の型 | 原因 | 対処 |
|---|---|---|
| 資料にある数字を丸めて書いてしまう | 断定を避けようとした結果、逆に不正確になる | 資料の数値をそのまま使う指示を明示する |
| 似た2つの出来事が1つに合成される | 複数の資料をまたいで要約させた | 出来事ごとに資料を分けて渡す、または合成しないよう指示する |
| 確認中の情報が断定形で残る | 「確認中」の表現がその後の編集で消えてしまう | 確認中の箇所を編集者間で引き継ぐチェックリストを作る |
| 資料の古い版を参照してしまう | 更新前の実績データがそのまま渡っていた | 生成に使う資料は最新版だけを渡し、旧版は共有フォルダから外す |
数字は最新版でも、社内で更新のタイミングがずれていることがあります。生成の直前に、渡す資料が最新かどうかを一言確認するだけで防げる失敗なので、着手前のチェック項目に加えておくとよいでしょう。資料を渡す担当者と生成する担当者が別の場合は、この確認をどちらが行うかも決めておいてください。
当社が引き受ける範囲と御社にお願いすること
当社では、資料に基づいた生成と、編集者による資料との突き合わせまでを編集工程に含めています。御社にお願いするのは、社内資料の提供と、生成後の内容についての最終確認です。
資料が薄い箇所を「もっともらしく」埋めることはせず、確認中として残すという方針で進めています。事実確認にかかる時間は原稿の分量や資料の整い具合によって変わるため、着手前のヒアリングで見込みをすり合わせています。
まとめ
- AIは資料に無い情報も自然な文章として埋めてしまうことがあり、これが事実誤認の主な原因です。
- 誤りは社歴・実績・エピソード・固有名詞など、具体性が高く検証しにくい箇所に集中します。
- 書かせる前に年表・実績データ・書き起こしなどの一次資料を用意し、資料外の創作を禁じる指示を入れます。
- 生成後は、編集者による資料との突き合わせと、御社による内容の最終確認を分けて行います。
- 指示や確認の工程は誤りを減らす手段であり、確認そのものを省略することはできません。
事実確認の体制も含めて、御社の資料の状況に合わせてご相談いただけます。