AIを使って情報整理したら、実在しない制度が記事に混ざった話｜一次情報を102件確認して修正した

生成AIを使うと、Webサイトの記事作成や情報整理はかなり速くなります。

うにラボでも、運営している「ABCクッキング攻略ノート」の開発やコンテンツ整理にAIを使っています。

ただ、あるとき既存ページを確認していて、こんな記載が入っていることに気づきました。

「1,100円で6か月延長できる」

ABCクッキングの受講期限について説明しているページに、この制度がある前提でかなり具体的な説明まで書かれていました。

• 1,100円で6か月延長できる
• 1か月あたり約183円
• 解約する可能性があるなら有料延長がおすすめ

といった内容です。

文章として読むと、かなり自然です。

問題は、その制度が公式情報で確認できなかったことでした。

自然な文章だったので、間違いに気づきにくかった

明らかにおかしな文章なら、すぐに疑えます。

今回やっかいだったのは、

「1,100円で6か月」

という数字が妙に具体的だったことです。

金額も期間も明示されていて、その制度を前提にメリット・デメリットまで整理されていました。

そのため、ページだけを見ると、

「そういう制度があるんだろう」

と受け入れてしまいやすい状態でした。

生成AIを使うときによく言われる「もっともらしい間違い」が、コンテンツ運営では特に危険だと感じたケースです。

公式FAQを取得して確認することにした

「本当にこの制度はあるのか？」

を確認するため、ABCクッキングの公式FAQを調べました。

このときは、関連しそうなページを数件見るだけではなく、FAQの情報をまとめて取得しました。

最終的に確認用として保存したFAQは102件です。

その中から、

• 有効期限
• 延長
• 解約
• 返金
• 手数料

などに関係する情報を確認しました。

そこで分かったのが、

「1,100円で6か月延長」という制度を裏付ける公式FAQが見つからない

ということでした。

一方で、公式情報として確認できたのは別の制度でした。

実際に確認できたのは「無料で2年間延長」

確認できた制度は、Webから申請する「通学期限延長サービス」です。

こちらは無料で、受講期限を2年間延長できる仕組みでした。

ただし重要な条件があります。

延長サービスを利用すると、その後は途中解約や未受講分の返金ができなくなります。

つまり、記事でユーザーへ提示すべき選択肢は、

1. 無料で2年間延長して通い続ける
2. 延長を申請せず、解約して未受講分の返金を受ける

でした。

それまで書いていた、

1. 1,100円払って6か月だけ延長する

という選択肢は削除しました。

1,100円という数字自体は別の場所に存在していた

さらに確認すると、1,100円という数字そのものが完全な架空だったわけではありませんでした。

解約時の事務手数料として、

未受講のみの場合は1,100円

というケースがあります。

一方、すでに受講を開始している場合の事務手数料は6,600円です。

つまり、

「1,100円」

という実在する数字と、

「期限延長」

という別の制度が、どこかで結びついてしまった可能性があります。

こういう間違いは厄介です。

完全に存在しない数字を出すよりも、

実在する情報の一部を、別の制度へ誤って結びつけた方がもっともらしく見える

からです。

間違った記述は部分修正ではなく、ページ構成ごと直した

今回は「1,100円」という文字だけを削除して終わりにはしませんでした。

ページ自体がその制度を前提に構成されていたからです。

たとえば、

「期限切れ前にできる3つの選択肢」

として、

• 1,100円で6か月延長
• 無料で2年間延長
• 解約して返金

という比較をしていました。

さらに、

「1,100円延長のコストパフォーマンス」

として、

1,100円 ÷ 6 ≒ 183

という計算まで掲載していました。

元となる制度が存在しない以上、周辺の説明もすべて成立しません。

そこで、

「無料で2年間延長する」か「解約・返金する」か

という2択にページ全体を組み直しました。

AIの文章をレビューするだけでは防げない

このケースで特に感じたのは、

文章レビューだけでは間違いを見つけられない

ということです。

文章としては自然でした。

計算も、

1,100 ÷ 6 ≒ 183

なので合っています。

比較表も論理的です。

でも、前提となる制度そのものが間違っていました。

つまり、

• 日本語がおかしくないか
• 話の辻褄が合っているか
• 計算が正しいか

だけを確認しても不十分です。

必要なのは、

「その前提となる事実はどこに書いてあるのか」

という確認でした。

AIを情報源として扱わない

この失敗以降、料金や制度については、

AIの回答そのものを情報源として採用しない

という考え方を強くしています。

AIは、

• 情報の整理
• 比較
• 文章化
• コード作成
• 確認箇所の洗い出し

には非常に便利です。

ただし、

「この料金はいくらか」

「この制度は存在するか」

「この条件で利用できるか」

という事実については、一次情報へ戻って確認します。

今回なら、最終的な根拠はAIの回答ではなく公式FAQです。

「出典をつけて」と頼むだけでも不十分

AIへ、

「公式情報を確認して」

「出典付きで答えて」

と頼めば安全になるようにも思えます。

ただ、それだけを運用ルールにするのは危険です。

URLが提示されたとしても、

• 本当にそのページに書かれているか
• 別の制度の説明ではないか
• 古い情報ではないか
• 条件部分を落としていないか

まで確認する必要があります。

特に料金や契約条件は、少し条件が違うだけで意味が大きく変わります。

そのため、ABCクッキング攻略ノートでは、重要な数字や制度ほど元データや公式情報へ戻れる状態を作るようにしています。

料金データの一元管理だけでも不十分だった

前の記事では、料金を pricing_master.json にまとめ、サイト内で同じ数字を複数管理しないようにした話を書きました。

一元管理すると、

「料金一覧とシミュレーターで数字が違う」

という問題は防ぎやすくなります。

ただし今回の件で、

一元管理された数字自体が間違っていたら意味がない

という別の問題もはっきりしました。

データ管理には少なくとも2段階あります。

まず、

情報源が正しいこと。

そのうえで、

確認した情報をサイト内で一貫して管理すること。

どちらかだけでは足りません。

AIを使わない、という結論ではない

今回の失敗があっても、AIを使うのをやめるつもりはありません。

むしろ、サイト開発ではかなり積極的に使っています。

ただ、

AIに何を任せて、何を人間側で確認するか

を分ける必要があります。

現在は、ざっくり次のように考えています。

AIに任せやすいもの：

• コードのたたき台
• データ整理
• 比較案の作成
• 記事構成
• 修正箇所の洗い出し

一次情報を確認するもの：

• 料金
• 割引条件
• 契約条件
• 有効期限
• キャンペーン条件
• 解約・返金条件

特に、ユーザーがお金を払うかどうかの判断に使う情報は、AIだけで確定させないようにしています。

AI時代のコンテンツ運営では「検証できる状態」を作る

生成AIを使えば、ページを作るスピードは大きく上げられます。

でも、速く作れるということは、

間違った情報も速く大量に公開できる

ということでもあります。

だから重要なのは、

「AIを使ったかどうか」

よりも、

あとから根拠を確認できる仕組みになっているか

と思っています。

今回のABCクッキング攻略ノートでは、実在しない「1,100円で6か月延長」という情報がページに入っていました。

公式FAQをまとめて確認したことでそれを発見し、ページ構成まで修正しました。

AIは便利ですが、事実確認の最終地点にはしない。

実際にサイトを運営する中で、そのルールが必要だと分かった事例でした。