AIがもっともらしく間違えるとき、教室はどう対応するか

ある中学生が歴史の発表資料を作りながら、チャットボットに朝鮮王朝時代の人物の生涯を尋ねました。AIはよどみなく、なめらかな年表を差し出しましたが、そのうちの半分は実際には存在しなかった出来事でした。問題は、その偽りがあまりに自然で、生徒も教員も一目では気づきにくかったという点です。さらにAIは、その年表の根拠だとして、実在しない書名までもっともらしく付け加えました。AIのハルシネーションは「わからない」と言う代わりに「もっともらしく作り上げる」現象であり、技術が進歩しても完全になくなることはありません。

なぜAIは自信たっぷりに間違えるのか

生成AIは事実を検索しているのではなく、次に来そうな単語を統計的につないでいます。そのため、もっともらしいけれど誤った文を作り出します。人であれば「それはよくわからない」と言って立ち止まる場面でも、AIは自然な文をつなぎ続けるために空白を作り上げてしまうからです。

• 出典のない自信: AIは確信の度合いを示さず、すべての答えを同じ調子で語ります。
• すき間埋め: わからない部分を空けておかず、偽の情報で埋めます。
• 存在しない引用: 実際にはない論文や書名を作り出すこともあります。

なめらかな文章と正確な事実はまったく別のものだという点を、生徒に何よりも先に教える必要があります。

ハルシネーションをふるい落とす授業の習慣

誤答を防ぐ最良の方法は、「AIを盲信しない習慣」を育てることです。疑うことは否定的な態度ではなく、情報を扱ううえで最も基本的な礼儀です。

1. クロスチェックの規則: AIの回答は必ず、教科書か公式サイトの一か所以上と照らし合わせます。
2. 出典の要求: 「根拠になった資料の題名と出典を教えてください」と問い返し、その出典が実在するかを検索します。
3. 誤り探しの活動: わざとAIの回答から間違っている箇所を探す活動で、批判的な視線を育てます。
4. わからないと言う権利を認める: 「確かでなければ、わからないと答えてください」とあらかじめ頼み、無理な推測を減らします。

AIをうまく活用する生徒とは、答えを速く受け取る生徒ではなく、その答えを疑うことができる生徒です。

特に数値、日付、引用、人名のように「一文字違うだけで大きな誤りになる情報」は必ず人が検証するよう、規則を決めておいてください。発表資料や報告書に入る統計が一つ誤っていれば、文章全体の信頼が崩れてしまうからです。

まとめ

AIのハルシネーションは単なる欠陥ではなく、技術の本質的な限界です。したがって対応は「完璧なAIを探すこと」ではなく「検証する利用者を育てること」でなければなりません。第一に、なめらかさと正確さを区別できるよう教えます。第二に、すべての答えをクロスチェックする習慣をつけます。第三に、数値と引用は人が自分で確認します。AIが間違えることがあると知っている生徒は、AIを恐れも盲信もしません。そのバランスの取れた態度こそが、AI時代の中核となる力です。今日の授業で、小さな誤り探しの活動一つから、その第一歩を踏み出してみてください。