當 AI 錯得煞有介事，教室該如何因應

一名國中生在製作歷史發表資料時，向聊天機器人詢問韓國朝鮮時代某位人物的生平。AI 毫不遲疑地端出一份流暢的年表，但其中有一半是實際上並不存在的事件。問題在於，那些虛構的內容太過自然，學生和老師都難以一眼識破。更甚者，AI 還煞有介事地附上了根本不存在的書名，宣稱那是年表的依據。AI 的幻覺，是它不說「我不知道」，而是「編造得煞有介事」的現象，即使技術再進步也不會完全消失。

AI 為何會自信地答錯

生成式 AI 並不是在檢索事實，而是統計上把可能接在後面的字詞串接起來。因此它會生出看似合理卻錯誤的句子。因為在人會說「這我不太清楚」而停下來的地方，AI 為了讓句子自然地接續下去，會把空白編造出來。

• 沒有出處的自信：AI 不會標示自己有多確定，所有答案都用同樣的語氣說出口。
• 填補空隙：它不會把不知道的部分留白，而是用假資訊填滿。
• 不存在的引用：它甚至會捏造出實際上並不存在的論文或書名。

必須最先教給學生的，就是流暢的句子和正確的事實完全是兩回事。

濾掉幻覺的課堂習慣

防止錯誤答案最好的方法，是養成「不盲信 AI 的習慣」。懷疑不是負面的態度，而是處理資訊最基本的禮貌。

1. 交叉確認規則：AI 的回答一定要與課本或官方網站等至少一處來源對照。
2. 要求出處：反問「請告訴我作為依據的資料標題與出處」，並搜尋那個出處是否真的存在。
3. 找錯活動：透過刻意在 AI 回答中找出錯誤之處的活動，培養批判的眼光。
4. 承認不知道的權利：事先要求「如果不確定，就回答不知道」，減少牽強的臆測。

善用 AI 的學生，不是能快速拿到答案的學生，而是懂得懷疑那個答案的學生。

尤其像數值、日期、引用、人名這類「只要錯一個字就會釀成大錯的資訊」一定要由人來查證，請先訂好這樣的規則。因為發表資料或報告中只要有一項統計出錯，整篇文章的可信度就會崩塌。

重點整理

AI 幻覺不是單純的瑕疵，而是技術本質上的限制。因此因應之道不該是「尋找完美的 AI」，而該是「培養會查證的使用者」。第一，教學生區分流暢與正確。第二，養成把所有答案交叉確認的習慣。第三，數值與引用由人親自確認。知道 AI 可能出錯的學生，既不會害怕 AI，也不會盲信 AI。 那份取得平衡的態度，正是 AI 時代的核心能力。建議就從今天課堂上一個小小的找錯活動，踏出第一步。