Flipsson教育科技
AI 伦理

绝对不能写进 AI 提示词的信息清单

向 AI 抛出提问的那一刻,输入的内容就流向了外部。本文整理了学生和老师不能写进提示词的信息。

绝对不能写进 AI 提示词的信息清单 缩略图

急着想把学生生活记录簿(韩国学校的学生学籍档案)的草稿快点润色好,老师就把原样带着学生实名和家庭状况的文字整段粘进了聊天机器人。结果虽然令人满意,可就在那一刻,一名学生敏感的私生活流进了外部服务器。一旦输入的内容无法收回,也很难知道它被存到了哪里。写进提示词的所有内容,都必须是"给别人看也没关系的信息"。 必须为不该写什么划出清晰的界线。

不能写进去的信息清单

以下信息,为了任何便利都不写进提示词。把这份清单贴在书桌一角,忙乱的时候也能防止失误。

  • 个人身份信息:学生实名、居民登录号(韩国身份证号)、住址、电话号码、照片。
  • 敏感信息:健康与残障、家庭境况、宗教、校园暴力记录等。
  • 他人的信息:对同事老师或其他学生的评价或私事。
  • 安全与机密:考试题目、密码、学校内部文件。

尤其要记住,生活记录簿、咨询记录、校园暴力相关内容,其本身就是高度敏感的信息。

安全使用的迂回办法

即便把信息遮住,也照样能充分借助 AI 的帮助。关键是把"内容"和"框架"分开。框架交给 AI,敏感内容只在学校内部填写。

  1. 化名处理:"学生 A……"这样,把姓名换成代号再输入。
  2. 一般化:不给具体案例,只传达情境,比如"一名认真但怕上台发言的学生"。
  3. 只索取框架:不带任何个别内容,直接问"帮我做一个写这类文章的模板就好"。
  4. 事后拼合:从 AI 那里拿到空白框架后,真实的学生信息只在学校内部文件中填入。

即便不知道学生的信息,AI 照样能把文章的框架做得很出色。

对学生也要一样地教。不把自己的名字、朋友的信息、家庭住址写进聊天机器人,这是网络安全的基本功。学生年纪越小,用"写在这里的内容,可能会被不认识的大人看到哦"这样的比喻来说明,就越容易理解。

核心要点

提示词管理的原则很简单:"在陌生人面前不能大声念出来的内容,就不要输入。"第一,个人身份信息、敏感信息、他人信息、机密都不写进去。第二,用化名、一般化、只要框架、事后拼合来迂回。第三,也把输入安全守则教给学生。被便利牵着写下的一行字,可能让一个人的私生活陷入危险。 在发送提问之前,养成"这个写进去没问题吗"停下来想一次的习惯,就能保护所有人。越忙的时候,这一口气越难喘,但那短短的一次停顿,能同时守住一名学生的私生活和老师自己的责任。输入之前再回想一遍不该写进去的信息清单——这就是 AI 时代老师最基本的安全守则。

登录后参与互动
评论 0

来发表第一条评论吧。

同一主题 · AI 伦理
推荐文章