结论
能把风险压到很低,但要三层一起做,上线后还要抽查日志:提示词约束、知识库约束、输出过滤。只靠提示词是不够的,模型偶尔会「好心」安慰学员,说出不该说的话。
怎么判断
第一层,提示词。明确写:不对考试结果、录取、拿证做任何担保;不替学员报名;遇到个人具体情况引导转人工。
第二层,知识库。让 AI 先在你们整理好的常见问题和政策说明里检索,只依据检索到的内容回答并附上出处;检索不到就明说没有依据,引导留言或转人工。这样能大大压缩它「自由发挥」的空间。
第三层,输出过滤。回复发给学员之前,再用红线词表和规则扫一遍,承诺结果的词、「保证 + 通过」这类组合,命中就改写或拦下,并记日志供你们复查。否定句(例如「不能保证通过」)要放过,否则正常的提醒也会被拦。
注意事项
面板上要标明是 AI 接待(《人工智能生成合成内容标识办法》要求对这类交互添加显著的提示标识),并提示回答仅供参考。晚上没人值守时,转人工改为留言表单,表单要有隐私说明和同意勾选。上线前拿一批真实咨询问题试问一轮,把答错和越界的情况补进知识库和过滤规则,再正式挂到官网。