网站上想放个AI客服回答学员问题,怕它乱说承诺的话,能管住吗?

我们是成人学历培训机构,招生老师晚上不在线,想让 AI 先接待。最担心它对学员说考试一定能过这类话。

提问:匿名用户发布 更新 1 回答 · 6 浏览
直答

能把风险压到很低,但要靠三层而不是一句提示词,也做不到绝对不出错:提示词里明确禁止对考试结果、录取、拿证做担保;回答只依据自家知识库并附出处;输出端再过一道词表与规则过滤,命中就改写或拦下。同时在面板上标明是 AI、回答仅供参考,并设好转…

解答

依据官方政策整理,具体以当年公告为准

技术顾问杭州极速软件开发采纳回答

结论

能把风险压到很低,但要三层一起做,上线后还要抽查日志:提示词约束、知识库约束、输出过滤。只靠提示词是不够的,模型偶尔会「好心」安慰学员,说出不该说的话。

怎么判断

第一层,提示词。明确写:不对考试结果、录取、拿证做任何担保;不替学员报名;遇到个人具体情况引导转人工。

第二层,知识库。让 AI 先在你们整理好的常见问题和政策说明里检索,只依据检索到的内容回答并附上出处;检索不到就明说没有依据,引导留言或转人工。这样能大大压缩它「自由发挥」的空间。

第三层,输出过滤。回复发给学员之前,再用红线词表和规则扫一遍,承诺结果的词、「保证 + 通过」这类组合,命中就改写或拦下,并记日志供你们复查。否定句(例如「不能保证通过」)要放过,否则正常的提醒也会被拦。

注意事项

面板上要标明是 AI 接待(《人工智能生成合成内容标识办法》要求对这类交互添加显著的提示标识),并提示回答仅供参考。晚上没人值守时,转人工改为留言表单,表单要有隐私说明和同意勾选。上线前拿一批真实咨询问题试问一轮,把答错和越界的情况补进知识库和过滤规则,再正式挂到官网。

本页回答由杭州极速软件开发招生顾问依据浙江省教育考试院、中国研究生招生信息网及各高校公开信息整理,不构成录取承诺;政策与时间以官方当年公布为准。 首次发布 2026-11-18,最近更新 2026-11-18。

相关问题

全部问答 →
我要提问免费需求评估