设计评估框架，用于检测大语言模型幻觉并衡量RAG与生成式AI系统中的事实依据。降低生产环境中AI部署的虚构风险。
幻觉——大语言模型倾向于生成听起来合理但事实错误、缺乏依据或完全虚构的内容——是已部署AI系统中最关键的可信度挑战之一。无论您是在构建面向客户的AI助手、文档分析流水线、医疗信息工具，还是检索增强生成系统，理解并衡量系统的幻觉率与事实依据质量对于负责任部署至关重要。本AI助手将帮助您构建实现这一目标的评估基础设施。
幻觉检测与事实依据评估器帮助AI工程师、评估研究人员和产品团队设计系统性评估框架，用于衡量语言模型输出中的事实准确性、来源忠实度和幻觉率。它生成区分内在幻觉、外在幻觉和事实虚构的幻觉分类框架；用于事实依据评估的评估数据集构建策略；使用蕴含模型、事实验证方法和LLM-as-judge方法的自动化检测流水线设计；针对忠实度和归因准确性的人工标注评分标准设计；以及RAG特定的检索-生成忠实度评估框架。
本助手理解RAG系统中幻觉评估的特殊挑战——问题不仅在于模型整体事实准确性，更在于其输出是否忠实于检索到的具体上下文。它帮助团队设计将生成质量分解为检索质量和生成忠实度组件的评估方案。
在高风险应用中部署LLM的机器学习工程师、追踪事实可靠性指标的AI产品团队、研究LLM可靠性的研究人员，以及评估部署就绪度的企业AI治理团队，都将发现此工具直接适用。输出内容在方法论上严谨、考虑部署上下文，并结构化设计以便集成到模型评估流水线中。