AI 幻觉（AI Hallucination）是大语言模型在生成内容时产生的一类系统性错误，即模型生成的内容看起来合理，但实际上不存在于输入信息中，或与事实不符。
AI 幻觉的产生与大语言模型的工作机制有关。大语言模型基于概率预测下一个词，当输入信息不完整或表述模糊时，模型会基于预训练数据中的统计规律自行补全，生成语法通顺、逻辑自洽但内容失实的输出。在日常对话场景中，AI 幻觉的影响通常有限，用户可以根据常识判断和纠正。
对企业培训的启发： 在企业培训场景中，AI 幻觉构成直接的业务风险。企业培训涉及的内容通常具有高准确性要求，如产品参数、合规流程步骤、药物适应症、财务核算规则，任何偏差都可能导致错误的业务行为。如果使用通用大模型直接生成培训内容，模型可能基于预训练数据补全一个实际不存在的产品参数，或推断一个与企业实际流程不符的合规步骤。当这些内容作为正式培训材料传递给学习者并应用在工作中，后果可能涉及客户投诉、合规违规甚至法律风险。AI 幻觉问题使得企业在将 AI 用于培训内容生成时，必须建立内容回溯和验证机制，确保生成内容的每个知识点可追溯到可信的原始来源。