大模型幻觉涉及的违约责任探讨

摘要：目前，大语言模型（LLM）已广泛应用于问答、写作、搜索等多个场景，但大模型幻觉（AI hallucination）现象却时有发生，大模型在提供服务过程中可能因输出不实内容致使用户误信、权利受损。大模型产生幻觉有其固有的技术根源，但并不意味着有些错误是理所当然的或不可避免的。本文根据通用大模型或垂类大模型的差异，分别探讨两类模型下服务提供者因大模型幻觉问题可能面临的违约责任。

一、大模型幻觉的常见情形

        大模型幻觉，可理解为模型生成的文本不忠实于信息源或者与现实世界的事实不符，即“一本正经地胡说八道”。幻觉可细分为以下几种常见情形：

        其一，事实冲突型，即模型生成的内容与常识性事实相悖。如，用户询问“世界上最高的山峰是什么？”，模型回答“世界上最高的山峰是乔戈里峰”，与广为认知的“珠穆朗玛峰”事实不符，属于典型事实性幻觉。

        其二，虚构捏造型，即模型生成完全不存在的主体、事件或引文。如，在回答法律问题时虚构法律条文、编造案例或伪造引用文献。

        其三，指令误解型，即模型未能正确解析用户意图，生成内容与提问偏离，属于忠实性幻觉。如用户请求推荐“云南旅行攻略”，模型却简单回应“云南是不错的旅游地”，未满足信息需求。

        其四，逻辑偏差型，即模型在推理、计算等任务中出现明显逻辑错误或步骤跳跃。例如在解答数学题目时，解题过程看似完整但结果错误，不符合基本运算规则。

        大模型幻觉的风险已实际存在。如ChatGPT曾错误指称某市官员涉贿赂入狱，将举报人错认为受贿人，致使举报人面临名誉受损风险。又如，在法律行业中，美国律师援引AI生成的虚假判例向法院提交法律文书，因严重扰乱司法程序受到法院处罚，法院强调律师必须核实AI输出以遵守相关义务。如果一些看似合理却与现实相去甚远的内容被AI反复学习，将会形成“数据污染—算法吸收—再污染”的恶性循环。

二、大模型幻觉的成因

        大模型产生幻觉的技术根源，主要在于模型架构的内在局限与训练数据的质量缺陷两个方面。

（一）模型架构层面的局限

        当前主流大模型普遍采用Transformer架构，通过自注意力机制在上下文中捕捉词语间的相关性，以概率方式预测下一个词。然而，该类模型并不具备对现实世界的“理解”能力，其生成机制本质上是“统计驱动”而非“事实驱动”。在面对训练数据中未曾覆盖或细节模糊的问题时，模型容易基于已学得的相关性进行“自洽式发挥”，进而输出事实谬误或逻辑错乱的信息。这种基于概率估计的“想象机制”虽能保证语句在形式上的连贯性，但难以确保内容的真实性与一致性。

（二）训练数据的质量缺陷

        在模型架构存在局限的基础上，训练语料的质量缺陷进一步加剧了幻觉问题，具体表现为以下几个方面：

        其一，数据来源不可靠。许多模型（如ChatGPT）主要依赖互联网公开文本进行预训练，而网络数据真实性参差不齐，缺乏系统化的事实校验机制，易使模型习得错误或虚假信息。其二，专业知识稀缺。医疗、法律、金融等专业度高的领域在开放语料中覆盖不足，导致模型在面对专业提问时“想象空间”扩大，更易产生幻觉。其三，数据本身存在偏差或错误。若训练数据中含有错误、偏见或虚构内容，模型在生成过程中可能复制甚至放大该类问题。其四，监督微调阶段存在数据瑕疵。在人类反馈强化学习（RLHF）或有监督微调过程中，若数据标注存在歧义、标准不一或过度拟合，模型同样可能输出误导性信息。

         大模型“算法结构的内生不完美”与“训练数据的质量缺陷”共同造成了“大话精”式的幻觉现象。值得注意的是，模型产生幻觉虽有技术原因，但并不意味着这种错误是理所当然的或不可避免的。业界正在探索引入人类反馈强化（RLHF）、检索增强生成（RAG）、多模态对齐等方式以缓解幻觉问题。同时，监管机构亦正逐步强化对模型透明度、数据质量及输出可解释性的合规要求，为技术风险设置制度性约束。2025年4月，中央网信办在全国范围内部署开展为期3个月的“清朗·整治AI技术滥用”专项行动。“AI幻觉”问题是重点领域安全风险之一。

三、不同类型模型之间的差异

        目前，大模型分为通用大模型与垂类大模型，二者在开发主体、应用场景、训练数据来源、输出控制方式及用户依赖等方面均存在差异。具体而言：通用大模型由科技公司或研究机构开发，目标是构建具备广泛语言理解与生成能力的全能型基础模型，涵盖多领域、多任务应用，其采用大规模、多来源的通用语料进行预训练，生成内容灵活多变，存在较高的幻觉风险。垂类大模型则在通用架构基础上，由行业厂商或专业团队针对特定领域进行定制微调，聚焦特定领域的应用场景，如医疗、金融或法律等，因进一步结合领域数据进行微调，输出更加专业精准，幻觉风险减少，用户对于输出的准确性和专业性依赖更强。

        上述这些差异，致使两种大模型在合同约定、服务目的效果等方面都存在不同，故通用大模型与垂类大模型的违约责任认定路径亦有所区分。

四、通用大模型中的违约责任

（一）格式合同下的免责机制

        根据《生成式人工智能服务管理暂行办法》第九条规定，提供者应当与注册其服务的使⽤者签订服务协议，明确双方权利义务。实践中，通用大模型往往通过签署标准格式化的用户协议提供服务。该类用户协议通常约定免责条款，即声明AI输出仅供参考、不保证绝对真实，以此减轻合同义务。此类免责声明常辅以责任上限及结果不保证条款以避免提供方承担责任。相关约定示例如下：

        然而，根据《民法典》第四百九十六条、第四百九十七条之规定，用户协议中若涉及免责的部分属于格式条款，且服务提供者对此未尽到合理的突出提示与说明义务，尤其涉及重大利害关系的条款，用户可以主张该免责条款无效。同时，即使该免责条款经过提示和说明，若构成不合理免责或限制用户主要权利的内容，也可能无效。此时，提供者仍可能承担违约赔偿责任。

        值得注意的是，免责条款的效力亦需从消费者权益保障角度进行分析。首先，需要判断该类用户是否构成消费者？特别是免费使用服务的用户。根据《消费者权益保护法》第二条、第三条之规定，若用户为“为生活消费需要”目的使用模型服务，则其符合“消费者”身份。《消费者权益保护法实施条例》（下文简称《实施条例》）第七条进一步明确，经营者向消费者提供商品或者服务（包括以奖励、赠送、试用等形式向消费者免费提供商品或者服务），应当保证商品或者服务符合保障人身、财产安全的要求。因此，免费使用服务的用户亦符合“消费者”身份。其次，根据《消费者权益保护法》第二十六条规定，经营者不得以格式条款、通知、声明、店堂告示等方式，作出排除或者限制消费者权利、减轻或者免除经营者责任、加重消费者责任等对消费者不公平、不合理的规定。即，用户协议中的格式条款不可排除或者限制消费者权利、减轻或者免除经营者责任、加重消费者责任。因此，尽管用户协议中规定了免责条款，仍可能因违反《消费者权益保护法》及《实施条例》相关规定而致使服务提供者承担相应责任。

（二）无明确合同约定时的建议

        在无明确合同约定的情形下，建议考虑服务提供者的合理注意义务与用户的合理信赖程度等因素。通用模型因其训练语料开放性与输出随机性，服务提供者对结果的直接控制能力较弱，往往不承担结果保障义务。但其仍负有基本的信息提示义务与风险告知义务，例如在界面显著位置提示内容为AI生成、存在错误风险等。如未履行该等义务，或误导用户基于幻觉信息做出依赖性决策，亦可能因履行辅助义务不当而引发违约责任。

        综上，通用模型服务协议多通过格式条款免除自身责任，但免责条款的适用并不是万能的。若幻觉输出造成严重后果，且服务方存在重大过失或违反合同附随义务（如提醒义务等），仍可能构成违约。不过，在绝大多数普通场景，提供者通过提前警示和免责声明，已经降低了用户对信息准确性的合理信赖，因此用户很难举证违约成立。这也是为什么目前因AI错误回答而对通用大模型平台提起的索赔极少成功的原因之一。

五、垂类大模型中的违约责任

        相较于通用大模型，垂类大模型通常面向特定行业或应用场景进行专门化开发，服务对象、需求等具体、明确。该类模型在部署前通常基于专属语料数据进行微调，服务目标和输出内容具有高度可控性，模型输出更易被用户视为具有权威性与可依赖性，进而强化了服务提供者的履约义务。

（一）特定行业的规范要求

1、免责条款的适用

        与通用大模型类似，垂类大模型面向终端用户提供服务时，也会与终端用户签订用户协议来明确双方权利义务，并设置免责条款以限制或免除因模型输出错误产生的责任。

        然而，在垂类场景下，此类免责条款的效力不仅需依据《民法典》与《消费者权益保护法》的相关规定，还应结合该行业特定甚至更高要求的监管制度与技术标准进行评价。如金融行业，《银行保险机构数据安全管理办法》《人工智能算法金融应用评价规范》等对算法透明度、数据质量控制和模型验证等提出相应规范要求。因此，在垂类大模型的用户协议中，即便约定了免责条款，若免责条款规避了行业监管义务和质量标准要求，服务提供者仍可能承担责任。

2、无明确约定的处理

        若合同未明确约定相关的责任条款，违约责任的认定可结合合同目的、服务性质和当事人合理预期等多维度综合判断。尤其在金融、医疗等高风险、强监管的行业，履约义务的内容还应结合行业法律法规、强制性技术标准以及监管机构发布的规范性文件进行实质判断。具体而言：

        在向终端用户提供服务前，服务提供者应在集成、测试、上线及运行维护环节履行安全合规义务和风险防控义务，并考虑用户的合理信赖程度。一方面，需确保模型输出的内容不会违反相关行业的监管要求，依据金融、医疗等行业的监管规范是否已履行安全合规等义务，如不违反《金融消费者权益保护实施办法》《银行保险机构消费者权益保护管理办法》或《医疗质量管理办法》等相关规定。另一方面，企业定制方提供的模型服务需满足终端用户的合理预期，终端用户通常基于对企业品牌和专业能力的信赖作出决策，且在垂直领域（如医疗诊断、投资建议）中，用户对信息的准确性、专业性与可依赖性具有更高预期。若服务提供者未履行验证、风险评估、输出监控及错误纠正等义务，或交付的服务明显低于用户在特定行业中可合理期待的标准，即便合同未明示，亦可能被认定构成违约。

（二）无自研能力企业输出的垂类大模型

        在垂类大模型应用场景中，部分企业由于缺乏自主研发能力，往往需要依托具备技术实力的模型开发方，根据行业特性和自身业务需求进行特别定制。此类定制通常通过签订技术开发合同或委托合同进行，涉及三方主体：（a）模型开发方，负责模型的研发、调优与训练，确保其满足特定行业的功能与性能要求；（b）企业定制方，结合自身业务场景向模型开发方提出定制化需求，并将完成的模型集成部署于业务系统，向终端用户提供服务；（c）终端用户，作为最终使用者接收和利用模型生成的内容。

        前文我们已分析完毕企业定制方与终端用户之间的法律关系，故不再赘述。对于模型开发方与企业定制方之间，通常签订技术开发合同或委托合同等，约定模型的性能指标、功能需求以及验收标准。此类定制合同更多以双方的谈判或协商为主。如果定制模型频繁产生幻觉、输出虚假信息，即不符合合同约定的技术规格、指标或质量要求，构成质量瑕疵，属于合同违约。值得注意的是，若模型开发方举证幻觉属于现有技术无法避免的正常现象且被采信，则不应视为违约。

        当然，若终端用户因为大模型错误回复导致权益受损，若能证明该问题是因为模型开发方所引起，企业定制方亦可以向模型开发方追偿。值得一提的是，英国部分定制服务已引入保险机制，尤其在医疗、金融等专业性强的领域，逐步构建“赔偿—追偿—保险”三重责任缓冲机制，以降低纠纷成本与合规风险。

六、针对大模型幻觉的建议

        为降低大模型幻觉在垂类应用场景中引发的违约风险，建议服务提供者可从数据管理、模型开发与部署运营三个环节采取系统性防控措施。

（一）数据的时效性与专业性

        从数据质量入手，确保训练和微调所用数据的时效性。服务提供者可建立数据更新与清理机制，跟踪最新行业信息，避免因数据过时导致输出与现行规范脱节。对高时效要求的场景（如金融市场动态、医疗指南更新）设定数据刷新周期，并在模型端标注数据更新日期。

        服务提供者应确保训练语料来自权威、可验证的专业来源，避免使用未经验证的网络资料作为主要依据，并通过筛选与分级机制，将核心业务数据进行标记，在生成过程中优先调用。

（二）开发阶段的评估测试

        在模型开发阶段，服务提供者应主动将合同质量约定和监管要求嵌入模型设计与优化环节，使其在性能指标、功能设定及安全边界上符合合同约定的质量指标，并与行业强制性规范保持一致。交付前对模型的准确性、安全性、偏差风险等进行全面评估，并出具可追溯的测试报告。同时，应建立内部审核机制，防止模型输出触碰行业监管的“红线”。

（三）运行阶段的跟踪

        在模型部署与运行阶段，落实必要的审查与风险提示制度。上线前应进行多轮场景化模拟测试，重点检验高风险环节的幻觉触发情况，并针对测试中发现的问题建立自动拦截规则，防止误导性输出呈现给用户。在运行过程中，应通过实时监测和抽样审查及时发现并纠正幻觉问题，同时建立用户反馈的快速响应机制，对涉及潜在损害的输出优先处理。对于无法完全避免的幻觉风险，服务提供者应在输出内容前附加醒目的风险提示标签，并在服务协议与用户界面中明确说明模型的适用范围、局限性以及不能完全替代人工判断的性质，从而降低用户过度依赖带来的风险。