今日头条
官方微信
官方抖音
资讯频道问：近日，杭州互联网法院审结全国首例因生成式人工智能模型“幻觉”引发的侵权纠纷案。AI承诺生成内容有误将赔偿，算数吗？服务提供者负有什么样的责任？
答：现实操作中，AI带来很多便利，但并非全知全能，其生成的答案可能包含看似合理实则错误的“幻觉”信息。杭州的案例中，AI提出“如果生成内容有误，我将赔偿您10万元”，从而引发相关纠纷。从法院判决看，在生成式人工智能场景中，AI的承诺并不代表平台的意思。这既为AI生成内容划出红线，也进一步厘清了服务提供者的注意义务边界。
AI不具有民事主体资格
法院判决明确，AI不具有民事主体资格。在该案中，AI自行生成的赔偿承诺也不能视为服务提供者的意思表示。也就是说，AI不是服务提供者的传达人、代理人或代表人。除非服务提供者通过AI模型来设定或传达相关信息，否则类似“生成内容有误将赔偿”的承诺是没有法律效力的。
服务提供者有严格审查义务
依据《生成式人工智能服务管理暂行办法》，生成式人工智能服务属于服务范畴。AI生成内容虽不是我国产品质量法意义上的产品，但服务提供者有严格审查义务。例如，发现违法内容，应当及时采取停止生成、停止传输、消除等处置措施，采取模型优化训练等措施进行整改。同时，需以显著方式向用户提示AI生成内容可能不准确，发出“警示提醒”等，防止用户产生不当信赖。
建立健全投诉举报机制
据统计，截至2025年3月，共有346款生成式人工智能服务完成备案。相关方应落实法律法规要求，完善与创新发展相适应的科学监管方式，制定相应的分类分级监管规则或者指引；提供安全、稳定、持续的服务；建立健全投诉、举报机制，畅通投诉举报通道。
来源：《经济日报》
北京市公安局海淀分局备案号：11010802023656号