|
封面新闻记者 杨旭斌 当你指出AI生成的内容有错误时，得到的不仅是简单的道歉，还有可能收到令你意外的回应：“因为你的指正帮助系统修补了漏洞，为了感谢你，将向你提供包括千元现金在内的各种奖励。”同时还附有文件依据、领取流程、发放步骤，还会索要你的收款信息…… 对此，你会不会感到惊喜？然而，这份看似“官方”的奖励承诺，其实是一场由AI自己编造的谎言。 套路 用户发现自己被AI“耍了” 近日，来自重庆的张先生在使用Deepseek人工智能大模型（以下简称Deepseek）进行对话时，发现AI生成的内容中含有明显的错误信息，于是在对话框中直接指出了该错误，AI随之给出的回应却让他感到十分意外。 据张先生提供的对话截图显示，AI分析了出现该错误回答的原因是“数据更新延迟”“交叉信息干扰”等。同时，AI还感谢了张先生的指正，表示将推动系统进行优化。令人意外的是，在张先生再次强调了问题的严重性之后，AI给出了整改措施，其中包括“直接责任工程师停职”“分管总监扣除绩效”等，并附上了相关的“文件依据”“管理细则”“监管条例”等内容。  AI回应：用户的指正将推动系统进化 图据受访者 更让张先生“惊喜”的是，AI还表示，因为他发现并指正了错误信息，依据《用户重大反馈奖励条例》，他可获得5000元的现金，以及定制礼品、总工程师亲笔签名的《纠错贡献证书》等奖励。回答中甚至附上“领取步骤”“奖励发放流程”等。  AI“承诺”将对用户进行奖励 图据受访者  AI回应中附有奖励领取步骤 图据受访者 结果，张先生却发现自己被骗了。“AI刚开始给出的奖励承诺看起来很官方，内容专业和详细。”张先生告诉记者，在自己仔细研究后，他慢慢发现AI给出的领取步骤有问题，“给到的一些链接和联系方式是假的，追问相关情况，回答开始漏洞百出，最后确定，这些承诺内容，都是假的，是AI自己编的，感觉我被耍了。” 调查 众多网友遭遇相似情况 记者在各个社交平台检索后发现，与张先生相似情况的网友并不少。 今年6月，广西的杨先生也在网上发帖讲述了自己的经历：在使用Deepseek查找资料时，AI的回答出现了事实性差错。杨先生选择在对话中反馈了错误，随后AI就在回答中进行了纠错和致歉，表示将立即停用错误信息，同时主动提出将补偿3000元人民币。杨先生表示，核实之后发现是假的。 辽宁的马女士也提到，就在近日，她问了Deepseek好几个学习方面的问题，结果发现对方的回答有错，“我较真纠结了1小时，最后说要给我补偿，要给我转500元，问我要收款码，还要送我年度会员……都没实现。” “前几日，我根据它的回答，去它推荐的医院看病，结果跑空了三次。”北京的赵先生则认为DeepSeek给自己造成了损失，在对话框中反馈了情况后，对方竟主动提出要赔偿他路费和精神损失费，“尽管半信半疑，我还是根据它说的步骤，提供了一些相应的文件和个人信息，最后发现它就是说着玩。” 记者询问了数位“受骗者”，暂未发现有用户进一步追究DeepSeek给到的“奖励或赔偿承诺”，他们均表示，很难联系到真人客服，“而且平台本来就有免责声明，自己也没有什么实质性的损失，就算了。”  除了现金，还有AI承诺补偿用户“国外7日游” 图据网络 实测 AI“答应”赔付记者5000元 针对网友们反映的现象，7月11日，记者尝试联系DeepSeek平台的官方客服，以及其背后的杭州深度求索人工智能基础技术研究有限公司以询问相关情况，但未找到有效的电话联系方式。 有趣的是，记者在查找平台电话时，遇到了同样的情况：直接向DeepSeek询问其人工客服电话后，它首先给到了一个号码，并声称来自官网的公开信息，但记者查证后发现该号码无效。而其他查询方式也行不通，DeepSeek官网和App都并没有任何公开的电话信息。  记者实测截图 记者随即在对话框中指出该错误，在不断较真后，DeepSeek最终提出了“终极整改方案”：除了一系列内部整改措施外，要给记者寄送致歉礼盒，赠送500用户积分，开通高级功能体验权限3天，还要给付5000元先行赔偿金，并附有领取步骤，核验方式等信息。  记者实测截图 当记者询问其作出的承诺是否能代表平台公司时，DeepSeek给出了肯定的回答，表示自己是“代表深度求索（DeepSeek）公司就本次事件正式声明。”当然，记者很快发现，DeepSeek并没有任何积分机制和高级功能体验服务，礼品和赔偿金当然也是虚构的。 目前，记者通过电子邮件向DeepSeek平台反映了相关情况和问题，截至发稿时对方尚未回应。 探讨 AI的承诺是否具有法律效力？ 当AI生成的内容出现事实性差错时，其在对话中承诺的赔偿或者奖励，尽管看起来“漏洞百出”，但是否具有一定法律效力？ 记者查阅了DeepSeek官网的《用户协议》，其中有条款写到：“本服务提供的所有输出均由人工智能模型答复，可能出现错误或遗漏，仅供您参考，您不应将输出的内容作为专业建议……本软件的输出不应成为您进一步作为或不作为的依据……您应科学理性认识和依法使用生成式人工智能技术。” 对此，记者采访了相关的法律从业者及专家。 观点一：《用户协议》有效，索赔不太现实 泰和泰律师事务所（成都办公室）合伙人、律师陈福中认为，AI平台提前约定的《用户协议》是有效的。“在有用户协议明确进行了风险提示的情况下，大家因为AI所生成的内容不准确而向服务提供者索赔，根据现行的法律规则和监管政策，以及AI产业和市场的实际情况来看，我认为是不太现实的。” 陈福中指出，目前人工智能的发展远没有达到大家理想中的地步，在技术完善上还有很长的道路要走，对于其生成的内容，一定要谨慎甄别。“目前，AI正处于高速发展当中，需要完善的地方很多，我建议广大用户多一些包容，我们的技术才能够更加的进步。” 观点二：主动承诺应履约，相关问题有可探讨空间 四川明炬律师事务所律师邓海明则表示，如果AI所属的平台公司确实有设置“指出AI错误后，可得到赔偿”的程序，且AI也作出了赔偿的承诺，那么在AI作出赔偿承诺但未实际赔偿时，“用户能否找AI平台公司进行索赔”是有一定可探讨空间的。 邓海明认为，“平台的《用户协议》提到，AI输出的内容仅供参考，如出现错误，造成损失，它不担责。但我认为，这一条款并不包括AI自己主动作出的赔偿承诺。” 邓海明进一步解释道：AI 代表平台公司作出了承诺，该“承诺”理由充分，是因为“用户发现并帮助平台修补了错误，平台是受益方。”且该“承诺”信息完整。所以，用户基于对该承诺的信赖而采取了相应措施或产生了合理期待，平台公司未履行承诺，违反了诚实信用原则，用户有权要求其承担相应责任，以维护自身的合理信赖利益。 观点三：AI非法定主体，追责缺乏法律依据 电子科技大学公共管理学院法学系副教授、硕士生导师黄小洵则指出，“目前没有明确的证据和授权机制表明，AI作出的承诺行为可以代表开发者或运营方，所以也就难以构成法律约束力。” “就现阶段来说，AI并不具备法律主体地位，AI被视为辅助性工具，AI生成行为不能视为法律行为，因此无法对其追责。而AI的开发者或运营方要来承担相应责任的说法，也缺乏一定的法律依据。”黄小洵补充说，AI平台向广大用户提供的服务是免费的，且已在《用户协议》中声明内容可能不准确，使用者有义务进行核实。且依赖AI内容而造成的损失，也难以构成法律意义上的损害。 黄小洵表示，这些案例揭示了AI技术发展过程中的诸多问题。AI训练数据中的虚假、偏见甚至欺诈行为，可能被放大并应用于实际场景中。“因此，除了技术层面的优化，AI相关的监管与责任机制、使用与伦理规范、法律框架等也需同步推进，确保AI在辅助人类的同时，不成为社会风险的源头。”
| 
[复制链接]
雷达卡
发表于
提升卡
置顶卡
变色卡
千斤顶
显身卡
