 近日，安徽一女子用AI工具生成高度逼真的“流浪汉在餐桌吃饭”等图片发给老公，并说“他说要去你的床上躺着”以测试其反应，没想到丈夫信以为真，当即报警求助。 类似“AI整蛊测试真心”引起的闹剧已在多地出现，那么，在此类事件中整蛊者可能触碰哪些法律红线？选择用如此方式去“测试”伴侣，其背后隐藏着怎样的心理动机？ 在“AI时代”即将全面到来的今天，我们应该如何提升公众的“数字素养”和“科技伦理”意识？ 整蛊行为会带来多重法律风险 “如果利用AI技术恶意制作并传播虚假恐怖图片，进而严重扰乱社会秩序的，可能涉嫌‌编造、故意传播虚假恐怖信息罪‌。”北京市大道政通律师事务所合伙人韩鹏律师介绍说。《中华人民共和国刑法》第二百九十一条规定，投放虚假的爆炸性、毒害性、放射性、传染病病原体等物质，或者编造爆炸威胁、生化威胁、放射威胁等恐怖信息，或者明知是编造的恐怖信息而故意传播，严重扰乱社会秩序的，处五年以下有期徒刑、拘役或者管制；造成严重后果的，处五年以上有期徒刑。编造虚假的险情、疫情、灾情、警情，在信息网络或者其他媒体上传播，或者明知是上述虚假信息，故意在信息网络或者其他媒体上传播，严重扰乱社会秩序的，处三年以下有期徒刑、拘役或者管制；造成严重后果的，处三年以上七年以下有期徒刑。若有关行为未达到刑事立案标准，依据《中华人民共和国治安管理处罚法》第二十九条规定，可能面临被行政拘留‌并处罚款‌。 在此事件中，女子老公因为恐慌第一时间报警，民警出警后发现是虚惊一场，这种情况下，其老公行为是否涉嫌“报假警”？如何认定？ 韩鹏认为，“报假警”的核心认定标准是“主观故意+捏造虚假警情”，二者缺一不可。从动机上看，女子家人主观上没有“报假警”的故意，其报警行为不符合上述认定的核心要件。但发送图片者主观上存在“间接故意”，明知可能引发报警仍实施该行为，且客观上实施了“制造虚假警情源头”的行为，与报警结果之间存在因果关系，其行为在一定程度上扰乱了公共秩序，可能面临治安处罚，严重的甚至会被追究刑事责任，具体后果会根据情节轻重进行划分，需要综合考量行为人的主观恶意、公共资源浪费、传播范围、社会影响等因素，最终实现处罚与行为危害性相匹配。 “低门槛”为“滥用”埋下了隐患 一个基于玩笑的整蛊行为，一旦失控，就可能升级为对社会治理、法律法规、公共信任等多层面的挑战。而让人担忧的是，当前生成此类以假乱真图片的AI技术门槛较低。记者在某AI软件里传输一张照片，再输入“请在孩子对面生成一个流浪汉”的指令，不到2秒钟，一张让父母看完后感到恐慌的AI照片便生成了。  图片来源：记者利用某AI软件生成的“流浪汉闯入家中”图。 而与“低门槛”相矛盾的是，在司法实践中，要顺利实现对一些恶意生成内容的取证存在较大难度。“主要是因为技术黑箱导致的溯源难。”韩鹏说，“由于生成式人工智能的算法逻辑不透明，模型迭代频繁，实践中有时难以直接还原数据生成路径。AI生成内容还可以通过技术手段规避传统检测，且缺乏统一的生成标记标准，部分恶意生成者还会刻意抹除Exif信息、篡改哈希值等，进而导致溯源链条断裂，而传统取证手段很难保证数据完整性、连续性，这些都可能给取证工作带来挑战。” 韩鹏介绍，今年全国两会期间，全国人大代表、上海社会科学院党委书记权衡等代表提出关于制定人工智能法的议案，建议发挥立法的引领、推动作用，制定全面系统的人工智能法，推进新时代强国建设和中国式现代化。议案建议，人工智能立法应将重点放在多个方面。其中一条提出，在社会影响与伦理考量方面，应要求对人工智能技术的社会影响进行评估，制定人工智能技术的伦理规范，明确技术使用的道德边界和行为准则。韩鹏建议，对于目前面临的“规则分散、责任模糊、处罚失衡、技术适配不足”等问题，仍需要进一步制定细则、完善责任划分与处罚梯度、建立相应的溯源制度，同时需持续强化多部门协同监管等措施，构建“事前预防-事中阻断-事后追责”的全链条治理体系。 “当前，AI‘微恐慌’事件的危害情节普遍比较轻，但这在某种程度上已反映出AI技术滥用带来的诸多问题，这也对立法技术和立法质量提出更高要求。相关立法需要为技术创新预留合理空间，进而实现安全与发展的良性互动。技术本身并无善恶，其对社会的影响取决于技术发展的方向与边界。AI‘微恐慌’事件并非技术进步的必然结果，而是技术滥用与治理滞后共同作用下的产物。技术界必须跳出唯技术论的误区，将伦理责任置于创新之上，通过可溯源的标识体系、高精准的鉴伪技术、透明化的算法逻辑和刚性的伦理约束，构建负责任创新的生态。”韩鹏建议。 类似事件频发会加剧社会“信任危机” 法律红线清晰可见，情感创伤难以弥合。这类事件的跟风与泛滥，还会加剧社会的“信任危机”，导致真正发生的紧急事件被忽视，从而削弱社会互助的基础。 中国政法大学犯罪心理学博士、广州商学院法律心理研究院副教授张蔚认为，当网络上充斥着各种真假难辨的紧急事件时，公众会逐渐变得麻木，对刺激的反应阈值会提高，同情心和警惕心会被消耗。待到未来某个真实的安全威胁图片或视频被发布时，人们的第一反应可能是“AI生成的吧”或者“肯定又是哪个博主弄出来引流的”。这种怀疑和延迟，可能会让真正需要帮助的人错过最佳获得帮助的时机。 同时值得关注的是，比起社会“信任危机”的产生，“信任崩塌”很可能最先发生在亲密关系里。 “做这种测试的人，潜意识的动机可能是想测试伴侣的反应，比如说‘会不会担心我’‘是不是爱我’之类，但这是一种极其不健康且具有破坏性的情感确认方式。实施者无法真正站在伴侣的角度去思考感受，体现了对伴侣情感边界的不尊重和共情能力的不足。如果这个人的动机是想用消费另一半来获取流量或者关注，那就存在将伴侣工具化的可能。”张蔚提醒，“这种行为可能会导致受骗者对家庭环境安全感以及对伴侣信任感产生根本性的动摇。尤其是当受骗者发现自己最真实的恐惧反应被对方当成笑话观看、录制甚至公之于众时，会感到巨大的羞辱和背叛，觉得自己的感受不被尊重，从而产生情感上的孤立和羞辱感。” 一次引发热议的整蛊事件，背后反映的是AI浪潮下公众数字素养和科技伦理意识的不足。这不能仅靠“单向灌输”，而是需要推动公众从“技术的被动使用者”向“技术的主动掌控者”的转变。“通过分层教育让AI知识可及，通过场景实践让科技伦理意识落地，通过技术生态圈的约束让责任有保障，让更多人在享受AI便利的同时，守住伦理底线，负责任地使用这一强大工具，使科技更好增进人类福祉、更好促进社会进步。”韩鹏建议。 这段AI整蛊引发的闹剧，像一面多棱镜，折射出技术狂欢背后亟待正视的伦理困境。当玩笑越过边界，它便不再是幽默，而是可能撕裂信任、浪费公共资源的利刃。在拥抱科技的同时，我们必须守住伦理底线，让工具服务于人性的温暖，而非测试人性的筹码。 来源：检察日报《方圆》
| 
[复制链接]
雷达卡
发表于
提升卡
置顶卡
变色卡
千斤顶
显身卡
