|
3月5日 话题#靳东两会建议AI换脸立法# 冲上热搜第一
在3月5日的政协小组讨论上,全国政协委员靳东回应了AI换脸导致的诈骗问题。他说:“一些喜欢我影视剧的观众,被AI换脸视频骗得很惨,这个性质非常恶劣。希望能建立更好的规则。”
就在前几天,全国人大代表、小米集团董事长兼CEO雷军在其建议案中也提到,“AI换脸拟声”的不当滥用成了违法侵权行为的重灾区。
对此不少网友表示希望尽快立法
AI剪辑冒充明星的案例屡见不鲜
2024年11月,江西一位老人来到银行办理银行卡,但手续不全又不肯离开,警方到现场后,老人表示要到银行贷款200万元给自己的男朋友“靳东”拍戏。
民警随即拿起老人的手机进行查看,发现老人所谓的大明星“靳东”是骗子冒充的,其所发布的视频也是由电脑AI合成,但老人对网络知之甚少,对于骗子所说所做深信不疑。
最终,民警通过向老人展示网络上一些冒充“靳东”诈骗的新闻和现场利用AI合成照片等方式,老人才幡然醒悟,表示不会再相信网络上的“靳东”,并放弃了开卡贷款的念头。
此前报道>>
如何防范?
不仅是视频,伴随人工智能技术快速进步,文、视、图、声等的合成和制作门槛大幅降低,一些人工智能生成的内容“李逵”“李鬼”难辨,给用户带来困扰。2025年全国两会期间,多位代表委员对此现象予以关注,并提出建议。
雷军在建议案中提到,应加快单行法立法进程,在安全与发展并重的基础上提升立法位阶,明确“AI换脸拟声”应用边界红线,完善侵权证据规则,加大对利用人工智能技术实施犯罪行为的刑事处罚力度;强化行业自律共治,压实平台企业等各方的责任和义务;加大普法宣传的广度力度,增强民众的警惕性和鉴别力,加强公众对个人人脸、声音、指纹等生物信息的保护,避免给犯罪分子提供便利素材。
全国政协委员、安徽省律师协会监事长周世虹表示,建议将生成式人工智能纳入专项立法,明确开发者、运营者、用户三方责任;完善监管协同机制,建立网信、工信、公安等多部门联动的动态监管体系;设立AI生成内容标识制度,强制标识AI生成内容,防范虚假信息传播。
全国人大代表、科大讯飞董事长刘庆峰表示,建议研究幻觉自动分析的技术和软件平台,开展幻觉自动分析、AIGC(生成式人工智能)深度鉴伪、有害内容识别以及互联网传播溯源,由相关部门定期清理幻觉数据,为公众提供AIGC幻觉信息检测工具与服务。
北京中银律师事务所高级合伙人杨保全表示,一方面应该完善法律法规,细化“AI换脸拟声”技术应用规范和侵权责任的认定标准;另外,强化平台的监管责任,平台需建立健全审核机制,及时发现和处理侵权内容;最后,提高公众的法律意识和防范能力,让大家了解相关法律法规,面对诈骗能够保持警惕。
|