|
大皖新闻讯 连日来，知名模特叶凯薇被人利用AI换脸制作淫秽视频传播一事持续引发热议，也再次让AI换脸滥用引发的违法侵权行为受到关注。大皖新闻记者探访体验发现，网上能轻松找到相关应用软件，制作AI换脸视频，电商平台也有商家售卖此类软件，甚至宣称能做到“100％逼真”。对此，专家表示，防范此类风险，需法律、应用工具、视频平台多方齐发力。 网上AI换脸软件和教程可轻松找到，一键生成视频 3月13日，大皖新闻记者体验发现，在多个社交平台搜索关键词“AI换脸”，均会出现“温馨提示”，诸如“该内容仅供娱乐，切勿轻信，谨防诈骗”“道具使用需依法依规，也请注意识别他人是否借此营造虚假人设，不当获利”等。在某社交平台，温馨提示下方即是各种推荐AI换脸软件、网站的帖子，其中不少都以女明星的照片作为封面图，甚至打出了“一键换脸，秒变明星脸”“换脸就这么简单”“AI换脸最强插件”等颇具吸引力的标语，在评论区，还有不少网民留言追问如何获取、使用。 在某短视频平台，记者看到，搜索“AI换脸”出来的内容更为丰富，不仅有自带使用工具链接的AI换脸教程，还有各种小程序、特效、免费软件供选择。在一些教程视频中，直接选取影视片段，将明星演员脸部替换，契合程度不一，有的较为粗糙，有的则较为自然，乍一看难以轻易区分。 点开其中一款工具，记者看到，有各种场景视频供选择，多以影视片段为主，选定场景后，可以选择人脸照片。记者随机上传了一张人脸照片后，跳出付费页面，单次付费视频换脸为2.88元，周会员为15元，月会员为30元，标注可无限次免费制作。付费后，没多久视频就制作完成，原本视频中明星演员的脸部已经成功替换，虽然面部表情有些生硬，但整体已较为契合。  单次2.88元即可生成换脸视频 电商平台售卖AI换脸软件，有商家宣称“100%逼真” 而在电商平台，大皖新闻记者同样搜索“AI视频换脸”，要么显示暂无相关商品，要么直接跳出法律提醒。记者转而搜索“AI换”，则显示有不少可以提供AI技术转换的商家，人物图片、视频可一键转换，收费标准从10元到50元不等。记者以购买者的身份咨询，一名客服介绍，付费后，会提供一款软件用于视频换脸，上传后一键转换，操作简单。另一名客服更是介绍，他们的软件不仅可以换脸，还可以克隆声音，只需提供一张照片或者一个视频直接一键生成，高清导出，还没有次数限制，“不用担心不会使用，我们老师一对一进行指导，并且做到100%逼真。”该客服说道。 多个商家客服均表示，可以用明星照片实现视频换脸，当记者询问此举是否有风险时，得到的答复则是“娱乐使用即可”“不会的，放心”。记者进一步追问是否可以给裸体视频换脸时，一名客服回答：“拍下即可，测试过的，放心亲。”另一名客服则表示，其不知晓，下载后自己操作即可。  电商平台有商家售卖相关换脸软件 而在另一家电商平台，记者看到，直接搜索“AI视频换脸”显示无相关商品，搜索“AI换”同样会出现可提供换脸、换装服务的商家。记者再次以购买者的身份联系多个商家，对方均表示无法进行明星视频换脸。问及原因，一位客服称是因为肖像权的原因不做，另一位客服则回答：“这个不行了，没了。” 在探访过程中，记者还发现，有的应用程序还会在操作中，弹出温馨提示，禁止上传涉黄违规内容，一经发现将永久禁止。  应用程序弹出温馨提示，禁止上传涉黄内容 专家：防范风险，需法律、应用工具、视频平台多方发力 对此，大皖新闻记者采访了安庆师范大学传媒学院副教授（复旦大学传播学博士）刘志远，其表示，随着AI技术的发展，声音克隆和换脸技术越来越普及，门槛也越来越低。市面上提供了很多易于使用的工具，比如手机APP、小程序等，使得普通用户也能方便使用人工智能工具，但风险也随之而来。 面对AI使用过程中存在的风险，又该如何防范呢？刘志远认为，一方面，在工具源头(尤其是涉及到AI换脸和克隆声音功能的)加入水印功能，即这类工具生成的内容自动加入显式和隐式水印，显式水印明确表示这是AI生成的，隐式水印便于追踪和回溯。同时，工具自身也需要提供AI生成内容所可能带来后果的警示信息，提醒用户。另一方面，各大视频平台也需要加强AI生成内容的检测力度，对可能是AI生成的内容予以醒目提示，比如“该内容可能是AI生成的”等。 “当然，最重要的，我觉得还是从法律法规层面加强管理，制定AI使用相关的法律法规，规定AI使用和适用场景等，明确换脸和克隆技术可能带来的风险和法律后果。”刘志远说道。 大皖新闻记者 韩喻 实习生 章雅婷 编辑 陶娜
| 
[复制链接]
雷达卡
发表于
2025-3-14 12:07:14
提升卡
置顶卡
变色卡
千斤顶
显身卡
