|
“我忙于巡演整天掉头发，老公陪我去上海看中医，中医推荐了一款含何首乌的洗发水……”这是韩国当下顶流明星IU（李智恩）的最新短视频？然而细看账号信息，不难发现都是AI合成的虚假信息，极易让人误导。近日，小红书专门发布关于整治AI技术滥用的公告。 IU台词突现“何首乌”， 张凌赫茯苓膏卖不完？ 扬子晚报/紫牛新闻记者在短视频平台上看到，明明是韩国明星IU（李智恩）的一段综艺访谈节目，突然她就说起了“老公陪我去上海看中医，中医推荐了一款含何首乌的洗发水……”另一端取自热播剧《爱你》男主张凌赫的台词，也是说着说着就从中医说到养生，从养生说到了某品牌茯苓膏，还打出字幕“健康运动+养生饮食+XX膏”。此外，在某短视频平台，输入“癌症预防”“孩子长高秘诀”等关键词，便能刷出大量标签为“医生讲解”“专家建议”的视频。 
AI明星推销洗发水 扬子晚报/紫牛新闻记者咨询了某公司视频工作室AI生成技术专家马斌，他表示，通过技术检测与比对，不难发现其中不少画面均由AI生成，所用形象是从真实公众人物面部提取建模后合成，有的甚至直接模拟套用了知名医生、演员的声音与面孔，进行“深度伪造”，有的地方可谓“丝滑嫁接”，半真半假。值得警惕的是，这类视频掺杂了一定比例的真实科普信息，如引用部分官方数据或医学术语，听起来貌似很有科学依据，让普通观众在短时间内难辨真假。 AI专家认为是“信息污染”， 律师表示“涉嫌违法” “这是一种非常危险的信息污染行为。”马斌指出，AI合成技术本身具有中立属性，但一旦被用于牟利造假，就可能严重侵害公众知情权和平台公信力。“虚假的医学建议、错误的营养常识，可能直接影响用户健康判断，后果不容小觑。” 记者在采访中发现，这类视频背后往往关联着引流、带货甚至非法推广保健品等商业链条。有的账号先通过“名医讲解”积累流量，再引导用户点击私信或跳转至第三方平台，实现变现目的。还有部分视频直接捆绑商品，利用AI合成的“专家”口吻推荐所谓“包治百病”的偏方和产品。 
多位业内人士表示，当前平台对于AI伪造内容的识别和处置手段仍存在滞后，一些视频虽涉嫌虚假宣传，却因合成技术高超，未能第一时间被识别下架。 对此，上海中联（南京）律师事务所王云霞主任接受扬子晚报/紫牛新闻记者采访时表示，随着人工智能技术的发展，生成式人工智能技术（AIGC）在内容创作领域得到了广泛应用，为创作者提供了更多的便利。但AIGC也带来了一些挑战和风险，如识别难度、虚假信息、侵权问题等。今年3月，国家互联网信息办公室等四部门联合发布《人工智能生成合成内容标识办法》，该办法规定人工智能生成合成内容标识包括显式标识和隐式标识。任何组织和个人不得恶意删除、篡改、伪造、隐匿生成合成内容标识，不得通过不正当标识手段损害他人合法权益。 小红书发布治理公告， 对13个违规账号禁言处置 记者注意到，就在两天前，小红书“薯管家”发布了关于整治AI技术滥用的治理公告。公告称，为维护清朗网络空间，营造积极健康、文明和谐的社区环境，小红书积极响应中央网信办、上海市委网信办关于“清朗·整治AI技术滥用”专项行动的要求，重点聚焦利用AI批量生产虚假内容涨粉、利用AI起号引流带货、售卖AI起号课程、售卖AI账号等违规行为开展专项整治工作，切实履行平台责任，深入清理违规问题。本阶段具体治理情况如下： 针对“利用AI生成低俗猎奇视频”“AI生成虚拟外国幼儿教育专家教授育儿内容”“AI视频账号售卖教程”“AI账号秘籍传授”“引导规避平台AI标注”“转让、销售AI虚拟账号”等各类违规内容加强排查清理力度，共清理违规内容265条，对@IU干跨境等13个违规用户予以禁言处置。同时严厉打击转让、售卖、出租网络账号行为，加强AI生成内容监测甄别。 后续，小红书将持续加大对各类涉AI生成相关违规行为的打击力度，不断升级完善平台内AI领域相关的内容治理能力，包括AI识别能力建设。欢迎小红薯们积极参与平台共治，在合理合法使用AI创作的同时积极对AI生成内容进行标注声明（在“自主声明”勾选“笔记含AI合成内容”），让我们共同打造清朗、有序、健康的网络生态环境。 
来源：扬子晚报
| 
[复制链接]
雷达卡
发表于
2025-5-15 15:00:10
提升卡
置顶卡
变色卡
千斤顶
显身卡
