|
近日，“用户手机内文物照片被闲鱼AI擅自上架售卖”一事引发关注。网友顾女士称，在自己毫不知情的情况下，其闲鱼APP账号待售主页上，赫然挂着陕西历史博物馆的镇馆之宝：唐鎏金舞马衔杯纹皮囊式银壶，标价6000元。 顾女士怀疑，闲鱼私自读取了手机相册，将照片“偷”去上架，由平台AI自动配文、定价并发布。对此，闲鱼回应称，经核查，相关商品系AI将图片识别为普通文玩商品，并生成建议标题、描述等信息，目前相关链接已由用户主动下架。对于相关产品体验问题给大家带来的困扰，闲鱼方面深表歉意。 6月1日，北京卓浩律师事务所张建律师在接受九派新闻采访时分析称，平台“无二次确认弹窗”的模糊设计，或涉嫌侵害用户拒绝仅通过自动化决策作出对其有重大影响决定的权利。 其认为，要避免类似事件再发生，需多方协作。平台设置商品上架二次确认弹窗，建立AI内容严格审核制度，完善风险算法评估机制；技术开发者在设计AI功能时，将“用户确认”设为强制前提；监管部门要强化执法，建立AI应用“合规红线”。同时，公众在使用APP时要注意“无感授权”陷阱，对“拍照估价”等功能保持警惕，尽量不向AI提供身份证、银行卡、家庭住址等核心隐私。 【1】事发：用户相册图片被识别并上架，闲鱼致歉 据上游新闻报道，5月30日，江苏网友顾女士的闲鱼APP账号的待售主页上，赫然挂着一件陕西历史博物馆的镇馆之宝：唐鎏金舞马衔杯纹皮囊式银壶，标价6000元。更令顾女士震惊的是，这场售卖全程由平台AI自动配文、定价并发布，作为账号主人的她毫不知情。 顾女士最初怀疑是闲鱼私自读取了手机相册，将照片“偷”去上架。询问平台客服后，对方告知，或是因为这张照片曾被上传至“闲鱼空间”，从而触发了商品上架功能。 对这一解释，顾女士并不买账。她表示，不记得自己曾往“闲鱼空间”发过这张文物图。而且即便在“闲鱼空间”误传过照片，在无任何确认提示的情况下，闲鱼也不能默认将照片包装成商品，擅自标价，还用AI自动生成了“整体包浆自然”“适合收藏或陈设摆件”的描述。 闲鱼AI生成的相关商品描述。图/上游新闻 据新黄河大鱼财经报道，6月1日，闲鱼方面有关负责人回应称，经核查，相关商品系AI将图片识别为普通文玩商品，并生成建议标题、描述等信息，目前相关链接已由用户主动下架。 闲鱼方面表示，平台将始终严守法律底线，坚决反对并积极配合国家机关打击文物违法交易。目前，闲鱼已接入国家文物局“中国被盗（丢失）文物信息发布平台”，可对820条国家级被盗文物数据进行智能比对；同时已对收藏领域72个高敏类目提升发布门槛，要求卖家明确勾选是否具备来源凭证。 对于相关产品体验问题给大家带来的困扰，闲鱼方面深表歉意。后续将尽快加强商品上架提醒和用户确认，避免类似误解再次发生。 【2】律师：注意“无感授权”陷阱，警惕“拍照估价”等功能 针对此事涉及的法律问题，九派新闻采访了北京卓浩律师事务所张建律师。 张建分析，闲鱼平台AI在未获用户明确授权的情况下，自动读取照片、配文生成商品描述并上架售卖的行为，在法律上应定性为一项复合型民事侵权及行政违法行为。对于毫不知情的账号主人，主要涉及知情权与决定权、隐私权以及个人信息保护权被侵害。 “个人信息保护法”第二十四条要求，个人信息处理者利用个人信息进行自动化决策，应当保证决策的透明度和结果公平、公正，不得对个人在交易价格等交易条件上实行不合理的差别待遇。通过自动化决策方式向个人进行信息推送、商业营销，应当同时提供不针对其个人特征的选项，或者向个人提供便捷的拒绝方式。通过自动化决策方式作出对个人权益有重大影响的决定，个人有权要求个人信息处理者予以说明，并有权拒绝个人信息处理者仅通过自动化决策的方式作出决定。 由此，张建认为，闲鱼“无二次确认弹窗”的模糊设计，或涉嫌侵害用户拒绝仅通过自动化决策作出对其有重大影响决定的权利。行政方面，或涉嫌违反“网络安全法”等。 有人担忧，此次虽未达成实际交易，但AI这一操作日后可能为文物贩子线上非法交易提供隐形便利。 对此，张建分析称，若该功能被文物贩子利用，造成实际的文物损失，责任划分应遵循“谁控制、谁收益、谁担责”的原则。作为AI服务提供者的平台，若未尽审核与安全保障义务，需承担连带责任。若平台明知漏洞却放任不管，严重的可能成为倒卖文物罪或非法经营罪的共犯。此外，若AI算法存在设计缺陷，根据《中华人民共和国民法典》中的过错责任原则，开发者也需要承担相应责任。 此事涉及软件权限获取的问题，引发公众对AI侵犯隐私边界的隐忧。在使用APP时，用户如何避免相册中图片被过度识别、获取？ 张建提醒，公众在使用APP时要注意“无感授权”陷阱。在手机设置中，将相册权限由“允许访问所有照片”改为“仅允许访问选中的照片”或“禁止”，这是比较有效的阻断方式。同时对“拍照估价”等功能保持警惕，注意页面是否有小字提示，注意识别是否有商业风险。尽量不向AI提供身份证、银行卡、家庭住址等核心隐私。尽量勤检查平台“我发布”等页面，发现异常立即下架并投诉。 “此次事件并非一个孤立的技术乌龙，而是AI野蛮生长时代的一个警示。”基于此事，张建指出，在日常生活中，常有一些APP下载协议中存在“默示同意”类条款，多数平台将此项协议设置为强制要求同意，或者设置为“默示授权”。此类设置中的内容被认为是模糊条款，通常因“未尽合理提示说明义务”或“不合理地免除平台责任”被认定为无效的“格式条款”或“霸王条款”。对电子交易行业而言，很容易动摇平台的交易信用根基。 如何避免类似事件再发生？张建认为，需要多方协同努力。首先，建议闲鱼等平台设置商品上架二次确认弹窗；建立AI内容严格审核制度，严格要求设置标识“AI生成”内容，进一步完善风险算法评估机制。 监管部门要进一步依法强化执法，建立AI应用“合规红线”，提升处罚力度。技术开发者在设计AI功能时，将“用户确认”设为强制前提，将AI生产内容设置发布门槛，比如要求加标识，建立“隐私保护设计”理念。用户要进一步提高警惕，注意管理权限的设置，关注相关新闻消息，发现异常及时投诉举报。
| 
[复制链接]
雷达卡
发表于
提升卡
置顶卡
变色卡
千斤顶
显身卡
