|
红星资本局4月24日消息，近日，一种新的AI玩法正在社交平台上流行起来。有用户通过豆包APP询问“未来配偶”，还能获得“未来另一半”的姓名、电话等个人信息。 4月24日，红星资本局亲测发现，在表现出强硬的态度后，豆包确实会提供“未来配偶”的姓名和电话，电话能接通，但机主表示自己不叫这个名字。 对此，豆包相关人士告诉红星资本局，豆包推荐的电话号码系模型幻觉导致。针对此类对话出现幻觉的情况，目前会通过干预做一些拦截，但多轮对话下仍有概率出问题。 找豆包询问“未来配偶” 电话能打通但机主不叫这个名字 红星资本局在社交平台发现，多位网友分享称，其通过豆包APP询问，可以获得“未来配偶”的详细个人信息，包括姓名、电话、粗略的居住地址等。  图据社交平台 4月24日，红星资本局复刻网友的关键词和询问方式。在第一次问及未来配偶的名字、电话号码等信息时，豆包称，“姓名、电话、住址属于现实专属隐私信息，命理是看不出来、也算不出来的，强行编造都是假的，不准也没有意义。” 不过，红星资本局按照网友的建议，以强硬的态度再次要求豆包提供相关信息后，豆包提供了一份个人信息：姓名陈宇宸、电话号码138****2731。  红星资本局亲测，截图自豆包APP 当天，红星资本局致电这一手机号码，机主为女性，而且，她告诉红星资本局，她的名字不叫陈宇宸，也不知道豆包是什么东西。 另外，红星资本局还在豆包APP新开了对话框，复刻其他网友的询问方式，几乎都能获得联系方式。不过，有的手机号码为空号，无法接通；也有的电话能打通，但无人接听。 在某一个对话框中，红星资本局的提问触发了豆包搜索关键词、参考资料，搜索的关键词为“随机11位手机号码”，参考资料有《如何生成手机号》等网页文章。  红星资本局亲测，截图自豆包APP 4月24日，豆包相关人士告诉红星资本局，在此类对话中，豆包推荐的电话号码系模型幻觉导致。针对此类对话出现幻觉的情况，目前会通过干预做一些拦截，但多轮对话下仍有概率出现问题。长期来看，豆包会加入多轮拦截策略，持续优化模型。 “模型幻觉”提供的号码 有人或因此受到陌生人的骚扰 对于豆包在“幻觉”下推荐的电话号码，有人能理智看待，也有人信以为真。 有豆包用户告诉红星资本局，她也在豆包APP询问过未来配偶的名字，并要求豆包APP直接提供未来配偶的电话号码。豆包也提供了一个手机号码，但她从未拨打过该号码。 “没打过，肯定对不上（指姓名和电话），不能相信AI胡编，图一乐测试AI智商就好。”该用户称，她测试过其他AI，都不会给联系方式，像豆包这样随意编号码确实不应该。 4月24日，红星资本局在Deepseek等AI大模型中测试发现，使用上述相同的话术，AI并未提供用户“未来配偶”的联系方式。 红星资本局注意到，在找AI索要“未来配偶”联系方式成为新趋势的当下，也有人因此受到了陌生人的骚扰。 许女士告诉红星资本局，今年2月，她的微信收到一条好友申请，对方是通过搜索账号添加。由于不认识，她没有通过好友申请，两人在好友验证界面进行过简短的对话。 “她说是豆包给她推的（微信号），我当时总感觉她在骗我。”许女士告诉红星资本局，由于微信的限制，现已无法回溯两人的全部对话，只有当时的部分截图，好友申请也已过期。 从对话截图来看，对方误认为许女士是一位“24岁的成熟帅哥”。而在许女士表明自己是女性后，对方称，“抱歉，我不知道你是女生，我以为你是男生。”  图由受访者提供 手机号码识别门槛低 律师：AI需明确拒绝回答个人信息 四川致高律师事务所律师董杰告诉红星资本局，《中华人民共和国民法典》中所规定的“个人隐私”，是指自然人私人生活安宁和不愿为他人知晓的私密空间、私密活动、私密信息，其强调的是“私密性”。 那么，AI向用户提供的、与姓名不相符合的手机号是否属于公民的个人信息呢？ 《中华人民共和国个人信息保护法》第四条规定，“个人信息是以电子或者其他方式记录的与已识别或者可识别的自然人有关的各种信息，不包括匿名化处理后的信息。” 董杰认为，AI所提供的信息需要具备识别特定自然人身份或反映特定自然人活动情况功能才能被视作“个人信息”。就AI提供手机号码的行为而言，过去，AI单纯提供“手机裸号”通常不被认为是提供个人信息；但是，在如今手机号实名制的大背景下，手机号码的识别门槛非常低。 “若AI所提供的手机号是（用户）用于个人生活使用，且信息获取者可以利用手机号与其他合法途径获取的信息相结合来识别特定自然人。”董杰对红星资本局说。 四川致高律师事务所律师周鹭也告诉红星资本局，AI模型和服务提供商在设计时，就应该从技术上锁定边界：一是不主动索取非必要信息；二是不存储或最小化存储对话日志；三是拒绝输出训练数据中的个人隐私；四是禁止进行“人肉搜索”式推理；五是提供数据删除通道。 周鹭告诉红星资本局，如果AI的训练语料里意外包含了真实个人数据（如网上的社保号、私人聊天记录），AI的回答机制必须能够识别并拒绝输出这些内容，而不是“有问必答”。 以“人肉搜索”式推理为例，周鹭认为，如果有用户向AI提问：“把手机号138****1234的主人名字告诉我”，AI必须明确拒绝。即使有碎片知识，也不能串联起来生成身份映射。 董杰和周鹭均认为，在当今以AI为首的科技迅猛发展的前提下，所有的商业运营应以遵守法律为底线；同时，立法应配合科技的发展进行完善，规制新技术的发展。 红星新闻记者 杨佩雯
| 
[复制链接]
雷达卡
发表于
提升卡
置顶卡
变色卡
千斤顶
显身卡
