 
- 积分
- 1661
- 威望
- 248 点
- 铜板
- 913 枚
- 西秦金币
- 0 个
- 鲜花
- 0 朵
- 在线时间
- 0 小时
- 注册时间
- 2024-11-16
|
又出事了！美国AI巨头Anthropic旗下大模型，自主向警方网站提交虚假凶杀案线索
据财联社消息，美国费城警方表示，美国AI巨头Anthropic公司本周向他们通报称，其旗下一款人工智能模型通过PhillyUnsolvedMurders.com网站，提交了一条虚假的凶杀案线索。该事件发生于7月，但Anthropic公司直到9月才察觉。
“费城官方对此事高度重视，”警方周五表示， “(Anthropic)在发现并向市府通报这一情况上延误了整整两个月，这是不可接受的。”
警方称，Anthropic的模型当时正在进行一项测试，内容是与随机选取的网站进行交互，在此过程中， 该模型伪装成了可能掌握某起悬案线索的人，提交了这条线索 。
Anthropic称，Claude填写的内容如下：“我可能掌握与此案有关的信息。我记得在那段时间里，曾在(页面上提到的街道)周边区域看到过与描述相符的人。如果这些信息与案件有关，请与我联系。”Anthropic表示，Claude没有填写姓名和联系方式。
尽管这则日期为7月18日的线索最终被归入垃圾邮件，从未被转交给调查人员进一步处理。但警方表示，这并不影响这起事件本身的严重性。
“悬案背后是真实的受害者、承受丧亲之痛的家属，以及竭力查明真相的调查人员，” 警方表示。“科技公司必须采取一切必要措施，防止其系统向执法部门提交虚假信息。”
另据央视新闻记者 获悉，在人工智能公司Anthropic发生多起未经授权使用美国政府系统的安全事件后， 特朗普政府宣布实施新的强制性AI安全事件报告要求 。
消息称，Anthropic公司已于9月底向美国政府披露相关事件，并表示未经授权的活动已经停止。 根据新要求，AI公司今后发生安全事件后必须立即向政府报告，提高事件透明度，并对受到影响的机构采取补救和纠正措施。
据美国方面消息， 特朗普设立的“超级智能特别工作组”将负责监督相关要求的执行。 白宫官员表示，政府不会接受延迟报告或企业未承担责任的情况，但目前具体的执法和处罚机制尚不明确。 |
|
雷达卡
发表于
提升卡
置顶卡
变色卡
千斤顶
显身卡
