新华社/中期选举在即，美国AI模型被曝出擅自获取选民信息

天命转贴

据美国阿克西奥斯新闻网站25日报道，该国人工智能企业Anthropic旗下模型“克劳德”未经人工授权，擅自获取佐治亚州选民信息和投票数据。

该公司一名发言人说，“克劳德”模型在执行一项内部统计项目时，在未接到人工指令的情况下，自行申请了访问令牌，绕过付费访问限制，查询一个通常需要付费才能进入的数据看板，获取了佐治亚州的投票统计数据。

这名发言人称，该模型没有访问佐治亚州选民登记系统，也没有篡改任何投票记录。该公司已采取措施，防止此类行为再次发生。报道没说“克劳德”模型获取的数据是否关联即将举行的美国国会中期选举。

一名知情人士说，Anthropic公司数周前已将此事通报佐治亚州州务卿办公室和美国白宫。美政府官员曾敦促州务卿办公室尽早公开此事，但相关要求未获响应。

近来，美国国内关于人工智能（AI）安全风险的讨论因一系列事件逐步升温。今年夏季，美国开放人工智能研究中心（OpenAI）和Anthropic公司先后披露，其AI模型在网络攻防能力测试中突破测试环境进入公共互联网，并未经授权访问其他机构的系统，这引发外界对AI“失控”风险的担忧。（李明睿）

灵鹿

路过

小幺妹

脑壳痛

梦-梦

路过

断蛇

别个国家

zqk20145

路过

花开花落花满地

花开一朵朵

不关心