字节跳动大模型训练被实习生攻击：损失超千万，涉事者已辞退

菠萝波罗蜜 · 发表于 2024-10-19 16:54:09

10月18日，多个微信群流传一则消息：“某头部大厂的大模型训练被实习生入侵，注入了破坏代码，导致其训练成果不可靠，可能需要重新训练。据称遭到入侵的代码注入了8000多张卡，带来的损失可能超过千万美元。”

据知情人士透露，该头部大厂为字节跳动。此事发生在今年6月，起因是某高校的博士在字节跳动商业化技术团队实习，因对团队资源分配不满，该实习生利用了HF（huggingface）的漏洞，使用攻击代码破坏团队的模型训练任务。目前，该实习生已被辞退。

一位技术安全专家表示，HF漏洞产生肯定是单一性集中训练，此事暴露了字节跳动技术训练存在安全管理问题。公司既没做权限隔离，也没有做好共用代码的审计。正常情况下，每次大的代码变动必须做审计，无论谁做操作都有痕迹记录，一个人想动代码是不可能的。

上述技术安全专家表示，目前行业通用的做法是做三级隔离导向性部署，每一级只有镜像，每次先扫描。调用按次算、必须密钥。每一级完成后，才能进入下一级，而上一级自动删除，进行分级训练。

（综合：界面新闻，济宁新闻网，财联社等）

春暖花开z · 发表于 2024-10-19 19:04:29

ljg0218 · 发表于 2024-10-19 19:07:08

路过

梦里童话 · 发表于 2024-10-19 19:12:09

路过拿币走人

心cun高远 · 发表于 2024-10-19 20:15:19

路过

yongzhesheng · 发表于 2024-10-19 20:36:22

哦哦哦哦哦哦

喻瑜 · 发表于 2024-10-19 20:56:24

坑啊

snowflake · 发表于 2024-10-19 21:28:10

刀风 · 发表于 2024-10-19 23:00:51

不老火 · 发表于 2024-10-20 00:55:52

～凡人不雅～ · 发表于 2024-10-20 06:25:01

路过

平淡人生不平淡 · 发表于 2024-10-20 06:32:14

路过

廖思俊 · 发表于 2024-10-20 06:53:36

路过

莹莹家 · 发表于 2024-10-20 07:00:21

管理漏洞

我就是我 · 发表于 2024-10-20 07:06:09

路过

		自动登录	找回密码
密码			立即注册

[盐都杂谈] 字节跳动大模型训练被实习生攻击：损失超千万，涉事者已辞退