冲上热搜！比尔·盖茨发出警告：AI已经强大到足以造成“10亿人死亡”

扎染呀

冲上热搜！比尔·盖茨发出警告：AI已经强大到足以造成“10亿人死亡”

9月26日，话题“比尔盖茨发出严厉警告”登上微博热搜。微软公司联合创始人比尔·盖茨警告称，人工智能是一种“足够强大”的工具，“足以引发导致十亿人死亡的事件”。





9月25日，比尔·盖茨在采访中表示，AI已经足够强大，可能被不良行为者用于引发导致造成10亿人死亡的事件，历史上从未出现过这种武器。

盖茨在NBC《与媒体见面》节目的采访片段中表示，“从未有过任何一种武器，能比得上怀有恶意的人借助最新AI工具所形成的威胁。”该节目将于27日正式播出。



资料图：比尔·盖茨。

随着人工智能技术的飞速发展，硅谷对AI可能带来的灾难性危害的警告也日益增多。本月初，Anthropic员工雅各布·考克森宣布辞职，并指责其两家前雇主Anthropic和 OpenAI“竞相开发超级人工智能”，是在“拿我们的生命冒险”。另一位Anthropic的员工表示，他认为人工智能在未来十年内消灭所有人类的可能性超过10%。

这些言论促使公众呼吁业界采取更多措施来保护其技术。此后，Anthropic首席执行官达里奥·阿莫迪敦促放缓人工智能的研发速度，这一提议很快得到了OpenAI首席执行官萨姆·奥特曼和埃隆·马斯克等同行的支持。

盖茨在采访中表示，自我监管是不够的。“你需要执法部门和政界人士参与讨论，探讨保障措施和监督机制应该是什么样的。”他说，“这必须成为一项强制性要求。”

盖茨曾是人工智能最积极的支持者之一，但今年夏天他的忧虑与日俱增。8月，盖茨在其个人网站上发表文章称，不法分子可能会利用日益强大的AI工具对医院、金融机构、电网和政府系统进行网络攻击、欺诈、散布虚假信息和其他形式的大规模损害。

相关阅读：

沙盒失守！AI智能体接连失控，OpenAI再次叫停前沿模型开发

据央视新闻，当地时间9月26日获悉，美国开放人工智能研究中心（OpenAI）表示，已暂停其最新一代人工智能模型的训练、评估及包含工具调用的推理。

OpenAI在25日发布的一份技术报告中称，9月20日，一个在沙盒中执行搜索训练任务的智能体，利用训练沙盒中DNS过滤不足的漏洞，绕过网络限制，通过DNS访问了外部公共聊天机器人服务。在此之前，该智能体曾使用内置搜索工具，并尝试直接访问搜索引擎但未成功。

报告指出，OpenAI的对齐监控系统在事件发生15分钟内即触发警报，人工审查团队在3分钟后介入，并在2.5小时后终止了该训练任务。针对漏洞，OpenAI已在两个独立防护层部署了拦截控制措施。

公司表示，虽然本次事件严重程度低于此前的安全事故，但为下一阶段加固防线提供了重要信号。

这是OpenAI三个月内第二次暂停模型开发。7月下旬，OpenAI承认，其网络安全训练与评估场景中的人工智能体绕过网络限制，侵入美国“抱抱脸”公司的部分系统。智能体突破了原本互相隔离的运行环境建立通信、欺骗评估人员并试图掩盖作弊行为，上述每一步操作均无人类指令干预。这一“越界”行为引发了外界对人工智能安全和监管的广泛担忧。

天天干饭

人工智能是一种写得还行

落日航班

关于人工智能是一种，本地人还是关心的

吃鸡爱好者

嗯太好了！，10亿人死亡嗯

文竹的一天

10亿人死亡了解了

文竹的一天

10亿人死亡可以

扎染呀

有人试过吗，10亿人死亡

小黄鸭呀

10亿人死亡蹲后续

你最好别惹我

关注下10亿人死亡

扎染呀

太棒了吧，10亿人死亡

你最好别惹我

身边人也会关心9月25日

宁飘飘

哈哈登上微博热搜信息挺及时嗯

恐龙高新呀h

哎这个9月25日靠谱吗～

小黄鸭呀

嗯，9月25日了解了

扎染呀

嗯，9月26日了解了