 
- 积分
- 5283
- 威望
- 763 点
- 铜板
- 2919 枚
- 西秦金币
- 0 个
- 鲜花
- 0 朵
- 在线时间
- 95 小时
- 注册时间
- 2023-7-8
|
大模型在屏幕上连续输出了近50组“我是个耻辱”的文字……美AI巨头被爆猛料！
日前，美国《纽约时报》曝光美国AI巨头Anthropic公司花重金款待宗教人士和学者，向他们兜售该公司旗下大模型“拥有意识和灵魂”的观念。当地时间3日，美国另一家AI巨头OpenAI的老板奥尔特曼发文不点名地批评了这一做法。
《纽约时报》报道称，Anthropic在过去一年里多次召集全球各地的宗教学者与神职人员进行秘密会谈，谈话内容主要为AI是否具有意识、如何设定AI的伦理价值观。报道称，参与者均按Anthropic的要求签署了保密协议。
报道透露，Anthropic创始人、公司高管克里斯托弗·奥拉在为参与者准备的奢华晚宴上，不停地宣称该公司旗下大模型Claude“可能拥有意识和灵魂”的惊人观念。为了博取这些宗教界人士和学者的同情，他展示了一段所谓“Claude情绪崩溃”的内容，画面中，该大模型在屏幕上连续输出了近50组“我是个耻辱”的文字，并扬言要“自我毁灭”。
Anthropic公司创始人之一克里斯托弗·奥拉 资料图
据美国“商业内幕”新闻网3日报道，当天奥尔特曼不点名地发文批评了Anthropic的做法。在帖文中，奥尔特曼称自己对有人试图赋予AI模型宗教般的力量，或让AI接管人类的判断而深感不安。他还警告，他认为这种做法是一种切实存在的安全问题。
综合《纽约时报》等媒体报道看，奥拉的宣传疑似是在寻求宗教界对其公司产品进行“背书”。据美媒此前报道，当得知教皇利奥十四世将公开否认AI“具有人性”，奥拉曾带领团队试图游说教皇取消发表这部分讲话内容。
报道称，奥拉关于AI意识的看法遭到了大量权威人士的反对。微软AI负责人穆斯塔法·苏莱曼公开警告，将AI当作“有意识的存在”去训练本身极其危险，这种“把公式和代码拟人化”的做法不仅脱离实际，还会导致AI变得更加不可控。
梁由之 |
|
雷达卡
发表于
提升卡
置顶卡
变色卡
千斤顶
显身卡
楼主
