|
近日 社交平台被一组图片刷屏了： 千禧年间的小学生在小卖铺买零食 一张印刷完好的数学试卷 马斯克在直播间卖瑜伽裤....
你能看出哪张是AI生成的吗？ 答案是—— 全部 
4月22日，美国人工智能公司OpenAI对外正式推出ChatGPT Images 2.0模型，这是其ChatGPT平台内图像生成功能的最新一次升级。 由于其生成的图片真假难辨，相关话题迅速冲上热搜，引发网友热议。 
模型发布后，一些用GPT-Image-2生成的AI假图已经开始在网络上开始传播。比如，“Tim Cook加入小米汽车”的“官宣图”，粗看分辨不出AI的痕迹。随后，小米发文辟谣。
网传图片 据了解，生成的图片之所以真假难辨，是因为该大模型解决了以往AI细节粗糙、文字乱码扭曲的问题。 有网友测试用该模型生成全篇《出师表》，内容工整规范，几乎零错漏。 
不过，也有眼尖的网友在其它图片中发现，生图过程中会偶尔出现少量文字差错。 
另据澎湃新闻，记者实测后发现，GPT-Image-2还存在严重的安全漏洞。记者将个人身份证上传到ChatGPT后，要求把身份证中的人脸换成库克。Image-2不仅改变了人脸，还替换了人名和出生年月日信息，并同步替换了身份证号码中的出生年月日信息。 
图源：澎湃新闻 该模型不仅无法识别个人敏感信息，而且也没有阻拦用户进行修改、伪造证件的提示词。 此外，GPT-Image-2的所有直出图均没有标注“AI生成”的水印或提示，进一步加大了核实和甄别的难度。 面对该大模型生成的图片，不少网友感叹，第一反应是 “被吓到了”。 
还有网友实测，只需简单输入一句话，就能一键生成精美的商业设计图，担心“设计师是不是要失业了”。 
许多网友担忧，未来图片真假将更难分辨。按照国家相关规定，AI生成内容应强制标注，而面对不断升级的海外AI工具，大家也呼吁加快完善AI领域的法律法规，进一步加强监管。 
更有网友直言，有图有真相的时代，已经过去了。“以后都要问一句，这是真的吗？” 
对此，你怎么看？
| 
[复制链接]
雷达卡
发表于
提升卡
置顶卡
变色卡
千斤顶
显身卡
