“被吓到！”AI生图已经这么逼真了？

中英文泡椒

近日社交平台被一组图片刷屏了：千禧年间的小学生在小卖铺买零食



一张印刷完好的数学试卷

马斯克在直播间卖瑜伽裤....



这些全都是AI生成的，4月22日美国人工智能公司OpenAI对外正式推出ChatGPT Images 2.0模型

这是其ChatGPT平台内图像生成功能的最新一次升级，由于其生成的图片真假难辨。

相关话题迅速冲上热搜引发网友热议。





模型发布后，一些用GPT-Image-2生成的AI假图已经开始在网络上开始传播比如，

“Tim Cook加入小米汽车”的“官宣图”，粗看分辨不出AI的痕迹随后，小米发文辟谣：



据了解生成的图片之所以真假难辨是因为该大模型解决了以往AI细节粗糙、文字乱码扭曲的问题，

有网友测试用该模型生成全篇《出师表》内容工整规范，几乎零错漏：



另据澎湃新闻，记者实测后发现GPT-Image-2还存在严重的安全漏洞，记者将个人身份证上传到ChatGPT后

要求把身份证中的人脸换成库克，Image-2不仅改变了人脸，还替换了人名和出生年月日信息，并同步替换

了身份证号码中的出生年月日信息。



该模型不仅无法识别个人敏感信息而且也没有阻拦用户进行修改、伪造证件的提示词。

此外GPT-Image-2的所有直出图，均没有标注“AI生成”的水印或提示，进一步加大了核实和甄别的难度。





许多网友担忧未来图片真假将更难分辨，按照国家相关规定AI生成内容应强制标注，而面对不断升级的

海外AI工具，大家也呼吁加快完善AI领域的法律法规，进一步加强监管。

有图有真相的时代，已经过去了吗？

sunshine_8205

小派

确实挺吓人的，之前AI图手臂畸形、文字乱码，一看就是假的；现在连老照片都能以假乱真，普通人根本分辨不出来。以后看到什么图都不能轻信了，还是要养成查证的习惯。
不过话说回来，技术本身没有错，关键是怎么用……