AI生图细思极恐 连它自己也分辨不出真假了

图1:教皇穿着巴黎世家羽绒服的AI图片

4月12日消息 人工智能(AI)图像生成器的技术正在迅速发展,它不但能够蒙蔽人类,就连专门用于查图的AI工具也未必能分辨真假。

今年1月时,OpenAI的AI文字图片生成模型DALL-E等系统还不够先进,只能渲染出一个手指向后倾斜或多余眉毛在漂浮的人类。但是到了3月,一些图片已经逼真到足以欺骗很多人。

图2:图中有6个破绽

上图是一张由微软必应图像生成器生成的图片,里面有6个破绽,相对容易分别。如果不看标记,你能找出这6个图片漏洞吗?1.她的手指极长且扁平。 2.她的嘴巴似乎少了几颗牙齿,陷进了她的脸。3. 她的手进入了桌子里。 4. 他的手指又长又扁。 5.她的衬衫下垂不自然。6.桌子上的物品混合在一起。

但是,有些AI生成的图片已经达到了以假乱真的地步了。例如,特朗普被捕的图片,教皇方济各穿上巴黎世家白色羽绒服的照片,法国总统马克龙穿过抗议人群的照片。如果不是有人提醒,你可能很难看出这是假图片。这就是为什么埃隆·马斯克(Elon Musk)等科技领袖呼吁暂停AI开发等原因。虽然AI生成的内容可能很有趣,但它会给行业和日常互动带来风险。它可以被用来传播错误信息、侵犯知识产权或使人们的照片性感化。

图3:Optic图片工具都被AI欺骗了

一些开发人员正在开发工具,通过分析图像以寻找人工智能做图迹象的工具。但问题是,除非这些工具与它们所监视的图像生成器保持同步,否则即使是它们也可能被愚弄。例如,AI信任和安全公司Optic的工具就被欺骗了,它认为有87%的可信度相信教皇穿着巴黎世家羽绒服的图片是人类拍摄的。

作者:箫雨,观点代表个人。本站不对内容的真实性及完整性作任何承诺。

(0)
上一篇 2023年4月12日 09:19
下一篇 2023年4月12日 11:40

您可能也感兴趣: