OpenAI的新工具可以识别假图片，但有一个注意事项| ENBLE

OpenAI推出的新工具能够识别虚假图片，但需要注意以下内容 | ENBLE

最近几个月，由人工智能（AI）生成的图像引起了很多不安，人们可以理解地担心它们可能被用来传播虚假信息并欺骗公众。现在，ChatGPT制造商OpenAI显然正在开发一种可以以99%的准确率检测AI生成图像的工具。

据《彭博新闻》报道，OpenAI的工具旨在查找由其自家的Dall-E 3图像生成器创建的用户制作的图片。在《华尔街日报》的Tech Live活动上，OpenAI首席技术官Mira Murati声称该工具“可靠率高达99%”。虽然该技术正在内部测试中，但尚无发布日期。

如果OpenAI的声称与实际相符，它可能能够让公众了解到他们看到的图像是真实的还是由AI生成的。然而，OpenAI似乎没有透露这个工具如何向人们发出AI图像的警报，无论是使用水印、文本警告还是其他形式。

值得注意的是，该工具只设计用于检测Dall-E图像，并可能无法发现由竞争对手Midjourney、Stable Diffusion和Adobe Firefly生成的伪造图像。这可能会限制其在大局中的有用性，但任何能够揭示伪造图像的工具都可能产生积极影响。

OpenAI过去推出的工具旨在检测其自家聊天机器人和生成器创建的内容。早在2023年初，该公司发布了一款据称可以检测由ChatGPT生成的文本的工具，但在不久之后就被撤回，因为OpenAI承认其精度极低。

除了这个新的图像检测工具，OpenAI还讨论了该公司降低ChatGPT“幻觉”倾向（即说胡话和虚构信息）的努力。Murati说：“在GPT-4上，我们在幻觉问题上取得了很大的进展，但还没有达到我们的目标。”这表明GPT-5的工作——ChatGPT基础模型GPT-4模型的后续工作已经进行得很顺利。

2023年3月，一群科技领袖签署了一封公开信，请求OpenAI暂停开发比GPT-4更强大的任何东西，否则可能对社会和人类带来“深远的风险”。看起来这个要求并没有得到重视。

OpenAI的这个新工具是否比上次那个被取消的工具更有效，还有待观察。毫无疑问，在明显的风险下，开发工作仍在快速进行。