几周前，整个互联网都充斥着 由人工智能生成的奇怪而令人惊讶的艺术照片 从文本创建图像。 AI 无非就是 OpenAI 公司的 DALL-E（或 DALL-E Mini，它的免费版本），该公司刚刚发表声明，宣布现在可以通过其流行的 AI 编辑带有人脸的图像.
由于担心滥用，此功能以前被禁止。 然而，OpenAI 改进了他们的过滤器，以删除带有“性、政治和暴力内容”的图像。 这条新闻最有趣的是，你将 能够要求 DALL-E 改变一个人的脸，使其看起来像另一个人或改变其表情 . 人工智能还可以让你改变某人的衣服或发型。
DALL-E 现在可以改变面孔、发型和服装，是否会增加深度伪造的风险？
DALL-E 2 AI 图像生成器现在可以对人/脸进行变化。 这是我从 Twitter 上传照片时发生的情况 #from2 pic.twitter.com/kIZpEBNOGS
—艾伦·哈丁（@allanharding） 2022 年 9 月 19 日
有了这样的消息，不可避免地会想到有人会使用 DALL-E 制造深度伪造并危害他人。 如果你不知道，deepfake 是一种让你 改变图像或视频中的人脸，效果如此逼真，以至于他们可以欺骗任何人 . 举一个滥用的例子，deepfakes 可以用来让你的伴侣相信你在不忠，把你的脸放在另一对夫妇的形象中。 这就是深度伪造的危险！
OpenAI 意识到 DALL-E 的这一新功能带来的风险，因此他们澄清了以下内容：
“随着我们安全系统的增强，DALL-E 现在已准备好支持这些可爱而重要的用例——同时最大限度地减少深度伪造造成的损害的可能性。”
换言之， DALL-E 将检测尝试的深度伪造并降低它们的真实性 所以没有人会爱上它。 从理论上讲，这听起来不错，但我们将在实践中看到它是如何工作的。
不要忘记在 DALL-E 的使用条款和条件中 未经他人同意，禁止上传人物图片 ，尽管实际上没有任何过滤器或措施可以阻止您这样做。 因此，我们希望用户坚守道德，不要为恶意目的操纵人工智能。 反正， 你想看看DALL-E有什么能力吗？ 这里我们解释如何测试 DALL-E 2。
