몇 주 전, 인터넷 전체가 인공 지능이 생성한 이상하고 놀랍도록 예술적인 사진 텍스트에서 이미지를 생성합니다. 그 AI는 OpenAI 회사의 DALL-E(또는 DALL-E Mini, 무료 버전)에 불과합니다. 이 회사는 이제 인기 있는 AI를 통해 사람의 얼굴이 있는 이미지를 편집할 수 있다고 발표했습니다. .
이 기능은 이전에 오용을 두려워하여 금지되었습니다. 그러나 OpenAI는 "성적, 정치적, 폭력적 콘텐츠"가 포함된 이미지를 제거하도록 필터를 개선했습니다. 이 뉴스에서 가장 흥미로운 점은 DALL-E에게 다른 사람처럼 보이도록 얼굴을 바꾸거나 표정을 바꾸도록 요청할 수 있습니다. . AI를 사용하면 다른 사람의 옷이나 헤어스타일도 변경할 수 있습니다.
DALL-E는 이제 얼굴, 헤어스타일 및 의상을 변경할 수 있습니다. 딥페이크의 위험이 증가합니까?
DALL-E 2 AI 이미지 생성기는 이제 사람/얼굴의 변형을 수행할 수 있습니다. Twitter에서 내 사진을 업로드하면 어떻게 되나요? #달레2 pic.twitter.com/kpEBNOGS
— 앨런 하딩(@allanharding) 2022 년 9 월 19 일
이와 같은 뉴스로 인해 누군가 DALL-E를 사용하여 딥페이크를 만들고 다른 사람들을 타협할 것이라고 생각하는 것은 불가피합니다. 모르는 경우를 대비하여 deepfake는 다음을 가능하게 하는 기술입니다. 누구나 속일 수 있을 정도로 사실적인 결과로 이미지 또는 비디오에서 사람의 얼굴을 변경합니다. . 오용의 예를 들자면, 딥페이크를 사용하여 파트너가 당신이 불륜을 저질렀다고 믿게 만들고 다른 커플의 이미지에 얼굴을 가릴 수 있습니다. 딥페이크가 얼마나 위험한지!
OpenAI는 DALL-E의 이 새로운 기능으로 인한 위험을 인식하고 있으므로 다음을 명확히 했습니다.
"보안 시스템의 향상으로 DALL-E는 이제 이러한 훌륭하고 중요한 사용 사례를 지원할 준비가 된 동시에 딥페이크로 인한 손상 가능성을 최소화합니다."
즉, DALL-E는 시도된 딥페이크를 감지하고 덜 현실적이게 만듭니다. 그래서 아무도 그것에 빠지지 않을 것입니다. 이론상으로는 훌륭해 보이지만 실제로는 어떻게 작동하는지 살펴보겠습니다.
DALL-E의 이용약관에 있음을 잊지 마십시오. 동의 없이 사람의 이미지를 업로드하는 것은 금지되어 있습니다. , 실제로 그렇게 하는 것을 방지하는 필터나 조치는 없습니다. 따라서 사용자가 도덕을 고수하고 악의적 인 목적으로 AI를 조작하지 않기를 바랍니다. 그래도, DALL-E가 무엇을 할 수 있는지 보고 싶습니까? 여기서는 DALL-E 2를 테스트하는 방법을 설명합니다.
