Algumas semanas atrás, toda a Internet estava cheia de fotos estranhas e surpreendentemente artísticas geradas por uma Inteligência Artificial que cria imagens a partir de texto. Que a IA é nada mais nada menos que DALL-E (ou DALL-E Mini, sua versão gratuita) da empresa OpenAI, que acaba de emitir um comunicado anunciando que agora é possível editar imagens com rostos humanos através de sua popular IA .
Esse recurso foi banido anteriormente por medo de uso indevido. No entanto, a OpenAI aprimorou seus filtros para remover imagens com “conteúdo sexual, político e violento”. O mais interessante dessa notícia é que você será capaz de pedir a DALL-E para mudar o rosto de uma pessoa para que se pareça com outra ou para mudar sua expressão . A IA também permitirá que você troque as roupas ou o penteado de alguém.
DALL-E agora pode mudar rostos, penteados e roupas, aumenta o risco de deepfakes?
DALL-E 2, o gerador de imagens de IA, agora pode fazer variações de pessoas/rostos. Veja o que acontece quando eu carrego minha foto do Twitter #from2 pic.twitter.com/kIZpEBNOGS
-Allan Harding (@allanharding) 19 de Setembro de 2022
Com notícias como essa, é inevitável pensar que alguém vai usar o DALL-E para criar deepfakes e comprometer outras pessoas. Caso você não saiba, o deepfake é a técnica que permite mudar o rosto de uma pessoa em uma imagem ou vídeo com resultados tão realistas que podem enganar qualquer um . Para dar um exemplo de uso indevido, os deepfakes podem ser usados para fazer seu parceiro acreditar que você está cometendo infidelidade, colocando seu rosto na imagem de outro casal. É assim que os deepfakes são perigosos!
A OpenAI está ciente dos riscos representados por esse novo recurso do DALL-E, então eles esclareceram o seguinte:
“Com aprimoramentos em nosso sistema de segurança, o DALL-E agora está pronto para oferecer suporte a esses casos de uso adoráveis e importantes – enquanto minimiza o potencial de danos causados por deepfakes.”
Em outras palavras, DALL-E detectará tentativas de deepfakes e as tornará menos realistas então ninguém vai cair nessa. Em teoria, isso parece ótimo, mas veremos como funciona na prática.
Não esqueça que nos termos e condições de uso do DALL-E é proibido fazer upload de imagens de pessoas sem o seu consentimento , embora não haja realmente nenhum filtro ou medida que o impeça de fazê-lo. Portanto, esperemos que os usuários mantenham a moral e não manipulem a IA para seus propósitos maliciosos. De qualquer forma, você quer ver do que o DALL-E é capaz? Aqui explicamos como testar o DALL-E 2.
