För några veckor sedan fylldes hela Internet av konstiga och överraskande konstnärliga foton genererade av en artificiell intelligens som skapar bilder från text. Den AI är varken mer och inget mindre än DALL-E (eller DALL-E Mini, dess gratisversion) från företaget OpenAI, som just har gått ut med ett uttalande som tillkännager att det nu är möjligt att redigera bilder med mänskliga ansikten genom sin populära AI .
Den här funktionen var tidigare förbjuden av rädsla för missbruk. Men OpenAI har förbättrat sina filter för att ta bort bilder med "sexuellt, politiskt och våldsamt innehåll". Det mest intressanta med den här nyheten är att du kommer att bli det kunna be DALL-E att ändra ansiktet på en person så att den ser ut som en annan eller att ändra dess uttryck . AI:n låter dig också byta någons kläder eller frisyr.
DALL-E kan nu byta ansikten, frisyrer och outfits, ökar det risken för deepfakes?
DALL-E 2 AI-bildgeneratorn kan nu göra variationer av människor/ansikten. Här är vad som händer när jag laddar upp mitt foto från Twitter #från2 pic.twitter.com/kIZpEBNOGS
— Allan Harding (@allanharding) September 19, 2022
Med sådana här nyheter är det oundvikligt att tro att någon kommer att använda DALL-E för att skapa deepfakes och kompromissa med andra människor. Om du inte vet, är deepfake tekniken som låter dig göra det ändra ansiktet på en person i en bild eller video med resultat så realistiska att de kan lura vem som helst . För att ge ett exempel på missbruk kan deepfakes användas för att få din partner att tro att du begår otrohet, sätta ditt ansikte i bilden av ett annat par. Så farligt är deepfakes!
OpenAI är medveten om riskerna med denna nya funktion i DALL-E, så de har klargjort följande:
"Med förbättringar av vårt säkerhetssystem är DALL-E nu redo att stödja dessa underbara och viktiga användningsfall – samtidigt som risken för skador från deepfakes minimeras."
Med andra ord, DALL-E kommer att upptäcka försök till deepfakes och göra dem mindre realistiska så ingen kommer att falla för det. I teorin låter det bra, men vi får se hur det fungerar i praktiken.
Glöm inte det i användarvillkoren för DALL-E det är förbjudet att ladda upp bilder på personer utan deras samtycke , även om det egentligen inte finns något filter eller mått som hindrar dig från att göra det. Låt oss därför hoppas att användarna håller sig till moralen och inte manipulerar AI:n för sina skadliga syften. I alla fall, vill du se vad DALL-E kan? Här förklarar vi hur du testar DALL-E 2.
