For et par uger siden var hele internettet fyldt med mærkelige og overraskende kunstneriske billeder genereret af en kunstig intelligens der skaber billeder ud fra tekst. At AI er intet mere eller intet mindre end DALL-E (eller DALL-E Mini, dens gratis version) fra firmaet OpenAI, som netop har udsendt en erklæring, der annoncerer, at det nu er muligt at redigere billeder med menneskelige ansigter gennem sin populære AI .
Denne funktion var tidligere forbudt af frygt for misbrug. OpenAI har dog forbedret deres filtre for at fjerne billeder med "seksuelt, politisk og voldeligt indhold". Det mest interessante ved denne nyhed er, at du bliver det i stand til at bede DALL-E om at ændre ansigtet på en person, så det ligner en anden eller at ændre sit udtryk . AI'en vil også give dig mulighed for at ændre nogens tøj eller frisure.
DALL-E kan nu skifte ansigter, frisurer og outfits, øger det risikoen for deepfakes?
DALL-E 2 AI-billedgeneratoren kan nu lave variationer af personer/ansigter. Her er, hvad der sker, når jeg uploader mit billede fra Twitter #fra2 pic.twitter.com/kIZpEBNOGS
— Allan Harding (@allanharding) September 19, 2022
Med nyheder som denne er det uundgåeligt at tro, at nogen vil bruge DALL-E til at skabe deepfakes og kompromittere andre mennesker. Hvis du ikke ved det, er deepfake den teknik, der giver dig mulighed for det ændre ansigtet på en person i et billede eller en video med resultater så realistiske, at de kan narre enhver . For at give et eksempel på misbrug kan deepfakes bruges til at få din partner til at tro, at du begår utroskab, og sætte dit ansigt i billedet af et andet par. Så farligt er deepfakes!
OpenAI er klar over de risici, som denne nye funktion i DALL-E udgør, så de har præciseret følgende:
"Med forbedringer til vores sikkerhedssystem er DALL-E nu klar til at understøtte disse dejlige og vigtige use cases - samtidig med at risikoen for skade fra deepfakes minimeres."
Med andre ord, DALL-E vil opdage forsøg på deepfakes og gøre dem mindre realistiske så ingen vil falde for det. I teorien lyder det godt, men vi får se, hvordan det fungerer i praksis.
Glem ikke det i vilkårene og betingelserne for brug af DALL-E det er forbudt at uploade billeder af personer uden deres samtykke , selvom der reelt ikke er noget filter eller mål, der forhindrer dig i at gøre det. Lad os derfor håbe, at brugerne vil holde fast i moralen og ikke manipulere AI'en til deres ondsindede formål. Alligevel, vil du se, hvad DALL-E er i stand til? Her forklarer vi, hvordan du tester DALL-E 2.
