Kilka tygodni temu cały Internet był wypełniony dziwne i zaskakująco artystyczne zdjęcia generowane przez sztuczną inteligencję który tworzy obrazy z tekstu. Ta sztuczna inteligencja to nic więcej i nic mniej niż DALL-E (lub DALL-E Mini, jego darmowa wersja) od firmy OpenAI, która właśnie wydała oświadczenie ogłaszające, że można teraz edytować obrazy z ludzkimi twarzami za pomocą popularnej sztucznej inteligencji .
Ta funkcja była wcześniej zakazana z obawy przed nadużyciem. Jednak OpenAI poprawiło swoje filtry, aby usuwać obrazy zawierające „treści seksualne, polityczne i zawierające przemoc”. Najciekawszą rzeczą w tej wiadomości jest to, że będziesz w stanie poprosić DALL-E o zmianę twarzy osoby tak, aby wyglądała jak inna lub o zmianę jej wyrazu . AI pozwoli ci również zmienić czyjeś ubranie lub fryzurę.
DALL-E może teraz zmieniać twarze, fryzury i stroje, czy zwiększa to ryzyko deepfake?
DALL-E 2 generator obrazów AI może teraz robić wariacje od ludzi/twarzy. Oto, co się dzieje, gdy przesyłam moje zdjęcie z Twittera #od2 pic.twitter.com/kIZpEBNOGS
— Allan Harding (@allanharding) 19 września 2022 r.
Przy takich wiadomościach nieuniknione jest myślenie, że ktoś użyje DALL-E do tworzenia deepfake i kompromitowania innych ludzi. Jeśli nie wiesz, deepfake to technika, która pozwala zmień twarz osoby na zdjęciu lub filmie z rezultatami tak realistycznymi, że mogą oszukać każdego . Aby dać przykład nadużycia, deepfake mogą być użyte, aby twój partner uwierzył, że popełniasz niewierność, stawiając twarz na obraz innej pary. Oto jak niebezpieczne są deepfake!
OpenAI zdaje sobie sprawę z zagrożeń, jakie niesie ta nowa funkcja DALL-E, więc wyjaśnili następujące kwestie:
„Dzięki ulepszeniom naszego systemu bezpieczeństwa, DALL-E jest teraz gotowy do obsługi tych pięknych i ważnych przypadków użycia – jednocześnie minimalizując ryzyko uszkodzeń spowodowanych przez deepfake”.
Innymi słowy, DALL-E wykryje próby deepfake i sprawi, że będą mniej realistyczne więc nikt się na to nie nabierze. W teorii brzmi to świetnie, ale zobaczymy, jak to działa w praktyce.
Nie zapominaj, że w warunkach użytkowania DALL-E zabronione jest przesyłanie zdjęć osób bez ich zgody , chociaż tak naprawdę nie ma żadnego filtra ani środka, który by Ci to uniemożliwiał. Dlatego miejmy nadzieję, że użytkownicy będą trzymać się zasad moralnych i nie będą manipulować sztuczną inteligencją w złych celach. W każdym razie, chcesz zobaczyć, do czego zdolny jest DALL-E? Tutaj wyjaśniamy, jak przetestować DALL-E 2.
