Facebook chce
nauczyć swoją sztuczną inteligencję, jak rozpoznawać deepfake wygenerowane przez cudzą sztuczną inteligencję
. W tym celu zbudował bazę
100 tysięcy klipów
wykorzystujących wizerunki 3426 aktorów i szeroki wybór technik "przeklejania" twarzy.
Jak twierdzi dyrektor IT Facebooka,
Mike Schroepfer
, projekt ma charakter prewencyjny.
- Deepfake’i póki co nie są poważnym problemem. W minionych latach dotkliwie przekonałem się jednak, by
działać, zanim będzie za późno
. Wolę być świetnie przygotowany na rzeczy, które nigdy nie nadejdą, niż na odwrót - powiedział w rozmowie z MIT Technology Review.
Według opublikowanego w październiku zeszłego roku raportu firmy zajmującej się cyberbezpieczeństwem,
DeepTrace Labs
, w ciągu 7 miesięcy w sieci pojawiło się
15 tysięcy deepfake’ów
. 96% z nich stanowiło filmy dla dorosłych z przeklejonymi twarzami innych ludzi. Raport wskazuje, że nie wykryto do tej pory prób wykorzystania takich klipów w ramach kampanii dezinformacyjnych.
Jak informuje MIT Technology Review, Facebook w ramach przeciwdziałania deepfake’om wyłonił też zwycięzcę konkursu Deepfake Detection Challenge. Wśród
35 tysięcy nadesłanych modeli AI
niektóre mają skuteczność na poziomie 60-80%, co wciąż jest niewystarczające. W rozpoznawaniu deepfake’ów nadal
najbardziej skuteczne jest ludzkie oko
, choć dobrze rokują modele sztucznej inteligencji skupiające się na charakterystycznych
"drganiach" między klatkami wygenerowanych klipów
.