Monika Bickert,
wiceprezes
i dyrektor ds. zarządzania polityką globalną
Facebooka
poinformowała, że firma
planuje usuwać nagrania stworzone za pomocą technologii deepfake
, czyli te zmanipulowane bądź stworzone przy użyciu sztucznej inteligencji.
Wszystko po to, by ograniczyć możliwości podszywania się pod inne osoby.
Wyjątkiem mają być treści satyryczne.
Bickert poinformowała także, że w grudniu Facebook usunął ze swojej platformy sieć kont zaangażowanych w tworzenie i wykorzystywanie
fałszywych materiałów graficznych generowanych z użyciem sztucznej inteligencji.
Użytkownicy tworzyli je po to, by ukryć swoją tożsamość. Za pomocą tych kont miały angażować się w skoordynowane operacje dezinformacyjne.
Za kluczowe działania w walce z fałszywymi treściami uznano współpracę z ponad
50 ekspertami z całego świata z doświadczeniem z różnych branż
- technologicznej, politycznej, mediów, prawnej, publicznej i akademickiej.
Wiadomo, że po wykryciu przez narzędzie sprawdzające treści fałszywych automatycznie zostanie ograniczona jego dystrybucja w kanale wiadomości. Jeśli fałszywa treść będzie płatną reklamą, zostanie ona odrzucona i nie będzie wyświetlana. Tego typu treści mają być także oznaczone jako informacje nieprawdziwe.
Wiceprezes Facebooka podkreśliła także, że
materiały deepfake są szczególnie trudne do wykrycia.
Jednak by ułatwić ten proces Facebook we wrześniu 2019 roku ogłosił wyzwanie dla naukowców -
Deep Fake Detection Challenge,
które ma zachęcić do tworzenia narzędzi, które wykrywałby tego typu materiały. Projekt wspierany jest grantami w wysokości 10 milionów dolarów.