fot. YouTube
Eksperci od cyberbezpieczeństwa
z firmy
McAfee
udowodnili, że nowoczesne systemy rozpoznawania twarzy nie są nieomylne. Ich eksperyment stawia pod znakiem zapytania skuteczność rozwiązań stosowanych między innymi na lotniskach.
Badacze posłużyli się algorytmem CycleGAN, który umożliwia
"morfowanie" obrazków
. Oprogramowanie może zamienić zebrę w konia albo wygenerować śnieg na zdjęciu zazielenionych zboczy gór.
Eksperci podsunęli algorytmowi 1500 różnych zdjęć siebie i rozpoczęli proces morfowania. Generując
setki obrazków łączących ich twarze
, sprawdzali, kogo widział na nich system rozpoznawania twarzy. Ostatecznie udało im się stworzyć zdjęcie osoby, która na ludzkie oko wyglądała jak mężczyzna A, ale które sztuczna inteligencja rozpoznawała jako mężczyznę B.
Eksperyment McAfee udowadnia, że stosowana obecnie sztuczna inteligencja na umiejętnie zmodyfikowanym zdjęciu może
rozpoznać kogoś zupełnie innego
.
- Jeśli bezmyślnie zastąpimy "ludzki" system sztuczną inteligencją i nie poddamy jej żadnej weryfikacji, możemy uzyskać
o wiele mniej skuteczne rozwiązanie
niż na początku - ostrzega jeden z autorów eksperymentu,
Steve Povolny
.
fot. McAfee