MIT Technology Review informuje, że powstało
nowe narzędzie
, które pozwala
artystom
dodawać niewidoczne gołym okiem
zmiany w ich dziełach
, dzięki którym będą mogli przesłać je do internetu bez obawy, że
bez ich zgody wykorzysta je sztuczna inteligencja.
Dzięki nowemu narzędziu
Nightshade
, jeśli praca z wprowadzonymi zmianami zostanie wrzucona do zestawu szkoleniowego AI, może ona spowodować chaotyczne i nieprzewidywalne uszkodzenia modelu. Narzędzie zmienia piksele obrazów w subtelny sposób, który jest niewidoczny dla ludzkiego oka, ale jednocześnie
manipuluje modelami uczenia maszynowego
, aby zinterpretować obraz, jako coś innego niż jest w rzeczywistości.
Nightshade ma służyć do walki z firmami zajmującymi się sztuczną inteligencją, które wykorzystują prace artystów do szkolenia swoich modeli bez zgody twórcy.
Ben Zhao, profesor na Uniwersytecie w Chicago, który kierował zespołem, pracującym nad Nightshade, mówi, że ma nadzieję, że pomoże twórcom, którzy muszą walczyć z firmami budującymi sztuczną inteligencję. Nightshade ma odstraszać właścicieli firm zajmujących się AI od lekceważenia praw autorskich i własności intelektualnej artystów.