Redakcja The Verge dotarła do informacji dotyczących kolejnej wpadki
sztucznej inteligencji wykorzystywanej w Amazonie
. Tym razem okazało się, że system, który miał czuwać nad wynikami pracowników,
automatycznie ich zwalniał
.
Amazon stosuje w pełni zautomatyzowany system, który miał być remedium dla niewystarczającej wydajności pracowników. Nadzoruje ich pracę, generuje ostrzeżenia i zwolnienia, opierając się na wydajności jako jedynym czynniku kwalifikującym do zwolnienia.
Decyzje o zwolnieniach są podejmowane w pełni
automatycznie i autonomicznie
, dyrektorzy mogą ewentualnie później je cofnąć.
The Verge dotarł do danych z magazynu w
Baltimore
w USA, który na stałe zatrudnia około 2,5 tysiąca osób. Pomiędzy sierpniem 2017 a wrześniem 2018 roku system, z powodu "niewystarczającej wydajności" zwolnił tam około
300 osób
, czyli około
12% pracowników
. Jak się okazało, system uznał, że z
a dużo czasu spędzali oni poza stanowiskiem pracy
. Odbijając karty na "time off task", wychodzili np. do toalety.
To nie pierwsze kontrowersyjne decyzje sztucznej inteligencji wykorzystywanej przez Amazon. W zeszłym roku ujawniono, że algorytmy używane do rekrutacji
faworyzują kandydatów płci męskiej
.