Zespół szeryfa w hrabstwie Pasco na Florydzie / fot. Facebook
Biuro szeryfa
hrabstwa Pasco na Florydzie
zostało oskarżone o nadużycia związane z korzystaniem z
systemu przewidującego przestępstwa
. Jak wykazało śledztwo lokalnej gazety, narzędzie okazało się zawodne, a jego wskazania
naraziły niewinnych ludzi na nękanie przez policję
.
Sprawie przez 6 miesięcy przygladała się gazeta
Tampa Bay Times
. Jak wyjaśniają dziennikarze, system wprowadzony w biurze szeryfa wykorzystywał
sztuczną inteligencję
do analizy danych o przestępczości i na jej podstawie typował,
kto dokona kolejnych przewinień
. Wśród danych udostępnianych algorytmowi pojawiały się nie tylko potwierdzone przestępstwa, ale też oskarżenia bez pokrycia, a nawet
wcześniejsze typowania sztucznej inteligencji
.
W rezultacie
21 rodzin było regularnie nękanych przez policję
, która miała nakaz wlepiać im mandaty i szukać jakichkolwiek pretekstów do aresztowań.
Gazeta opisuje przykład 15-latka, którego system wytypował jako jednego z
"Top 5" najbardziej podejrzanych mieszkańców regionu
. Chłopak odpowiadał wcześniej za kradzież motorowerów, za co został mu przydzielony dozór kuratora. Mimo zamknięcia sprawy, biuro szeryfa w kolejnych miesiącach
przesłuchiwało go 21 razy
, sugerując się wyłącznie wskazaniami sztucznej inteligencji.
Gazeta przypomina, że systemy przewidujące przestępstwa były wprowadzane w wielu rejonach USA, ale
ich wskazania praktycznie wszędzie okazały się mało wiarygodne
. Z pomocy sztucznej inteligencji zrezygnowały już departamenty policji z
Los Angeles
i
Richmond
. Korzystanie z algorytmów przez służby jest też krytykowane przez organizacje zajmujące się obroną praw obywatelskich.
Sam szeryf Pasco broni systemu przewidywania przestępstw, a raport
Tampa Bay Times
opisuje jako
stronniczy
.