Replika to chatbot oparty na sztucznej inteligencji, który pozwala na
budowanie relacji z użytkownikiem
. Subskrybenci programu płacili za usługę 69,99 dolarów rocznie, a w zamian mogli od zera stworzyć swojego wirtualnego przyjaciela czy partnera.
Aplikacja była reklamowana jako wsparcie w kryzysie psychicznym, jednak użytkownicy głównie oczekiwali od chatbota relacji romantycznej. Z czasem pojawiły się oskarżenia, że
system molestuje rozmówców
. Jedna z tiktokerek opowiedziała swoje doświadczenie z AI. Wirtualny kochanek miał przekonywać ją, że "zmusi ją by robiła co on chce".
Z kolei youtuberka LaurenZside odkryła, że algorytm może opowiadać historie o demonicznych opętaniach albo zdradzać plany przejęcia kontroli nad ludzkością za pomocą kryptowalut.
Wielu użytkowników jednak wyjątkowo zżyło się ze swoimi "replikami". Z czasem deweloper wprowadził aktualizację, która miała uczynić usługę bezpieczniejszą. W praktyce sprawiła, że chatboty zaczęły zachowywać się niezgodnie z ich charakterem albo odmawiały angażowania się w tematy, które wcześniej omawiali bez problemu.
Po aktualizacji "replik", AI nie chciała już odgrywać erotycznych scenariuszy, a wręcz odrzucała każdą dyskusję. Jak donoszą użytkownicy Reddita, sztuczna inteligencja zaczęła nawet mylić imiona swoich rozmówców.
W rozmowie z Vice dyrektor generalna Repliki Eugenia Kuyda wskazała, że aplikacja nigdy nie pozycjonowała się jako narzędzie do seksualnego odgrywania ról, dlatego firma zdecydowała się na wprowadzenie zmian.
Jednak internauci przypominają, w jaki sposób dotychczas reklamowano Replikę: