źródło: shutterstock.com

Utworzenie miejsca w sieci dla kobiet, aby mogły się wspierać, brzmi dobrze. Niestety w przypadku aplikacji Giggle, tylko brzmi. Jak się bowiem okazuje, jej algorytmy wykluczają osoby o innym kolorze skóry, a także kobiety transpłciowe. I o ile to pierwsze wykluczenie może być jedynie błędem w algorytmie, tak drugie następuje celowo.

Tylko dla płci żeńskiej

Giggle to aplikacja założona przez Sall Grover, która kilka lat temu, w rozmowie ze swoją mamą, zdała sobie sprawę, że w sieci brak jest miejsca dla kobiet. Dlatego też zdecydowała się założyć Giggle. W teorii miał być to miejsce, gdzie kobiety będą mogły się wspierać, poszukiwać współlokatorek, pomagać sobie. Grover marzyła, aby miejsce to stało się symbolem feminizmu.

źródło: apps.apple.com

I chociaż to wszystko na pierwszy rzut oka nie wygląda źle, w praktyce zamiast miejscem wsparcia, stało się synonimem wykluczeń. Aplikacja polega bowiem na tym, że użytkownik, który chciałby do niej dołączyć, powinien zrobić sobie zdjęcie. Kiedy doda je do Giggle, algorytmy oparte na sztucznej inteligencji sprawdzają, czy rzeczywiście osoba chcąca dołączyć do społeczności jest płci żeńskiej. Jak twierdzi dyrektor generalna, celowo używana ona określenia „płeć żeńska”, a nie „kobieta”. Słowo „kobieta”, według niej, jest dziś obecnie mocno nadużywane. Sall Grover uważa, że kobietą można dziś nazwać każdego i słowo to pełni rolę nie zawsze adekwatnej etykiety.

Jak zatem widać, już samo określenie społeczności social media, jakim jest Giggle staje się wykluczające. Natomiast po dwóch latach działania, historia pokazała wiele przypadków, które nie przedstawiają ani samej platformy, ani jej właścicielki w dobrym świetle.

Rasizm w aplikacji

Algorytmy sztucznej inteligencji nie należą do przyjaznych, w związku z osobami o ciemniejszym kolorze skóry. Doskonale pokazuje to przykład Facebooka. Jakiś czas temu określiły one bowiem osoby czarnoskóre jako małpy naczelne. Innym razem zaś, gigant usunął zdjęcia historyczne z Papui-Nowej Gwinei. Nie inaczej jest w przypadku Giggle. która odrzuciła na etapie selekcji wstępnej już ponad 22% użytkowników, z powodu koloru skóry. Wokół tematu rozpętała się burza, na którą postanowiła zareagować dyrektor generalna aplikacji. Sall Grover wydawała oświadczenie, że kobiety o innym kolorze skóry nie tylko mogą dołączyć do aplikacji i są tam mile widziane, ale już z niej korzystają. Ponadto, firmie odpowiadającej za sztuczną inteligencję, zostały zlecone poprawki. Prawdopodobnie są one już także naprawione. Natomiast w momencie kolejnych pomyłek i odrzuceń, użytkownicy proszeni są o przesłanie dodatkowe zdjęcia do analizy zespołowi technicznemu aplikacji.

Warto tu także dodać, że nie tylko osoby o ciemnym kolorze skóry odrzucał algorytm. Kobiety, które według sztucznej inteligencji okazały się mniej atrakcyjne, także spotkały się z tym problemem. Zostawały one określone przez aplikację jako mężczyźni. Co w rezultacie nie dało im prawa dołączenia do społeczności. Ten błąd także jest obecnie w trakcie poprawek.

Celowe wykluczenie kobiet transpłciowych

Przypadek kobiet mniej atrakcyjnych i posiadających inny kolor skóry został wzięty pod uwagę przez dyrektor generalną. Niestety zupełnie inaczej wyglądało to w kwestii kobiet transpłciowych. Okazuje się bowiem, że taki rodzaj wykluczeń jest celowy ze strony Giggle.

Sall Grover nie dość, że nie widzi nic złego w dyskryminacji osób transpłciowych, dodatkowo broni swojego zdania, m.in. na Twitterze.

I would think that a male who claims to “identify as a woman” would put some effort in to understanding the necessity of female spaces, why women & girls want & need them, & subsequently leave female spaces alone.

🤷‍♀️

— Sall Grover (@salltweets) January 31, 2022

Jak widzimy, założycielka aplikacji napisała, że według niej, osoba „identyfikujący się jako kobieta” powinna zrozumieć potrzebę innych kobiet do istnienia takiego miejsca, a następnie pozostawić je w spokoju. A to nie jedyne dyskryminujące zachowanie i opinia ze strony Grover.

Jakiś czas temu, również na Twitterze jedna z kobiet transpłciowych pochwaliła się tym, że wraz z przyjaciółką udało jej się w końcu przedostać do środka aplikacji. W rezultacie, jeden z użytkowników oznaczył założycielkę Giggle, a przejście selekcji wstępnej określił mianem „naruszenia regulaminu”. W odpowiedzi, Grover odpisała tylko: „załatwione ❤️”. Profile kobiet transpłciowych zniknęły z serwisu.

theres a cool app called giggle. the only people allowed to make an account are cis women. it uses ai to analyze your face to keep men and trans women out. anyway follow me on giggle. pic.twitter.com/dwFg3HdJQl

— jenny_tightpants_ (@halomancer1) December 9, 2021

W związku z tym, co miało i ma dalej miejsce w serwisie, zaczęło się więc określać aplikację mianem narzędzia dla osób wyznających ideologię TERF, czyli wykluczającą kobiety z feminizmu. W odpowiedzi na zarzuty, Grover odpowiedziała, że takie obrażanie przestrzeni dla płci żeńskiej jest nie tylko niedobre, ale wręcz niezdrowe. Natomiast obraźliwe słowa w jej kierunku nazwała „codziennymi oszczerstwami, rzucanymi w kobiety, które z trudem wywalczyły swoje prawa”.

Dyskryminacja i przemoc psychiczna

Giggle to doskonały dowód na to, że człowiek nigdy nie nauczy algorytmów sztucznej inteligencji szacunku do innych, jeżeli najpierw ludzie się go nie nauczą. W przypadku założycielki aplikacji, mamy do czynienia z sytuacją, gdzie chcąc utworzyć miejsce w sieci dla kobiet, grupy często dyskryminowanej przez społeczeństwo, sama nie tylko dyskryminuje, ale wręcz wyklucza. Musimy też pamiętać, że taki sposób działania może być również formą przemocy psychicznej. I na szczęście, coraz więcej osób reaguje na podobne zachowania.