źródło: unsplash.comInstagram, zdając sobie sprawę z tego, jak ogromne oddziaływanie ma na swoich użytkowników, postanowił wprowadzić ważne zmiany w aplikacji.
W trosce o bezpieczeństwo przez ostatnie lata wprowadzono różne technologie. Mają one za zadanie pomóc w złożonych kwestiach zdrowia psychicznego. Różnego typu rozwiązania wdrożone przez Instagrama wyłapują niepokojące sygnały, aby pomóc użytkownikom, którzy borykają się z myślami o samookaleczeniu lub samobójstwie oraz usunąć niepokojące treści. Dzięki temu weryfikatorzy podejmują odpowiednie kroki i decydują o dalszych działaniach – począwszy od usunięcia tychże treści po wezwanie służb ratunkowych w najcięższych przypadkach.
Jak deklaruje Adam Mosseri, Head of Instagram, ponad 90% treści dotyczących samobójstw i samookaleczeń, które odnaleziono między kwietniem a czerwcem tego roku, zostało zidentyfikowanych właśnie przy użyciu własnej technologii Instagrama. Udało się to zrobić jeszcze zanim ktokolwiek poinformował o nich twórców aplikacji. Celem medium jest, aby ta liczba była jak najbliższa 100%. Co ma przybliżyć Instagrama do jego osiągnięcia?
Technologia wykrywania niepokojących treści także w UE
Wspomniana wcześniej technologia wykrywania pozwalała dotąd Instagramowi na wyszukiwanie treści o samobójstwach i samookaleczeniach poza Unią Europejską. Utrudniało to więc proaktywne docieranie do nich i wysyłanie pomocy na szerszą skalę. Od teraz część tej technologii działa także w UE – zarówno na Facebooku, jak i na Instagramie.
Co oznacza to w praktyce? Instagram będzie wyszukiwać posty, które prawdopodobnie łamią zasady społeczności dotyczące samobójstw i samookaleczeń. W ten sposób aplikacja będzie zmniejszać ich widoczność lub eliminować je z miejsc takich jak Odkrywaj. Gdy zaś łamanie zasad będzie dla technologii jasne, posty będą mogły być automatycznie usuwane.
źródło: unsplash.com
Łącznie z odpowiednimi organizacjami i służbami
To jednak nie koniec walki o bezpieczeństwo. Następnym krokiem Instagrama będzie użycie tejże technologii nie tylko do identyfikacji treści i ukrywania ich, ale do przekazywania ich do weryfikacji oraz udzielenia pomocy – tak, jak dzieje się aktualnie na świecie. Brak tej możliwości w krajach europejskich utrudnia łączenie ludzi z lokalnymi organizacjami i służbami ratunkowymi.
Jest to o tyle ważne, że w Stanach Zjednoczonych, w okresie od sierpnia do października, ponad 80% kont, które przekazano do lokalnych organizacji i służb ratowniczych zostało wykrytych przez proaktywną technologię.
Obecnie prowadzone są dyskusje z organami regulacyjnymi i rządami na temat najlepszego sposobu wprowadzenia tej technologii do UE, przy jednoczesnym uwzględnieniu ich kwestii związanych z prywatnością. Przedstawiciel Instagrama wyraża jednak nadzieję, że uda się znaleźć właściwą równowagę, aby twórcy aplikacji mogli zrobić więcej. Adam Mosseri podkreśla, że te kwestie są zbyt ważne, aby nie naciskać na taką możliwość.
źródło: unsplash.com
Co dotychczas poczynił w tym zakresie Instagram?
Przy okazji tego ważnego dla użytkowników z Europy ogłoszenia, Instagram zaprezentował oś czasu obrazującą, co przez ostatnie cztery lata udało się wprowadzić do aplikacji w tym zakresie.
2016
W grudniu 2016 roku prowadzono anonimowe zgłaszanie postów dotyczących samookaleczeń i rozpoczęto łączenie ludzi z organizacjami, które mogą udzielić im pomocy.
2017
W marcu 2017 roku zintegrowano narzędzia do zapobiegania samobójstwom w trakcie transmisji na żywo na Facebooku, które ułatwiają znajomym i rodzinie zgłaszanie niepokojących sygnałów i docieranie do ludzi w czasie rzeczywistym.
źródło: about.instagram.com
W listopadzie wdrożono tę technologię poza Stanami Zjednoczonymi (z wyjątkiem Europy), aby pomóc zidentyfikować, kiedy ktoś może wyrażać myśli samobójcze – także w trakcie relacji na żywo. Zaczęto również używać sztucznej inteligencji do nadawania priorytetów raportom, aby pomóc w wysyłaniu wsparcia i powiadamianiu służb ratowniczych tak szybko, jak to możliwe.
2018
We wrześniu 2018 roku utworzono “Przewodnika dla rodziców” skierowany do rodziców nastolatków korzystających z Instagrama.
2019
W lutym 2019 roku rozpoczęto regularne konsultacje z ekspertami ds. Bezpieczeństwa i zapobiegania samobójstwom na całym świecie w celu omówienia zmieniającej się złożoności samobójstw i samookaleczeń oraz regularnego słuchania opinii na temat podejścia Instagrama.
źródło: facebook.com
Rozszerzono także zasady, by zakazać wszelkich treści przedstawiających samobójstwa i samookaleczenia, nawet jeśli wcześniej byłyby dozwolone. Instagram ułatwił również znalezienie tych treści w wyszukiwaniu, zablokował powiązane hashtagi i zastosował ekrany wrażliwości do wszystkich treści, wysyłając zasoby do większej liczby osób publikujących lub wyszukujących tego typu treści.
W październiku po raz kolejny rozszerzono zasady – tym razem o zakaz treści fikcyjnych dotyczących samookaleczeń lub samobójstw, w tym memów i ilustracji, a także treści zawierających metody lub materiały do tego potrzebne.
2020
We wrześniu 2020 nawiązano współpracę z Samaritans – organizacją charytatywną działającą w Wielkiej Brytanii i Irlandii, która zajmuje się wsparciem emocjonalnym każdej osoby w dystresie lub z ryzykiem popełnienia samobójstwa. Współpracowano przy wprowadzaniu nowych wytycznych dotyczących bezpiecznego zarządzania treściami związanych z samookaleczaniem i samobójstwami w internecie.
W październiku dodano komunikat u góry wszystkich wyników wyszukiwania, który wyświetla się podczas wyszukiwania haseł związanych z samobójstwem lub samookaleczeniem. Wiadomość oferuje wsparcie i kieruje użytkowników do lokalnych organizacji, które mogą pomóc.
W listopadzie wdrożono już wspomnianą technologię wykrywania w UE, aby proaktywnie znajdować bardziej szkodliwe treści o samobójstwach i samookaleczeniach oraz zmniejszać ich widoczności.
Z publikowanych co kwartał raportów wynika, że procent niepokojących sytuacji i treści, jakie udaje się odnaleźć wyłącznie za pomocą tej technologii wciąż rośnie. Miejmy jednak nadzieję, że skala zachowań użytkowników i martwiących sygnałów będzie z czasem mniejsza.