Doświadczyłeś hejtu na Facebooku? Spokojnie, serwis o tym wiedział i nic nie zrobił

Facebook wiedział o nadużyciach i nic nie zrobił

- Pracownicy Facebooka od lat ostrzegali, że gdy firma dążyła do stania się globalnym graczem na rynku usług społecznościowych, nie nadzorowała obraźliwych treści w krajach, w których takie wypowiedzi mogą wyrządzić najwięcej szkód. Potwierdza to pięciu byłych pracowników oraz wewnętrzne dokumenty firmy – poinformował serwis Reuters.Co mówią wewnętrzne dokumenty firmy?

Okazuje się, że wiedział, że nie zatrudnił wystarczającej liczby pracowników, którzy posiadają zarówno umiejętności językowe, jak i wiedzę o lokalnych wydarzeniach, potrzebną do identyfikowania budzących zastrzeżenia postów użytkowników w wielu krajach. Efekt? Wiele informacji publikowanych w postach Facebooka było kompletną dezinformacją i mogło grozić negatywnym wpływem na politykę czy nastroje społeczne. Innymi słowy, Facebook zaproponował użytkownikom możliwości publikacji informacji, zapewniał, że je nadzoruje i monitoruje, a w efekcie kompletnie nie miał do tego żadnych technicznych możliwości.

Algorytm Facebooka albo nie działał, albo go nie było

Co więcej, okazało się, że systemy sztucznej inteligencji wykorzystywane przez Facebooka, które miały być odpowiedni narzędziem do nadzoru i wyłapywania niezgodnych radą i hejterskich treści nie sprostały zadanie. Skutkowało to sytuacją, w której użytkownicy zgłaszali dezinformację, hejt czy mowę nienawiści, ale nie dawało to żadnego efektu w postaci skutecznych raportów czy blokowania treści i osób je rozpowszechniających. Jeśli wielokrotnie zastanawialiście się, dlaczego na Facebooku widzicie posty i informacje, które nie tylko nie powinny się tam znaleźć, ale też nie pasują do Waszych preferencji, to już znacie odpowiedź. Algorytmy SI nie działały a FB o tym wiedział, i nic z tym nie robił.

Facebook broni się, że aktualnie firma ma native speakerów z całego świata, którzy przeglądają treści w ponad 70 językach, a także ekspertów w kwestiach humanitarnych i praw człowieka. Zespoły te pracują nad powstrzymaniem nadużyć na platformie Facebooka w miejscach, w których istnieje zwiększone ryzyko konfliktu i przemocy. Niestety w oświadczeniu nie ma informacji, jak ta sytuacja wyglądała jeszcze kilka lat temu. Natomiast pojawiły się dokumenty świadczące o tym, ze pracownicy Facebooka wielokrotnie alarmowali o nieskuteczności posiadanych narzędzi i związanych z tym problemów pojawiających się na serwisie.

Grzechy Facebooka — czas na rachunek sumienia

Zdaniem Reutersa dziennikarze są także w posiadaniu dokumentów, wprost potwierdzających, że Facebook badał te sprawy. Jednocześnie analizy firmy jedynie potwierdziły zdanie alarmujących pracowników. Treści miały uderzać m.in. w część społeczeństwa Birmy. Facebook o tym wiedział, ale nie reagował. Co więcej, nie stosował algorytmów poszukujących treści dezinformacyjnych i dyskryminujących w państwach, które sam uznał za najbardziej „zagrożone” pod kątem potencjalnych szkód w świecie rzeczywistym.

Wydaje się, że powoli wielkie serwisy społecznościowe będą musiały zrobić rachunek sumienia, pod kątem faktycznych działań zwalczających dyskryminację, dezinformację czy hejt. W przeciwnym razie tymi sprawami zajmą się nie tylko amerykańskie sądy, ale i ONZ czy krajowe organy sądownicze, których społeczeństw najbardziej ucierpiały z powodu nieskutecznych działań tychże firm.