Algorytmy TikToka metodycznie prezentują młodym użytkownikom, zainteresowanym tematyką zdrowia psychicznego treści potencjalnie szkodliwe. Działalność platform społecznościowych wymaga pilnej uwagi rządów państw. Samorządom pozostaje edukacja i profilaktyka na poziomie gmin.
Zagrożenia dla nastoletnich użytkowników chińskiej platformy społecznościowej dokumentują raporty „Driven Into the Darkness” (Wpędzeni w mrok) oraz „Dragged Into the Rabbit Hole” (Wciągnięci do króliczej nory) przedstawiające wyniki badań przeprowadzonych przez Amnesty International. Badania koncentrują się na algorytmicznym systemie rekomendacyjnym TikToka – feed For You – w którym doskonale widać, jak platforma maksymalizuje zaangażowanie użytkowników w treści mogące romantyzować depresję, samookaleczenia i wyobrażenie samobójstwa.
W ciemności
Badanie „Driven Into the Darkness” przeprowadzono w formie ankiet (550 respondentów w 45 krajach) oraz 20 grup fokusowych, ponad 300 wywiadów z dziećmi i młodzieżą i ponad 30 zautomatyzowanych kont symulujących użytkowników w wieku 13 lat (trzy ostatnie formy realizowano w Kenii, na Filipinach i w USA).
Każde z automatycznych kont działało przez niespełna godzinę dziennie, przez 10 dni. Okazało się, że po 5–6 godzinach spędzonych na platformie niemal co drugie wideo wyświetlane na kontach „użytkowników” zainteresowanych treściami o zdrowiu psychicznym było potencjalnie szkodliwe. Takich treści było dziesięciokrotnie więcej niż w przypadku kont, na których zautomatyzowany użytkownik nie wyraził zainteresowania podobną tematyką. W manualnym (nieautomatycznym) eksperymencie na Filipinach pierwsze wideo z hashtagiem #depresionanxiety (depresja-lęk; napisane z literówką) – pokazujące chłopaka w niepokojącym stanie – pojawiło się już po minucie przewijania treści. Od 12. minuty badania ponad połowa rekomendowanych postów dotyczyła lęków, depresji, samookaleczeń czy samobójstw. W eksperymencie prowadzonym w USA, w ciągu godziny przewijania co najmniej 9 postów romantyzowało, normalizowało lub zachęcało do samobójstwa.
Raport przypomina przypadek Molly Russell, 14-letniej Brytyjki zmarłej w wyniku samookaleczenia po oglądaniu treści depresyjnych na Instagramie (co formalnie wskazał urząd koronera) jako dowód na to, że wystawienie osoby doświadczającej objawów depresyjnych na dużą liczbę postów omawiających, normalizujących czy romantyzujących myśli depresyjne, może zaostrzyć problemy i przyczynić się do rzeczywistych, szkodliwych działań.
Europa lepiej chroniona, ale młodzież świata jest gdzie indziej
TikTok od kilku lat jest globalną platformą. Pomiędzy grudniem 2019 a wrześniem 2021 roku liczba aktywnych użytkowników wzrosła dwukrotnie – do miliarda w skali miesiąca. Większość z nich to prawdopodobnie dzieci i młodzież, dlatego też – tu uwaga na marginesie – raport krytykuje brak reprezentacji krajów rozwijających się w badaniach nad platformami społecznościowymi, podczas gdy 90 proc. populacji młodzieżowej świata mieszka w krajach rozwijających się. Także dlatego badania Amnesty International skupiły się m.in. na Kenii i Filipinach.
Użytkownicy w Europie są chronieni nieco lepiej. Przypomnijmy, że w 2022 roku UE przyjęła Digital Services Act (DSA) – regulację mającą ograniczyć szkodliwe efekty korzystania z platform społecznościowych. DSA nakłada na największe platformy, w tym TikTok, obowiązek oceny zagrożeń dla zdrowia publicznego i dzieci, podjęcia środków łagodzących takie ryzyko oraz poddania się niezależnym audytom. Podobnie w Wielkiej Brytanii – Online Safety Bill Act (ustawa o bezpieczeństwie online) z 2023 roku nakłada nowe obowiązki na platformy, w tym specjalną ochronę osób poniżej 18. roku życia.
Przypomnijmy, że zgodnie z założeniami DSA serwisy muszą wypełniać określone obowiązki, w tym między innymi:
- ustanowić punkt kontaktowy dla władz i użytkowników;
- zgłaszać przypadki przestępstw;
- opracować przyjazne dla użytkownika warunki korzystania z usług;
- zapewnić przejrzystość w zakresie reklam, systemów rekomendacji lub decyzji dotyczących moderacji treści;
- identyfikować, analizować i oceniać ryzyka systemowe związane z nielegalnymi treściami, przemocą ze względu na płeć, zdrowiem publicznym, ochroną nieletnich oraz dobrostanem psychicznym i fizycznym;
- zapewnić publicznie dostępne repozytorium reklam.
W króliczej norze
Jednak także w Europie postęp w minimalizacji ryzyka, na jakie narażeni są użytkownicy wielkich platform online, dokonuje się powoli. Trzeba przy tym pamiętać, że właśnie TikTok zintegrował najbardziej uzależniające elementy projektowe z innych serwisów społecznościowych, skutecznie angażując użytkowników. Kluczowe elementy to nieskończone przewijanie feedu, możliwość polubień, częste powiadomienia i mocno spersonalizowane rekomendacje treści. W 2021 roku badania wykazały, że TikTok jest platformą, na której dzieci spędzają najwięcej czasu w USA, Wielkiej Brytanii i Hiszpanii.
Młodzieżowi uczestnicy badań Amnesty International opisywali kompulsywne wzorce używania TikToka jako „przewijanie bez świadomości”, gdy użytkownicy nie czują niczego wobec oglądanego posta, ponieważ nie mają czasu na przetworzenie treści podczas szybkiego przewijania. Opisywano również rolę polubień w potęgowaniu poczucia niepewności i przykuwaniu wzroku do ekranu. Jednym z kluczy do skuteczności działań algorytmu jest też efekt „króliczej nory” (rabbit hole) – proces, w którym algorytm systematycznie zawęża rekomendowane treści do jednego tematu, bazując na założeniu, że takie treści wywołają silne reakcje emocjonalne i utrzymają użytkownika przy ekranie. W eksperymencie manualnym na kontach 13-latków efekt króliczej nory pojawił się w ciągu 20 minut.
Autorzy raportu uważają, że – mimo licznych dowodów uzależniającego działania serwisu – TikTok nie poszedł wystarczająco daleko w działaniach naprawczych. W marcu 2023 roku firma ogłosiła wprowadzenie nowego narzędzia zarządzania czasem ekranowym, które wymaga od osób poniżej 18. roku życia aktywnego i świadomego wydłużenia czasu korzystania z aplikacji po osiągnięciu 60-minutowego limitu dziennego. Jednak takie przerzucenie odpowiedzialności na nastolatków, którzy w dużej liczbie wykazują symptomy problemowego używania internetu, nie przyniesie raczej efektów. Zdaje się to potwierdzać drugie z badań – „Dragged Into the Rabbit Hole” – które pochodzi z 2025 roku i dotyczy Francji. Powstawało w chwili, gdy jedenaście francuskich rodzin dołączyło do pozwu zbiorowego przeciwko TikTokowi, aby ustalić odpowiedzialność firmy za pogorszenie zdrowia psychicznego i fizycznego ich dzieci – w tym za wkład w śmierć 15-letnich Marie Le Tiec i Charlize Dapui-Parkiet.
Zmiany powolne, a może też pozorne
W 2023 roku TikTok nie miał publicznie dostępnej polityki praw człowieka (lub innego dokumentu o takim charakterze) poza ogólnikowym zobowiązaniem na stronie internetowej. Operator platformy nie odpowiedział na prośbę badaczy z Amnesty International o listę konkretnych ryzyk dla użytkownika zidentyfikowanych w procesie projektowania i rozwoju aplikacji. W 2023 roku firma zapowiadała, że jest w trakcie opracowywania procesu należytej staranności w tym zakresie. Sprawdziliśmy. W dokumencie z roku 2025 pt. „Zdrowie psychiczne i zaburzenia zachowania” platforma publikuje listę niedozwolonych treści. Wśród nich są:
- przedstawianie, promowanie lub udzielanie instrukcji dotyczących samobójstwa lub samookaleczenia;
- udostępnianie szczegółowych opisów aktów lub metod samobójstwa lub samookaleczenia;
- udostępnianie lub promowanie fałszywych informacji dotyczących samobójstwa lub samookaleczenia;
- udostępnianie planów samobójstwa lub samookaleczenia oraz opisy aktów samobójstwa i samookaleczenia;
- treści dokumentalne lub edukacyjne relacjonujące samobójstwo lub samookaleczenie przy użyciu szczegółowych opisów lub obrazów nieprzedstawiających drastycznych scen;
- literatura piękna lub sztuka zawierająca szczegółowe opisy lub nieprzedstawiające drastycznych scen obrazy samobójstwa lub samookaleczenia;
- obrazy samobójstwa lub samookaleczenia, także te nieprzedstawiające drastycznych scen (sic! – przp.red.).
Podobne wytyczne znajdujemy w podrozdziałach dotyczących zaburzeń odżywiania, diety czy wizerunku ciała oraz niebezpiecznych zachowań (w tym popularnych w ostatnich latach challenge-ów). Platforma deklaruje, że usuwa niedozwolone treści, jednak obok „czarnych list” istnieją też „białe listy” (na nich np. „treści dokumentalne lub edukacyjne zwiększające świadomość dotyczącą samobójstwa i samookaleczenia, nie zawierające szczegółowych opisów lub obrazów”) i konia z rzędem temu, kto zdoła – pośród milionów postów – wyszukać, ocenić i usunąć (albo wymóc usunięcie) treści niewłaściwych przy zachowaniu tych dozwolonych.
Mimo wszystko publikacja podobnych wytycznych to krok we właściwym kierunku – oby za słowami poszły czyny.
TikTok wskazuje także na inne środki promujące bezpieczeństwo, zdrowie i dobrostan dzieci, ale wiele z nich nie rozwiązuje kwestii objętych raportem. Narzędzia kontroli użytkowników (np. przycisk „niezainteresowany”) mają ograniczoną skuteczność. Badacze wskazują, że nawet gdy użytkownicy zaznaczą te narzędzia, niepokojące treści nadal pojawiają się w ich feedzie.
Funkcja family pairing pozwala rodzicom dostosowywać dzienny limit czasu ekranowego i korzystać z filtra słów kluczowych, ale to ostatnie nie spełnia swojej roli o tyle, że wycina wszystkie informacje związane z danym tematem (w tym wypadku zdrowiem psychicznym), w dodatku zaś hashtagi miewają literówki (jak przykład hasztagu podany powyżej). Z kolei funkcja refresh pozwala użytkownikom resetować swój feed i ponownie trenować system rekomendacyjny, ale badania sugerują, że to mało użyteczne dla dziecka sygnalizującego zainteresowanie zdrowiem psychicznym, ponieważ prawdopodobnie znów wytrenowałoby system do prezentacji potencjalnie szkodliwych treści.
Piłka po stronie państw
Amnesty International wezwała TikToka (a w istocie wszystkich operatorów platform społecznościowych) do pilnego wprowadzenia zmian biznesowych, a państwa – do skutecznego regulowania działalności Big Techów. Wśród ich rekomendacji dla rządów znajdujemy:
- zapewnienie, że dostęp do usług cyfrowych nie jest warunkowany powszechnym śledzeniem ani profilowaniem użytkowników;
- wprowadzenie kompleksowych ustaw o ochronie danych zgodnych z międzynarodowymi regulacjami praw człowieka;
- wprowadzenie wymogu konsultacji z grupami, których dotyczy problem, w tym dziećmi i młodzieżą;
- zapewnienie, że niezależni krajowi regulatorzy ochrony danych mają odpowiednie zasoby, wiedzę i władzę;
- zagwarantowanie dostępu do skutecznych środków naprawczych dla naruszeń praw człowieka związanych z technologią.
Za sprawą rekordowo szybkiej personalizacji feedu użytkownika TikTok stworzył platformę, która jest wysoce uzależniająca i wystawia odbiorców na poważne ryzyko zdrowotne. Feed For You może szybko wysłać dzieci i młodzież sygnalizujące zainteresowanie zdrowiem psychicznym do „króliczych nor” pełnych treści depresyjnych, w tym filmów, które zachęcają do samookaleczeń i samobójstw. Inne platformy społecznościowe także gonią za zaangażowaniem użytkowników niezależnie od potencjalnych szkód. Priorytetem są „wiralowość” i czas spędzony na platformie.
Programy rekomendowane – recepta dla szkół i gmin
Kwestie zdrowia psychicznego dzieci i młodzieży w wieku szczególnego narażenia na wpływ serwisów społecznościowych znajdują odbicie w licznych programach rekomendowanych Krajowego Centrum Przeciwdziałania Uzależnieniom – od „Przyjaciół Zippiego” dla dzieci w wieku 5–9 lat (wyposażenie w podstawowe kompetencje społeczno-emocjonalne, które pomagają radzić sobie w sytuacjach trudnych, a w przyszłości pozwolą dobrze funkcjonować w relacjach z innymi i unikać zachowań ryzykownych) przez „Spójrz inaczej” (rozwijanie umiejętności psychospołecznych, w tym umiejętności rozpoznawania i nazywania uczuć, umiejętności radzenia sobie z negatywnymi emocjami, kształtowania pozytywnej samooceny i pozytywnego obrazu siebie), „Iskrę odporności” dla uczniów klas V–VIII (wzmacnianie odporności psychicznej – rezyliencji – rozumianej jako zdolność do skutecznego radzenia sobie z trudnościami oraz pozytywnej adaptacji, czyli umiejętności powracania do dobrego funkcjonowania po przezwyciężeniu trudności), po „Smart skills” dla młodzieży w wieku 11–15 lat (podniesienie jakości życia związanej ze zdrowiem psychicznym, rozumianym jako subiektywnie odczuwany stan emocjonalny obejmujący doświadczanie pozytywnych emocji i zadowolenia z życia oraz nasilenie negatywnych stanów emocjonalnych, takich jak samotność i smutek). Dla uczniów klas III szkół podstawowych przeznaczono natomiast program „Wspólne kroki w cyberświecie”, który ma na celu między innymi zwiększenie wiedzy i umiejętności w zakresie bezpiecznego korzystania z internetu i innych mediów elektronicznych.
Bartosz Klimas
Bibliografia:
Amnesty International (2023). Driven Into the Darkness. Report
https://www.amnesty.org/en/documents/pol40/7350/2023/en/ (dostęp: 28.07.2026).
Amnesty International (2025). Dragged Into the Rabbit Hole. Report
https://www.amnesty.org/en/documents/pol40/0360/2025/en/ (dostęp: 28.07.2026).