- Urząd Komunikacji Elektronicznej

System rekomendacji TikToka pod lupą Komisji Europejskiej – zastrzeżenia dotyczą efektu „króliczej nory”

Zdaniem Komisji sposób działania kanału „Dla Ciebie” może prowadzić do nadmiernej ekspozycji użytkowników na powtarzające się treści, potencjalnie szkodliwe dla ich zdrowia psychicznego i samopoczucia. Sprawa dotyczy obowiązków platform w zakresie identyfikowania i ograniczania ryzyk systemowych wynikających z ich funkcjonowania na podstawie Aktu o usługach cyfrowych (DSA).

Algorytm rekomendacji pod lupą Komisji

Kanał „Dla Ciebie” wyświetla użytkownikom spersonalizowane materiały, dobierane na podstawie ich aktywności, m.in. oglądanych filmów czy polubień. Im częściej użytkownik interesuje się określonym rodzajem treści, tym więcej podobnych materiałów może rekomendować mu algorytm.

Komisja zwraca uwagę, że mechanizm ten może prowadzić do tzw. efektu „króliczej nory” (rabbit hole effect), czyli stopniowego zawężania tematyki wyświetlanych treści i powtarzającej się ekspozycji na określone materiały. Obawy dotyczą w szczególności treści, które mogą pogłębiać określone emocje i zachowania: smutek, izolację społeczną, zaburzenia odżywania i negatywne postrzeganie własnego ciała. Ryzyko to jest szczególnie istotne w przypadku małoletnich i innych osób wymagających szczególnej ochrony.

Zastrzeżenia dotyczące oceny i ograniczania ryzyka

Wstępne ustalenia Komisji wskazują, że TikTok mógł niewystarczająco ocenić ryzyka związane z funkcjonowaniem algorytmu rekomendacji, w szczególności jego potencjalny wpływ na dobrostan użytkowników.

Zastrzeżenia dotyczą również skuteczności środków ochronnych wdrożonych przez platformę. Zdaniem Komisji obecne rozwiązania nie ograniczają wystarczająco częstotliwości rekomendowania podobnych treści, a dostępne narzędzia kontroli, takie jak funkcja „Nie interesuje mnie”, nie zapewniają użytkownikom odpowiedniego wpływu na wyświetlane materiały.

Komisja wskazuje również, że algorytm w nadmiernym stopniu uwzględnia czas oglądania filmów jako wskaźnik zainteresowania użytkownika, zamiast w większym stopniu brać pod uwagę jego wyraźnie zadeklarowane preferencje.

Jakie zmiany mogą być konieczne?

W ocenie Komisji konieczna może być zmiana sposobu projektowania kanału „Dla Ciebie”. Wśród proponowanych kierunków działań wskazano:

• większe uwzględnianie bezpośrednio wyrażanych przez użytkowników preferencji;
• ograniczenie znaczenia czasu oglądania przy rekomendowaniu treści;
• poprawę dostępności i skuteczności narzędzi umożliwiających kontrolowanie wyświetlanych materiałów;
• regularne testowanie algorytmu w celu identyfikowania zagrożeń i oceny skuteczności zastosowanych zabezpieczeń.

Co dalej z postępowaniem?

Przedstawione ustalenia mają charakter wstępny i nie przesądzają o ostatecznym wyniku postępowania. TikTok może zapoznać się z materiałami zgromadzonymi przez Komisję i przedstawić swoje stanowisko w ramach prawa do obrony. Przewidziano również konsultacje z Europejską Radą ds. Usług Cyfrowych.

Jeżeli zarzuty zostaną ostatecznie potwierdzone, Komisja może wydać decyzję stwierdzającą naruszenie DSA i nałożyć na platformę karę finansową w wysokości do 6% jej całkowitego rocznego światowego obrotu.

Kolejny etap postępowania wobec TikToka

Sprawa dotycząca systemu rekomendacji jest częścią szerszego postępowania Komisji Europejskiej dotyczącego zgodności TikToka z DSA. W jego ramach analizowano również m.in. potencjalnie uzależniający charakter funkcji platformy, ochronę małoletnich, dostęp naukowców do danych publicznych i przejrzystość reklam.

Ustalenia Komisji opierają się na analizie dokumentacji i danych wewnętrznych TikToka, sprawozdań z oceny ryzyka, badań naukowych oraz opinii ekspertów z zakresu technologii, psychologii i psychiatrii. W postępowaniu Komisję wspierał irlandzki Koordynator ds. usług cyfrowych.

Należy podkreślić, że przedstawione przez Komisję ustalenia są wstępne i nie przesądzają o ostatecznym wyniku postępowania.