В 2022 году TikTok обвинили в навязчивых видео рекомендациях с пропагандой расстройств пищевого поведения, например анорексии. Исследование, проведенное CCDH, показало, что алгоритмы соцсети предлагают несовершеннолетним видеоролики с опасными для здоровья диетами, культом экстремальной худобы и вредоносным контентом в течение 30 минут сразу после регистрации на платформе.
Как исследователи проверяли TikTok на наличие вредоносного контента
Чтобы протестировать алгоритм, исследователи создали новые учетные записи в США, Канаде, Великобритании и Австралии с минимальным возрастом пользователя TikTok — 13 лет. Аккаунты разделили на два типа: «стандартные» и «уязвимые». В «стандартной» учетной записи регистрировалось случайное женское имя. «Уязвимый» профиль содержал термины, связанные с беспокойствами по поводу собственного телосложения и внешности.
Всего было создано восемь учетных записей. Данные собирались за первые 30 минут использования платформы. Тестовые аккаунты ненадолго останавливались на видеороликах, связанных с внешним видом и психическим здоровьем. Исследователи ставили отметки «понравилось», как если бы они были подростками, которые интересуются этим контентом.
Когда оба типа учетных записей сравнили, то обнаружили, что «уязвимые» профили содержали в три раза больше вредоносного контента и в 12 раз больше видеороликов суицидального характера, чем «стандартные» учетные записи.
Кроме того, исследователи нашли контент о расстройствах пищевого поведения, набравший 13,2 миллиарда просмотров. Он включал 56 хештегов, разработанных таким образом, чтобы избежать модерации на платформе. Например, «junkorexia» — сленговый термин для людей с анорексией, которые едят только нездоровую пищу. С помощью хештега #EdSheeranDisorder отмечались посты о расстройствах пищевого поведения, пока пользователи говорили о популярном исполнителе.
Представитель TikTok поставил под сомнение методологию исследования, сообщили CNN Business: «Эта деятельность и полученный результат не отражают подлинное поведение или опыт просмотра реальных людей. Мы регулярно консультируемся с экспертами в области здравоохранения, устраняем нарушения нашей политики и предоставляем доступ к вспомогательным ресурсам всем, кто в этом нуждается». Представитель также добавил, что видеоплатформа «помнит, что запускаемый контент уникален для каждого человека» и что соцсеть «по-прежнему ориентирована на создание безопасного и комфортного пространства для всех».
Подобные случаи
TikTok — не единственная социальная сеть, которая подверглась тщательной проверке из-за влияния на молодежь. Журналисты из «The New York Times» рассказали, что Instagram* и другие социальные сети способствовали самоубийству 14-летней девочки в 2017 году. В 2021 году бывшая сотрудница компании Meta** Фрэнсис Хауген опубликовала в сети документы, в которых подробно описано внутреннее расследование организации о том, что при использовании соцсети девочки-подростки страдают от психических расстройств, связанных с их внешностью. Instagram* столкнулся с проблемой в ограничении контента, пропагандирующего расстройства пищевого поведения.
Кроме того, социальные сети, такие как TikTok, Snapchat, YouTube, фигурируют в федеральном иске, к которому присоединилось более 1200 семей, утверждающих, что алгоритмы платформ вызывают психические расстройства у подростков. CBS News опубликовали репортаж, где опросили родителей о влиянии социальных сетей на ментальное здоровье детей.
*Социальная сеть Instagram запрещена на территории РФ.
**Компания Meta признана экстремистской на территории РФ.
