TikTok: цифровая крепость, защищающая пользователей от шторма опасного контента

TikTok — одна из самых популярных видеоплатформ во всем мире, используемая как взрослыми, так и подростками. Каждый день на платформу загружаются миллиарды видеороликов, от развлекательных до обучающих, но иногда и экстремальных. Вопрос безопасности, особенно для несовершеннолетних, стоит на первом месте. Какие правила действуют на платформе, и как осуществляется модерация контента?

Индивидуальная лента рекомендаций

Социальная сеть создает для каждого пользователя уникальную ленту рекомендаций, основываясь на его интересах. Чем больше пользователь взаимодействует с контентом, тем больше он видит материалов, соответствующих его предпочтениям. Валдис Балодис-Болужс, руководитель команды по безопасности и предотвращению рисков в Европе и Центральной Азии, подчеркивает, что алгоритмы TikTok — это "секретный соус", который делает платформу любимой для миллиардов.

Платформа также предотвращает формирование "информационного пузыря", предлагая пользователям контент, отличающийся от их обычных интересов. Например, любителю футбола могут показываться видео на другие темы.

"Мы ответственно подходим к рекомендации контента, и у нас строгие критерии отбора роликов для ленты рекомендаций. В наших правилах четко прописаны стандарты для допуска в рекомендации: например, платформа не будет рекомендовать контент о строгих низкокалорийных диетах или физических упражнениях, предназначенных для радикального снижения веса".

Лента рекомендаций для взрослых пользователей отличается от ленты для пользователей младше 18 лет.

"Для этого мы используем систему уровней контента, учитывающую возраст пользователей и разные стандарты к безопасности контента, которая призвана не допускать видео со взрослыми темами в ленту рекомендаций подростков".

Процесс модерации контента

Ж: Какие этапы включает модерация — от загрузки видео до возможного удаления? Кто этим занимается: люди, алгоритмы или все вместе?

"Модерация контента в TikTok — это очень сложный многоуровневый процесс. Мы инвестируем как в передовые технологии, так и в профессиональные команды экспертов по безопасности. Прежде чем контент станет доступен для просмотра на платформе, он проверяется с помощью машинной модерации. Автоматическая модерация распознает и удаляет запрещенные видео до их публикации".

В первом квартале 2025 года 87 процентов нежелательного контента было удалено с помощью автоматизированной модерации.

"В 2024 году более 96 процентов контента в мире было удалено на нашей платформе до того, как он был просмотрен, и более 98 процентов было удалено в течение 24 часов. Также, конечно, есть человеческая модерация: люди отсматривают локальный спорный контент и удаляют его, если он несет угрозу для пользователей".

Технологии обнаружения нарушений и модерации постоянно совершенствуются. Например, автоматизация на базе компьютерного зрения может идентифицировать объекты, нарушающие правила. Если на видео у пользователя в руках оружие, то видео удаляется. Пользователи также могут жаловаться на контент.

"Любой человек может пожаловаться на контент в TikTok, и соответствующее подразделение в нашем модерационном департаменте его рассмотрит и при необходимости примет меры. Более того, в рамках соблюдения прозрачности, TikTok регулярно раскрывает количество удаленного контента в ежеквартальных отчетах. Так, за 2024 год в Казахстане мы удалили более 6,5 миллионов видеороликов по причине нарушения Правил сообщества. Из них 95 процентов видеороликов были удалены проактивно, то есть до того, как на них пожаловались".

Запрещенные темы на платформе

На платформе действуют правила сообщества, в которых указаны темы, запрещенные для публикации. К ним относятся дискриминационные высказывания, насилие, преступная деятельность и темы самоубийства.

"Мы категорически не допускаем дискриминационные высказывания в отношении людей по таким признакам, как этническая принадлежность, национальное происхождение, раса, религия – такой контент удаляется. При этом разрешены критика идеологий ненависти и шутки над ними. В таких темах очень важен контекст, который не всегда может уловить машина, и поэтому зачастую такой контент рассматривают наши команды модераторов".

Платформа уделяет большое внимание ментальному и физическому здоровью пользователей.

"Мы запрещаем демонстрацию и пропаганду самоубийства или самоповреждения. Например, если наши пользователи в Казахстане ищут контент на тему суицида или членовредительства, то им будет предложено связаться со специалистами службы психологической поддержки по номеру 150".

Основы правил сообщества TikTok

Правила TikTok основаны на принципах прав человека. Их цель — сохранить уважение и безопасность, не ограничивая свободу самовыражения. Важно находить баланс между безопасностью и выражением себя, чем занимаются тысячи специалистов по всему миру. Один из основных принципов платформы — уважение к культуре и ценностям каждой страны.

"В Казахстане есть игра 'кокпар' — это не просто спортивное состязание, но часть национального культурного достояния. Во время Игр кочевников на платформе было много контента об этих соревнованиях. Кстати, TikTok выступал партнером Игр. Тогда мы допускали такой контент, понимая его культурную значимость, хотя во многих других странах подобный контент не был бы допущен до широкой аудитории".

Модерация прямых эфиров

На эфиры распространяются те же правила, что и на короткие видеоролики.

"Так, в прошлом году только в Казахстане мы прервали более 930 тысяч трансляций в связи с нарушениями. Помимо блокировки прямых эфиров, мы также применяем меры для того, чтобы эфиры были более качественными. Год назад мы запустили правила монетизации трансляций, согласно которым авторы, которые проводят эфиры низкого качества, могут быть отключены от функции монетизации".

Безопасность для детей и подростков

Важно отметить, что TikTok не предназначен для пользователей младше 13 лет. Для предотвращения использования приложения детьми предусмотрена форма регистрации, где требуется указать полную дату рождения.

"Помимо этого, мы постоянно тренируем модераторов и используем передовые автоматические технологии, чтобы выявлять и блокировать аккаунты, принадлежащие пользователям младше 13. За прошлый год только в Казахстане было удалено 1,9 миллиона аккаунтов пользователей младше 13 лет".

Для безопасности подростков внедрено множество ограничений. Например, аккаунты подростков в возрасте 13-15 лет по умолчанию являются приватными, а их видео недоступны для скачивания.

"Также пользователи до 16 лет не имеют доступа к личным сообщениям. Есть серьезные ограничения, связанные с прямыми эфирами: пользователи младше 18 лет не могут их создавать, а также отправлять виртуальные подарки".

Новая функция – медитационные паузы

Если подросток использует приложение после десяти часов ночи, в его ленте появится специальное расслабляющее дыхательное упражнение.

"Интересно, что, когда мы только тестировали эту функцию, 98 процентов подростков приняли решение оставить ее включенной. Думаю, этот факт подтверждает то, что современные подростки стремятся быть осознанными и им важно собственное душевное благополучие".

Семейные настройки в TikTok

"Для родителей подростков, достигших возраста 13 лет, TikTok предлагает собственный инструмент родительского контроля 'Семейные настройки'. С их помощью родитель может связать свой аккаунт с аккаунтом подростка и управлять большим количеством настроек – в первую очередь ограничивать дневное время использования платформы подростком".

Родитель может контролировать, сколько часов в день ребенок будет проводить в приложении, или даже ограничить доступ к нему в учебное время.

Инструменты родительского контроля

Функционал 'Семейных настроек' очень широкий. Родитель может:

• установить приватность аккаунта;
• настроить, кто может писать личные сообщения ребенку и комментировать его ролики;
• решить, будет ли аккаунт попадаться в рекомендациях других пользователей.

"Он также может отбирать определенные ключевые слова или хэштеги, и контент, который их содержит, не попадет в ленту рекомендаций ребенка. При этом личные границы подростка не нарушаются: например, взрослые не получают доступа к личной переписке".

Валдис Балодис-Болужс сообщил, что в июле был расширен функционал 'Семейных настроек', и теперь родители получают автоматическое уведомление, когда подросток публикует видео.

Взаимодействие с экспертами по безопасности

"Это большая и важная часть нашей работы. Как я говорил, мы постоянно обновляем наши правила, и эти обновления основаны на взаимодействии и обратной связи от нашего сообщества и экспертов по безопасности. Так мы обеспечиваем, чтобы наши правила отвечали на новые вызовы и угрозы".

TikTok ежедневно пользуется более миллиарда человек. Для компании важно повышать уровень цифровой грамотности сообщества.

"Для этого мы сотрудничаем с авторитетными некоммерческими организациями и экспертами в разных областях. Например, в Казахстане мы сотрудничали с UNICEF в рамках нашей масштабной образовательной инициативы 'Академия безопасности', и в партнерстве с ними мы даже выпустили специальную брошюру для родителей".