Meta запускает систему защиты подростков в Instagram, Facebook и Messenger

Пресс-служба компании Meta объявила о масштабном обновлении системы защиты подростков в Instagram, Facebook и Messenger. Как выяснил Youth.kz, ограничения распространятся на пользователей по всему миру: алгоритмы будут строже фильтровать неподходящий контент, а также перестанут бесконечно рекомендовать публикации на одну и ту же тему − даже если речь идет о фитнесе, питании или психическом здоровье.

Защита подростков станет глобальной

Впервые специальные «подростковые аккаунты» Meta представила осенью прошлого года в США, Великобритании, Австралии и Канаде. Теперь эти ограничения начинают распространяться на пользователей по всему миру.

По умолчанию подростки будут пользоваться режимом 13+, который скрывает материалы, не предназначенные для несовершеннолетних. Алгоритмы ограничивают показ подобного контента в ленте, разделе Reels и рекомендациях, а также снижают возможность взаимодействия с профилями, страницами, группами и мероприятиями, которые регулярно публикуют неподходящие материалы.

Аналогичные меры заработают и в Messenger. Подростки не смогут открывать ссылки на нежелательный контент из Facebook и переписываться с аккаунтами, которые систематически распространяют материалы для взрослой аудитории.

Кроме того, позднее в этом году компания планирует внедрить еще более строгий режим − Limited Content («Ограниченный контент»), который родители смогут использовать для дополнительной защиты своих детей.

Родители оценили новый подход

При разработке системы Meta ориентировалась не только на собственные исследования, но и на мнение родителей. Компания сообщила, что за время тестирования сотни тысяч родителей оценили более 15 миллионов публикаций, рекомендованных подросткам.

Последний опрос, проведенный в конце апреля среди родителей из США, Великобритании, Австралии и Канады, показал, что менее 2% рекомендованных публикаций большинство участников сочли неподходящими для подростков.

В Meta также отмечают, что после запуска новых настроек 9 из 10 подростков не стали менять установленный по умолчанию уровень защиты.

Алгоритмы перестанут зацикливаться на одной теме

Еще одно нововведение касается системы рекомендаций Instagram. Компания признает, что некоторые темы сами по себе могут быть полезными для подростков − например, публикации о правильном питании, тренировках, психическом здоровье или борьбе с тревожностью.

Однако постоянная демонстрация подобных материалов способна создавать искаженную картину мира или усиливать тревожность. Поэтому Meta начала тестировать алгоритм, который будет разбавлять рекомендации более разнообразным контентом. Новая функция затронет разделы Лента, Reels и Explore.

Независимая проверка показала эффективность ограничений

Чтобы оценить работу новых настроек, Meta привлекла независимую организацию Alice, специализирующуюся на вопросах цифровой безопасности.

Эксперты сравнили подростковые аккаунты Instagram с конкурирующей социальной платформой и пришли к выводу, что новая система значительно сокращает количество материалов для взрослой аудитории.

Согласно исследованию:

• подростковые аккаунты с настройкой 13+ получают на 68% меньше зрелого контента по сравнению с аналогичными аккаунтами конкурентов;  
• режим Limited Content сокращает количество подобных материалов уже на 96%;  
• даже если подростки сталкиваются с контентом для более взрослой аудитории, он оказывается менее откровенным, чем у конкурентов;
• Instagram чаще блокирует поисковые запросы, связанные с нежелательными темами;
• подростки не могут самостоятельно ослабить ограничения без согласия родителей, а в режиме Limited Content им также недоступна публикация и просмотр комментариев. 

Компания уже исправила найденные недостатки

Во время независимого аудита специалисты обнаружили несколько исключений, когда подростки могли взаимодействовать с аккаунтами, регулярно публикующими неподходящий контент. Meta заявила, что оперативно обновила алгоритмы обнаружения подобных страниц.

Кроме того, эксперты обратили внимание на распространяющийся опасный тренд car surfing, при котором люди передвигаются, находясь снаружи движущегося автомобиля. После проверки компания внесла этот челлендж в перечень запрещенного для подростков контента. Ранее аналогичные ограничения уже действовали в отношении другого опасного развлечения − subway surfing, когда люди катаются на крышах или снаружи поездов метро.

Ограничения продолжат совершенствовать

В Meta подчеркивают, что при создании новых настроек вдохновлялись системой возрастных рейтингов киноиндустрии и рекомендациями родителей, однако механизмы модерации социальных сетей существенно отличаются от классификации фильмов.

Компания намерена и дальше проводить независимые проверки своих алгоритмов, постепенно совершенствуя защиту подростков и адаптируя систему к появлению новых интернет-трендов и потенциально опасного контента.