Instagram начнет предупреждать родителей, если их подросток в течение короткого периода времени неоднократно пытается найти в поиске термины, связанные с самоубийством или членовредительством, объявила компания в четверг. Предупреждения начнут отправляться в ближайшие недели родителям, которые зарегистрировались в системе родительского контроля в Instagram.
Социальная платформа, принадлежащая Meta, заявляет, что, хотя она уже блокирует пользователей от поиска контента, связанного с самоубийством и членовредительством, эти новые уведомления предназначены для того, чтобы родители знали, если их подростки неоднократно пытаются искать такой контент, и могли оказать им поддержку.
Поисковые запросы, которые могут вызывать уведомления, включают фразы, поощряющие самоубийство или членовредительство, фразы, указывающие на то, что подросток может быть подвержен риску членовредительства, а также такие термины, как «самоубийство» или «членовредительство».
Instagram сообщает, что родители будут получать уведомления по электронной почте, SMS или WhatsApp, в зависимости от предоставленной ими контактной информации, а также сообщения в приложении. Сообщение будет содержать ресурсы, предназначенные для помощи родителям в налаживании диалога с подростками.
Этот шаг был сделан в то время, когда Meta и другие крупные технологические компании столкнулись с несколькими судебными исками, направленными на то, чтобы привлечь гигантов социальных сетей к ответственности за ущерб, причиненный подросткам.
Во время показаний в судебном процессе, состоявшемся на этой неделе в окружном суде США в Северном округе Калифорнии, прокуроры допросили главу Instagram Адама Моссери в рамках дела о зависимости от социальных сетей, связанного с задержкой внедрения в приложении основных функций безопасности, в частности фильтра обнаженности для частных сообщений подросткам.
Кроме того, во время показаний в отдельном судебном процессе в Верховном суде округа Лос-Анджелес было обнаружено, что внутреннее исследование Meta показало, что родительский надзор и контроль мало влияют на компульсивное использование детьми социальных сетей. Исследование также показало, что у детей, которые сталкивались со стрессовыми событиями в жизни, чаще возникали проблемы с регулированием использования социальных сетей.
Учитывая продолжающиеся судебные процессы, в которых компания обвиняется в неспособности защитить подростков на своих платформах, время появления этих новых предупреждений неудивительно.
Компания отмечает, что будет стараться избегать отправки этих сообщений без необходимости, поскольку чрезмерное использование может снизить их общую эффективность.
«Работая над достижением этого важного баланса, мы проанализировали поведение пользователей Instagram во время поиска и проконсультировались с экспертами из нашей консультативной группы по самоубийствам и членовредительству», — пояснил Instagram в своем блоге.
«Мы выбрали порог, который требует нескольких поисковых запросов в течение короткого периода времени, но при этом остаемся осторожными. Хотя это означает, что иногда мы можем сообщать родителям, когда на самом деле нет реальной причины для беспокойства, мы считаем — и эксперты согласны с этим — что это правильный отправной пункт, и мы будем продолжать следить за ситуацией и прислушиваться к отзывам, чтобы убедиться, что мы на правильном пути».
Предупреждения начнут появляться в США, Великобритании, Австралии и Канаде на следующей неделе, а в других регионах — в конце этого года.
В будущем Instagram планирует запускать эти сообщения, когда подросток пытается вовлечь искусственный интеллект приложения в разговоры о самоубийстве или членовредительстве.