Одноклассники запустили нейросеть для борьбы с киберсталкингом
Одноклассники запустили нейросеть, которая ограничивает навязчивые знакомства и общение с нежелательными собеседниками в соцсети.
С помощью новой нейросетевой модели соцсеть анализирует социальное взаимодействие (запросы на добавление в друзья, посещение страницы, подарки и ряд других параметров) между незнакомыми пользователями и делит их на категории.
В первую группу попадают аккаунты, которые регулярно добавляют в друзья людей без общих знакомых, массово отправляют подарки незнакомцам, ставят им классы и пишут личные сообщения. Во вторую – пользователи, которые часто отклоняют заявки в друзья или заносят их в черный список, отказываются от подарков или жалуются на действия незнакомых людей.
На основе собранных данных Одноклассники ограничивают взаимодействие между этими группами аккаунтов и скрывают уведомления от навязчивых собеседников. Нейросеть также снижает количество возможных бесед между этими группами пользователей – те, кто массово отправляют личные сообщения, будут ограничены в количестве диалогов.
Модель была протестирована на разных аудиториях в течение нескольких месяцев. В рамках эксперимента число жалоб на навязчивое внимание со стороны незнакомых аккаунтов снизилось на 25% по сравнению с предыдущими периодами.
Денис Горчаков, директор по информационной безопасности Одноклассников:
«Проблема навязчивого внимания одного человека к другому в сети, так называемого киберсталкинга, актуальна для всех платформ и сервисов, где есть социальное взаимодействие, но в особенности, конечно, для социальных сетей и мессенджеров. Подобное внимание может даже сократить пользование платформой. Решение оградить пользователя от навязчивого поведения оказалось эффективным: мы видим, что пользователям стало комфортнее общаться в соцсети, так как число жалоб на нежелательную активность со стороны незнакомых людей заметно снизилось».
Одноклассники непрерывно работают над тем, чтобы соцсеть была пространством для комфортного, лишенного токсичности общения пользователей. Так, летом текущего года соцсеть убрала функцию оценки фотографий от одного до пяти баллов и ввела механизм приватного «класса»: он виден только авторам контента и не отображается в ленте у других пользователей.
