Соцсеть «ВКонтакте» разработала алгоритм для определения противоправных или суицидальных фотографий с помощью нейросети, пишут «Известия». Технология распознаёт объекты на фотографиях, которые затем исключаются из поисковой выдачи и новостной ленты, либо же вовсе блокируются.
К примеру, нейросеть может определить на фотографии изображение ребёнка, человека, растения, животных или символов «групп смерти» — разнообразных «синих китов». Записи с суицидальным контентом блокируются автоматически.
Если нейросеть определяет фотографию как «опасную», она отправляется для проверки модераторам. А если картинку признали «умеренно опасной», она попросту пропадает из поисковой выдачи. При этом потенциально с помощью технологии можно бороться и с мошенничеством: алгоритм сейчас тестируют на анализ текстовых записей на картинках.
«Нейросеть анализирует только изображения, загружаемые для общего доступа, то есть отправляемые фото в личных сообщениях не анализируются. С помощью этой технологии в будущем мы сможем бороться со спамом и мошенничеством», — пояснил руководитель направления Big Data и Machine Learning «ВКонтакте» Андрей Законов.
Ранее, в феврале соцсеть стала блокировать страницы пользователей, упоминающих «суицидальные» хэштеги, а затем в списки причин для жалобы на пост появился «призыв к суициду».
Читайте также: «Однажды в меня врезался голубь». Истории о людях на грани
Спасибо!
Теперь редакторы в курсе.