«Вконтакте» борется с суицидальным контентом
Проблема, связанная с «группами смерти», известна по всей России. На данный момент известно уже об огромном количестве сообществ, пропагандирующих самоубийства. К счастью, большую часть из них уже удалось заблокировать. Во «Вконтакте» для этого используются современные технологии.
Так, совсем недавно стало известно о том, что его программисты разработали специальный алгоритм, позволяющий автоматически выявлять подобные материалы. Интересно, что созданная ими система будут определять опасность не только в текстовом содержании, но и в картинках. Для этого используются последние наработки в сфере нейросетей.
Алгоритм будет просматривать и анализировать изображения, размещенные по всей социальной сети. После этого она будет давать им оценку в соответствии со специальной системой рейтинга. Нейросеть будет блокировать те материалы, которые подпадают под определение суицидальных. Такой контент не будет больше выдаваться пользователям в поиске.
Те посты и картинки, которые будут признаны опасными, будут направлены модераторам «Вконтакте». Поэтому именно они будут принимать окончательное решение об их удалении.