«ВКонтакте» запустила нейросеть, выявляющую суицидальный контент

Нейросеть распознает объекты на изображениях и в дальнейшем исключает их из ленты соцсети и поисковой выдачи, пишет Tjournal.

Разработчики «ВКонтакте» создали алгоритм, который выявляет противоправный или «опасный» контент на фотографиях. Нейросеть умеет распознавать сущности и предметы на фото, в числе которых дети, животные, одежда, растения и символика «групп смерти». По словам разработчиков, записи и фото с суицидальным контентом автоматически удаляются, а страницы авторов незамедлительно блокируются.

«Нейросеть имеет несколько тысяч классов, которые присваиваются фотографиям — от 0 до 1 по нескольким параметрам. Если алгоритм характеризует фото как «опасное», оно отправляется модераторам для проверки. Если же фото признано «умеренно опасным», оно пропадает из поисковой выдачи, а в новостной ленте понижается его приоритет», – сообщили представители «ВКонтакте».

По словам разработчиков, алгоритм анализирует только контент для общего доступа. К личным сообщениям у нее доступа нет. Как сообщает руководитель направления Big Data и Machine Learning «ВКонтакте», в будущем эта технология позволит бороться со спамом и мошенничеством.

С февраля 2017 года «ВКонтакте» стала блокировать так называемые «группы смерти». Кроме того, появилась новая причина для жалоб на записи в соцсети – призыв к суициду.