“Одноклассники” будут бороться с агрессией в комментариях

В социальной сети “Одноклассники” впервые появится система, которая будет предотвращать распространение агрессивных комментариев. Подобный алгоритм уже несколько лет используется в соцсети ВКонтакте и в ряде других. 

Искусственный интеллект будет анализировать содержимое текста комментария, а также вложенную картинку, если такая имеется. Если комментарий будет содержать потенциально нежелательную информацию (выражения и т.д), то он автоматически будет отправлен на проверку модераторам сайта. В случае если комментарий действительно носит неприемлемый характер, его автор будет временно заблокирован. Технология уже используется в десктопной версии Одноклассников. Позже она появится и в мобильной версии сайта. 

Алгоритм реагирует на комментарии, содержащие ненормативную лексику, а также оскорбления различных социальных групп, даже если в них нет нецензурных выражений. Пресекаться будут и угрозы в адрес пользователей. Технология сможет анализировать и картинки. Выявляться будут изображения со сценами насилия и другим шокирующим контентом. Блокироваться будут также те пользователи, на чьи комментарии поступает множество жалоб. 

Незадолго до этого, в социальной сети появился центр безопасности сообщений. Он позволяет фильтровать контент в личных переписках с незнакомыми пользователями. В первую очередь, речь идет об отправке фотографий из категории 18+.