«Одноклассники» теперь автоматически обнаруживают и размывают в ленте и комментариях к публикациям в соцсети изображения и GIF-файлы, которые пользователи считают эротическими. Обновление стало ещё одним шагом к поддержанию на платформе комфортной среды.
Если пользователь захочет посмотреть скрытое изображение или GIF-файл, он может кликнуть по нему либо проигнорировать и пропустить. Чтобы лучше выявлять и ограничивать такой контент, ОК провели исследование среди пользователей и выяснили, что именно они считают эротикой, которую не хотят видеть. Людям предложили оценить, насколько изображения откровенны и неприемлемы, и выразить своё желание или нежелание сталкиваться с ними в соцсети.
На примерах, которые респонденты посчитали нежелательным, инженеры ОК обучили модели машинного обучения, чтобы те автоматически обнаруживали и размывали такой контент. Всего ОК использовали более 6 млн файлов и разработали две ML-модели. Одна непосредственно сканирует картинку и определяет визуальное содержимое, другая относит контент к определённому типу, за счёт чего он или размывается, или остаётся в первоначальном виде.
Помимо скрываемого контента ОК по результатам исследования определили, какие категории изображений можно показывать пользователям соцсети. Например, обновление не затрагивает изобразительное искусство, фотографии спортсменов и пляжные снимки пользователей (классическая живопись с Венерой или статуи с Аполлоном, пловцы, ватерполисты, легкоатлеты и другие). При этом пользователи всё так же могут пожаловаться на нежелательный и неприемлемый контент любой категории в интерфейсе соцсети или через обращение в службу поддержки.
Александр Москвичев, директор по продукту ОК: «Создание комфортной среды для взаимодействия пользователей — один из главных приоритетов ОК. За последние два года мы реализовали десятки улучшений в продукте, которые позволяют людям чаще общаться, смотреть видео, комментировать и знакомиться друг с другом на площадке, не опасаясь грубости, неприемлемого контента или навязчивых знакомств. Теперь благодаря помощи наших пользователей и технологиям люди в ОК будут видеть ещё меньше нежелательного контента».
ОК активно внедряют новые технологии, чтобы создавать комфортную среду для увлечений и общения. Ранее соцсеть начала автоматически обнаруживать на платформе нецензурные слова и скрывать их: вместо ненормативной лексики пользователи видят звёздочки. Также ОК используют модерацию на базе машинного обучения, чтобы ограничивать другой нежелательный и неприемлемый контент. Например, блокируют то, что предназначено для аудитории 18+, и размывают фотографии со сценами насилия. В прошлом году соцсеть также запустила ML-модель, ограничивающую навязчивые знакомства и общение с нежелательными собеседниками на площадке.
