Что такое рекомендательные сервисы и как они манипулируют пользователями

Опубликовано 12 октября 2023 г.

С 1 октября в России начала действовать норма, обязывающая интернет-ресурсы информировать о работе рекомендательных сервисов, чтобы защитить пользователей от злоупотреблений со стороны платформ. Что же такое эти самые «рекомендации» и почему от них понадобилось защищать обычных людей?

Проще всего разобрать это на таком примере. Допустим, у вас есть подписка на онлайн-кинотеатр, вы платите 300-400 рублей в месяц. У этого кинотеатра есть каталог — список фильмов, который можно сортировать по добавлению новых, по тематике, по названию или как-то еще.

Минус заключается в том, что в большинстве случаев мы не знаем, что хотим посмотреть. Безусловно, у каждого есть в мозгу пометочки «обязательно надо посмотреть» около сотни различных фильмов или сериалов, которые мы ставили в моменте, когда что-то слышали про тот или иной из них от друзей или в рекламе. Но когда мы заходим в каталог, то все это куда-то пропадает и мы начинаем просто листать его. Заканчивается это, как правило, ничем — по причине, которую мудрые люди сформулировали так:

• у намерения должна быть цель;
• «что-нибудь» — это не цель;
• намерение сделать «что-нибудь» — это бесцельное намерение;
• бесцельное намерение ведет к бесполезным решениям: задачу «что-нибудь посмотреть» не решить, где-нибудь поискав.

Все осложняется тем, что желание что-нибудь посмотреть не означает желания что-нибудь посмотреть или вообще желания что-нибудь смотреть в принципе. Это всего лишь рекомендация нашей внутренней бессознательной рекомендательной системы, встроенной в каждого человека. В результате — ощутив сигнал потребности, бессознательное лезет в память и начинает подыскивать подходящее решение — то есть смотрит, какие действия в прошлый раз удовлетворяли потребность, максимально близкую по характеристикам к поступившему сигналу.

Решить эту задачу, приложив этот сложный процесс осознанно к каталогу фильмов, вызов практически неподъемный для абсолютного большинства из нас. Поэтому мы листаем и тыкаем на удачу в тот или иной фильм, большинство из которых нам не знакомы, да еще и обозначены жанром «комедия/драма», что в принципе может означать вообще что угодно.

Что дальше? Потратив так несколько вечеров, мы начинаем испытывать фрустрацию, раздражаемся и в большинстве случаев начнем пересматривать что-то из классики и в конечном счете отписываемся от онлайн-кинотеатра. Потому что «там ничего нет». Или, что еще хуже, для бизнеса этого кинотеатра — идем к другому кинотеатру, потому что у него каталог выглядит иначе и у нас возникает ощущение новизны.

Чтобы решить за нас проблему выбора и успокоить нашу внутреннюю рекомендательную систему (и чтобы мы продолжали платить за подписку!), и были придуманы рекомендательные системы на интернет-ресурсах и в приложениях. Они анализируют то, что мы смотрим, то, что мы не смотрим, что не досмотрели, а что пересматриваем по десять раз, и то, что всегда пролистываем. Разбирают это на составные части: жанр, формат, актеры, режиссер, язык фильма и многое другое. В результате формируется матрица наших предпочтений, которая затем накладывается на весь каталог, отсортировывая из него те фильмы, которые с ней совпадают. И разумеется, там оказываются и те фильмы, что нам нравятся, и те, о которых мы никогда не слышали, но которые, вероятно, нам понравятся. И работает это не только с кинотеатрами, но и с интернет-магазинами, соцсетями, да много где еще.

Все это осложняется двумя моментами. Во-первых, самые продвинутые системы хороши тем, что анализируют не только собственно предмет интереса, но и информацию о нас из других источников, например, то, что мы ищем в поисковиках, читаем в соцсетях или заказываем в интернет-магазинах. Классический случай, когда рекомендательная система поняла, что женщина беременна по тому, как изменились ее покупки в интернет-магазинах. Ирония в том, что сама женщина еще не знала об этом. И это вроде бы сильная сторона.

Слабая сторона в том, что поскольку алгоритм анализирует слишком большое число переменных фактически в реальном времени, мы не можем его проверить, чтобы убедиться, что он действительно пришел к этим выводам и не пытается нам что-то подсунуть, манипулируя нашими слабостями.

Третий ракурс в том, что в случае с онлайн-кинотеатром мы в общем-то и были бы рады, чтобы он нами манипулировал, потому что мы хотим развлечься, отключиться, перевести внимание на что-то другое. И мы хотим, чтобы он нам дал такую возможность.

Так чего же боятся политики по всему миру и во имя чего принимают специальные законы о регулировании рекомендательных сервисов? Того, что это по сути своей «черный ящик», который невозможно проконтролировать. Того, что мы вроде бы исходим из того, что они желают нам добра (ну, в худшем случае продадут нам что-то ненужное), но ни в коем случае не желают нам зла. Но где гарантия, что магазин, не желая терять клиента, который садится на диету, не начнет бомбардировать его спецпредложениями и постоянно предлагать различные guilty pleasures? Где гарантия, что социальная сеть, стремясь добиться политических изменений, не начнет подсовывать нам новости и посты с определенными акцентами, формируя нам специфический информационный пузырь и тем самым создавая у нас не всегда корректное представление о мире.

Основное требование специального закона, вступившего в силу в России с 1 октября, — это прозрачность рекомендательных систем, отмечает его автор, замглавы Комитета Госдумы по информполитике Антон Горелкин.

«Владельцы сайтов и приложений, использующих механизм рекомендаций, теперь должны объяснять пользователю, по каким принципам он работает, какие данные собирает, как их обрабатывает. Все это должно быть отражено в правилах, написанных понятным русским языком (или в виде инфографики, это также допустимо)», — говорит он.

По словам Горелкина, крупнейшие российские цифровые платформы выполнили новые требования законодательства: разместили на своих сайтах уведомления об использовании рекомендательных технологий, правила их применения и адрес электронной почты, по которому пользователи смогут обратиться, если у них возникнут вопросы о работе этих сервисов. В числе этих сервисов «Яндекс», Ozon, «Авито», ivi, Start и целый ряд других.

«Отмечу, что в некоторых случаях правила сформулированы довольно сложным языком с изобилием технических терминов. На мой взгляд, нужно стремиться составлять этот текст максимально доходчиво, ведь главная цель закона о рекомендательных сервисах — сделать их прозрачными, понятными для людей», — говорит Горелкин.

Он полагает, что Роскомнадзор, как регулятор, проанализирует эту практику и даст участникам рынка нужные рекомендации.

Источник