Алгоритмы против пользователей

02.06.2021 21:39

Алгоритмы против пользователей

Используют ли онлайн-платформы один из самых мощных своих инструментов в ущерб собственным пользователям?

От рекомендаций в соцсетях до таргетинга рекламы — сегодня алгоритмы крупнейших онлайн-платформ управляют цифровой жизнью миллиардов людей, все настойчивее пытаясь влиять на их выбор. Как отмечает Financial Times, рекомендательные сервисы стали одним из самых широко используемых достижений "революции искусственного интеллекта". Однако смогут ли ИТ-гиганты остановиться в погоне за вниманием пользователей и коммерческой выгодой и так ли безобидны рекламные алгоритмы на самом деле?

Кто на самом деле делает выбор?

Эксперты бьют тревогу: рекомендательные сервисы, построенные на машинном обучении, сделали ИТ-гигантов более могущественными, чем когда-либо прежде. Маркетинговые приемы, заставляющие людей совершать онлайн-покупки и проводить еще больше времени в социальных сетях, были известны уже давно, но искусственный интеллект помог бигтеху отточить свои рекламные алгоритмы практически до совершенства.

По мнению профессора Калифорнийского университета Стюарта Рассела, "алгоритмы выдачи и подбора контента в социальных сетях гарантированно манипулируют людьми". Кроме того, Рассел считает, что применение алгоритмов ведет к глубокой политической поляризации пользователей, а сами онлайн-платформы намеренно "разжигают гнев" пользователей ради увеличения активности на своих площадках.

При этом Facebook открещивается от подобных обвинений, утверждая, что соцсеть не выигрывает от создания негативно настроенной аудитории. Однако Рассел уверен, что компания в первую очередь руководствуется получением прибыли, не считаясь с последствиями для обычных пользователей.

С этой позицией согласна и бывшая сотрудница Google Мередит Уиттакер, ранее консультировавшая Белый дом и Европарламент по вопросам искусственного интеллекта, интернет-политики и безопасности. "Вы никогда не увидите, чтобы ИТ-гиганты предпочитали этику доходам. Это компании, которые управляются акционерным капиталом", — заявила она.

Что выгодно, то и этично

Строжайшая секретность, в которой ИТ-гиганты хранят устройство своих алгоритмов, лишь обостряет критику бигтеха. И хотя онлайн-платформы уверяют общественность в своей преданности принципам этики и интересам пользователей, Financial Times отмечает, что проверить эти утверждения на практике невозможно. Вызывает сомнения экспертов и неизбежное противоречие моральных принципов финансовым задачам ИТ-бизнеса.

Непрозрачным использованием рекомендательных алгоритмов обеспокоены не только западные, но и российские эксперты. Так, еще в марте 2021 года московское отделение Ассоциации юристов России предложило подвергать независимому аудиту, а также отключать по желанию пользователей рекомендательные сервисы в соцсетях, новостных агрегаторах, онлайн-кинотеатрах и маркетплейсах.

"В перспективе нескольких лет можно получить стандартизированного человека с набором однотипных социальных установок и потребностей. Это звучит странно, но именно к этому ведет бесконтрольное применение алгоритмов", — констатировал заместитель генерального директора по правовым вопросам АНО "Институт развития Интернета" Борис Едидин.