«Ненависть продолжит процветать»
28.11.2021 19:27
«Ненависть продолжит процветать»
Фото: Michael Nagle / Bloomberg / Getty Images
Бегство на привязи
Слухи об изменениях в Facebook ходили уже давно: в 2021 году компания представила сервис, помогающий организовать рабочее пространство в виртуальной реальности, а позднее приняла решение дополнительно нанять около десяти тысяч сотрудников, которые будут развивать «метавселенную» корпорации на территории Европейского союза. Информация о ребрендинге просочилась в СМИ еще до официального заявления Цукерберга. Однако менеджмент компании до последнего хранил молчание: «Мы не комментируем слухи или домыслы», — отрезал официальный представитель Джо Осборн (Joe Osborne) в комментарии изданию Engadget. Впрочем, это не первый случай, когда владельцы компании отрицают очевидное.
Изменение названия свидетельствует об изменении миссии компании. Ранее ее ключевой задачей было объединение людей через платформу для общения. Новое название определяет ту роль, которую хочет занять сервис в обществе. Это скорее говорит об амбиции компании стать частью всех или большинства аспектов жизни человека. Вряд ли название повлияет на принципы модерации контента. Оно скорее свидетельствует о том, что компания будет использовать еще больше данных о пользователях во всех своих сервисах
Борис Едидин, директор Института развития интернета по правовым вопросам
Ребрендинг был объявлен сразу после крупного скандала — утечки внутренних документов Facebook, которую организовала бывшая сотрудница корпорации Фрэнсис Хауген (Frances Haugen). По словам Хауген, которая ранее работала над продвижением продуктов Facebook, она никогда не хотела выступать в роли разоблачителя, но на этот шаг ее подтолкнуло осознание опасности, которую сервисы представляют для людей. Известно, что менеджер занималась сбором внутренних документов с конца 2020 года, тогда же она решила передать бумаги журналистам, в частности, сотрудникам The Wall Street Journal — позднее на их основе была написана серия разоблачительных статей. Также она дала большое интервью каналу CBS и выступила перед американскими сенаторами в Конгрессе, подробно объяснив, как продукты компании влияют на детей и подростков.
25 октября почти два десятка мировых СМИ опубликовали расследования деятельности Facebook, а Хауген выступила с обличительной речью, где раскритиковала лично Цукерберга. По ее словам, он сосредоточил в своих руках всю власть, и, полностью контролируя компанию, игнорирует интересы пользователей: осознавая свое пагубное воздействие на общество, администрация соцсети не желает ничего менять, потому что это может поставить под угрозу рост и прибыль. Видимо, это осознают практически все: Хауген также добавила, если бы акционеры могли повлиять на ситуацию, они бы давно сменили руководство технологического гиганта.
Я видела в Facebook снова и снова, что существовал конфликт интересов между тем, что было полезно для общества, и тем, что было полезно для Facebook. И Facebook снова и снова выбирал свои интересы, например, рост прибыли компании
Фрэнсис Хауген, бывшая сотрудница Facebook
При этом принадлежащий Facebook Instagram разоблачительница назвала самой опасной социальной сетью, так как он провоцирует людей постоянно сравнивать себя с другими. Для детей и подростов бесконечное сопоставление собственного тела и образа жизни с тем, что показывают блогеры, пагубно. Собственное исследование Facebook цинично описывает эту проблему как «описание наркомана» (an addict's narrative): дети становятся несчастными, но никак не контролируют время использования приложения, чувствуя, что не могут перестать листать Instagram. «Я глубоко обеспокоена тем, что невозможно сделать Instagram безопасным для 14-летнего ребенка, и я искренне сомневаюсь, что его можно сделать безопасным для 10-летнего ребенка», — заключила Хауген во время выступления в Сенате. А корпорация не готова жертвовать даже малой долей прибыли ради безопасности пользователей любого возраста.
Разоблачения Хауген спровоцировали широкие обсуждения манипуляционных техник, которые используют соцсети, и их влияния на человечество. Американский сенатор Ричард Блюменталь (Richard Blumenthal) заявил, что освещение этой проблемы «усиливает барабанный бой призывов к реформам, правилам защиты подростков и реальной прозрачности и подотчетности со стороны Facebook и его крупных технологических коллег». «Facebook не в состоянии предотвратить причинение вреда детям, он не в состоянии остановить распространение дезинформации, он не в состоянии остановить разжигание ненависти. У него действительно есть власть решать эти проблемы, он просто предпочитает этого не делать», — вторит ему член британского парламента Джон Николсон (John Nicolson).
Марк Цукерберг, отреагировав на все обвинения, попросту назвал все клеветой: по его словам, Хауген не способна оценить внутреннюю кухню, так как не имела достаточных для этого полномочий, когда работала в Facebook.
Тайная жизнь
Украденные Хауген документы после публикаций назвали Facebook Papers. Эти отчеты последовательно доказывают вину компании в глобальной манипуляции почти тремя миллиардами пользователей: здесь и попустительство буллингу на площадке, и поддержка фейков и теорий заговора, и продвижение ненавистнических постов, и цензура политического контента, и даже тайное сотрудничество с правительствами некоторых государств.
Так, в преддверии президентских выборов в США 2020 года Facebook активизировала усилия по борьбе с контентом, пропагандирующим насилие, дезинформацию и разжигание ненависти. Но почти сразу после выборов большинство мер, направленных на защиту пользователей, применять прекратили. Последствия этого решения вышли за пределы онлайна: в январе 2021 года толпы сторонников Дональда Трампа, скоординировавшись на площадке, организовали штурм и захват Капитолия. В ходе беспорядков погибли несколько человек
Вполне возможно, что на поведение пользователей повлияли в том числе алгоритмы Facebook. Судя по обнародованной внутренней документации, последние четыре года алгоритмы соцсети были настроены таким образом, чтобы чаще показывать пользователям провоцирующие гнев публикации. Условный «вес» гневной реакции («сердитый» эмодзи, которого можно поставить наравне с обычным лайком) на пост был в пять раз выше, чем у обычного лайка. Все было продумано таким образом, чтобы яркие «гневные» посты чаще появлялись в лентах пользователей. Компании это было нужно лишь по одной причине: посты, вызывавшие яркие эмоции, с большей вероятностью вовлекали юзеров и заставляли их проявлять активность и проводить больше времени на платформе, принося корпорации доходы. В итоге в приоритете оказались фейки и токсичный контент.
Этот прием доказывает: Facebook ставит собственные доходы, которые гарантирует высокая вовлеченность, выше безопасности пользователей. Глава корпорации неоднократно пытался убедить общественность в том, что компания не использует никакие специальные механизмы, чтобы вовлекать пользователей, — но все это идет вразрез с основной идеологией соцсетей, зарабатывающих на внимании и активности юзеров, требующих от них все больше реакций и подсаживающих на лайки, как на азартные игры.
В отчете 2019 года содержится хороший пример того, как Facebook вовлекает пользователей: там говорится о фейковой учетной записи, созданной от лица женщины консервативных взглядов. Всего через пять дней после регистрации алгоритмы познакомили ее с идеологией QAnon — теорией заговора о тайной власти сатанистов-педофилов. Однако, предположительно, именно из-за риска финансовых потерь Facebook пока отложила многие инициативы по борьбе с тем, чтобы пользователям показывали подобные фейки и ненавистнический контент.
Все коммуникационные платформы ведут борьбу за внимание пользователей. Сейчас это борьба усиливается, для победы требуется все больше информации о пользователях и больше контента. Эти процессы ведут к разделению общества по интересам, формированию информационных «мешков», резкой поляризации общественных интересов. При этом драйверами этого вольно или невольно являются сервисы и применяемые ими алгоритмы
Борис Едидин, директор Института развития интернета по правовым вопросам
Эта проблема актуальна не только в США — намного острее и опаснее она проявляется в развивающихся странах. Несмотря на то что администрация Facebook прекрасно понимает, насколько плохо поддается модерации неанглоязычный сегмент соцсети, над этим вопросом практически никто не работает. Документ 2020 года подтверждает, что 84 процента всех мер по борьбе с дезинформацией направлены на Соединенные Штаты. И это при том, что еще пару лет назад из-за глобального распространения фейков через принадлежащий корпорации WhatsApp во многих индийских штатах несколько десятков человек стали жертвами самосуда: тогда неизвестные рассылали в мессенджере ложную информацию о серийных «преступниках». Запуганные и разъяренные местные жители линчевали всех, кто подходил под расплывчатые описания. Разнообразные фейки распространяются и в индийском сегменте Facebook. Хотя компания наняла носителей разных языков для борьбы с опасным контентом, этих усилий по-прежнему явно недостаточно.
Внутренние документы также указывают на огромную роль лично Цукерберга в том, что происходит в Facebook. Хауген заявила, что его амбиции к росту компании нередко провоцируют социальные проблемы — и именно он должен нести за них ответственность. Бумаги позволяют уличить главу корпорации во лжи: так, в прошлом году Цукерберг свидетельствовал перед Конгрессом, что компания удаляет 94 процента найденных ненавистнических высказываний, в то время как во внутренних документах фигурирует много меньший показатель — менее пяти процентов. Официальная позиция IT-гиганта по-прежнему неизменна: пресс-секретарь Facebook Дэни Левер (Dani Lever) полностью отрицает, что ее начальник «принимает решения, которые наносят вред», и утверждает, что документы неверно трактуются.
Большая игра
Площадки, принадлежащие корпорации Facebook/Meta, стали основными распространителями опасного контента и комфортной средой обитания для буллеров. Администрация понимает, как атмосфера площадок влияет на пользователей, и осознает все свои упущения в модерации. Весной 2021 года в ходе слушаний по вопросу дезинформации Цукерберг признался американским сенаторам: социальной сети трудно контролировать кибербуллеров и распространителей фейков. «Это ужасно, и нам нужно бороться с этим, у нас есть политика, направленная против этого, но часто бывает так, что буллерский контент нельзя идентифицировать как явно незаконный», — сказал Цукерберг. При этом в 48 штатах действуют законы, направленные против онлайн-оскорблений, а в 44 — за такие действия предусмотрены уголовные санкции.
Переход в «метавселенную» только усложнит ситуацию — это следует из внутренних документов Meta, утекших в СМИ. Цукерберг утверждает, что будущее виртуальное пространство станет абсолютно безопасной средой, однако в то же время руководство соцсети понимает, что они до сих пор не смогли разобраться даже с текущими проблемами
Мечта администрации — это безопасность «уровня Disney»: главный технический директор Meta Эндрю Босуорт (Andrew Bosworth) предупредил сотрудников, что для бизнеса жизненно важно делать виртуальную реальность безопасной. При этом, по его словам, контролировать поведение пользователей в более-менее значимом масштабе практически невозможно. По мнению директора АНО «Центр компетенций по глобальной ИТ-кооперации» Вадима Глущенко, эта ситуация выглядит еще более тревожно с учетом амбиций Марка Цукерберга, желающего завлечь на свои платформы как можно больше пользователей и масштабирующего свои сервисы до уровня метавселенной.
Многие эксперты сходятся во мнении, что основная цель ребрендинга Facebook — улучшить репутацию компании, на которую в последнее время обрушился целый шквал разоблачений в СМИ и общественной критики. Однако если Meta продолжит экономить на модераторах, как это, по свидетельствам самих сотрудников компании, происходит сейчас, то кибербуллинг и язык ненависти продолжат процветать на ее платформах, вне зависимости от того, как она называется.
Сети с человеческим лицом
Критиковать рядовых модераторов социальных сетей в этом случае бессмысленно: давно известно, что их работу сложно назвать простой и приятной. Каждый день они должны отсматривать сотни спорных постов, которые помечает алгоритм или на который жалуются пользователи. Исследование, проведенное Центром бизнеса и прав человека при Нью-Йоркском университете, показало, что почти 40 процентов контента, рассматриваемого модераторами, — эротика и материалы сексуального характера. На втором месте — оскорбительный контент, информация об оружии, наркотических веществах и терроризме, на третьем — проявления жестокости. Около десяти процентов приходится на детскую порнографию.
Почти все бывшие модераторы Facebook жалуются на подорванную психику. При этом такая трудная работа на тяжелых условиях достаточно скудно оплачивается. Своих работников корпорация никак не защищает: формально они даже не работают в компании: модерация передана в руки подрядчиков. Эксперты уверены: необходимо создавать мощные общественные институты контроля и модерации, финансирование которых должно осуществляться за счет средств самих платформ.
По мнению директора Института развития интернета по правовым вопросам Бориса Едидина, важно всегда помнить, что основная задача, которую ставит перед собой любая IT-платформа, — получить пользовательское внимание. «Поэтому любые системы модерации контента — это во многом борьба "пчел против меда". Необходимо создавать мощные общественные институты контроля и модерации, финансирование которых должно осуществляться за счет средств таких платформ», — заключает он. С ним солидарен директор «Центра компетенций по глобальной ИТ-кооперации» Вадим Глущенко.
Как и любая соцсеть, Meta ответственна за то, что происходит на ее ресурсах. Она должна уделять больше внимания защите пользователей от таких негативных явлений, как травля и оскорбления в онлайне. Тем более, что корпорация эта далеко не бедная
Вадим Глущенко, директор АНО «Центр компетенций по глобальной ИТ-кооперации»
Безответственность крупнейших социальных сетей и погоня за вниманием пользователей в ущерб их безопасности приводят к тому, что власти многих стран самостоятельно регулируют их деятельность: так, например, в Германии платформы обязаны модерировать контент и реагировать на соответствующие запросы пользователей. Похожие меры приняты в ряде других стран, в том числе в России. Согласно закону о саморегулировании, с февраля 2021 года администрации социальных сетей должны выявлять и блокировать опасный контент. Похожие инициативы выдвигаются в Великобритании и Австралии и множестве других стран. Масштабный законопроект, предполагающий борьбу с разжиганием ненависти и буллингом в соцсетях, год назад предложила и Европейская комиссия. Вероятно, расширение империи Meta станет дополнительным катализатором для принятия новых законодательных решений.
Автор: Софья Кадочникова
Источник:
«Ненависть продолжит процветать»