Алгоритмы усилили расизм на Чемпионате мира, согласно отчету

Согласно отчету организации Hope Not Hate, существующие методы борьбы с онлайн-оскорблениями зачастую сосре میکنند на действиях после того, как расистский пост уже увидел большое количество людей. Хотя игроки могут блокировать пользователей, сообщать о сообщениях, а платформы — приостанавливать учетные записи, эти меры, по мнению экспертов, не решают проблему усиления оскорбительного контента.

Представители организации отмечают, что социальные сети, такие как X (ранее Twitter), недостаточно серьезно относятся к проблеме расизма, и никаких улучшений в этой сфере за последние годы не наблюдается. В то же время, у компаний есть инструменты для изменения работы алгоритмов, рекомендаций контента, особенно в периоды всплесков ненависти.

Указывается, что относительно небольшое количество аккаунтов и первоначальных твитов может приводить к огромному количеству ответов, усиливая таким образом оскорбительный контент. Организация считает, что остановить это или значительно сократить вполне реально.

Один из предложенных вариантов — понижать в выдаче посты, привлекающие большое количество негативных комментариев, тем самым уменьшая их видимость для пользователей. Перед началом нового сезона Премьер-лиги группа призвала британского медиарегулятора Ofcom более эффективно использовать свои полномочия по Закону о безопасности в Интернете для борьбы с предсказуемыми всплесками ненависти.

Они предлагают Ofcom законодательно запретить работу алгоритмов, способствующих распространению оскорблений, а также признать крупные спортивные события «высокорисковыми». Это потребует от платформ внедрения строгих правил безопасности, проактивного удаления оскорбительного контента и снижения видимости быстро распространяющейся вирусной ненависти путем корректировки алгоритмов.

В ответ на запрос BBC Sport, Ofcom заявила: «Мы активно добиваемся от технологических компаний повышения безопасности своих сервисов и будем привлекать их к ответственности, если они этого не сделают». Кроме того, Ofcom упомянула о новом партнерстве с полицией и футбольными организациями перед Чемпионатом мира для борьбы с онлайн-оскорблениями.