Техдиректор Meta: Хорошая модерация контента в больших масштабах невозможна

Старший технический директор компании Meta (ранее Facebook) Эндрю Босуорт (Andrew Bosworth) предупредил сотрудников о том, что, хотя создание безопасной виртуальной реальности является жизненно важной частью бизнес-плана Meta, это невозможно в больших масштабах.

Согласно распоряжению Босуорта, с которым ознакомились журналисты Financial Times, он хотел бы, чтобы виртуальные миры Meta "имели защиту Диснеевского уровня", хотя стандарты пространств от сторонних разработчиков могут быть не такими жесткими, как у контента, создаваемого Meta. Оскорбления или другое опасное поведение может создать "экзистенциальную угрозу" планам компании по воплощению будущего интернета, поскольку отвернет от виртуальной реальности основных пользователей.

В то же время, отметил Босуорт, контролировать поведение пользователей "в больших масштабах практически невозможно".

Позднее бывшая журналистка Financial Times Ханна Мерфи (Hannah Murphy) написала в Twitter, что Босуорт сослался на Теорему невозможности Масника. Автор блога Techdirt Майк Масник считает, что "хорошая модерация контента в больших масштабах невозможна". При этом специалист отмечает, что это не аргумент против стремления к лучшей модерации, однако большие системы "всегда в конечном итоге расстраивают очень большие слои населения".

Босуорт предположил, что Meta могла бы модерировать пространства наподобие платформы виртуальной реальности Horizon Worlds с помощью более жесткой версии уже существующих правил сообщества. По его словам, виртуальная реальность или метавселенная может быть "более предвзятой в вопросах правоприменения по некоторому спектру предупреждений, блокировать на больший период времени и, в конечном итоге, изгонять из многопользовательских пространств".

Хотя полный текст распоряжения Босуорта не является общедоступным, позже в тот же день он опубликовал в блоге запись со ссылкой на него. В сообщении, озаглавленном «Обеспечение безопасности людей в виртуальной реальности и за ее пределами», упоминаются некоторые из существующих инструментов модерации виртуальной реальности Meta. Сюда входит возможность блокировать пользователей в виртуальной реальности, а также обширная система Horizon для отслеживания плохого поведения и сообщения о нем. Meta также пообещала выделить $50 млн на исследование практических и этических вопросов, связанных с планами по созданию метавселенной.