Roblox внедряет ИИ, который редактирует сообщения игроков в реальном времени
После запретов во многих странах, игра Roblox тестирует новую систему модерации, основанную на ИИ, которая преобразовывает текстовые сообщения от игроков до момента их получения другим пользователем.
Алгоритм проводит анализ сообщений в режиме реального времени и автоматически их редактирует. Он способен исправлять опечатки, устранять попытки обхода фильтров и заменять отдельные слова и фразы на более нейтральные или вежливые. В итоге получатель видит уже отредактированную версию сообщения вместо оригинального текста.
Разработчики объясняют, что система должна бороться с токсичным поведением и деструктивным контентом.
Критики отмечают, что такая технология фактически меняет смысл общения между игроками: платформа начинает решать, что пользователь "имел в виду", а не просто удаляет запрещенные слова, как происходит сейчас. По их мнению, это может привести к искажению сообщений и к ситуации, когда люди общаются уже не напрямую, а через алгоритм.
Кроме того, это создает прецедент, которым могут воспользоваться и другие соцсети.