Сколько вам на самом деле лет? Взгляд на новую кампанию Roblox по проверке возраста пользователей

САН-МАТЕО, Калифорния — Однажды утром в конце мая у 11-летнего мальчика, вооруженного накладными усами, появилась цель: обмануть систему определения возраста Roblox, заставив её принять его за более взрослого. Но через несколько секунд после того, как Коул Моретти посмотрел в камеру, система определила его как ребенка в возрасте от 9 до 12 лет. Моретти был одним из нескольких детей, которых NBC News привела в штаб-квартиру Roblox, чтобы опробовать эту технологию. «Извини, можешь сказать своим друзьям в школе, что это не работает», — сказала Моретти Элиза Джейкобс, вице-президент Roblox по политике безопасности продуктов, держа перед ним iPad. Неудачная маскировка Моретти стала частью недавней демонстрации, в ходе которой компания предоставила NBC News эксклюзивную возможность ознакомиться с биометрическим инструментом проверки возраста, который с этого месяца будет использоваться для распределения пользователей по учетным записям в зависимости от возраста. Платформа рекламирует свою технологию проверки возраста, которая была запущена по всему миру в начале этого года, пытаясь решить постоянные проблемы безопасности детей и заверить пользователей, родителей и инвесторов в том, что она принимает меры для того, чтобы младшие пользователи находились в пространствах, соответствующих их возрасту. С момента запуска в 2006 году Roblox стала крупнейшей социальной игровой платформой для детей по всему миру с обширной виртуальной экосистемой игр, созданных пользователями, называемых «опытами». Компания ужесточила меры в отношении внутриигрового общения между пользователями, поскольку многие штаты и семьи утверждают, что платформа стала местом охоты для педофилов. Теперь Roblox запускает отдельные учетные записи для несовершеннолетних с учетом их возраста. Пользователи в возрасте от 5 до 8 лет будут зарегистрированы в учетных записях Roblox Kids, в которых по умолчанию отключены все функции обмена сообщениями и доступны только игры с рейтингом «минимальный» или «умеренный». Пользователи в возрасте от 9 до 15 лет будут зарегистрированы в учетных записях Roblox Select, в которых постепенно открываются дополнительные функции чата и предоставляется доступ к играм с рейтингом до «умеренный». Пользователи в возрасте от 16 лет и старше, как правило, будут иметь полный набор игр Roblox и функций чата. Эта настройка основана на недавнем изменении правил платформы, требующем от всех пользователей предоставить государственный удостоверение личности для подтверждения своего возраста или пройти биометрическую проверку возраста, чтобы использовать функцию чата. Этот процесс автоматически оценивает возраст пользователей и позволяет им общаться в чате только с другими пользователями, возраст которых, по оценкам, находится в аналогичном диапазоне. Усиление мер безопасности привело к снижению числа ежедневных активных пользователей с примерно 152 миллионов в третьем квартале прошлого года до 132 миллионов в первом квартале этого года — эти цифры привели к падению акций Roblox на 18% всего за один день, поскольку пользовательская база выражает недовольство множеством изменений, произошедших в последние месяцы. Многие игроки жалуются в интернете, что их игровой опыт теперь ухудшился из-за смеси заблокированных функций чата, генерируемых ИИ сводок чата и новых игр с возрастными ограничениями. In einem Interview in der Roblox-Zentrale in San Mateo erklärte Jacobs, das Unternehmen betrachte diese Änderungen als „eine Investition in die langfristige Vision von Roblox“. Das bedeute, die Übergangsphase durchzustehen, während sich die Community daran gewöhne, sagte sie. „Nicht jeder wird immer glücklich sein“, so Jacobs. „Und ich glaube wirklich, dass die Community Roblox so sehr liebt und sich sehr persönlich damit verbunden fühlt, und wenn wir also etwas ändern, das für sie störend ist, kann ich das vollkommen nachvollziehen.“ Die Flut an Sicherheitsupdates kommt zu einer Zeit, in der Roblox zunehmender rechtlicher Kritik ausgesetzt ist, weil es potenziellen Tätern ermöglicht wird, auf der Plattform Zugang zu kleinen Kindern zu erhalten. Mindestens neun Bundesstaaten haben Roblox wegen Fragen der Kindersicherheit verklagt, wobei drei weitere Bundesstaaten anstelle von Klagen Vergleiche mit dem Unternehmen geschlossen haben. Mehr als 150 Familien haben Roblox zudem verklagt, weil das Unternehmen es angeblich versäumt habe, Kinder vor der Anbahnung von Kontakten oder Übergriffen durch Pädophile auf der Plattform zu schützen. Ihre Einzelklagen wurden nun zu einem Sammelverfahren vor dem US-Bezirksgericht für den nördlichen Bezirk von Kalifornien zusammengefasst. „Roblox setzt sich intensiv dafür ein, eine sichere, gesunde und altersgerechte Umgebung für unsere Community zu schaffen“, erklärte ein Roblox-Sprecher gegenüber NBC News. «Утверждения о Roblox в корне искажают принципы работы нашей платформы и не учитывают те обширные и проактивные меры, которые мы первыми разрабатываем и внедряем, чтобы установить новый стандарт безопасности в Интернете». Однако меры компании по проверке возраста также вызвали споры, породив вопросы о конфиденциальности пользователей — Roblox заявляет, что ее сторонний поставщик, Persona, немедленно удаляет биометрические данные после оценки возраста — а также о неточных оценках возраста или обходных путях, найденных пользователями, надеющимися обмануть систему. Инструменты оценки возраста набирают популярность по всему миру, поскольку социальные платформы все чаще подвергаются критике за неспособность защитить детей, но они также сталкиваются с сопротивлением со стороны защитников цифровых прав и свободы слова, которые опасаются, что такие меры создадут новые риски для безопасности и конфиденциальности интернет-пользователей. Джейкобс сказал, что технология Roblox на базе искусственного интеллекта оценивает возраст на основе структуры лица и, как правило, дает результат с погрешностью не более 1,4 года от точного возраста ребенка. «Мы оптимистично настроены и верим, что система будет становиться все лучше и лучше. Но по сравнению с выбором даты рождения из раскрывающегося списка она гораздо точнее», — сказал Джейкобс, добавив, что Roblox считает, что эпоха самоопределения возраста подошла к концу. «Установить галочку, чтобы сказать, что тебе 13 или больше, уже недостаточно». Roblox также создал различные способы обжалования для пользователей, у которых в учетных записях оказался неточный возраст, сказал Джейкобс. Пользователи, возраст которых был оценен ниже их реального возраста, могут вместо этого предоставить свои официальные документы, удостоверяющие личность, сказала она, и их возраст в Roblox будет обновлен в соответствии с данными в этих документах. Родители также могут вручную изменить возраст на привязанных аккаунтах своих детей. Кроме того, компания использует систему «непрерывной оценки возраста», которая постоянно работает в фоновом режиме, чтобы отслеживать возможные несоответствия между возрастом, указанным в учетной записи пользователя, и его «поведенческим возрастом». Система учитывает такие сигналы, как время суток, когда пользователь играет, виды игр, в которые он играет, и язык, который он использует в чатах — «язык подростков может сильно отличаться от языка старшего поколения», — сказала Джейкобс, — чтобы определить, следует ли попросить их повторно подтвердить свой возраст. «Конечно, ни одна система не идеальна, и мы знаем, что иногда она будет ошибаться», — сказала Джейкобс. «Мы хотим найти баланс между возможностью исправлять ошибки и недопущением злоупотребления системой». Криста Кэрролл, мама, которая привела свою 12-летнюю дочь в штаб-квартиру Roblox для демонстрации, сказала, что воспитание детей в цифровую эпоху и контроль за ними в Интернете может быть чрезвычайно сложной задачей. По ее словам, меры безопасности, принимаемые компаниями, могут облегчить часть этого давления. «Мне приятно слышать, что Roblox относится к этому серьезно, что в области конфиденциальности появилось больше защитных механизмов», — сказала Кэрролл. «Надеюсь, что все больше предприятий и компаний возьмут это за образец и скажут: вот что нам нужно делать, чтобы защитить наших детей». Однако в рамках заявленных усилий по борьбе с вредным контентом некоторые из недавних изменений Roblox вызвали недовольство в сообществе, насчитывающем более 24 500 разработчиков игр, многие из которых являются независимыми энтузиастами. Именно эти пользователи создали десятки миллионов игр, которые раньше мог создавать и публиковать любой желающий, что особенно затрудняло контроль. В прошлом месяце Roblox ввел новые требования к публикации для разработчиков, которые обязывают проходить проверку личности, двухфакторную аутентификацию и вносить финансовый залог — либо путем оформления платной подписки на Roblox, либо путем уплаты единовременной публикационной пошлины в размере 1 000 Robux (игровая валюта) за каждую игру — для создания игр, доступных игрокам младше 16 лет. Roblox рекламирует эти правила как дополнительный уровень проверки, призванный затруднить злоумышленникам спам на платформе играми, нарушающими правила. На Roblox часто появлялись созданные пользователями игры с сексуальным контентом, насилием или другими формами запрещенного контента, которые модераторам бывает сложно обнаружить. Однако эти изменения также вызвали немедленную бурю недовольства со стороны пользователей, которые заявляют, что платформа создает барьеры для входа на рынок для небольших разработчиков, которые не могут позволить себе платить за каждую созданную ими игру. Джейкобс заявил, что финансовые обязательства необходимы Roblox для того, чтобы гарантировать, что разработчики «вкладываются» в платформу и ее сообщество. «Мы стремимся создать необходимые барьеры, чтобы разработчики, публикующие свои игры в нашем сообществе, насчитывающем миллионы пользователей, были заинтересованы в этом и действовали добросовестно», — сказала она. Она добавила, что каждая игра, доступная для аккаунтов Kids и Select, также должна проходить процесс проверки, в ходе которого модераторы наблюдают за игровым процессом в режиме реального времени с участием игроков в возрасте от 16 лет и старше, чтобы выявить любые проблемы с безопасностью или нарушения правил. Джейкобс сказала, что компания собирает отзывы сообщества через Совет по безопасности сообщества — глобальную группу создателей Roblox, которые ежемесячно собираются, чтобы давать компании рекомендации по мерам безопасности, — но признала, что некоторые изменения все равно вызовут споры. «У нас есть долгосрочное видение безопасности и цивилизованности на платформе, к которому мы стремимся и в которое верим», — сказала Джейкобс. «Ничего страшного, если некоторым людям это не всегда нравится».