Глобальное движение по защите детей в Интернете стимулирует развитие технологий искусственного интеллекта в области безопасности

Глобальное движение за безопасность в Интернете подготовило почву для появления ряда продуктов на базе искусственного интеллекта, призванных оградить детей от потенциально опасных вещей в Интернете. В Великобритании новый закон под названием «Закон о безопасности в Интернете» возлагает на технологические компании обязанность защищать детей от материалов, несоответствующих их возрасту, языка ненависти, издевательств, мошенничества и материалов, связанных с сексуальным насилием над детьми. За нарушения компании могут быть оштрафованы на сумму до 10 % от их годового дохода по всему миру. В США Конгресс быстро продвигает знаковые нормативные акты, направленные на обеспечение безопасности детей в Интернете. Один из законопроектов, известный как «Закон о безопасности детей в Интернете», обяжет социальные сети не допускать нанесения вреда детям своими продуктами — аналогично Закону о безопасности в Интернете в Великобритании. Это давление со стороны регулирующих органов все чаще заставляет нескольких крупных игроков на рынке технологий переосмыслить свою позицию. Pornhub и другие гиганты онлайн-порнографии блокируют доступ к своим сайтам всем пользователям, которые не прошли систему проверки возраста. Однако порносайты не единственные, кто принимает меры по проверке возраста пользователей. Spotify, Reddit и X внедрили системы проверки возраста, чтобы дети не подвергались воздействию материалов откровенно сексуального или ненадлежащего характера. Такие регуляторные меры вызвали критику со стороны технологической индустрии — не в последнюю очередь из-за опасений, что они могут нарушать конфиденциальность интернет-пользователей. Процветание технологий цифровой идентификации В центре всех этих мер по проверке возраста находится одна компания: Yoti. Yoti производит технологию, которая снимает селфи и использует искусственный интеллект для проверки возраста человека на основе его черт лица. Компания утверждает, что ее алгоритм искусственного интеллекта, который был обучен на миллионах лиц, может оценить возраст людей от 13 до 24 лет с точностью до двух лет. Ранее компания сотрудничала с Почтовой службой Великобритании и надеется извлечь выгоду из более широкого продвижения выдаваемых государством цифровых удостоверений личности в Великобритании. Yoti не единственная компания в сфере программного обеспечения для проверки личности — среди других игроков рынка можно назвать Entrust, Persona и iProov. Однако компания является наиболее известным поставщиком услуг по подтверждению возраста в рамках новой системы Великобритании. «Идет гонка за доверием и уверенностью со стороны поставщиков технологий и услуг в области безопасности детей», — сказал CNBC Пит Кеньон, партнер юридической фирмы Cripps. «Новые требования, несомненно, создали новый рынок, и поставщики спешат заявить о себе». Однако рост популярности методов цифровой идентификации также вызвал опасения по поводу нарушения конфиденциальности и возможных утечек данных. «Использование этой технологии вызывает серьезные проблемы с конфиденциальностью», — сказал Кеньон. «Доверие является ключевым фактором, и его можно завоевать только с помощью строгих и эффективных технических и управленческих процедур, принятых для обеспечения безопасности персональных данных». Рани Говендер, менеджер по политике безопасности детей в Интернете в британской благотворительной организации по защите детей NSPCC, заявила, что технология для аутентификации пользователей без ущерба для их конфиденциальности «уже существует». «Технологические компании должны делать осознанный этический выбор, выбирая решения, которые защищают детей от вреда, не нарушая при этом конфиденциальность пользователей», — сказала она CNBC. «Лучшая технология не просто отмечает галочки, она укрепляет доверие». Смартфоны, безопасные для детей Волна новых технологий, появляющихся для защиты детей от вреда в Интернете, не ограничивается только программным обеспечением. В начале этого месяца финский производитель телефонов HMD Global выпустил новый смартфон под названием Fusion X1, который использует искусственный интеллект, чтобы не дать детям снимать или делиться контентом с обнаженными людьми, а также просматривать изображения сексуального характера с камеры, экрана и во всех приложениях. В телефоне используется технология, разработанная SafeToNet, британской компанией, специализирующейся на кибербезопасности и безопасности детей. «Мы считаем, что в этой области нужно сделать еще больше», — сказал CNBC Джеймс Робинсон, вице-президент по семейным вопросам в HMD. Он подчеркнул, что HMD разработала концепцию устройств для детей до вступления в силу Закона об онлайн-безопасности, но отметил, что «приятно видеть, что правительство предпринимает более серьезные шаги». Выпуск детского телефона HMD последовал за усилением движения «без смартфонов», которое призывает родителей не позволять своим детям иметь смартфоны. По словам Говендера из NSPCC, в будущем безопасность детей станет важным приоритетом для таких цифровых гигантов, как Google и Meta. Технологические гиганты на протяжении многих лет обвиняются в ухудшении психического здоровья детей и подростков из-за роста онлайн-издевательств и зависимости от социальных сетей. В ответ они утверждают, что приняли меры для решения этих проблем путем усиления родительского контроля и функций конфиденциальности. «В течение многих лет технологические гиганты бездействовали, пока вредный и незаконный контент распространялся на их платформах, оставляя молодых людей незащищенными и уязвимыми», — сказала она CNBC. «Эта эпоха безразличия должна закончиться».