Кризис, связанный с эксплуатацией детей с помощью искусственного интеллекта, уже наступил

Быстрое развитие искусственного интеллекта сделало создание материалов с изображением сексуального насилия над детьми проще, чем когда-либо, в результате чего прокуроры и законодатели с трудом успевают за ним. Несмотря на усилия технологических компаний, правоохранительных органов и активистов, преступники постоянно используют лазейки в системе, модели искусственного интеллекта с открытым исходным кодом и готовые платформы для сексуальной эксплуатации, чтобы создавать изображения как реальных, так и вымышленных детей, по словам экспертов и сотрудников правоохранительных органов, с которыми пообщалось NBC News. С января по сентябрь 2025 года CyberTipline NCMEC — официальная онлайн-линия по борьбе с сексуальной эксплуатацией в США — получила более миллиона сообщений, связанных с генеративным ИИ, по словам Фэллона Макналти, исполнительного директора отдела по борьбе с эксплуатацией детей. «Мы часто видим, как злоумышленники находятся в авангарде таких технологических достижений, чтобы сексуально эксплуатировать детей в Интернете», — сказал Макналти. «Практически неотличимый характер генерируемого контента чрезвычайно затрудняет работу по идентификации жертв». Сотрудники правоохранительных органов обнаружили, что материалы с изображением сексуального насилия над детьми (CSAM), созданные с помощью генеративного ИИ, могут принимать различные формы. Иногда люди фотографируют детей в общественных местах или используют уже опубликованные фотографии, а затем с помощью систем ИИ превращают их в CSAM. В других случаях люди создают совершенно новые материалы сексуального характера, в которых не участвуют реальные дети и не присутствуют узнаваемые лица, и которые полностью генерируются ИИ. Материалы становятся все более реалистичными и их все труднее отличить от реальных изображений, что создает новые проблемы для прокуроров и правоохранительных органов. Майкл Прадо, заместитель помощника директора Центра по борьбе с киберпреступностью (C3) Управления внутренней безопасности, заявил, что только за первые шесть месяцев 2025 года количество сообщений о детской эксплуатации и генеративном ИИ увеличилось более чем на 600% по сравнению с 2023 и 2024 годами вместе взятыми. «Честно говоря, нас удивила скорость, с которой это распространилось», — сказал Прадо. По его словам, сейчас нередко можно найти CSAM, сгенерированный ИИ, смешанный с «традиционным» CSAM с участием реальных детей. «Коллекционеры такого рода материалов иногда не делают различия. Они просто стремятся пополнить свои коллекции», — сказал он. «Они стремятся удовлетворить свои извращенные сексуальные интересы в отношении детей и готовы использовать для этого любые средства». Хотя широко доступный генеративный ИИ — явление относительно новое, эта проблема уже фигурирует в десятках судебных дел по CSAM в США. Однако количество дел составляет лишь небольшую часть от числа сообщений о CSAM, созданном с помощью ИИ. NBC News выявила 36 дел, рассмотренных в течение последних трех лет в уголовных судах штатов и федеральных судах, связанных с CSAM, созданным с помощью ИИ, или упоминающих его, в 22 штатах. В нескольких делах, рассмотренных NBC News, обвиняемые были якобы пойманы с тысячами изображений CSAM, созданных с помощью ИИ. Хотя более половины дел, рассмотренных NBC News, все еще находятся в производстве, все закрытые дела завершились обвинительными приговорами. Эти дела, по-видимому, представляют собой лишь небольшую часть проблемы, но Прадо сказал, что трудно сопоставить количество заявлений с количеством дел, подлежащих судебному преследованию. «Дело в том, что полмиллиона сообщений только за первые шесть месяцев календарного года не приведут к 500 000 расследований и уж точно не к 500 000 арестов», — сказал Прадо. «Допустим, несколько сообщений относятся к одному человеку, поэтому трудно отследить, насколько широко это распространено среди населения в целом». Как люди создают больше CSAM с помощью ИИ Создатели CSAM с помощью ИИ используют целый ряд приложений и платформ для генерации материалов с насилием, опережая усилия правоохранительных органов. В то время как внимание общественности сосредоточено на компаниях, которые стремятся создать более мощные модели, появилось много небольших компаний и веб-сайтов, которые предлагают аналогичные функции. Анализ судебных дел показывает, как эти небольшие платформы могут ускользать от внимания правоохранительных органов. NBC News обнаружила пять уголовных дел, в которых обвиняемые якобы использовали небольшие платформы искусственного интеллекта, такие как Bashable.art, undress.ai и Faceswapper.AI, которые, по-видимому, имеют менее надежную модерацию платформы или были специально созданы для создания откровенного контента, чтобы создавать обнаженные изображения детей. Ни одна из платформ не была упомянута в качестве ответчика по делам, и ни одна из них не ответила на запросы о комментариях. Согласно федеральному обвинению, мужчина из Айдахо якобы создал более тысячи изображений «явно детской порнографии» с помощью Bashable.art. Следователи установили, что этот мужчина был зарегистрированным сексуальным преступником и 21 год назад был арестован за сексуальное насилие над 13-летней девочкой. Используя «режим без ограничений» платформы, он якобы заставил программу создать обнаженные изображения детей младше 13 лет, в том числе запросы на изображения «большой группы 11-летних девочек, принимающих душ» и «10-летней маленькой обнаженной девочки». Дело все еще находится на рассмотрении. Bashable.art ограничивает доступ к откровенному контенту, но предоставляет зарегистрированным пользователям доступ к «неограниченному режиму», который «удаляет все фильтры по запросам и моделям и позволяет просматривать другие общие неограниченные генерации», согласно информации на веб-сайте. На веб-сайте платформы также указано, что она контролирует контент, созданный в неограниченном режиме, и может приостанавливать действие учетных записей пользователей и сообщать о них в NCMEC. Хотя ответчик, который предположительно использовал Bashable.art, не обвиняется в создании изображений известных жертв, ответчики по делам, связанным с undress.ai и Faceswapper.AI, обвиняются в этом. Платформы, такие как undress.ai, являются частью сети генераторов «nudify», предназначенных исключительно для создания откровенных дипфейков с использованием изображений реальных людей. В федеральном уголовном деле, согласно ходатайству о недопущении доказательств, обвиняемый якобы использовал веб-сайт DeepSukebe, описываемый как «AI-Leveraged Nudifier» (программа, использующая искусственный интеллект для создания обнаженных изображений), который генерирует глубоко поддельные обнаженные изображения женщин на основе фотографий в одежде. DeepSukebe не ответил на запрос о комментарии. Согласно пресс-релизу Министерства юстиции, мужчина использовал ИИ для «цифрового изменения изображений несовершеннолетних в одежде, делая их сексуально откровенными», включая изображения «со школьного танца и фотографию, посвященную первому дню в школе». Мужчина, который также хранил видео и изображения детей, которые он тайно снимал, был приговорен к 40 годам тюремного заключения. Модели искусственного интеллекта с открытым исходным кодом представляют собой особенно сложную проблему в борьбе с CSAM, поскольку позволяют любому загружать, копировать, изменять и использовать их. Согласно материалам федерального суда, Stability AI, компания, стоящая за широко используемой моделью изображений с открытым исходным кодом Stable Diffusion, предположительно использовалась мужчиной из Висконсина для создания CSAM. Правоохранительные органы утверждают, что мужчина использовал Stable Diffusion, а также «специальные надстройки, созданные другими пользователями Stable Diffusion, которые специализировались на создании изображений половых органов», что позволило ему «генерировать фотореалистичные изображения несовершеннолетних», согласно материалам текущего дела. Адвокат, представляющий интересы мужчины, отказался от комментариев. В ответ на запрос о комментарии по этому делу представитель Stability AI заявил NBC News, что компания «привержена делу предотвращения неправомерного использования ИИ и всегда запрещала использование наших моделей изображений и инструментов для незаконной деятельности, включая все попытки редактирования или создания CSAM». Риана Пфефферкорн, научный сотрудник Института искусственного интеллекта, ориентированного на человека, при Стэнфордском университете, заявила, что использование платформ с открытым исходным кодом затрудняет властям борьбу с CSAM, созданным с помощью ИИ. «Когда у вас есть идентифицируемое юридическое лицо, которое присутствует в США и имеет корпоративный офис, вы можете его задержать», — сказала Пфефферкорн. Но модели с открытым исходным кодом, такие как Stable Diffusion 1.5, по ее словам, могут «плавать где-то там и продолжать обучаться локально». Крупные компании сталкиваются с серьезными трудностями, учитывая количество их пользователей. Согласно отчету CyberTipline NCMEC — механизма подачи сообщений, с помощью которого поставщики электронных услуг могут сигнализировать центру о потенциальном CSAM — крупные технологические компании подали тысячи сообщений о пользователях, которые потенциально используют их услуги для создания CSAM. Платформы по закону обязаны сообщать о потенциальном CSAM. По крайней мере один крупный игрок, похоже, усугубляет проблему. В январе X Илона Маска столкнулся с глобальной негативной реакцией после того, как обновление его инструмента искусственного интеллекта Grok позволило пользователям создавать и публиковать несогласованные дипфейки. Британская организация Internet Watch Foundation сообщила NBC News, что пользователи даркнета обменивались «криминальными изображениями» несовершеннолетних девочек, предположительно созданными с помощью Grok. Позже Маск ответил в посте в X, что он «не знает о каких-либо изображениях несовершеннолетних в обнаженном виде, созданных Grok», и что Grok «откажется производить что-либо незаконное, поскольку принцип работы Grok заключается в соблюдении законов любой страны или штата». Реальность против ИИ Все более реалистичный контент, созданный с помощью ИИ, поставил перед следователями CSAM проблему: как отличить изображения реальных людей от полностью виртуальных материалов. «Благодаря ежегодным достижениям в области генеративного ИИ эти изображения стали чрезвычайно фотореалистичными», — сказал Макналти. «Я думаю, что это, безусловно, вызывает опасения, что правоохранительные органы могут потратить дни на поиски человека, которого не существует». Это различие может радикально изменить ход судебного разбирательства. В одном из текущих федеральных дел мужчина, обвиняемый в использовании ИИ для создания откровенных изображений детей, не имеющих известных жертв, предстанет перед судом по обвинениям, связанным с федеральными законами о непристойности, а не с федеральными законами о CSAM, поскольку предположительно сгенерированные дети физически не существуют. Пфефферкорн сказала, что она рассмотрела более 60 дел, связанных с CSAM и искусственным интеллектом, на уровне штатов и федеральном уровне и обнаружила, что обвинения в непристойности в основном используются в делах, в которых не фигурируют реальные дети. Однако она сказала, что большинство людей, у которых обнаружено CSAM, сгенерированное искусственным интеллектом, также владеют реальным CSAM. «За это их можно пригвоздить к стене». Однако когда речь шла о реальных жертвах, прокуроры утверждали, что обвинения не должны быть скорректированы из-за использования ИИ. В деле в Арканзасе подсудимый пытался отклонить обвинения против него, утверждая, что фотографии детей, которые были наложены на тела взрослых, занимающихся сексуальной деятельностью, были созданы с помощью компьютера. Прокурор по делу ответил, что измененные изображения «все равно противоречат закону Арканзаса, запрещающему производство и продвижение материалов с откровенным сексуальным содержанием, в которых участвуют дети», согласно краткому изложению дела. Мужчина был признан виновным. Для NCMEC источник изображения имеет второстепенное значение по сравнению с его воздействием. «Мы в NCMEC считаем все эти изображения одинаковыми. Мы по-прежнему считаем их вредными, независимо от того, являются ли они полностью сгенерированным искусственным интеллектом контентом или были сделаны преступником, имеющим доступ к ребенку», — сказала Кэтрин Рифенбарк, директор CyberTipline в NCMEC. «Для жертвы вред будет одинаковым», — добавила она. «Они по-прежнему будут испытывать влияние этих обнаженных фотографий, независимо от того, являются ли они сгенерированными искусственным интеллектом или нет, распространенных в Интернете. А поскольку профессионалам сложно различить эти два вида контента, то и обычным людям, конечно, тоже сложно, поэтому жертвы будут страдать в равной степени». Правовая ситуация В то время как более широкое регулирование ИИ остается предметом политических разногласий, законодатели по обе стороны политического спектра пытаются решить проблему CSAM, созданного с помощью ИИ, хотя подходы к решению этой проблемы варьируются от штата к штату. По данным наблюдательной группы Public Citizen, 45 штатов приняли законы, касающиеся интимных дипфейков, созданных с помощью ИИ, многие из которых сосредоточены конкретно на несовершеннолетних. Дипфейк — это сгенерированное ИИ изображение, видео или аудиозапись, изображающая реального человека, как правило, в злонамеренных целях, и которую трудно отличить от подлинной. Миссури и Нью-Мексико еще не приняли таких законов, а в нескольких других штатах законопроекты находятся на рассмотрении. «Я считаю, что существует общий интерес к принятию такого рода законодательства», — сказала Илана Беллер, организационный менеджер Public Citizen, создавшая трекер. «А в штатах, где это еще не произошло, это не столько результат отсутствия политической воли или интереса, сколько результат логистики и более широкой политики». Она отметила, что некоторые законы штатов специально ориентированы на несовершеннолетних, другие — на дипфейки без согласия в целом, а третьи — на конкретные требования к компаниям, занимающимся искусственным интеллектом. Беллер сказал, что штаты активно принимают законы о CSAM, созданном с помощью ИИ, но что борьба с ИИ-компаниями может быть «более сложной областью для законодательного регулирования», поскольку это может означать, что небольшие, нерегулируемые платформы ИИ с открытым исходным кодом останутся безнаказанными. Четыре штата приняли или внесли на рассмотрение законы, которые специально нацелены на платформы, но все они уже имеют ранее принятые законы, которые в целом охватывают глубокие подделки с помощью ИИ. NBC News выявила пять случаев, связанных с CSAM, созданным с помощью ИИ, в Миссури, Аляске и Огайо, где нет конкретной правовой базы для борьбы с этой проблемой. Тем не менее, два из этих дел, в которых фигурировали известные жертвы, закончились обвинительными приговорами за хранение детской порнографии. Остальные дела находятся в стадии рассмотрения. Федеральные власти продолжают работу по решению проблемы CSAM, созданного с помощью ИИ. В мае 2025 года президент Дональд Трамп подписал закон TAKE IT DOWN, который сделал создание дипфейков без согласия лица, изображенного на них, федеральным преступлением и обязывает платформы удалять изображения в течение 48 часов после получения сообщения о них. 16 декабря Сенат единогласно принял закон ENFORCE (Enhancing Necessary Federal Offenses Regarding Child Exploitation), который позволяет преследовать создателей и распространителей CSAM, созданного с помощью ИИ, в той же степени, что и тех, кто создает другие формы CSAM. В настоящее время законопроект ожидает рассмотрения в Палате представителей. Беллер сказал, что федеральный закон является шагом в правильном направлении, но что законодательство штата имеет решающее значение для гражданских дел и для рассмотрения растущего числа дел. Беллер указал на закон штата Нью-Гэмпшир, который как запрещает «определенные виды использования дипфейков», так и создает «право на подачу частного иска». «Очень важно, чтобы прокуроры штатов и местные прокуроры также были уполномочены решать эти вопросы в судах», — сказал Беллер. «Количество дел, связанных с несогласованными интимными дипфейками, будет просто слишком большим для федеральных прокуроров. Они смогут рассмотреть лишь небольшую часть от общего числа дел». Прадо сказал, что если технология будет продолжать развиваться такими же темпами, законодателям по-прежнему будет сложно найти правильный подход. «Я вижу, что штаты и федеральное правительство действительно принимают меры в ответ на эту проблему», — сказал он. «Но, как мы хорошо знаем, между законодательными органами штатов и Конгрессом часто возникает задержка в принятии законов, потому что требуется время, чтобы сформулировать законы, внести их в законодательство и обучить людей их применению. Трудно идти в ногу с быстро развивающейся технологией и генеративным ИИ».