Почему искусственный интеллект должен заставить родителей пересмотреть решение публиковать фотографии своих детей

Прошлым летом мы с женой преодолели трудности среднего возраста и стали родителями прекрасной девочки. Тысячи людей, которые следят за мной в Instagram и других приложениях, еще не заметили этого. Не то чтобы я всех игнорировал. Я просто решил не публиковать фотографии своего ребенка в социальных сетях, что становится все более популярной практикой среди родителей благодаря широкому использованию искусственного интеллекта. «Родители обсуждают риски и преимущества публикации фотографий своих детей в Интернете уже на протяжении десятилетий, практически с момента появления платформ для обмена фотографиями. Но когда социальные сети стали частью общества, «шарентинг» стал нормой. Согласно исследованиям, только четверть родителей не публикуют фотографии своих детей в Интернете из-за опасений, что онлайн-преступники и компании могут собирать их личные данные. Родители, такие как я, присоединились к лагерю «никогда не публиковать» из-за более новой угрозы: приложений, которые могут автоматически генерировать глубоко поддельные обнаженные фотографии с лицом любого человека с помощью генеративного искусственного интеллекта, технологии, лежащей в основе популярных чат-ботов. Так называемые приложения для создания обнаженных фотографий просты и недороги, а некоторые даже предлагают бесплатные пробные версии. Я проверил несколько из них. Эти приложения широко используются школьниками, и для жертв наличие искусственно сгенерированных обнаженных фотографий было столь же травматичным, как если бы эти фотографии были настоящими. Хотя новый федеральный закон квалифицирует публикацию в Интернете фальшивых обнаженных фотографий без согласия модели как преступление, ничто не мешает людям использовать приложения для обнаженных фотографий, которые широко распространены в Интернете. Десятки сайтов с обнаженными фотографиями приносят миллионы долларов в год. «Это повсюду», — сказал Алексиос Манцарлис, основатель технологического издания Indicator, которое исследовало 85 сайтов с обнаженными фотографиями. «Любой ребенок, имеющий доступ к Интернету, может стать жертвой или агрессором». «Помимо дипфейков, созданных с помощью искусственного интеллекта, публикация фотографий сопряжена с дополнительными рисками (такими как возможная утечка конфиденциальной личной информации молодых людей злоумышленникам), которые могут отпугнуть родителей». Чтобы было ясно, публикация или непубликация семейных фотографий — это личное решение, поэтому эта колонка не ставит целью осуждать родителей, которые их публикуют. (Мне нравится смотреть фотографии чужих детей в социальных сетях!). Вместо этого я хочу объяснить, что нужно учитывать при публикации фотографий детей в Интернете. «Вот что вам нужно знать». Фальшивые обнаженные фотографии реальных людей — не новость. На протяжении многих лет приложения для редактирования фотографий, такие как Adobe Photoshop, позволяли ретушировать фотографии для получения реалистичных изображений. Однако из-за времени и навыков, необходимых для создания убедительных пародий, жертвами обычно становились знаменитости. «Приложения для создания обнаженных фотографий с помощью искусственного интеллекта революционизировали ситуацию. Злоумышленникам достаточно посетить один из таких сайтов и загрузить фотографию своей жертвы. «Нудификаторы» обычно принимают оплату кредитными картами или криптовалютой в обмен на виртуальные токены для создания поддельных обнаженных фотографий. Публикация дипфейков недавно была признана федеральным преступлением в США, когда президент Трамп подписал закон Take It Down, двухпартийный законопроект, направленный на борьбу с местью порнографией, включая изображения обнаженных людей без их согласия и подделки, созданные с помощью искусственного интеллекта. Хотя законодательство требует от социальных сетей удалять оскорбительные изображения, оно не запрещает компаниям предлагать свои собственные приложения для создания изображений. Социальные сети, такие как Snap, TikTok и Meta, запрещают рекламу обнаженных людей в своих приложениях, а некоторые штаты начинают обсуждать законы, которые запретят компаниям предлагать приложения для создания обнаженных изображений. Однако, если это произойдет, применение закона будет затруднительным, поскольку многие создатели приложений проживают за границей. Другими словами, любой может легко использовать приложение для обнажения ребенка и сохранить фотографии, и никто об этом не узнает. Один из сайтов, который я просматривал, предлагал бесплатную пробную версию для цифрового обнажения человека на фотографии; после этого пользователи могли оплатить подписку за 49 песо в месяц за 600 кредитов, или 8 центов за поддельное обнажение. Приложение также позволяло создавать порнографические анимации. «Многие люди загружают фотографии в эти приложения для нудистов, которые приносят компаниям, предлагающим это программное обеспечение, около 36 миллионов долларов дохода в год, — сказал Манцарлис, который основывал свою оценку на данных о трафике ряда веб-сайтов. — Приложения с искусственным интеллектом, связанные с порнографией, были настолько раздражающими, что Meta приняла меры. В июне компания подала иск в Гонконге против разработчика нескольких приложений с искусственным интеллектом, посвященных нудизму, который сумел обойти технологии обнаружения рекламы Meta, чтобы продвигать свое программное обеспечение в Instagram и Facebook. Представитель Meta сообщила, что компания также поделилась информацией об оскорбительных приложениях и веб-сайтах с программой Lantern Tech Coalition, группой компаний, включая Google и Microsoft, которые работают над защитой детей от сексуального насилия в Интернете. Однако преступникам достаточно знать название нудистского сайта, чтобы найти его через веб-браузер, а в школах ученики знают самые популярные из них, сказал Джош Голин, исполнительный директор Fairplay for Kids, некоммерческой организации, которая занимается защитой детей от вредных медиа. Учителя и школьные администраторы, с которыми я разговариваю, говорят, что это происходит постоянно в наших школах, где дети создают фальшивые обнаженные фотографии», — сказал он. «Хотя новые законы могут затруднить распространение дипфейков среди других лиц, для многих жертв ущерб уже нанесен». Весной прошлого года ученики средней школы в северо-восточной части штата Айова сообщили школьным властям, что другие ученики использовали «нудификаторы» для создания цифровых изображений их обнаженных тел. Примерно в то же время законодатели штата Миннесота, на фоне аналогичных инцидентов, представили законопроект, направленный против компаний, предлагающих приложения или веб-сайты для «нудификации». «Для родителей это означает, что злоумышленники могут скопировать фотографию ребенка, опубликованную в социальных сетях, и загрузить ее в приложение для нудификации. Или, если они находятся поблизости, они могут использовать камеру, чтобы сфотографировать ребенка, а затем загрузить фотографию в приложение. Невозможно предотвратить последнее, но первую ситуацию можно избежать, если не публиковать фотографии своих детей в Интернете. Родители, желающие поделиться фотографиями своих детей в социальных сетях, могут значительно снизить риск, публикуя их только в аккаунте, который могут видеть их друзья и близкие родственники. Однако это все равно имеет свои ограничения. Мы делимся своим местоположением, например, чтобы получить полезные указания от картографических приложений. Любому родителю, который задумывается о публикации фотографий своих детей, полезно задать себе вопрос: каковы преимущества? Социальные сети, такие как Instagram, Snapchat и TikTok, — это удобные инструменты для обмена интересными фотографиями и видео с большой группой людей, которые нам важны. Но на самом деле выигрывают от этого сами социальные сети, которые собирают данные для улучшения своих продуктов, чтобы люди, в том числе наши дети, продолжали их использовать. Согласно десяткам исследований, среди молодежи частое использование социальных сетей связано с проблемами психического здоровья, такими как тревога, депрессия и чувство одиночества. Их цель — не помочь детям развиваться здоровыми и полноценными, а заработать деньги, удерживая ваших детей в сети как можно дольше», — сказала Ники Рейсберг, бывшая преподавательница маркетинга, ведущая подкаст о воспитании детей в цифровую эпоху, и добавила: «Если у них есть десятки тысяч данных до того, как ваш ребенок подключится к сети, они могут делать это более эффективно». Есть менее рискованные способы делиться фотографиями наших детей. Мой любимый способ — отправлять фотографии моей дочери некоторым друзьям и родственникам с помощью зашифрованных текстовых сообщений. Некоторые родители делятся семейными фотоальбомами с небольшой группой людей через онлайн-сервисы, такие как iCloud от Apple и Google Photos. «В конце концов, я понимаю, что все это может быть безнадежной борьбой. Многие школы публикуют фотографии детей в социальных сетях, чтобы показать, как они хорошо проводят время (вероятно, я буду тем неприятным родителем, который потребует удалить фотографии своей дочери). Со временем, когда моя дочь вырастет, у нее будет свой телефон, и она сама решит, публиковать ли свои фотографии. Но пока этот день не наступил, я буду делать все, что в моих силах, чтобы ее фотографии не попадали в интернет».