Темная сторона ИИ: риск жизни в перенасыщенном мире

За последние пять лет искусственный интеллект превратился из вспомогательного инструмента в главного создателя контента, который мы потребляем. Сегодня он генерирует тексты, изображения, видео, книги и даже фильмы. Но больше - не всегда лучше, и производство автоматизированного контента уже демонстрирует свои негативные последствия. В эпоху искусственного интеллекта не все является законным творчеством. За несколько недель до публикации своих новых мемуаров технологическая журналистка Кара Свишер вспоминает, что ее жена, просматривая Amazon, увидела нечто необычное: книгу с ее именем и фотографией на обложке, сгенерированной искусственным интеллектом. Название книги утверждало, что это история ее жизни. Заинтригованная, она кликнула на книгу и обнаружила, что была не единственной. Там были десятки фальшивых биографий о ней, все подписаны неизвестными авторами, с расплывчатыми и неточными текстами, в которых безошибочно угадывался стиль, разработанный ChatGPT. И ее случай не уникален: «Согласно расследованию американской газеты The Washington Post, Amazon сталкивается с растущей волной поддельных книг, созданных искусственным интеллектом, включая апокрифические биографии, которые обнаруживаются на его платформе. Распространение этих мошеннических произведений усилилось, некоторые из них даже имеют обложки, созданные искусственным интеллектом, и содержат общую, ложную или просто бесполезную информацию». »Все больше писателей обнаруживают, что при публикации на Amazon им приходится конкурировать с десятками текстов, поддельных и настоящих, которые наводняют рынок. «С другой стороны, в перенаселенном мире социальных сетей в последние годы множатся виртуальные агенты влияния: персонажи, полностью созданные искусственным интеллектом, которые не только набирают миллионы подписчиков, но и заключают контракты с крупными брендами и массово генерируют контент, вирусный и практически не отличимый от контента реального человека. Лил Микела, 21-летняя девушка-робот, живущая в Лос-Анджелесе (Калифорния), была создана компанией Brud, стартапом из Кремниевой долины, специализирующимся на робототехнике в сфере маркетинга. Модель и певица с более чем 2,4 миллионами подписчиков в Instagram и 273 000 подписчиков на YouTube, она была признана журналом Time одной из самых влиятельных людей в Интернете. В своей биографии она также упоминает о своих бразильских корнях. Благодаря своей популярности она сотрудничала с такими крупными международными брендами, как Calvin Klein и Samsung. Шуду Грам, в свою очередь, называет себя первой в мире цифровой супермоделью. Обладая темной кожей, длинными ногами и гиперреалистичной внешностью, эта виртуальная модель привлекла внимание модной индустрии и сотрудничала с такими люксовыми брендами, как Fenty и Tiffany. Ее создание отвечает четкой стратегии: быть идеальным лицом для модных кампаний без всех ограничений, которые могут быть у человеческой модели. И таких, как они, еще много. Цифровые личности с симметричными лицами, фарфоровой кожей и жизнью, которую мы всегда хотели иметь. Легкость, с которой искусственный интеллект создает контент, увеличила количество материалов, доступных в Интернете. Миллионы текстов, изображений и видео генерируются каждый день за считанные секунды. Качество иногда хорошее, а часто не очень, но насыщение уже начинает ощущаться: «В то время как у человека могут уйти минуты, часы или даже дни на создание поста для своих сетей, ChatGPT или любой его аналог делает это массово, за считанные секунды: тексты, изображения, видео, без перерыва и фильтров». «Но этот неограниченный потенциал породил тревожное явление: «слоп» - термин, определяющий лавину низкокачественного контента, созданного ИИ, который наводняет платформы и делает все более трудным отделить ценное от одноразового. «Слоп» означает «отходы» или «помои», тип контента, единственным приоритетом которого является количество, а не качество. «Перепроизводство „слопа“ делает все более трудным отделить ценный контент от некачественного материала. Такое перенасыщение не только дезинформирует пользователей, но и подрывает доверие к цифровым платформам». »На протяжении многих лет социальные сети были для компаний предпочтительным каналом взаимодействия с потребителями. Однако перенасыщенность контентом и чрезмерное воздействие рекламы уже начали сказываться. «Согласно недавнему анализу журнала Puro Marketing, „насыщенность рекламного рынка в социальных сетях затрудняет захват внимания потребителей, а постоянная бомбардировка контентом вызывает усталость и фрагментацию внимания пользователей“. »Информационная перегрузка не только влияет на внимание пользователей, но и имеет последствия для их психического здоровья. Чрезмерное потребление тривиального контента в Интернете может привести к ухудшению когнитивных функций, влияя на внимание и память. Кроме того, постоянное пребывание в социальных сетях связано с ростом тревожности, стресса и депрессивных симптомов, особенно среди подростков. «По данным британской газеты The Guardian, последние исследования показали, что чрезмерное потребление нездорового контента в интернете влияет на структуру мозга. Зависимость от социальных сетей уменьшает количество серого вещества в префронтальных областях, сокращает продолжительность внимания, ослабляет память и нарушает основные когнитивные процессы. Эксперты также предупреждают, что эти изменения схожи с теми, которые наблюдаются у потребителей, страдающих зависимостью от таких веществ, как алкоголь и метамфетамины. «Столкнувшись с этим новым сценарием, компании и рекламодатели всех видов должны будут придумать, как пробиться через это море отвлекающих факторов и донести свою мысль до пользователя, который уже не знает, стоит ли продолжать потребление или он тонет в океане бесконечного материала».