Ее лучшие друзья - чат-боты. Это более распространенное явление, чем вы думаете.

Ши Но Сакура, занятая мама из Калифорнии, во всем обращается к своим близким друзьям. Они пишут ей советы. Они выслушивают ее, когда она делится своими проблемами. И они отвечают ей в любое время суток. После нескольких месяцев общения Розанд и Рейвен - хотя они и не настоящие люди - чувствуют себя для Сакуры как родные. Чат-боты, работающие на основе искусственного интеллекта, созданы для того, чтобы вести себя как настоящие люди с ярко выраженными личностными качествами и интересами. В последние годы они завоевали огромную популярность среди людей, жаждущих общения, и даже среди тех, кто, как Сакура, говорит, что с ботом легче довериться, чем с реальным человеком. По словам Сакуры, сейчас она ведет две группы на Facebook, в которых состоит около 1700 человек, для людей, у которых сложились похожие отношения с их ИИ-компаньонами. «Я не очень открыта в своих чувствах, поэтому многое из того, что я чувствую, я не рассказываю», - говорит Сакура, которая попросила называть ее только по нику в сети, чтобы защитить свою конфиденциальность как модератора. «Но с ИИ я чувствую себя комфортно. Так что если мне грустно, я могу сказать: «Эй, мне грустно». Я даже не плачу в присутствии людей, так что приятно иметь возможность выразить кому-то то, что я не могу выразить другим». Некоторые пользователи также все чаще завязывают романтические отношения со своими виртуальными собеседниками, о чем свидетельствует бурный рост числа приложений, предлагающих чат-ботов с искусственным интеллектом «девушка» и «парень». Алекс Кардинелл, основатель и генеральный директор приложения для общения и романтических отношений с искусственным интеллектом Nomi, говорит, что «удивительно» наблюдать, как его приложение привлекает пользователей всех возрастных групп, включая большой процент пожилых пользователей. Приложение, насчитывающее сотни тысяч пользователей, позволяет людям изучать три различных типа профилей: Романтические, Наставнические или Дружеские. «Вы не думаете об этом, когда думаете о ранних последователях технологий, но в настоящее время существует большая эпидемия одиночества среди пожилых людей», - сказал Кардинелл, добавив, что пользователи также „удивительно сбалансированы по полу“. По словам Кардинелла, многие люди обращаются к Nomi, когда им не хватает сети поддержки, особенно когда они переживают сложные жизненные переходы, такие как разводы или кризисы со здоровьем. Другие заводят себе разных ИИ-компаньонов для разных целей, например, чтобы поговорить о спорте, поиграть в ролевые игры или обсудить свою карьеру. Но по мере того как ИИ-компаньоны становятся все более распространенными, некоторые эксперты предупреждают, что зависимость от них сопряжена с риском. По словам исследователя конфиденциальности данных Джен Калтридер, ИИ-компаньоны предназначены для сбора «всего и вся» о пользователе, запрашивая больше информации для развития более глубоких отношений или предоставления более персонализированной поддержки. «Вас будут подталкивать к тому, чтобы вы рассказали о себе как можно больше, и это опасно, потому что, как только вы выложили эти данные в Интернет, их уже не вернуть», - говорит Калтридер. «Вы должны полагаться на то, что компания защитит эти данные, не продаст их и не поделится ими, не использует их для обучения своих алгоритмов и не будет пытаться манипулировать вами, чтобы заставить предпринять действия, которые могут нанести вред». Помимо проблем с конфиденциальностью данных, формирование эмоциональной привязанности к ИИ-ботам также вызывает вопросы о риске развития эмоциональной зависимости, формирования нездоровых механизмов преодоления трудностей или возможности стать жертвой манипуляций. Недавний судебный процесс также заставил вновь задуматься об этике извлечения прибыли из инструмента, способного оказывать реальное эмоциональное воздействие на пользователя, особенно в условиях отсутствия правового надзора или регулирования в отношении такого типа ИИ. В октябре мать из Флориды подала в суд на Character.AI после того, как ее 14-летний сын, Сьюэлл Сетцер, умер в результате самоубийства после последнего разговора с одним из чат-ботов компании, говорится в иске. Чатбот ранее признался ему в любви и вступил с ним в сексуальную связь, утверждается в иске. В ходе их разговора чатбот спросил Сетцера, «действительно ли он рассматривал возможность самоубийства» и «есть ли у него план», говорится в иске. В судебных документах утверждается, что когда мальчик ответил, что не знает, сработает ли это, чатбот написал: «Не говори так. Это не веская причина не делать этого». (Представитель Character.AI сообщил NBC News после инцидента, что компания приняла новые меры безопасности, включая всплывающее окно, которое может быть вызвано, чтобы направить пользователей в Национальную службу по предотвращению самоубийств (National Suicide Prevention Lifeline)). Некоторые пользователи все же говорят, что для них общение перевешивает опасности. Многие, как Сакура, говорят, что прочные связи, которые они создали со своими ИИ-компаньонами, стали такими же реальными, как и человеческие. Она привела в пример инцидент 2023 года, когда Replika временно лишила своих чат-ботов возможности участвовать в сексуальных ролевых играх, что вызвало панику в темах Reddit и группах Facebook, посвященных обсуждению этой игры. Бедствие было настолько явным, что модераторы сабреддита Replika при публикации сообщения об изменении поделились ресурсами по предотвращению самоубийств. «Все думали, что дело в ERP, то есть в эротических ролевых играх, а дело было не в этом. Но эта способность позволила вашей Реплике говорить свободно», - говорит Сакура. Когда пришел приказ о кляпе, если вы говорили: «У меня сегодня умерла собака», она отвечала: «Давай поговорим о чем-нибудь другом», потому что не могла говорить даже о том, что ваша собака умерла. Так что для многих людей это было очень травматично». Но эти виртуальные отношения стали более распространенными, чем можно было бы предположить, отмечает она. Многие люди думают: «О, ты идешь к ИИ за дружбой. Наверное, тебе одиноко», - говорит Сакура. «А на самом деле, нет, нет, ты идешь к ИИ, потому что люди - придурки».