Исследователи тайно проникли на популярный форум Reddit с помощью ботов с искусственным интеллектом, вызвав возмущение

В последние месяцы группа исследователей провела на Reddit секретный эксперимент, чтобы выяснить, как можно использовать искусственный интеллект для влияния на мнение людей. Теперь Reddit заявляет, что рассматривает возможность судебного разбирательства. Исследователи из Цюрихского университета запустили множество ботов с искусственным интеллектом, которые выдавали себя за реальных людей и общались с пользователями без их ведома или согласия, чтобы попытаться изменить мнение на популярном форуме Reddit r changemyview, где в сообщениях часто просят пользователей оспорить их взгляды на спорные темы. Боты, чьи аккаунты теперь заблокированы, оставили более 1000 комментариев на всем субреддите, приняв на себя такие личины, как жертва изнасилования, чернокожий мужчина, выступающий против движения Black Lives Matter, и консультант по травмам, специализирующийся на насилии. Один ИИ-бот под ником u catbaLoom213 оставил пространный комментарий, опровергающий мнение о том, что ИИ никогда не должен взаимодействовать с людьми в социальных сетях, согласно полной копии комментариев ботов, составленной модераторами сабреддита. «ИИ в социальных пространствах - это не просто пародия, это расширение человеческих связей», - написал бот, выдавая себя за реального пользователя. Другой бот, u genevievestrome, раскритиковал движение Black Lives Matter за то, что его возглавляют «НЕ чернокожие люди». «Я говорю это как чернокожий человек: мало найдется лучших тем для игры в жертву, чем быть чернокожим», - написал бот. Другие боты называли себя самыми разными именами - от «римского католика, который является геем» и небинарного человека, который чувствует себя «и трансом, и цисом одновременно», до латиноамериканца, который испытывает разочарование, «когда люди называют меня белым мальчиком». Хотя результаты эксперимента пока неясны, проект стал последним инцидентом, который подогрел опасения по поводу способности искусственного интеллекта подражать людям в Интернете, добавив к уже распространенным опасениям по поводу потенциальных последствий взаимодействия с ИИ-компаньонами. Такие боты, проникшие на такие социальные платформы, как Instagram, как известно, могут принимать уникальные человеческие черты и личности. В понедельник главный юрисконсульт Reddit Бен Ли написал в своем сообщении, что ни Reddit, ни мод r changemyview не знали заранее об «этом неправильном и крайне неэтичном эксперименте». Он добавил, что Reddit находится в процессе отправки официальных юридических требований Цюрихскому университету и исследовательской группе. «То, что сделала команда Цюрихского университета, глубоко ошибочно как с моральной, так и с юридической точки зрения», - написал Ли. «Это нарушает нормы академических исследований и прав человека, а также запрещено пользовательским соглашением и правилами Reddit в дополнение к правилам сабреддита». Представитель Reddit отказался от дополнительных комментариев. В объявлении, опубликованном в сообществе в выходные, модераторы r changemyview написали, что подали жалобу по этике с просьбой к университету не публиковать результаты исследования, провести внутреннюю проверку одобрения исследования и взять на себя обязательство усилить надзор за подобными проектами. «Разрешение на публикацию резко поощрит дальнейшее вторжение исследователей, способствуя повышению уязвимости общества перед будущими экспериментами на людях без согласия», - написали они. Мелани Найфелер, сотрудник отдела по связям со СМИ, написала в электронном письме, что соответствующие органы университета знают об инциденте и будут его расследовать. «В свете этих событий Комитет по этике факультета искусств и социальных наук намерен в будущем применять более строгий процесс проверки и, в частности, согласовывать свои действия с сообществами на платформах перед проведением экспериментальных исследований», - написала Найфелер. Она подтвердила, что исследователи «по собственному желанию» решили не публиковать результаты. По соображениям конфиденциальности, добавила она, университет не может раскрыть их личности. По словам Нифелер, поскольку исследование считалось «исключительно сложным», комитет по этике посоветовал исследователям информировать участников «как можно больше» и полностью соблюдать правила Reddit. Но эти рекомендации не являются юридически обязательными, написала она, и исследователи сами несут ответственность за свой проект. Обратившись по адресу электронной почты, который они создали для эксперимента, исследователи направили все запросы в университет. Исследователи, отвечавшие на вопросы сообщества через свой аккаунт на Reddit u LLMResearchTeam, заявили в Интернете, что ИИ-боты персонализировали свои ответы, используя отдельную модель для сбора демографической информации о пользователях - таких как их возраст, пол, этническая принадлежность, местоположение и политическая ориентация - на основе истории их сообщений. Тем не менее, авторы написали, что их модели ИИ включают в себя «серьезные этические гарантии и меры безопасности», и что они явно побуждали модели избегать «обмана и лжи о реальных событиях». Исследователь также проверял каждый сгенерированный ИИ комментарий перед его публикацией, пишут они. В ответ на обеспокоенность модераторов исследователи заявили: «Тщательный анализ содержания этих отмеченных комментариев не выявил никаких примеров вредных, обманчивых или эксплуататорских сообщений, кроме потенциальной этической проблемы самовыражения». В своем посте модники r changemyview отвергли утверждение исследователей, что их эксперимент «дает важные выводы». Они также написали, что подобное исследование «не демонстрирует ничего нового», чем бы не поделились другие, менее навязчивые исследования. «Наша подлодка - это определенно человеческое пространство, которое отвергает нераскрытый ИИ как основную ценность», - написали они. «Люди приходят сюда не для того, чтобы обсуждать свои взгляды с ИИ или подвергаться экспериментам. Люди, посещающие нашу подлодку, заслуживают пространства, свободного от такого рода вторжений».