«Секретный и несанкционированный": эксперимент с искусственным интеллектом, который вызвал тревогу на Reddit

Искусственный интеллект (ИИ) может влиять на мысли людей. Это было продемонстрировано после того, как исследователи из Цюрихского университета (Швейцария) в течение четырех месяцев подряд проводили секретный и несанкционированный эксперимент с пользователями Reddit на субреддите r changemyview. Сотни ботов с искусственным интеллектом участвовали в дискуссиях на различные и противоречивые темы, такие как политика и психическое здоровье. «В частности, ИИ сгенерировал более 1700 комментариев на деликатные темы, такие как пережитое изнасилование, работа с травмированными пациентами или противостояние движению Black Lives Matter, сообщает 404 Media. В связи с этим Reddit взял эксперимент под прицел и объявил, что подаст судебный иск против команды исследователей. «То, что сделала эта команда из Цюрихского университета, глубоко ошибочно как с моральной, так и с юридической точки зрения. Это нарушает нормы академических исследований и прав человека, а также запрещено пользовательским соглашением и правилами Reddit, равно как и правилами сабреддита«, - заявил ведущий юрист платформы Бен Ли. Мы хотим сделать все возможное, чтобы поддержать сообщество и добиться того, чтобы исследователи понесли ответственность за свои проступки», - сказал он. «Ли также заверил, что Reddit не знал о проекте и что все участвовавшие в нем аккаунты были забанены. «Мы продолжим укреплять наши возможности по выявлению неаутентичного контента», - добавил он. «Для проведения эксперимента многие боты были настроены с помощью искусственного интеллекта, чтобы адаптировать свои ответы к характеристикам пользователей, таким как пол, возраст, этническая принадлежность и политическая ориентация. Для этого использовались данные из истории публикаций разных аккаунтов. «Исследователи подчеркнули, что не будут публиковать результаты исследования, отметив лишь, что ИИ удалось «весьма скромно» повлиять на мнение пользователей. «Мы отмечаем, что наши комментарии были неизменно хорошо приняты сообществом, заработав более 20 000 общих лайков и 137 дельт», - заявили они. «С другой стороны, академики признали, что знали о нарушении правил платформы. В связи с этим комитет по этике факультета искусств и социальных наук университета назвал проект «исключительно сложным» и рекомендовал внести изменения, хотя и подчеркнул, что ответственность лежит исключительно на исследователях. «В частности, они считают, что подход должен быть лучше обоснован, что участники должны быть проинформированы об эксперименте и что правила Reddit должны полностью соблюдаться. «Комитет по этике факультета искусств и социальных наук намерен в будущем применять более строгий процесс оценки и, в частности, согласовывать свои действия с сообществами на платформах перед проведением экспериментальных исследований», - сообщил 404 Media представитель университета. «Соответствующие органы Цюрихского университета знают об этих инцидентах и проведут тщательное расследование, а также критически пересмотрят соответствующие процессы оценки», - добавил он: „Соответствующие органы Цюрихского университета знают об этих инцидентах и проведут тщательное расследование, а также критически пересмотрят соответствующие процессы оценки“. «"»