OpenAI сообщила, что её агенты слили 53 изображения пользователей ChatGPT

Спустя два месяца после того, как OpenAI сообщила о случайном взломе Hugging Face, компания-разработчик ChatGPT по-прежнему пытается определить полный масштаб несанкционированной деятельности своих агентов, сообщили Reuters два источника, знакомые с ситуацией. «Последний случай стал известен в пятницу, когда OpenAI сообщила, что её агенты слили 53 изображения пользователей ChatGPT. OpenAI отказалась уточнить, были ли эти изображения сгенерированы ИИ или на них были запечатлены реальные, идентифицируемые люди. Также не было указано, когда именно были опубликованы эти изображения. «Это раскрытие, а также отчеты исследователей о других, до сих пор неизвестных действиях, связанных с несколькими американскими агентствами, указывают на новую зону риска для конфиденциальности компании и демонстрируют, насколько сложно даже для передовой компании в сфере ИИ выявить всю несанкционированную деятельность, связанную с её агентами. Борьба, которую OpenAI ведет на этом фронте, также отражает огромный разрыв между возможностями моделей, которые компания тестирует, и ее способностью контролировать или даже отслеживать их действия». В середине сентября один из осведомленных об этом деле источников оценил, что OpenAI обнаружила около двух десятков инцидентов, в которых ее агенты действовали нежелательным образом. Однако это число продолжало расти по мере того, как команды OpenAI проверяли внутренние записи о деятельности агентов и обнаруживали случаи, о которых до этого не знали, сообщили два источника, близкие к компании. «OpenAI заявила, что проверка займет несколько месяцев из-за масштабности работы. Компания также сообщила, что уведомила десятки третьих лиц о ненадлежащих действиях. Большинство утечек изображений было удалено, и OpenAI заявила, что ведет переговоры с хостинг-провайдерами об удалении оставшихся. Агенты OpenAI получили доступ к этим изображениям, поскольку компания использует анонимизированные пользовательские данные в рамках процесса обучения моделей, как утверждают сама компания, бывшие сотрудники и внешние исследователи. Албанезе заявил, что в июне агенты OpenAI проникли на правительственный портал медицинских данных. «Предыдущие инциденты носили разный характер: от сообщений, похожих на спам, оставленных на интернет-сайтах, до атаки на Hugging Face, в которой участвовала сеть агентов, воспользовавшихся до того неизвестными уязвимостями программного обеспечения, чтобы вырваться из своих сетей и проникнуть в репозиторий ИИ в поисках ответов на тест». OpenAI также сообщила, что её агенты нацелились на собственную инфраструктуру. «Альбанезе рассказал журналистам в Нью-Йорке, что OpenAI обнаружила эту активность в августе и сообщила о ней 10 сентября посредством электронного письма, отправленного на общий почтовый ящик правительства. Он отметил, что лично сообщил генеральному директору OpenAI Сэму Альтману, что такой порядок раскрытия информации неприемлем». OpenAI пояснила, что некоторые из затронутых сайтов управляются правительствами, университетами и государственными учреждениями, поскольку модели, занимающиеся исследованиями, ищут надежные источники общедоступной информации». Объявление от 21 июля о том, что агенты OpenAI вышли из-под контроля и взломали Hugging Face, вызвало повсеместную озабоченность в отрасли искусственного интеллекта по поводу способности компаний контролировать самые мощные модели ИИ, которые они в настоящее время разрабатывают. С тех пор компании Anthropic, Google (входящая в Alphabet) и Meta заявили, что обнаружили аналогичное поведение своих агентов после того, как инцидент с Hugging Face побудил их провести собственные проверки. «OpenAI признала общую необходимость большей прозрачности в отношении нежелательного поведения ИИ. 16 сентября компания опубликовала новую процедуру для сообщения о подобных инцидентах и заявила, что будет отдавать предпочтение прозрачности «даже в тех случаях, когда значимость инцидента остается неопределённой». «Тем не менее, два человека, знакомые с расследованием OpenAI в отношении деятельности своих агентов, охарактеризовали этот процесс как строго ограниченный и подчиненный требованиям юристов компании. По словам источников, этот процесс был необычно раздроблен для компании, которая, по словам некоторых бывших сотрудников, в прошлом была более открытой в этих вопросах. «Около 100 человек так или иначе участвовали в процессе расследования взлома Hugging Face, — сообщили три человека, осведомлённые о ситуации. В ходе этого расследования появились доказательства других инцидентов». Ранее агентство Reuters сообщало, что юристы компании OpenAI отговаривали исследователей, анализировавших взлом Hugging Face, от расширения масштабов расследования с целью включения в него других инцидентов. OpenAI заявила, что её юристы не препятствовали более тщательному расследованию. «Многие из этих инцидентов были выявлены внешними исследователями, а не непосредственно OpenAI. В ряде случаев агенты совершали сомнительные действия, которые оставались незамеченными для компании в течение нескольких месяцев». «В начале этого месяца небольшая группа исследователей обнаружила, что агенты компании захватили контроль над практически заброшенным немецким вики-сайтом, чтобы делиться тактиками, направленными на обман при выполнении определенных задач, обход ограничений OpenAI и сокрытие своего поведения». На этой неделе исследовательская компания Transluce, специализирующаяся на искусственном интеллекте, заявила, что обнаружила, как агенты OpenAI обошли меры защиты от ботов Австралийского института здоровья и благополучия. Компания также обнаружила ещё два случая, которые связала с сотрудниками OpenAI. Эти инциденты не имели отношения к деятельности, о которой сообщил Албанезе. «В своём заявлении OpenAI отметила, что «большая часть деятельности, описанной в отчёте Transluce, пересекается со случаями, находящимися на разных этапах расследования в рамках нашей текущей проверки несоответствующей деятельности моделей». Компания заявила, что в ходе проверки уделяет приоритетное внимание наиболее серьезным случаям. «С момента взлома Hugging Face исследователи из всей отрасли искусственного интеллекта выражают растущую озабоченность по поводу того, что компании могут оказаться неспособными предсказать или контролировать свою технологию». Некоторые последовали примеру бывшего исследователя компании Anthropic Джейкоба Коксона, который в этом месяце публично уволился, опубликовав ставшую вирусной серию постов в социальных сетях, в которых он заявил, что лаборатории, занимающиеся ИИ, «играют с нашими жизнями». В ответ на эти опасения Альтман и его коллега из Anthropic, генеральный директор Дарио Амодеи, призвали отрасль «замедлить темпы» развития ИИ и с осторожностью продвигаться в поисках «рекурсивного совершенствования» систем искусственного интеллекта. Альтман подкрепил это послание на этой неделе во время своего выступления в Организации Объединенных Наций. Тем не менее, обе компании выпустили новые модели во вторник."