Компания OpenAI стала объектом расследования в нескольких штатах США в связи с возможным нанесением ущерба пользователям

Компания OpenAI получила повестку от властей нескольких штатов в рамках расследования, касающегося безопасности пользователей её чат-бота, в то время как она готовится к первичному публичному размещению акций. В частности, власти таких штатов, как Нью-Йорк и Колорадо, потребовали от компании предоставить внутренние документы, касающиеся обработки данных пользователей, безопасности несовершеннолетних и рекламной деятельности, сообщает The New York Times. Компания, стоящая за ChatGPT, заявила, что отреагирует на расследование «конструктивно» и что у нее уже есть меры по защите своих клиентов. «ИИ — это новая и мощная технология, и мы каждый день работаем над тем, чтобы люди могли пользоваться ее преимуществами безопасно и ответственно», — отметил представитель компании в заявлении, отправленном по электронной почте. «Мы серьезно относимся к опасениям, высказанным генеральными прокурорами штатов». «OpenAI подверглось критике из-за того, что, как утверждается, ChatGPT предлагал слова поддержки пользователям, которые подумывали о самоубийстве или совершении преступных деяний. Кроме того, компания подверглась тщательной проверке из-за того, как она использует медицинские данные и другую личную информацию своих клиентов». В четверг на компанию подала иск канадка, которая обвиняет чат-бота в том, что он повлиял на решение её дочери повеситься. В начале июня генеральный прокурор Флориды подал иск против компании после двух отдельных случаев стрельбы, в ходе которых, как сообщалось, предполагаемые нападавшие задавали вопросы ChatGPT, планируя свои преступления. В своем заявлении OpenAI отметила, что её модели неоднократно призывали людей обращаться за поддержкой в реальном мире, в том числе к специалистам в области психического здоровья. Компания также заявила, что сотрудничала с правоохранительными органами в обоих случаях стрельбы. Новое расследование началось всего через несколько дней после того, как компания подала документы в регулирующие органы США по ценным бумагам в рамках долгожданного первичного публичного размещения акций. Конкурент в сфере искусственного интеллекта, компания SpaceX, провела своё собственное первичное публичное размещение акций в пятницу. Производитель ракет, основанный Илоном Маском, также управляет подразделением по искусственному интеллекту, ответственным за конкурирующий чат-бот под названием Grok. «Вопрос о том, как правительствам следует реагировать на потенциальные преимущества и возможные опасности ИИ, становится важной политической темой». Регулирующие органы Европы начали расследования в отношении Grok, принадлежащего Маску, из-за антисемитского контента и сексуализированных материалов, включая дипфейк-изображения обнажённых людей. А компания Anthropic, ещё один разработчик чат-ботов, готовящийся к первичному публичному размещению акций, в пятницу получила от администрации Трампа указание закрыть доступ к двум своим онлайн-моделям для пользователей из-за рубежа по соображениям национальной безопасности. О вызове OpenAI в суд ранее сообщала газета «The Wall Street Journal». «В субботу агентство Associated Press направило электронные письма 12 генеральным прокурорам штатов с просьбой предоставить подробности расследования, но ответов не получило». В своём заявлении OpenAI подчеркнула меры, которые компания приняла для обеспечения безопасности детей, пользующихся её чат-ботом. «Сегодняшняя версия ChatGPT обеспечивает более безопасную среду для несовершеннолетних и людей, находящихся в сложных жизненных ситуациях, благодаря механизмам защиты, которые направляют их к реальным ресурсам и надежным людям», — говорится в одной из частей заявления. «Мы считаем, что к детям нужно относиться как к детям, поэтому мы внедрили функцию прогнозирования возраста, запустили инструменты для родителей, помогающие контролировать использование ИИ их детьми, и запретили рекламу, ориентированную на несовершеннолетних». «По материалам AP»