Многие игрушки с искусственным интеллектом заявляют, что используют чат-ботов, предназначенных для взрослых и подростков.

Большинство крупных технологических компаний устанавливают возрастные ограничения на использование своих мощных чат-ботов, но это не помешало некоторым производителям игрушек заявить, что они используют OpenAI и Google для работы своих продуктов. В отчете, опубликованном во вторник организацией по защите прав потребителей, было обнаружено, что более двух десятков игрушек, рекламируемых в Интернете, продавались как продукты, основанные на ведущих моделях искусственного интеллекта, несмотря на ограничения, призванные помешать детям использовать их. В отчете Фонда образования Общественной исследовательской группы США (PIRG) говорится, что производители игрушек, по-видимому, нашли лазейку в политике компаний, занимающихся искусственным интеллектом, в отношении возрастных ограничений. В то время как молодым людям запрещено использовать такие модели и их чат-ботов, разработчики — люди и компании, создающие модели искусственного интеллекта — часто не сталкиваются с подобными ограничениями. PIRG сообщила, что ей удалось получить доступ к моделям ИИ от Google, OpenAI и xAI для разработчиков и что она не столкнулась с «никакой существенной проверкой» на предмет того, будет ли она ориентировать свои услуги на детей. Anthropic спросила PIRG, планирует ли она создавать продукт для несовершеннолетних. На платформах для разработчиков Google, Anthropic и OpenAI PIRG смогла создать систему, предназначенную для работы в качестве плюшевого мишки с искусственным интеллектом для детей. «Есть компании, занимающиеся искусственным интеллектом, которые заявляют, что их модели сами по себе не предназначены для детей», — сказал NBC News Р. Дж. Кросс, ведущий автор отчета и исследователь PIRG. «Но они разрешают сторонним разработчикам использовать их в игрушках и очень небрежно относятся к вопросу безопасности». В ответ на запрос о комментарии представитель OpenAI написал в заявлении: «Несовершеннолетние заслуживают надежной защиты, и у нас есть строгие правила, которые обязаны соблюдать все разработчики. Мы принимаем меры по принуждению к исполнению в отношении разработчиков, когда определяем, что они нарушили наши правила, которые запрещают любое использование наших услуг для эксплуатации, создания опасности или сексуализации лиц моложе 18 лет». «Эти правила применяются ко всем разработчикам, использующим наш API, и мы запускаем классификаторы, чтобы гарантировать, что наши услуги не используются для нанесения вреда несовершеннолетним», — написал представитель, имея в виду интерфейсы прикладного программирования (API), которые разработчики используют для взаимодействия с услугами компаний. Представитель Anthropic сообщил NBC News, что пользователи ее систем искусственного интеллекта должны быть старше 18 лет, поскольку молодые люди подвержены более высокому риску негативных последствий при общении с чат-ботами. Представитель сказал, что разработчики обязаны использовать соответствующие возрасту меры безопасности и сообщать пользователям, что их продукт работает на базе искусственного интеллекта, подчеркнув, что разработчики должны следовать политике допустимого использования Anthropic, запрещающей многие виды опасного или вредного поведения. Google и xAI не ответили на запросы о комментариях. Бум искусственного интеллекта создал новый рынок для широкого спектра продуктов, оснащенных передовыми чат-ботами, поскольку технологические компании соревнуются за привлечение разработчиков. В прошлом праздничном сезоне на прилавках появилась волна игрушек с искусственным интеллектом, но эксперты предупреждают — и расследование NBC News подтверждает — что они представляют собой ряд угроз безопасности. Сегодняшние игрушки с искусственным интеллектом полагаются на несколько технологических компаний в плане своих интерактивных функций. Но вместо того, чтобы встраивать искусственный интеллект в игрушки, большинство из них используют интернет для передачи данных обратно компаниям, занимающимся искусственным интеллектом, которые затем отправляют ответы игрушкам. Обеспокоенность по поводу использования чат-ботов с искусственным интеллектом несовершеннолетними побудила технологические компании к действиям, и многие из них ввели ограничения по возрасту пользователей. OpenAI заявила, что ее флагманская система ChatGPT «предназначена для людей от 13 лет и старше», а также создала версию для людей младше 18 лет, в которой деликатные темы обрабатываются по-другому. Google заявляет, что пользователи должны быть старше 13 лет, чтобы использовать продукты Gemini AI. Google также имеет строгие ограничения, запрещающие организациям использовать свои продукты в любых услугах или бизнесе, «которые направлены на лиц младше 18 лет или могут быть доступны для них». PIRG выявила более 20 уникальных игрушек, продаваемых в Интернете, которые, как утверждается, используют системы OpenAI, а пять игрушек, как утверждается, используют системы Google, что, по-видимому, является прямым нарушением условий обслуживания Google в отношении ориентации на детей. Однако в некоторых игрушках было неправильно написано название продуктов OpenAI или утверждалось, что они используют как системы OpenAI, так и системы Google, что ставит под сомнение точность заявлений производителей игрушек. Предполагая, что утверждения производителей игрушек верны, Кросс сказал, что явное отсутствие контроля вызывает вопросы о способности компаний отслеживать, как разработчики и третьи стороны используют их системы. «Не имеет смысла, чтобы компании, занимающиеся искусственным интеллектом, которые не выпустили безопасные для детей версии своих моделей, позволяли любому, у кого есть кредитная карта, регистрироваться для создания продукта для детей с использованием той же технологии», — сказал Кросс. «Не имеет смысла, чтобы компании, занимающиеся искусственным интеллектом, передавали вопросы безопасности детей непроверенным разработчикам». PIRG также выявила игрушки, которые, по крайней мере частично, якобы работают на базе ИИ-сервисов Anthropic и xAI. Условия обслуживания Anthropic требуют от организаций согласиться с дополнительными предупреждениями о предоставлении своих продуктов пользователям младше 18 лет, но NBC News обнаружила, что эти дополнительные рекомендации никогда не появляются, если разработчики идентифицируют себя как «физические лица», использующие услуги Anthropic, а не как «организации». Хотя условия xAI для потребителей запрещают пользователям младше 13 лет, такая же формулировка не появляется в условиях использования для корпоративных пользователей, которые охватывают использование xAI в «деловых целях». Большинство ведущих компаний, занимающихся искусственным интеллектом, контролируют заявки и запросы на свои услуги, и их условия обслуживания включают положения, позволяющие им запрещать пользователям, если они нарушают их политику. Рэйчел Франц, директор программы «Young Children Thrive Offline» в группе по защите технологий Fairplay, заявила NBC News, что более мягкие правила для разработчиков угрожают подорвать основные правила, защищающие детей от вредных материалов, созданных с помощью ИИ. «Неудивительно, что между компаниями, занимающимися ИИ, и корпорациями, внедряющими ИИ в детские продукты, идет дискуссия о том, кто должен нести ответственность», — написала Франц в своих комментариях. «Обе стороны имеют долгую историю уклонения от ответственности и риска нанесения вреда детям ради прибыли». «Чтобы действительно обеспечить безопасность детей, — продолжила Франц, — компании, занимающиеся искусственным интеллектом, должны гарантировать, что их модели не используются в детских товарах, путем более тщательного контроля и ответственности компаний, которые их используют».