Компания Miko, производящая игрушки с искусственным интеллектом, добавляет кнопку отключения ИИ под давлением политиков

Компания Miko, производящая игрушки на базе искусственного интеллекта, добавляет в свою основную технологию переключатель включения/выключения ИИ после политического давления и расследований в отношении своих продуктов. Новая опция, появившаяся после публичной критики, является редким изменением, которое позволяет потребителям отказаться от использования ИИ, в то время как компании всех мастей быстро интегрируют эту технологию в свои продукты. «Miko передает полный контроль в руки родителей и опекунов с помощью переключателя ON OFF, который позволяет включать или отключать функции искусственного интеллекта Miko 3 и Miko Mini», — объявила компания в пресс-релизе в понедельник. Игрушки Miko — это движущиеся роботы с сенсорным экраном, которые могут играть с детьми в игры и слушать музыку, а также использовать чат-ботов с искусственным интеллектом, называемые Large Language Models (LLM), для взаимодействия с детьми. Согласно сообщению в блоге от 2024 года, компания сотрудничала с Google для использования Google Cloud и моделей искусственного интеллекта Gemini от Google. В последнее время Miko подвергается тщательному контролю и политическому давлению, поскольку надзорные органы и политики выражают опасения по поводу безопасности Miko и других производителей игрушек с искусственным интеллектом. На прошлой неделе сенаторы Марша Блэкберн (республиканец из Теннесси) и Ричард Блюменталь (демократ из Коннектикута) заявили, что обнаружили веб-сайт, на котором любой посетитель мог скачать тысячи ответов, которые Miko генерировала для конкретных детей. По всей видимости, сайт был случайно оставлен доступным в Интернете без защиты паролем или других мер безопасности, и к нему мог получить доступ любой человек, имеющий подключение к Интернету. NBC News прослушала некоторые записи, в том числе те, которые, по всей видимости, были сделаны во время длительных разговоров, в ходе которых LLM неоднократно обращался к ребенку по имени и задавал ему вопросы о том, как он себя чувствует и какую музыку слушает. На прошлой неделе сайт стал недоступен. Генеральный директор Miko Снех Васвани в электронном письме NBC News заявил, что компания не разглашала данные пользователей и не хранит записи голосов детей, но не прокомментировал непосредственно записи, которые, по всей видимости, были ответами детям. Сенатор Блэкберн отреагировал на новость о выключении ИИ в своем заявлении, сказав: «Эти новые меры родительского контроля — это попытка в последнюю минуту спасти репутацию после утечки кибербезопасности, которая стала известна на прошлой неделе, когда компания раскрыла общественности конфиденциальные данные, касающиеся детей. Родители должны дважды подумать, прежде чем покупать эту игрушку для своих детей, несмотря на последний пресс-релиз». Ритвик Шарма, старший вице-президент по развитию Miko, отказался напрямую отвечать Блэкберн, но сказал, что новая функция «разрабатывалась в течение некоторого времени» и что аудиоответы, которые были опубликованы в Интернете, «не имели никакого отношения к нашему объявлению». Игрушки с искусственным интеллектом, а также чат-боты, которые их управляют, в основном не регулируются в США. Популярность игрушек резко возросла в последнее время, поскольку эта технология становится все более распространенной и популярной. Производители игрушек обычно внедряют меры безопасности, чтобы предотвратить нежелательные высказывания в адрес детей. Однако все LLM подвержены «джейлбрейку», то есть фразам, которые могут убедить чат-бота игнорировать инструкции своих разработчиков. В декабре расследование NBC News выявило, что некоторые из наиболее широко продаваемых американцам игрушек с искусственным интеллектом в определенных контекстах могут быть побуждены говорить вещи, которые родители, скорее всего, сочтут тревожными или неприемлемыми, включая описания сексуальной активности или описания геополитики, близкие к позиции Коммунистической партии Китая. Рынок игрушек с искусственным интеллектом переживает бум, особенно в Китае. MIT Technology Review сообщил в прошлом году, что в стране зарегистрировано более 1500 компаний, производящих игрушки с искусственным интеллектом.