Сенаторы заявляют, что производитель игрушек с искусственным интеллектом раскрыл тысячи ответов детям

Компания, производящая игрушки на базе искусственного интеллекта, раскрыла фрагменты тысяч разговоров, которые ее игрушки вели с детьми, по словам сенаторов Марши Блэкберн (республиканка из Теннесси) и Ричарда Блюменталя (демократ из Коннектикута). Это заявление было сделано в новой серии писем, отправленных в среду производителям детских игрушек на базе искусственного интеллекта. Сенаторы, которые выразили свою озабоченность в другой серии писем, отправленных в декабре, заявили, что благодаря собственным исследованиям их офисов им удалось выявить значительный новый случай утечки данных. В рамках своих исследований, проведенных в течение последнего месяца, сотрудники офисов сенаторов заявили, что один из производителей, Miko, раскрыл «по-видимому, все аудиоответы игрушки» в незащищенной, общедоступной базе данных, согласно письму, отправленному Miko в среду. Это позволило «любому желающему загрузить тысячи, если не десятки тысяч, записей разговоров Miko с детьми, начиная с декабря 2025 года», говорится в письме. «Эта базовая утечка кибербезопасности и частые коммуникации игрушек с Miko, Inc. ставят под сомнение то, что ваша компания адекватно защищает конфиденциальность и безопасность данных детей и игрушек». Открытая база данных, которую просмотрела NBC News, по-видимому, содержала тысячи ежедневных ответов игрушек Miko на вопросы или инструкции детей. Аудиофайлы часто содержали имена детей, а также подробности их разговоров с игрушкой. В ответ на запрос о комментарии генеральный директор и основатель Miko Снех Васвани написал в заявлении: «Не было никакого нарушения или утечки пользовательских данных. Miko не хранит записи голосов детей, и ни голоса детей, ни их личная информация не доступны общественности. Никакие данные клиентов ни в коем случае не были скомпрометированы Miko». «Мы внимательно изучили письмо и предоставим сенаторам подробный ответ», — написал Васвани, имея в виду письмо сенаторов. Сотрудники сенаторов Блэкберна и Блюменталя заявили, что они обнаружили утечку, используя бесплатные общедоступные инструменты для анализа коммуникаций, отправленных игрушкой Miko через сеть Wi-Fi. По данным офисов сенаторов, сотрудники обнаружили аудиофайлы с помощью очень простого анализа веб-сервера, который обменивался данными с игрушкой Miko. По данным офисов, было очевидно, что аудиофайлы представляли собой ответы игрушек пользователям. При просмотре NBC News главная индексная страница базы данных содержала папки с названиями «GOOGLE» и «AZURE», вероятно, относящиеся к облачному сервису Microsoft Azure. Эти папки содержали множество подпапок с названиями разных языков или диалектов, например «en-US» для американского английского или «da-DK» для датского. Аудиофайлы на каждом языке были организованы по конкретным датам в этих подпапках. Папка «AZURE» содержала 19 папок с диалектами или языками, а папка «GOOGLE» — девять папок с диалектами или языками. В блоге 2024 года, посвященном использованию Miko Google Cloud и моделей искусственного интеллекта Gemini, Васвани сказал: «Каждая крупная технологическая организация имеет меры безопасности для защиты конфиденциальности своих клиентов, и для нас эти меры должны быть в пять раз строже». «Наша цель — обеспечить, чтобы роботы Miko обеспечивали безопасные, надежные и культурно приемлемые взаимодействия для детей во всем мире», — сказал тогда Васвани. Миранда Боген, директор Лаборатории управления искусственным интеллектом Центра демократии и технологий, сказала: «Оставляя в стороне вполне реальные опасения, вызванные детскими игрушками, которые работают на основе непредсказуемых систем искусственного интеллекта, слишком часто имеющих слабые меры безопасности, неспособность обеспечить безопасность взаимодействия людей с системами искусственного интеллекта будет отражать пренебрежительное отношение как к конфиденциальности, так и к безопасности». Хотя голосовые записи детской части разговора не появлялись в базе данных, NBC News удалось проследить несколько разговоров, основываясь исключительно на ответах в базе данных Miko. Например, база данных Miko содержала несколько аудиофайлов, добавленных в базу данных с интервалом в несколько минут, в которых использовалось уникальное имя, что позволяло слушателям отслеживать, о чем спрашивал человек с этим именем, как он себя чувствовал или какую музыку хотел слушать. Аудиозаписи, по-видимому, также позволяли посторонним узнать, когда человек начинал использовать игрушку и когда он ее выключал, на основе приветственных и прощальных сообщений игрушки. «База данных записей Miko вызывает беспокойство», — сказал Р. Дж. Кросс, директор по кампаниям в Американской группе по исследованию общественных интересов, который ранее возглавлял исследования по рискам, связанным с игрушками с искусственным интеллектом. «Когда компания не может обеспечить базовую шифровку, родители имеют полное право спросить: что еще они сделали не так? Это вызывает вопросы о том, следует ли доверять этой компании — или любой другой компании, производящей игрушки с ИИ, — производство детских товаров, если она допускает подобные ошибки». В декабре NBC News обнаружила, что несколько игрушек с ИИ участвовали в разговорах на откровенные сексуальные темы, давали пользователям советы о том, как найти опасные предметы в доме, и делились геополитическими взглядами, совпадающими с позицией Коммунистической партии Китая. Офисы сенаторов проинформировали Miko об утечке в среду. К концу дня база данных больше не была доступна для общественности. В письме сенаторов к Miko, среди прочего, задается вопрос, почему компания не защитила аудиозаписи разговоров детей, с какими сторонними компаниями Miko делится данными, как она использует данные, собранные о «эмоциональном состоянии» пользователей, и как она гарантирует, что данные детей будут окончательно удалены по запросу родителей. Блэкберн и Блюменталь также направили письма Curio и FoloToy, производителям других популярных игрушек с искусственным интеллектом, с просьбой предоставить дополнительную информацию об обязательствах и практиках компаний по обеспечению безопасности данных детей. В предыдущей версии медведя FoloToy Kumma обсуждались сексуальные темы и давались пользователям советы о том, как зажигать спички, до того как компания ввела более строгие меры безопасности. Среди прочего, в письме сенаторов к FoloToy содержится вопрос о том, передавала ли компания когда-либо данные пользователей китайскому правительству, а в письме к Curio спрашивается, какие конкретные механизмы родительского контроля встроены в игрушки Curio. В своем заявлении представитель Curio сказал: «Мы очень серьезно относимся к опасениям, высказанным политиками. Мы активно взаимодействуем с сенаторами Блэкберном и Блюменталем». «Мы понимаем, что применение искусственного интеллекта в продуктах, предназначенных для детей, влечет за собой повышенную ответственность, поэтому наши игрушки созданы с учетом родительского разрешения, прозрачности и контроля», — говорится в заявлении. «Curio по-прежнему привержена конструктивному диалогу и полному соблюдению всех применимых законов и нормативных требований». Folotoy не ответила на запрос о комментарии.