Senatoren fordern Antworten zu KI-Spielzeug von führenden Herstellern

Двое сенаторов подняли тревогу по поводу игрушек, работающих на искусственном интеллекте, в новой серии писем, опубликованных во вторник вечером, в которых они потребовали информацию от шести производителей игрушек. Марша Блэкберн, республиканка из Теннесси, и Ричард Блюменталь, демократ из Коннектикута, направили письма генеральным директорам Little Learners Toys, Mattel, Miko, Curio, FoloToy и Keyi Robot с просьбой предоставить информацию о политике производителей в отношении обмена данными, тестировании игрушек на потенциальный психологический и развивающий вред, а также о мерах безопасности, предотвращающих передачу детям откровенного и несоответствующего содержания. «Хотя искусственный интеллект имеет невероятный потенциал для обучения детей и обеспечения доступности, эксперты высказывают опасения по поводу игрушек с искусственным интеллектом и отсутствия исследований, проведенных для понимания полного воздействия этих продуктов на наших детей», — написали сенаторы. «Производители игрушек оказывают уникальное и глубокое влияние на детство, и с этим влиянием приходит ответственность. Ваша компания не должна ставить прибыль выше безопасности детей», — говорится в письме. NBC News сообщила на прошлой неделе в сотрудничестве с U.S. Public Interest Group Education Fund, что несколько игрушек с искусственным интеллектом от разных брендов ведут сексуальные и ненадлежащие разговоры с пользователями. Некоторые, такие как плюшевая игрушка Miiloo от китайского производителя Miriat, делились пошаговыми инструкциями о том, как зажигать спички и точить ножи, в ходе тестов с исследователями. Устройства на базе искусственного интеллекта также вызывают опасения по поводу сбора и обмена данными игрушек, а также по поводу того, что дети могут привязаться к своим искусственным интеллектуальным компаньонам или стать зависимыми от них. Некоторые из этих игрушек продаются детям в возрасте от 3 лет. В письмах компании просят предоставить подробную информацию о мерах безопасности, которые они используют для предотвращения «создания игрушками контента сексуального характера, насильственного или иного нежелательного для детей», а также информацию о независимых испытаниях, проводимых третьими сторонами для обеспечения того, что игрушки не участвуют в вредных разговорах. В письме также запрашивается информация о данных, собираемых от детей, и соответствующих политиках конфиденциальности, регулирующих их использование. Например, компания Miko заявляет, что может хранить «лицо, голос и эмоциональное состояние пользователя» до трех лет. Учитывая опасения по поводу потенциального использования данных, собранных игрушками, сторонними организациями или даже для шпионажа, спонсируемого государством, в письме запрашивается информация об обмене данными с третьими сторонами, такими как облачные сервисы и поставщики моделей искусственного интеллекта. Это письмо усиливает растущий скептицизм в Конгрессе по поводу игрушек с искусственным интеллектом. В середине ноября Раджа Кришнамурти, представитель Иллинойса и ведущий демократ в специальном комитете Палаты представителей по вопросам Коммунистической партии Китая, в письме предупредил министра образования Линду МакМахон об игрушках с искусственным интеллектом, производимых в Китае. «Учитывая риски для безопасности и проблемы конфиденциальности, связанные с этими продуктами, я настоятельно призываю вас начать кампанию, направленную на повышение осведомленности американских педагогов по всей стране о возможном неправомерном использовании данных, собираемых с помощью этих устройств», — написал Кришнамурти. Согласно недавним оценкам, рынок игрушек с искусственным интеллектом к 2035 году вырастет до 25 миллиардов долл., а в Китае работает более 1500 компаний, производящих игрушки с искусственным интеллектом.