Том Сигел, бывший руководитель службы безопасности Google: «Влияние искусственного интеллекта на детей просто ужасающее»

«Мы оказались в действительно ужасной ситуации, что касается влияния искусственного интеллекта на детей», — заявил агентству Reuters Том Сигел, бывший вице-президент Google по вопросам доверия и безопасности. «Представление о том, что отрасль сможет решить эту проблему самостоятельно, без посторонней помощи, нереалистично». «Обеспокоенность Сигеля отражает растущие опасения некоторых экспертов из технологического сектора и научных исследователей по поводу того, что ИИ представляет для детей большую угрозу, чем социальные сети, в то время как отрасль спешит внедрять всё более продвинутые функции в чат-ботов, которыми миллионы молодых людей уже пользуются ежедневно». Среди экспертов, высказавших своё мнение в последнее время, есть также основатель группы по вопросам доверия и безопасности в Google, дочерней компании Alphabet, который на этой неделе призвал приостановить развитие искусственного интеллекта (ИИ) и предупредил, что технологический сектор повторяет те же ошибки, которые были допущены в эпоху социальных сетей, что может нанести детям ещё больший вред». Социальные сети вынуждены выплачивать огромные суммы и сталкиваются с тысячами исков за то, что они якобы нанесли вред юным пользователям, в то время как правительства многих стран мира работают над ограничением доступа несовершеннолетних к их платформам. «Во вторник Сигел объявил о присоединении к Common Sense Media — организации, защищающей права детей в Интернете. Эта некоммерческая организация, основанная в 2003 году, проводит исследования и оценивает пригодность различных средств массовой информации для детей. «В мае прошлого года организация Common Sense Media открыла Институт по безопасности молодежи в сфере ИИ — исследовательскую организацию, призванную анализировать использование ИИ детьми, — первым исполнительным директором которой станет Сигел». Среди спонсоров института — компания Anthropic и Фонд OpenAI, некоммерческая организация, управляющая OpenAI. Сигел заявил, что планирует разработать стандарты, обязывающие компании, работающие в сфере ИИ, нести ответственность, и надеется сделать это в сотрудничестве с компаниями и независимыми группами. «Сигел работал в Google с 2004 по 2019 год, но ушел из компании, придя к выводу, что технологический сектор «застрял» в своих возможностях по созданию безопасных онлайн-пространств для потребителей». « «Я считаю, что мы сталкиваемся с очень, ⁠очень серьезными ситуациями, в которых наносится вред», — сказал он. Он предложил компаниям принять немедленные меры для более эффективной защиты молодежи, упомянув риски, варьирующиеся от самоубийств и психозов до «когнитивной разгрузки» — термина, используемого для описания снижения критического мышления, вызванного привычкой обращаться к ИИ для получения ответов на вопросы. Anthropic и OpenAI могли бы ввести более строгие меры проверки возраста, чтобы не допустить доступа несовершеннолетних к своим чат-ботам, отметил он. Его бывшая компания, Google, могла бы легко внедрить возможность отключения «ИИ-резюме» и «ИИ-режима» в своей поисковой системе, добавил он, так же как там уже есть кнопка, позволяющая пользователям фильтровать контент с откровенными сексуальными сценами. «Reuters»