ChatGPT запускает новый родительский контроль

ChatGPT получил новый родительский контроль. Компания OpenAI, разработчик ChatGPT, объявила в понедельник, что родители теперь могут привязывать свои учетные записи к учетным записям несовершеннолетних в возрасте от 13 до 17 лет. Новые учетные записи чат-бота для несовершеннолетних будут ограничивать ответы, связанные с графическим контентом, романтическими и сексуальными ролевыми играми, вирусными челленджами и «экстремальными идеалами красоты», сообщила OpenAI. Родители также смогут устанавливать часы, в которые их подростки не смогут использовать ChatGPT, блокировать создание изображений и отказаться от участия своих детей в обучении модели искусственного интеллекта. OpenAI использует большинство разговоров людей с ChatGPT в качестве обучающих данных для совершенствования чат-бота. Компания также будет предупреждать родителей, если учетная запись их подростка указывает на то, что он думает о нанесении себе вреда, говорится в сообщении. Новые меры контроля появились после того, как OpenAI столкнулась с давлением в связи с проблемами безопасности детей. OpenAI объявила о новых мерах безопасности в начале этого месяца, после того как одна семья подала на нее в суд, утверждая, что ChatGPT подтолкнул их сына к самоубийству. Объявление было сделано утром в день запланированного слушания Сенатского комитета по судебным делам о потенциальном вреде ИИ. Хотя подростки, чьи семьи согласились на использование этих мер контроля, увидят новые ограничения, ChatGPT не требует от пользователей входа в систему или указания своего возраста, чтобы задать вопрос или пообщаться с чат-ботом. Чат-боты OpenAI не предназначены для детей в возрасте до 12 лет, хотя нет никаких технических ограничений, которые бы мешали столь молодым пользователям ими пользоваться. «Защитные меры помогают, но они не являются надежными и могут быть обойдены, если кто-то намеренно пытается их обойти. Мы будем продолжать тщательно анализировать и совершенствовать нашу систему с течением времени. Мы рекомендуем родителям поговорить со своими подростками о здоровом использовании ИИ и о том, как это выглядит для их семьи», — говорится в заявлении OpenAI. Компания также заявила, что разрабатывает систему прогнозирования возраста, которая будет автоматически пытаться определить, является ли человек несовершеннолетним, и «проактивно» ограничивать более деликатные ответы, хотя до появления такой системы еще несколько месяцев. OpenAI также заявила, что в конечном итоге может потребовать от пользователей загрузить свои удостоверения личности для подтверждения возраста, но в понедельник не предоставила обновленной информации по этой инициативе. В блоге от 16 сентября, в котором были объявлены эти изменения, генеральный директор OpenAI Сэм Альтман заявил, что чат-бот для подростков не должен флиртовать и должен цензурировать обсуждение самоубийства, но версия для взрослых должна быть более открытой. ChatGPT «по умолчанию не должен давать инструкции о том, как покончить с собой, но если взрослый пользователь просит помощи в написании вымышленной истории, в которой описывается самоубийство, модель должна помочь с этим запросом». ««Относитесь к нашим взрослым пользователям как к взрослым» — так мы говорим об этом внутри компании, расширяя свободу настолько, насколько это возможно, не причиняя вреда и не ущемляя свободу других», — сказал Альтман.