OpenAI усиливает меры безопасности Sora 2 после того, как актер Брайан Крэнстон поднял тревогу

OpenAI заявила, что будет жестко пресекать несанкционированное использование контента после возмущения, вызванного способностью Sora 2 воспроизводить образы и материалы, защищенные авторским правом, без разрешения. И общественные деятели, возможно, должны поблагодарить за это актера Брайана Крэнстона. Во время запуска 30 сентября Sora 2, новейшей версии усовершенствованной модели преобразования текста в видео от OpenAI, компания заявила, что запретит пользователям воспроизводить образы реальных людей без их явного согласия через функцию «камео». Несмотря на эту заявленную политику, видео с Крэнстоном, наиболее известным по роли Уолтера Уайта в сериале «Во все тяжкие», быстро начали появляться в приложении Sora наряду с видео других знаменитостей, сгенерированными с помощью ИИ, включая умерших личностей, таких как Майкл Джексон, и персонажей, защищенных авторским правом, таких как Рональд Макдональд. Впоследствии Крэнстон поднял этот вопрос перед SAG-AFTRA, профсоюзом, представляющим более 150 000 кино- и телеактеров, что привело к совместной работе с OpenAI и несколькими талант-агентствами с целью «обеспечить защиту голоса и образа в Sora 2», как сообщили компании в совместном заявлении, опубликованном в понедельник на X. В заявлении говорится, что OpenAI усилила свои первоначальные меры безопасности, чтобы подобный контент больше не проскальзывал. Генеральный директор OpenAI Сэм Альтман отметил, что компания «глубоко привержена защите исполнителей от неправомерного использования их голоса и образа». Эта новость появилась в то время, когда голливудские творческие работники продолжают бороться с быстрым развитием искусственного интеллекта. Хотя в последние годы многие в Голливуде тайно приняли инструменты искусственного интеллекта, напряженность между профессионалами индустрии развлечений и разработчиками ИИ остается высокой, поскольку артисты выражают обеспокоенность тем, что такие инструменты могут украсть их образы и отнять их труд. Попытка SAG-AFTRA в прошлом году направить часть компенсации актерам озвучивания, заключив лицензионное соглашение с компанией, занимающейся искусственным интеллектом, также столкнулась с резкой реакцией со стороны некоторых представителей индустрии, которые полностью выступили против такого сотрудничества. Перед подписанием заявления в понедельник талант-агентство CAA раскритиковало OpenAI за то, что оно «подвергает наших клиентов и их интеллектуальную собственность значительному риску», позволяя пользователям Sora 2 создавать видео, содержащие защищенную авторским правом интеллектуальную собственность, такую как изображения известных вымышленных и анимационных персонажей. Крэнстон также сообщил в своем посте, что он выразил SAG-AFTRA свою озабоченность по поводу Sora 2, поскольку «глубоко обеспокоен не только за себя, но и за всех исполнителей, чья работа и личность могут быть использованы таким образом». В первые несколько недель после запуска интернет наводнили видеоролики с водяными знаками Sora, в которых фигурировали защищенные авторским правом персонажи, такие как Губка Боб, Пикачу и Марио. До запуска The Wall Street Journal сообщил, что Sora 2 позволит пользователям создавать материалы, защищенные авторским правом, если только владельцы авторских прав не откажутся от публикации своих работ. Однако теперь запросы на создание таких клипов в приложении Sora возвращают сообщение об ошибке, в котором говорится, что запрос «может нарушать наши правила» в отношении «подобия третьих лиц» или «сходства с контентом третьих лиц». OpenAI не ответила сразу на запрос о комментарии относительно того, изменила ли она свою политику в отношении контента, защищенного авторским правом. В совместном заявлении также выражена поддержка закона NO FAKES Act, который направлен на привлечение к ответственности физических лиц, компаний и платформ за производство или размещение несанкционированных дипфейков. Законопроект, который был внесен в Сенат в апреле, не продвинулся в Конгрессе. «Мы были одними из первых сторонников закона NO FAKES Act, когда он был внесен в прошлом году, и всегда будем поддерживать права исполнителей», — написал Альтман в заявлении в понедельник. Между тем, Альтман является одним из немногих известных деятелей, которые вызвали интригу в Интернете, приняв созданные пользователями дипфейки с собственным изображением. Рекламируя возможности Sora 2, Альтман, по-видимому, с энтузиазмом разрешил людям создавать видео, на которых он высовывает голову из унитаза, мяукает в костюме кошки или даже ворует в магазине Target — что вызвало дополнительную озабоченность по поводу способности Sora 2 генерировать реалистичные, но поддельные записи с камер наблюдения. Боксер и ютубер Джейк Пол также стал предметом множества фальшивых видео, в которых он признается в своей гомосексуальности, дает уроки макияжа или танцует в костюме балерины. Пол, инвестор OpenAI, подшутил над этими видео и продолжает разрешать другим появляться в камео в приложении Sora, отмечая заслуги команды, стоящей за ним, в том, что она «сделала интернет снова интересным». Президент SAG-AFTRA Шон Астин в понедельник похвалил OpenAI за этот протокол согласия. «Брайан Крэнстон — один из бесчисленных исполнителей, чьи голос и внешность подвергаются опасности массового неправомерного использования с помощью технологий репликации», — сказал Астин в своем заявлении. «Брайан поступил правильно, связавшись со своим профсоюзом и профессиональными представителями, чтобы решить этот вопрос. Этот конкретный случай имеет положительное разрешение». Крэнстон также выразил оптимизм в своем заявлении в понедельник, сказав, что он «благодарен OpenAI за ее политику и улучшение мер безопасности, и надеется, что они и все компании, участвующие в этой работе, будут уважать наше личное и профессиональное право управлять копированием нашего голоса и внешности».