Обнаружены шаблоны письма, позволяющие идентифицировать искусственный интеллект

Новый инструмент может обнаружить скрипты, созданные ИИ, и даже предсказать, какая языковая модель их создала, и отличить ChatGPT, Gemini или LLaMa. Эти выводы могут помочь выявить злоупотребления этими платформами, например, использование их для списывания в школе или создания дезинформации, распространяемой в сети, также известной как фальшивые новости. «Генеративные модели ИИ, такие как ChatGPT от OpenAI и Gemini от Google, все чаще позиционируют себя как инструменты для выполнения всевозможных задач, включая создание реалистичного текста и изображений, которые зачастую неотличимы от контента, созданного человеком. Все чаще можно наблюдать, как созданные ИИ изображения публичных личностей становятся вирусными, а на цифровых платформах появляются сгенерированные ИИ комментарии. Это вызывает обеспокоенность по поводу достоверности определенного контента и законности его использования». »В связи с этим гражданское общество и разработчики государственной политики в нескольких странах проявляют все больший интерес к определению способов отличия контента, созданного ИИ, от контента, созданного человеком. Например, Закон ЕС об искусственном интеллекте содержит положения, требующие от пользователей систем искусственного интеллекта раскрывать информацию и указывать, является ли их контент созданным искусственным интеллектом в определенных контекстах, а также положения, требующие информировать людей при взаимодействии с системами искусственного интеллекта. Закон об ассигнованиях на национальную оборону США (NDAA) на 2024 финансовый год также содержит положения о тендерах «на оценку технологий... для обнаружения и создания водяных знаков генеративного искусственного интеллекта». Однако это единичные действия в ограниченном контексте. «В этой связи большой интерес представляет вывод ученых из Хопкинса. Строго говоря, они обнаружили, что, как люди пишут с личным стилем и индивидуальными деталями, которые отличают их от других писателей, так и искусственный интеллект, включая передовые программы, такие как Chat GPT. Работа, которая может показать, какие программы склонны к злоупотреблениям, и привести к усилению контроля, была представлена недавно на Международной конференции по изучению репрезентаций». „Мы впервые показали, что текст, созданный ИИ, имеет те же характеристики, что и человеческое письмо, и что это может быть использовано для надежного обнаружения и отнесения его к конкретным языковым моделям“, - говорит автор работы Николас Эндрюс, старший научный сотрудник Центра передовых технологий человеческого языка при университете Джона Хопкинса. «Отсутствие консолидированных инструментов для обнаружения текстов, созданных искусственным интеллектом, стало причиной работы ученых этого университета, в частности вышеупомянутого исследователя Эндрюса, который заинтересовался борьбой с дезинформацией, увидев, как она распространяется в ходе президентской кампании в США в 2016 году. «Он хотел, чтобы мы попытались создать отпечатки пальцев человека в Интернете и посмотреть, совпадают ли эти отпечатки с какой-либо ложной информацией, которую мы видим», - сказал он. Теперь у нас есть этот инструмент, на создание которого мы потратили годы, и мы можем применять его для определения того, что является фальшивкой, а что нет в Интернете». Мало того, мы можем узнать, был ли это ChatGPT, Gemini или LLaMA, поскольку у каждого из них есть лингвистические отпечатки пальцев, которые отличают их не только от авторов-людей, но и от других машинных авторов». »Одно из самых важных открытий, которое позволило им обнаружить новый инструмент, заключается в том, что каждая программа для написания ИИ имеет свой собственный стиль. Хотя команда не первая, кто создал систему обнаружения ИИ-писателей, их метод представляется наиболее точным и гибким, поскольку он способен быстро реагировать на меняющийся ландшафт ИИ. Согласно опубликованному рабочему документу, ученые проанализировали тексты, в которых они даже смогли определить тон и стиль личности, которые пользователи просили использовать ИИ. Среди них они выделили подростковый, озабоченный гражданин, оптимистичный скептик, прагматичный реалист и страстный активист. «Когда команда представила результаты своего исследования, они сделали это особым образом: с помощью живой демонстрации, в которой они попросили своих коллег проанализировать все материалы, представленные детектором. Результат? Инструмент показал, что примерно 10 % правок, скорее всего, были сгенерированы машинами и, вероятно, ChatGPT. Вскоре они надеются сделать инструмент общедоступным, чтобы его можно было свободно скачивать и использовать».